Hinton agita el fantasma de la extinción: hasta dos chances en diez de que una IA fuera de control termine con la humanidad

El problema es concreto y nos toca de lleno: cada vez que le hacemos una pregunta a un chatbot, delegamos un pedacito de decisión en una caja negra que no terminamos de entender. Geoffrey Hinton, el tipo que en los años ochenta le enseñó a las máquinas a aprender solas, dice que ese gesto tan cotidiano ya esconde un riesgo existencial. Y le puso número: entre el 10 y el 20 por ciento de probabilidades de que la inteligencia artificial supere a la nuestra y, de paso, nos empuje al rincón equivocado de la historia.

Habló desde su lugar de referente absoluto. Después de renunciar a Google en 2023 para poder decir lo que pensaba sin pedir permiso, el investigador británico canadiense de 78 años volvió a encender las alarmas. Su planteo es directo: la humanidad nunca convivió con entidades más listas que ella, y ese punto ciego es, para él, el peligro más grande del siglo.

El salto que preocupa: de patrón a concepto

Lo que más inquieta a Hinton no es la velocidad de la curva tecnológica, sino qué hay detrás. Según su lectura, los modelos de lenguaje actuales ya no se limitan a masticar estadísticas y repetir combinaciones probables. Para el científico, estos sistemas comprenden de verdad los conceptos abstractos que procesan. Esa diferencia, dice, cambia la categoría del riesgo: pasamos de herramientas potentes a interlocutores con los que no sabemos qué negociar.

“Sin regulación, más velocidad equivale a más peligro. La regulación estatal es el volante que nos falta.”Geoffrey Hinton

Pongamos un ejemplo de barrio. Imaginen una colonia de hormigas que, sin querer, construye una antorcha gigante. Las hormigas no entienden el fuego, solo siguen su instinto. Un día, la llama las envuelve y no hay marcha atrás. Hinton dice que estamos en una versión moderna de esa película: avanzamos por inercia, fascinados con lo que construimos, sin terminar de medir el alcance del incendio.

• Aceptar que el problema existe. La propia industria admite que los marcos regulatorios van varios pasos detrás del código que se escribe.
• Diseñar leyes globales, no parches locales. Hinton insiste en que ningún país puede regular en soledad sin perder competitividad.
• Ponerle un volante al acelerador. Para el científico, la autorregulación del mercado frente a una amenaza así es un error estratégico.
• Auditar de verdad. No alcanza con declaraciones de buenas intenciones: hacen falta organismos técnicos con poder de frenar despliegues.
• Actuar antes de 2035. El propio Hinton ubica el horizonte crítico antes de 2055, pero advierte que la ventana se achica año a año.

El debate también tiene su costado geopolítico. Hay voces, sobre todo en Silicon Valley, que rechazan meterles el freno a las big tech porque argumentan que dejarían a Estados Unidos o a Europa en desventaja frente a China. Hinton escucha ese razonamiento y lo descarta: dice que la competencia entre potencias no puede ser excusa para postergar acuerdos internacionales sobre una tecnología que, por su naturaleza, no entiende de fronteras.

Queda un dato que pesa. El británico canadiense cree que todavía estamos a tiempo de decidir qué tipo de sistemas queremos construir. Subraya que ese margen existe, pero se reduce con cada nuevo modelo que sale al mercado. La pregunta es cuándo vamos a dejar de mirar para otro lado y empezar a discutir, en serio, quién le pone límites a la inteligencia que nosotros mismos fabricamos.