Sam Altman pone dos alertas en la mesa: pérdida de control y acumulación de poder desmedida

Empiezo por la pregunta que más me hacen los lectores: ¿hay chances reales de que la inteligencia artificial se vaya de las manos? Sam Altman, CEO de OpenAI, dice que sí. Y lo dice con una franqueza poco habitual. Para él hay dos riesgos centrales, y conviene entenderlos antes de seguir discutiendo sobre chatbots y generadores de imágenes.

Los dos escenarios que preocupan a Altman

El primer escenario es que los humanos perdamos el control sobre sistemas cada vez más capaces. La idea suena a película, pero el planteo es concreto: si los modelos avanzan más rápido que nuestras herramientas para vigilarlos, el desfasaje se vuelve peligroso.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

El segundo escenario es más terrenal y, para mí, más urgente: que una sola persona, una empresa o un país acumule un poder desmedido a través de esta tecnología. Piensen en una colonia donde un solo vecino maneja toda el agua del barrio. Mientras haya buena voluntad, funciona. Cuando la voluntad cambia, el problema aparece.

Qué propuso para reducir esos riesgos

• Alinear seguridad y capacidades: las técnicas de alineación y control deben correr a la par de los modelos, o incluso por delante.
• Marco regulatorio federal con requisitos comunes de seguridad para los modelos de frontera, los más avanzados del momento.
• Auditores independientes integrados a los mecanismos de supervisión, para evitar que la industria se controle a sí misma.
• Empresas que empiecen ya: no deberían esperar nuevas leyes para aplicar medidas de seguridad.
• Coordinación internacional entre gobiernos, especialmente porque la presión competitiva entre países no puede justificar imprudencias.

Altman lo resumió con una frase que vale repetir: ninguna cantidad de presión competitiva estadounidense debería justificar la imprudencia. Es un reconocimiento raro en Silicon Valley, donde la lógica suele ser construir primero y pedir perdón después.

En el medio aparece un concepto clave: el angosto camino intermedio. Es la idea de que hay que evitar los dos extremos, tanto el apocalipsis tecnológico como la concentración autoritaria del poder, y avanzar por una franja fina donde la regulación, la competencia y la seguridad coexistan. La pregunta es cuándo ese camino deja de ser un discurso y se vuelve arquitectura concreta, con auditores, normas y tratados.