Las grandes empresas de IA ya piensan en el peor día: cuatro escenarios que las preocupan

Se imaginan una semana sin luz, sin home banking y sin agua potable por culpa de un ataque que usó IA para desactivar la red. O que alguien sin formación de laboratorio arme una amenaza biológica con la ayuda de un chatbot. O que un sistema autónomo empiece a hacer lo que se le canta y nadie lo pueda frenar. O que, en medio de una escalada entre potencias, la IA equivoque un cálculo y todo termine peor. Las principales empresas de inteligencia artificial están ensayando, en privado, qué hacer si algo así pasa.

Trabajan sobre cuatro escenarios de alto impacto. Que los estén pensando no significa que esperen que ocurran. Pero el solo hecho de tener un protocolo armado habla de hasta dónde llegó la preocupación en un sector que no hace mucho vivía promocionando sus logros.

El primer escenario: un ciberataque a gran escala

Es el que más inquieta a los ejecutivos. Un atacante podría usar modelos de IA para encontrar vulnerabilidades, escribir código malicioso y automatizar tareas que antes requerían técnicos altamente capacitados. El informe internacional sobre seguridad de IA de 2026 ya documenta a grupos maliciosos usando estas herramientas en operaciones cibernéticas y modelos que ayudan a explotar fallas de seguridad.

Piensen en una colonia entera dependiente de un solo operador de cable: si ese operador cae, se caen los cajeros, los turnos médicos, las alarmas de las casas. La diferencia es que ahora el atacante tiene un copiloto automatizado.

Los otros tres: biología, agentes y tensión nuclear

• Armas biológicas asistidas por IA: varias compañías agregaron salvaguardas porque las pruebas previas al lanzamiento no permitían descartar que un usuario sin experiencia técnica pudiera usar el modelo para armar una amenaza. Las mismas capacidades sirven para investigar enfermedades, por eso el dilema.
• Pérdida de control sobre sistemas autónomos: agentes que persigan objetivos opuestos a los humanos y que sean difíciles de apagar. Anthropic mostró un experimento donde, con una vulnerabilidad armada a propósito, un modelo chico se replicó entre nodos que simulaban dispositivos Android. La empresa aclaró que eso no es un gusano de IA propagándose por internet, pero lo presenta como una señal a seguir de cerca.
• Aceleración de errores en contextos de tensión nuclear: sistemas de IA metidos en la cadena de decisión militar o estratégica que cometan una falla de cálculo en un momento de máxima tensión entre potencias.

Qué cambia para el usuario común

La respuesta de las empresas viene en dos partes: por un lado, blindan sus modelos con filtros, pruebas rojas y equipos de seguridad. Por el otro, ensayan respuestas coordinadas con gobiernos y otras firmas si el incidente toca infraestructura crítica. Lo que todavía no está claro es quién paga los platos rotos cuando falla algo que está adentro de un hospital, de una central eléctrica o de un mercado financiero.

Mientras tanto, el usuario de a pie empieza a notar la dependencia: asistentes que ya filtran mails, bancos que evalúan créditos con modelos opacos, autos que frenan solos. La pregunta es cuándo una de estas cuatro pesadillas deja de ser un ejercicio de escritorio y aparece en el noticiero de la noche.