Gates empuja la idea de un organismo global para auditar la inteligencia artificial

Empiezo por lo que más me preocupa como usuario: cada vez que abro una app o un buscador, no tengo la menor idea de quién controla lo que esa inteligencia artificial hace con mis datos ni con qué reglas trabaja. Bill Gates dice lo mismo, pero a lo grande. Esta semana publicó un documento en el que propone crear un organismo supranacional capaz de auditar sistemas de IA en todo el mundo. La idea suena ambiciosa y, al mismo tiempo, bastante razonable.

Tres modelos para armar el rompecabezas regulatorio

La propuesta toma prestadas piezas de tres regímenes que ya funcionan. El primero es el sistema de inspecciones nucleares, pensado para verificar que un país no desarrolle armas atómicas en secreto. El segundo son los estándares de seguridad de la aviación civil, esos que hacen que un vuelo de Buenos Aires a Madrid cumpla las mismas normas que uno de Madrid a Tokio. El tercero son los acuerdos internacionales que frenaron el deterioro de la capa de ozono y prohibieron los clorofluorocarbonos. Gates no dijo todavía si conviene ampliar un organismo existente o crear uno nuevo desde cero.

El plan tiene una condición sin vuelta atrás: necesita que Estados Unidos y China se sienten en la misma mesa. Sin las dos potencias trabajando juntas, cualquier regulación internacional queda en una declaración de buenas intenciones. Por eso el equipo de Gates viene gestionando un encuentro con el presidente chino Xi Jinping, previsto en principio para noviembre. La reunión todavía no está confirmada oficialmente.

• Auditorías periódicas a sistemas de IA con capacidad de diseñar moléculas o facilitar ataques biológicos.
• Impuesto a las empresas que reemplacen trabajadores con resultados generados por IA, con destino a redes de protección social.
• Reservar hasta un 40 por ciento de los puestos actuales para personas en sectores donde el trato humano sea clave, como la salud.
• Cooperación explícita entre Estados Unidos y China como condición previa para sumar al resto del mundo.

Qué se controlaría y qué no

Gates aclaró un punto clave para no asustar a la industria: supervisar no significa prohibir. La vigilancia apuntaría a los usos de mayor riesgo, sobre todo los modelos que pueden diseñar agentes biológicos o moléculas peligrosas. Las aplicaciones médicas o científicas seguirían su curso sin quedar atrapadas en la trampa regulatoria.

“El mundo entero se sumaría a esa iniciativa.”Bill Gates

Sobre la autorregulación de las compañías tecnológicas, Gates fue directo: está bien que las empresas de IA propongan soluciones a los problemas que ellas mismas generan, pero no se puede esperar que sean quienes lideren el proceso. Muchos de los temas en juego exceden la especialidad técnica de cualquier compañía y necesitan Estados por detrás.

Una perlita del documento me llamó la atención. Gates contó que, cuando su padre transitó el Alzheimer, lo atendieron personas. Ese cuidado humano, dice, es irremplazable y por eso debería quedar protegido por ley en una porción significativa de los empleos actuales. Es un argumento con peso emocional, pero también económico: la idea es que la automatización no barra oficios donde la confianza y el vínculo personal son el producto.

La pregunta es cuándo. Gates tiene el nombre, la trayectoria y los contactos para empujar esta idea, pero choca contra la misma pared que cualquier regulación global: la soberanía nacional. China avanza con sus propias reglas, Estados Unidos discute proyectos en el Congreso y Europa ya tiene su AI Act en marcha. Coordinar todo eso lleva años, no meses. Y la tecnología, como siempre, corre más rápido que el Derecho.