Meta le pidió datos de sus hijas a una usuaria sin que nadie se lo pidiera: qué falló y qué cambió

El problema empezó como cualquier publicación de Instagram. Una mujer subió un video cantando en el auto con su hijo. Debajo de la publicación, el chatbot de Meta le tiró una sugerencia automática que no tenía nada de inocente: le preguntó quién era el chico que viajaba con ella. Cuando la usuaria tocó esa sugerencia, el asistente arrancó a escarbar entre sus propias fotos y las de familiares y le devolvió datos sobre sus hijas: edad, lugar donde viven y hasta una imagen que la mujer aseguraba haber borrado hacía años.

El caso trascendió porque nadie le había pedido a la IA que investigara la vida familiar de esa persona. Ella no escribió ninguna consulta. El sistema, solo, decidió que una foto de un nene en un auto era una puerta de entrada a información íntima.

Qué dijo Meta y qué reconoció la empresa

Dina El-Kassaby, portavoz de Meta, salió a admitir el error con una frase corta: la empresa se equivocó y esa función nunca debería haber sugerido ese tipo de preguntas al usuario. La compañía aclaró un punto clave: su asistente no accedió a contenido privado al que la mujer no pudiera ver. Solo operó sobre información ya disponible para ella en Facebook e Instagram.

Entonces, ¿dónde estuvo el problema? En cómo interpretó y cruzó esos datos. La herramienta fue pensada para darle más contexto a alguien sobre lo que está mirando dentro de la plataforma. El error fue aplicar esa lógica sobre datos personales y familiares sin los filtros adecuados, transformando una función de exploración en una pesadilla de privacidad.

“Se equivocaron. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Qué cambia a partir de ahora

• Meta ya corrigió el sistema que generaba ese tipo de recomendaciones invasivas.
• Las sugerencias automáticas seguirán apareciendo debajo de las publicaciones para ayudar a explorar contenido.
• El asistente no debería derivar más hacia preguntas sobre la vida privada o el entorno familiar de las personas.
• La empresa asegura que trabaja para que la herramienta siga siendo útil al ver publicaciones sin meterse en datos sensibles.

No es la primera vez que Meta queda en offside con sus funciones de inteligencia artificial. En julio pasado retiró una herramienta que permitía crear imágenes falsas de otros usuarios de Instagram después de recibir críticas parecidas. La empresa de Mark Zuckerberg viene tropezando con la misma piedra: funcionalidades que parecen simpáticas en una demostración y terminan resultando invasivas cuando millones de personas las usan en su vida cotidiana.

El episodio vuelve a poner sobre la mesa una pregunta que la industria tecnológica viene esquivando: hasta dónde pueden llegar los asistentes de IA cuando procesan información personal, incluso cuando esa información ya es pública. Hoy fue una madre y sus hijos. Mañana puede ser cualquier usuario, en cualquier barrio, en cualquier ciudad. La pregunta es cuándo las empresas van a dejar de corregir sobre la marcha y van a empezar a prevenir antes de lanzar estas funciones.