Arrancó como una de esas tardes en las que uno sube un video a Instagram para compartir un momento con su hijo en el auto, cantando cualquier cosa. Terminó con la inteligencia artificial de Meta preguntándole, como si nada, quién era el nene que viajaba en el asiento de atrás. Y después siguió: le ofreció datos sobre sus hijas, la edad y hasta el barrio donde vive la familia. Sí, pasó.

Lo contó la propia usuaria, que vio cómo el chatbot, ese botón que aparece debajo de las publicaciones para sugerir preguntas, cruzó información de sus posts con los de familiares para armar un perfil que nadie le había pedido. Entre las imágenes que el sistema le devolvió había una foto de sus hijas que, según dijo ella, había borrado de la plataforma hace años.

Meta salió a pedir perdón y a mover los hilos

Dina El-Kassaby, la portavoz de la empresa, reconoció el error en términos bastante claros. "Nos equivocamos", dijo, y agregó que esa función "nunca debería haber sugerido ese tipo de preguntas al usuario". La compañía aclaró un punto importante para entender el caso: el asistente no entró a ninguna bóveda secreta con datos privados. Solo usó lo que ya estaba visible para esa persona en Facebook e Instagram, igual que cuando uno scrollea el feed.

“La función fue pensada para ayudar a los usuarios a entender mejor lo que ven en la pantalla. El problema fue que la IA la aplicó sobre información personal y familiar sin los filtros adecuados.”Comunicado de Meta

En criollo: la herramienta hace lo que dice su nombre, es una IA, o sea un programa que aprende patrones a partir de montañas de datos, igual que un cocinero que prueba cada salsa hasta dar con el punto. El asunto es que esta vez la salsa le salió con demasiado picante. Cruzó publicaciones propias con las de parientes, leyó entre líneas y armó preguntas que nadie había autorizado.

Qué cambió y por qué importa

Meta aseguró que ya ajustó el comportamiento que generaba esas recomendaciones y que trabaja para que el asistente siga siendo útil al explorar contenido, pero sin meterse en la vida privada ni en el entorno familiar de los usuarios. No es la primera vez que la empresa queda en offside por sus herramientas de inteligencia artificial: en julio pasado tuvo que retirar una función que dejaba crear imágenes falsas de otros usuarios de Instagram después de que la cosa se desmadrara.

El caso vuelve a poner sobre la mesa una pregunta que va a aparecer cada vez más seguido: hasta dónde puede llegar un chatbot cuando tiene acceso a información que uno mismo dejó pública sin pensar demasiado. La tecnología avanza a paso de elefante en un negocio de cristalería, y los filtros, a veces, llegan tarde.

Consejo práctico y sin vueltas: andá a la configuración de privacidad de Instagram y Facebook, revisá qué fotos y publicaciones de tus hijos están visibles para otros usuarios, limitá el alcance a "amigos" en vez de "público" cada vez que subas algo de los chicos, y desactivá las sugerencias de la IA si la plataforma te lo permite. Más vale un minuto deettings que un papelón viral.