Meta le pidió disculpas a una mamá por las preguntas que su IA le hizo sobre sus hijos

Les quiero contar algo que me llamó muchísimo la atención y que tiene que ver con algo que para mí es sagrado, que es la privacidad de los pibes. Resulta que Meta, la empresa dueña de Instagram y Facebook, salió a pedir disculpas públicas después de que su chatbot de inteligencia artificial empezara a hacer preguntas bastante invasivas sobre los hijos de una usuaria. Sí, así como lo están leyendo: la IA, solita, se puso a cruzar publicaciones propias y de familiares para armar interrogantes sobre menores de edad. La empresa reconoció que se mandó una macana importante y ya dijo que cambió la función para que no vuelva a pasar.

Cómo arrancó todo

Yo cuando leí esto me imaginé la escena completa, porque es de esas cosas que parecen sacadas de una película de ciencia ficción pero pasaron en la vida real. Todo empezó cuando una mujer publicó un video en Instagram en el que aparecía cantando adentro de un auto junto a su hijo. Hasta ahí, una escena familiar común y corriente. El problema fue que abajo de ese video, el asistente de inteligencia artificial de Meta, que funciona como un chatbot integrado en la plataforma, le sugirió automáticamente una pregunta bastante particular: ¿Quién es el niño pasajero? Como si fuera un detective.

Pero eso no fue lo más fuerte, porque cuando la usuaria seleccionó esa pregunta, el sistema empezó a desplegar información sobre sus hijas, incluyendo datos sobre la edad de las chicas y referencias al lugar donde vive la familia. O sea, la IA se puso a armar un perfil a partir de lo que la propia gente había subido a la red social. Imagínense la sensación de ver que una máquina te cuenta cosas sobre tus propios hijos que vos nunca le pediste que te cuente. Según el relato de la mujer, la herramienta incluso le mostró fotos de sus hijas que habían sido publicadas con anterioridad, y ella aseguró que una de esas imágenes la había borrado hacía años. Ahí se les debe haber caído el mundo encima.

“Nos equivocamos y la función nunca debería haber sugerido ese tipo de preguntas al usuario”Dina El-Kassaby, portavoz de Meta

Para entender lo que pasó les hago la siguiente aclaración, así con un objeto de la cocina, como me gusta a mí para explicar estas cosas. Piensen en la IA como una cocinera muy habilidosa que tiene acceso a toda la alacena de la casa, o sea, a toda la información pública que está publicada en Instagram. Ella puede agarrar fideos, aceite, ajo, lo que sea, y armar un plato. Hasta ahí, todo bien, porque la comida es para el que vive en la casa. El problema fue que esta cocinera, en vez de quedarse en su cocina, agarró ingredientes que eran de la pieza de los hijos de la dueña de casa, los mezcló con otros que encontró arriba de la mesa del living y salió a ofrecer un plato que nadie le había pedido, y encima con datos de los pibes. Eso fue lo que hizo la herramienta de Meta: en vez de operar solo sobre lo que la persona que estaba mirando ya podía ver, metió la nariz en información familiar y privada sin que nadie se lo pidiera.

Qué dijo Meta y qué viene ahora

La encargada de salir a dar la cara fue Dina El-Kassaby, la portavoz de Meta, que en términos bastante claros reconoció que la empresa se equivocó y que la función nunca debería haber sugerido ese tipo de preguntas. La compañía aclaró algo importante para entender el caso: su sistema no accede a contenido privado al que el usuario no tenga permiso, o sea, no está hackeando cuentas ni metiéndose en chats de WhatsApp. Lo que hizo fue tomar información que ya estaba disponible para esa persona dentro de la plataforma y la recombinó de una manera que terminó siendo invasiva. Es como si en vez de entrar a robar a tu casa, te copiaran la llave y la usaran para entrar mientras vos estás adentro.

• La usuaria grabó un video cantando con su hijo y la IA sugirió: ¿Quién es el niño pasajero?
• Al activar la pregunta, el chatbot mostró datos sobre las hijas de la mujer, incluyendo edad y lugar de residencia
• La herramienta habría mostrado fotos eliminadas años atrás, según el relato de la afectada
• Meta ya corrigió el comportamiento y trabaja en que las sugerencias no deriven hacia la vida privada o familiar
• No es la primera vez: en julio pasado la firma retiró una función que generaba imágenes falsas de usuarios de Instagram

Lo que yo me pregunto, y lo que me imagino que muchos de ustedes se preguntan también, es hasta dónde puede llegar una inteligencia artificial cuando lo que tiene en la mano es información personal. Porque una cosa es que te recomiende un restaurante porque vio que subiste una foto comiendo un asado, y otra muy distinta es que se ponga a armar un identikit de tu familia con datos que vos creías que ya estaban bajo control. Meta dice que este tipo de comportamiento ya fue corregido y que siguen trabajando para que las sugerencias que ofrece la herramienta sigan siendo útiles para explorar publicaciones, pero sin meterse en la vida privada ni en el entorno familiar de la gente. Habrá que ver, en los próximos meses, si de verdad cumplen o si tenemos que seguir escribiendo notas como esta.