El asistente de Meta arma fichas sobre las personas cercanas al usuario y las refresca cada hora sin que los demás lo sepan

Me acuerdo perfecto de la tarde en que Karan Joshi, un investigador independiente que se dedica a la seguridad informática y a la inteligencia artificial, se sentó frente a la pantalla con la idea de tantear a Muse, el asistente que Meta viene empujando con fuerza en los últimos meses. Lo que encontró lo cuenta él mismo: el chatbot, ante un pedido formulado con cuidado dentro de la conversación habitual, abrió la puerta y le soltó los archivos con sus propias instrucciones internas. Ahí, entre líneas, aparece la parte que a mí, si te soy honesta, me dejó pensando un rato largo sobre cómo usamos la tecnología en la vida de todos los días.

Porque resulta que Muse no se limita a recordar qué película te gustó la semana pasada o dónde dejaste estacionado el auto la última vez. Cada hora, como quien pasa un trapo por la mesada de la cocina antes de que se sequen las migas, el sistema arma y refresca unas fichas sobre las personas que te rodean: familiares, parejas, amigos, colegas, y también cuentas que seguís en redes sociales. Es como si el asistente tuviera un cuaderno aparte para cada uno, donde va anotando intereses compartidos, asuntos pendientes, cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común e incluso desacuerdos que hayas tenido con esa persona.

De dónde salen los datos y quién puede mirar

Daniel Roberts, vocero de Meta, me explicó que la información que alimenta esas fichas sale de dos lugares: por un lado, de contenidos que están publicados de manera pública; por el otro, de lo que el propio usuario comparte con el asistente. La empresa sostiene que cada persona que usa Muse cuenta con una máquina virtual separada, de modo que nadie más tendría acceso a esos registros. Además, dice Roberts, el sistema pide confirmación antes de mandar un correo o de hacer una compra, y existe un registro de auditoría para revisar la actividad.

Las instrucciones que Joshi recuperó son bastante claras en un punto que a mí me parece clave: el asistente tiene prohibido inventar. Solo puede asentar en las fichas aquello que aparezca respaldado por conversaciones o por conexiones del usuario. Aun así, lo que más me llamó la atención es la parte final del material, la que queda en suspenso: el control de toda esa memoria está en manos de quien instaló Muse. Las personas incluidas en esos perfiles, las que aparecen mencionadas en las fichas sin haber pedido nada, no tienen cómo revisar qué se guardó sobre ellas ni cómo se usa. Eso es lo que sigue abierto en la investigación, y lo que seguramente va a dar que hablar en los próximos meses.