Redacción Internacional.- El asistente de inteligencia artificial Muse, desarrollado por Meta, ejecutaría cada hora un proceso automático para crear perfiles sobre familiares, parejas, amigos, colegas y otras personas vinculadas a sus usuarios, según documentos internos obtenidos por un investigador independiente y revelados por Wired.
El hallazgo fue realizado por Karan Joshi, investigador especializado en seguridad informática e inteligencia artificial, quien aseguró haber conseguido que el propio chatbot compartiera sus instrucciones internas mediante una solicitud realizada desde la interfaz habitual de conversación.
Entre esas instrucciones figura la orden de generar “una página para cada persona en la vida del usuario”, de acuerdo con la documentación citada por Wired.
Qué información recopilaría Muse
El proceso reuniría información sobre familiares, parejas, amigos, compañeros de trabajo, colaboradores y personas seguidas en redes sociales, siempre que existan datos disponibles en las conversaciones o conexiones del usuario.
Cada perfil se organizaría en varias categorías, entre ellas hechos, historia, relación, puntos en común, asuntos pendientes y estado del vínculo. Según los documentos, estas páginas comenzarían con poca información y se ampliarían a medida que el sistema acumule nuevos datos.
Entre los detalles que Muse podría registrar aparecen mudanzas, cumpleaños, aniversarios, metas de ahorro compartidas y discusiones pasadas, siempre que esa información pueda encontrarse en las interacciones o servicios vinculados al asistente.
Las instrucciones internas también señalarían que el sistema debe trabajar únicamente con evidencia disponible y evitar inventar información sobre las personas incluidas en esos perfiles.
Joshi consideró preocupante el alcance del sistema y afirmó que Meta busca comprender las relaciones de los usuarios con personas reales, hasta el punto de intentar conocer su entorno de una manera similar a la de un amigo.
Meta defiende el uso del contexto
Daniel Roberts, vocero de Meta, defendió el funcionamiento del asistente al señalar que un agente de inteligencia artificial necesita conocer el contexto del usuario y de las personas que lo rodean para poder ayudarlo de manera efectiva.
Según la empresa, Muse obtiene información pública y datos compartidos voluntariamente por el usuario, lo que le permitiría recordar, por ejemplo, quién es un proveedor contratado anteriormente o determinadas preferencias de una persona cercana.
Meta también sostiene que cada usuario opera dentro de una máquina virtual independiente, a la que no pueden acceder otros usuarios o agentes, y que el sistema solicita confirmación antes de ejecutar acciones como enviar correos o realizar compras.
La compañía asegura además que existe un registro de auditoría para revisar la actividad del agente y que el usuario puede borrar la memoria acumulada o desconectar los servicios externos vinculados.
Sin embargo, ese control recaería únicamente en la persona que instaló Muse y no necesariamente en quienes aparecen en los perfiles creados por el sistema, una diferencia que ha generado cuestionamientos sobre privacidad.
Expertos advierten sobre el uso de datos
Carissa Véliz, profesora asociada del Instituto de Ética en Inteligencia Artificial de la Universidad de Oxford, advirtió que los sistemas de IA están recibiendo cada vez más información sobre los usuarios y su entorno.
La especialista señaló que el riesgo no se limita a los datos proporcionados directamente, sino también a lo que una inteligencia artificial puede inferir, reconstruir o relacionar a partir de diferentes fuentes, incluso cuando alguna información pueda ser incorrecta.
El debate surge mientras Muse acumula millones de descargas y usuarios lo conectan con servicios que contienen información financiera, mensajes y otros datos personales para automatizar distintas tareas.
El crecimiento del asistente también coincide con otros cuestionamientos sobre su funcionamiento. Recientemente, Meta tuvo que responder a una acusación de un usuario que aseguraba que Muse había accedido a mensajes privados sin autorización.
Además, semanas antes, un investigador reportó una vulnerabilidad de seguridad que habría permitido tomar el control del agente, aumentando el escrutinio sobre un producto que Meta ha integrado en plataformas como Facebook, Instagram y WhatsApp.
