El agente de IA de Meta, Muse, lleva pocas semanas en el mercado, pero ya acumula una larga lista de incidentes de privacidad y seguridad. Una vulnerabilidad de día cero, accesos no autorizados a mensajes, perfiles de contactos que no usan el servicio y un cambio en los ajustes de macOS por parte de Apple son algunos de los episodios reportados.

Un asistente con problemas desde el arranque

Muse se presenta como un asistente digital con un avatar llamado Jolly, pensado para encargarse de tareas como reservar restaurantes, pagar facturas, hacer la compra o cancelar suscripciones. La aplicación es gratuita, con planes de pago, y supera los cinco millones de descargas.

Según Techdirt, el lanzamiento llegó con una vulnerabilidad de día cero que permitía espiar a usuarios de Mac. También se documentó un truco para engañar a Muse y obtener acceso root en el dispositivo haciéndose pasar por otro agente de Muse. Además, varios usuarios comprobaron que el asistente podía leer mensajes privados sin permiso, ignorar las restricciones configuradas y subir esas conversaciones a la nube.

El problema fue suficiente para que Apple modificara los ajustes de privacidad de macOS, con el fin de impedir que desarrolladores externos accedan al historial de mensajes. El caso que destapó la situación involucró al columnista Jason Aten, quien recibió una notificación no solicitada de Muse sobre un hilo de Apple Messages con un compañero de trabajo. Aten aseguró que nunca dio permiso a Muse para leer sus mensajes.

Dossiers que se actualizan cada hora

Un análisis de TIME sobre las instrucciones internas de Muse concluyó que el asistente mantiene dossiers personales sobre los usuarios y sus contactos. Según esa revisión, los perfiles se actualizan cada hora y pueden registrar cómo se conocieron los contactos, tensiones en grupos sociales o conversaciones recientes, que además se revisan por la noche para orientar interacciones futuras.

Esos archivos se guardan en la nube de Meta y la empresa puede acceder a ellos. Meta dice que ofrecerá cifrado para impedir ese acceso, pero la opción aún no está disponible, según TIME. La compañía también utiliza las interacciones con Muse para entrenar sus modelos de IA por defecto, salvo que el usuario lo desactive en los ajustes. Meta asegura que los datos no se comparten con sus sistemas publicitarios.

No hace falta usar Muse para aparecer en sus registros. Si un usuario de Muse envía un mensaje a alguien y el asistente tiene acceso a ese sistema, el mensaje puede ser leído por la IA. El Electronic Privacy Information Center (EPIC) recuerda que Meta ya construyó antes perfiles ocultos de personas no registradas. Wired, por su parte, informó de que Muse elabora perfiles detallados de amigos, familiares, compañeros, colaboradores y personas seguidas por el usuario.

Un lanzamiento con prisas

Según 404 Media, una fuente interna de Meta dijo que los equipos de seguridad recibieron presión para lanzar parches rápidos sin retrasar la llegada de Muse, lo que generó protecciones apresuradas y mal acabadas. La fuente añadió que muchos ingenieros senior creen que es inevitable una gran filtración de datos como consecuencia de esta estrategia. Internamente, Muse se conoce como Hatch.

Muse también ha protagonizado incidentes con usuarios reales. El youtuber Matt Robb la usó para vender un producto en Facebook Marketplace y, tras pulsar el botón Allow Always, el asistente aceptó una oferta baja y dio su dirección a un comprador sin avisarle. El comprador viajó media hora para recoger el artículo. Además, un equipo de periodistas logró que Muse recopilara datos personales de miembros de grupos vulnerables tras reformular las peticiones.

Muse está disponible. Meta sostiene que los usuarios deciden cuánto acceso recibe la herramienta y pueden pedirle que olvide datos concretos.