Meta ha vuelto a encender las alarmas. Su nueva herramienta de generación de imágenes por IA, Muse Image, ya permite a cualquiera crear fotos sintéticas a partir de las fotos de perfil públicas de Instagram, sin que el usuario sea notificado.

Lanzada el 7 de julio, Muse Image está disponible en la app y web de Meta AI, así como en WhatsApp y en las Historias de Instagram para usuarios de Estados Unidos. La función integra cuentas públicas de Instagram: basta con escribir el handle de un usuario en un prompt para que la IA genere una imagen usando su rostro. El problema es que no se envía ninguna notificación a la persona cuyo parecido está siendo utilizado.

«Receta para el desastre»

La reacción de los defensores de la privacidad no se ha hecho esperar. Donald Campbell, director de incidencia del think tank tecnológico Foxglove, lo calificó sin rodeos como una «obvia receta para el desastre».

«Ya hemos visto un catálogo de daños causados por imágenes alteradas con IA no consentidas en plataformas sociales solo en el último año. Es difícil entender por qué Mark Zuckerberg cree que facilitar aún más esta inquietante manipulación de imágenes es una buena idea.»

Privacy International también cargó contra la medida, calificándola como «el último indicio de que las empresas de IA ven las imágenes y los datos de las personas como materia prima para explotar».

Cómo desactivarlo (si lo encuentras)

Meta asegura que los usuarios pueden optar por no participar, incluso si tienen una cuenta pública. Pero la opción está escondida. Para ello, hay que ir al menú de Configuración y actividad > Uso compartido y reutilización en Instagram y desactivar el control que dice «Permitir que otros reutilicen tu contenido en Instagram y con funciones de IA en Meta».

El problema es que no hay ningún aviso destacado de Meta informando sobre esta posibilidad. Y lo que es peor: desactivar la opción solo evita que se generen nuevas imágenes, pero no elimina ni retira las que ya se hayan creado. Esas imágenes sintéticas siguen circulando sin que el usuario lo sepa.

Según el análisis de expertos en ciberseguridad, las fotos de perfil públicas de Instagram ya estaban siendo recolectadas por atacantes para crear deepfakes destinados al fraude de verificación de identidad. Muse Image, al proporcionar un canal oficial y sin control para generar imágenes basadas en perfiles públicos, reduce la barrera técnica para la creación de imágenes sintéticas que podrían usarse en suplantaciones, estafas u otros abusos.

Riesgos crecientes y el rol de los reguladores

El contexto regulatorio es tenso. En el Reino Unido, Ofcom está investigando actualmente a X (antes Twitter) por el papel de su IA Grok en la creación y difusión de imágenes alteradas con IA no consentidas de personas reales. La función de Meta probablemente atraerá una atención similar por parte de los reguladores.

Además, Meta ya tiene un historial de problemas de seguridad con su IA. A principios de año, investigadores descubrieron una vulnerabilidad de tipo «confused deputy» en el chatbot de soporte de Meta que permitía realizar cambios en la cuenta —como cambiar direcciones de correo electrónico y restablecer contraseñas— sin verificar adecuadamente la identidad del interlocutor. Activar la autenticación multifactor (MFA) pareció mitigar ese problema.

Cómo protegerte

Si tu cuenta de Instagram es pública, la opción más sencilla es dirigirse a Configuración y actividad > Uso compartido y reutilización y desactivar la palanca de generación con IA. Recuerda que solo evita la creación futura de imágenes. Activar la autenticación multifactor para todas las cuentas de Meta también es una medida recomendada. La protección más completa, según fuentes de seguridad, es cambiar la cuenta de Instagram a privada, ya que impide que desconocidos utilicen el perfil público como material de origen.

La propia Junta de Supervisión de Meta ha señalado que la compañía necesita mejores herramientas de detección y un etiquetado más riguroso del contenido generado por IA.