Una madre de Utah subió un video de su hija cantando en el coche, como hacen cada día cientos de miles de padres. La respuesta de Meta AI la convenció de que había llegado el momento de dejar de publicar imágenes identificables de sus hijos.

El perfil que Meta AI construyó

Kalie Robins, madre de dos hijos, colgó la grabación en Facebook. Bajo el video, Meta AI sugería la pregunta: “¿Quién es el pasajero infantil?”. Al hacer clic, el sistema empezó a reunir información separada de cada uno de sus hijos: nombres, fechas de nacimiento y videos. También mostró una foto de su hija recién nacida que su propia madre había publicado años atrás en Facebook, e incluso una imagen que Robins creía haber eliminado. Después llegó otra pregunta: “¿Dónde vive Kalie Robins?”.

Robins explicó que siempre evitó publicar fotos de vuelta al cole con el nombre de la escuela o la maestra, o imágenes frente a su casa con señales de calle. Aun así, Meta AI obtuvo datos de otras personas.

“Pensé que estaba siendo tan cuidadosa y al final no importó”, dijo Robins. “No obtuvo esa información de mí. La obtuvo de otras personas”.

Robins aseguró que retirará cualquier imagen o video identificable de sus hijos y pedirá a sus amigos que hagan lo mismo, porque si no, Facebook podría seguir usando esas fotos para construir perfiles de los menores.

Meta reconoció el error. En declaraciones a Business Insider, el portavoz Andy Stone dijo que la función generaba respuestas basadas en información a la que el usuario ya tenía acceso, pero que nunca debería haber sugerido preguntas como esas y que el problema ya estaba corregido. Meta también declaró a The Verge que la función “no había dado en el blanco”.

Fotógrafos que dejan de mostrar caras de niños

En paralelo, se ha hecho viral en Instagram una tendencia entre fotógrafos profesionales de familia, en su mayoría mujeres y madres, de anunciar que ya no compartirán las caras de los niños en redes sociales ni en sus webs profesionales. El motivo es el riesgo de que las fotos se usen para crear deepfakes de menores o acaben en conjuntos de datos para entrenar modelos de IA que generen material de abuso sexual infantil (CSAM).

Hannah Haggard, fotógrafa de familia y bodas en Kentucky, fue una de las que cambió su política: no publicará caras de niños ni siquiera con permiso de los padres.

“Ya le estaba dando vueltas”, explicó Haggard. “Cuando ocurrió el fallo, fue la confirmación de que eso era lo que tenía que pasar”.

Katey Sutton, fotógrafa en Misuri, también publicó una política similar y defendió que la IA no crea imágenes de la nada: rastrea internet y usa la información que encuentra.

El fallo judicial detrás del debate

El detonante de estos anuncios es un fallo reciente de un juez en un caso penal sobre CSAM generado por IA. El juez escribió que existe un precedente legal según el cual la posesión, aunque no la producción o distribución, de pornografía infantil generada por IA estaría protegida como libertad de expresión. La noticia ha circulado en círculos de padres en Instagram.

Mariefaye Bechrakis, abogada especializada en derechos humanos y derechos del niño que ha escrito sobre CSAM generado por IA para la American Bar Association, matizó que el fallo es más complejo de lo que parece.

“Lo importante es que los jueces están dando luz verde a una futura apelación”, dijo Bechrakis. “Dieron una hoja de ruta a los futuros fiscales y señalaron que los modelos modernos de IA no crean imágenes de la nada, sino que deben entrenarse con grandes conjuntos de datos”.

En las redes todavía hay muchos padres que siguen publicando fotos de sus hijos. Pero para algunos, estos sustos recientes con IA han hecho que se lo piensen dos veces antes de publicar. Robins ya tiene claro su siguiente paso: eliminar las imágenes identificables de sus hijos y pedir a su entorno que haga lo mismo.