Apple ha endurecido las reglas de la App Store para atacar un problema concreto: las aplicaciones capaces de generar desnudos falsos con inteligencia artificial. En una nota publicada en su web para desarrolladores, la compañía anunció cambios en sus directrices que afectan a cualquier app que pueda crear «imágenes íntimas no consensuadas» de personas reales usando herramientas de contenido generado por los usuarios.

El contenido pornográfico ya estaba prohibido en la tienda, al igual que las aplicaciones creadas explícitamente para ese fin. La novedad es que ahora también se exige a las apps que, sin haber sido diseñadas para ello, tengan el potencial de hacerlo: deben filtrar ese material, ofrecer un canal para denunciarlo, impedir que se suba y retirar cualquier publicación que consiga colarse. La regla no se limita a las apps que anuncian abiertamente esa capacidad: cualquier herramienta que pueda acabar sirviendo para generar desnudos falsos queda dentro del radar. Así, la vigilancia de los desnudos generados por IA deja de ser opcional y recae de forma clara sobre los desarrolladores.

Qué cambia para los desarrolladores

Las nuevas normas incluyen una prohibición expresa de las tácticas de «bait and switch», es decir, aplicaciones que se presentan como legítimas durante el proceso de revisión y luego revelan funciones dañinas como la «nudificación». La prohibición cubre el caso de una app que oculte sus intenciones durante la revisión para superarla y revele después funciones no declaradas. Apple ha dejado claro que retirará de la App Store cualquier app que incumpla estas condiciones y que los desarrolladores responsables pueden perder la posibilidad de enviar nuevas aplicaciones a la tienda.

La compañía también ha especificado que retirará las apps que introduzcan funciones que no estaban presentes en la versión enviada para revisión. La revisión deja de ser solo un trámite: la versión que se evalúa debe coincidir con lo que después se ofrece a los usuarios. Las directrices actualizadas prohíben las funciones ocultas o indocumentadas que tergiversen la finalidad del programa y dejan fuera las aplicaciones que utilicen IA para generar contenido ofensivo. A las apps que alojen contenido generado por los usuarios se les exigen filtros, canales de denuncia y herramientas para bloquear cuentas abusivas.

Apple también ha reforzado su compromiso de prohibir aplicaciones que promuevan la trata de personas o la explotación infantil.

Un problema que viene de lejos

El endurecimiento de las normas no llega en el vacío. A principios de año, un estudio detectó decenas de aplicaciones capaces de crear desnudos deepfake de personas reales tanto en la App Store como en Google Play. Apple retiró muchas de esas aplicaciones en su momento, pero las nuevas reglas indican que todavía queda trabajo por hacer para evitar que sigan apareciendo.

En abril, un informe de Tech Transparency Project señaló que ambas tiendas alojaban varias aplicaciones de este tipo, algunas incluso clasificadas como aptas para menores. En julio, San Francisco ordenó a Apple y a Google retirar las apps «nudify» de sus respectivas tiendas. El fiscal de la ciudad, David Chiu, acusó a las dos compañías de beneficiarse de estas aplicaciones a través de las comisiones que cobran en sus tiendas.

Apple también ha aportado datos sobre su labor de moderación. Según recoge TechCrunch, el año pasado su proceso de revisión impidió que más de 150.000 aplicaciones llegaran a los usuarios. Ese mismo proceso terminó con la eliminación de 193.000 cuentas de desarrollador por fraude y abuso.