OpenAI ha dado un paso importante para que los más jóvenes usen su inteligencia artificial de forma más segura. La compañía anunció este lunes el lanzamiento de ChatGPT para Adolescentes, una versión del popular chatbot con protecciones activadas por defecto, controles parentales y nuevas herramientas educativas.

La medida llega en un momento de creciente escrutinio sobre el impacto de la IA en la salud mental de los jóvenes, aunque la empresa insiste en que no responde a un incidente concreto.

Adiós a la voz humana

Una de las novedades más llamativas es que, para las nuevas cuentas de adolescentes, OpenAI ha eliminado la opción de que el chatbot responda con voz humana. El objetivo es reducir la capacidad de la tecnología para parecerse a una persona real.

Además, la aplicación comenzará a enviar recordatorios periódicos para que los jóvenes tomen descansos. Estos avisos les recordarán que están interactuando con una IA y que «puede esperar».

«El uso de la IA por parte de los adolescentes debería venir acompañado de protecciones que reflejen su etapa de desarrollo, refuercen las relaciones del mundo real y apoyen un uso saludable a lo largo del tiempo», explicó OpenAI en una entrada de blog.

Modo Estudio: aprender, no solo copiar

En el frente educativo, la gran estrella es el nuevo Modo Estudio. Esta función está diseñada para combatir uno de los mayores dolores de cabeza de los profesores: que los alumnos usen ChatGPT para hacer trampas.

Cuando el sistema detecte que un adolescente podría estar intentando obtener respuestas rápidas sin esforzarse, lanzará recordatorios de tareas y lo redirigirá al Modo Estudio. Allí, en lugar de recibir la solución directa, el estudiante encontrará preguntas guía y apoyo paso a paso para entender la materia por sí mismo.

La aplicación también incluirá cuestionarios y visualizaciones de aprendizaje. Los padres o tutores podrán decidir si el Modo Estudio está activado por defecto.

Protecciones y controles parentales

OpenAI asegura que las protecciones adecuadas para la edad estarán activadas de forma predeterminada en ChatGPT para Adolescentes. Estas medidas están diseñadas para reducir la exposición a contenido dañino o inapropiado para su desarrollo, y se basan en los Principios para Menores de 18 años del Model Spec de la compañía.

Los padres también podrán usar las herramientas familiares y los controles parentales presentados anteriormente para gestionar la configuración, recibir notificaciones de seguridad y establecer Horarios de Descanso.

¿Cómo se identificará a los menores?

Las cuentas para adolescentes serán la opción predeterminada para aquellos que se identifiquen como menores de 18 años al registrarse, así como para otros usuarios que la propia empresa identifique como menores. Sin embargo, OpenAI no ha detallado el método que utilizará para identificar a estos usuarios. Los menores de 13 años no pueden usar el producto.

Una alianza educativa

Como parte de esta iniciativa, OpenAI anunció una colaboración con CodeAI para ayudar a los adolescentes a aprender más sobre IA: cómo funciona, cómo dirigirla o cuestionarla, y cómo usarla de forma responsable. En el ámbito escolar, la compañía ya ofrece ChatGPT para Profesores, que proporciona a los centros educativos acceso gestionado a la IA.

¿Funcionará en la práctica?

La gran pregunta que queda en el aire es la eficacia real de estas medidas. Los adolescentes son expertos en sortear los controles parentales y otras barreras digitales. Hasta que el modo adolescente de ChatGPT pueda someterse a pruebas más exhaustivas, no estará claro lo difícil que será burlar estos sistemas de seguridad en la práctica.