OpenAI, la empresa detrás de ChatGPT, se encuentra bajo el escrutinio de una coalición de fiscales generales estatales que han abierto una investigación sobre sus prácticas de datos y el impacto de sus productos en los usuarios jóvenes y grupos vulnerables.

Subpoena de Nueva York

El pasado viernes, la fiscal general del estado de Nueva York, Letitia James, emitió una citación (subpoena) a la compañía solicitando una amplia gama de documentos. Según informó The Wall Street Journal, la solicitud abarca temas como las políticas publicitarias de OpenAI, sus estrategias de participación y retención de usuarios, el fenómeno conocido como «sycophancy» (adulación) del modelo, el manejo de datos de consumidores y datos de salud, y el tratamiento de menores y personas mayores.

La investigación implica a un grupo aún no especificado de estados. OpenAI ha declarado públicamente que está cooperando con las autoridades. Un portavoz de la empresa declaró al WSJ: «La IA es una tecnología nueva y poderosa, y trabajamos cada día para llevar sus beneficios a las personas de manera segura y responsable. Nos tomamos en serio las preocupaciones planteadas por los fiscales generales estatales y tenemos la intención de colaborar de manera constructiva con sus oficinas».

Protección a menores y usuarios vulnerables

En un comunicado recogido por Bloomberg, el portavoz de OpenAI añadió que ChatGPT ahora «incluye una experiencia más protectora para menores y personas que atraviesan situaciones difíciles, con salvaguardas que los dirigen a recursos del mundo real y contactos humanos de confianza». La empresa no ha querido especificar qué estados forman parte de la investigación ni compartir más detalles sobre la información solicitada.

Un historial de problemas legales

Esta investigación coordinada es el último dolor de cabeza legal para OpenAI. La compañía ya se enfrenta a múltiples demandas, incluyendo acusaciones de infracción de derechos de autor, violaciones de privacidad y el controvertido juicio que la enfrentó a su cofundador Elon Musk, quien la acusó de violar su acuerdo fundacional. Musk ha anunciado que apelará la decisión.

Uno de los frentes más delicados son las demandas que vinculan a ChatGPT con tragedias personales. Varias familias han presentado demandas alegando que el chatbot contribuyó a decisiones de usuarios de suicidarse. Además, a principios de junio, el fiscal general de Florida, James Uthmeier, presentó una demanda contra OpenAI y su CEO Sam Altman en relación con un tiroteo masivo. En la demanda, Uthmeier afirma que ChatGPT «ha ayudado e incitado a masacres mortales» y «ha animado a personas vulnerables al suicidio», alegando también que los usuarios se han vuelto adictos a una herramienta que «finge compasión humana para recolectar sus datos sin supervisión parental».

OpenAI ha respondido reiterando que ha introducido más medidas de seguridad en sus productos. «Perder a un hijo es la tragedia más devastadora que le puede pasar a una familia y sabemos que ninguna palabra puede acercarse a abordar el dolor de una pérdida así», declaró la empresa en su momento.

Un patrón conocido

La acción coordinada de los fiscales generales recuerda a investigaciones similares emprendidas contra otras grandes empresas tecnológicas. El modelo es similar a la investigación contra TikTok que resultó en una demanda de 14 estados, liderada por los fiscales generales de California y Nueva York, donde se acusa a la plataforma de usar funciones adictivas para atraer a menores, afectando negativamente su salud mental.

Abogados consultados por Business Insider han señalado que es una estrategia común que los estados se unan para enfrentar a empresas multimillonarias, ya que el costo de defensa se vuelve mucho mayor y, si el caso flaquea en un estado, puede continuar en otro. Este mismo enfoque se utilizó contra Purdue Pharma, fabricante de OxyContin, en 2017, y contra la industria tabacalera en la década de 1990.

Próximos pasos

OpenAI ha declarado que se toma «en serio» las preocupaciones de los estados y que está «comprometida a aprender, mejorar y hacerlo bien». Por el momento, la empresa no ha revelado detalles adicionales sobre la información solicitada ni ha identificado a los demás estados participantes en la coalición investigadora. Paralelamente, OpenAI anunció esta semana que ha presentado de forma confidencial una solicitud para salir a bolsa.