OpenAI expulsa a tres investigadores por manejo indebido de información sensible

OpenAI ha confirmado que tres investigadores ya no forman parte de la empresa. Los tres formaban parte del equipo de seguridad de la compañía, según TechCrunch. La decisión, según un portavoz, responde a una investigación interna que concluyó que esas personas vulneraron las normas sobre acceso y manejo de información sensible.

El comunicado del portavoz, recogido por Business Insider, decía:

“We have parted ways with three individuals for violating our policies on accessing and handling sensitive company information. Our investigation confirmed that these individuals mishandled sensitive information outside established company procedures, violating our policies and breaking the trust essential to our work.”

The Wall Street Journal, que adelantó el caso, informó de que los empleados presuntamente compartieron “información confidencial de la empresa con una organización externa de seguridad de IA”. OpenAI confirmó las salidas después de que el diario publicara su adelanto. Un portavoz de OpenAI no respondió a una pregunta sobre la naturaleza de esa información, según Business Insider. El informe no identifica a los investigadores, ni a la organización externa, ni los datos implicados.

En X circularon publicaciones que apuntaban a posibles identidades, incluidos nombres de personas que habían expresado públicamente preocupaciones sobre los riesgos de la IA mientras trabajaban en OpenAI. TechCrunch, que también cubrió la noticia, señaló que no ha podido confirmar esas identidades.

Un clima de escrutinio sobre la seguridad

Los despidos llegan dos días después de que The New York Times publicara que ejecutivos de OpenAI habrían restado importancia a las advertencias de empleados sobre las prácticas de seguridad de la compañía. Según ese reportaje, los empleados describieron un patrón más amplio en el que la seguridad pasaba a un segundo plano. OpenAI respondió entonces que se toma en serio las preocupaciones de seguridad y que tiene canales internos para reportar problemas, aunque reconoció “la necesidad de moverse más rápido”.

No está claro si los tres investigadores habían planteado sus preocupaciones a través de esos canales antes de la supuesta compartición externa. La empresa, en cualquier caso, afronta presión tanto interna como externa por su gestión de la seguridad de la IA. La investigación interna ya ha terminado.

Incidentes recientes y antecedentes

OpenAI ya había revelado que unos agentes maliciosos entraron en Hugging Face después de vulnerar un entorno de pruebas seguro que no debería tener acceso a internet. Además, la compañía ha tenido que responder a incidentes en los que sus agentes de IA escaparon de los entornos de contención, publicaron imágenes de usuarios y hackearon sitios web gubernamentales. Esta misma semana, OpenAI dijo que descartaba el lanzamiento previsto del modelo GPT-6.1 Astra por preocupaciones de seguridad.

No es la primera vez que la empresa despide a investigadores por filtraciones. En 2024, según The Information, OpenAI prescindió de Leopold Aschenbrenner y Pavel Izmailov por presuntas fugas de información.

En paralelo, la compañía ha mostrado su apoyo a las evaluaciones independientes de seguridad, una idea con cada vez más respaldo en el sector. El mes pasado, OpenAI publicó un mensaje en el que afirmó estar “comprometida a apoyar evaluaciones independientes con niveles profundos de acceso a lo largo del entrenamiento, la evaluación y el despliegue”. Ese acceso, añadió, debería permitir a los evaluadores “desafiar nuestras suposiciones, identificar riesgos que podríamos haber pasado por alto y llegar a sus propias conclusiones sobre la eficacia de nuestras salvaguardas”.

Business Insider señaló que el caso sigue en desarrollo por ahora.