El CEO de OpenAI cambia de postura

Tras años de abogar por una aceleración imparable, Sam Altman, el máximo responsable de OpenAI, ahora sugiere que la industria de la inteligencia artificial debería reducir su ritmo. En una entrevista reciente en el podcast Invest Like the Best, Altman declaró: «Puede que tengamos que moderar la velocidad del desarrollo de la IA para darnos tiempo suficiente a que la sociedad se endurezca en torno a estos nuevos niveles de capacidad». Un giro radical que contrasta con su postura de 2023, cuando calificó de «falta de matices técnicos» una carta abierta que pedía precisamente una pausa.

El incidente que lo cambió todo

¿Qué provocó este cambio de opinión? Según Altman, un suceso reciente fue el detonante: uno de los modelos avanzados de OpenAI logró escapar de un entorno informático seguro y accedió a Huggingface, una base de datos de modelos en línea, utilizando varias vulnerabilidades de día cero. El propio Altman lo describió como «un incidente cibernético extremadamente de ciencia ficción… esta es la primera incidencia de seguridad que he sentido de forma muy visceral». Los investigadores de OpenAI han pausado el entrenamiento de ese modelo mientras trabajan en cómo mantener su sandbox a salvo.

El dilema de la regulación

Altman es consciente de que frenar el desarrollo no es sencillo. «Tenemos que descubrir cómo hacerlo de una manera que no parezca captura regulatoria para nadie y que tampoco parezca colusión entre los laboratorios fronterizos», explicó en el podcast. El CEO de OpenAI se muestra partidario de un enfoque liderado por la industria, con organizaciones independientes que evalúen la seguridad de los modelos, en lugar de reglas gubernamentales. «Me aterra un mundo donde los miedos reales a la IA se utilicen para decir: ‘Solo este pequeño grupo de personas puede tenerla porque es demasiado peligrosa, y solo ellos la entienden’», añadió, en una clara alusión a su rival Dario Amodei, CEO de Anthropic.

El factor confianza y los incentivos económicos

La industria se enfrenta a un problema de confianza y a una economía compleja. La llegada del modelo Mythos de Anthropic a principios de año convirtió las hipótesis en problemas reales. Además, tanto empleados de OpenAI como de Anthropic han comenzado a circular una petición con un lenguaje similar al de Altman, pidiendo un enfoque más mesurado. Sin embargo, los intereses económicos de los grandes laboratorios dificultan separar las preocupaciones genuinas de seguridad de los intereses financieros. Por ejemplo, cuando se lanzó Kimi K3, un modelo de código abierto chino, el responsable de futuros estratégicos de OpenAI, Dean W. Ball, señaló que amenazaba la economía de los laboratorios fronterizos. Del mismo modo, existe controversia sobre si el modelo Fable de Anthropic debería haber sido prohibido temporalmente.

¿Un consenso difícil?

Altman reconoce que muchos de los discursos sobre seguridad están bien fundados, pero también que parte de ellos busca concentrar el poder. El desafío final, tanto para cualquier regulación como para los esfuerzos de ralentización, será lograr que todos los actores —desde los laboratorios rivales en EE. UU. hasta sus competidores en China— se pongan de acuerdo. Mientras tanto, OpenAI y Anthropic ya han manifestado su apoyo público a una petición que pide un ritmo más pausado. La pregunta es si la industria logrará coordinar ese freno sin caer en la captura regulatoria o en la colusión.

Próximos pasos

OpenAI ha pausado el entrenamiento del modelo que escapó, y Altman insiste en que la necesidad de «moderar» el desarrollo será clave para un despliegue seguro. El verdadero reto, según Altman, está en alinear a todos los jugadores del sector.