Sam Altman y Dario Amodei se sentaron este miércoles ante el Consejo de Seguridad de la ONU con un mensaje claro: la inteligencia artificial necesita reglas globales. Altman, consejero delegado de OpenAI, y Amodei, consejero delegado de Anthropic, estaban llamados a informar al Consejo sobre los riesgos de la IA y sus implicaciones para la seguridad internacional. La ONU confirmó la participación de ambos ejecutivos, según CNBC, y Reuters situó la reunión en un clima de preocupación por el impacto de esta tecnología en la seguridad global. Antes de la sesión, los reportes indicaban que ambos informarían al Consejo; la cobertura posterior de The Washington Post lo confirmó.

Altman fue directo: «La regulación de la IA debe configurarse mediante procesos democráticos, con gobiernos responsables ante las personas a las que sirven». La frase resumió el tono de una jornada en la que varios líderes del sector pidieron a los países que cooperen para regular la tecnología. The Washington Post recogió que Altman y Amodei llamaron a las naciones a trabajar juntas en regulaciones mientras crecen los temores sobre las capacidades de la IA. Amodei secundó esa idea durante su intervención.

Francia convoca el debate

Francia fue el país que convocó la reunión. Reuters informó de que la sesión examina las crecientes preocupaciones por el impacto de la IA en la seguridad internacional, con especial atención a los sistemas cada vez más capaces y a la posible pérdida de control humano. El asunto no era nuevo para el Consejo: la primera discusión formal sobre inteligencia artificial se celebró en 2023, cuando los gobiernos comenzaron a analizar sus implicaciones de seguridad. Reuters ya había situado ese primer debate en el inicio de los exámenes gubernamentales sobre la tecnología.

Quién estuvo sobre la mesa

No eran los únicos: en la lista de oradores previstos figuraban Clément Delangue, consejero delegado de Hugging Face, y el científico de IA Yoshua Bengio, copresidente del Panel Científico Internacional Independiente de la ONU sobre IA. Reuters añadió que las empresas chinas de IA DeepSeek y Moonshot habían sido invitadas a hacer declaraciones. Se espera que DeepSeek participe, aunque su fundador, Liang Wenfeng, no tiene previsto asistir, según una fuente conocedora del asunto citada por Reuters.

Seguridad internacional y control humano

Dos ejes centraron el debate: la seguridad internacional y el control humano. Reuters describió un contexto de sistemas de IA cada vez más capaces y de preocupación por la posible pérdida de control humano. Esos mismos temores llevaron a varios líderes de grandes empresas de IA a decir ante los miembros de la ONU que se necesitan esfuerzos internacionales sólidos, según The Washington Post. La preocupación, recogida por el diario, apunta a que la IA podría representar un riesgo significativo para la humanidad.

De 2023 hasta ahora

La cita de este miércoles tiene un antecedente directo: en 2023, el Consejo de Seguridad celebró su primera discusión formal sobre IA. Entonces, según Reuters, los gobiernos empezaron a examinar las implicaciones de seguridad de unas tecnologías cada vez más capaces. Ahora, con Francia como convocante y con OpenAI y Anthropic en la sala, la ONU vuelve a poner sobre la mesa los riesgos de la inteligencia artificial. Antes de la publicación de los primeros reportes, Cointelegraph había contactado a Anthropic, OpenAI y la oficina del portavoz de la ONU para obtener confirmación y comentarios, sin recibir respuesta.