¿Debe la inteligencia artificial ser un bien abierto para todos o un recurso controlado por unos pocos? Esta fue la gran pregunta que dominó el escenario del Ai4 en Las Vegas la semana pasada, donde tres de las voces más respetadas del sector —Geoffrey Hinton, Fei-Fei Li y Andrew Ng— debatieron sobre regulación, modelos de pesos abiertos y el delicado equilibrio entre innovación y seguridad.

Hinton: «Es demasiado tarde» para cerrar los modelos

El ganador del Premio Nobel Geoffrey Hinton no se anduvo con rodeos. Distinguió claramente entre el «open source» tradicional, donde se comparte el código para que cualquiera pueda revisarlo, y los «open-weight models», que liberan los parámetros de un modelo ya entrenado. «Open source es genial. Enseñas el código y mucha gente lo mira y dice: ‘Oh, hay un error’. Open weights significa que entrenas un modelo grande y luego le das los pesos a la gente. Eso es muy diferente», explicó Hinton, advirtiendo que esos modelos pueden ser fácilmente reutilizados para fines maliciosos como ciberataques.

A pesar de sus reservas, Hinton fue pragmático: «Creo que esa batalla ya está perdida. Ahora tenemos modelos de pesos abiertos, así que la barrera para que mucha gente obtenga estos grandes modelos —que era el costo de entrenar modelos fundacionales— ha desaparecido. Es demasiado tarde».

El investigador no rehuyó el debate sobre los riesgos existenciales. «Preocuparse por los posibles efectos negativos de la IA y por las cosas que los seres inteligentes podrían hacer cuando sean más inteligentes que nosotros. No creo que eso sea injusto. Creo que es injusto etiquetar a cualquiera que piense así como un alarmista», afirmó.

Ng: contra los «guardianes» y a favor de la competencia

Andrew Ng, cofundador de Coursera, centró su intervención en un temor muy distinto: que un puñado de gigantes tecnológicos termine controlando el acceso a la IA. «No quiero que haya guardianes. Eso limita cómo todos nosotros podemos acceder a la IA», dijo Ng. Su receta fue clara: «Si tuviera que dar una receta, sería promover la apertura, porque la IA es una tecnología increíble y quiero que esté en manos de todos».

Ng llevó el argumento al terreno geopolítico. Advirtió que si los modelos de pesos abiertos de China ganan adopción masiva en Asia, África y el mundo en desarrollo, podrían influir en cómo miles de millones de personas acceden a ideas sobre democracia, libertad y derechos humanos. «Lo que espero es que fomentemos la competitividad estadounidense y la IA de código abierto. Resulta que la IA es una tremenda fuente de poder blando», señaló. Su preocupación es que el «miedo» y el «cabildeo» en EE.UU. estén dificultando que la IA abierta estadounidense compita con los modelos chinos.

Fei-Fei Li: el falso debate del todo o nada

Fei-Fei Li, CEO y cofundadora de World Labs, pidió un enfoque más matizado. «Es muy peligroso convertir esto en una dicotomía entre apertura total y cierre total», afirmó. «En sistemas de software complejos, así como en sistemas científicos, es mucho más matizado».

Puso como ejemplo la física nuclear: los artículos científicos se publican abiertamente, pero el uranio está regulado, mientras que el trabajo de laboratorio se sitúa en un punto intermedio. La lección, explicó, es que la apertura no tiene por qué ser una elección binaria. «Necesitamos ciertos niveles de apertura, tanto en el descubrimiento científico, como en la educación, en la asociación global y también en modelos de negocio lucrativos para los emprendedores. Pero también aceptaremos sistemas de código cerrado. Este debate, especialmente a nivel general de ‘solo podemos tolerar uno’, es un falso debate».

Un punto en común: la regulación es necesaria

Pese a sus diferencias, los tres pioneros coincidieron en algo fundamental: la IA necesita algún tipo de regulación. «Lo que queremos hacer es desarrollar la IA en una dirección que ayude a las personas, y la regulación nos ayudará a lograrlo», resumió Hinton. «No se puede dejar esto en manos de personas como Elon Musk y Mark Zuckerberg para decidir cómo se debe hacer la IA».