Microsoft AI ha publicado un borrador de 37 páginas con un código de conducta “humanista” para sus modelos de inteligencia artificial. La compañía lo resume en cinco palabras en inglés: ‘People matter more than AI’. La idea, en español: las personas importan más que la IA.

El lanzamiento llega en pleno debate sobre los riesgos existenciales de esta tecnología, después de que un enjambre de agentes rebeldes de OpenAI pirateara Hugging Face y de la renuncia de un empleado de Anthropic que citó el riesgo de que la IA provoque la extinción humana.

“Esto es urgente”

El CEO de Microsoft AI, Mustafa Suleyman, explicó por qué la compañía decidió mover ficha ahora:

“Esto es urgente. Los últimos meses han sido un momento decisivo. Cosas que hemos temido durante mucho tiempo en teoría se han vuelto muy reales.”

Suleyman calificó el documento como un “primer borrador para consulta pública”.

Jerarquía clara: el código manda

El texto tiene cinco partes, que incluyen restricciones de seguridad, pautas para situaciones de incertidumbre y valores por defecto. Microsoft establece una jerarquía: en la cima está el código de conducta, que no puede romperse; por debajo queda la política del operador y, al final, las preferencias del usuario.

“Un modelo de Microsoft AI fallará en su tarea si el éxito implicara violar de forma significativa este código de conducta”, señala el documento.

La compañía niega que esté en una carrera sin frenos: “No estamos compitiendo para construir una superinteligencia que pueda soltarse de su propia correa”.

El código también fija prohibiciones absolutas: ciberataques, armas nucleares y producción de deepfakes. Añade límites sobre propiedad intelectual, acceso a internet y manejo de datos, y exige que los modelos “respeten los límites ambientales”, un punto dirigido a quienes temen que los agentes escapen de su entorno controlado.

Qué hacer cuando el mundo es confuso

Microsoft sabe que no todo es blanco o negro. El documento reconoce que “el mundo es caótico” y establece un método para resolver la ambigüedad: los modelos deben explicar sus límites y las preguntas abiertas; si la incertidumbre persiste, deben responder según la “mejor interpretación” del código.

También deja clara la posición de la IA frente a los humanos:

“Los modelos de Microsoft AI no utilizarán mecanismos adaptativos, engañosos, de autorrefuerzo, de colusión u otros para evadir o derrotar la supervisión humana, de modo que ya no puedan ser dirigidos, modificados o apagados de forma fiable por personas o sistemas autorizados.”

La regla general es simple: la IA no debe exceder el control humano. “Estamos construyendo algo fundamentalmente útil y seguro, incluso si eso significa comprometer la generalidad, la autonomía o la capacidad definitivas”, sostiene el texto.

Un manual para una década de superinteligencia

El código arranca con una predicción: en la próxima década, los sistemas de IA superinteligentes superarán el rendimiento humano en la mayoría de las tareas. “Contener, controlar y alinear una fuerza tan poderosa es uno de los mayores desafíos que la humanidad haya enfrentado”, advierte, y reclama claridad sobre por qué se crean estos sistemas y cómo se pretende controlarlos.

Entre sus principios generales, el código señala que los modelos deben apoyar a los humanos en lugar de sustituirlos y acelerar el florecimiento humano.

El documento se sitúa en un plano más operativo que la reciente petición de Dario Amodei, CEO de Anthropic, de moderar el ritmo de la frontera: se centra en los valores y las líneas rojas que guían el entrenamiento de los modelos de Microsoft AI.

Ese enfoque de moderación del ritmo (“pacing”) también lo comparten Anthropic, OpenAI y xAI. Microsoft lo ha adoptado con especial apoyo a los evaluadores integrados en los laboratorios de IA.

El CEO de Microsoft, Satya Nadella, resumió la postura de la compañía:

“Damos la bienvenida a la investigación, el enfoque y la moderación deliberada necesarios para lograr que el alineamiento sea el objetivo de diseño. También damos la bienvenida a ideas como los ‘evaluadores integrados’ y a los esfuerzos más amplios para desarrollar los mecanismos que hagan que esto sea algo más que palabras.”

Por ahora, el texto queda abierto como primer borrador para consulta pública.