San Francisco vuelve a tener una nueva obsesión en IA, y esta vez no es un chatbot. Es Jev, el modelo de TypeSafe AI que, en lugar de generar texto, decide: devuelve respuestas estructuradas con estimaciones de probabilidad, a gran velocidad y por un coste bajo.

De anonimato a fenómeno

Su vídeo de lanzamiento, publicado a mediados de septiembre, se acerca ya a los 40 millones de reproducciones en X. El Discord de TypeSafe supera los 100.000 miembros y su fundador, Diogo Almeida, exinvestigador de OpenAI, ha acabado en el centro de atención de la escena tecnológica.

El hackatón de Jev

El sábado, la oficina de CodeRabbit en San Francisco acogió un hackatón dedicado al modelo. Allie Laabs, responsable de developer relations de TypeSafe, explicó que Jev funciona mejor cuando los ingenieros dividen sus preguntas en piezas muy específicas, y lo recomendó para clasificar consultas de atención al cliente o moderar chats rápidos.

Los desarrolladores ya lo están usando en productos reales. Lawrence Liang mostró el agente personal de IA que había construido para sí mismo; era su segundo hackatón de Jev en la semana y ya lo había integrado en el 80% de la infraestructura de código de su agente. Avram Cheaney añadió Jev a JunkDrawer.ai, su buscador de IA para eBay, y aseguró que el resultado era drásticamente más barato y drásticamente más rápido que usar solo LLM. Jalaja Kurubarahalli, cofundadora de Quintess AI, espera que Jev reduzca la latencia de las herramientas de voz para trabajadores de mantenimiento, y el ingeniero de robótica Hitesh Viswasam apuntó que podría ayudar a los robots a reaccionar al calor o al peligro a velocidad humana.

El interés inversor tampoco se ha hecho esperar: según The Information, algunos capitalistas de riesgo han ofrecido invertir en TypeSafe con una valoración de 10.000 millones de dólares.

OpenAI entra en escena

El martes, durante su Dev Day, OpenAI presentó la Decisions API, un producto que TechCrunch describe como parecido a Jev. Sam Altman la definió como una forma de dar al modelo Luna un conjunto predefinido de opciones, como categorías para clasificar una imagen o comportamientos de un agente.

“Al centrar el modelo en esa opción, podemos hacerlo extremadamente rápido mientras mantenemos capacidades como la comprensión de imágenes, el amplio soporte de idiomas y las protecciones de seguridad”, afirmó Altman.

TypeSafe no respondió a las preguntas sobre el nuevo producto. Almeida, por su parte, bromeó en X sobre el comienzo de la guerra de los clones y dijo que el interés de OpenAI “podría ser una señal… de que construir de forma compatible con System One es el futuro”. System One es el término de TypeSafe para el pensamiento rápido e intuitivo, frente al System 2, el deliberado.

OpenAI ha lanzado la Decisions API en vista previa limitada y TechCrunch aún no ha visto a desarrolladores probándola a fondo: no está claro hasta qué punto se parecerá a Jev.

Decisiones rápidas y baratas

Para Almeida, la clave no está solo en la velocidad, sino en la inteligencia por dólar. Según TechCrunch, una vigilancia de agentes de IA que usara Jev podría haber frenado el incidente de Hugging Face, y costaría 2,94 dólares frente a los 372 dólares de un modelo de frontera.

OpenAI, tras una serie de incidentes en los que sus agentes actuaron mal en internet, adoptó una medida de seguridad que usa un modelo separado para vigilar sus acciones a un coste computacional significativo. Shapor Naghibzadeh, experto en ciberseguridad que lidera QueryStory, construyó para el hackatón una demo que revisa cada acción de un agente contra la tarea asignada: bloquea las acciones que juzga malas, manda otras a revisión y deja pasar el resto.

El foso de TypeSafe, según Almeida, reside en los datos sintéticos que genera para producir resultados estadísticamente útiles.

“Rápido y barato es muy fácil. Si quieres algo realmente rápido y barato, usa dados. La inteligencia es la parte difícil, y mi norte siempre es empujar la curva de Pareto de inteligencia por dólar”, dijo Almeida la semana pasada.