El nuevo modelo de IA lowcost que amenaza a OpenAI y Anthropic

Jev, dirigido casi exclusivamente a desarrolladores de software, ha despertado un gran interés en el sector tecnológico y se ha vuelto viral en las redes sociales desde que TypeSafe salió del llamado "modo sigiloso" la semana pasada. Su video de lanzamiento en X generó 40 millones de visualizaciones en menos de una semana.

Antes del lanzamiento de Jev, la startup estaba valorada en US$ 200 millones. Sin embargo, según fuentes familiarizadas con el asunto, ya está recibiendo propuestas de posibles inversores con ofertas de financiación que la valorarían en US$ 10.000 millones o más.

Este entusiasmo refleja una creciente preocupación entre las empresas por el costo que supone implementar la IA. TypeSafe apuesta por que muchas tareas rutinarias que ahora se encomiendan a costosos modelos de uso general puedan realizarse, en su lugar, mediante sistemas más baratos y especializados. Si la idea cobra impulso, podría ejercer presión sobre los modelos de negocio de empresas pioneras en IA como OpenAI y Anthropic.

Almeida explicó al FT que se le ocurrió la idea de Jev mientras trabajaba en OpenAI hace cuatro años, cuando se preguntaba si los chatbots eran la mejor herramienta para todas las tareas que se le podían pedir a la IA que realizara.

"Supongamos que realmente se produjera una revolución económica basada en la IA: ¿qué porcentaje de esas solicitudes a la IA se destinaría al consumo humano… frente al consumo informático?", recordó.

El argumento de TypeSafe es que los modelos de lenguaje grande (LLM), diseñados para interactuar con seres humanos, no son adecuados para el tipo de tareas programáticas, repetitivas y de gran volumen que muchas empresas globales están intentando automatizar mediante la IA.

"ChatGPT es mucho más inteligente que yo. Sin embargo, por alguna razón, el trabajo en áreas donde existe un increíble incentivo económico para automatizar no se está automatizando en este momento. Porque, actualmente, la IA es muy mala en eso", afirmó Almeida.

Jev no genera frases, explicaciones ni imágenes, sino que promete decisiones rápidas y económicas dentro de aplicaciones de software. Las tareas de "clasificación" para las que se puede utilizar incluyen, por ejemplo, decidir si se aprueba, se bloquea o se revisa una solicitud, redirigir un ticket de asistencia técnica o evaluar el riesgo de un seguro o de crédito.

El modelo está diseñado para que los desarrolladores lo integren en el back-end de su software y no cuenta con una interfaz dirigida al consumidor. Un desarrollador lo integró en una página web de broma, "AskJev", un homenaje al desaparecido motor de búsqueda Ask Jeeves, que se hizo viral en las redes sociales.

James Hardiman, socio general de DCVC —la empresa de capital riesgo de Silicon Valley que lideró la ronda de financiación más reciente de TypeSafe—, afirmó que la startup ya era rentable gracias a los costos informáticos drásticamente más bajos de su producto, lo que hace que su modelo sea "órdenes de magnitud" más barato de usar que los principales modelos de lenguaje grande (LLM).

Señaló que la popular herramienta de IA de la empresa, destinada a tareas fundamentalmente cotidianas, llegó al mercado en un momento en el que la preocupación por los peligros de los modelos más avanzados se disparaba.

"Literalmente, hace una semana todo el mundo hablaba del apocalipsis de la IA . . . En cierto modo, Jev aportó algo de sensatez a ese debate".

Reducir el costo de una respuesta de IA es fundamental para su atractivo. El nombre "Jev" hace referencia a la paradoja de Jevons, la observación económica de que abaratar un recurso o hacerlo más eficiente puede, en última instancia, aumentar su consumo total a medida que surgen nuevos usos.

Mientras que los grandes modelos de lenguaje procesan largas cadenas de razonamiento que pueden consumir mucha potencia de cálculo, TypeSafe afirma que su modelo selecciona rápidamente entre un rango limitado de posibles respuestas basándose en un cálculo de probabilidad.

Los métodos subyacentes se asemejan más a los antiguos sistemas de aprendizaje automático, que eran deterministas, generaban respuestas fijas a las consultas y, por lo tanto, no producían "alucinaciones".

Esto, a su vez, reduce el número de "tokens" que consume, lo que reduce el costo. La empresa afirma que cada consulta es unas cien veces más barata y rápida de procesar que con los LLM, con un costo de unos 4,2 céntimos por millón de tokens, frente a los LLM, que pueden costar varios dólares por millón.

La plataforma de alojamiento Vercel afirmó que Jev despertó más del doble de interés entre las cuentas de desarrolladores de pago en sus primeras 24 horas que cualquier lanzamiento de modelo anterior, eclipsando a los de empresas pioneras como OpenAI y Anthropic.

OpenRouter, otra pasarela en línea para modelos de IA, informó de que durante el fin de semana el número de tokens introducidos en Jev —una medida del número de solicitudes que procesó— se triplicó con creces.

Andrej Karpathy, cofundador de OpenAI recientemente contratado por Anthropic, escribió en X que Jev parecía haber aprovechado la "demanda latente" de modelos que ofrecen decisiones sencillas, baratas y rápidas, en un ámbito en el que se ha "invertido poco debido a la carrera por una inteligencia superior" por parte de las empresas pioneras en modelos de IA.

Sin embargo, el hermetismo de TypeSafe sobre cómo ha entrenado su sistema y su similitud con herramientas ya existentes han llevado a algunos a cuestionar hasta qué punto Jev resultará revolucionario.

Anastasios Angelopoulos, cofundador y director ejecutivo de Arena, una plataforma de evaluación de modelos de IA, afirmó: "No tengo claro qué diferencia a estos modelos de los 'clasificadores zero-shot' estándar, que son una tecnología relativamente conocida".

Meta, Google y Hugging Face ya ofrecen herramientas de clasificación capaces de categorizar material con el que no han sido entrenadas explícitamente. TypeSafe ha mantenido en el más estricto secreto los detalles sobre cómo entrenó a Jev, utilizando modelos de peso abierto y datos "sintéticos" generados por computador.

La startup cerró su ronda de financiamiento inicial de US$ 40 millones con una valoración de US$ 200 millones hace más de un año, añadió Almeida. Se negó a hablar de ninguna nueva ronda de financiación ni de nuevos inversores concretos, pero confirmó que los posibles inversores estaban "llamando a nuestra puerta sin cesar".

"Somos una tropa de misioneros, la chispa de una revolución . . . así que eso es algo en lo que hay que pensar de verdad a la hora de hacer crecer la empresa y no perder el rumbo", afirmó.