OpenAI presenta nuevas funciones de texto generativo al mismo tiempo que reduce los precios

A medida que la competencia en el espacio de la IA generativa se vuelve cada vez más feroz, OpenAI está actualizando sus modelos de generación de texto y reduciendo los precios.

Hoy, Open AI anuncio el lanzamiento de nuevas versiones de GPT-3.5-turbo y GPT-4, siendo esta última su última IA generadora de texto, con una habilidad llamada llamada de función. Como explica OpenAI en un entrada en el blogLa llamada de función permite a los desarrolladores describir funciones de programación para GPT-3.5-turbo y GPT-4 y hacer que los modelos creen código para realizar esas funciones.

Por ejemplo, las llamadas a funciones pueden ayudar a crear chatbots que respondan preguntas llamando a herramientas externas, conviertan el lenguaje natural en consultas de bases de datos y extraigan datos estructurados del texto. «Estos modelos se han ajustado para detectar cuándo se debe llamar a una función… y para responder con JSON que se adhiere a la firma de la función”, escribe OpenAI. «La llamada de función permite a los desarrolladores recuperar datos estructurados del modelo de manera más confiable».

Más allá de la llamada de función, OpenAI presenta una versión de GPT-3.5-turbo con una ventana emergente significativamente ampliada. Ventana emergente, medida en fichaso fragmentos de texto en bruto, se refiere al texto que el modelo considera antes de generar cualquier texto adicional. Los modelos con pequeñas ventanas emergentes tienden a «olvidar» el contenido incluso de conversaciones muy recientes, lo que hace que se desvíen del tema, a menudo de manera problemática.

El nuevo GPT-3.5-turbo ofrece cuatro veces la longitud del contexto (16 000 tokens) del Vanilla GPT-3.5-turbo al doble del precio: $0,003 por 1000 tokens de entrada (es decir, los tokens introducidos en el modelo) y $0,004 por 1000 tokens de salida (tokens generados por el modelo). OpenAI dice que puede ingerir alrededor de 20 páginas de texto a la vez, por debajo de los cientos de páginas que el modelo insignia de la startup Anthropic puede manejar, en particular. (OpenAI está probando una versión de GPT-4 con una ventana de contexto de 32 000 tokens, pero solo en versión limitada).

En el lado positivo, OpenAI dice que está reduciendo el precio de GPT-3.5-turbo, el original, no la versión con la ventana emergente extendida, en un 25%. Los desarrolladores ahora pueden usar la plantilla por $0.0015 por 1000 tokens de entrada y $0.002 por 1000 tokens de salida, lo que equivale a alrededor de 700 páginas por dólar.

El precio también tiene descuento para text-embedding-ada-002, una de las plantillas de incrustación de texto más populares de OpenAI. Las incrustaciones de texto miden la relación de las cadenas de texto y se usan comúnmente para búsquedas (donde los resultados se clasifican según su relevancia para una cadena de consulta) y recomendaciones (donde se recomiendan elementos con cadenas de texto asociadas) .

Text-embedding-ada-002 ahora cuesta $0.0001 por 1,000 tokens, un 75% de descuento del precio anterior. OpenAI dice que la reducción fue posible gracias a una mayor eficiencia en sus sistemas, un área clave para la puesta en marcha, sin duda, ya que gasta cientos de millones dólares en I+D e infraestructura.

OpenAI ha señalado que las actualizaciones incrementales de los modelos existentes, no los nuevos modelos masivos desde cero, son su modus operandi después del lanzamiento de GPT-4 a principios de marzo. En una conferencia reciente organizada por Economic Times, el CEO Sam Altman reafirmó que OpenAI no ha comenzado a entrenar al sucesor de GPT-4 y dijo que la compañía «tiene mucho trabajo por hacer» antes de lanzar este modelo.