[05/05/2025] Writer ha lanzado su modelo de base más nuevo y avanzado, Palmyra X5. Según lo señalado en el comunicado de prensa, el modelo de razonamiento adaptativo de última generación presenta una ventana de contexto de un millón de tokens y una mayor velocidad y eficiencia. Además, Writer y Amazon Web Services (AWS) anunciaron la disponibilidad de Palmyra X5 en Amazon Bedrock, un servicio completamente administrado que ofrece a los desarrolladores acceso a modelos de alto rendimiento de las principales empresas de IA a través de una sola API.
"Entrenado con datos sintéticos por solo un millón de dólares en GPU, Palmyra X5 ofrece las capacidades de razonamiento dinámico y la confiabilidad de nivel empresarial necesarias para escalar la próxima era de agentes en la empresa. Por primera vez en la industria, Writer también anunció que ahora está estableciendo un millón de tokens como el tamaño mínimo de la ventana de contexto para todos los modelos de lenguaje grandes que lance en el futuro, gracias al innovador diseño de transformador del modelo y a los mecanismos de atención híbridos que logran una eficiencia revolucionaria y una precisión de contexto largo”, sostuvo el CTO y cofundador de Writer, Waseem AlShikh.
Según el ejecutivo, en la era de los agentes, los modelos que ofrecen menos de un millón de tokens de contexto se volverán rápidamente irrelevantes para los casos de uso críticos para el negocio. "Las grandes ventanas de contexto y la alta eficiencia son cruciales para impulsar a los agentes que pueden recurrir a docenas de herramientas externas y razonar a través de la enorme cantidad de datos contextuales necesarios para operar dentro de una empresa. Palmyra X5 marca un punto de inflexión en los modelos que Writer puede ofrecer para potenciar los flujos de trabajo agentivos que nuestros clientes están construyendo dentro de nuestra plataforma".
Velocidad y eficiencia para agentes de IA de varios pasos
De acuerdo a AlShikh, Palmyra X5 es uno de los LLM de contexto grande más rápidos y rentables del mercado, ya que desbloquea comportamientos de los agentes que antes eran prohibitivos en cuanto a costo o tiempo. "El modelo puede absorber un mensaje completo de un millón de tokens en ~22 segundos y puede devolver turnos de llamada a funciones individuales en ~0,3 segundos. Palmyra X5 tiene un precio de solo 0,60 dólares por un millón de tokens de entrada y seis dólares por un millón de tokens de salida”.
El ejecutivo añadió que el lanzamiento de Palmyra X5 se produce inmediatamente después del lanzamiento de AI HQ por parte de Writer, un nuevo centro para que los equipos construyan, activen y supervisen fácilmente a los agentes de IA, impulsado por la familia de modelos Palmyra de Writer.
AlShikh señaló, asimismo que, Palmyra X5 cumple con la visión de AI HQ al permitir que las empresas creen e implementen agentes de IA más sofisticados en Writer utilizando capacidades como:
- Posibilidad de llamar a herramientas en sistemas externos y llamar a agentes de Writer como herramientas
- Generación aumentada de recuperación (RAG) incorporada y conectores web
- Delegación de modelos dinámicos para recurrir a los modelos específicos del dominio de Writer, incluidos Palmyra Fin, Palmyra Med y Palmyra Creative
- Posibilidad de utilizar imágenes como entradas
- Generación e implementación de código
- Capacidades multilingües en +30 idiomas
- Transparencia y fiabilidad de nivel empresarial
Palmyra X5 y Palmyra X4 ya están disponibles en Amazon Bedrock
Palmyra X5 está disponible a través de la plataforma integral de Writer y en Amazon Bedrock. Palmyra X4, el modelo básico de la generación anterior de Writer con una ventana de contexto de 128 mil tokens, ahora también está disponible en Amazon Bedrock, y pronto estarán disponibles modelos adicionales de Writer.
AWS es el primer proveedor de servicios en la nube que ofrece modelos completamente administrados de Writer. "La introducción de los modelos de Palmyra en Amazon Bedrock amplía su cartera de modelos, lo que refuerza el compromiso de AWS de ofrecer a los clientes una selección diversa de modelos de IA para sus casos de uso. Esta colaboración permite a los clientes de AWS y Writer crear y escalar agentes de IA generativa de nivel empresarial sin administrar la infraestructura subyacente”, sostuvo, por su parte, Atul Deo, director de Amazon Bedrock en AWS.
Franca Cavassa, CTOPerú