
[24/07/2024] Google anunció la incorporación de la familia de modelos Llama 3.1, incluido un nuevo modelo 405B, el modelo más potente y versátil de Meta hasta la fecha, a Vertex AI Model Garden. Según lo señalado en el comunicado de prensa, estas incorporaciones continúan el compromiso de Google Cloud con los ecosistemas de IA abiertos y flexibles que te ayudan a crear las soluciones que mejor se adapten a sus necesidades.
"Vertex AI proporciona una colección seleccionada de modelos propios, de código abierto y de terceros, muchos de los cuales, incluidos los nuevos modelos de Llama, se pueden entregar como ofertas de modelo como servicio (MaaS) totalmente administradas. Con MaaS, puede elegir el modelo básico que se adapte a sus necesidades, acceder a él simplemente a través de una API, adaptarlo con herramientas de desarrollo sólidas e implementarlo en nuestra infraestructura totalmente administrada, todo con la simplicidad de una sola factura y una infraestructura sin complicaciones”, sostuvo Warren Barkley, director senior y producto manager de AI Cloud.
El ejecutivo anotó que Llama 3.1 de Meta presenta una familia de modelos adaptados a diversas aplicaciones:
- Llama 3.1 405B: Barkley indicó que el modelo de cimentación más grande disponible abiertamente hasta la fecha, Llama 3.1 405B establece un nuevo estándar entre los modelos abiertos de flexibilidad, control e innovación. "Este modelo abre un abanico de nuevas posibilidades, desde la generación de datos sintéticos y la potenciación de tareas de razonamiento complejas hasta el manejo sin esfuerzo de escenarios de inferencia directa con un ajuste mínimo”.
- Llama 3.1 8B y 70B: Estas nuevas versiones de los modelos Llama 3 destacan por comprender los matices del lenguaje, captar el contexto y realizar tareas complejas como la traducción y la generación de diálogos.
"Puede acceder al nuevo modelo 405B con solo unos pocos clics utilizando Model-as-a-Service en vista previa aquí, sin problemas de configuración o infraestructura. La disponibilidad general comienza en las próximas semanas. Los modelos 8B y 70B también estarán disponibles como MaaS en las próximas semanas. Los tres modelos están disponibles para autoservicio en Vertex AI Model Garden a partir de hoy, lo que le brinda la flexibilidad de elegir su infraestructura preferida”, indicó el ejecutivo.
Agregó que estos modelos están disponibles como versiones preentrenadas y ajustadas a las instrucciones para satisfacer necesidades específicas, e incluyen un contexto ampliado de 128.000 tokens, lo que ofrece una comprensión más profunda de textos más largos y complejos que las generaciones anteriores. Los modelos Llama 3.1 también incluyen soporte multilingüe en ocho idiomas, lo que amplía aún más su alcance y aplicabilidad.
Franca Cavassa, CTOPerú