[06(06/2024] Snowflake ha anunciado en su conferencia anual de usuarios, Snowflake Summit 2024, nuevas innovaciones y mejoras en Snowflake Cortex AI, señalando que éstas desbloquean la próxima ola de IA empresarial para los clientes con formas fáciles, eficientes y fiables de crear aplicaciones impulsadas por IA. Según lo señalado en el comunicado de prensa, esto incluye nuevas experiencias de chat, que permiten a las organizaciones desarrollar chatbots en cuestión de minutos para que puedan hablar directamente con los datos de su empresa y obtener las respuestas que necesitan, más rápido.
Además, Snowflake está introduciendo una nueva interfaz interactiva sin código, acceso a grandes modelos de lenguaje (LLM) y ajustes sin servidor. Snowflake también está acelerando el camino para la puesta en marcha de modelos con una experiencia integrada para el aprendizaje automático (ML) a través de Snowflake ML, lo que permite a los desarrolladores crear, descubrir y gobernar modelos y características a lo largo del ciclo de vida de ML.
"Snowflake está en el epicentro de la IA empresarial, poniendo la IA fácil, eficiente y confiable en manos de cada usuario para que puedan resolver sus desafíos comerciales más complejos, sin comprometer la seguridad o la gobernanza", sostuvo Baris Gultekin, director de IA de Snowflake. "Nuestros últimos avances en Snowflake Cortex AI eliminan las barreras de entrada para que todas las organizaciones puedan aprovechar la IA para crear potentes aplicaciones de IA a escala y desbloquear una diferenciación única con sus datos empresariales en AI Data Cloud".
El ejecutivo anotó que los chatbots impulsados por LLM son una forma para que cualquier usuario haga preguntas de los datos de su empresa utilizando lenguaje natural, desbloqueando la información que las organizaciones necesitan para la toma de decisiones críticas con mayor velocidad y eficiencia. "Snowflake presenta dos nuevas capacidades de chat, Snowflake Cortex Analyst (versión preliminar pública pronto) y Snowflake Cortex Search (versión preliminar pública pronto), lo que permite a los usuarios desarrollar estos chatbots en cuestión de minutos contra sus datos estructurados y no estructurados, sin complejidad operativa. Cortex Analyst, creado con los modelos Llama 3 y Mistral Large de Meta, permite a las empresas crear aplicaciones de forma segura sobre sus datos analíticos en Snowflake. Además, Cortex Search aprovecha la tecnología de recuperación y clasificación de última generación de Neeva (adquirida por Snowflake en mayo del 2023) junto con la incrustación de Snowflake Arctic, para que los usuarios puedan crear aplicaciones contra documentos y otros conjuntos de datos basados en texto a través de la búsqueda híbrida de nivel empresarial, una combinación de vectores y texto, como servicio”.
Gultekin anotó que la seguridad de los datos es clave para generar en producción aplicaciones de IA y experiencias de chat, y luego escalarlas en todas las empresas. "Como resultado, Snowflake presenta Snowflake Cortex Guard (disponible para el público en general pronto), que aprovecha Llama Guard de Meta, una protección de entrada-salida basada en LLM que filtra y marca el contenido dañino en los datos y activos de la organización, como la violencia y el odio, las autolesiones o las actividades delictivas”.
Snowflake fortalece las experiencias de IA para acelerar la productividad
Además de permitir el fácil desarrollo de experiencias de chat personalizadas, el ejecutivo indicó que Snowflake ofrece a los clientes experiencias prediseñadas impulsadas por IA, que se alimentan de los modelos de clase mundial de Snowflake. "Con Document AI (disponible para el público en general próximamente), los usuarios pueden extraer fácilmente contenido como los importes de las facturas o los términos de los contratos de los documentos utilizando el LLM multimodal de Snowflake, Snowflake Arctic-TILT, que supera a GPT-4 y obtuvo la máxima puntuación en la prueba de referencia DocVQA, el estándar para la respuesta a preguntas de documentos visuales. Snowflake también está avanzando en su innovador asistente de texto a SQL, Snowflake Copilot (disponible para el público en general pronto), que combina las fortalezas de Mistral Large con el modelo de generación de SQL patentado de Snowflake para acelerar la productividad de todos los usuarios de SQL”.
Desbloquear el desarrollo de IA sin código
Gultekin agregó que Snowflake Cortex AI proporciona a los clientes un sólido conjunto de modelos de última generación de proveedores como Google, Meta, Mistral AI y Reka, además del LLM de código abierto de primer nivel Snowflake Arctic, para acelerar el desarrollo de la IA. "Snowflake está democratizando aún más la forma en que cualquier usuario puede llevar estos potentes modelos a sus datos empresariales con el nuevo Snowflake AI & ML Studio (versión preliminar privada), una interfaz interactiva sin código para que los equipos comiencen con el desarrollo de IA y produzcan sus aplicaciones de IA más rápido. Además, los usuarios pueden probar y evaluar fácilmente estos modelos para encontrar el mejor y más rentable ajuste para sus casos de uso específicos, lo que en última instancia acelera el camino hacia la producción y optimiza los costos operativos”, explicó el ejecutivo.
Snowflake también está presentando Cortex Fine-Tuning (ahora versión preliminar pública), accesible a través de AI & ML Studio o una función SQL simple. "Esta personalización sin servidor está disponible para un subconjunto de modelos de IA de Meta y Mistral. Estos modelos ajustados se pueden utilizar fácilmente a través de una función de IA de Cortex, con acceso gestionado mediante controles de acceso basados en roles de Snowflake”, indicó Gultekin.
Optimizar la gestión de modelos y características con MLOps
Gultekin sostuvo que, una vez que se desarrollan los modelos de ML y los LLM, la mayoría de las organizaciones luchan por operarlos continuamente en producción en conjuntos de datos en evolución. "Snowflake ML lleva las capacidades de MLOps a AI Data Cloud, para que los equipos puedan descubrir, administrar y gobernar sin problemas sus funciones, modelos y metadatos a lo largo de todo el ciclo de vida de ML, desde el preprocesamiento de datos hasta la administración de modelos. Estas capacidades centralizadas de MLOps también se integran con el resto de la plataforma de Snowflake, incluidos Snowflake Notebooks y Snowpark ML para una experiencia sencilla de extremo a extremo”.
El ejecutivo agregó que el conjunto de capacidades de MLOps de Snowflake incluye el Registro de modelos de Snowflake (ahora disponible de forma general), que permite a los usuarios controlar el acceso y el uso de todo tipo de modelos de IA para que puedan ofrecer experiencias más personalizadas y automatizaciones que ahorren costos con confianza y eficiencia.
"Además, Snowflake anuncia Snowflake Feature Store (ahora versión preliminar pública), una solución integrada para que los científicos de datos y los ingenieros de ML creen, almacenen, administren y sirvan funciones de ML consistentes para el entrenamiento y la inferencia de modelos, y ML Lineage (versión preliminar privada), para que los equipos puedan rastrear el uso de características, conjuntos de datos y modelos a lo largo del ciclo de vida de ML de extremo a extremo”, finalizó Gultekin.
Franca Cavassa, CTOPerú