[18/03/2024] Akamai Technologies y Neural Magic, un desarrollador de software que acelera las cargas de trabajo de inteligencia artificial (IA), han anunciado una asociación estratégica destinada a potenciar las capacidades de aprendizaje profundo en la infraestructura de computación distribuida de Akamai. Según lo señalado en el comunicado de prensa, la solución combinada brindará a las empresas una plataforma de alto rendimiento para ejecutar software de IA de aprendizaje profundo de manera eficiente en servidores basados en CPU.
"La solución de Neural Magic permite que los modelos de aprendizaje profundo se ejecuten en servidores rentables basados en CPU, en lugar de en costosos recursos de GPU. El software acelera las cargas de trabajo de IA mediante tecnologías automatizadas de dispersión de modelos, disponibles como motor de inferencia de CPU, que complementan la capacidad de Akamai para escalar, proteger y entregar aplicaciones en el perímetro. Esto permite a las empresas implementar las capacidades en toda la infraestructura informática distribuida globalmente de Akamai, lo que ofrece a las organizaciones una latencia más baja y un rendimiento mejorado para las aplicaciones de IA con uso intensivo de datos”, comentó Ramanath Iyer, estratega jefe de Akamai.
Además, agregó el ejecutivo, la asociación puede ayudar a fomentar la innovación en torno a la inferencia de IA perimetral en una gran cantidad de industrias. "Las capacidades combinadas de Akamai y Neural Magic son especialmente adecuadas para aplicaciones en las que se generan cantidades masivas de datos de entrada cerca del perímetro, lo que proporciona una potencia de procesamiento asequible y una seguridad más cercana a las fuentes de datos. Akamai ha anunciado recientemente una nueva iniciativa de computación perimetral generalizada (Gecko) para integrar las capacidades de computación en la nube en su enorme red perimetral, lo que en última instancia ayudará a dar soporte a dichas aplicaciones y cargas de trabajo, entre muchas otras”.
John O'Hara, vicepresidente senior de ingeniería y director de operaciones de Neural Magic, señaló, por su parte, que entregar modelos de IA de manera eficiente en el borde es un desafío mayor de lo que la mayoría de la gente cree. "El hardware especializado o costoso, y los requisitos de energía y entrega asociados, no siempre están disponibles o son factibles, lo que hace que las organizaciones pierdan efectivamente los beneficios de ejecutar la inferencia de IA en el borde".
Akamai y Neural Magic comparten un origen común, ya que ambos nacieron en el Instituto Tecnológico de Massachusetts (MIT). Siguen manteniendo sus respectivas sedes corporativas en las inmediaciones.
Franca Cavassa, CTOPerú