[19/04/2024] Intel anunció que ha construido el sistema neuromórfico más grande del mundo. Con el nombre en código Hala Point, la empresa señaló en el comunicado de prensa que este sistema neuromórfico a gran escala, implementado inicialmente en los Laboratorios Nacionales Sandia, utiliza el procesador Loihi 2 de Intel, tiene como objetivo apoyar la investigación de la futura inteligencia artificial (IA) inspirada en el cerebro y aborda los desafíos relacionados con la eficiencia y la sostenibilidad de la IA actual.
"Hala Point avanza en el sistema de investigación a gran escala de primera generación de Intel, Pohoiki Springs, con mejoras arquitectónicas para lograr más de 10 veces más capacidad neuronal y hasta 12 veces más rendimiento”, sostuvo Mike Davies, director del Laboratorio de Computación Neuromórfica de Intel Labs.
Según el ejecutivo, Hala Point es el primer sistema neuromórfico a gran escala que demuestra eficiencias computacionales de última generación en cargas de trabajo de IA convencionales. "La caracterización muestra que puede soportar hasta 20 cuatrillones de operaciones por segundo, o 20 petaops, con una eficiencia superior a 15 mil millones de operaciones de 8 bits por segundo por vatio (TOPS/W) cuando se ejecutan redes neuronales profundas convencionales. "Esto rivaliza y supera los niveles alcanzados por las arquitecturas construidas sobre unidades de procesamiento gráfico (GPU) y unidades centrales de procesamiento (CPU). Las capacidades únicas de Hala Point podrían permitir el aprendizaje continuo en tiempo real para futuras aplicaciones de IA, como la resolución de problemas científicos y de ingeniería, la logística, la gestión de infraestructuras de ciudades inteligentes, los grandes modelos de lenguaje (LLM) y los agentes de IA”.
Los investigadores de los Laboratorios Nacionales Sandia planean utilizar Hala Point para la investigación avanzada de la computación a escala cerebral. La organización se centrará en la resolución de problemas de computación científica en física de dispositivos, arquitectura de computadoras, ciencias de la computación e informática.
Actualmente, anotó Davies, Hala Point es un prototipo de investigación que mejorará las capacidades de los futuros sistemas comerciales. Intel anticipa que estas lecciones conducirán a avances prácticos, como la capacidad de los LLM para aprender continuamente de los nuevos datos. Estos avances prometen reducir significativamente la carga de entrenamiento insostenible de las implementaciones generalizadas de IA.
"Avanzando sobre su predecesor, Pohoiki Springs, con numerosas mejoras, Hala Point ahora aporta ganancias de rendimiento y eficiencia neuromórficas a los modelos convencionales de aprendizaje profundo, en particular aquellos que procesan cargas de trabajo en tiempo real, como video, voz y comunicaciones inalámbricas”, comento el ejecutivo.
Davies explicó que los procesadores neuromórficos Loihi 2, que forman la base de Hala Point, aplican principios informáticos inspirados en el cerebro, como redes neuronales de picos (SNN) asíncronas basadas en eventos, memoria y computación integradas, y conexiones dispersas y continuamente cambiantes para lograr ganancias de órdenes de magnitud en el consumo de energía y el rendimiento. Las neuronas se comunican directamente entre sí en lugar de comunicarse a través de la memoria, lo que reduce el consumo total de energía.
"Hala Point empaqueta 1.152 procesadores Loihi 2 producidos en el nodo de proceso Intel 4 en un chasis de centro de datos de seis unidades de rack del tamaño de un horno microondas. El sistema soporta hasta 1.150 millones de neuronas y 128 mil millones de sinapsis distribuidas en 140.544 núcleos de procesamiento neuromórfico, consumiendo un máximo de 2.600 vatios de potencia. También incluye más de 2.300 procesadores x86 integrados para cálculos auxiliares”, explicó Davies.
Agregó que Hala Point integra canales de procesamiento, memoria y comunicación en una estructura paralelizada de forma masiva, lo que proporciona un total de 16 petabytes por segundo (PB/s) de ancho de banda de memoria, 3,5 PB/s de ancho de banda de comunicación entre núcleos, y 5 terabytes por segundo (TB/s) de ancho de banda de comunicación entre chips. El sistema puede procesar más de 380 mil millones de sinapsis de 8 bits y más de 240 mil millones de operaciones neuronales por segundo.
"Los sistemas basados en Loihi pueden realizar inferencias de IA y resolver problemas de optimización utilizando 100 veces menos energía a velocidades hasta 50 veces más rápidas que las arquitecturas convencionales de CPU y GPU. Al explotar una conectividad dispersa de hasta 10:1 y una actividad basada en eventos, los primeros resultados en Hala Point muestran que el sistema puede lograr eficiencias de red neuronal profundas de hasta 15 TOPS/W2 sin necesidad de recopilar datos de entrada en lotes, una optimización común para las GPU que retrasa significativamente el procesamiento de los datos que llegan en tiempo real, como el video de las cámaras. Si bien aún están en investigación, los futuros LLM neuromórficos capaces de aprendizaje continuo podrían resultar en gigavatios-hora de ahorro de energía al eliminar la necesidad de volver a capacitarse periódicamente con conjuntos de datos en constante crecimiento”, anotó el ejecutivo.
Davies finalizó indicando que la entrega de Hala Point a Sandia National Labs marca el primer despliegue de una nueva familia de sistemas de investigación neuromórfica a gran escala que Intel planea compartir con sus colaboradores de investigación. Un mayor desarrollo permitirá que las aplicaciones de computación neuromórfica superen las limitaciones de potencia y latencia que limitan el despliegue de las capacidades de IA en el mundo real y en tiempo real.
Franca Cavassa, CTOPerú