Hemos estado atentos a los esfuerzos de Intel Neuromorphic desde que lanzó su primer silicio de 14 nm dedicado a la computación neuronal, llamado Loihi, A principios de 2018. En una entrevista con Director del Laboratorio Intel, Dr. Richard Oleg En marzo de 2021, pregunté sobre el desarrollo de hardware y cuándo podríamos ver la segunda generación. Hoy es ese día, y el grupo está anunciando el Loihi 2, una gran mejora con respecto a la primera generación que come mucha fruta que cuelga del primer diseño. Quizás lo interesante es el nodo de proceso utilizado: Intel informa que Loihi 2 se está construyendo, en silicio hoy, utilizando una versión de preproducción del primer nodo de procesamiento EUV de Intel, Intel 4.

Computación neuronal de Intel

Al crear una arquitectura que está intrínsecamente diseñada como un cerebro, la idea es que tener millones de neuronas y sinapsis resultará en tareas computacionales con ventajas únicas de fuerza / rendimiento en las tareas específicas para las que están diseñados los cerebros. Es un producto comercial potencial a largo plazo para Intel, pero la misión del equipo era desarrollar tecnología y software para descubrir y acelerar tareas adecuadas para la computación de tipo neurona.

El laboratorio neuromórfico de Intel ya había confirmado su adquisición de Fulcrum Microsystems en 2011. En ese momento, el equipo de Fulcrum era un grupo de computación asincrónica que trabajaba en conmutadores de red. Esta tecnología se transfirió al Networking Group dentro de Intel, y el departamento de investigación centró su atención en otros usos de la computación asincrónica y se decantó por Neuromorphic.

En ese momento, la investigación sobre este tipo de arquitectura de computación neuronal para cargas de trabajo reales era bastante incipiente, mientras que el campo de campo estaba allí. Desde finales de los ochenta، proyecto del cerebro humano, un proyecto de investigación de diez años financiado por la UE para estudiar esta área, no se estableció hasta 2013, y es con esto en mente Espinaquer En 2019, con 1 millón de chips, mil millones de neuronas, 100 kilovatios de potencia activa.

En comparación, la primera generación de Intel Loihi admite 131.000 neuronas por 60 mm² Un chip y los 768 chips que se pueden juntar en un solo sistema Pohoiki Springs que contiene 100 millones de neuronas a solo 300 vatios. En el marketing de Intel, lo describieron como el equivalente a un hámster. El nuevo chip Loihi 2 de alto nivel utiliza 31 mm² por rebanada para 1 millón de neuronas, lo que resulta en un aumento de 15 veces en la densidad, sin embargo, la evolución va más allá de los números brutos.

Loihi 2

Un chip Loihi 2 de alto nivel podría tener el mismo aspecto: 128 neuronas, pero ahora cada núcleo tiene 8 veces más neuronas y sinapsis. Cada uno de estos 128 núcleos contiene 192 KB de memoria elástica, en comparación con el anterior en el que se fijaba por núcleo en tiempo de ejecución, y cada neurona podía asignarse hasta 4096 estados según el modelo, mientras que el límite anterior era de solo 24. También puede ser completamente programable, similar a un FPGA, lo que permite una mayor flexibilidad.

Tradicionalmente, las neuronas y los cognetos presentan datos en un evento binario, lo que hizo Loihi v1. Con Loihi 2, estos eventos se pueden categorizar con una carga útil de 32 bits, lo que proporciona una mayor flexibilidad para el cálculo en el chip. Estos eventos ahora se pueden monitorear en tiempo real usando las nuevas funciones de desarrollo / depuración en chip, en lugar de pausar / leer / reproducir. Además, esto también permite un mejor control cuando las cargas de trabajo informáticas cambian dinámicamente, como la presión del ventilador, la escala de peso, las convoluciones y la transmisión.

Quizás una de las mayores mejoras es la conectividad. La primera generación utilizó un protocolo asincrónico personalizado para crear una gran red 2D de neuronas, mientras que Loihi 2 se puede configurar para usar una variedad de protocolos según las necesidades, pero también en una red 3D. Se nos dice que el Loihi 2 no es solo un chip único, sino que será un grupo de chips con la misma arquitectura de neuronas pero con una variedad de opciones de conectividad diferentes basadas en casos de uso específicos. Esto se puede utilizar junto con los aceleradores de compresión de mensajes incorporados para un aumento efectivo de 10 veces en el ancho de banda de chip a chip.

Esto también extiende la conectividad externa de Loihi a la computación mediada por FPGA más tradicional; ahora Loihi 2 admite Ethernet 10G, GPIO y SPI. Esto debería permitir una integración más fácil sin la necesidad de sistemas personalizados, como la creación de grupos de cuentas clasificados de Loihi 2.

Basado en Intel 4

Nos sorprendió saber que Loihi 2 se basa en una versión de preproducción del proceso Intel 4. Todavía estamos muy lejos de que Loihi 2 forme parte de los ingresos de Intel, y el equipo neuromórfico sabe mucho, pero resulta que que el chip es probablemente un candidato ideal para ayudar a implementar un nuevo proceso.

Con 31 mm2, el tamaño significa que incluso si es necesario mejorar el cultivo, una sola viruta puede hacer más virutas que las pruebas con un tamaño de troquel más grande. A medida que el equipo realiza pruebas posteriores al silicio para voltaje / frecuencia / función, puede regresar mucho más rápido al equipo de desarrollo de tecnología de Intel. Confirmamos que hay silicio real en el laboratorio y, de hecho, el hardware estará disponible hoy a través de DevCloud de Intel, directamente al metal, sin ninguna emulación.

Por lo general, con los nuevos nodos de proceso, necesita un cliente del tamaño de un pequeño molde de silicona para ayudar a replicar los posibles problemas para llevar el proceso a una rampa y una producción en masa. Los competidores de Intel suelen hacer esto con clientes con conjuntos de chips del tamaño de un teléfono inteligente, lo que generalmente significa beneficios para el cliente en el hardware o tal vez algún tipo de descuento inicial (aunque tal vez no en el clima actual). Intel ha tenido problemas anteriormente en este frente, ya que solo tiene su propio silicio para usar como herramienta de prueba.

El equipo de Neuromorphic dijo que en realidad encajaba bien, dado que los dispositivos neuromórficos requieren la alta densidad y la baja fuerza estática que proporcionan los nodos de proceso sofisticados. El diseño de 128 núcleos también significa que tiene una unidad de repetición consistente, lo que permite al equipo de proceso considerar la regularidad y la consistencia en la producción. Además, dado que Loihi todavía es un proyecto de investigación en este momento, no hay expectativas serias de llevar este producto al mercado en una ventana determinada, lo que un gran cliente podría necesitar.

¿Significa esto que Intel 4 está listo para la producción? No del todo, pero indica progreso. Varios puntos de referencia enumerados en Loihi 2 tienen una advertencia de ‘resultados esperados de hardware simulado’, aunque otros se han realizado en silicio real, y la compañía dice que tiene silicio real para implementar en la nube hoy. Intel 4 es el primer nodo de procesamiento de Intel que utiliza la litografía EUV, e Intel será el último fabricante importante en iniciar el proceso de producción de EUV. Pero todavía estamos muy lejos, de vuelta en Aceleración Intel Event, no se espera que EUV e Intel 4 aumenten la producción hasta la segunda mitad de 2022.

En conclusión, a partir del anuncio de Intel, podemos considerar la densidad del transistor. A 2.3 mil millones de transistores en 31 mm², eso pondría la densidad en 71,2 millones por mm², que es solo un tercio de lo que esperamos. Las estimaciones basadas en anuncios anteriores de Intel situarían al Intel 4 en unos 200 millones de m / mm². Entonces, ¿por qué Loihi 2 es tan bajo en comparación con este número?

Quizás el primero es que es un chip con forma neuronal, no un diseño lógico tradicional. El núcleo contiene aproximadamente 25 MB de SRAM total junto con toda la lógica, que es de 31 mm² El tobogán podría ser una buena parte de la zona de muerte. Además, la idea principal de Intel con respecto a los chips neuronales es la función primero, el rendimiento en segundo lugar y la potencia en tercer lugar. Por lo tanto, hacer que funcione correctamente es más importante que ejecutarlo rápido, por lo que no siempre hay una necesidad inicial de la máxima intensidad. Luego está el hecho de que sigue siendo un chip de desarrollo y permite a Intel mejorar el proceso EUV y probar la microlitografía sin tener que preocuparse por las fallas causadas por las densas bibliotecas de transistores. Estoy seguro de que vendrán más.

Para agregar un punto final, especulamos que la dirección IP neuronal podría estar disponible a través de las ofertas de IP del servicio de fundición de Intel en el futuro.

Nuevo marco del programa Lava

Independientemente de la capacidad de procesamiento, uno de los componentes básicos de un sistema neuromórfico es el tipo de computación, y quizás lo difícil que es escribir un programa para aprovechar dicha arquitectura. En una conversación con Mike Davis de Intel, director del Laboratorio neuromórfico de Intel, explicamos que la informática moderna es como una arquitectura de consulta: cada ciclo toma datos y los procesa. Por el contrario, la computación neuronal es una arquitectura basada en interrupciones: funciona cuando los datos están listos. La computación neuronal depende más del dominio del tiempo que la computación moderna y, por lo tanto, el concepto de computación y las aplicaciones en las que puede operar son aproximadamente ortogonales a las técnicas de computación tradicionales. Por ejemplo, si bien el aprendizaje automático se puede aplicar a la computación neuronal en forma de redes neuronales Spiking (SNN), las bibliotecas tradicionales de PyTorch y TensorFlow no se crearon para habilitar SNN.

Hoy, como parte de los anuncios, Intel está lanzando un nuevo marco de software central para la comunidad neuronal llamado Lava. Este es un marco de código abierto, no bajo el control de Intel, sino de la comunidad. Intel impulsó varias de sus primeras herramientas como parte del marco, con la idea de que con el tiempo se podría desarrollar un paquete de software completo para que lo usen todos los involucrados en la computación neuronal, independientemente del hardware (CPU, GPU, chip neuromórfico). Lava está diseñado para ser modular, configurable, extensible, jerárquico y de código abierto. Esto incluye una interfaz de bajo nivel para mapear redes neuronales a máquinas neuronales, paso de mensajes asíncronos basados ​​en canales y todas las bibliotecas y características se representan a través de Python. El software estará disponible para uso gratuito bajo BSD-3 y LGPL-2.1 en GitHub.

Sistemas primarios

La primera versión de Loihi 2 implementada en los servicios en la nube de Intel es Oheo Gulch, que es como una tarjeta PCIe adicional que usa una FPGA para administrar una gran cantidad de E / S, junto con un conector de plano posterior si es necesario. 31 mm² El chip es BGA, y aquí vemos uno de los conectores Intel internos para instalar chips BGA en la placa de desarrollo.

En una fecha futura, Intel producirá una versión de 4 pulgadas por 4 pulgadas llamada Kapoho Point, con ocho chips integrados, diseñados para apilarse e integrarse en una máquina más grande.

Con un chip tan pequeño, me pregunto si no tendría sentido construirlo con un controlador USB en silicio, o tener una interfaz USB a Ethernet, y renderizar los dispositivos en memorias USB, similar a lo que se estaba distribuyendo desde Movidius de Intel. . Le preguntamos a Intel sobre la expansión del uso de Loihi 2 a una audiencia más amplia enfocada en la investigación / no comercial para la elaboración casera y la elaboración de cerveza, pero como este todavía es un proyecto de Intel Labs en este momento, un elemento clave del equipo está dedicado a colaborar con socios para impulsar este segmento hacia adelante. Por lo tanto, tenemos que esperar al menos otra generación o más para ver si se ofrecerá algún sistema Loihi futuro en Amazon.

Loihi 2 debería estar disponible para que los socios de investigación lo utilicen a partir de hoy como parte de DevCloud de Intel. Se espera una investigación / colaboración local dentro de los próximos 12 a 24 meses.

Lectura relacionada