Intel gab bekannt, dass es das weltweit größte neuromorphe System gebaut hat Es nahmen Ingenieure des Guadalajara Design Center von Intel in Mexiko teil (GDC für sein Akronym auf Englisch).
Dieses neuromorphe System heißt Hala Point, Benutze die Intel Loihi 2 Prozessor Ziel ist es, die Forschung für zukünftige, vom Gehirn inspirierte künstliche Intelligenz (KI) voranzutreiben und sich den Herausforderungen im Zusammenhang mit der Effizienz und Nachhaltigkeit der aktuellen KI zu stellen. Hala Point ist die zweite Generation großer neuromorpher Computersysteme mit architektonischen Verbesserungen, die eine mehr als zehnfache neuronale Kapazität und eine bis zu zwölffache Leistung im Vergleich zu seinem Vorgänger Pohoiki Springs erreichen.
Hala Point ist der erste neuromorphes System In großem Maßstab demonstriert es die Recheneffizienz der nächsten Generation bei herkömmlichen KI-Workloads. Die Charakterisierung zeigt, dass es bis zu 20 Billiarden Operationen pro Sekunde oder 20 Petaops unterstützen kann, mit einer Effizienz von mehr als 15 Billionen 8-Bit-Operationen pro Sekunde und Watt (TOPS/W), wenn tiefe neuronale Netze betrieben werden. Dies übertrifft das Niveau, das Architekturen erreichen, die auf Grafikprozessoren (GPUs) und Zentraleinheiten (CPUs) basieren. Die einzigartigen Fähigkeiten von Hala Point könnten in Zukunft kontinuierliches Lernen in Echtzeit für KI-Anwendungen wie wissenschaftliche und technische Problemlösung, Smart-City-Infrastrukturmanagement, Logistik, große Sprachmodelle (LLM) und KI-Agenten ermöglichen.
Das System ist ein 6U-Rack-montierbares Gehäuse, das im Inneren 36 Hala Point N3x-Karten mit jeweils 32 Loihi 2-Chips enthält, also insgesamt 1.152 Chips. Dies führt zu einem System von 1,15 Milliarden Neuronen, die bei maximaler Kapazität 20-mal schneller als ein menschliches Gehirn und bei geringerer Kapazität bis zu 200-mal schneller laufen können. Obwohl Hala Point nicht für die neurowissenschaftliche Modellierung gedacht ist, entspricht seine neuronale Kapazität in etwa der des Gehirns einer Eule oder der Großhirnrinde eines Kapuzineraffens.
Bei GDC wurden das funktionale und physikalische Design der Karte, das mechanische Design, die Kühlkörper und thermische Simulationen durchgeführt, um die Produktspezifikationen zu erfüllen.
Seit 2018 ist Intel Labs – Intels Forschungseinheit – am GDC für das Design und die Entwicklung der neuromorphen Computer-Hardwareplattformen und -systeme des „Neuromorphic Compute Lab“ (NCL) verantwortlich und war ein wichtiger Akteur bei der Entwicklung und Weiterentwicklung. pünktliche Lieferung von Hala Point an die Sandia National Laboratories. Bei GDC wurden das funktionale und physikalische Design der Karte, das mechanische Design, die Kühlkörper und thermische Simulationen durchgeführt, um die Produktspezifikationen zu erfüllen. Hala Point wurde bei Intel Guadalajara zusammengebaut und getestet. Darüber hinaus entwickelten Forscher von Intel Labs Guadalajara einen Teil der Algorithmen, die die Charakterisierung des Systems ermöglichten, und erreichten die oben genannte Leistung, alles dank der engen Zusammenarbeit und Unterstützung verschiedener Ingenieurgruppen in GDC .
Jüngste Trends bei der Skalierung von Deep-Learning-Modellen mit Millionen von Parametern haben enorme Nachhaltigkeitsherausforderungen in der KI aufgezeigt und den Bedarf an Innovationen auf allen Ebenen der Hardwarearchitektur hervorgehoben. Neuromorphic Computing ist ein grundlegend neuer Ansatz, der auf Erkenntnissen der Neurowissenschaften basiert und Speicher und Berechnung mit hochgranularer Parallelität integriert, um Datenbewegungen zu minimieren. In veröffentlichten Ergebnissen der International Conference on Acoustics, Speech and Signal Processing (ICASSP) im April zeigte Loihi 2 Größenordnungsgewinne bei der Effizienz, Geschwindigkeit und Anpassungsfähigkeit neu entstehender kleiner Edge-Workloads.
Die neuromorphen Prozessoren von Loihi 2 nutzen vom Gehirn inspirierte Rechenprinzipien wie asynchrone und ereignisgesteuerte Spike-Neuronale Netze (SNN), integrierten Speicher und Rechenleistung sowie spärliche und sich ständig ändernde Verbindungen, um eine Steigerung des Stromverbrauchs und der Leistung um Größenordnungen zu erzielen. Neuronen kommunizieren direkt miteinander und nicht über das Gedächtnis, wodurch der Gesamtstromverbrauch gesenkt wird.
Loihi-basierte Systeme können KI-Inferenzen durchführen und Optimierungsprobleme mit 100-mal weniger Stromverbrauch und bis zu 50-mal schnelleren Geschwindigkeiten als herkömmliche CPU- und GPU-Architekturen lösen.. Auch wenn sie sich noch in der Erforschung befinden, könnten zukünftige neuromorphe LLMs, die kontinuierlich lernen können, Gigawattstunden an Energie einsparen, indem sie die Notwendigkeit einer regelmäßigen Umschulung mit ständig wachsenden Datensätzen eliminieren.
Derzeit ist Hala Point ein Prototyp, der die kommerziellen Systemfähigkeiten in der Zukunft verbessern wird. Es wird erwartet, dass diese Erkenntnisse zu praktischen Fortschritten führen werden, beispielsweise zur Fähigkeit von LLMs, kontinuierlich aus neuen Daten zu lernen. Solche Fortschritte werden die Trainingsbelastung von KI-Systemen erheblich reduzieren. Forscher der Sandia National Laboratories planen, Hala Point für fortgeschrittene Computerforschung zu nutzen. Die Organisation wird sich auf die Lösung wissenschaftlicher Rechenprobleme in den Bereichen Gerätephysik, Computerarchitektur und Informatik konzentrieren.
Gemeinsam mit einem Ökosystem von mehr als 200 Mitgliedern der Intel Neuromorphic Research Community (INRC) arbeitet das Unternehmen daran, die Grenzen der gehirninspirierten KI zu erweitern und diese Technologie in den kommenden Jahren von Forschungsprototypen zu branchenführenden Produkten weiterzuentwickeln .
, um eine nachhaltigere KI zu ermöglichen){kind=link}