Menü

Hot Chips: KI-Beschleuniger mit analogem Flash-Speicher

Mythic betreibt in seinen KI-Beschleuniger Flash-Speicher analog, um Energie zu sparen.

Von
vorlesen Drucken Kommentare lesen 53 Beiträge
Hot Chips: KI-Beschleuniger mit analogem Flash-Speicher

(Bild: Mythic)

In der Welt der KI-Beschleuniger-Chips kursieren derzeit etliche Konzepte. Vielen kleinen Chips, die der Anwendungen bereits trainierte Netze dienen, ist gemein, dass sie mit möglichst wenig Energie auskommen. Das Start-Up Mystic hat sich dafür einen außergewöhnlichen Weg ausgedacht.

Wie Mitgründer Dave Fick erklärte, fallen bei der Anwendung von KI-Modellen reihenweise Matrixmultiplikationen an. Diese lassen sich zwar gut parallelisieren, doch vor jeden Multiply-Accumulate-Befehl (MAC) müssen die zugehörigen Gewichtungen energieaufwändig eingelesen werden. Genau hier setzt nun ihr KI-Beschleuniger an.

Mythic verwendet ein Netz von Flash-Zellen als analoge Widerstände.

(Bild: Mythic)

Die Gewichte werden bei Mythic in einem Netz aus Flash-Speicherzellen gespeichert. Statt die Werte auszulesen und anschließend Logik-Transistoren mit der digitalen Berechnung zu bemühen, werden die Zellen analog betrieben: Die Werte des Eingangsvektors wird von DACs in Spannungen umgewandelt, die dann durch das Flash-Netz geschickt werden. Jedes gespeicherte Gewicht entspricht einem Widerstand, der einen Spannungsabfall hervorruft – das ist die eigentliche Berechnung. ADCs am andere Ende des Flash-Netzes wandeln die ankommenden Spannungen wieder in digitale Werte um, die dem Ergebnis der Berechnung entsprechen.

Mythic verspricht, auf diese Art und Weise bei gerade einmal 1 bis 5 Watt Energieeinsatz eine Rechenleistung zu erreichen, die der rein digital arbeitender KI-Beschleuniger mit Faktor 20 höherem Energiebedarf entspricht.

Mythic verspricht serverähnliche Rechenleistung bei vielfach geringerem Energiebedarf.

(Bild: Mythic)

Nachprüfen lassen sich diese Werte noch nicht, da die Chips aktuell noch nicht fertig sind: Es soll sie frühestens Mitte 2019 geben. Und selbst dann entsprechen sie noch nicht dem eigentlichen Modell, da die Eingangs-DACs weggelassen und durch eine digitale Näherungsschaltung ersetzt wurden – angesichts begrenzter Entwicklungsressourcen hätte man die Chips sonst noch weiter nach hinten schieben müssen. Die DACs hebt man sich für künftige Revisionen vor – also sofern Mythic bis dahin nicht sowieso von einem anderem Unternehmen aufgekauft wurde... (mue)