KI-Beschleunigung am Edge

KI-Beschleunigung am Edge

Künstliche Intelligenz am Edge wird in der industriellen Produktion bereits in der Instandhaltung, Logistik, Qualitätskontrolle, Prozessoptimierung, Produktentwicklung und für Digitale Assistenzsysteme eingesetzt. Am Edge spielen Inferenzsysteme eine Rolle, also Anwendungen, die mit Hilfe neuronaler Netze trainiert wurden. Die Hardware ist daher spezialisiert auf niedrige Latenzzeiten und hohen Datendurchsatz bei geringem Energieverbrauch.  Die neue Mustang-T100-Beschleunigerkarte von compmall ist daher eine perfekte Lösung für diese Anwendungen.

Die Mustang T-100 ist eine PCIe-Karte mit halber Höhe und halber Länge. Sie basiert auf fünf Coral Edge TPUs™. Jede TPU leistet eine Rechengeschwindigkeit von 4 Billionen Rechenoperationen pro Sekunde bei sehr niedrigen 2 Watt Stromverbrauch. In Summe ergibt dies bis zu 20 TOPS bei INT8-Genauigkeit und einem Stromverbrauch von nur 15 Watt für die gesamte Karte. Coral-TPUs sind von Google entwickelte ASICs, die speziell für KI-Anwendungen entwickelt wurden. Framework-Tool ist daher TensorFlow Lite. Kompatible Betriebssysteme sind Windows und Linux.

Die Mustang T-100 erlaubt sowohl Multitasking- als auch Pipelining-Modus. Im Multitasking werden mehrere Modelle parallel berechnet, im Pipelining werden alle TPUs einem Modell zugeordnet, d.h. fünf TPUs arbeiten parallel an einem Modell, sodass niedrigste Latenzzeiten erreicht werden.

Die Mustang T-100 ist im Betriebstemperaturbereich zwischen -20°C und 55°C einsetzbar. Durch die Installation des Edge-TPU-Treibers wird die TPU-Temperatur automatisch erkannt und der Lüfter gesteuert.


Originalmeldung von pressebox.de

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.