Nuvo-7166GC: Kühl berechnendes GPU-Computing für die KI
Das patentierte Kassetten- und Lufttunnel-Design des neuen industriellen GPU-Computers Nuvo-7166GC von Acceed verspricht einen Systembetrieb bis zu 60 °C Umgebungstemperatur bei anhaltend 100% GPU-Belastung. Zwei PCIe-Steckplätze können jeweils eine Nvidia Tesla T4 für die schnelle Berechnung von Inferenzen aufnehmen, mit denen die Plattform bis zu 8,1 TFLOPS im FP32-Benchmark und 130 TOPs im INT8-Benchmark für Echtzeitberechnungen auf der Basis eines trainierten neuronalen Netzwerkmodells leisten kann. Im Zusammenspiel mit den verfügbaren Intel-Prozessoren der 8. und 9. Generation (6/8 Kerne) und 64 GB DDR4-2666-RAM zeigt sich der Nuvo-7166GC als robuste industrielle KI-Inferenz-Plattform mit besonders ausgewogenem Verhältnis von CPU-, GPU- und Speicherperformance.
Im Umfeld von industrieller Künstlicher Intelligenz (KI), Machine Learning oder Deep Learning erlangt die Inferenz besondere Bedeutung. Während der allgemeine Begriff der Inferenz in der Linguistik und der Logik eine komplexe Schlussfolgerung bezeichnet, geht es bei der KI um Anwendungen, die mit Hilfe neuronaler Netze für bestimmte Aufgaben trainiert sind. Dabei geht es nicht um das grundlegende Lernen, sondern um Fakten oder Erkentnisse, die auf Basis bestehender Daten abgeleitet werden. Es geht also um die praktische Anwendung in automatisierten Systemen, zum Beispiel bei der vorausschauenden Maschinenwartung (Predictive Maintenance). In diesem Fall wendet das Inferenz-System aus Computer und Software vorliegende Daten auf eine aktuelle Situation an, um autonom reagieren zu können. Ein leistungsstarkes System kann so eine Vielzahl von Maschinen gleichzeitig und ohne menschliche Bedienung überwachen. Andere, sehr unterschiedliche Anwendungen sind autonomes Fahren, die Auswertung von Wetterdaten oder das Schlussfolgern von Nutzerverhalten für Marketingzwecke.
Je stärker die Hardware eines solchen Systems ist und je besser sie für genau diese Berechnungen ausgestattet ist, desto erfolgreicher ist ihr Einsatz. Und genau hier liegen die Stärken des neuen GPU-Controller Nuvo-7166GC von Acceed. Nahezu alle Kernkomponenten des kompakten GPU-Computers lassen sich kundenspezifisch zusammenstellen. Die Konfektionierung auch großer Stückzahlen wird dabei von Acceed übernommen. Neben der Auswahl von mehreren Prozessoren der 8. und 9. Generation von Intel liegt der Schwerpunkt sicher auf der Bestückung der beiden PCIe-Steckplätze mit einer oder zwei Grafikkarten des Typs Nvidia Tesla T4, mit denen die Plattform bis zu 8,1 TFLOPS (1012 Floating Point Operations Per Second) im FP32-Benchmark und 130 TOPs im INT8-Benchmark erreichen kann. Das patentierte Kühlmanagement im Vollmetallgehäuses aus widerstandsfähiger Aluminiumlegierung ist für die hohen Wärmelasten der High-End-Grafikprozessoren ausgelegt.
Sechs Gigabit-Ethernet-Schnittstellen, davon optional drei mit PoE und einer Gesamtleistung von 100 W, sorgen für ausreichend Bandbreite beim Datenaustausch. Je vier USB-Anschlüsse 3.1 Gen 2 (10 Gbps) und 3.1 Gen 1 (5 Gbps) sowie mehrere serielle Schnittstellen unterstützen die schnelle Datenkommunikation mit weiteren Peripheriegeräten. Für Festplatten stehen 2 interne SATA-Ports (2,5“ SSD/HDD) mit RAID-Unterstützung zur Verfügung, außerdem ein M.2-Steckplatz für NVMe-SSD oder Intel Optane-Speicher.
Applikationsspezifische I/O-Funktionen lassen sich als kostengünstige Erweiterungen mit optionalen Mezzanine-Karten (MezIO-Module mit seriellen Schnittstellen, digitalen I/O-Schnittstellen, LVDS-Ausgang, CAN-Bus, DTIO oder Speichererweiterung) umsetzen. Neben den üblichen Grafikausgängen DVI-D und VGA ist ein universeller DisplayPort vorhanden, der 4K2K-Auflösungen bis 4096 × 2304 Pixel unterstützt.
Die spezialisierte GPU-Leistung, das industrietaugliche Wärmeleitsystem und die außergewöhnliche Funktionsvielfalt machen den Nuvo-7166GC zur Inferenz-Plattform erster Wahl für industrielle KI-Applikationen, etwa in den Bereichen Maschinenüberwachung, Fertigungskontrolle, Logistik, Bildverarbeitung oder autonomes Fahren.