Als ein Werkzeug der Spitzenforschung ist Künstliche Intelligenz (KI) heute unentbehrlich. Für einen erfolgreichen Einsatz, ob in der Energieforschung oder bei der Entwicklung neuer Materialien, wird dabei neben den Algorithmen zunehmend auch spezialisierte Hardware zu einem immer wichtigeren Faktor. Das Karlsruher Institut für Technologie (KIT) hat nun als erster Standort in Europa das neuartige KI-System NVIDIA DGX A100 in Betrieb genommen.
Für viele Projekte ist eine extrem hohe Rechenleistung erforderlich und beim Training einer KI mit großen Datensätzen kommen konventionelle Computersysteme schnell an ihre Grenzen. Das Steinbuch Centre for Computing (SCC) des KIT hat daher die Beschaffung für den derzeit am SCC im Aufbau befindlichen Hochleistungsrechner Karlsruhe (HoreKa) genutzt und ist eine Partnerschaft mit dem Marktführer NVIDIA eingegangen, um als erster Standort in Europa Zugriff auf die derzeit modernsten KI-Systeme des Unternehmens zu erhalten. Bei den nun installierten drei Computersystemen vom Typ DGX A100 handelt es sich um Hochleistungsserver mit jeweils acht NVIDIA A100 Tensor Core GPUs. Gemeinsam erbringen die acht Beschleuniger eine Rechenleistung von 5 AI- PetaFLOP/s, also fünf Billiarden Rechenoperationen pro Sekunde. Im Vergleich mit dem bislang schnellsten Vorgängermodell NVIDIA V100 ist das eine Beschleunigung um den Faktor fünf. Gleichzeitig wurden die neuen Beschleuniger mit deutlich größerem und schnellerem Hauptspeicher ausgestattet und der Durchsatz des speziellen NVLink-Netzwerks zwischen den einzelnen Chips auf 600 Gigabit pro Sekunde erhöht. Den Forschern ist es damit nun möglich, deutlich größere Neuronale Netzwerke als bisher in sehr viel kürzerer Zeit mit noch größeren Datenmengen zu trainieren.