Was ist eine GPU und warum ist sie für KI so wichtig?

Eine GPU steht für Graphics Processing Unit, auf Deutsch Grafikprozessor. Sie wurde ursprünglich für die Darstellung von 3D-Grafiken in Videospielen entwickelt. Heute ist sie der wichtigste Hardwarebaustein für das Training und den Betrieb von KI-Modellen.

Warum ausgerechnet eine Grafikkarte? CPUs, normale Prozessoren, sind für allgemeine Berechnungen ausgelegt. Sie haben wenige, aber leistungsfähige Kerne, die nacheinander komplexe Aufgaben erledigen. GPUs haben tausende kleinere Kerne, die sehr viele einfache Berechnungen gleichzeitig durchführen können. KI-Training besteht genau aus solchen: Millionen von Matrizenmultiplikationen parallel.

Warum Nvidia und nicht andere?

Nvidia erkannte die Möglichkeiten frühzeitig und entwickelte 2007 die CUDA-Plattform, die es Entwicklern ermöglichte, GPUs für allgemeine Berechnungen zu nutzen. Als Deep Learning in den 2010er Jahren durchbrach, war Nvidia bereits positioniert. Das Ökosystem aus Hardware, Software, Treibern und Bibliotheken ist heute so etabliert, dass andere Anbieter schwer aufholen.

Ein Nvidia H100, der aktuelle High-End-KI-Chip, kostet etwa 30.000 bis 40.000 Euro pro Einheit. Unternehmen wie OpenAI oder Google betreiben Rechenzentren mit Zehntausenden davon.

Was bedeutet das für dein Unternehmen?

Direkt nichts, in den meisten Fällen. Du nutzt KI über Cloud-Dienste, deren GPUs im Hintergrund laufen. Die GPU-Kosten sind in API-Preisen eingepreist.

Relevant wird es, wenn du überlegst, eigene Modelle zu trainieren oder lokale Inferenz zu betreiben. Dann stellt sich die Frage: Cloud-GPU-Stunden mieten oder eigene Hardware kaufen? Das hängt von Volumen, Datenschutzanforderungen und Budget ab. In einer KI-Beratung machen wir das durch.