Die Auswirkungen von Rechenleistung auf KI-Innovationen verstehen

Künstliche Intelligenz (AI) und Rechenleistung stehen in engem Zusammenhang. Rechenleistung ist für KI-Anwendungen unverzichtbar, denn sie ermöglicht es Computersystemen, Aufgaben zu verarbeiten und auszuführen. Diese Anwendungen benötigen erhebliche Rechenressourcen, um komplexe Algorithmen und große Datensätze zu verarbeiten. Hier kommen GPUs ins Spiel. GPUs, also Grafikprozessoren, wurden ursprünglich zur Beschleunigung der Bild- und Videoverarbeitung entwickelt. Heute sind sie unverzichtbar, um die umfangreiche Datenverarbeitung und die Deep-Learning-Aufgaben zu bewältigen, die KI erfordert.

In den letzten Jahren haben wir exponentielle Fortschritte im Bereich KI erlebt. Natürlich muss die KI-Hardware mit diesem Wachstum Schritt halten und sich entsprechend weiterentwickeln. Eine Studie ergab, dass sich die GPU-Leistung seit 2003 etwa um den Faktor 7.000 gesteigert hat.

Leistungsstärkere, schnellere und effizientere Hardware ermöglicht Forschern und Ingenieuren die Entwicklung immer komplexerer KI-Modelle. Sehen wir uns an, wie sich die Recheninfrastruktur für KI weiterentwickelt, um den wachsenden Anforderungen der künstlichen Intelligenz gerecht zu werden.

KI-Hardware: ein immer wichtigeres Thema#

Die Rolle von GPUs bei der Entwicklung von KI ist unbestreitbar. Diese leistungsstarken Prozessoren beschleunigen die komplexen Berechnungen, die zum Trainieren und Bereitstellen von KI-Modellen erforderlich sind. Im Grunde bilden sie das Rückgrat moderner KI-Technologie. Doch nicht nur GPUs stehen im Fokus.

Wir sehen zunehmend speziell für KI entwickelte Chips, die mit GPUs konkurrieren. Diese Chips werden von Grund auf so konzipiert, dass KI-Aufgaben noch besser und schneller ausgeführt werden können. Es wird viel geforscht und daran gearbeitet, die Zukunft der KI-Rechenleistung zu verbessern. Viele Unternehmen investieren in Rechenleistung für KI. Das ist einer der Gründe, warum der weltweite Markt für KI-Hardware 2023 auf 53,71 Milliarden US-Dollar geschätzt wurde und bis 2033 voraussichtlich auf etwa 473,53 Milliarden US-Dollar anwachsen wird.

Warum sind Fortschritte bei KI-Hardware in letzter Zeit so häufig Thema? Der Wandel hin zu spezialisierter KI-Hardware spiegelt die steigenden Anforderungen von KI-Anwendungen in verschiedenen Branchen wider. Wer erfolgreich KI-Lösungen entwickeln will, sollte den Entwicklungen im Hardwarebereich einen Schritt voraus sein.

Wichtige Akteure im Bereich KI-Hardware#

Führende Hardwarehersteller wetteifern um die Entwicklung der nächsten Hardwaregeneration und verbessern Leistung und Effizienz durch interne Entwicklung, strategische Partnerschaften und Übernahmen.

Abb. 1. Führende Unternehmen im Bereich KI-Hardware.

Apple hat externe GPUs durch eigene Chips der M-Serie mit Neural Engines zur KI-Beschleunigung ersetzt und damit sein streng kontrolliertes Ökosystem weiter gestärkt. Google investiert unterdessen weiterhin stark in seine Infrastruktur aus Tensor Processing Units (TPU). TPUs sind KI-Chips, die schneller arbeiten und weniger Energie verbrauchen sollen als GPUs. Dadurch eignen sie sich gut für das Training und die Bereitstellung von KI-Lösungen in großem Maßstab.

Auch AMD ist mit seiner Beschleunigerserie Instinct in den KI-Hardwaremarkt eingestiegen und richtet sich damit an Rechenzentren und Anwendungen im Hochleistungsrechnen. NVIDIA konzentriert sich weiterhin auf die Entwicklung von GPUs, die für KI-Arbeitslasten optimiert sind, etwa die A100- und H100-Tensor-Core-GPUs.

Neben diesen etablierten Akteuren beschäftigen sich zahlreiche Start-ups und Forschungseinrichtungen mit neuartigen Architekturen für KI-Chips. Graphcore ist beispielsweise auf dünn besetzte Berechnungen mit seiner Intelligence Processing Unit (IPU) spezialisiert. Cerebras Systems bietet die Wafer Scale Engine an, einen riesigen Chip für extrem umfangreiche KI-Arbeitslasten.

Neueste Fortschritte bei KI-Hardware#

Sehen wir uns die neuesten Entwicklungen bei KI-Hardware an.

Am 9. April 2024 stellte Intel seinen neuesten KI-Chip, den Gaudi 3, vor. Intel zufolge übertrifft er die NVIDIA H100 GPU:

• Mehr als doppelt so energieeffizient und 1,5-mal schneller bei der Verarbeitung von KI-Modellen.
• In flexiblen Konfigurationen erhältlich, etwa fest auf einer Hauptplatine verbaut oder als eigenständige Karte.
• Erfolgreich mit verschiedenen KI-Modellen wie Llama von Meta und Falcon aus Abu Dhabi getestet. Das belegt seine Eignung für das Training und die Bereitstellung vielfältiger KI-Modelle, darunter Stable Diffusion und Whisper von OpenAI zur Spracherkennung.

Abb. 2 Gaudi 3 von Intel.

Vor Gaudi 3 stellte NVIDIA am 18. März 2024 seine neueste KI-Plattform Blackwell vor. Diese Plattform soll Durchbrüche in verschiedenen Bereichen ermöglichen und bietet folgende Merkmale:

• NVIDIA bezeichnet Blackwell als den „leistungsstärksten Chip der Welt“.
• Die Plattform verfügt über eine GPU mit zwei Dies, 208 Milliarden Transistoren und einer Chip-zu-Chip-Verbindung mit 10 TB/s. Damit setzt sie neue Maßstäbe für Leistung und Effizienz bei generativer KI im Rechenzentrumsmaßstab.
• Führende Cloud-Anbieter wie Google Cloud, Amazon Web Services und Microsoft Azure haben angekündigt, Blackwell für Fortschritte bei generativer KI, Deep Learning und Cloud-Computing-Diensten einzusetzen.

Abb. 3 Blackwell von NVIDIA.

Der Aufstieg maßgeschneiderter KI-Chips#

Unterdessen entwickeln mehrere Technologiekonzerne eigene maßgeschneiderte KI-Chips, um ihre Dienste mit Rechenleistung zu versorgen.

Am 10. April 2024 stellte Meta die neueste Version seines Meta Training and Inference Accelerator (MTIA) vor. Dieser Chip der zweiten Generation ist bereits in Metas Rechenzentren im Einsatz und bietet eine höhere Rechenleistung sowie mehr Speicherbandbreite. Diese Verbesserungen steigern die Leistung von Metas KI-Anwendungen, etwa Ranking- und Empfehlungssystemen auf Plattformen wie Facebook und Instagram.

Abb. 4 Metas neueste MTIA-Version.

Auch andere große Unternehmen wie Google, Amazon und Microsoft haben in diesem Jahr eigene Siliziumchips vorgestellt. Damit verfolgen sie eine strategische Absicht: Sie wollen ihre Kostenstrukturen optimieren und ihre Abhängigkeit von Drittanbietern wie NVIDIA verringern.

Wo kommt KI-Hardware zum Einsatz?#

KI-Hardware unterstützt verschiedene KI-Lösungen in zahlreichen Branchen. Im Gesundheitswesen ermöglicht sie den Betrieb medizinischer Bildgebungssysteme wie MRT und CT. Dabei bewältigt sie komplexe Aufgaben und verarbeitet große Datenmengen effizient, um schnelle und präzise Diagnosen zu ermöglichen.

Finanzinstitute nutzen KI-Algorithmen, um Daten zur Betrugserkennung und zur Optimierung von Investitionen zu analysieren. Die komplexe Analyse von Finanzdaten erfordert leistungsfähige Hardware, um den enormen Rechenaufwand effektiv zu bewältigen.

In der Automobilindustrie hilft KI-Hardware dabei, Sensordaten in autonomen Fahrzeugen in Echtzeit zu verarbeiten. Aufgaben wie Objekterkennung und Kollisionsvermeidung erfordern leistungsfähige Hardware, die schnelle Entscheidungen ermöglicht und die Sicherheit der Fahrgäste gewährleistet.

Abb. 5. Das Gehirn eines autonomen Fahrzeugs.

Einzelhändler nutzen KI-gestützte Empfehlungssysteme, um das Einkaufserlebnis zu personalisieren und den Umsatz zu steigern. Dazu analysieren sie umfangreiche Kundendaten aus verschiedenen Abteilungen, um Vorlieben vorherzusagen und passende Produkte vorzuschlagen. Für die Analyse unterschiedlicher Datensätze und die Erstellung personalisierter Empfehlungen ist leistungsfähige Hardware erforderlich, die Echtzeitreaktionen und eine stärkere Kundenbindung ermöglicht.

Ein weiteres Beispiel aus dem Einzelhandel ist der Einsatz von Computer Vision zur Überwachung und Analyse des Kundenverhaltens. Einzelhändler können nachvollziehen, wie Kunden mit ihrer Umgebung interagieren, beliebte Produkte erkennen und Bewegungsmuster der Kunden erfassen. Auf Grundlage dieser Erkenntnisse können sie die Ladenaufteilung und Produktplatzierung optimieren, um den Umsatz zu steigern. Für die Echtzeitverarbeitung großer Videodatenmengen ist Rechenleistung wichtig. Eine genaue Erfassung von Bewegungen und Interaktionen hängt von leistungsfähiger Hardware ab. Ohne sie leiden Geschwindigkeit und Genauigkeit der Datenverarbeitung, wodurch die Analyse des Kundenverhaltens weniger effektiv wird.

Das ist nur die Spitze des Eisbergs. Von der Fertigung bis zur Landwirtschaft kommt KI-Hardware überall zum Einsatz.

KI mit Rechenleistung skalieren#

KI-Hardware ist häufig dafür ausgelegt, große Aufgaben zu bewältigen. Das Ausmaß der KI-Einsätze in Branchen weltweit lässt sich nur schwer erfassen. Klar ist jedoch: Skalierbare KI setzt die passende Hardware voraus.

Ein Beispiel dafür ist die Zusammenarbeit zwischen BMW und NVIDIA. BMW produziert jährlich 2,5 Millionen Autos und betreibt damit ein enormes Produktionsvolumen. BMW setzt KI ein, um verschiedene Aspekte seines Fertigungsprozesses zu optimieren – von der Qualitätskontrolle und vorausschauenden Wartung bis hin zu Logistik und Lieferkettenmanagement.

Um diesen Anforderungen gerecht zu werden, setzt BMW auf fortschrittliche KI-Hardwarelösungen wie die NVIDIA Quadro RTX 8000 und Server mit RTX-Grafikprozessoren. Diese Technologien vereinfachen den Einsatz von KI und machen ihn besser skalierbar.

Rechenleistung beeinflusst verschiedene Bereiche deiner KI-Lösung#

Die von dir gewählte KI-Hardware stellt nicht nur Rechenleistung für KI-Anwendungen bereit, sondern beeinflusst auch die Leistung deines Modells, den Konvertierungsbedarf, die Flexibilität bei der Bereitstellung und die Gesamtgenauigkeit. Nach dem Training und Testen werden KI-Modelle häufig in ein Format konvertiert, das auf den gewählten Bereitstellungsplattformen ausgeführt werden kann.

Die Modellkonvertierung kann jedoch zu Genauigkeitsverlusten führen und muss im Voraus berücksichtigt werden. Integrationstools wie ONNX (Austausch offener neuronaler Netze) bieten ein standardisiertes Format, um KI-Modelle auf einer Vielzahl von Hardwareplattformen bereitzustellen. Deshalb können Nutzer beliebte Modelle wie YOLOv8 in vielen verschiedenen Formaten exportieren und so mehrere Bereitstellungsoptionen nutzen.

Energieeffizienz ist entscheidend für die Zukunft des KI-Computings#

Die Auswirkungen leistungsstarker KI-Rechenleistung beschränken sich nicht auf KI, sondern betreffen auch den Energiesektor.

Abb. 6 Auf dem Weg zu nachhaltiger KI-Hardware.

So wurde beispielsweise Meta's Llama 3, ein fortschrittliches großes Sprachmodell (LLM), mit zwei eigens entwickelten Rechenzentrumsclustern trainiert, die jeweils mit 24.576 NVIDIA H100-GPUs ausgestattet waren. Zusammen mit Softwareverbesserungen machte diese Konfiguration das Training von Llama 3 etwa dreimal effizienter als das Training von Llama 2. Fortschritte bei KI-Hardware tragen somit ebenfalls zu einem energieeffizienteren Betrieb bei.

Auch der Zusammenhang zwischen KI und Energie erhält zunehmend Aufmerksamkeit, unter anderem durch das Engagement von Sam Altman. Altman, bekannt als CEO von OpenAI, hat das Atomenergieunternehmen Oklo kürzlich an die Börse gebracht. Mit seiner innovativen Kernspaltungstechnologie will Oklo die Energieerzeugung verändern und könnte so die für den KI-Betrieb unverzichtbaren Rechenzentren mit Strom versorgen. In den vergangenen Jahren haben auch Bill Gates, Mitbegründer von Microsoft, und Jeff Bezos, Gründer von Amazon, in Kernkraftwerke investiert.

Über die Schaltkreise hinaus#

Die Zukunft der KI-Hardware dürfte große Sprünge machen, insbesondere durch den Aufstieg des Quantencomputings. Je komplexer KI-Modelle werden, desto wichtiger wird spezialisierte Hardware, um ihr volles Potenzial auszuschöpfen. Von speziellen KI-Chips bis hin zur Erforschung des Quantencomputings treibt die Hardwareinnovation die Entwicklung komplexerer und wirkungsvollerer KI-Lösungen voran.

Sieh dir gern unser GitHub-Repository an und tausche dich mit unserer Community aus, um mehr über KI zu erfahren. In unseren neuesten Blogbeiträgen erfährst du, wie KI in verschiedenen Bereichen eingesetzt wird, etwa im Formel-1-Rennsport und in der Robotik.