Die Auswirkungen von Rechenleistung auf KI-Innovationen verstehen
Mit dem Fortschritt der KI-Technologie steigt der Bedarf an neuer und leistungsfähigerer Rechenleistung für KI. Erfahre, wie Rechenleistung die Entwicklung der KI vorantreibt.
Künstliche Intelligenz (AI) und Rechenleistung stehen in engem Zusammenhang. Rechenleistung ist für AI-Anwendungen unverzichtbar, weil sie Computersystemen hilft, Aufgaben zu verarbeiten und auszuführen. Diese Anwendungen benötigen erhebliche Rechenressourcen, um komplexe Algorithmen und große Datensätze zu verarbeiten – und hier kommen GPUs ins Spiel. GPUs, also Grafikprozessoren, wurden ursprünglich entwickelt, um die Verarbeitung von Bildern und Videos zu beschleunigen, sind aber inzwischen unverzichtbar für die intensive Datenverarbeitung und die Deep-Learning-Aufgaben, die AI erfordert.
In den vergangenen Jahren haben wir erlebt, wie sich AI exponentiell weiterentwickelt hat. Natürlich muss die AI-Hardware mit diesem Wachstum Schritt halten und es ermöglichen. Eine Studie hat gezeigt, dass sich die Leistung von GPUs seit 2003 ungefähr um das 7.000-Fache erhöht hat.
Leistungsfähigere, schnellere und effizientere Hardware ermöglicht es Forschenden und Ingenieurinnen und Ingenieuren, zunehmend komplexe AI-Modelle zu entwickeln. Sehen wir uns an, wie sich die Recheninfrastruktur für AI weiterentwickelt, um den wachsenden Anforderungen der künstlichen Intelligenz gerecht zu werden.
AI-Hardware: eine zunehmend diskutierte Entwicklung#
Die Rolle von GPUs bei der Entwicklung von AI ist unbestreitbar. Diese leistungsfähigen Prozessoren beschleunigen die komplexen Berechnungen, die zum Trainieren und Bereitstellen von AI-Modellen erforderlich sind. Im Wesentlichen bilden sie das Rückgrat moderner AI-Technologie. Doch nicht nur GPUs ziehen Aufmerksamkeit auf sich.
Wir sehen zunehmend Chips, die speziell für AI entwickelt wurden und mit GPUs konkurrieren. Diese Chips werden von Grund auf so konzipiert, dass AI ihre Aufgaben noch besser und schneller erledigen kann. Es wird intensiv geforscht und entwickelt, um die Zukunft des AI-Computings zu verbessern. Viele Unternehmen investieren in Rechenleistung für AI. Das ist ein Grund dafür, dass der globale Markt für AI-Hardware 2023 mit $53,71 Milliarden bewertet wurde und bis 2033 voraussichtlich auf etwa 473,53 Milliarden US-Dollar wachsen wird.
Warum sind Fortschritte bei AI-Hardware in letzter Zeit zu einem Gesprächsthema geworden? Die Entwicklung hin zu spezialisierter AI-Hardware spiegelt die steigenden Anforderungen von AI-Anwendungen in verschiedenen Branchen wider. Um erfolgreich AI-Lösungen zu entwickeln, ist es wichtig, den Veränderungen bei der Hardware voraus zu sein und über sie Bescheid zu wissen.
Wichtige Akteure im Bereich der AI-Hardware#
Führende Hardwarehersteller liefern sich ein Wettrennen um die Entwicklung der nächsten Hardwaregeneration und verbessern Leistung und Effizienz durch interne Entwicklung, strategische Partnerschaften und Übernahmen.
Abb. 1: Führende Unternehmen im Bereich der AI-Hardware.
Apple ist von der Verwendung externer GPUs zur Entwicklung eigener Chips der M-Serie mit neuronalen Engines zur Beschleunigung von AI übergegangen und stärkt damit sein eng kontrolliertes Ökosystem. Google investiert unterdessen weiter stark in seine Infrastruktur für Tensor Processing Units (TPU). TPUs sind AI-Chips, die schneller arbeiten und weniger Energie verbrauchen als GPUs. Dadurch eignen sie sich hervorragend für das Training und die Bereitstellung von AI-Lösungen in größerem Maßstab.
Auch AMD ist mit seiner Beschleunigerserie Radeon Instinct in den Bereich der AI-Hardware eingestiegen und zielt dabei auf Rechenzentren und Anwendungen im Hochleistungsrechnen. NVIDIA konzentriert sich weiterhin auf die Entwicklung von GPUs, die für AI-Workloads optimiert sind, etwa der Tensor-Core-GPUs A100 und H100. Die kürzlich erfolgte Übernahme von Arm Holdings soll die Kontrolle über Chiparchitekturen erweitern, die viele mobile Geräte antreiben.
Neben diesen etablierten Unternehmen beschäftigen sich viele Start-ups und Forschungseinrichtungen mit neuartigen Architekturen für AI-Chips. Graphcore ist beispielsweise mit seiner Intelligence Processing Unit (IPU) auf Sparse-Berechnungen spezialisiert. Cerebras Systems bietet die Wafer Scale Engine an, einen gewaltigen Chip, der auf AI-Workloads in extrem großem Maßstab zugeschnitten ist.
Aktuelle Fortschritte bei AI-Hardware#
Werfen wir einen Blick auf die neuesten verfügbaren AI-Hardwarelösungen.
Am 9. April 2024 stellte Intel seinen neuesten AI-Chip Gaudi 3 vor, der eine höhere Leistung als die H100-GPU von NVIDIA bieten soll:
- Mehr als doppelte Energieeffizienz und eine 1,5-mal schnellere Verarbeitung von AI-Modellen.
- Verfügbar in flexiblen Konfigurationen, beispielsweise auf einem gebündelten Motherboard oder als eigenständige Karte.
- Erfolgreich mit verschiedenen AI-Modellen wie Metas Llama und dem Falcon-Modell aus Abu Dhabi getestet, wodurch seine Eignung für das Training und die Bereitstellung verschiedener AI-Modelle, darunter Stable Diffusion und OpenAIs Whisper zur Spracherkennung, unter Beweis gestellt wurde.
Abb. 2: Intels Gaudi 3.
Vor Gaudi 3 stellte NVIDIA am 18. März 2024 seine neueste AI-Plattform Blackwell vor. Diese Plattform soll Durchbrüche in verschiedenen Bereichen ermöglichen und bietet folgende Funktionen:
- NVIDIA bezeichnet Blackwell als den „leistungsfähigsten Chip der Welt“.
- Die Plattform verfügt über eine GPU mit zwei Dies, 208 Milliarden Transistoren und einer Chip-zu-Chip-Verbindung mit 10 TB/s. Damit setzt sie neue Maßstäbe bei Leistung und Effizienz für generative AI in der Größenordnung von Rechenzentren.
- Führende Cloud-Serviceanbieter wie Google Cloud, Amazon Web Services und Microsoft Azure haben angekündigt, Blackwell nutzen zu wollen, um Fortschritte bei generativer AI, Deep Learning und Cloud-Computing-Diensten voranzutreiben.
Abb. 3: NVIDIAs Blackwell.
Der Aufstieg maßgeschneiderter AI-Chips#
Unterdessen entwickeln mehrere Technologiekonzerne eigene maßgeschneiderte AI-Chips, um ihre Dienste zu betreiben.
Am 10. April 2024 stellte Meta die neueste Version seines Meta Training and Inference Accelerators (MTIA) vor. Dieser Chip der zweiten Generation ist bereits in den Rechenzentren von Meta im Einsatz und erzielt eine bessere Rechenleistung sowie eine höhere Speicherbandbreite. Diese Verbesserungen unterstützen die Leistung von Metas AI-Anwendungen, etwa Ranking- und Empfehlungssystemen, auf Plattformen wie Facebook und Instagram.
Abb. 4: Metas neueste Version von MTIA.
Auch andere große Unternehmen wie Google, Amazon und Microsoft haben in diesem Jahr eigene Chips auf Siliziumbasis eingeführt. Dies ist ein strategischer Schritt, um ihre Kostenstrukturen zu optimieren und die Abhängigkeit von Drittanbietern wie NVIDIA zu verringern.
Wo wird AI-Hardware eingesetzt?#
AI-Hardware unterstützt verschiedene AI-Lösungen in zahlreichen Branchen. Im Gesundheitswesen treibt sie medizinische Bildgebungssysteme wie MRT- und CT-Scans an und bewältigt komplexe Aufgaben sowie große Datenmengen effizient, um eine schnelle und präzise Diagnose zu ermöglichen.
Finanzinstitute nutzen AI-Algorithmen, um Daten zur Betrugserkennung und zur Optimierung von Investitionen zu analysieren. Die komplexe Analyse von Finanzdaten erfordert fortschrittliche Hardware, um die enorme Rechenlast effektiv zu bewältigen.
In der Automobilindustrie hilft AI bei der Verarbeitung von Sensordaten in Echtzeit in autonomen Fahrzeugen. Aufgaben wie Objekterkennung und Kollisionsvermeidung müssen durch fortschrittliche Hardware mit leistungsfähigen Verarbeitungskapazitäten unterstützt werden, damit schnelle Entscheidungen getroffen und die Sicherheit der Fahrgäste gewährleistet werden können.
Abb. 5: Das Gehirn eines autonomen Fahrzeugs.
Einzelhändler nutzen AI-gestützte Empfehlungssysteme, um das Einkaufserlebnis zu personalisieren und den Umsatz zu steigern. Dazu analysieren sie umfangreiche Kundendaten aus verschiedenen Abteilungen, sagen Präferenzen voraus und schlagen passende Produkte vor. Die Analyse vielfältiger Datensätze und die Erstellung personalisierter Empfehlungen erfordern fortschrittliche Hardware für Antworten in Echtzeit und eine stärkere Einbindung der Nutzerinnen und Nutzer.
Ein weiteres Beispiel aus dem Einzelhandel ist der Einsatz von Computer Vision zur Überwachung und Analyse des Kundenverhaltens. Einzelhändler können nachvollziehen, wie Kundinnen und Kunden mit ihrer Umgebung interagieren, beliebte Produkte erkennen und Muster der Kundenfrequenz ermitteln. Auf Grundlage dieser Erkenntnisse können sie die Gestaltung von Verkaufsflächen und die Platzierung von Produkten optimieren, um den Umsatz zu steigern. Rechenleistung ist für die Verarbeitung großer Videodatenmengen in Echtzeit wichtig. Eine präzise Verfolgung von Bewegungen und Interaktionen hängt von leistungsfähiger Hardware ab. Ohne sie werden Geschwindigkeit und Genauigkeit der Datenverarbeitung beeinträchtigt, wodurch die Analyse des Kundenverhaltens an Wirksamkeit verliert.
Das ist nur die Spitze des Eisbergs. Von der Fertigung bis zur Landwirtschaft ist AI-Hardware überall zu finden.
AI mit Rechenleistung skalieren#
AI-Hardware wird häufig für die Bewältigung großer Aufgaben entwickelt. Es kann schwierig sein, den Umfang von AI-Einsätzen in Branchen weltweit zu erfassen, aber eines ist klar: Skalierbare AI setzt die passende Hardware voraus.
Nehmen wir beispielsweise die Zusammenarbeit zwischen BMW und NVIDIA. BMW produziert jährlich 2,5 Millionen Fahrzeuge, sodass der Umfang seiner Geschäftstätigkeit enorm ist. BMW nutzt AI, um verschiedene Aspekte seines Fertigungsprozesses zu optimieren – von der Qualitätskontrolle und vorausschauenden Wartung bis hin zu Logistik und Lieferkettenmanagement.
Um diesen Anforderungen gerecht zu werden, setzt BMW auf fortschrittliche AI-Hardwarelösungen wie die Quadro RTX 8000 von NVIDIA und Server mit RTX-Technologie. Diese Technologien erleichtern den Einsatz von AI und machen ihn besser skalierbar.
Rechenleistung beeinflusst verschiedene Bereiche deiner AI-Lösung#
Neben der Bereitstellung von Rechenleistung für AI-Anwendungen beeinflusst die von dir gewählte AI-Hardware deine Lösung hinsichtlich Modellleistung, Anforderungen an die Modellkonvertierung, Flexibilität bei der Bereitstellung und allgemeiner Genauigkeit. Sobald AI-Modelle trainiert und getestet wurden, werden sie häufig in ein Format konvertiert, das auf den ausgewählten Bereitstellungsplattformen ausgeführt werden kann.
Die Modellkonvertierung kann jedoch zu Genauigkeitsverlusten führen und muss im Voraus berücksichtigt werden. Integrationstools wie ONNX (Austauschformat für neuronale Netze) können ein standardisiertes Format für die Bereitstellung von AI-Modellen auf einer Vielzahl von Hardwareplattformen bereitstellen. Dies ist auch der Grund, warum beliebte Modelle wie YOLOv8 die Möglichkeit bieten, benutzerdefiniert trainierte Modelle in viele verschiedene Formate zu exportieren, um mehrere Bereitstellungsoptionen zu unterstützen.
Energieeffizienz ist entscheidend für die Zukunft des AI-Computings#
Die Auswirkungen fortschrittlicher Rechenleistung für AI beschränken sich nicht auf AI, sondern erreichen auch den Energiesektor.
Abb. 6: Auf dem Weg zu nachhaltiger AI-Hardware.
Beispielsweise wurde Metas LLaMA-3, ein fortschrittliches großes Sprachmodell (LLM), mit zwei eigens entwickelten Rechenzentrumsclustern trainiert, die jeweils mit 24.576 NVIDIA H100 GPUs ausgestattet waren. Durch diese leistungsfähige Hardwarekonfiguration konnte Meta die Verarbeitungsgeschwindigkeit erhöhen und den Energieverbrauch deutlich um 40 % senken. Fortschritte bei der AI-Hardware tragen somit auch zu energieeffizienteren Abläufen bei.
Darüber hinaus erhält die Verbindung zwischen AI und Energie mehr Aufmerksamkeit, da sich auch Personen wie Sam Altman engagieren. Altman, der als CEO von OpenAI bekannt ist, hat das Kernenergieunternehmen Oklo kürzlich an die Börse gebracht. Oklo will mit seiner innovativen Technologie zur Kernspaltung die Energieerzeugung verändern und möglicherweise die Rechenzentren mit Strom versorgen, die für den Betrieb von AI unerlässlich sind. In den vergangenen Jahren haben auch Bill Gates, Mitgründer von Microsoft, und Jeff Bezos, Gründer von Amazon, in Kernkraftwerke investiert.
Über die Schaltkreise hinaus#
Mit Blick auf die Zukunft steht die AI-Hardware vor gewaltigen Fortschritten, insbesondere durch den Aufstieg des Quantencomputings. Expertinnen und Experten prognostizieren, dass der Markt für Quantencomputing bis 2030 einen Wert von fast 65 Milliarden US-Dollar erreichen könnte. Mit zunehmender Komplexität von AI-Modellen wird spezialisierte Hardware entscheidend, um ihr volles Potenzial auszuschöpfen. Von AI-spezifischen Chips bis zur Erforschung des Quantencomputings treibt Hardwareinnovation die Entwicklung komplexerer und wirkungsvollerer AI-Lösungen voran.
Sieh dir gerne unser GitHub-Repository an und beteilige dich an unserer Community, um mehr über AI zu erfahren. Entdecke unsere neuesten Blogbeiträge und erfahre, wie AI in verschiedenen Bereichen eingesetzt wird, etwa im Formel-1-Rennsport und in der Robotik.
