Nvidia gegen den Rest der Welt: Das Rennen um die Super-Chips

Im Mittelpunkt der KI-Revolution: Nvidia-Chef Jensen Huang auf der hauseigenen Entwicklerkonferenz GTC

Im Jahr 2006 traf der amerikanische Internetriese Amazon zwei wegweisende Entscheidungen: Erstens öffnete er seine Datenzentren für externe Nutzer und gründete dafür die hauseigene Cloudsparte AWS. Zweitens entschied der Vorstand um Jeff Bezos, alle wichtigen Glieder dieser Wertschöpfungskette in eigenen Händen zu halten: Soft- und Hardware, Netzwerke und Server, Datenbanken, Speicherchips und Prozessoren.

Zur gleichen Zeit ging der US-Chiphersteller Nvidia auf eine eine halbe Milliarde Dollar teure Shoppingtour. Er kaufte Unternehmen wie die finnische Hybrid Graphics oder die Berliner Mental Images, forcierte sein Geschäft mit Grafikchips und griff den Konkurrenten AMD an. Der hielt dagegen. Er kaufte den Grafikchiphersteller ATI, verkaufte seine Fabriken in Dresden und beschränkt sich seither auf das Entwerfen komplexer Halbleiterbausteine.

Später sollte Amazon ein kleines, aber überaus feines Team einstiger AMD-Entwickler in Dresden an sich ziehen. Es baute die sächsische IT-Truppe rasch aus und ließ sie an zentralen Gliedern der langen Wertschöpfungskette seiner AWS-Cloud arbeiten. Die Amerikaner hatten das Silicon Saxony fest im Visier, und die Sachsen blickten mit Argusaugen nach Amerika. Als dort im Herbst 2022 der Weltöffentlichkeit ein KI-System wie ChatGPT präsentiert wurde, wussten die Dresdner, wohin sie nun besser schauen sollten: weniger auf Open AI, Microsoft oder Google, vielmehr auf Nvidia und AMD . Denn die entwickeln und entwerfen jene Chips, die KI für die breite Anwendung erst möglich machen und damit nun die Welt bewegen.

Goldene Zukunft? Ein sogenannter Super-Chip von Nvidia

Ein Chip zum Preis eines Autos

Nvidia hatte sich über die Jahre hinweg vom Grafikspezialisten zum KI-Primus gemausert. Es sollte in Sachen Software kräftig aufrüsten und in Sachen Hardware neue Maßstäbe setzen. Entwickelt das Unternehmen doch elektronische Bausteine, die es so noch nicht gegeben hat: nicht in Sachen Größe, nicht in Sachen Preis und auch nicht in Sachen Leistungskraft. Gerade erst haben sich wieder alle Augen auf Nvidias Gründer und Vorstandschef Jensen Huang gerichtet, als er vor wenigen Tagen die kommende Chipgeneration präsentierte.

Die schokoladentafelgroßen elektronischen Wunderbausteine sind eine neue Art von Superchips. Sie haben das Preisschild eines ordentlichen Mittelklassewagens und können nicht nur schneller rechnen oder mehr Daten verarbeiten als ganze Supercomputer. Sie sollen nach allgemeiner Ansicht auch eine neue indus­trielle Revolution auslösen. Damit wähnt sich Nvidia an der Spitze der gesamten Techbranche.

Angetrieben von der Nachfrage nach Chips für das Training und den Betrieb von hochkomplexen Systemen der Künstlichen Intelligenz (KI), hatte Nvidia in den zurückliegenden Monaten eine atemberaubende Entwicklung hingelegt, seinen Quartalsumsatz mehr als verdreifacht und seinen Nettogewinn mehr als verachtfacht. Der Kurs der Aktie schoss durch die Decke. An der Börse ist das Unternehmen inzwischen 2,2 Billionen Dollar Wert, mehr als der Facebook-Konzern Meta . Nur Microsoft und Apple liegen in Sachen Marktkapitalisierung noch vor Nvidia.

Flaschenhals KI-Chips

Während Anleger diese Entwicklung freut, zeigt man sich in den Zentralen der großen amerikanischen Techgiganten wie Amazon und Google oder Microsoft und Intel eher skeptisch. Die Unternehmen sind zwar in vielen Geschäftsbereichen bislang auf die teuren Chips aus dem Hause Nvidia angewiesen. Doch gerade weil es für diese KI-Chips derzeit kaum gleichwertige Alternativen gibt, haben sie sich vor einiger Zeit schon jeder für sich darangemacht, eigene KI-Chips zu entwickeln.

Im vergangenen Jahr wurden mit dieser Art von Chips rund 53 Milliarden Dollar umgesetzt; in diesem Jahr könnten es knapp 70 Milliarden Dollar werden. Die Analysten von Gartner prognostizieren bis 2027 eine Verdopplung des Marktes für KI-Halbleiter auf rund 140 Milliarden Dollar. Das treibt die Entwicklungspläne der Nvidia-Konkurrenten an. Die japanische Softbank-Gruppe sammelt derzeit 100 Milliarden Dollar für den Bau einer eigenen Fabrik zur Herstellung von KI-Chips ein. Saudi-Arabien macht sich daran, einen 40 Milliarden Dollar großen KI-Chip-Investitionsfonds aufzulegen. Open AI und Microsoft sprachen von der gigantischen Summe von 7000 Milliarden Dollar, die sie von Investoren aufbringen lassen wollen. Doch bislang ist die Dominanz von Nvidia ungebrochen.

Das Beratungsunternehmen Omdia schätzt Nvidias Marktanteil bei KI-Chips auf derzeit 70 Prozent. Unternehmen wie Meta, Microsoft und Alphabet berichten, dass sie ihre KI-Rechenzentren eigentlich schneller aus- oder aufgebaut hätten, wenn sie denn ausreichend Nvidia-Chips zur Verfügung hätten. Die Fertigung läuft auf Hochtouren, doch sie kommt der sprunghaft gestiegenen Nachfrage nicht hinterher. So spricht Nvidia-Chef Jensen Huang bereits darüber, wie er die knappen vorhandenen Chips möglichst fair und gleichmäßig unter seinen Kunden verteilen könnte. Die großen Techunternehmen haben den Flaschenhals erkannt – und entwickeln daher eigene KI-Chips. Sie bauen mit Beschleunigungsmodulen eine Art Turbo für herkömmliche Hochleistungschips oder erstellen komplizierte Entwürfe völlig neuer KI-Chips. Die industrielle Produktion dieser Bausteine legen sie dann in die Hände von Auftragsfertigern wie TSMC oder Samsung – so wie es Nvidia auch macht. Inzwischen scheint diese Strategie der Konkurrenten erste Früchte zu tragen.

Die Wege der anderen

Googles neuestes großes KI-Modell Gemini etwa hat der Konzern auf den selbst entwickelten Tensor-Prozessoren trainiert. Die Chips nutzt Google beispielsweise auch, um für seinen Dienst Street View die Straßennamen aus Kameraaufnahmen auszulesen. Mit Microsoft warf im November 2023 ein weiterer großer Cloudanbieter seinen Hut in Sachen Chipentwicklung in den Ring. Den „Microsoft Azure Maia AI Accelerator“ hat der Softwarekonzern in Kooperation mit dem ChatGPT-Entwickler Open AI konzipiert, der Chip soll laut eigenen Angaben speziell an die Anforderungen der GPT-Modelle von Open AI angepasst sein. Meta stellte vergangenes Jahr den „Meta Training and Inference Accelerator“ (MTIA) vor, einen speziell entwickelten Chip, der zunächst nicht für das Training, sondern das Anwenden schon trainierter Modelle entwickelt wurde.

Am längsten in diesem Geschäft ist allerdings Amazon. Der Internetriese ist seit mehr als zehn Jahren über seine Cloudsparte AWS im Chipbereich tätig. Im gleichen Jahr hatte er in Dresden die einstige Entwicklungsabteilung vom damaligen AMD-Konzern angeheuert und auf das Thema Chipentwicklung angesetzt. „Wir steuern inzwischen den gesamten Prozess vom Chipdesign bis zum tatsächlichen Server in einem Rechenzentrum“, sagt Dave Brown, der bei AWS unter anderem für das Thema Chipentwicklung zuständig ist, im Gespräch.

Das sei ein großer Vorteil, weil AWS so die Chips spezifisch auf bestimmte Nutzungsszenarien anpassen und die Ausfallraten deutlich senken könne. 2015 kaufte Amazon das israelische Start-up Annapurna Labs, das seitdem bei der Chipentwicklung unterstützt. Inzwischen hat Amazon mehr als 2 Millionen seiner Hochleistungschips in seinen Cloud-Rechenzentren verbaut. 2018 kündigte AWS erste Chips für den Einsatz beim maschinellen Lernen an. Dabei werden Maschinen zu einer Art künstlichem Gehirn gemacht und für die Lösung spezieller Aufgaben geschult. Zunächst machte sich AWS an den Betrieb (Inferenz), dann an das Training von Modellen. Damit war Amazon früher dran als Meta und Microsoft, aber später als Google. Die hatten ihre Tensor-Prozessoren schon ein Jahr zuvor ankündigt.

Ein Fehler kann Monate kosten

„Das Training von KI steht aktuell im Fokus, aber sobald die großen KI-Modelle mal überall im Einsatz sind, wird es mittelfristig wieder mehr um Inferenz gehen“, sagt Brown. Entsprechend hat Amazon seine Chips „Trainium“ und „Inferentia“ getauft. Sie sind mittlerweile in der jeweils zweiten Generation. Dass inzwischen auch AWS-Rivalen in eigene Chips investieren, sieht Brown als „positive Entwicklung“ für die Kunden. Aber: „Innovationen im Hardwarebereich sind sehr kompliziert“, sagt er. Unternehmen müssten in der Entwicklung viel testen und simulieren. „Ansonsten hat man am Ende einen Chip, der nicht funktioniert.“ Und anders als bei Software lasse sich ein solcher Fehler, ein sogenannter „Bug“, nicht so einfach reparieren. Ein Fehler könne sechs bis neun Monate Entwicklungszeit kosten.

AWS habe in der Chipentwicklung inzwischen viel Erfahrung. „Wer jetzt in diesen Bereich einsteigt, hat noch einen langen Weg vor sich, bevor er ein stabiles Produkt hat.“ Das gelte insbesondere für KI-Chips: „Trainium 2“ sei „mit Abstand“ der komplizierteste Chip, den AWS je entwickelt habe. Die Technologieanalysten von New Street Research schätzen, dass Google 2 bis 3 Milliarden Dollar für die Produktion von einer Million seiner KI-Chips ausgegeben hat. Amazon soll sich im vergangenen Jahr die Produktion von 100.000 KI-Chips 200 Millionen Dollar haben kosten lassen.

Kunden oder Wettbewerber?

Die Chipdesigner geben sich angesichts der ambitionierten Pläne von Google, Amazon und Co. betont gelassen. „Das ist ganz natürlich“, sagte AMD-Chefin Lisa Su dem Wirtschaftsmagazin „Forbes“ im vergangenen Jahr. Es ergebe für die Unternehmen Sinn, ihre eigenen Komponenten zu bauen, um effizienter zu werden. Sie bezweifelte aber, dass große Techunternehmen mit AMDs Expertise mithalten könnten. „Ich halte es für unwahrscheinlich, dass unsere Kunden unser gesamtes Ökosystem replizieren“, sagte Su. Zumal die Implementierung neuer Chips als aufwendig gilt, weil dafür Software umgeschrieben werden muss.

Auch Brown von AWS betont: „Wir wollen immer noch der beste Ort für Nvidia-, AMD- oder Intel-Chips bleiben.“ Das gebe den AWS-Kunden die beste Auswahl. „Durch den Wettbewerb, auch mit unseren Partnern, gewinnt am Ende der Kunde.“ Für manche Modelle seien vielleicht Nvidia-Chips besser, für andere AWS-Chips. Der Markt werde umkämpfter. AWS arbeitet seit 13 Jahren mit Nvidia zusammen. Die Partnerschaft würde sich „immer weiter vertiefen“, betont Brown.

Doch die großen Techkonzerne wollen nicht nur ein Stück von Nvidias Chipkuchen abhaben – sie müssen sich inzwischen auch darum sorgen, dass Nvidia sie in ihrem Kerngeschäft angreift. Denn Jensen Huang setzt nicht nur auf Chips. Er lässt mittlerweile auch komplett eigene Hardwaresysteme wie Computer oder Roboter bauen und lässt seit Jahren schon eigene Software und auch eigene Algorithmen (Cuda) schreiben. Nun plant er darüber hinaus, eigene KI-Systeme zu entwickeln. Damit geht er daran, seinen bislang besten Kunden zu Konkurrenz zu machen.