Amazon greift Nvidias größten Vorteil an: Das Tool TorchNeuron verlegt KI-Apps mit einer einzigen geänderten Zeile auf Trainium-Chips

Wer das Rennen um künstliche Intelligenz auch nur ein wenig verfolgt, weiß: Nvidia wurde nicht nur wegen schneller Grafikchips zum Standard. Die Position hält auch die Software CUDA, mit der Nvidia seit Jahren dafür sorgt, dass in PyTorch geschriebene Apps fast von selbst auf seiner Hardware laufen. Genau dort schlägt Amazon Web Services mit dem neuen Tool TorchNeuron zu, das am Montag vorgestellt wurde.

Das Versprechen ist einfach: Eine in PyTorch geschriebene KI-App soll sich durch Änderung einer einzigen Konfigurationszeile auf Amazons Trainium-Chip verlegen lassen, ohne Code neu zu schreiben. So behauptet es jedenfalls das Unternehmen. Laut Amazon sind rund 85 Prozent der KI-Apps in PyTorch geschrieben, einem von Facebook geschaffenen Open-Source-Tool, das seit 2022 von der Linux Foundation gepflegt wird. Es geht also nicht um eine kleine Marktnische, sondern um die Mehrheit.

Amazon ist nicht der Erste, der es versucht. PyTorch-Apps lassen sich mit einer ähnlichen Änderung bereits auf Grafikchips von AMD und sogar auf Chips von Apple übertragen. Was Amazon als Unterschied verkauft, ist die Cloud rund um den Chip. Das Unternehmen argumentiert, sie sei für Start-ups eine bessere Wahl als sogenannte Neoclouds wie CoreWeave, Nebius und Firmus, von denen viele an Nvidia und dessen Hardware gebunden sind.

„Sie bauen auf AWS. Sie setzen nicht auf einen Rechenanbieter mit nur einem Zweck und mühen sich dann ab, alles andere drumherum aufzubauen“, sagte Colin Brace, Vizepräsident für Technologiesoftware bei AWS Annapurna Labs, der Einheit, die Amazons eigene Chips entwickelt. Das Preisargument ist vorsichtiger, als es klingt: AWS behauptet nicht, den niedrigsten Preis pro Token zu bieten, sondern dass die Ersparnis entsteht, weil derselbe Chip sowohl fürs Training als auch für den Betrieb des fertigen Modells dient. Als Beleg nennt AWS Deepgram, einen ElevenLabs-Konkurrenten bei Sprach-KI, der nach dem Wechsel 70 Prozent mehr Audio pro Dollar verarbeitete.

Der größere Schritt ist ein anderer. Amazon kündigt an, Änderungen direkt in PyTorch einzureichen, um den Code zu bereinigen, der das Framework an bestimmte Chips bindet. Das Unternehmen stellt das als Dienst an der gesamten Entwicklergemeinschaft dar, nicht nur an Trainium-Nutzern. Doch wenn ein Chipverkäufer Nvidia-Abhängigkeiten aus dem Tool entfernt, das die Mehrheit nutzt, fällt es schwer, an reinen Altruismus zu glauben. Der Sinn von PyTorch war gerade, die Hardware-Plagen zu verstecken. Wir werden sehen, ob Entwickler mehr Auswahl und günstigere Optionen bekommen oder nur neue Konfigurationskopfschmerzen.

Brace redete nicht um den heißen Brei: „Die eigentliche Geschichte ist die Beseitigung des Lock-ins, der Entwickler daran gehindert hat, überhaupt eine echte Wahl zu haben.“ Gelingt es Amazon, PyTorch tiefgreifend von Nvidia zu lösen, wären die Folgen für den Giganten weit größer als ein weiterer Konkurrenzchip. Für ein kleineres Start-up, aus Skopje oder aus Belgrad, ist die Frage praktisch: Zahlt es am Ende weniger - oder wechselt es nur den Hausherrn?