IT之家 Bericht vom 11. November: Der Vorsprung von Nvidias CUDA-Ökosystem ist möglicherweise einer wachsenden Herausforderung ausgesetzt. Eine Folie aus den IPO-Roadshow-Unterlagen von Anthropic zeigt: Da hochperformante KI-Modelle zunehmend in der Lage sind, sich selbstständig an verschiedene Rechenplattformen anzupassen, werden GPUs immer mehr zu austauschbaren, universellen Rechenressourcen.
IT之家 hat bemerkt, dass in Anthropics IPO-Roadshow-Unterlagen eine bemerkenswerte Information offengelegt wurde: Das Claude-Modell „Mythos Preview“ brauchte nur etwa 3 Tage, um herauszufinden, wie ein anderes Modell auf AMD MI355X GPUs betrieben werden kann. Im Vergleich dazu dauerte die Anpassung, die für Inferenzaufgaben auf einer neuen Rechenplattform erforderlich ist, traditionell üblicherweise 6 bis 12 Monate.
Das bedeutet, dass Anthropic die GPUs verschiedener Hersteller nun als relativ universelle Rechenressourcen betrachten kann; die technische Hürde für den Wechsel zwischen verschiedenen Plattformen ist deutlich gesunken. Genau deshalb vertritt man zunehmend die Auffassung, dass Nvidias seit langem stolz gepflegter CUDA-Ökosystem-Burggraben möglicherweise seine ursprüngliche Bedeutung verloren hat.
Es ist jedoch wohl noch zu früh, jetzt schon das Ende des Vorsprungs von Nvidias CUDA-Ökosystem zu verkünden. CUDA ist nicht nur ein Satz Software-Tools; dahinter stehen ein riesiges Entwickler-Ökosystem, umfangreiche Funktionsbibliotheken und Entwicklungswerkzeuge sowie eine über viele Jahre kontinuierlich optimierte technologische Grundlage. Derzeit bauen und pflegen noch zahlreiche Entwickler verschiedenste Anwendungen rund um CUDA.
In den vergangenen Jahren hat Nvidia zudem verschiedene Maßnahmen ergriffen, um den Wettbewerbsvorteil von CUDA zu festigen. Beispielsweise stellt das Unternehmen Universitäten und Forschenden GPUs und Schulungsressourcen kostenlos zur Verfügung, um mehr Entwickler in das CUDA-Ökosystem zu ziehen.
Darüber hinaus hat Nvidia die zur Verbindung mehrerer GPUs eingesetzte Kommunikationsbibliothek NVIDIA Collective Communications Library (NCCL) tief mit proprietären Hardware-Technologien wie NVLink und InfiniBand verknüpft, um die Effizienz des gemeinsamen Rechnens mit mehreren GPUs weiter zu steigern – und zugleich die Kosten für Nutzer zu erhöhen, die auf andere Plattformen migrieren möchten.