雷峰网 AIAktualisiert

Große Modelle „Bauingenieur-Fraktion“ schlagen endlich zurück: Klettern die Jahresgehälter in AI Infra auf 8 Millionen?

„Früher nannte man in der KI-Branche alle, die Infra- und Engineering-Arbeit machten, die ‚Bauingenieur-Fraktion unter den Informatikern‘ – sie machten die schmutzigste und anstrengendste Arbeit und bekamen das…

„Früher nannten die Leute in der KI-Branche alle, die Infra- und Engineering-Arbeit machten, die ‚Bauingenieur-Fraktion im Computer’ – sie machten die schmutzigste und anstrengendste Arbeit und bekamen das schlechteste Geld. Wer hätte gedacht, dass sie heute so viel wert sind?“, sinnierte Liu Li, eine Führungskraft eines großen Modell-Einhorns, gegenüber Leifengwang. Er legte einen Gehaltsvergleich auf den Tisch: AI-Infra-Engineering-Positionen kamen früher in großen Konzernen mit Jahresgehältern kaum über 300 万 hinaus; heute kann man guten Infra-Leuten sieben bis acht Millionen bieten. Gegenüber Algorithmus-Positionen (500~1400 万) besteht noch eine Lücke, aber es ist bereits ein glänzender Erfolg im Kampf nach oben. Lu Bingning, Senior-Experte für KI-Geschäft in Südchina beim börsennotierten Personaldienstleistungsunternehmen Career International,hat diesen rasanten Aufstieg ebenfalls miterlebt: „2024 traf ich in Shenzhen einen Infra-Kandidaten, sein Jahresgehalt lag noch bei 300.000; 2025 stieg es auf 500.000; als er dieses Jahr den Job wechselte, waren es direkt 1 Million.“ Das ist kein Einzelfall. „Wenn Infra-Talente von Einhörnern zu großen Internetkonzernen wechseln, verdoppeln sich die Gehälter teilweise; beim Wechsel von Großkonzernen zu Einhorn-Startups kann das Gehaltspaket auf etwa das 3-Fache steigen, wobei Optionen den Großteil ausmachen. Das 3-Fache ist ein Einzelfall, das 2-Fache ist häufiger“, ergänzt er.Der Auslöser dieser Gehaltsoffensive war die Veröffentlichung von DeepSeek R1.„Anfang 2025 wurde R1 zum Hit und zeigte allen den Wert von Infra-Verbesserungen; AI-Infra-Talente wurden sofort von allen Modellherstellern umgarnt,und dieser Zustand hält bis heute an.“so Lu Bingning. Doch Gehaltsverdopplungen kamen nie allen gleichermaßen zugute. Wenn das Marktgeld auf diese Gruppe niederprasselt – was genau bestimmt ihren Preis? Und welche Art von Infra-Leuten hat das fettste Stück dieser Dividende abbekommen?
01

Die „Bauingenieur-Fraktion“– worauf beruht das hohe Gehalt?

Was sind AI-Infra-Talente? Einfach gesagt: AI-Infra-Talente arbeiten daran,aus den teuren GPU-Karten eine möglichst hohe Auslastung herauszuholen, und dem Unternehmen so tatsächlich Geld zu sparen. Lu Bingning erzählte Leifengwang (WeChat-Öffentlicher Account: Leifengwang), dass die Infra-Position in den drei Jahren von 2022 bis 2024 im Grunde ein „Nebenrollen-Job“ war. Nach dem Erscheinen von ChatGPT trat China sofort in die Phase der „Schlacht der hundert Modelle“ und des Ausprobierens von Anwendungen ein. Kapital und Teams richteten den Blick auf zwei Dinge: die Modellleistung auf ChatGPT-Niveau bringen und schnell eine Killer-App hervorbringen. Aufmerksamkeit wie hohe Gehälter gingen vorrangig an Algorithmus- und Produkt-Positionen. In der Angst nach dem Prinzip „erst einsteigen, dann Ticket kaufen“ hatte Engineering-Effizienz keine hohe Priorität, und die dahinterliegende Verschwendung von Rechenleistung sowie die Probleme bei der Scheduling-Effizienz wurden vorübergehend überdeckt. „Solange der Cluster nicht abstürzte und die Rechnung nicht explodierte, galt der Job als erledigt. Der Wert solcher Supporting-Teams wie Infra-Engineeringwurde damals mit dem von Betrieb und Wartung gleichgesetzt – niemand nahm das ernst.“, gesteht Zhang Tong, Experte für Rechenleistungs-Scheduling in einem großen Modell-Labor. Die Wende kam nach dem Erscheinen von DeepSeek R1. Nach Lu Bingnings Erinnerung grübelte nach der Veröffentlichung von R1 die ganze Branche über eine Frage: DeepSeek hat so wenige Leute und hat trotzdem so ein gutes Produkt gemacht und so viel Geld verdient – wie haben sie das geschafft? Ein Teil der Antwort lag später bei der Kostenreduktion durch Infra. Man stellte fest, dass Inferenz großer Modelle echtes Geld verbrennt und die Rechnung oft sprengt. Wer in dieser Lage Infra-Kostenreduktion betreibt, bei dem ist jeder gesparte Cent echter Gewinn. Also begannen alle, bei DeepSeek Leute abzuwerben, und über die Gehälter wurde praktisch ohne Limit verhandelt.

Mit gut gemachter Infra-Kostenreduktion lassen sich Rechenkosten um Zehnmillionen sparen

„Die Rolle von Infra ist heute, den Herstellern Geld zu sparen. Geld sparen ist auch Geld verdienen“, sagt Lu Bingning. Wie viel lässt sich sparen? Nach seiner Schätzung lassen sich mit gut gemachter Infra-Kostenreduktion bei den Rechenkosten mindestens einige zehn Millionen einsparen. Konkret geht es bei Operatoren darum, aus einer einzelnen Karte das Äußerste herauszuholen, bei der Inferenz darum, die verschiedenen Ressourcen für Kostenoptimierung und höhere effektive Auslastung zu kombinieren. Optimierungen wie PD-Trennung, Experten-Parallelität, VLLM und SGlang senken die Kosten am stärksten. Man bedenke: Die teuersten Ausgaben großer Modellunternehmen lasten fast vollständig auf diesen Karten. In der Branche kursiert folgende Budgetaufteilung: Von je 100 Einheiten, die ein KI-Modellunternehmen in KI-Training investiert, gehen 40 an Rechenleistung, 30 an Talente, 20 an Werbung und die restlichen 10 an Daten. Bei einem Trainingslauf eines großen Modells oder einer Nacht Inferenz fressen Beschaffung, Miete und Stromkosten der GPU-Cluster oft den Löwenanteil der KI-Geschäftskosten – bei manchen Unternehmen über 6 Dezilen. Doch das Geld wird ausgegeben, während die Karten oft leerlaufen. Zhang Tong erzählte Leifengwang, dass die tatsächliche GPU-Auslastung in der Branche langfristig niedrig ist und im Durchschnitt nur bei 25% bis 27% liegt – das heißt, über die Hälfte der gekauften Rechenleistung wurde nie wirklich genutzt. Und genau hier liegt das Betätigungsfeld der Infra-Talente: „Mit denselben Karten kann ein gutes Infra-Team die Auslastung auf 40% hochziehen.Diese gut zehn Prozentpunkte Unterschied sind die Barriere.“Eine einfache Rechnung: Ein 8-Karten-B-System kostet im Spotmarkt in China 13 Millionen, als Terminware in 3 Monaten etwa 11 Millionen. „Spart man nur 8 Karten, sind schon über zehn Millionen gespart.“ Doch Geldsparen ist nur die offensichtlichste Ebene. Auf einer tieferen Ebene hat der technologische Wettbewerb der großen Modelle die Phase erreicht, in der es nicht mehr um Algorithmus-Innovation geht, sondern um den harten Kampf der zugrundeliegenden Systemtechnik.

Die Phase der KI-Branche hat sich geändert, und der Wert von Infra hat sich mitverschoben

In einer Zeit, in der der Algorithmus-Dividende ihre Grenzen erreicht sind, ist die zugrundeliegende Systemtechnik zum effizienteren Hebel geworden. „Optimiert man bei Infra auch nur ein bisschen, bringt das einen Effizienzsprung, der viel lohnender ist, als sich nur auf Algorithmus zu verbissen“, gesteht Zhou Yue, erfahrener AI-Infra-Engineer bei einem großen Modell-Einhorn. Der Wettbewerb um Algorithmen wird immer schwieriger, denn auf der technologischen Seite der großen Modelle hat sich das Blatt gewendet. Das Training großer Modelle ist derzeit fast eine offene Buchprüfung. Dank der Verbreitung von Open-Source-Modellen und der ausgereiften Konvergenz grundlegender Architekturen wie Transformer hat sich der Schwerpunkt des Branchenwettbewerbsvon grundlegendem Pre-Training zu Engineering-Umsetzung und Inferenzoptimierung verlagert.„Beim Training großer Modelle gibt es heute kaum noch wirklich ‚unverzichtbare‘ kreative Arbeit; der Großteil der Aufgaben besteht aus Datenbereinigung, Datenmischungsexperimenten und Engineering-Tuning. Das ist keine Hochtechnologie, bringt aber echtes Geld“, ergänzt Zhou Yue. Er erzählt auch das Beispiel des „Flechtmeisters mit sieben Grad“: Wenn ein Infra-Engineer den Server öffnet, die Glasfaserkabel und Kabel ordnet und die Kabelbinder etwas lockert, damit sie nicht zu fest sitzen, wird ein Server 10% bis 20% schneller. „Dafür kann man dir wirklich keinen Grund nennen – das muss man wirklich gemacht haben, um es zu durchschauen.“ „Die Infra-Position ist wirklich nicht mehr das Infra von früher“, erzählt Lu Bingning Leifengwang. Früher war der Infra-Nutzen gering, weil 2023 und 2024 alle auf Benchmarks schauten; ein paar Prozentpunkte Verbesserung waren für das Unternehmen positiv und halfen dabei, Geld einzusammeln. Heute sind Algorithmus und Produkt aber im Wesentlichen ausgereift, und die Unternehmen verlangen stattdessen den maximalen Wert pro Karte. Damit lässt sich der Ertrag durch Infra leicht quantifizieren, und der Wert steigt naturgemäß. Doch eine Neubewertung des Werts heißt nicht, dass alle Gehaltserhöhungen bekommen. Wenn der Markt hohe Gehälter auf Infra wirft, isst wirklich nur eine kleine Gruppe dieses fetteste Aufpreisstück.
02

Nur 5% der Leute bekommen diesen Aufpreis?

Auf den ersten Blick sind die vier Worte „Gehaltsverdopplung“ schon zum geflügelten Wort des AI-Infra-Recruitingmarktes geworden. Doch nach Ansicht von Guo Quanwei, Mitgründer und CTO von StartLux, hält man eher wenige Ausreißer fälschlich für den allgemeinen Normalzustand. Sein Urteil hat einige Datenlage. Die Jobgehalt-Angaben auf Maimai zeigen, dass das Monatsgehalt von AI-Infra-Talenten auf dem chinesischen Festland bei etwa 73.000 liegt und damit bereits leicht über dem von Leuten im großen Modell-Algorithmusbereich. Allerdings verschleiert der Durchschnitt die interne Differenzierung. Wirklich hochgezogen wird die Gehaltskurve von den Leuten, die die Kartenauslastung steigern können; die vielen, die „normale Infra“ machen, sind von der Verdopplung noch weit entfernt. Zum Beispiel liegen Infra-Positionen, die Inferenz-Frameworks wie VLLM und SGLang in Produkte deployen, beim Monatsgehalt meist bei 40.000 bis 50.000 – von „Verdopplung“ keine Spur. Konkreter gefragt:Wessen Gehalt verdoppelt sich?Die Antworten mehrerer Befragter konzentrieren sich auf zwei Richtungen: Inferenzoptimierung und Modellquantisierung. Diese Leute tun genau das: die Rechenleistung jeder einzelnen GPU so weit wie möglich an die Grenze treiben. „Wenn man dem Unternehmen 30% Trainingszeit erspart oder 30% mehr Token-Durchsatz bringt, sinken die Kosten direkt spürbar – das bedeutet höhere Forschungsproduktivität“, ergänzt Guo Quanwei. Nach seiner Ansicht ist es nicht übertrieben, dass Leute, die Operator-Optimierung solide beherrschen, die Quantisierung von Inferenz-Engines sauber umsetzen und den Durchsatz wirklich nachweisen können, eine Gehaltsverdopplung bekommen. Das Problem ist nur: Diese Gruppe ist nicht so groß wie gedacht. Nach Guo Quanweis Einschätzung sind die meisten von ihnen Veteranen mit 5 bis 10 Jahren Erfahrung im Infra-Bereich. Sie haben früher in großen Internetfirmen verteilte Systeme, Hochleistungsrechnen, Suche und Empfehlung sowie Datenbanken gemacht; ihr Einstiegsgehalt war ohnehin nicht niedrig, und ihre Erfahrung ist schwer ersetzbar. „Mit diesen 5 bis 10 Jahren kann man den heutigen AI-Infra-Teller überhaupt stemmen; ein Frischling, der gerade erst ein bis zwei Jahre arbeitet und direkt das doppelte Gehalt verlangt – das ist nicht plausibel.“ Nach Guo Quanweis Schätzung machen Leute, die wirklich diesen hohen Aufpreis abbekommen, in der gesamten AI-Infra-Bevölkerung nur etwa 5%~10% aus. Auch bei der Differenzierung der Gehaltserhöhungen teilt Lu Bingning diese Sicht. Er unterteilt Infra in drei Blöcke:Inferenzoptimierung und Beschleunigung, Trainings-Frameworks, Operator-Entwicklung. „Diese drei Blöcke haben alle hohe Zuwächse, wenn auch mit unterschiedlicher Wertschätzung. Er gab ein anschauliches Gleichnis:
Wer Operator-Entwicklung betreibt, ist wie jemand, der Küchengeschirr feinschliff: Wie schärft man ein Messer am besten, wie erwärmt sich ein Topf am gleichmäßigsten? Wer an Trainings-Frameworks arbeitet, baut die Küchenorganisation auf: Wer schneidet das Gemüse, wer steht am Herd, wer springt bei Fehlern ein? Wer an Inferenz arbeitet, überlegt, wie man die Gerichte am schnellsten servieren kann – wie man mit einem Rezept gleichzeitig 10 Gerichte auf den Tisch bringt und mehrere tausend Gäste satt macht. Das ist die Phase der Monetarisierung.
In der Branche gelten Operator und Inferenz allgemein als wichtiger, so ergab sich die Unterscheidung zwischen „heißen“ und „kalten“ Bereichen. Leifeng.com erfuhr: Auf dem Arbeitsmarkt ist die Nachfrage nach Trainings-Framework-Fachkräften relativ moderat. Ein Grund ist, dass diese Arbeit extrem teuer ist – nur führende Internet- und Cloud-Anbieter können sich spezialisierte Teams leisten, und manche Einhörner haben ihre Trainingsabteilungen gleich ganz gestrichen und nur Inferenz- und Operator-Teams behalten.
03

Wer zahlt tief in die Tasche: fünf Käufertypen, fünf Kassenbücher

Der Aufspaltung zwischen gefragten und ungeliebten Stellen liegt heimliches Kalkül und die Sorge verschiedener Arbeitgeber zugrunde. Blickt man auf die gesamte Branche, lassen sich die „Käufer“, die bereit sind, einen Aufpreis für Infra zu zahlen, grob in fünf Kategorien einteilen – ihre Bedürfnisse unterscheiden sich jeweils. „ByteDas Geschäftsvolumen ist groß, und sie suchen Leute, die das Training- und Inferenz-Scheduling stabilisieren können. Ob Seedance oder Doubao – wenn ein Inferenz-Ingenieur eine Beschleunigung um 10 % erreicht, spart das über ein Jahr erhebliche Rechenkosten; das Kosten-Nutzen-Verhältnis ist erschreckend hoch.“, so Liu Li, der zuvor genannte Manager des großen Modellen-Unicorns.Tencentschlägt einen anderen Weg ein: In den ersten Jahren war das Basis-Grundmodell noch schwach, in den letzten beiden Jahren holt man beim Grundmodell und der vollständigen Infra deutlich auf, hat Yao Shunyu geholt und ein eigenes AI-Infra-Department gegründet und schließt Lücken, indem man reife Teams von extern abwirbt.Alibaba und Baiduals Cloud-Anbieter hingegen in einem anderen Takt. Während der letzten Welle der Dividenden von Cloud Computing und Big Data hatten sie bereits eine große Zahl an Infra-Ingenieuren angesammelt, die sich mit Distributed Systems und Basis-Infrastruktur beschäftigen; als die KI-Welle kam, konnten viele direkt in offene Stellen wechseln. Da zudem beide Unternehmen eigene Chips entwickeln, liegt der Schwerpunkt stärker auf Heterogenität, und Personalrekrutierung ist zur Routine geworden – ein stetiger, langsamer Fluss, selten mit der Raserei von explodesziven Gehältern. Der wirklich explosive Bedarf an Infra-Talenten herrscht bei ByteDance und Tencent sowie bei DeepSeek, Kimi und MiniMax, diesenEinhörnern, die jede Schwindel erregende Performance aus jeder einzelnen Karte herausholen wollen. In der Regel setzen die Riesen auf den Kampf regulärer Armeen als Großverband; ein Infra-Department beginnt meistens mit mindestens 50 bis 60 Personen, wo Operatoren, Training, Inferenz und Netzwerk so fein getrennt sind wie in einem Operationssaal. Die Einhörner dagegen fahren oft das Modell „schlanker Spezialtruppen“. Ihre Infra-Teams bestehen meist aus etwa zwanzig Leuten und bevorzugen Allrounder, die sowohl die unterste Operatorebene verstehen als auch Inferenz-Engines steuern können. Die Struktur ist recht flach: Ein „Allround“-Tech-Lead trägt die Hauptlast, darunter zwei bis drei Top-Experten in Teildisziplinen und wiederum etwa zwanzig erfahrene Kämpfer, die mit außerordentlich hoher individueller Kampfkraft denflush gegen die Großkonzerne führen. Schließlich gibt es noch eine Gruppe nationalerChip-Hersteller, die gerade auf das „Nationales Schicksal“ wetten.„Viele nationale Chip-Hersteller sind bereits in die IPO-Phase eingetreten, die Optionen können bald eingelöst werden, und manche Infra-Talente wechseln mit dem Gedanken dorthin: ‚Einmal alles setzen, finanzielle Freiheit.‘“, erzählt Liu Lei dem Leihef-Netz. Zwar liegen die Gehaltserhöhungen bei Chip-Herstellern meist bei rund 45 %, die verdoppelten Angebote der Großkonzerne sieht man selten, aber die möglicherweise einlösbaren Aktien sind für sich genommen schon ein äußerst verlockendes Pfand. Gleichzeitig zeigt sich auch auf der Ebene des grundlegenden Technologie-Stacks ein deutlicher Aufpreisunterschied zwischen den beiden Routen Nvidia-NV-Karten versus heimische Karten. Der oben genannte erfahrene Headhunter Lu Bingning erzählt dem Leihef-Netz, dass die Vertrautheit mit dem Nvidia-CUDA-Ökosystem weiterhin „harte Währung“ ist; bei einem Wechsel liegt die Gehaltserhöhung für solche Talente bei mindestens 80 %. Heimische Karten sind stärker auf Software-Hardware-Koordination und komplexe Ökosystem-Anpassung angewiesen, die Erhöhungen liegen meist bei rund 50 %, weniger dramatisch als bei NV-Talenten. Allerdings sind die NV-seitigen Talente aufgrund externer Restriktionspolitiken ohnehin rar; und da die Politik den Einkauf heimischer Chips vorantreibt, haben die Leute auf der heimischen Karten-Route sogar die vielversprechendere Zukunft. Erwähnenswert ist auch, dass der nordamerikanische Markt gleichermaßen verzweifelt nach AI-Infra-Talenten sucht. Die zuletzt von OpenAI ausgeschriebenen Stellen sind fast vollständig von Inferenz-Engines, GPU-Operatoren auf unterster Ebene und Performance-Beschleunigung belegt, auch bei Anthropic sind ein Dutzend entsprechender Positionen ausgeschrieben.
04

Schlussbetrachtung

Wie lange wird diese Lohnrunde für AI-Infra-Talente noch anhalten? Auch das ist eine Frage, die viele interessiert. Lu Bingnings Einschätzung: Diese Gehaltswelle dürfte sich noch mindestens zwei bis drei Jahre halten. „Wir befinden uns noch immer im Zustand der Unterversorgung, praktisch alle Hersteller stellen ein, die Gehälter sind sehr hoch angesetzt.“Dass die Gehälter weiter steigen, liegt daran, dass aus der Infra zahlreiche neue Geschäftsszenarien entstanden sind.Im Bereich der allgemeinen Dialog-Grundmodelle haben viele inländische Hersteller ihre Aufstellungen weitgehend abgeschlossen; aber die Umsetzung in komplexen vertikalen Szenarien hat gerade erst begonnen. Ob KI-Coding, das rechenleistungshungrig alles verschlingt, oder der Sektor hochauflösender Videogenerierung mit extrem hohen Anforderungen an Durchsatz und Latenz – der geschäftliche Regelkreis über die gesamte Kette ist vielerorts noch nicht geschlossen. Diese neuen Strecken liefern sich bereits heftige Gefechte, der Kampf der Hersteller um Talente ist längst nicht entschieden. Solange die Kommerzialisierung großer Modelle weiterhin von teuren Rechenleistungskosten gestochen wird, werden jene Infra-Talente, die aus den Rechenkarten Gewinn herauspressen können, weiterhin steigende Gehaltsaufschläge erzielen.
▼
Empfohlene Lektüre
▼

BAT setzt „KI-Pre-Training“ komplett neu auf und stopft die Grube der „schmutzigen Daten“

2026-09-23

KI-Kurzfilme: 1500 Produktionen pro Tag: Ein „Keiner überlebt“ inmitten eines kollektiven Rauschs

2026-10-13

Dieser Artikel ist eine Originalveröffentlichung von Leihef-Netz. Ein Nachdruck ohne Genehmigung ist untersagt. Details sieheHinweise zum Nachdruck。

Originalquelle

雷峰网 AI

Hinweise zum Inhalt

Originalveröffentlichung und Rechte liegen bei der Quelle.

Maschinelle Übersetzung · Original beachten