Amazon bremst Tokenmaxxing in der Softwareentwicklung

Amazon warnt seine Entwickler davor, hohen Tokenverbrauch mit produktiver KI-Nutzung gleichzusetzen. Entscheidend sollen Kundennutzen, Softwarequalität und Geschäftsergebnisse sein, nicht die Menge der verarbeiteten Tokens.

Amazon bremst Tokenmaxxing in der SoftwareentwicklungBild: KI-generiert

Amazon stellt den Nutzen von KI vor den Tokenverbrauch

Amazon korrigiert seine internen Maßstäbe für den Einsatz von KI in der Softwareentwicklung. Entwickler sollen nicht möglichst viele Tokens verbrauchen, sondern nützliche Software liefern und konkrete Geschäftsziele erreichen.

Im Zentrum steht die Kritik am sogenannten Tokenmaxxing. Gemeint ist der Versuch, intensive KI-Nutzung über einen möglichst hohen Tokenverbrauch sichtbar zu machen. Amazon sieht darin keine belastbare Kennzahl für Produktivität.

Sinngemäß erklärt Amazon: Die produktivsten Entwickler werden weder durch den Einsatz von KI noch durch die Menge ihrer KI-Ausgaben definiert. Entscheidend bleibt die Verbindung aus Werkzeugen, menschlichem Urteilsvermögen und Fachwissen.

Tokenverbrauch ist keine Produktivitätskennzahl

Amazon räumt ein, dass bei manchen Teams ein Zusammenhang zwischen intensiver KI-Nutzung, höherer Produktivität und schnellerer Auslieferung beobachtet wurde. Daraus lasse sich aber nicht ableiten, dass Tokenverbrauch als Zielgröße taugt.

Wird eine solche Eingangskennzahl zum Leistungsziel, entstehen Fehlanreize. Entwickler können mehr Prompts senden, umfangreichere Kontexte übertragen und zusätzliche Agenten einsetzen, ohne dass sich Qualität oder Geschäftswert verbessern. Gleichzeitig steigen API-Kosten und technische Komplexität.

MessgrößeAussagekraftMögliches Risiko
Verbrauchte TokensZeigt die Intensität der KI-NutzungFördert unnötige Abfragen und höhere Kosten
Generierte CodezeilenMisst erzeugte MengeBelohnt komplexen oder redundanten Code
AuslieferungszeitZeigt die Geschwindigkeit bis zur BereitstellungKann Qualitätsprobleme ausblenden
Kundennutzen und GeschäftsergebnisMisst die Wirkung der SoftwareErfordert klare Ziele und längere Beobachtung

Diese Einordnung passt zu den grundsätzlichen Problemen bei der Messung von KI-Projekten. Eine Analyse zur Rendite von KI-Investitionen zeigt, wie selten Unternehmen ihre ursprünglich gesetzten Ziele vollständig erreichen.

Mehr KI kann zu schlechterer Software führen

Amazon warnt nicht nur vor steigenden Kosten. Ein unkontrollierter Einsatz von Coding-Agenten kann auch unnötig komplexe Systeme erzeugen. Mehr generierter Code bedeutet zusätzliche Prüfungen, größere Angriffsflächen und langfristig höhere Wartungskosten.

Das Problem zeigt sich auch außerhalb von Amazon. Untersuchungen zur Qualität von KI-generierten Pull Requests deuten darauf hin, dass ein erheblicher Anteil keinen ausreichenden Nutzen liefert. Die eingesparte Schreibarbeit kann dadurch in Code-Reviews, Tests und Fehlerkorrekturen zurückkehren.

Amazon fordert deshalb eine engere Verbindung zwischen Entwicklungsteams, Produkten und Geschäftsbereichen. Teams mit einem klaren Verständnis für Kundenprobleme könnten KI und agentische Entwicklungswerkzeuge gezielter einsetzen als Gruppen, die lediglich einen Anwendungsfall für die Technologie suchen.

Sinngemäß heißt es in der internen Mitteilung: Wenn eine Tätigkeit derzeit nicht von KI profitiert, ist das eine Erkenntnis und kein Versagen. Wer begründen kann, wo KI noch nicht hilft, zeigt das geforderte Urteilsvermögen.

Microsoft verfolgt einen ähnlichen Kurs

Amazon steht mit dieser Position nicht allein. Auch Microsoft hat seine internen Entwickler dazu aufgefordert, Geschäftsergebnisse statt Tokenverbrauch zu optimieren. Wenn zwei große Technologieanbieter vor derselben Fehlsteuerung warnen, spricht das gegen pauschale Nutzungsquoten für KI.

Für Unternehmen bedeutet das, dass Kennzahlen wie aktive KI-Nutzer, Prompt-Anzahl oder verbrauchte Tokens allenfalls den Einsatz messen. Sie belegen weder Produktivität noch Qualität. Belastbarer sind Kennzahlen wie Durchlaufzeit, Fehlerquote, Wartungsaufwand, Kundenzufriedenheit und Kosten pro ausgelieferter Funktion.

Kleinere Modelle können wirtschaftlicher sein

Die Abkehr vom Tokenmaxxing stärkt einen aufgabenspezifischen Ansatz. Nicht jede Aufgabe benötigt das leistungsfähigste und teuerste Modell. Klassifikation, Dokumentenverarbeitung, einfache Codeänderungen oder strukturierte Datenextraktion lassen sich häufig mit kleineren Modellen erledigen.

Open-Weight-Modelle, deren Gewichte verfügbar sind, können dabei eine Alternative zu teuren proprietären APIs sein. Ein Praxisbeispiel zeigt, wie Aiven die Tokenkosten mit Open-Weight-Modellen senkte. Self-Hosting schafft zusätzlich mehr Kontrolle über Daten und Anbieterabhängigkeiten, verursacht aber eigenen Aufwand für Infrastruktur, Betrieb und Sicherheit.

Eine wirtschaftliche Architektur kann deshalb mehrere Modelle kombinieren. Ein günstiges Modell übernimmt Standardaufgaben, während komplexe Fälle an ein leistungsfähigeres System weitergereicht werden. Entscheidend ist nicht die maximale KI-Nutzung, sondern das beste Verhältnis aus Ergebnisqualität, Kosten und Betriebsaufwand.

Was Unternehmen daraus ableiten können

KI-Vorgaben sollten an messbare Arbeitsergebnisse gekoppelt werden. Dazu gehören kürzere Entwicklungszyklen, weniger Fehler, geringerer Wartungsaufwand und nachweisbarer Nutzen für Kunden oder interne Fachbereiche.

Ebenso wichtig sind Kostenlimits und technische Leitplanken. Tokenbudgets, Modell-Routing, automatisierte Tests und verpflichtende Code-Reviews begrenzen finanzielle und qualitative Risiken. Die Entscheidung gegen KI kann in einzelnen Arbeitsschritten genauso sinnvoll sein wie ihr Einsatz.

Amazon setzt damit ein nüchternes Signal: KI ist ein Werkzeug und kein Leistungsnachweis. Wer Tokenverbrauch zum Ziel erklärt, optimiert im Zweifel die Rechnung des Modellanbieters statt das eigene Produkt.