Meta stoppt KI-Umbau nach Agenten-Störungen

Meta plante mit Project OT, einzelne Teams um bis zu 60 Prozent zu verkleinern und große Teile der Arbeit an KI-Agenten zu übertragen. Interne Kennzahlen zeigen jedoch deutlich mehr technische Vorfälle und Entstörungsaufwand, während der Nutzen für Endanwender vergleichsweise langsam wuchs.

Meta stoppt KI-Umbau nach Agenten-StörungenBild: KI-generiert

Project OT sollte Meta radikal automatisieren

Meta entwickelte im Januar unter dem Codenamen Project OT Pläne für einen umfassenden organisatorischen Umbau. Das Unternehmen sollte stärker auf KI-Agenten ausgerichtet werden, die einen erheblichen Teil der täglichen Arbeit von Tausenden Beschäftigten übernehmen.

Einzelne Szenarien sahen vor, bestimmte Teams um bis zu 60 Prozent zu verkleinern. Kleine Kernteams sollten verbleiben, um die weitgehend autonom arbeitenden Systeme zu überwachen. Welche Abteilungen konkret betroffen waren, hat Meta nicht offengelegt.

Eine erste Entlassungsrunde fand im Mai statt. Eine für November geplante zweite Welle stoppte CEO Mark Zuckerberg kurz darauf. Welcher konkrete Auslöser zu diesem Kurswechsel führte, ist bislang nicht bestätigt.

Plan oder EreignisAngabe
Beginn der Planung von Project OTJanuar
Mögliche Verkleinerung einzelner TeamsBis zu 60 %
Möglicher Abbau der Gesamtbelegschaft laut HR-SzenarioRund 25 % oder mehr
Erste EntlassungsrundeMai
Geplante zweite EntlassungsrundeNovember, später abgesagt
Verkauf von KI-Agenten an DritteSeit Juni

Einen Teil der eingesparten Personalkosten wollte Meta laut den Planungen für eine höhere Vergütung besonders leistungsstarker Beschäftigter und gefragter KI-Entwickler einsetzen.

Was Meta unter AI-native versteht

Ein internes Dokument beschrieb einen AI-native aufgestellten Konzern als Organisation, in der KI-Werkzeuge und Agenten miteinander interagieren. Arbeitsabläufe sollten automatisiert und neue Entwicklungen von Beginn an auf KI ausgerichtet werden. Auch der Verkauf von Agenten an externe Kunden gehörte zu diesem Konzept.

Meta stellt Project OT offiziell als Szenarioplanung dar, nicht als vollständig beschlossenen Stellenabbau.

Im Rahmen der Umstrukturierung seien mögliche Umbesetzungen, die Streichung offener Stellen und Kürzungen untersucht worden. Nicht jedes Szenario sei umgesetzt worden, und eine vollständige Umsetzung sei auch nie vorausgesetzt worden, erklärte Meta sinngemäß.

Das Unternehmen betont außerdem, dass Leistungsbewertungen und Beförderungen weiterhin von Menschen entschieden würden. Interne KI-Systeme sollten diese Entscheidungen demnach nicht eigenständig treffen.

Mehr Code, aber deutlich weniger zusätzlicher Nutzen

Die internen Produktivitätszahlen zeigen das Kernproblem des Vorhabens. Änderungen an interner Software und Infrastruktur nahmen im Jahresvergleich stark zu. Der Zuwachs bei neuen oder verbesserten Funktionen, die tatsächlich Endanwender erreichten, blieb jedoch weit dahinter zurück.

KennzahlVeränderung im Jahresvergleich
Änderungen an interner Software und Infrastruktur+220 %
Neue oder verbesserte Funktionen für Nutzer+36 %
Schwere technische und sicherheitsrelevante Vorfälle+40 %
Zeitaufwand für die StörungsbeseitigungBis zu +70 %

Eine hohe Zahl automatisch erzeugter Code-Änderungen ist damit noch kein Beleg für höhere Wertschöpfung. Wenn Prüfung, Integration und Fehlerbehebung nicht mithalten, verlagert sich die Arbeit lediglich. Der bereits erkennbare Engpass beim Code-Review von KI-generierten Änderungen wird dadurch zum betriebswirtschaftlichen Problem.

Laut internen Berichten führten KI-Agenten zu großflächigen und disruptiven Aktionen, die Menschen wahrscheinlich nicht ausgeführt hätten. Welche Systeme betroffen waren und welche konkreten Fehler auftraten, ist nicht bekannt. Meta äußerte sich zu diesen internen Berichten nicht näher.

Die Entwicklung agentischer Systeme habe sich in den vorangegangenen vier Monaten nicht so beschleunigt wie erwartet, räumte Zuckerberg im Juli laut einer internen Besprechung sinngemäß ein.

Autonome Agenten brauchen begrenzte Rechte

Der Fall zeigt, warum KI-Agenten in produktiven Systemen nicht allein nach ihrer Ausgabemenge bewertet werden sollten. Entscheidend sind Fehlerquote, Sicherheitsvorfälle, tatsächlich ausgelieferte Ergebnisse und der Aufwand für nachgelagerte Kontrollen.

Technisch braucht es klar begrenzte Berechtigungen, nachvollziehbare Protokolle und Freigaben für kritische Aktionen. Auch eine menschliche Kontrollinstanz löst das Problem nicht automatisch. Untersuchungen zeigen, dass ein oberflächliches Human-in-the-Loop-Verfahren gefährliche Agenten-Aktionen übersehen kann.

Zusätzliche Schutzschichten können fehlerhafte Werkzeugaufrufe erkennen, bevor ein Agent Änderungen ausführt. Ein Beispiel dafür ist AWS Dogwood zur Prüfung von Tool-Aufrufen. Solche Kontrollen verursachen allerdings eigenen Entwicklungs-, Betriebs- und Prüfaufwand.

Tastaturdaten wären im DACH-Raum hochproblematisch

Meta erfasste im März und April Tastatur- und Mauseingaben von Beschäftigten, um Trainingsdaten für KI-Agenten zu gewinnen. Das inzwischen pausierte Programm beschädigte laut den internen Berichten die Arbeitsmoral erheblich.

Für Unternehmen im DACH-Raum wäre ein vergleichbares Vorgehen rechtlich und organisatorisch besonders sensibel. Die Verarbeitung solcher Beschäftigtendaten müsste mit der DSGVO, dem Beschäftigtendatenschutz und bestehenden Mitbestimmungsrechten vereinbar sein. Ein Betriebsrat wäre regelmäßig frühzeitig einzubeziehen.

Unabhängig davon, ob Agenten als Software-Abo eingekauft oder selbst entwickelt werden, bleibt die Verantwortung im Unternehmen. Eigene Lösungen können Abhängigkeiten von einzelnen Anbietern reduzieren und eine präzisere Datenkontrolle ermöglichen. Sie ersetzen aber weder Sicherheitsarchitektur noch laufende Qualitätssicherung.

Die relevante Kennzahl ist nicht die Zahl der Agenten

Project OT liefert ein Gegenbeispiel zur Annahme, dass mehr Automatisierung automatisch niedrigere Kosten erzeugt. Meta verzeichnete wesentlich mehr Code-Änderungen, zugleich stiegen Vorfälle und Entstörungsaufwand erheblich. Einsparungen beim Personal können dadurch an anderer Stelle als Betriebs-, Sicherheits- und Wartungskosten zurückkehren.

Für Unternehmen ist daher ein schrittweises Vorgehen sinnvoll. Agenten sollten zunächst klar abgegrenzte und rückgängig zu machende Aufgaben erhalten. Erst wenn messbare Ergebnisse, Fehlerquoten und Kontrollkosten stimmen, lässt sich der Handlungsspielraum verantwortbar erweitern.