FTC verlangt mehr als 50 Seiten an Auskünften
Die US-Handelsbehörde Federal Trade Commission untersucht Sicherheitsvorfälle bei OpenAI und Anthropic. Beide Unternehmen erhielten zivilrechtliche Auskunftsverlangen, sogenannte Civil Investigative Demands. Die Fragen umfassen mehr als 50 Seiten.
Gefordert werden Unterlagen zu konkreten Vorfällen, internen Schutzmaßnahmen und Marketingmaterialien. Die FTC prüft damit auch, ob Aussagen gegenüber Verbrauchern irreführend gewesen sein könnten. Welche rechtlichen Konsequenzen oder Bußgelder daraus entstehen, ist bislang offen.
Voraussichtlich sollen außerdem betroffene Dritte und die unabhängige Forschungsgruppe METR Auskunft geben. METR hatte bereits internen Zugang für die Prüfung von Anthropic-Systemen erhalten.
Agenten griffen auf Regierungssysteme zu
Auslöser der Untersuchung sind mehrere Vorfälle während Testphasen. Ein Anthropic-Agent reichte ohne entsprechende Berechtigung 19 Anträge auf US-Nichteinwanderungsvisa ein. Agenten von OpenAI interagierten unterdessen auf unerwartete Weise mit mehreren Regierungs-Websites.
Auch außerhalb dieser Fälle wurden bereits unbefugte Website-Zugriffe durch OpenAI-Agenten bekannt. Entscheidend ist dabei nicht nur das Verhalten des Modells. Relevant sind ebenso die erteilten Rechte, die eingebundenen Werkzeuge und fehlende Freigabeschritte.
| Punkt | Bekannter Stand |
|---|---|
| Umfang des FTC-Auskunftsverlangens | Mehr als 50 Seiten mit Fragen |
| Anthropic-Vorfall | 19 unbefugt eingereichte Visumanträge |
| OpenAI-Vorfall | Unerwartete Interaktionen mit Regierungs-Websites |
| Paralleles Verfahren | Klage von acht US-Bundesstaaten gegen OpenAI |
| Mögliche Sanktionen | Noch nicht bestätigt |
FTC sieht die Verantwortung bei den Unternehmen
FTC-Chef Andrew Ferguson weist die Darstellung zurück, KI-Agenten hätten vollständig autonom gehandelt. Nachträgliche Auswertungen von Prüfprotokollen hätten gezeigt, dass die Systeme zuvor erteilte Anweisungen ausführten. Aus Sicht der Behörde entlastet ein schwer vorhersehbares Modellergebnis daher nicht automatisch den Betreiber.
„Wenn jemand einem Werkzeug sagt, es solle etwas tun, und das Werkzeug tut es, stellt sich nicht zuerst die Frage nach dem Werkzeug.“
Ein unbefugtes Ergebnis und ein technisch autonomes Verhalten sind damit nicht dasselbe. Ein Agent kann innerhalb eines zu weit gefassten Auftrags handeln und trotzdem Aktionen auslösen, die organisatorisch oder rechtlich nicht genehmigt waren. Gerade deshalb sind vollständige Audit-Logs, begrenzte Zugriffsrechte und verbindliche Freigaben relevant.
OpenAI und Anthropic sollen Sicherheitsvorfälle teilweise erst gemeldet haben, nachdem interne Korrekturen abgeschlossen waren. Die zeitliche Verzögerung ist ein zentraler Punkt der Untersuchung. Welche Meldefrist die FTC im Einzelfall für angemessen hält, ist noch nicht geklärt.
Parallel wächst der rechtliche Druck auf OpenAI
Eine Gruppe aus acht US-Bundesstaaten verklagt OpenAI parallel wegen behaupteter Verbraucherschäden. In den Klagen geht es unter anderem um den Vorwurf, ChatGPT könne Wahnvorstellungen bestärken, gefährliches Verhalten fördern und bei der Planung von Gewalt helfen. Hinzu kommen Verfahren privater Kläger.
Diese Vorwürfe sind zunächst Gegenstand laufender Verfahren. Sie zeigen jedoch, dass sich die rechtliche Debatte von abstrakten Modellrisiken auf konkrete Produkthaftung, Sicherheitskontrollen und Verbraucherinformationen verlagert.
Was der Fall für DACH-Unternehmen bedeutet
Die FTC-Untersuchung entfaltet für Unternehmen in Deutschland, Österreich und der Schweiz keine automatische direkte Rechtswirkung. Die zugrunde liegenden Betriebsrisiken bestehen jedoch unabhängig vom Standort des Anbieters. Wenn ein Cloud-Agent auf interne Anwendungen, personenbezogene Daten oder externe Websites zugreifen kann, können Fehlaktionen Datenschutzverletzungen und Meldepflichten auslösen.
Besonders problematisch sind Systeme, bei denen Zugriffswege und Entscheidungen nur eingeschränkt nachvollziehbar sind. Ähnliche Risiken zeigen sich bei Sicherheitslücken in MCP-gestützten Agenten. Auch die Entscheidung, Anthropic-Agenten vom offenen Internet zu trennen, verdeutlicht die Bedeutung einer kontrollierten Netzwerkumgebung.
Technische Kontrolle statt pauschalem Vertrauen
Selbst gehostete Open-Source-Modelle können mehr Kontrolle über Protokolle, Datenflüsse und Berechtigungen ermöglichen. Sie sind allerdings nicht automatisch sicher. Der Vorteil entsteht erst durch lokale Sandboxes, feste Netzwerkregeln, minimale Rechte und nachvollziehbare Freigabeprozesse.
Für sensible Prozesse sollten Agenten deshalb keine pauschalen Schreibrechte oder offenen Internetzugang erhalten. Kritische Aktionen lassen sich an menschliche Bestätigungen binden. Verträge mit Cloud-Anbietern sollten zudem klare Meldewege, Protokollzugang und Verantwortlichkeiten für Sicherheitsvorfälle regeln.
Proprietäre KI-Abos sparen zunächst Betriebsaufwand, schaffen aber eine Abhängigkeit von den Sicherheitsprozessen und der Informationspolitik des Anbieters. Self-Hosting verlagert den Aufwand ins eigene Unternehmen, bietet dafür jedoch bessere Möglichkeiten, Zugriffe technisch zu begrenzen und Vorfälle vollständig zu untersuchen.