OpenAI gibt die Decisions API allgemein frei
OpenAI hat die Decisions API auf Basis von GPT-6 Luna allgemein verfügbar gemacht. Die Schnittstelle ist für häufige, klar begrenzte Entscheidungen ausgelegt, etwa die Klassifizierung eines Dokuments, die Verteilung eines Tickets oder die Auswahl des nächsten Prozessschritts.
Als Eingaben verarbeitet die API Text, Bilder und natives JSON. Laut OpenAI liefert sie Ergebnisse bis zu zehnmal schneller als GPT-6 Luna über die reguläre Responses API. Damit zielt das Angebot auf Aufgaben, für die ein vollständiger generativer Modellaufruf oft unnötig teuer und langsam ist.
Drei Antworttypen für strukturierte Entscheidungen
Entwickler definieren eine Frage, zulässige Antworten und den notwendigen Kontext. Die API gibt anschließend ein strukturiertes Ergebnis zurück, das sich direkt in einen Geschäftsprozess übernehmen lässt. Bis zu 400 Fragen können in einem Request gebündelt werden, doppelt so viele wie während der Beta-Phase.
| Antworttyp | Funktion | Typischer Einsatz |
|---|---|---|
| predicate | Wahrscheinlichkeit zwischen 0 und 1 | Prüfen, ob eine Bedingung erfüllt ist |
| choice | Auswahl aus vorgegebenen Optionen mit Konfidenzwert | Ticket verteilen, Prozess fortsetzen oder Rückfrage auslösen |
| score | Gewichtete Bewertung anhand einer vorgegebenen Skala | Risiko, Dringlichkeit oder Qualität einstufen |
Solche eng umrissenen Entscheidungen fallen in Unternehmensanwendungen ständig an. Dazu gehören die Zuordnung von Rechnungen, die Priorisierung von Supportfällen und die Auswahl eines passenden Modells. Einen verwandten Ansatz verfolgt OpenAIs Decisions API im Wettbewerb mit Open-Weight-Modellen.
Preise setzen spezialisierte SaaS-Dienste unter Druck
OpenAI berechnet ausschließlich die verarbeiteten Input-Tokens. Output-Tokens sind kostenlos, da die API keine längeren Texte erzeugt, sondern kompakte Entscheidungen zurückgibt. Wiederverwendeter Kontext lässt sich über Prompt Caching deutlich günstiger verarbeiten.
| Position | Preis |
|---|---|
| Regulärer Input | 0,10 US-Dollar pro 1 Million Tokens |
| Gecachter Input | 0,01 US-Dollar pro 1 Million Tokens |
| Output | 0,00 US-Dollar |
| Fragen pro Request | Bis zu 400 |
Für einfache Routing-, Klassifizierungs- und Bewertungslogik ist dieses Preismodell relevant. Funktionen, die bislang als separates Micro-SaaS eingekauft wurden, lassen sich damit vergleichsweise günstig in eigene Anwendungen integrieren. Das kann laufende Abokosten reduzieren, setzt aber Entwicklungs-, Test- und Überwachungsaufwand im eigenen Unternehmen voraus.
Wie stark spezialisierte Endpunkte die Wirtschaftlichkeit verändern können, zeigt auch das Modell-Routing mit 65 % niedrigeren Codex-Kosten bei LegalOn. Gleichzeitig bleiben Verbrauchskosten kontrollbedürftig, wie Fälle mit gestohlenen API-Schlüsseln und hohen KI-Kosten verdeutlichen.
Anbieter melden deutlich niedrigere Latenzen
Mehrere frühe Anwender berichten von deutlichen Verbesserungen. Diese Angaben stammen aus Auswertungen der beteiligten Unternehmen und sind keine unabhängigen Benchmarks.
| Unternehmen | Gemeldetes Ergebnis |
|---|---|
| Box | Etwa fünfmal schnellere Routenauswahl bei 30 Versicherungsnachweisen, bei gleicher Genauigkeit wie die Responses API |
| Datadog | 40-mal schnellerer p95-Wert gegenüber verfügbaren Frontier-Modellen, bei vergleichbarer Genauigkeit |
| Ramp | Viermal schneller und 30 % günstiger als GPT-6 Luna bei der Zuordnung von KI-Kosten |
| Sierra | Unter 280 ms p95, etwa dreimal schneller und 90 % geringere Kosten pro Aufruf |
| Speak | Reaktionszeit von 1,4 auf 0,13 Sekunden reduziert |
Die Decisions API habe die Zuordnung von KI-Kosten zur tatsächlichen Arbeit viermal schneller und 30 % günstiger gemacht, ohne Genauigkeit einzubüßen, erklärte Ramp sinngemäß.
OpenAI bietet außerdem eine native Integration in GPT-Live. Dadurch können Sprachanwendungen während eines Gesprächs entscheiden, ob eine Rückfrage nötig ist, ein Fall eskaliert werden muss oder welcher Prozessschritt folgt.
EU-Datenresidenz erleichtert den Unternehmenseinsatz
Für die Inferenz bietet OpenAI Datenresidenz in den USA und der EU an. Für Unternehmen im DACH-Raum ist die EU-Option besonders bei internen Dokumenten, Supportdaten und Kundeninformationen relevant. Sie kann die technische Umsetzung von Datenschutz- und Compliance-Vorgaben erleichtern, ersetzt aber keine rechtliche und organisatorische Prüfung des gesamten Datenflusses.
Zero Data Retention, also die Verarbeitung ohne dauerhafte Speicherung der übermittelten Inhalte, steht berechtigten Kunden zur Verfügung. Welche Voraussetzungen dafür konkret erfüllt werden müssen, nennt OpenAI nicht. Unternehmen sollten die zugesicherten Bedingungen deshalb vertraglich prüfen, bevor sensible Daten verarbeitet werden.
Günstige Eigenintegration mit verbleibendem Lock-in
Die niedrigen Tokenpreise machen es attraktiver, einfache Entscheidungslogik selbst in bestehende Anwendungen einzubauen, statt dafür weitere Software-Abos abzuschließen. Besonders bei hohen Fallzahlen können eine feste Antwortstruktur, gebündelte Requests und Prompt Caching die Kosten kalkulierbarer machen.
Die Kehrseite bleibt die Abhängigkeit von einer proprietären API, ihrem Preismodell und der Infrastruktur von OpenAI. Ein unabhängiger Vergleich mit lokal betriebenen Open-Source-Modellen liegt nicht vor. Gerade bei einfachen Klassifizierungsaufgaben sollte deshalb geprüft werden, ob die geringe API-Gebühr den Vendor-Lock-in rechtfertigt oder ob Self-Hosting langfristig mehr Kontrolle bietet.