Michael JohnsonWenn eine Anwendung einen von mehreren möglichen nächsten Schritten auswählen soll, kann eine vollständige generative Antwort unnötige Latenz und Kosten verursachen. Am 22. Oktober 2026 kündigte OpenAI die allgemeine Verfügbarkeit der Decisions API an – einer Schnittstelle für solche begrenzten Entscheidungen, bei denen Entwickler die Frage und die zulässigen Antwortoptionen vorab festlegen.
Laut OpenAI basiert die API auf GPT‑6 Luna und verarbeitet Text, Bilder und strukturierte Daten. Das Unternehmen gibt an, dass sie bei den vorgesehenen Aufgaben bis zu zehnmal schneller arbeitet als GPT‑6 Luna über die Responses API. Dieser Vergleich bezieht sich auf den genannten Verarbeitungsweg; in der eigenen Systemumgebung sollte das Ergebnis mit realen Eingaben geprüft werden, einschließlich Klassifizierungsfehlern und des Anteils der Anfragen, die eine manuelle Prüfung erfordern. Einzelheiten finden sich in der Ankündigung der Decisions API und im Entwicklerleitfaden.
Drei Antwortformen statt freiem Text
Entwickler beschreiben die Entscheidung und den Kontext; die API liefert einen von drei Ergebnistypen. Predicate schätzt die Wahrscheinlichkeit einer Bedingung, etwa ob eine sichtbare Beschädigung vorliegt. Choice wählt eine Option aus einer vorgegebenen Liste aus – beispielsweise eine Aktion fortsetzen, einen weiteren Versuch starten oder um Präzisierung bitten. Score bewertet die Eingabe anhand einer vom Entwickler festgelegten geordneten Skala.
Dieses Format eignet sich für die Klassifizierung von Anfragen, die Weiterleitung von Dokumenten, die Auswahl des nächsten Agentenschritts und eine erste Risikobewertung. Der wichtigste praktische Vorteil: Die Anwendung legt die Grenzen der Antwort fest. Das Ergebnis lässt sich direkt mit einer Verzweigung im Code verknüpfen; Fälle mit geringer Sicherheit können an Mitarbeitende weitergeleitet werden. In seiner Veröffentlichung führt OpenAI Box als Beispiel an: Das Unternehmen berichtete, dass die Decisions API in einer eigenen Bewertung mit 30 Versicherungsbescheinigungen den Weiterleitungsweg bei gleicher Genauigkeit etwa fünfmal schneller auswählte als die Responses API. Das ist das Ergebnis eines konkreten Box-Tests und keine allgemeingültige Garantie für andere Datensätze.
Was vor der Einführung geprüft werden sollte
OpenAI nennt einen Preis von 0,10 US-Dollar pro Million Eingabetoken und 0,01 US-Dollar pro Million zwischengespeicherter Eingabetoken; für Ausgabetoken fallen keine Kosten an. Pro Anfrage werden bis zu 400 Fragen unterstützt. Das Unternehmen führt außerdem das Caching wiederverwendbaren Kontexts, die Datenverarbeitung in den USA und der EU sowie die Verfügbarkeit von Zero Data Retention für geeignete Kunden auf.
Um den wirtschaftlichen Effekt zu ermitteln, wählen Sie eine häufig wiederkehrende Entscheidungsstelle aus und vergleichen Sie die API anhand gespeicherter Beispiele mit der bestehenden Implementierung. Erfassen Sie die Genauigkeit je Klasse, die Latenz am 50. und 95. Perzentil, den Anteil unklarer Fälle und die Kosten der vollständigen Anfrage einschließlich Kontext. Bei folgenreichen Aufgaben – etwa der automatischen Ausführung eines Befehls oder der Ablehnung einer Transaktion – sollten Sie einen Konfidenzschwellenwert und einen manuellen Bearbeitungsweg für Grenzfälle ergänzen.
Prüfen Sie außerdem die Qualität der Anweisungen und die Liste der zulässigen Optionen: Fehlt ein wichtiger Fall unter den Antworten, muss das Modell eine ungeeignete Option wählen. Für Sprach-Apps kündigte OpenAI eine native Integration der Decisions API mit GPT‑Live an. Das Unternehmen nennt als Beispiel die Auswahl des nächsten Schritts während eines Live-Gesprächs. In einem solchen Szenario ist es sinnvoll, die Latenz genau vom Eingang des Nutzersignals bis zur Reaktion der Benutzeroberfläche zu messen.
Wo die Neuerung nützlich sein könnte
Die Decisions API ist auf kleine Entscheidungen ausgerichtet, die in größeren Abläufen häufig wiederholt werden. Damit kommt sie für die erste Sortierung von Anträgen, die Verteilung von Aufgaben auf Warteschlangen, die Bewertung eingehender Dokumente und die Auswahl des nächsten Agentenschritts infrage. Das praktische Kriterium für eine Einführung ist einfach: Die API sollte bei der jeweiligen Aufgabe die Latenz oder Kosten verbessern, bei akzeptabler Genauigkeit und einer klaren Möglichkeit, zweifelhafte Fälle zu bearbeiten.
Für Teams, die bereits die Responses API nutzen, ist ein sinnvoller erster Schritt, nicht den gesamten Ablauf umzuschreiben, sondern eine einzelne begrenzte Entscheidungsstelle auszulagern und anhand identischer Beispiele zu vergleichen. So lässt sich prüfen, ob eine schnelle strukturierte Antwort das System tatsächlich vereinfacht und einen separaten Verarbeitungsweg rechtfertigt.