Michael JohnsonAm 29. Oktober aktualisierte OpenAI die Model Spec – eine öffentliche Beschreibung dessen, wie das Unternehmen seine Modelle trainieren möchte. Die neue Fassung bündelt die Leitlinien anhand von fünf Werten und erweitert die Regeln für Situationen, in denen Modelle Kontext nutzen und mit Werkzeugen arbeiten. Für Entwickler ist das Dokument in erster Linie eine Beschreibung des angestrebten Modellverhaltens und keine Ankündigung einer neuen API oder fertigen Funktion.
Die aktualisierte Model Spec nennt Treue zu menschlichen Absichten, Schadensminimierung, Ehrlichkeit und Transparenz, die Förderung der Nutzerautonomie sowie Fürsorge. OpenAI zufolge sollen diese Prinzipien Modellen dabei helfen, angemessenere Entscheidungen zu treffen, wenn eine konkrete Anweisung nicht alle Umstände abdeckt.
Kontext und Aufsicht werden Teil der Regeln
Die praktische Änderung betrifft, wie ein Modell den bisherigen Interaktionsverlauf und andere Informationen über den Nutzer berücksichtigen soll. Als Beispiel nennt OpenAI den Vergleich von Jobangeboten: Ein Modell kann eine zuvor geäußerte Präferenz für einen vorhersehbaren Arbeitsplan berücksichtigen, diese Annahme kenntlich machen und dem Menschen die Möglichkeit geben, sie zu korrigieren. Das Dokument enthält außerdem deutlichere Vorgaben zu menschlicher Aufsicht, Nutzerautonomie und den Folgen von Modellhandlungen.
OpenAI beschreibt die Spezifikation als eine Reihe von Grenzen und überwiegend überschreibbaren Standardwerten: Entwickler können das Verhalten ihrer Anwendungen innerhalb dieses Rahmens festlegen, während Nutzer die Arbeit des Modells steuern können. Für Produktteams ist sie ein hilfreicher Leitfaden bei der Gestaltung von Systemanweisungen und Prüfungen: Sie sollten festlegen, welcher Kontext berücksichtigt werden darf, wie das Modell Annahmen kenntlich macht und wann eine Entscheidung menschliche Beteiligung erfordert.
Weniger Stilvorgaben
In derselben Fassung teilte OpenAI mit, einen Großteil der detaillierten Stilvorgaben zu entfernen. Das Unternehmen begründet dies damit, dass sich der Stil an die Vorlieben der Menschen, Sprachen und den jeweiligen Kontext anpassen sollte; grundlegende Anforderungen wie eine objektive Beantwortung von Fragen bleiben beständiger. Dadurch verlagert sich der Schwerpunkt der Spezifikation von einem einheitlichen Regelwerk zum Stil auf Werte und den Umgang mit mehrdeutigen Situationen.
OpenAI schreibt außerdem, dass es Trainingsmethoden erforscht, die Modellen helfen sollen, diese Prinzipien besser anzuwenden, und die Ergebnisse in künftigen Aktualisierungen teilen will. Zugleich bezeichnet das Unternehmen die Spezifikation ausdrücklich als Beschreibung des angestrebten Verhaltens: Die aktuellen Modelle entsprechen ihr noch nicht vollständig. Produktteams sollten das Dokument daher als Grundlage für Anforderungen nutzen und konkrete Szenarien mit eigenen Tests zu den Aufgaben, dem Kontext und den Werkzeugen ihrer Anwendung prüfen.
Die wichtigste praktische Erkenntnis für Teams ist, Anweisungen und Tests nicht nur daraufhin zu überprüfen, ob ein Modell einer Anfrage genau folgt, sondern auch darauf, wie es Kontext verwendet, Annahmen offenlegt und die Kontrolle beim Menschen belässt. Die Aktualisierung wurde am 29. Oktober veröffentlicht; in dieser Ankündigung stellte OpenAI weder ein separates Modell noch eine neue Benutzeroberfläche vor.
