OpenAI hat diese Woche ChatGPT von einer Plattform zu einer Infrastruktur ausgebaut, indem es Anwendungsprogrammierschnittstellen für sein Konversationsmodell und sein Spracherkennungssystem Whisper veröffentlichte und einen aggressiven Preis von 0,002 US-Dollar pro 1.000 Token für das neue gpt-3.5-turbo-Modell festlegte.

Die Ankündigung bietet Entwicklern eine direkte Möglichkeit, ChatGPT-ähnliche Interaktionen in ihre eigenen Produkte zu integrieren, anstatt Nutzer auf die OpenAI-Website weiterzuleiten. Laut OpenAI kann dieselbe Modellfamilie, die in ChatGPT verwendet wird, nun Anwendungen über ein strukturiertes Chat-Format unterstützen, während die Whisper API Spracherkennung und -übersetzung für 0,006 US-Dollar pro Minute ermöglicht.

Von der viralen Anwendung zur Entwicklerplattform

Die Veröffentlichung von ChatGPT im November erregte großes Aufsehen bei den Verbrauchern, doch eine API verändert die wirtschaftliche Rolle der Technologie. Anstatt nur als von OpenAI gesteuerte Schnittstelle zu fungieren, kann das Modell nun in Bildungssoftware, E-Commerce-Anwendungen, soziale Netzwerke, Kundenservicesysteme und interne Geschäftstools integriert werden. Ein zeitgleich veröffentlichter Bericht von TechCrunch wies darauf hin, dass OpenAI auch dedizierte Kapazitäten für Kunden anbietet, die eine besser vorhersagbare Leistung und Kontrolle über die Modellverfügbarkeit wünschen.

Die Preisgestaltung ist bemerkenswert, da sie die Kosten für Experimente mit generativer KI senkt. Laut OpenAI bietet gpt-3.5-turbo über die API eine Leistung der ChatGPT-Klasse und kostet dabei nur ein Zehntel der vorherigen GPT-3.5-Modelle. Dadurch eröffnet sich ein deutlich größerer potenzieller Markt für Anwendungen, die Tausende oder Millionen von Dialogen benötigen.

Die API basiert auf einer Reihe von Nachrichten mit Rollen wie System, Benutzer und Assistent. Diese Struktur ermöglicht es Entwicklern, dem Modell dauerhafte Anweisungen zu geben, den Gesprächsverlauf zu übermitteln und das Verhalten eines Dienstes zu gestalten, ohne jede Interaktion als eine einzige lange Texteingabeaufforderung zu erstellen. Zudem vereinfacht sie die Integration des Modells in gängige Softwarearchitekturen.

Die ersten Produkte zeigen die Bandbreite der Anwendungsfälle

OpenAI identifizierte Snap, Quizlet, Instacart und Shopify als frühe Anwender. Snap nutzt die OpenAI-Technologie für „My AI“, eine Chat-Funktion innerhalb von Snapchat. Ein Bericht von Ars Technica beschrieb den Bot als zunächst für Snapchat+-Abonnenten verfügbar und hob Snaps Warnung hervor, dass generative Systeme falsche oder irreführende Antworten liefern können.

Einem zeitgleichen Reuters-Bericht zufolge plante Snap, den Chatbot als mobilen Begleiter zu positionieren, der Geschenke, Restaurantempfehlungen, Reiseideen und andere Informationen für den Alltag vorschlagen sollte. Der Start verdeutlicht sowohl die Chancen als auch die Risiken für Verbraucherplattformen: Generative KI kann eine neue Interaktionsfläche schaffen, doch das Unternehmen, das sie einsetzt, trägt auch die Verantwortung dafür, wie Nutzer ihre Antworten interpretieren.

Quizlet kündigte unterdessen einen KI-Tutor namens Q-Chat an. Laut der Veröffentlichung nutzt das System die OpenAI-API, um Lernende durch adaptive Fragen zu führen, anstatt einfach nur Antworten zu liefern. Dieser Anwendungsfall verdeutlicht die technische Bedeutung der Chat-Oberfläche: Die Software kann den Kontext über verschiedene Gesprächsrunden hinweg beibehalten und auf die vorherige Antwort des Lernenden reagieren.

Whisper wandelt Sprache in eine weitere programmierbare Eingabe um

Mit Whisper erweitert OpenAI seine Plattform über die reine Textgenerierung hinaus. Whisper ist ein Spracherkennungsmodell, das mit großen Mengen mehrsprachiger Audiodaten trainiert wurde. Die neue API kann Sprache in der Originalsprache transkribieren oder unterstützte Sprache ins Englische übersetzen. Einem separaten Bericht von TechCrunch handelt es sich bei dem Dienst um eine gehostete Version des Open-Source-Modells Whisper, wodurch Entwickler die Recheninfrastruktur nicht mehr selbst betreiben müssen.

Das könnte die Integration von Sprachschnittstellen in Meeting-Tools, Callcenter-Systeme, Medien-Workflows, barrierefreie Produkte und mobile Anwendungen vereinfachen. Die Kostenstruktur – 0,006 US-Dollar pro Minute – macht die automatisierte Transkription auch für Anwendungsfälle realisierbar, die bisher auf spezialisierte Anbieter oder lokale Verarbeitung angewiesen waren.

Zusammen deuten die beiden APIs auf eine umfassendere Architektur hin, in der eine Anwendung Sprache entgegennehmen, in Text umwandeln, mithilfe eines Konversationsmodells Schlussfolgerungen ziehen oder generieren und eine Antwort zurückgeben kann, ohne dass der Entwickler ein KI-Modell von Grund auf trainieren muss. Der Wert verlagert sich zunehmend vom Modell allein hin zur Orchestrierung von Modellen, proprietären Daten und Software-Workflows.

Zuverlässigkeit und Kontrolle werden zu Produktfragen

Die Öffnung von ChatGPT über eine API behebt die bekannten Einschränkungen des Modells nicht. OpenAI räumt in seinen eigenen Veröffentlichungen ein, dass die Modellausgaben fehlerhaft sein können und Entwickler das sich ändernde Modellverhalten berücksichtigen müssen. Das Unternehmen führt versionierte Modell-Snapshots ein, sodass Kunden Anwendungen an eine bestimmte Modellversion binden können, anstatt automatisch jedes Update zu erhalten.

OpenAI gibt außerdem an, über die API übermittelte Daten nur dann für Serviceverbesserungen zu nutzen, wenn Kunden dem ausdrücklich zustimmen. Diese Richtlinienänderung richtet sich an Organisationen, die Bedenken hinsichtlich der Übermittlung vertraulicher Informationen an ein externes Modell haben. Eine Entwicklermitteilung zum Start des neuen Formats betont das operative Feedback, die Stabilität des Modells und die Umstellung bestehender Anwendungen auf das neue Chat-Format.

Die strategische Bedeutung geht weit über eine einzelne Integration hinaus. ChatGPT hat gezeigt, dass dialogbasierte generative KI ein breites Publikum ansprechen kann. Die API testet nun, ob sich dieselbe Technologie zu einer allgemeinen Softwareschicht entwickeln kann. Sollten Entwickler zu den angekündigten Preisen zuverlässige Produkte erstellen können, ist OpenAIs wichtigstes Produkt möglicherweise nicht ChatGPT selbst, sondern das programmierbare Modell, das Tausenden anderer Anwendungen zugrunde liegt.