OpenAI nutzte seine erste Entwicklerkonferenz, um eine umfassende Erweiterung seiner Plattform vorzustellen. Im Mittelpunkt stand GPT-4 Turbo mit einem Kontextfenster von 128.000 Token, niedrigere API-Preise, neue Entwicklertools und ein System, mit dem Nutzer benutzerdefinierte Versionen von ChatGPT erstellen können, ohne Code schreiben zu müssen. Die Ankündigung auf dem DevDay am Montag markiert den bisher ambitioniertesten Versuch des Unternehmens, die Technologie hinter ChatGPT zu einer universellen Softwareplattform auszubauen.
GPT-4 Turbo kann deutlich mehr Material in einer einzigen Eingabeaufforderung verarbeiten als die Standard-GPT-4-Modelle, die Anfang des Jahres verfügbar waren. Laut OpenAI ist das Modell zudem besser darin, Anweisungen zu befolgen und strukturierte Ausgaben zu verarbeiten. Das Unternehmen hat die Preise für Eingabe-Token von GPT-4 Turbo auf ein Drittel des Preises von GPT-4 und die für Ausgabe-Token auf die Hälfte des vorherigen Preises gesenkt. Diese Preissenkung richtet sich direkt an Entwickler, die kommerziell nutzbare Anwendungen auf Basis großer Sprachmodelle erstellen möchten.
Ein größeres Kontextfenster verändert, was Entwickler versuchen können
Das 128-KB-Kontextfenster entspricht in etwa Hunderten von Textseiten und ermöglicht es Entwicklern, deutlich größere Dokumente, Codebasen oder Konversationen in eine Modellanfrage einzubinden. Dies garantiert zwar keine perfekte Trefferquote für jedes einzelne Token, erweitert aber die praktischen Möglichkeiten für Dokumentenanalyse, Abrufprozesse und langlaufende Anwendungen.
OpenAI erweitert sein Angebot um den JSON-Modus, verbesserte Funktionsaufrufe, reproduzierbare Ausgaben durch einen Seed-Parameter und den Zugriff auf Log-Wahrscheinlichkeiten. Diese Funktionen sind weniger sichtbar als ein neuer Modellname, aber für Softwareteams wichtig, da sie die Integration des Modellverhaltens in die gewohnte Anwendungslogik vereinfachen. Die veröffentlichte Version von GPT-4 legte den Grundstein für multimodales Denken und logisches Schlussfolgern; GPT-4 Turbo soll diese Funktionalität kostengünstiger und einfacher in großem Umfang nutzbar machen.
Das Unternehmen stellte außerdem eine Assistants-API mit integrierten Tools zum Abrufen von Daten, Ausführen von Code und Aufrufen von Funktionen vor. Anstatt Entwickler zu zwingen, jede Komponente einer Dialoganwendung selbst zusammenzustellen, bietet OpenAI nun mehr Funktionen der Orchestrierungsebene direkt an.
Benutzerdefinierte GPTs treiben ChatGPT in Richtung eines Anwendungsmarktplatzes
Für Verbraucher und Organisationen ist die wichtigste Neuerung die Einführung von GPTs: individuell anpassbare Versionen von ChatGPT, die mit Anleitungen, hochgeladenem Wissen und ausgewählten Funktionen konfiguriert sind. In einer separaten Produktankündigunggab OpenAI bekannt, dass Plus- und Enterprise-Nutzer GPTs für spezifische Aufgaben erstellen und mit anderen teilen können. Das Unternehmen plant, noch in diesem Monat einen GPT-Store zu starten, in dem öffentliche GPTs gefunden werden können.
Die Idee senkt die Hürde zwischen der Nutzung eines KI-Assistenten und der Entwicklung einer kleinen Anwendung. Eine Lehrkraft könnte beispielsweise einen Tutoring-GPT an einen Lehrplan anpassen, ein Unternehmen einen internen Richtlinienassistenten erstellen oder ein Spezialist Anleitungen mit firmeneigenem Referenzmaterial kombinieren. Die Versionshinweise zu ChatGPT beschreiben die Einführung am 6. November als neue Möglichkeit, ChatGPT für Arbeit, Zuhause und spezielle Aufgaben individuell anzupassen.
Die Strategie erweitert zudem die im August angekündigte Unternehmensausrichtung von OpenAI. ChatGPT Enterprise bietet Organisationen zusätzliche administrative Kontrollmöglichkeiten, strengere Datenschutzrichtlinien, längere Kontextinformationen und unbegrenzten, schnelleren Zugriff auf GPT-4. GPTs bieten nun eine weitere Ebene der Anpassung, die intern im Unternehmen genutzt oder öffentlich geteilt werden kann.
Multimodale Werkzeuge werden in denselben Entwickler-Stack integriert
DevDay integriert außerdem GPT-4 Turbo mit Bilderkennung, DALL·E 3 Bildgenerierung und Text-to-Speech in die API. Dadurch kann eine Anwendung Textanalyse, Bildverständnis, Bildgenerierung und Sprachausgabe über eine gemeinsame Anbieter- und Kontoinfrastruktur kombinieren.
OpenAI arbeitet seit Monaten an dieser Konvergenz. In der Ankündigung von DALL·E 3 wurde ein Bildmodell vorgestellt, das detaillierte Sprachanweisungen präziser umsetzen und eng mit ChatGPT als Schnittstelle zur Eingabeaufforderungsoptimierung zusammenarbeiten soll. Durch die breitere Öffnung von DALL·E 3 und den Bildverarbeitungsfunktionen für Entwickler werden diese kundenorientierten Funktionen zu Bausteinen für externe Produkte.
Die erweiterte Plattform wird zudem durch den Copyright Shield ergänzt. OpenAI sichert im Rahmen dieses Schutzes Kunden zu und übernimmt die Kosten, die bei bestimmten Urheberrechtsverletzungen im Zusammenhang mit allgemein verfügbaren OpenAI-Systemen entstehen. Diese Zusage gilt für ChatGPT Enterprise und die API, jedoch nicht für jede Nutzung oder Modifikation.
Der Preis wird zu einer Wettbewerbswaffe
Der unmittelbarste kommerzielle Effekt dürfte sich auf die Preisgestaltung auswirken. Umfangreiche Sprachmodellanwendungen können teuer werden, wenn sie große Eingabeaufforderungen verarbeiten, viele Benutzer bedienen oder Modelle innerhalb eines Workflows wiederholt aufrufen. Durch die Senkung der Token-Preise werden die Kosten für Experimente reduziert und einige zuvor nur bedingt rentable Anwendungen realistischer.
Der zeitgleiche DevDay-Bericht von TechCrunch hob sowohl die Modellverbesserungen als auch die Preisänderungen hervor und stellte ein experimentelles Programm zur Feinabstimmung von GPT-4 vor. OpenAI erhöht zudem die Ratenbegrenzungen für bestehende GPT-4-API-Kunden – ein weiteres Indiz dafür, dass sich das Unternehmen auf einen verstärkten Produktionseinsatz vorbereitet.
Die Ankündigungen setzen konkurrierende Modellanbieter unter Druck, nicht nur hinsichtlich der Benchmark-Performance, sondern auch in Bezug auf Kontextlänge, Entwicklerwerkzeuge, Zuverlässigkeit, Datenkontrolle und Kosten zu konkurrieren. Gleichzeitig übernimmt OpenAI mehr Verantwortung für die Anwendungsschicht selbst. Durch die Bereitstellung von Retrieval-Funktionen, Codeausführung, benutzerdefinierten Assistenten und einem GPT-Marktplatz rückt das Unternehmen näher an Bereiche heran, in denen viele Startups Produkte auf Basis seiner Modelle entwickelt haben.
Vom Modellanbieter zum Plattformunternehmen
Die zentrale Botschaft des DevDay lautet: OpenAI möchte nicht länger nur anhand der Leistungsfähigkeit seines neuesten Modells bewertet werden. Vielmehr stellt das Unternehmen die Komponenten einer Plattform zusammen: Modelle, Tools, Speicherung und Abruf, multimodale APIs, Unternehmenssteuerung, Anpassungsmöglichkeiten, einen Vertriebskanal und niedrigere Stückkosten.
Diese Verlagerung könnte OpenAI stärker in die Softwareentwicklung integrieren, erhöht aber auch die Anforderungen an die Ausführung. Entwickler werden die Plattform anhand von Verfügbarkeit, Versionsstabilität, vorhersehbarer Preisgestaltung, Datenschutz und der Frage beurteilen, ob neue Abstraktionen auch bei sich ändernden Modellen noch nützlich sind.
Aktuell stellen das 128.000 Kontextfenster und der günstigere Preis von GPT-4 Turbo wesentliche technische Neuerungen dar, während GPTs die Überzeugung widerspiegeln, dass Millionen von Nutzern zu Entwicklern einfacher Anwendungen werden können. Zusammengenommen machen sie den ersten DevDay des Unternehmens weniger zu einer Produktaktualisierung als vielmehr zu einer Erklärung, dass generative KI sich zu einer eigenständigen Anwendungsplattform entwickelt.