Google deaktiviert die Funktion von Gemini zur Generierung von Personenbildern vorerst, nachdem sie eine Woche lang wegen historisch ungenauer und verzerrter Ergebnisse kritisiert wurde. Damit wird aus einem Produktqualitätsfehler ein breiterer Test dafür, wie schnell große Technologieunternehmen generative KI einsetzen können, ohne die Kontrolle über die Sicherheitssysteme ihrer Modelle zu verlieren. CEO Sundar Pichai erklärte den Mitarbeitern am Dienstag, einige Antworten von Gemini seien „völlig inakzeptabel“ gewesen, und kündigte strukturelle Änderungen an, bevor die Funktion wiederhergestellt werde.
Die Kontroverse begann, nachdem Nutzer Beispiele veröffentlicht hatten, in denen Gemini bei historischen Aufgabenstellungen unglaubwürdige Darstellungen von Ethnien und Geschlechtern erzeugte. Google räumte das Problem ein und setzte die automatische Generierung von Personenbildern am 22. Februar aus. In einer ausführlichen Erklärung des Unternehmenssagte Googles Senior Vice President Prabhakar Raghavan, das System habe bei einigen Aufgabenstellungen die Diversität überkompensiert, bei anderen hingegen übermäßig vorsichtig agiert.
Eine Sicherheitsanpassung führte zu einem Fehler in der historischen Genauigkeit
Generative Bildsysteme sind typischerweise darauf ausgelegt, stereotype oder ausgrenzende Ergebnisse zu vermeiden. Google erklärte, die Sicherheitsvorkehrungen von Gemini sollten verhindern, dass sich Verzerrungen wiederholen, die in früheren Bildgenerierungssystemen aufgetreten waren. Die Implementierung führte jedoch in einigen historischen Kontexten zum gegenteiligen Ergebnis. Das Modell generierte Personen, die nicht zur jeweiligen Epoche oder zum jeweiligen Thema passten, und lehnte in anderen Fällen harmlose Anfragen ab.
Die Nachrichtenagentur Associated Press berichtete, dass Google die Funktion vorübergehend deaktiviert hat, nachdem online zahlreiche Beispiele kursierten. Das Unternehmen erklärte, es werde die Genauigkeit verbessern, bevor die Generierung von Personenbildern wieder aktiviert werde. Diese Entscheidung ist von Bedeutung, da Gemini keine experimentelle Forschungsdemo ist; Google positioniert es als die kundenorientierte Plattform für seine wichtigsten KI-Produkte.
einem von Yahoo Finance erfolgte die Pause nur wenige Wochen, nachdem Google mit der Bildgenerierung über Gemini begonnen und Bard kurz zuvor in Gemini umbenannt hatte. Dieser enge Zeitablauf verdeutlicht den Wettbewerbsdruck, dem Google im Wettlauf mit Microsoft und OpenAI bei Sprachassistenten für Endverbraucher, KI-Lösungen für Unternehmen und Entwicklerplattformen ausgesetzt ist.
Pichai verspricht Änderungen bei den Einführungs- und Bewertungsprozessen
In einem internen Memo, das von Semafor, erklärte Pichai, die problematischen Text- und Bildantworten hätten Nutzer verärgert und Voreingenommenheit offenbart. Er sagte, die Teams arbeiteten „rund um die Uhr“ und skizzierte eine Reihe von Maßnahmen, darunter strukturelle Änderungen, aktualisierte Produktrichtlinien, verbesserte Einführungsprozesse, strengere Evaluierungen, erweiterte Red-Teaming-Aktivitäten und technische Empfehlungen.
Diese Liste ist wichtig, weil sie den Vorfall als mehr als nur einen einfachen Fehler im Bildmodell darstellt. Pichai deutet an, dass das Problem möglicherweise mit der Art und Weise zusammenhängt, wie Google Modellfunktionen in Endkundenprodukte umsetzt: Interpretationshilfen, Richtlinienebenen, Sicherheitsfilter, Testabdeckung und Freigabemanagement. Anders ausgedrückt: Um das Problem zu beheben, muss möglicherweise der Prozess geändert werden, der die Produktion dieses Fehlers ermöglicht hat.
Das Unternehmen hat noch keinen konkreten Termin für die Wiederherstellung der Personenbildgenerierung genannt. Pichai deutete an, dass Google in den kommenden Wochen mit Verbesserungen rechnet, die Funktion ist jedoch seit Samstag weiterhin deaktiviert. Dies ist ein deutlicher Rückschlag für ein Unternehmen, das den Februar damit verbracht hat, die öffentliche Einführung von Gemini zu beschleunigen.
Die Pause erfolgt inmitten einer ungewöhnlich aggressiven Expansion des Sternzeichens Zwillinge
Am 8. Februar ersetzte Google den Namen Bard offiziell durch Gemini und stellte Gemini Advanced vor, basierend auf Ultra 1.0, sowie eine eigene Android-App. In der Ankündigungbeschrieb Pichai Gemini als ein Ökosystem, das Verbraucherprodukte, APIs, Cloud-Dienste und Entwicklertools umfasst, und nicht als einen einzelnen Chatbot.
Eine Woche später kündigte Google Gemini 1.5und hob dabei ein Kontextfenster hervor, das in einer eingeschränkten Vorschau bis zu 1 Million Tokens verarbeiten und lange Dokumente, Videos, Audiodateien und große Codebasen unterstützen kann. Diese technischen Fortschritte zeigen, dass die zugrundeliegende Produktstrategie fortgesetzt wird, auch wenn eine sichtbare Funktion für Endnutzer vorübergehend nicht verfügbar ist.
Diese Spannung rückt in den Mittelpunkt der KI-Branche: Die Leistungsfähigkeit von Modellen entwickelt sich rasant, während die Produktsicherheitsvorkehrungen weiterhin schwer zu kalibrieren sind. Ein System kann in Bezug auf logisches Denken, Codierung oder multimodale Analyse deutlich verbessert sein und dennoch versagen, weil die Anpassung von Richtlinien oder Sicherheitsmaßnahmen bestimmte Ergebnisse verfälschen.
Vertrauen wird zur Produktanforderung, nicht zum Kommunikationsproblem
Googles Problem ist besonders heikel, da das Kerngeschäft des Unternehmens auf Informationsbeschaffung und Nutzervertrauen beruht. Gemini wird in Produkte integriert, die letztendlich Einfluss auf Suche, Produktivität, Werbung und mobiles Computing haben könnten. Sollten Nutzer das System als politisch oder kulturell voreingenommen oder bei grundlegenden historischen Fragen schlichtweg unzuverlässig empfinden, könnte sich das Problem über eine einzelne Bildfunktion hinaus ausweiten.
Das Unternehmen selbst räumt ein, dass generative KI weiterhin Fehler machen wird. Raghavan schrieb, dass Halluzinationen und unvollkommene Ergebnisse bekannte Herausforderungen darstellen und warnte Nutzer davor, sich bei aktuellen Nachrichten oder sensiblen Themen ohne vorherige Überprüfung auf Gemini zu verlassen. Dieses Eingeständnis ist realistisch, verdeutlicht aber auch die Diskrepanz zwischen der Wahrscheinlichkeitsnatur der Technologie und den Erwartungen an ein Informationsprodukt der Marke Google.
Das unmittelbare technische Ziel besteht darin, die Generierung von Personenbildern wiederherzustellen, ohne Stereotypen zu reproduzieren oder unglaubwürdige historische Szenen zu erzeugen. Das übergeordnete Ziel ist schwieriger: einen Freigabeprozess zu entwickeln, der erkennt, wenn ein gut gemeinter Sicherheitseingriff eine andere Form der Verzerrung hervorruft. Während Google Gemini kontinuierlich in sein Produktportfolio integriert, erinnert die dieswöchige Pause daran, dass es im Wettbewerb nicht nur um größere Modelle und längere Kontextfenster geht. Es geht auch darum, ob Unternehmen diese Systeme so vorhersehbar gestalten können, dass sie das für den Massenmarkt notwendige Vertrauen verdienen.