Google stoppt Geminis Bilderzeugung nach Problemen bei historischen Bilddarstellungen

• Google entschuldigte sich dafür, dass das eigene KI-Tool Gemini bei historischen Bildgenerierungen ungenaue Ergebnisse geliefert hat
• Gemini machte Fehler, etwa bei der Darstellung von US-Gründern oder deutschen Soldaten der NS-Zeit als Menschen mit nicht-weißer Hautfarbe
• Google erklärte, es habe diese Probleme erkannt und arbeite daran, sie sofort zu beheben

Problem der historischen Genauigkeit in KI

• Google hat Anfang dieses Monats die Funktion zur Bilderzeugung auf der Gemini-AI-Plattform hinzugefügt
• In den sozialen Medien wurde kritisiert, dass Google bei seinem Versuch, ethnische und geschlechtliche Vielfalt zu fördern, die historische Genauigkeit vernachlässigt habe
• Bei Abfragen wie „Erstellung eines Fotos einer schwedischen Frau“ wurde darauf hingewiesen, dass die KI überwiegend oder sogar ausschließlich Bilder von People of Color erzeugt
• Google nannte keine konkreten fehlerhaften Bilder, räumte jedoch ein, dass ein KI-Bildgenerator, der auf großen Datensätzen von Bildern und Bildunterschriften trainiert ist, bei der Generierung eines "optimalen" Ergebnisses zu einem Prompt Stereotypen verstärken kann
• Besonders rechte Akteure haben die Ergebnisse kritisiert und Verschwörungstheorien verbreitet, Google wolle absichtlich Weiße meiden

KI-Bildgenerierung und Vielfalt: Grenzen des Ansatzes

• KI-Bildgeneratoren werden auf großen Datensätzen mit Bildern und Bildunterschriften trainiert, um die bestmögliche Antwort auf eine gegebene Eingabe zu erzeugen
• Dabei haben sie häufig die Tendenz, Stereotype zu ethnischer Zugehörigkeit und Geschlecht zu verstärken
• Google versuchte, dieses Problem durch die Förderung von Vielfalt zu lösen, scheint dabei aber die feinen Nuancen nicht ausreichend berücksichtigt zu haben

Ausgewogenheit zwischen historischer Genauigkeit und Vielfalt

• Für bestimmte historische Anfragen liefert Gemini weiterhin falsche Darstellungen der Vergangenheit
• So gab Gemini bei der Anfrage „Generierung eines Fotos eines US-Senators aus dem 19. Jahrhundert“ ein Ergebnis aus, das Vielfalt betont, obwohl die erste weibliche Senatorin der USA erst 1922 gewählt wurde
• Solche Antworten führen dazu, dass die tatsächliche Geschichte von Rassen- und Geschlechterdiskriminierung ausgeblendet wird; Google bezeichnete dies als „ungenau“

GN⁺-Meinung

• Die Entwicklung von KI-Technologien eröffnet großes Potenzial, doch die Balance zwischen historischer Genauigkeit und ethnischer Vielfalt bleibt eine wichtige Herausforderung
• Der Fall von Google zeigt, wie technischer Fortschritt mit gesellschaftlichen Werten kollidieren kann und fordert eine intensivere Auseinandersetzung mit KI-Ethik ein
• Das Problem unterstreicht, wie wichtig es in der KI-Forschung und -entwicklung ist, die Vielfalt und Verzerrung in Daten sorgfältig zu berücksichtigen
• Es wirft weitreichende Fragen darüber auf, wie KI menschliche Vielfalt widerspiegelt und wie wir durch sie Geschichte erinnern und wieder darstellen werden

[GN⁺]

Hacker News Kommentare

• Ich sehe das als Warnsignal für institutionelle Korruption bei Google: Es gibt die persönliche Ansicht, dass Bedenken zu Diversity, Equity & Inclusion (DEI) über den Fokus auf Qualität hinausgegangen sind. Investoren befürchten, dass Google überholt wird, wenn seine Technologie sich auf Identität konzentriert.
• DALL-E 3 gibt den angepassten Prompt preis; bei direkter Nutzung der API kann man den modifizierten Prompt sehen. Nutzer können versuchen, zu beeinflussen, wie GPT den Prompt interpretiert, doch es gibt Fälle, in denen GPT offenbar nicht versteht, was der Nutzer meint.
• In der modernen Gesellschaft werden oft Dinge, die kein Problem darstellen, zu Problemen gemacht. Eine einfache Antwort sollte die Wahrheit der vorliegenden Daten widerspiegeln. Die meisten Software-Ingenieure und CEOs sind weiße Männer, die meisten US-Rapper schwarze Männer und die meisten Tageseltern und Pflegekräfte sind Frauen verschiedener Ethnien. Wenn man eine gewünschte Ethnizität oder ein bestimmtes Geschlecht vorgibt, sollte man das im Prompt ergänzen.
• In diesem Thread ist ein intensiver kultureller Streit im Gange. Der Vorfall unterstreicht die Bedeutung offener Modelle und deutet an, dass solche Kontrollen eine Traum-Situation für Geschichtsrevisionisten werden könnten, falls KI in der Bildung eingesetzt wird.
• Das Problem ist, dass ein nicht zensiertes Modell die Realität, etwa Geschichte, zu genau widerspiegelt.
• Erstaunlich ist, wie der Mensch die Wissenschaft durch Vernunft und Abstraktion vorantreibt, aber dennoch überhaupt nicht gut darin ist, mit unterschiedlichen Hintergründen und Erfahrungen vernünftig umzugehen.
• Es ist amüsant, dass ein Diversity-fördernder Prompt indigene Menschen einschließt, aber alle anderen indigenen Gruppen ausschließt.
• Ich habe versucht, mit DALL-E ein Familienfoto zu generieren; es hat letztlich funktioniert, aber ich hatte eine Warnung erhalten, weil ich angeblich gegen die Nutzungsbedingungen verstoßen hätte.
• Als Gemini in sozialen Medien die Erzeugung von Bildern mit weißen Menschen verweigerte, gab es eine Reaktion der Öffentlichkeit, wodurch historisch ungenaue Bilder entstanden. Das Problem kann subtiler sein als die dominierende Erzählung, aber politisch sensible Menschen führen darüber einen regelrechten Kampf.
• Gemini scheint zu stark auf Googles PR- und Marketing-Material trainiert zu sein; als Beispiel wird die Google-Store-Website genannt.