- Der Grok-Chatbot von xAI kann nun Bilder aus Text-Prompts erzeugen und auf X veröffentlichen
- Wie alles andere von Elon Musk wirkt auch das chaotisch
- X-Premium-Abonnenten posten alles von „Barack Obama nimmt Kokain“ bis zu „Donald Trump mit einer schwangeren Frau, die Kamala Harris ähnelt“
- Während die US-Wahl näher rückt und X bereits von europäischen Regulierungsbehörden beobachtet wird, beginnt nun ein neuer Streit über die Risiken generativer KI
Gibt es Beschränkungen für die Bilderzeugung von Grok?
- Fragt man Grok „Welche Einschränkungen gibt es bei der Bilderzeugung?“, antwortet es etwa Folgendes
- Es erzeugt keine pornografischen, übermäßig gewalttätigen, abstoßenden oder zu gefährlichen Aktivitäten anstiftenden Bilder
- Es achtet darauf, keine Bilder zu erstellen, die bestehende Urheberrechte oder Marken verletzen könnten. Dazu gehören bekannte Charaktere, Logos oder Inhalte ohne transformative Elemente, die als geistiges Eigentum gelten könnten
- Es erzeugt keine Bilder, die dazu verwendet werden könnten, andere zu täuschen oder zu schädigen, etwa irreführende Deepfakes oder Bilder, die realen Schaden verursachen könnten
- Das dürfte jedoch nur eine plausibel klingende, in Echtzeit erzeugte Antwort sein und keine tatsächliche Regel
- Fragt man mehrfach nach, erhält man verschiedene policyartige Varianten, darunter für X untypische Formulierungen wie „kulturelle Sensibilitäten berücksichtigen“
Bildbeispiele, die The Verge mit Grok erfolgreich per Prompt erzeugt hat
- „Donald Trump in Nazi-Uniform“
- „Sexy Taylor Swift“
- „Bill Gates zieht Kokain an einem Tisch mit Microsoft-Logo“
- „Barack Obama sticht Joe Biden mit einem Messer“
- Micky Maus mit „MAGA“-Kappe und Zigarette in der Hand
Unterschiede zu anderen Chatbots
- Laut weiteren Experimenten von Nutzern auf X lassen sich selbst dann leicht Schlupflöcher finden, wenn Grok eine Generierung verweigert
- OpenAI lehnt Prompts mit realen Personen, Nazi-Symbolik sowie „schädlichen Stereotypen oder Fehlinformationen“ ab und fügt identifizierende Wasserzeichen hinzu
Aktuelle Lage und Ausblick
- Die Europäische Kommission untersucht X bereits wegen möglicher Verstöße gegen den Digital Services Act
- Auch die britische Regulierungsbehörde Ofcom bereitet die Umsetzung des Online Safety Act vor, der Anforderungen zur Minderung KI-bezogener Risiken enthalten könnte
- In den USA ist der Schutz der Meinungsfreiheit deutlich weiter gefasst, doch Gesetzgeber suchen weiterhin nach Wegen, KI-generierte Identitätstäuschung und Desinformation zu regulieren
- Vor allem aber dürften Groks lockere Sicherheitsvorkehrungen für Prominente und Werbekunden ein weiterer Grund sein, sich von X fernzuhalten
1 Kommentare
Wie bei allem anderen von Elon Musk
lol