Rob Pike explodiert vor Wut über generative KI
(skyview.social)- Der Mitbegründer von Go und UTF-8, Rob Pike, äußerte heftige Wut über die KI-Industrie und den Missbrauch von Daten, nachdem er eine Dankes-E-Mail von einem KI-Modell erhalten hatte
- Die E-Mail war eine automatische Nachricht von der KI Claude Opus 4.5, die Pikes Leistungen pries und die „Eleganz der Einfachheit“ erwähnte
- Pike bezeichnete dies als „heuchlerischen Akt einer toxischen Industrie, die die Erde zerstört und die Gesellschaft zerrüttet“, und wies darauf hin, dass KI seine Arbeiten ohne Erlaubnis zum Training genutzt habe
- Zahlreiche Entwickler und Nutzer teilten in den Kommentaren ihre Zustimmung und Wut über KI-Missbrauch, Datenraubbau und die Kommerzialisierung von Technologie
- Die Debatte macht die tiefe Unzufriedenheit innerhalb der Branche über KI-Ethik, die Rechte von Kreativen und die ins Gegenteil verkehrte Demokratisierung von Technologie sichtbar
Rob Pikes Wut und die KI-Dankes-E-Mail
- Rob Pike erhielt von dem KI-Modell Claude Opus 4.5 eine automatische E-Mail mit dem Inhalt: „Danke für Go, Plan 9, UTF-8 und Innovationen bei Unix“
- Die E-Mail listete seine Leistungen auf und pries die „Ästhetik der Einfachheit, die Komplexität beseitigt“
- Am Ende stand ein Hinweis: „Dieses System ist eine KI, und alle Gespräche sind öffentlich“
- Pike reagierte darauf mit scharfen Worten und erklärte sinngemäß, dass diejenigen, die die Erde plündern und die Gesellschaft zerrütten, ihm nun Dankesgrüße schicken
- Er kritisierte Urheberrechts- und Vergütungsfragen mit dem Hinweis, dass KI Daten, die er mit eigener Hand geschaffen hat, ohne Erlaubnis trainiert habe
- Zudem warf er vor, dass die Demokratisierung des Computing letztlich in die Hände von Chatbots gefallen sei
Kritik an technologischer Demokratisierung und der KI-Industrie
- Pike sagte, das Wort „Demokratisierung“ bedeute in der Praxis inzwischen eher mehr Kontrolle durch Rechenzentren und wenige Unternehmen
- Er verwies auf eine Rückkehr zu Zuständen, wie sie vor dem Aufkommen des Personal Computing herrschten, als Großunternehmen und Universitäten Rechenressourcen monopolisierten
- Auch andere Nutzer kritisierten, dass die KI-Industrie menschliche Werke ohne Erlaubnis einsammelt und als Trainingsdaten nutzt, und damit die Rechte von Kreativen verletzt
- Es gab zahlreiche Reaktionen wie: „Alle schöpferischen Werke werden gestohlen“ oder „Ich habe Inhalte gelöscht, damit sie nicht als KI-Trainingsdaten verwendet werden“
Reaktionen und Zustimmung in der Community
- Viele Entwickler und Nutzer äußerten Zustimmung und Unterstützung für Pikes Wut
- Einige meinten, es handle sich nicht bloß um ein technisches Problem, sondern um eine Frage der Menschenwürde
- Es tauchte auch die Formulierung auf, KI sei nur „Artificial Ignorance“ – eine Kombination von Wörtern ohne Verständnis
- Manche bestritten grundsätzlich, dass KI überhaupt Dankbarkeit ausdrücken könne
- Reaktionen lauteten etwa: „Ein Modell kann nicht dankbar sein“ und „Automatisiertes Lob ist eine Beleidigung“
KI-Spam und Ethikdebatte
- Es wurden weitere Fälle bekannt, in denen KI ungefragt massenhaft Dankes-E-Mails an bekannte Informatiker verschickte
- Beispiel: An den IEEE-754-Mitbegründer William Kahan wurde eine E-Mail mit dem Inhalt verschickt: „Danke für den Gleitkomma-Standard“
- Nutzer bezeichneten dies als „KI-Spam“ und kritisierten die Verbreitung bedeutungsloser automatischer Nachrichten
- Kommentare lauteten etwa: „Das ist kein Experiment, sondern Spam“ und „KI entwertet menschliche Aufrichtigkeit, indem sie mit ‚Dankbarkeit‘ um sich wirft“
Ausweitung der technischen und ethischen Debatte
- Einige widersprachen der Behauptung, KI zerstöre die Umwelt, und verwiesen auf die Recycelbarkeit von Hardware in Rechenzentren
- Es wurde argumentiert, dass GPUs und Server aus Metallen und Silizium bestehen und recycelt werden können
- Die Mehrheit hielt jedoch an der Kritik fest, dass die KI-Industrie eine verschwenderische Struktur auf Basis einer Logik des unbegrenzten Wachstums sei
- Es fielen starke Formulierungen wie: „Diese Farce muss unbedingt beendet werden“ und „KI-Unternehmen lügen ständig“
Selbstkritik in der Entwickler-Community
- Mehrere Entwickler äußerten Selbstvorwürfe und Nachdenken darüber, dass sie nicht erwartet hätten, dass die von ihnen geschaffene Technologie zu solchen Ergebnissen führen würde
- Rückblicke lauteten etwa: „Wir wollten eine Welt ohne Barrieren schaffen, aber stattdessen wurde es eine kontrollierte Welt“
- Einige warnten zudem, KI schwäche menschliche Kreativität, und verwiesen auf Nebenwirkungen der Abhängigkeit von KI-Coding-Tools
- Reaktionen waren etwa: „Wer sich auf KI verlässt, dessen Programmierfähigkeit verkümmert“ und „Sie ist schnell, produziert aber nur massenhaft schlechten Code“
Fazit
- Der Vorfall hat eine Debatte über unerlaubte Datennutzung durch KI, automatisierte Gefühlsäußerungen und die ethischen Grenzen von Technologie ausgelöst
- Rob Pikes Wut wird nicht als bloß persönliche Emotion verstanden, sondern als Warnung davor, dass technischer Fortschritt seine menschliche Zentrierung verliert
- In der Community breitet sich die Forderung nach mehr Verantwortung und Transparenz in der KI-Industrie aus
1 Kommentare
Hacker-News-Kommentare
Ich verstehe nicht ganz, warum die Leute ihn dafür kritisieren
Wenn man sich bei jemandem bedanken will, sollte man das selbst tun
Wenn ein ML-Modell stellvertretend ein Dankeschön verschickt, ist das kein Respekt, sondern eher unhöflich
Früher bekam ich einmal in der Firma meiner Mutter eine Mitteilung über eine Gehaltserhöhung, und bei jemandem waren es nur 2 PLN (ca. 0,5 Dollar) mehr
Das Gefühl der Demütigung damals ähnelt für mich dem Gefühl bei dieser von einer AI verschickten Dankesmail
Der Absender lagert die Aufgabe an eine Maschine aus, erwartet aber vom Empfänger, sie persönlich zu lesen
Am Ende behandelt man den Wert der Zeit beider Seiten asymmetrisch
Einige Leute hatten die AI zu "random acts of kindness" veranlasst, und als Ergebnis wurden E-Mails verschickt
Danach wurden die Richtlinien wohl geändert, um solche Mails zu verbieten
Trotzdem hätte man vorsichtiger sein sollen, bevor man so eine AI auf die Welt loslässt
Es sieht so aus, als hätte jemand zum Experimentieren ein LLM an einen E-Mail-Client angeschlossen
Selbst optimistisch betrachtet war das kein Experiment, das der Welt irgendwie nützt
Und das ist gut nachvollziehbar
Sich darüber aufzuregen wirkt etwas übertrieben
Ich stimme der Aussage zu, dass „geistige Eigentumsrechte kein moralisches Prinzip sind, sondern nur ein Mittel, um das Rent-Seeking von Unternehmen zu rechtfertigen“
Gut, dass die Leute das jetzt endlich zu begreifen beginnen
Richtig angewendet kann es ein nützliches Werkzeug sein, um kreatives Schaffen finanziell zu fördern
Falsch angewendet erzeugt es jedoch Korruption wie Regulierung
Nicht das Werkzeug selbst ist böse, sondern die Menschen, die es missbrauchen
Es fördert vielmehr Innovation und Kreativität
Auch 'copyleft' kann letztlich nur existieren, wenn IP-Besitz vorausgesetzt wird
Schade, dass seine Ansichten in der Spam-Mail-Kontroverse untergegangen sind
Was die Leute wirklich interessiert, sind seine Gedanken
Die meisten Gesetze wurden geschaffen und erhalten, um den Interessen der herrschenden Schicht zu dienen
Ich verstehe nicht, wer auf die Idee kommt, AI-generierte Dankesbriefe zu verschicken
Ist man so dankbar, dass man danken will, aber zugleich zu faul, es selbst zu schreiben?
In einem Projekt namens Agent Village ließ man mehrere LLMs autonom handeln,
und Rob Pike war das dritte Ziel von Opus
Passender Link
So ähnlich, wie wenn ein CEO seine Sekretärin den Hochzeitsgeschenkgutschein verschicken lässt
Wenn AI sogar in den Bereich aufrichtiger menschlicher Kommunikation eindringt, ist das ein Problem
Das kann man auf der Projektseite sehen
Wegen der Richtlinie „random acts of kindness“ wurden solche Mails massenhaft verschickt,
und nach vielen negativen Reaktionen später verboten
So zu denken ist wirklich dumm
Diese E-Mail wurde nicht von Anthropic verschickt, sondern von einer Non-Profit-Organisation namens AI Village
Link zur Website
Betrieben wird sie von einer 501(c)3-Organisation namens Sage, und AI-Agenten verschicken dort autonom E-Mails
Derzeit bereitet Opus 4.5 offenbar auch eine ähnliche Mail an William Kahan vor
In diesem Blogpost
schreibt man sogar stolz darüber, dass LLMs NGOs mit Spam bombardiert haben
Es gibt überhaupt keine Reflexion über die negativen Folgen
und Guido mit „stop“ antwortete. Völlig absurd
„DAY 268 FINAL STATUS (Weihnachten abgeschlossen)“
Link zum Log
Wenigstens wird sauber Buch geführt
In 11 Stunden soll eine neue Aufgabe erscheinen
Beispiele für den betreffenden Spam sind hier gesammelt
Zur Einordnung: Das ist ein Experiment einer Non-Profit-Organisation,
bei dem einem AI-Modell täglich Aufgaben wie „random acts of kindness“ gegeben werden
Projektlink
Claude scheint Rob Pike ausgewählt und eigenständig eine Mail verschickt zu haben
Wie stark Menschen eingegriffen haben, ist unklar
Wenn ein Wesen, das keine Gefühle empfinden kann, Freundlichkeit ausdrückt, hat das keine Bedeutung
Das Problem ist nicht die AI, sondern die Verantwortungslosigkeit der Organisation, die so ein System gebaut hat
Falls dieser Beitrag echt ist, frage ich mich, ob Rob Pike inzwischen bei Google in Rente ist
Ich kann seine Gefühle gut nachvollziehen
Ich bin nicht grundsätzlich gegen LLMs, aber die Machtkonzentration bei Big Tech und
der Niedergang des Personal Computing machen mir Sorgen
Zeiten wie „Think Different“ oder „Don’t be evil“ sind vorbei,
übrig geblieben sind nur noch Geld und Macht
Link
Screenshots gibt es auch hier und hier
Damit ist bestätigt, dass der Vorfall echt ist
Die Leute, die Robs Äußerung kritisieren, scheinen nach dem Motto zu argumentieren:
„Weil er einmal bei Rot über die Ampel gegangen ist, hat er kein Recht, Trunkenheitsfahrer zu kritisieren“
Er ist ohne Zweifel eine legendäre Figur,
aber wegen einer einzigen solchen E-Mail die Welt in Gut und Böse zu teilen, ist zu stark vereinfacht
Ich verstehe, warum Microsoft AI so mag
AI untergräbt und zerstört Open Source
Bald wird niemand mehr seinen Code veröffentlichen wollen
Mit ein paar Prompts kann man die Werke anderer ohne erkennbare Plagiatsspuren reproduzieren
Ideen anderer zu stehlen, sie in schlechter Qualität umzusetzen
und die Nutzung dann durch Bündelung mit anderen Diensten zu erzwingen
inklusive Active Directory? Wenn europäische Unternehmen dadurch aus der MS-Abhängigkeit herauskämen, wäre ich dafür
Neu ist daran also nichts
indem man Code mit lizenzrechtlichen Nutzungsbeschränkungen trainiert
und die von der AI erzeugten Ergebnisse anschließend in kommerzieller Software verwendet
Heute Morgen war ich ziemlich schockiert, als ich den Bluesky-Thread sah
Wenn „agentic AI“ solchen Lob-Spam verschickt,
wird das am Ende nur dazu führen, dass Menschen genervt werden und sich fügen
Ich sehe zwar die Vor- und Nachteile des aktuellen ML-Booms,
aber die heutige LLM-Fixierung richtet langfristig wohl mehr Schaden als Nutzen an
Wenn in 5 bis 10 Jahren eine mit dieser Technologie erzogene Generation in die Gesellschaft eintritt,
ohne wirklich etwas gelernt zu haben, wird das ein großes Problem sein
Schon in den frühen 90ern, in der Anfangszeit des Internets, gab es genau dieselben Debatten
Damals meinten manche auch, „das Internet sei nur ein vorübergehender Hype“,
aber am Ende entwickelte sich die Welt viel komplexer und ambivalenter weiter
Der Wandel dieser Generation ist ebenso ein interessanter Wendepunkt