Rich Hickeys „Danke, AI!“: Der riesige Müllcontainer, den künstliche Intelligenz erschafft

[Essay] Rich Hickeys „Danke, AI!“: Der riesige Müllcontainer, den künstliche Intelligenz erschafft
(Original: https://gist.github.com/richhickey/ea94e3741ff0a4e3af55b9fe6287887f)

Rich Hickey, der Schöpfer von Clojure, hat sich mit scharfer Kritik gegen den generativen-AI-Trend und die Unternehmen dahinter gewandt. Der Text ist als Antwort auf eine schmeichelnde E-Mail verfasst, die von AI gesendet wurde, und setzt sich kritisch mit den zerstörerischen Auswirkungen von AI-Technologie auf die moderne Gesellschaft und das technische Ökosystem auseinander.

Wesentliche Punkte:

• Plünderung kreativer Werke: Kritik an der Praxis, die historischen kreativen Leistungen der Menschheit ohne Erlaubnis zum Training zu nutzen (Pirating) und anschließend Eigentumsansprüche darauf zu erheben.
• Zerstörung von Bildung und Beschäftigung: Das Bildungssystem wird untergraben, und Einstiegsjobs für Junior-Entwickler (Entry-level jobs) verschwinden, wodurch der Weg zur Ausbildung künftiger Fachkräfte blockiert wird.
• Verschwendung von Engineering-Ressourcen: Um nützliche Ergebnisse zu bekommen, wird Zeit im Kampf mit einem „BS-Generator“ verschwendet, die eigentlich für Kommunikation und Ausbildung mit Kollegen oder Praktikanten genutzt werden sollte.
• Umwelt- und Kostenprobleme: Hinweis auf steigende Versorgungskosten und Umweltschäden durch den enormen Stromverbrauch.
• Die VerSlopung des Internets: Suchergebnisse werden durch zusammengefasste Falschinformationen ersetzt, und das Internet wird mit sinnlosen Daten geflutet, sodass echte menschliche Inhalte immer schwerer zu finden sind.
• Kurzfristige Entscheidungen von Unternehmen: Kritik an CEOs, die für minimale Kosteneinsparungen Produktqualität, Integrität und Kundenzufriedenheit opfern.

Implikation:
Der Autor warnt, dass AI die menschlichen Kommunikationskanäle mit Falschinformationen überflutet und damit das Vertrauen in Kommunikation zerstört. Insbesondere die Frage „Warum nennen wir eine Technologie, die mehr Probleme schafft als löst, nicht einfach einen Fehlschlag?“ sendet eine gewichtige Botschaft an die heutige IT-Branche, die im Techniksolutionismus gefangen ist.

[rabolution]

https://news.ycombinator.com/item?id=46415945
Schauen wir uns auch die Reaktionen auf Hacker News an.

Der betreffende Beitrag wurde auch im Clojurians-Slack geteilt. Dort äußerten die Clojurians überwiegend Zustimmung zu Rich Hickys Position.

• „the second biggest and most damaging con“ — was wäre dann der erste?
• Kryptowährungen?
• Objektorientierung natürlich!
• OO ist doch das letzte Jahrhundert.
• Wenn man aber tiefer darüber nachdenkt, verstehe ich es vollkommen. Die Trade-offs, über die wir sprechen, betreffen immer technische Aspekte, die auf einer kompromisslosen Philosophie beruhen, und LLM-Vibe-Coding scheint das Gegenteil von hammock driven development zu sein.
• Genau das! Und ergänzend dazu: Wer ernsthaft über dieses Problem nachdenkt, ist nicht allein. Es wird Wissen nicht mit anderen geteilt, kollaboratives Lernen behindert, Jobs für Junior-Entwickler werden schwerer zu finden sein, und langfristig wird das die Gesellschaft kaputtmachen. Aber die meisten Menschen scheinen das Problem nicht klar zu erkennen.

[rabolution]

Ich gehöre zum Wissenschafts- und Technologieausschuss der Grünen. Da dachte ich erst, Clojure-Entwickler ticken wohl ähnlich wie die Grünen. Dann kam mir aber der Gedanke, ob man nicht umgekehrt gerade wegen Clojure-Entwickler zum Grünen-Mitglied wird. ;)

[rabolution]

Hammock-driven Development bedeutet ... der Begriff stammt aus einem Vortrag von Rich Hickey. Es ist eine Art zu entwickeln, bei der man die tiefen Randbedingungen klar formuliert, sie im Unterbewusstsein wirken lässt und dabei entwirft und verifiziert. Rich Hickey selbst sagt, dass sich Design nicht durch TDD oder komplexe Typsysteme ersetzen lässt.

https://secondb.ai/summary/11593/?tab=my

Unter den Entwicklern, die LLMs nutzen, scheinen diejenigen, die auf Rich Hickeys Gedanken zur Einfachheit (Simple Made Easy) achten, Ähnliches zu sagen. Man könnte sagen, dass es Spec-Driven ähnlich ist. Aber selbst um LLMs besser zu nutzen, wäre es vielleicht gut, auch auf die Unterschiede zu achten.

https://secondb.ai/summary/11587/?tab=all