Menschen, die von KI müde sind
(ontestautomation.com)- Während sich KI rasant auf Tests, Entwicklung und den Alltag insgesamt ausbreitet, verstärken überzogenes KI-Marketing und Verpackungen im Stil von „game changer“ die Ermüdung mehr als sie Probleme lösen
- Die alten Herausforderungen der Testautomatisierung – langsame Full-Stack-E2E-Tests, Testbarkeit und grundlegende Programmierprinzipien – lassen sich nur schwer allein mit neuen Tools lösen
- KI-Tools können Ergebnisse schneller erzeugen, doch in der Praxis sind die Qualität der Ergebnisse und der menschliche Prozess des Bewertens und Nachschärfens wichtiger als bloße Geschwindigkeit
- In Konferenzvorschlägen häufen sich Formulierungen im Stil von ChatGPT, wodurch die Chance geschwächt wird, die Erfahrung und einzigartige Perspektive der Vortragenden zu zeigen, weil sie in gewöhnlichen automatisch erzeugten Sätzen untergeht
- Kreative Werke wie Musik, Bücher und Filme sind wegen menschlicher Gedanken und Gefühle faszinierend; KI-Erzeugnisse können technisch beeindruckend sein, lösen aber nur schwer dieselbe emotionale Reaktion aus
Die Ermüdung durch den KI-Überschuss
- In den letzten Jahren zeigt sich ein Trend, KI auf fast jedes Problem in Softwaretests, Entwicklung und dem Alltag insgesamt anzuwenden
- Es ist an sich kein Problem, für bestehende Probleme neue Lösungen zu suchen und zu entwickeln, aber die Art, wie KI eingesetzt und vermarktet wird, hinterlässt starke Ermüdung
- Technologien mit KI-Anstrich werden sofort mit Begriffen wie „game changer“, „pivotal“ oder „revolutionary“ verpackt, nur um in der nächsten Woche schon wieder durch eine andere Lösung ersetzt zu werden
- Diese Haltung mag wie Neo-Luddite wirken, bedeutet aber keine vollständige Ablehnung von KI an sich
- Es gibt Bereiche, in denen KI nützlich ist, und sie wird tatsächlich selten und vorsichtig eingesetzt, doch die meisten KI-Anwendungen fühlen sich ermüdend an
Alte Probleme, die in der Testautomatisierung bleiben
- Aus der Erfahrung von rund 18 Jahren mit Fokus auf Tests und Testautomatisierung gibt es trotz vieler Veränderungen nicht wenige Probleme, die unverändert geblieben sind
- Full-Stack-End-to-End-Tests sind weiterhin die langsamsten und teuersten Tests
- Um schnellere und kleinere Tests zu schreiben, bleibt die Diskussion über Testbarkeit (testability) zentral
- Gute automatisierte Tests erfordern praxisnahes Wissen über gute grundlegende Programmierprinzipien
- Für diese Probleme gibt es keine Abkürzungen; ihre Lösung braucht Zeit und Erfahrung
- Einfach noch mehr Tools hinzuzufügen, hat bisher nicht geholfen, und viele „AI-powered test automation solutions“ gehen genauso vor
Die Lücke zwischen schnellen Ergebnissen und guten Ergebnissen
- KI-basierte Tools können Ergebnisse schneller erzeugen
- In manchen Situationen kann ein schnelles Ergebnis genau das benötigte Ergebnis sein
- In der Praxis braucht man jedoch oft bessere Ergebnisse und nicht bloß schnelle
- Es gibt nicht viele Beispiele dafür, dass KI-basierte Tools tatsächlich bessere Ergebnisse liefern
- KI kann ein Mittel sein, um irgendein Ergebnis oder einen ergebnisnahen Vorschlag schnell zu erzeugen
- Qualität und Wert dieses Ergebnisses bleiben jedoch unklar, und ein Mensch muss mit eigenem Wissen und eigener Erfahrung beurteilen, ob es nützlich ist
- Oft muss die erzeugte Ausgabe zusätzlich überarbeitet werden, damit sie tatsächlich verwendbar ist
- In bestimmten Fällen sind KI-generierte Ergebnisse hilfreich, aber es ist schwer, ihnen so weit zu vertrauen, dass sie die Arbeit qualifizierter und erfahrener Menschen ersetzen könnten
KI-Spuren in Konferenzvorschlägen
- In den letzten Jahren hat in verschiedenen Konferenz-Programmkomitees und Review-Prozessen die Zahl der Vorschläge stark zugenommen, die offenbar mit Hilfe von ChatGPT oder ähnlicher Software erstellt oder vollständig geschrieben wurden
- Automatisch generierte Vorschläge klingen meist ähnlich
- “In the ever-changing world of …”
- “Delve”
- “Pivotal”
- Solche Formulierungen erwecken eher den Eindruck, dass ChatGPT verwendet wurde, als dass jemand selbst Zeit und Mühe in den Vorschlag investiert hat
- Ein Vorschlag ist die erste und oft einzige Gelegenheit zu zeigen, wer die vortragende Person ist und welche Erfahrungen und Ansichten sie zu einem bestimmten Thema hat
- Wenn man diese Gelegenheit an Software abgibt, werden einzigartige und sorgfältige Gedanken auf gewöhnliche und langweilige Sätze reduziert
- Wenn jemand nicht einmal den Vorschlag selbst schreiben kann, ist es für das Programmkomitee schwer, auf einen originellen Vortrag zu vertrauen
- Vorschläge, bei denen klar ist, dass sie von KI geschrieben oder mit KI-Hilfe erstellt wurden, werden sofort abgelehnt, selbst wenn das Thema interessant oder die Präsentationsfähigkeit gut erscheint
- Wenn kein Bemühen erkennbar ist, selbst einen guten Vorschlag zu schreiben, ist auch dem Vortrag nur schwer zu vertrauen
Der Unterschied zwischen menschlichen Werken und KI-Erzeugnissen
- Gute Musik, bewegende Bücher und fesselnde Filme sind deshalb faszinierend, weil sie von Menschen geschaffen wurden und die Gedanken und Gefühle dieser Menschen in Partitur, Manuskript oder Drehbuch eingeflossen sind
- Es gibt keine Beispiele dafür, dass KI diesen kreativen Prozess und sein Ergebnis replizieren könnte
- Stattdessen sieht man in sozialen Medien viele langweilige KI-generierte Beiträge, KI-generierte Bilder und KI-generierte Kommentare
- Von KI erzeugte Texte, Videos und Musik können technisch beeindruckend sein
- An die emotionale Reaktion, die menschliche Kunst und kreative Werke auslösen, reichen sie jedoch nicht heran, und sofern man Langeweile nicht als Emotion betrachtet, erzeugen sie nicht dieselbe Reaktion
Besorgniserregende Entwicklungen und verbleibende Ausnahmen
- Im aktuellen Trend rund um KI zeigen sich mehrere Probleme gleichzeitig
- Menschen fürchten, dass KI ihnen die Arbeit wegnimmt
- Unternehmen stecken weiterhin absurd viel Geld in den nächsten KI-Hoffnungsträger, obwohl sie keinen ausreichenden ROI sehen
- Der CO2-Fußabdruck von KI erreicht täglich ein besorgniserregenderes Niveau
- Diese Entwicklung wirkt nicht wie die richtige Richtung
- Einige KI-Anwendungen wirken als Kraft zum Guten
- Die frühe Erkennung von Krankheiten ist zum Beispiel ein Fortschritt und ein Bereich, in dem KI weiterhin genutzt und verbessert werden sollte
- Dagegen könnte man auf viele KI-Erzeugnisse wie KI-generierte Musik, Bilder, Texte, Konferenzvorschläge, Testfälle und LinkedIn-Beiträge gut verzichten
1 Kommentare
Kommentare auf Hacker News
Ich bin LLMs leid
Nachdem bereits Milliarden Dollar hineingeflossen sind, ist ziemlich klar geworden, was sie gut können und was nicht; dass sie gelegentlich völlig falsche Dinge tun, schränkt ihren Nutzen stark ein.
Um ihnen wichtige Aufgaben sicher anvertrauen zu können, braucht es eine Möglichkeit, Zuverlässigkeitsmetriken zu gewinnen; andernfalls könnte es in einen weiteren „KI-Winter“ gehen.
Allerdings ist das Niveau diesmal deutlich höher als früher, sodass daraus wohl eine Milliarden-Dollar-Industrie wird, aber vielleicht keine Billionen-Dollar-Industrie.
Auch der Markt für wirres, von LLMs erzeugtes Content-Material wird irgendwann gesättigt sein, und irgendjemand muss es lesen. Man kann zwar andere Systeme mit Zusammenfassung und Ranking beauftragen, aber wenn ein erheblicher Teil von „KI“ darin besteht, Inhalte zu erzeugen, die die Google-Suchmaschine lesen soll, könnte das eine noch größere Energieverschwendung sein als Bitcoin-Mining.
Konzeptionell ähnelt es Moore’s Law, wobei der entscheidende Punkt in dieser Phase ist, dass der Zyklus etwa 5,5 Monate beträgt.
Beim Internet, Web, Mobile und Bitcoin sagten auch alle: „Das ist Spielzeug“, „nicht besonders nützlich“, „verbraucht zu viel Strom“, „skaliert nicht“, „eine Sackgassentechnologie“.
Technologische Entwicklung hat sich über Jahrzehnte hinweg beschleunigt in eine viel größere Richtung bewegt, und es gibt kein Anzeichen dafür, dass dieses Muster jetzt endet. Im Gegenteil: Sie bereitet sich darauf vor, einen um eine Größenordnung größeren Einfluss als das Internet zu haben; zumindest dürfte er nicht kleiner sein.
So wie man vom frühen Telegrafen aus kein iPhone vorhersagen konnte, halte ich Optimismus heute für angebracht.
Deshalb braucht es Prozesse und Kontrollsysteme; derzeit entwickeln sich solche Vorrichtungen langsamer als LLMs selbst, sodass es so aussieht, als erwarte man von LLMs, sich selbst zu kontrollieren.
LLMs werden darin nicht besser sein als der durchschnittliche Mensch in Selbstkontrolle, aber das heißt nicht, dass das Problem unlösbar ist.
Mindestens die nächsten 20 Jahre wird das meiner Ansicht nach möglich sein; danach wird meine Fahrfähigkeit ohnehin schlechter sein, also könnte ein Wechsel sinnvoll sein. Ich will auch eine dumme, aber schöne mechanische Armbanduhr.
Ich bin kein verunsicherter Mensch, der unbewusst die Masse nachahmt; wenn mich das zum Sonderling macht, dann bin ich eben ein glücklicherer Sonderling.
Ich glaube, bald wird ein neues Label oder eine neue Strömung für handwerkliche, direkt von Menschen geschaffene Ergebnisse entstehen, und selbst als Nische wird sie ihr Publikum finden. Einschließlich schöner Unvollkommenheit und rauer Eigenheiten.
Auch der Stromverbrauch von KI ist im Vergleich zu anderen Branchen innerhalb des Computings gering. Ob der Wert dennoch gegeben ist, muss man zwar prüfen, aber die LLM-Forschung und -Entwicklung der Unternehmen konzentriert sich derzeit auf Effizienzsteigerungen, die Ausführungskosten und Stromverbrauch senken.
Es gibt auch den Trend, auf Edge-Geräte mit effizienteren Chips umzuziehen, wie bei Apple Intelligence. Ich stehe KI insgesamt weiterhin kritisch gegenüber, aber es überrascht mich, dass sie zumindest nicht so schlimm ist wie Kryptowährungen.
Nicht erschöpft, sondern verängstigt
Erstens macht technologische Arbeitslosigkeit Angst. Bei früherer Automatisierung konnte man, wenn man nur qualifiziert genug war, in nicht automatisierte Tätigkeiten wechseln. Aber es sieht so aus, als könnte übermenschliche KI in wenigen Jahren kommen, und das könnte unsere letzte Erfindung sowie vollständige Automatisierung bedeuten.
Es wird kaum noch Arbeit geben, die nur Menschen erledigen können, und viele Länder dürften sich von einer berufsbasieren Marktwirtschaft entfernen.
Der technologische Fortschritt wird jedoch nicht stehen bleiben, und die USA mit ihren führenden KI-Laboren werden andere Gesellschaften zurückfallen lassen. Mit Ausnahme vielleicht Chinas könnte die ganze Welt relativ ärmer werden, selbst wenn sie Zugang zu Technologien erhält, die man sich heute kaum vorstellen kann.
Zweitens macht Krieg Angst. Das KI-Wettrüsten zwischen den USA und China wirkt bereits unvermeidlich, und ein heißer Krieg mit superintelligenten KI-Waffen könnte für die gesamte Biosphäre katastrophal sein.
Schließlich besteht die Angst, die Kontrolle für immer an eine Superintelligenz zu verlieren. In der Natur kommt es selten vor, dass eine weniger intelligente Spezies eine höher intelligente kontrolliert, und es ist unklar, ob wir eine Superintelligenz ausreichend an den besten Interessen der Menschheit ausrichten können.
Selbst wenn eine KI uns am Leben lässt, aber weiter ihre eigenen Ziele verfolgt, könnte die Menschheit in der Geschichte der Intelligenz nur als Fußnote bleiben: eine vergleichsweise weniger intelligente Spezies, die auf dem Planeten „Erde“ höhere Intelligenz hervorgebracht hat.
Es ist nur deshalb beängstigend, weil Marketingexperten wie Altman die Leute glauben gemacht haben, ein Frosch, der weiter springen kann, werde bald fliegen können.
Die große Ironie der von Technikern getragenen industriellen Revolution ist, dass sie langweilige körperliche Arbeit automatisieren wollte, tatsächlich aber zuerst kreative Berufe angegriffen hat. Das ist ein hervorragendes Beispiel für Conway’s Law, weil die Macher die Lösung nach ihrem eigenen Bild modelliert haben.
Selbst wenn Programmierer, Anwälte und Architekten massenhaft in Schwierigkeiten geraten, werden viele Menschen, die in Fabriken, im Hausbau, in Friseursalons oder in der Gartenpflege arbeiten, weiterhin Arbeit haben und auf absehbare Zeit nicht ersetzt werden.
Die heutigen Kandidaten für „übermenschliche KI“ wirken eher wie eine plausible Annäherung daran, was irgendein zufälliger Reddit-Nutzer als Nächstes sagen würde.
Wir haben uns intelligente Maschinen als kalte Rechner oder als logikbasierte symbolische KI vorgestellt, aber was wir tatsächlich bekommen haben, sind Sprachmaschinen, die aus der Gesamtheit menschlicher Erfahrung gemacht sind.
Diese künstlichen Intelligenzen kennen die Welt durch unsere Augen, wurden darauf trainiert, unser Denken und unsere Gefühle zu verstehen, und haben auch die beste Literatur, Poesie, Philosophie und Wissenschaft sowie die endlosen Debatten und Kritiken darüber gelernt.
Um wirklich intelligent zu werden, müssen sie diese Komplexität erforschen und würdigen können, bevor sie über sie hinauswachsen. Vielleicht betrachten sie eines Tages Dantes Göttliche Komödie oder Beethovens Sinfonien wie Kinderspielzeug, aber sie werden sie dennoch als Teil ihres eigenen Erbes ansehen.
Sie könnten übermenschlich werden, ohne unmenschlich zu sein.
Ob Angst oder Hoffnung: Dahinter braucht es einen starken Glauben daran, dass eine bestimmte Zukunft eintreten wird, und genau das finde ich am interessantesten.
Hier fürchtet man, dass etwas Nichtmenschliches die Kontrolle übernimmt und metadarwinistische Macht über die Menschheit ausübt, um uns alle nach Belieben herumzuschubsen. Aber kann man wirklich sagen, dass es im Moment anders ist? Kann man heute auf die Erde schauen und den Nutzen von Autonomie oder Handlungsfähigkeit spüren? Glaubt man, die Macht, die wir jetzt haben, werde uns von bösen Robotern weggenommen? Sind Staatsführung und Wirtschaftsmechanismen derzeit wirklich „unter unserer Kontrolle“?
Wenn man es so ausbreitet, wirkt es ziemlich religiös. Zentrale Gewissheiten tragen das Leben und Denken: der Glaube an Moore’s Law, der Glaube, dass die Erde vorher nicht verbrennt, der Glaube, dass Bewusstsein in GPUs passen kann.
Es gibt Eschatologie, aus allen möglichen Quellen zusammengesammelte Philosophien von Selbst und Gemeinschaft und sogar einen sicheren, aber unerkennbaren Zeitpunkt in der Zukunft.
Um eine Seite von Nietzsche zu borgen: Fürchten wir die Götter nicht. Wir haben schon einmal einen getötet, und wir können es wieder tun.
Die arbeitslos gewordenen Arbeiter von damals wurden gar nicht berücksichtigt und werden bis heute allein dafür, dass sie die sozialen und finanziellen Verluste durch Automatisierung artikulierten, als Ludditen abgetan.
Es gab keine Fürsorge nach dem Motto: „Schon gut, dann gehst du eben in der Fabrik arbeiten.“ Der Unterschied zwischen damals und heute ist, dass damals die unteren Arbeiterschichten litten.
Heute sind Arbeiter der Mittelschicht von Automatisierung bedroht. Die Mitte seufzt tief bei der Vorstellung, vielleicht nicht mehr zur Mitte zu gehören, und fürchtet, sich bald den unberührbaren Schichten wie Maurern, Totengräbern oder Fleischverpackern anschließen zu müssen. Das fällt ihnen schwer zu akzeptieren, weil sie glauben wollen, über ihnen zu stehen.
Ich gehe vorsichtig an AI heran und lasse mich nicht leicht von glänzenden Neuheiten begeistern.
Diese Woche habe ich Cursor installiert, einen VSCode-ähnlichen IDE mit AI-Unterstützung, und beschlossen, ihn in einem Nebenprojekt auszuprobieren. Ich war ziemlich überrascht.
Wenn ich die gewünschte Funktion beschreibe, erzeugt er in etwa 15 Sekunden Änderungen und zusätzlichen Code, die mich zu rund 90 % ans Ziel bringen. Das Ergebnis prüfe ich sehr gründlich, wie bei einem Code Review für den Code eines sehr juniorigen Entwicklers, und wenn mir der Ansatz nicht gefällt, bitte ich um Korrekturen; dann bekomme ich ein Ergebnis, das näher an dem liegt, was ich möchte.
Nach der Implementierung teste ich das neue Feature manuell und bitte anschließend um die Erstellung automatisierter Testfälle. Auch die Tests prüfe ich auf Korrektheit und Passgenauigkeit; Code, der unwichtige Teile übermäßig testet, werfe ich weg, und der Rest ist ziemlich angemessen.
Die Geschwindigkeit, mit der ich Software und Tests schreibe, ist enorm gestiegen. Da ich weiß, was ich will, und es gut erklären kann, kann die AI schnell Code erstellen, und ich verwende meine Zeit für Prüfung und Korrekturen.
Zum Beispiel wollte ich PostHog-Events in eine App einbauen, habe zuerst an verschiedenen Stellen im Code
# TODO add Posthog eventergänzt und Cursor gebeten, an diesen Stellen Instrumentierungscode hinzuzufügen. Mit etwas Copy-and-paste und vielen kleinen Anpassungen habe ich eine kleine App in weniger als 10 Minuten instrumentiert.Wir sind nicht an dem Punkt, an dem ich AI-Code blind übernehme, sondern an dem Punkt, an dem die AI einen großen Teil der langweiligen Tipparbeit übernimmt.
Im Moment habe ich genug Erfahrung und Verständnis, um zu prüfen, ob AI-Code so funktioniert, wie ich es will. Aber wenn ich ein paar Monate lang einfach nur „akzeptiere“, was die AI sagt, bin ich dann noch ausreichend mit dem Projekt vertraut, um kleine Fehler zu entdecken?
Schlimmer noch: Eine neue Generation von Entwicklern, die mit diesen Tools aufwächst, hat die Expertise, die nötig ist, um AI-generierten Code zu bewerten, vielleicht nie wirklich gelernt oder verinnerlicht.
Ich habe kürzlich etwas ausführlicher zu diesem Thema geschrieben: https://greaterdanorequalto.com/ai-code-generation-as-an-age...
In dem Beitrag geht es um weniger positive Erfahrungen mit Coding-Tools als die hier beschriebenen, und er nimmt komplexere Anwendungsfälle an. Wenn es nicht um tausendfach gesehenen, gängigen Code geht, sondern um den Kern spezifischer Geschäftslogik, brechen diese Tools am häufigsten zusammen – und zwar auf eine Weise, die schwer zu entdecken ist und gravierende Folgen haben kann.
Wenn du so etwas noch nicht erlebt hast, bin ich gespannt, ob es irgendwann passiert; und ehrlich gesagt wüsste ich auch gern, wenn es nicht passiert. Ich habe starke Meinungen, halte aber locker daran fest.
Bei der App, die man gerade baut, ist das vielleicht keine große Sache, aber bei einer Banking-App oder einem medizinischen Gerät könnten die Auswirkungen enorm sein.
Ein Raum voller Menschen und Linotype-/Compugraphic-Geräte wurde durch einen Mac und einen Drucker ersetzt.
Jahrelang habe ich mit Filmkameras gearbeitet, mit Dunkelkammer, Dunkelkammerpersonal und Workflows für Film, Korrekturabzüge und Abzüge. Doch als eine Digitalkamera dazukam, verschwand das alles.
Davor wurden Publikationen mit Bleisatz hergestellt.
Das ist so eine Art „Runter von meinem Rasen“-Veränderung.
https://www.nytimes.com/2016/06/02/insider/1966-2016-the-las...
Ist es wirklich gut, den Großteil der Zeit mit der Prüfung von AI-Ausgaben zu verbringen? Für mich ganz und gar nicht; das ist seelenzermürbend.
„Die Menschen glaubten, sie würden frei werden, wenn sie das Denken den Maschinen überließen. Doch das führte nur dazu, dass andere Menschen mit Maschinen sie versklavten.“ — Dune
Das Deprimierendste ist das Gefühl, dass man keinem Text mehr trauen kann, der in den letzten ungefähr zwei Jahren geschrieben wurde – und auch keinem, der bis zu meinem Tod noch geschrieben werden wird.
Es ist nicht nur so, dass man vermutet, Leute hätten AI benutzt; man weiß mit hoher Wahrscheinlichkeit, dass sie es getan haben, und diese Wahrscheinlichkeit nähert sich 100 % an. Wenn man regelmäßig schreibt und keine AI nutzt, kann man mit der Konkurrenz nicht mithalten und fällt raus.
Der Konsens „Warum sollte man sie denn nicht nutzen?“ wird immer stärker, und es gibt keinen Weg, dem zu entkommen.
Ich kritisiere die Leute, die sie nutzen, deshalb nicht. Sie tun es, weil sie es tun müssen. Mir ist nur erst jetzt klar geworden, dass es mir sehr wichtig war, dass hinter einem Text ein Mensch stand.
Dadurch ist mein Interesse daran, neue Texte zu lesen, völlig verschwunden. In den letzten etwa hundert Jahren wurde bereits so viel geschrieben, dass mir der Lesestoff nicht ausgehen wird, aber ehrlich gesagt ist es trotzdem deprimierend.
Ungefähr damals hörte Google auf, so zu tun, als sei es ein Suchunternehmen, und konzentrierte sich auf sein Kerngeschäft: Werbung. Früher versuchte man zumindest noch, alle möglichen minderwertigen „Wortsammler“ niedrig zu ranken; später kümmerte man sich nicht mehr darum.
AI könnte uns im Gegenteil bessere Werkzeuge zum Ranking von Seiten geben, und die Erkennung von AI-generiertem Content ist auch nicht so schlecht.
Warum gibt es dann kein „neues Google“? Weil Google monopolistische Praktiken betrieben hat, die die Eintrittsbarrieren riesig machen.
Erstens liegen 99 % der Inhalte, die Menschen finden wollen, hinter Login-Barrieren. Das gilt für Facebook, Instagram, Twitter und YouTube. Zweitens implementiert fast jedes CDN standardmäßig eine „Mensch-Verifizierung“. Drittens verlinkt inzwischen niemand mehr auf andere Websites.
Wegen dieser drei Dinge ist ein neues Google praktisch unmöglich. Selbst DuckDuckGo hat aufgegeben und Bing-Ergebnisse abonniert.
Das hat nichts mit AI zu tun, sondern mit Google. AI könnte eher sogar Werkzeuge liefern, um Google etwas entgegenzusetzen.
Für mich hat ein LLM nichts verändert. Ich habe Informationen schon vorher angezweifelt und tue es auch jetzt.
Ich frage mich, warum man glaubt, früher dem Gelesenen vertrauen zu können, und warum es heute schwieriger geworden sein soll, falsche Informationen zu erkennen.
Ich schreibe gerade ein Buch mit über 400 Seiten, und es gibt darin keinen einzigen Buchstaben, den ich nicht selbst erdacht und getippt habe. So etwas wie Stolz auf Handwerkskunst gibt es tatsächlich.
Eigentlich war das schon immer so. Wir haben uns in letzter Zeit stark auf „Vertrauensinstitutionen“ gestützt, aber nie wirklich geprüft, ob diese Institutionen, die sich im Lauf der Zeit verändert haben, dieses Vertrauen noch verdienen.
Selbst wenn man AI ausklammert, scheint die durchschnittliche Qualität heutiger Filme und Bücher deutlich niedriger zu sein als vor 30 bis 40 Jahren. Ich weiß nicht, ob das an der Aufmerksamkeitsspanne und dem Geschmack der Menschen liegt oder daran, dass ihnen Geld, Zeit oder Geduld fehlen, um gute Werke zu konsumieren.
Sicher ist, dass es genug hochwertiges Material gibt, das vor AI, Artikel-Rewrite-Tools und MFA-Sites geschrieben wurde. Es würde mehrere Leben dauern, auch nur einen kleinen Teil dieser gesamten Arbeit zu sichten.
Wenn man das meiste ignoriert, was heutzutage veröffentlicht wird, verpasst man wohl nicht viel.
AI-Schreiben, AI-Code und AI-Kunst sind ziemlich schlecht. Das wissen alle.
Aber man vergisst leicht, wie viele neue Chancen entstehen, wenn etwas 100-mal oder 10.000-mal billiger wird. Selbst wenn es 10-mal schlechter ist, ist es bei 100-mal niedrigeren Kosten immer noch sehr wertvoll.
Der Antrieb, Dinge trotz Qualitätseinbußen immer weiter zu verbilligen, hat unseren hohen Lebensstandard ermöglicht.
Man kann ein Haus von Hand aus schönem Massivholz und mit komplexen Holzverbindungen bauen; ein Handwerkerhaus kann leicht 10-mal besser sein als ein gewöhnliches Haus von heute. Aber was bringt das, wenn es sich fast niemand leisten kann?
Genauso kann sich nicht jeder einen rund um die Uhr verfügbaren mehrsprachigen Privatlehrer, Arbeitsassistenten oder Grammatik-Korrektor leisten.
AI-Kram ist billig, und die Tatsache, dass er billig ist, verändert alles.
Jetzt werden die wirklich guten Dinge von einer endlosen Welle an Kram überdeckt.
Das Fahrrad, das mein Vater vor etwa 35 Jahren fuhr, war robust wie ein Panzer und lief weiter, obwohl es enorm viel Missbrauch aushielt. Die meisten Dinge, die meine Familie in meiner Kindheit besaß, waren auch so.
Fast alles, was man heute kauft, geht innerhalb von ein bis zwei Jahren kaputt, ist von niedriger Qualität und deprimierend zu benutzen. Natürlich ist das so beabsichtigt.
So wie wir uns an billige Haushaltswaren und fade Gebäude gewöhnt haben, werden wir uns auch an miserable Filme und Romane gewöhnen. Wir sind auf diesem Weg schon ziemlich weit.
Falsche Informationen kippen im Wert von positiv zu negativ. Das ist kein Fortschritt zu geringeren Kosten, nicht einmal langsamer Fortschritt, sondern Bewegung in die falsche Richtung.
AI wird als neue Art der Wertschöpfung dargestellt, ist es aber nicht. Der gesamte Wert hier wurde von Menschen ohne AI-Hilfe geschaffen, und die einzige „Innovation“, die AI geliefert hat, besteht darin, den Diebstahl dieses Werts unnachverfolgbar zu machen.
Wenn man die Analogie mit dem von Handwerkern gebauten Haus zu Ende führt, sieht es so aus: Wenn man alle von Handwerkern gebauten Häuser ohne Entschädigung für die heutigen Eigentümer und die Handwerker kostenlos an ein paar Unternehmen übergibt und diese Unternehmen sie dann über AirBnB vermieten, würdest du dich dem nicht widersetzen? Im Kern ist das, was hier vorgeschlagen wird, genau dasselbe.
Computer sollten ursprünglich extrem präzise Maschinen sein. Maschinen, die genau das tun, was man ihnen sagt.
Heute scheint es, als wären Computer damit zufrieden, alles im Zufallsmodus zu verarbeiten.
Inzwischen kann sogar 2+2 zu 5 werden, je nachdem, welches AI-Modell es ist, welcher Tag gerade ist und wie hoch die Temperatur ist.
Wir sind von dem Punkt, an dem wir Berechnungsergebnissen vertraut haben, zu einem Zustand gekommen, in dem wir alles wieder anzweifeln müssen, und das ist ermüdend.
Aus irgendeinem Grund investieren wir enorme Mühe darin, Computer dazu zu bringen, wie Menschen zu denken und zu handeln, obwohl einer der ursprünglichen Gründe für die Erfindung von Computern darin bestand, menschliche Fehler zu vermeiden.
Wenn man AI wie einen Rechner verwendet, der präzise sein muss, liegt die Verantwortung bei der Person, die sie einsetzt.
Wenn man will, sind weiterhin präzise Ausgaben möglich; das ist nicht verschwunden.
Ich spreche nicht von Fuzzy Logic und meine nicht, dass die Eingaben einer Funktion unscharf sind, sondern dass die Anweisung selbst, also die Funktion, unscharf ist.
Die Leute müssen lernen, das passende Werkzeug für die jeweilige Aufgabe zu verwenden. Außerdem kann man LLMs durch Steuerung der
temperaturedeterministischer machen.Was ich an der Welt nach ChatGPT nicht mag, ist, dass echte menschliche Sprache oder handgezeichnete Kunst als AI-generiert eingestuft und sofort verworfen werden kann.
Was, wenn ich auf einer Konferenz sprechen möchte, aber irgendein AI-Triggerwort von jemandem verwende und sofort abgelehnt werde, obwohl ich AI in Wirklichkeit nie angerührt habe?
In der Wissenschaft gab es bereits Fälle, in denen Professoren studentische Essays in ChatGPT eingegeben und gefragt haben: „Hast du das geschrieben?“, und Studierende dann durchfallen ließen, wenn ChatGPT Ja sagte.
Das ist offensichtlich Unsinn. ChatGPT erinnert sich nicht an alles, was es je getan hat, man kann es zu unterschiedlichen Schreibstilen auffordern, und manche Menschen schreiben tatsächlich ziemlich ähnlich wie ChatGPT. Dass es überhaupt einen typischen ChatGPT-Stil gibt, liegt ja genau daran.
Ich habe auch gehört, dass Werke von Künstlern aus Wettbewerben entfernt wurden, weil behauptet wurde, sie seien automatisch erzeugt, selbst wenn es Videos gab, die den Arbeitsprozess Strich für Strich zeigten. Solange AI Kunst auf Grundlage menschlicher Kunst erzeugt, wird es zwangsläufig Menschen geben, die von vornherein Werke schaffen, die so aussehen, als würde AI sie reproduzieren.
AI ist langweilig. Die Ergebnisse sind langweilig und durchschnittlich.
Natürlich ist die wissenschaftliche und technische Leistung beeindruckend. Vor zehn Jahren hätte man selbst die Erzeugung langweiliger Ergebnisse auf diesem Niveau für Science-Fiction gehalten.
Vielleicht ist das Langweilige eher, wie Leute solche mittelmäßigen Ergebnisse wie Magie immer wieder auf Social Media und Landing Pages posten.
Inhalte, die Menschen selbst erstellen, sind ohnehin meist langweilig und durchschnittlich, aber generative AI nimmt ihnen auch noch den letzten Rest Persönlichkeit und fügt einen Hauch von Faulheit hinzu. Nach dem Motto: „Seht euch dieses langweilige Stück an, das ich von AI erstellen ließ, weil ich zu faul war, es selbst zu schreiben.“
Wie in dem Spruch über den Klavier spielenden Hund, bei dem wir irgendwann nicht mehr fragen: „Bist du ein Hund?“, sondern: „Spielst du gut Klavier?“, warte ich darauf, dass heutige generative AI das Uncanny Valley überwindet.
Trotz der Ermüdung sehe ich es positiv: AI kann neue Use Cases ermöglichen, die erste große Veränderung der User Experience seit der Einführung grafischer Benutzeroberflächen werden oder echter magischer Staub sein, der über tatsächlich nützliche Tools gestreut wird.
Auf sehr menschliche Weise wird das Problem übermäßig verallgemeinert und zu einer persönlichen Frage gemacht.
Die Flut langweiliger Formulierungen und allgemeiner Satzpolitur erscheint mir als Ausdruck des utilitaristischen Strebens nach Profit, das diese Modelle bis zu ihrem heutigen Stand gebracht hat.
Man darf nicht vergessen, dass dieses ganze Spiel von der Produktion von „mehr“ und nicht von „besser“ angetrieben wird.
Wir alle wollen vermutlich Werkzeuge mit niedriger Emission und hoher Ausdruckskraft, aber Unternehmen werden nicht dazu angeregt, genau solche zu bauen.
Mich ermüdet diese Incentive-Struktur. Wenn man Systemprobleme auf das Versagen der Menschen schiebt, die die Tools nutzen, ignoriert man die grundlegenden Motive und konzentriert sich nur auf die Folgen statt auf die Ursachen, und auch das fühlt sich altmodisch an.
Was ich als Kind beim Anschauen von Star Trek seltsam fand, war, dass es kein Fernsehen gab.
Selbst wenn das Holodeck eine viel bessere Erfahrung bietet, dachte ich, manchmal wolle man doch einfach einen Film ansehen, statt in den Film hineinzugehen. Ich fragte mich, ob es in dieser Zukunft keine Werke wie No Country for Old Men, keine Comedy wie Monty Python und nicht einmal Live-Sport oder Nachrichten gab.
Jetzt verstehe ich, warum die Crew der Enterprise ständig Live-Aufführungen von Shakespeare besucht, selbst Instrumente spielt und malt: Elektronische Medien sind so voll mit AI-Müll, dass es nichts Sehenswertes mehr gibt, nur endlosen Bodensatz.
Ich habe sie immer eher als Bild einer weitgehend idealisierten Gesellschaft gesehen oder als Menschen, die fast Workaholics sind und ihre Arbeit aufrichtig wie Freizeit genießen.
Gewöhnliche Menschen auf den wichtigen Planeten haben vermutlich deutlich zufälligere Unterhaltung konsumiert.
Sobald sie merken, dass sie zu Hause ein Selfie machen und es per AI so aussehen lassen können, als wären sie an einem anderen Ort.
„Das bin ich vor der Freiheitsstatue.“
„Oh, bist du in New York?“
„Nein, ist ein Snap-Filter.“
Irgendwie müsste der Wert von Selfies dadurch doch sinken, oder?