1 Punkte von GN⁺ 3 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Drew DeVault hat Vim Classic, einen Fork zur langfristigen Wartung von Vim 8.x, gestartet und will damit einen stabilen Editor schaffen, der ohne LLM-unterstützten Code von Menschen gepflegt wird
  • Die Ablehnung generativer KI ist für ihn keine reine Geschmacksfrage, sondern eine praktische, philosophische, ethische und politische Angelegenheit; insbesondere erschwere sie die Prüfung von Copyright-Herkunft und die Verantwortung von FOSS-Maintainern
  • Der Kern von Software Engineering bestehe nicht darin, Code schnell zu schreiben, sondern zu beurteilen, was gebaut werden soll; LLMs schwächten ein sorgfältiges Problemverständnis und Planung, kritisiert er
  • Wegen Umweltkosten, steigenden Strompreisen rund um Rechenzentren, Belastungen der Lieferkette sowie Nutzung für Militär- und Polizeizwecke träfen KI-Schäden weniger privilegierte Menschen stärker
  • Auch wenn kein branchenweiter Konsens zur Ablehnung von KI erkennbar ist, will DeVault mit dem Vim-Fork, Schreiben und Community-Arbeit eine menschenzentrierte Softwareentwicklung fortführen

Vim Classic und Wartung ohne KI

  • Drew DeVault hat den Texteditor Vim unter dem Namen Vim Classic geforkt
  • Die Vim-Classic-Website stellt das Projekt als langfristig gepflegten Fork von Vim 8.x vor und erklärt, der „stabile und verlässliche Editor“ werde „vollständig von Menschen gewartet“
  • Die zentrale Identität des Projekts liegt darin, keinen LLM-unterstützten Code zu verwenden
  • DeVault scherzt zwar, er habe nicht vor, das Beenden von Vim einfacher zu machen, sieht die Entscheidung gegen generative KI-Tools aber als praktische ebenso wie philosophische, ethische und politische Frage

Praktische Gründe gegen LLM-Beiträge

  • Der erste Grund, warum DeVault keine LLM-unterstützten Beiträge annimmt, ist die mögliche Zunahme schlechter Pull Requests
  • Das wichtigere praktische Problem sind Copyright und Herkunftsprüfung
    • FOSS-Maintainer, die öffentliche Beiträge annehmen, müssen die Provenance der Software prüfen
    • Wenn ein LLM beteiligt ist, werde diese Prüfung aus seiner Sicht „völlig unmöglich“
  • Er kritisiert, dass die Nutzung von LLMs mit der Zeit zu Deskilling führe, also die Fähigkeiten der Nutzer schwäche
  • DeVault sagt, er wolle nicht den Weg einschlagen, durch LLM-Nutzung stumpfer und weniger kompetent zu werden

Software Engineering und Handwerkskunst

  • Für DeVault stellt KI-Nutzung die technische Meisterschaft im Software Engineering infrage
  • Der schwierigste Teil von Software besteht weniger im Schreiben von Code als darin, zu wissen, welchen Code man schreiben sollte
  • Er kritisiert, dass die Branche seit Langem von einer Kultur der Abkürzungen und schnellen Antworten angezogen werde
    • Er beschreibt das als „sich schnell bewegen und Komplexität einführen“
    • Diese Haltung schließe Exzellenz aus und bringe die Kultur der Micro-Dependencies samt ihrer Probleme hervor
  • DeVault bevorzugt ein Vorgehen, das Problemverständnis, sorgfältiges Denken, Reflexion, Planung und Umsetzung innerhalb gegebener Einschränkungen umfasst
  • LLMs seien das extremste Beispiel für die Ablehnung dieser ingenieurmäßigen Disziplin und ermöglichten es, schlechte Software schneller zu erstellen

Ethische und ökologische Kosten von KI

  • DeVault sieht die Umweltauswirkungen generativer KI als sehr groß an; die Branche treibe unmögliches Wachstum voran und vergrößere dadurch die Schäden
  • Damit KI-Tools funktionieren, seien enorme Mengen knapper Ressourcen nötig; als Beispiel erwähnt er sogar den Greenland ice sheet
  • Die Schäden konzentrierten sich besonders auf weniger privilegierte Menschen
    • Arme Anwohner in der Nähe von Rechenzentren könnten sprunghaft steigende Strompreise schwer tragen
    • Da die Nachfrage von KI-Rechenzentren günstige Komponenten aufsauge, gehe der im vergangenen Jahrzehnt normal gewordene Zugang zu günstigen Smartphones zu Ende
  • DeVault behauptet, KI-Tools und -Unternehmen lieferten Informationen für Entscheidungen, bei denen Menschen in Gaza, Iran und anderswo getötet würden
  • Er erwähnt auch den Verdacht, Claude sei an einem Schulbombardement im Februar beteiligt gewesen, bei dem 120 iranische Kinder starben

KI als politisches Werkzeug

  • DeVault bezeichnet generative KI als Werkzeug der Unterdrücker
  • Die meisten Software Engineers gehörten zur Arbeiterklasse, die von Löhnen und nicht von Dividenden lebt; generative KI laufe ihren Interessen zuwider
  • Er kritisiert, KI erleichtere die Massenproduktion faschistischer Propaganda und werde auch in expliziten Anwendungen für faschistische Zwecke eingesetzt
  • Palantir und Anthropic seien wichtig dafür, dass Faschismus gedeihen könne, indem sie Organisationen wie ICE und IDF unterstützten
  • Peter Thiel und seine Mitstreiter bezeichnet er als offen antidemokratische Autoritäre

Propaganda und gesellschaftliche Neuordnung rund um KI

  • DeVault sieht KI als eines der bisher entwickelten Mittel zur Verbreitung von Propaganda
  • Er kritisiert, KI liefere Überzeugungsarbeit auf hochgradig personalisierte und schmeichelnde Weise
  • Die Weltwirtschaft sei rund um KI neu organisiert worden, und es sei schwer, personalisierter Propaganda zu entkommen
  • KI treibe Engagement-Hacking auf die Spitze und nutze in großem Maßstab und probabilistisch Methoden, die jenen ähnelten, mit denen kontrollierende Sekten ihre Mitglieder programmieren

Moralischer Zusammenbruch der Tech-Branche und der Fall Uber

  • DeVault sieht westliche Gesellschaften schon seit Langem in einem moralischen Zusammenbruch
  • Als Probleme nennt er die Externalitäten des Lebens, den Verlust von Handwerkskunst und Fürsorge, die Kommerzialisierung von Kultur, Innenleben und moralischem Zweck sowie die Exzesse einer „höflichen“ Gesellschaft auf Kosten armer Menschen
  • Auch in der früheren Tech-Branche habe es große moralische Fehlleistungen gegeben, doch im Vergleich zur heutigen Lage seien sie noch handhabbar gewesen
    • Als Beispiel nennt er, dass „Pull down to refresh“ in Social-Media-Apps so gestaltet wurde, dass es das Ziehen am Hebel eines Spielautomaten nachahmt
    • Bei der Verwicklung von Facebook in den Rohingya genocide habe es einen allgemeinen Konsens gegeben, dass dies ein groteskes moralisches Versagen von Facebook war
  • Bei KI sehe er heute unter Kolleginnen und Kollegen in der Tech-Branche keinen solchen Konsens
  • Uber wird als Beispiel für das Überschreiten einer wichtigen Grenze angeführt
    • Vorsätzliche Gesetzesverstöße wurden zur zentralen Prämisse des Geschäftsmodells gemacht
    • Das Unternehmen erschütterte den Arbeitsmarkt und verbrannte Bargeld, um ein Monopol aufzubauen, bevor die Gesetze aufholen konnten
    • Die Gesetze holten letztlich nicht auf, und diese Vorgehensweise sei zur Norm für Geschäftsmodelle in der Tech-Branche geworden, behauptet er
  • DeVault sagt, er sei kein Fan von geistigem Eigentum, sehe bei KI aber, dass dasselbe geschehe

Community und Handeln in der Verzweiflung

  • DeVault sagt, es sei schlecht für seine psychische Gesundheit, zu sehen, wie Programmierer und Kreative in seinem Umfeld KI annähmen
  • Gleichzeitig finde er Trost und Momente der Hoffnung, indem er mit gleichgesinnten Freunden eine Community aufbaue
  • Sie hielten an einem gemeinsamen Verständnis der KI-Problematik fest und bauten gemeinsam Software und Gemeinschaften auf die Weise, die sie für richtig hielten
  • Er fühle sich im Technologiebereich weiterhin einsam und machtlos, sagt aber, dass Verzweiflung ihn zum Handeln bringe
  • Der Vim-Fork, Blogbeiträge und Interviewantworten seien allesamt Handlungen, um die Situation Stück für Stück voranzubringen

Soziale Ökologie und Degrowth

  • Als politische Strömungen, die sich mit diesen Fragen befassen, nennt DeVault Social Ecology und Degrowth
  • Social Ecology wird als Gedankengut von Murray Bookchin vorgestellt
  • Degrowth werde oft fälschlich als eine Art linkes „retvrn“ dargestellt, bedeute aber tatsächlich keinen massiven Rückschritt der materiellen Bedingungen
  • Degrowth sei eher eine Aufforderung, kapitalistische Denk- und Lebensweisen neu zu überdenken
  • DeVault meint, wir müssten soziale, ökologische und politische Lebensweisen neu imaginieren; KI helfe dabei nicht

1 Kommentare

 
GN⁺ 3 시간 전
Meinungen auf Lobste.rs
  • Das erinnert mich an das Gefühl, das ich hatte, als ich früher hörte, „Pull-to-refresh“ sei in Social-Media-Apps als bewusstes Designziel eingeführt worden, um das Erlebnis nachzubilden, an einem Spielautomatenhebel zu ziehen, und um eine Schwäche der menschlichen Wahrnehmung auszunutzen, die Spielsucht erzeugt.
    Aber Loren Brichter erfand Pull-to-refresh, und er war der alleinige Entwickler von Tweetie, einem Drittanbieter-Twitter-Client. Die obige Behauptung wurde wie von einem LLM als Tatsache vorgetragen, war aber nicht die tatsächliche Motivation; es war durchdachtes UI-Design.
    „Warum sollten Nutzer aufhören zu scrollen, den Finger abheben und einen Button drücken müssen? Können sie nicht einfach die Geste fortsetzen, die sie ohnehin schon ausführen? Wenn man etwas Neueres sehen will, scrollt man nach oben. Also haben wir das Scrollen selbst zur Geste gemacht.“
    https://web.archive.org/web/20110518203737/…

    • „Aber es macht süchtig. Pull-to-refresh macht süchtig. Twitter macht auch süchtig. Das sind keine guten Dinge. Als ich es gebaut habe, war ich nicht reif genug, um über solche Dinge nachzudenken.“ — Loren Brichter
      https://theguardian.com/technology/2017/…
  • Hier redet eigentlich niemand über vim-classic selbst und seine Vorteile.
    Ich habe es zuerst selbst ausprobiert und war neugierig, was man gegenüber Vim 9 verliert, aber es war nicht viel. Ein paar schnelle Korrekturen und Workarounds an einigen Plugins, und es war sofort nutzbar.
    Überraschend war, dass es bei Plugins, externen Aufrufen und Aufgaben wie fzf durchweg spürbar schneller wurde. Es fühlte sich so viel schneller an, dass ich keinen Benchmark brauchte; die „zufälligen“ Verzögerungen zwischen Aktionen nahmen ab, und die TUI-Bewegungen waren praktisch nicht mehr blockiert.
    Danach habe ich alle anderen Versionen gelöscht und nur vim-classic behalten; sehr empfehlenswert.

  • Es ist lustig, dass Drew das sagt, denn ausgerechnet er empfiehlt Leuten, bei Bedarf Hash-Maps selbst zu implementieren.
    Das wirkt nicht wie ein Weg zu Exzellenz. Überall ungeprüfte und nicht sorgfältig geschriebene Hash-Tabellen zu verbreiten, kommt eher „schnell vorangehen und Komplexität einführen“ nahe.
    Ich persönlich hätte lieber, dass Fachleute mit so viel sorgfältiger Analyse, wie sie leisten können, einen hervorragenden Hash-Tabellen-Algorithmus schreiben und alle von ihrer fortlaufenden Expertise profitieren. Eine Welt, in der Systemprogrammierer jedes Mal ihre eigene Hash-Tabelle bauen müssen, wäre deutlich weniger gut als die heutige, in der immer größere Teile der Systemsoftware in Rust geschrieben werden.
    Und näher am eigentlichen Kern des Artikels: Es gibt kaum Diskussion darüber, wie man LLMs nutzen kann, um ein höheres Maß an Exzellenz zu erreichen als zuvor, wie es eine kleine, aber bedeutende Minderheit von uns praktiziert.

    • Ich sehe nicht, was Hares Haltung zu Generics mit einem Artikel über die Schäden von LLMs zu tun hat. Man kann Hares Designentscheidungen ablehnen, aber das entkräftet nicht seinen Punkt, dass eines der häufigsten Verkaufsargumente für Coding Agents darin besteht, Menschen schneller und damit schlampiger Code schreiben zu lassen.
      Reaktionen auf solche Artikel scheinen fast immer den aufgeworfenen ethischen Fragen auszuweichen. LLMs wurden unethisch trainiert, beschleunigen den Klimawandel massiv und stehen ausdrücklich mit dem Aufstieg des Faschismus in Verbindung. Schon diese Punkte wiegen buchstäblich jeden möglichen Vorteil auf, den LLMs bringen könnten.
      Unternehmen wie Anthropic Geld zu geben, unterstützt direkt, was sie tun. Man kann in Debatten darüber abrutschen, ob Einzelpersonen für das Handeln solcher Unternehmen verantwortlich sind oder ob ethischer Konsum im Kapitalismus unmöglich ist, und am Ende läuft es auf persönliche Ethik hinaus; ich denke, da gibt es Diskussionsspielraum. Aber diese Fragen werden viel zu oft beiseitegeschoben, und stattdessen wird nur darüber gesprochen, mit LLMs „höhere Exzellenz“ zu erreichen. Daher habe ich nicht den Eindruck, dass die im Interview angesprochenen Punkte substanziell widerlegt wurden.
    • Ich habe nicht erwartet, dass Drew LLMs verteidigt. Aber ich dachte, es gäbe zumindest etwas Substanzielles zum Programmieren; im Interview war davon fast nichts zu finden. Ich war nicht einmal zu 100 % sicher, ob das Thema zu Lobsters passt.
      Es gab einen Absatz über praktische Gründe, Vim zu forken, aber nicht viele Belege; der Rest war größtenteils eine politische und soziale Diskussion darüber, dass KI unwiderruflich ethisch kontaminiert sei.
      Da ich der Überzeugung folge, dass das Elektron an sich weder gut noch böse ist, werde ich mit Drew zwangsläufig irgendwo uneinig sein. Ich hätte mir aber gewünscht, dass er Belege vorlegt, die er direkt sehen kann, etwa die Bug-Report-Rate von Vim und Vim Classic in den letzten drei Monaten.
    • Es gibt sicher einen Punkt, an dem man zu viele Abhängigkeiten hat. Aber es gibt auch zu wenige Abhängigkeiten, und ich denke, Drew plädiert für diese Seite.
      Echte Exzellenz entsteht daraus, zu verstehen, dass die meisten schwierigen Dinge eine Spannung zwischen konkurrierenden Interessen enthalten, darin einen produktiven Weg zu finden und bereit zu sein, die eigene Sicht auf das optimale Gleichgewicht zu korrigieren, wenn neue Daten hinzukommen.
      Sie entsteht ganz sicher nicht daraus, Strohmänner wie „Mikro-Abhängigkeitskultur“ oder „die groteskeste Ablehnung dieses Feldes“ aufzubauen und dann mühelos umzustoßen.
    • An den Satz „Drew empfiehlt Leuten, bei Bedarf Hash-Maps selbst zu implementieren“ müsste fairerweise am Ende die Einschränkung beim Schreiben von Hare-Code angehängt werden.
      Die Vorstellung, man könne mit LLMs ein höheres Maß an Exzellenz erreichen, kann, solange diese Gruppe zahlenmäßig überwältigend klein ist, unabhängig davon, wie gut andere Arten von LLM-Nutzern sind, enormen Schaden verursachen. Deshalb ist es sehr traurig, aber realistisch betrachtet ist diese Minderheit beim diskutierten Thema nicht relevant.
  • Ich finde es großartig, Vim zu forken und damit zu tun, was man will. Ich nutze Vim täglich, mag es und habe nicht vor zu wechseln.
    Aus der Perspektive eines heutigen Vim 9.2-Nutzers ist mir aber nicht klar, warum ich zurückgehen sollte, abgesehen von „LLMs haben ein riesiges ideologisches Problem“.
    Vim9 script war ebenfalls eine ziemlich gute Verbesserung, und unter den Dutzenden anderen neuen Funktionen gibt es einige, die ich häufig nutze: https://vimhelp.org/version9.txt.html#new-9
    Die Unterstützung für :profile stop, um das Profiling von Vim-Skripten anzuhalten, und :profile dump, um Berichte in eine Datei zu schreiben, ist ziemlich großartig. Auch bei den Änderungen an der Rechtschreibprüfung gab es sehr gute Dinge.
    Abgesehen von der ideologischen Haltung gegen LLMs ist nicht klar, warum ich das Tool, von dem mein Lebensunterhalt abhängt, nun zu einem deutlich kleineren Team für die Wartung verlagern sollte.

  • Bei der Stelle über „Menschen, die sich das Wunder weit verbreiteter günstiger Handys leisten können, das die Branche in den letzten zehn Jahren ermöglicht und normalisiert hat, dessen Ära aber zu Ende geht, weil die Nachfrage nach günstigen Bauteilen vollständig von KI-Rechenzentren absorbiert wird“, frage ich mich, ob sich der Pfad sinkender Stückkosten von ENIAC zu günstigen Handys nicht auch in der KI-Lieferkette wiederholen könnte.
    Wohl kaum. Denn nach Drews Thought Leadership dürfte selbst grundlegende Volkswirtschaftslehre „zu Ende gehen“.