John Carmacks Sicht auf den Konflikt zwischen Open Source und der Anti-KI-Bewegung

• Er bewertet es positiv, dass Open-Source-Code für das KI-Training genutzt wird, und beschreibt dies als einen „Prozess, in dem der Wert eines Geschenks an die Welt verstärkt wird“
• Manche sehen Open Source als Mittel für gesellschaftlichen Wandel oder zum Aufbau von Reputation, doch seiner Ansicht nach ist das Wesen davon ein frei geteiltes „Schenken“
• Andere Entwickler weisen dagegen auf Probleme hin wie Strukturen, in denen Großunternehmen nichts zurückgeben, oder zunehmende Erschöpfung bei Beitragenden
• Mehrere Beteiligte diskutieren aus unterschiedlichen Perspektiven über die Beziehung zwischen KI und Open Source, die Rolle der GPL und Veränderungen im Ökosystem durch KI
• Insgesamt wird die Verbindung von Open Source und KI als eine Entwicklung wahrgenommen, die den Zugang zur Entwicklung erleichtert und die Verbreitung kreativer Arbeit beschleunigt

---

Aussagen von John Carmack und zentrale Argumente

• Carmack bezeichnet die von ihm veröffentlichten mehr als eine Million Zeilen Open-Source-Code als „Geschenk an die Welt“
  • Die GPL sei zwar ein Mittel gewesen, um Ausbeutung durch Wettbewerber zu verhindern, im Kern aber ein Instrument, um das Teilen zu ermöglichen
  • Er betont, dass der Wert des Geschenks wächst, wenn KI aus diesem Code lernt
• Er argumentiert, dass „KI-Training nicht mit dem Geist von Open Source kollidiert“
  • Das Ziel von Open Source sei, anderen zu ermöglichen, zu lernen und Verbesserungen vorzunehmen, und KI-Training sei eine Fortsetzung davon

Reaktionen der Community und Kontroverse

• Einige Entwickler kritisieren, dass „Großunternehmen Geschenke annehmen und nichts zurückgeben“
  • Carmack entgegnet darauf, dass andere das Geschenk nicht weniger erhalten, nur weil Unternehmen es ebenfalls bekommen
  • Er äußert Dankbarkeit für den Open-Source-Code von Meta zu PyTorch
• Andere Teilnehmende analysieren, dass „die GPL kein Geschenk, sondern ein Schutzmechanismus durch Einschränkungen ist“ und dass hier der Schnittpunkt zwischen Open Source und der Anti-KI-Bewegung liege
• Ein Nutzer weist darauf hin, dass KI erzeugte sinnlose PRs (Pull Requests) zunehmen und damit die Last für Maintainer steigt

Zusammenspiel von Open Source und KI

• In mehreren Kommentaren wird KI als Faktor bewertet, der zum Wachstum des Open-Source-Ökosystems beiträgt
  • Laut GitHub-Statistiken sind innerhalb eines Jahres 36 Millionen Entwickler neu hinzugekommen; KI habe dieses Wachstum beschleunigt
  • Es entstehe eine zirkuläre Struktur, in der Open-Source-Code KI trainiert und KI wiederum die Code-Produktivität neuer Entwickler steigert
• Manche erklären entgegen der Sorge, „KI werde Open Source töten“, dass sie gerade dabei seien, eine mit KI entwickelte Open-Source-Veröffentlichung vorzubereiten

Ethische und gesellschaftliche Fragen

• Es wird kritisiert: Wenn KI-Training Massenarbeitslosigkeit verursache, sei das dann wirklich noch ein Geschenk?
• Eine andere Position weist darauf hin, dass KI-Unternehmen die Hardwarepreise erhöhen und monopolartige Strukturen verstärken
  • Es gibt auch die Meinung, dies sei akzeptabel, wenn Modelle nach einer gewissen Zeit als Open Source veröffentlicht werden
• Einige fordern mehr Sicherheit mit dem Hinweis, dass KI auch für die Entwicklung destruktiver Technologien (z. B. biologischer Waffen) missbraucht werden könne

Unterschiede in der Perspektive von Kreativen und Entwicklern

• Während Softwareentwickler gegenüber dem Einsatz von KI eher positiv eingestellt seien, reagiere die visuelle Kunstszene häufig negativ wegen Bedenken hinsichtlich Urheberrechtsverletzungen
• Ein Entwickler erwähnt, er habe ein Tool zum Generieren von Godot-Spielen mit KI als Open Source veröffentlicht, doch die Reaktion der Community sei kühl gewesen
  • Gleichzeitig betont er, dass dieses Projekt nur dank der Open-Source-Struktur von Godot möglich gewesen sei
• Manche Kreative sagen, es störe sie nicht, wenn ihre Musik für KI-Training genutzt werde, und sehen den Kreislauf von Einfluss und Inspiration als Wesen kreativer Arbeit

Die Zukunft von Open Source und die Rolle der KI

• Es taucht der Vorschlag auf, dass für einen ethisch vertretbaren KI-Einsatz Modelle nötig seien, die nur mit Open-Source-Code trainiert wurden
• Eine andere Ansicht warnt, dass durch KI-Vermittlung die Sichtbarkeit von Beiträgen und die Motivation durch Anerkennung oder Belohnung für Entwickler geschwächt werden könnten
• Mehrere Teilnehmende bewerten, dass Open Source und KI im Kern übereinstimmen, weil beide Werkzeuge sind, die mehr Menschen befähigen, etwas zu schaffen

[GN⁺]

Hacker-News-Kommentare

• Früher wurde in der Open-Source-Szene weit weniger über Monetarisierung gesprochen als heute.
  Ich habe einmal auf Reddit einen Fehler in Google Maps korrigiert und wurde dafür angegriffen, dass ich „umsonst für einen Großkonzern arbeite“.
  Wenn etwas unter einer offenen Lizenz veröffentlicht wurde, dann müssen deren Bedingungen klar eingehalten werden, und es ist unfair, später zu sagen: „Eigentlich war das doch nicht so gemeint.“
  Der Kern freier Softwarelizenzen ist, dass jeder davon profitieren kann, dabei aber bestimmte Pflichten übernimmt. Ich finde, die Menschen hinter Lizenzen wie GPL oder MIT waren wirklich großartig.

  • Die antiunternehmerische Stimmung auf Reddit ist nichts Neues. Gleichzeitig zeigt Reddit gegenüber sich selbst oder Marken, die man mag, eine blinde Nachsicht.
    Reddit-Nutzer bleiben oft bei symbolischer Rebellion statt bei echtem Handeln. Deshalb wird man manchmal gerade dann kritisiert, wenn man etwas Produktives tut.
  • Ich habe noch nie jemanden dafür kritisiert, gratis für Großunternehmen zu arbeiten, aber ich kann dieses Gefühl verstehen.
    Das Problem ist, dass die Beziehung einseitig ist. Große Tech-Unternehmen wollen ihre Gewinne maximieren, statt Communities zu unterstützen.
    Dass Google dank Freiwilliger noch einmal 10 Milliarden Dollar mehr verdient, macht die Welt aus meiner Sicht nicht besser.
  • Ich glaube, dieser kulturelle Wandel liegt schlicht an der wirtschaftlichen Ungleichheit.
    Von 1977 bis 2007 waren die USA eine vergleichsweise gute Zeit für Lohnabhängige, und in dieser Phase ist F/OSS gewachsen.
    Damals war es normal, Freizeit für kostenlose Beiträge einzusetzen, heute ist die Existenz unsicherer und dieser Spielraum verschwunden.
  • MIT- und BSD-Lizenzen stammen aus einer akademischen Tradition.
    Forschende bekommen ein Gehalt, aber der Wert ihrer Ergebnisse wird nur indirekt vergütet. Deshalb ist es wichtig, dass andere diesen Wert anerkennen.
  • Open Source ist so etwas wie ein Gesellschaftsvertrag gegenseitiger Zusammenarbeit.
    Es ist eine Struktur, in der man beiträgt und Vorteile teilt, aber Großunternehmen verwandeln das in eine Ausbeutungsstruktur.
    Selbst wenn man Korrekturen für Google Maps einreicht, bekommt man keine Gegenleistung, sondern nur mehr Werbung und Tracking. Deshalb gibt es keinen Grund, kostenlos für Großunternehmen zu arbeiten.

• Alte Spiele als Open Source zu veröffentlichen, ist ein Sonderfall.
  Wer wirtschaftlich abgesichert ist, entwickelt eine andere Haltung zu Beiträgen, und daraus entsteht als Nebenwirkung eine gewisse Gleichgültigkeit gegenüber ungleicher Vermögensverteilung.

• Viele Menschen empfinden es als problematisch, dass KI mit Open-Source-Code trainiert wird und daraus Gewinne erzielt werden.
  Carmack sagt zwar, er habe seinen Code wie ein Geschenk veröffentlicht, aber Unternehmen wie Anthropic oder OpenAI ziehen daraus Profit.
  Selbst wenn die ursprünglichen Autoren kein Geld wollten, ist es merkwürdig, einfach zu ignorieren, dass andere damit Geld verdienen.

  • Ich betrachte die Open-Source-Projekte, die ich erstellt habe, als bedingungsloses Geschenk.
    Es ist mir egal, wenn jemand damit Gewinn macht. Wenn die Welt dadurch auch nur ein wenig besser wird, reicht mir das.
    Im Idealfall kann man sogar in einem bezahlten Projekt zu Open Source beitragen.
  • Ich verstehe aber nicht, warum es problematischer sein soll, mit KI-Training Geld zu verdienen, als Linux einfach auf einem Server einzusetzen.
    Auch die GPL verhindert nicht, dass Unternehmen Software ohne Patches verwenden.
  • Ein fertiges Produkt zu veröffentlichen und dauerhafte Wartung zu leisten, sind zwei völlig verschiedene Dinge.
    Dass Carmack beides gleichsetzt, ist nicht zutreffend.
  • Das Wesen von Open Source bestand von Anfang an darin, den Gewinn anderer zuzulassen.
    Auch deshalb regt sich Linus nicht darüber auf, dass Unternehmen mit Linux Geld verdienen.
  • Letztlich ist das ein Problem der Trennung von Kapital und Arbeit.
    Ich selbst trage zu Open Source bei und verdiene gleichzeitig mit KI Geld, daher habe ich dazu gemischte Gefühle.

• Während KI Arbeit ersetzt, verstärkt sich der technologische Optimismus.
  Leute wie Carmack übersehen die gesellschaftlichen Auswirkungen von KI.
  Schon wenn nur ein Teil der White-Collar-Jobs verschwindet, kann die Wirtschaft kollabieren, doch wohlhabende Menschen spüren diesen Schock nicht unmittelbar.

  • Tatsächlich waren Softwareingenieure von Anfang an Akteure der Automatisierung.
    Dass früher Telefonistinnen, Schreibkräfte und Rechner verschwanden, gehört in denselben Zusammenhang.
  • Über 25 Jahre hinweg hat sich die Vorstellung verbreitet, „Gewerkschaften seien für unfähige Leute“, und nun erleben wir die Folgen.
  • Es gibt kaum erfolgreiche Beispiele von Arbeiterbewegungen, die Automatisierung langfristig aufgehalten haben.
    Man kann sie allenfalls verzögern, aber am Ende schreitet die Technik voran.
  • Mich würde interessieren, auf welche historischen Beispiele du dich beziehst.
  • Wenn Entwickler massenhaft ihre Jobs verlieren, ist die Gefahr einer Radikalisierung groß.
    Wenn die Lebensgrundlage wegbricht, gewinnen Extremismen an Boden, und politische Gewalt wie Ausländerfeindlichkeit könnte folgen.

• Carmack ist in Wahrheit kein OSS-Aktivist mit Fokus auf Wartung.
  Er hat fertigen Code veröffentlicht, aber keine Community über lange Zeit betreut.
  Das ist natürlich trotzdem großartig, aber etwas anderes als traditionelles Open Source.

  • Aber allein die Veröffentlichung des Codes erfüllt bereits die Definition von Open Source.
    Beteiligung an einer Community ist keine notwendige Bedingung.
  • Ich denke ähnlich wie Carmack. Auch die Projekte, die ich pflege, sind letztlich Geschenke.
    Ich habe jederzeit die Freiheit, damit aufzuhören.
  • Viele Open-Source-Projekte entstehen umgekehrt als Teil einer Verkaufsstrategie.
    Wie beim „Open-Core“-Modell wird etwas kostenlos verteilt und zusätzliche Services werden kostenpflichtig gemacht.
    In solchen Fällen kann KI-Training wie schlichte Aneignung wirken.
  • Carmack musste sich wegen seines finanziellen Spielraums vermutlich nie mit Dingen wie Dual Licensing beschäftigen.
    Außerdem hat auch er ein KI-Unternehmen gegründet.
  • Bitter ist, dass man Code veröffentlicht und dann trotzdem hören muss, das sei „kein echtes OSS“.

• Ich glaube, Carmacks Position wird von den Geschäftsinteressen seines KI-Unternehmens beeinflusst.
  Viele KI-Unternehmen profitieren nur von den Beiträgen der Open-Source-Welt, ohne etwas zurückzugeben.
  Copyleft-Lizenzen sind ein Mechanismus zum Schutz des Gemeinguts, aber KI verwischt diese Grenze.
  Die Lizenzen müssten an die Zeit angepasst und aktualisiert werden.

  • Nur zur Einordnung: Carmacks KI-Unternehmen arbeitet nicht direkt mit LLMs.
  • Er ist eine stark technikzentrierte Person mit ausgeprägt liberaler Prägung.

• Carmack kann sich Großzügigkeit leisten, weil er bereits finanzielle Freiheit erreicht hat.
  Wer nie wieder arbeiten muss, kann seinen Code leicht verschenken.
  Trotzdem habe ich das Gefühl, dass es ihm an Empathie fehlt.

  • Statt persönlicher Angriffe sollte man mit Logik widersprechen.
    Ob jemand reich ist oder nicht, ist nicht der Kernpunkt.
  • Die GPL ist nicht zum Geldverdienen gedacht, sondern zur Sicherung der Freiheit der Nutzer.
    Wer Geld verdienen will, sollte eine andere Lizenz wählen.
  • Mit Argumenten zu überzeugen ist wirksamer als mit Vorwürfen.
  • Wenn man Geld braucht, sollte man von Anfang an proprietäre Software daraus machen.
  • Der Altruismus von Open Source ist kein Privileg einer bestimmten Generation.
    Die Ablehnung von KI kommt oft eher von sinkender technischer Qualität oder Umweltproblemen.

• Wenn KI aus GPL-Code lernt und daraus geschlossenen Code erzeugt, bedroht das das FOSS-Ökosystem.

  • Tatsächlich waren GPL-Verstöße schon vor KI häufig.
    KI kann sogar nützlich sein, um unnötige Abstraktionen zu entfernen. Manchmal fühlt es sich befreiend an, wenn etwas durch ein einfaches Skript ersetzt werden kann.
  • Es passiert bereits, dass KI Code umwäscht (rewrite) und in eine andere Struktur überführt.
  • Wenn derselbe Code unverändert kopiert wird, gilt das Urheberrecht, aber wenn er sich inhaltlich deutlich unterscheidet, dann nicht.
    Fälle, in denen KI das Urheberrecht missachtet, sollten als Fehlverhalten behandelt werden.
  • KI wird im Kern als Werkzeug zur Wäsche geistigen Eigentums verwendet.
    Unternehmen jubeln darüber, aber Kreative empfinden es als Bedrohung.

• Die meisten FOSS-Projekte sind kein vollkommenes Geschenk, sondern enthalten eine Vergütungsstruktur.
  MIT verlangt Namensnennung, GPL verlangt Namensnennung und die Pflicht zum Teilen.
  Das Problem bei KI ist, dass sie diese Namensnennung entfernt und den Code reproduziert.

  • Vielleicht denkt Carmack heute sogar, er hätte lieber eine noch freizügigere Lizenz wählen sollen.
  • Ich persönlich bevorzuge eher eine vollständig freie Lizenz, die nicht einmal Namensnennung verlangt.
    Sie sollte allerdings mit der GPL kompatibel bleiben.
  • Manche sehen das auch so: „Warum sollte das ein Problem sein, man kann es doch weiterhin benutzen?“

• Ich bin nicht gegen KI, aber eine Änderung der Lizenz durch KI-Umschreiben missachtet menschliche Arbeit.
  Bestehenden Code samt Tests oder APIs anzulernen und dann zu behaupten, „die KI hat das neu geschrieben“, kommt Diebstahl ziemlich nahe.
  Wenn solche Praktiken erlaubt werden, könnte das zum Ende des geistigen Eigentums führen.
  Gerade in einer Zeit, in der KI menschliche Arbeit unterstützt, muss die Eigentümerschaft an Werken klar definiert sein.

  • Aber wenn statt „KI“ einfach „ein Entwicklerteam“ dasselbe tun würde, wäre es dann immer noch Diebstahl?
    APIs selbst urheberrechtlich schützen zu wollen, halte ich für eine gefährliche Idee.