KI nicht aufdrängen
(gpt3experiments.substack.com)- In letzter Zeit wird KI-Technologie in Bereichen wie Suche, Betriebssystem und Kreativwerkzeuge immer schneller in den Alltag integriert und ohne Zustimmung der Nutzer:innen eingeführt.
- Eine solche überstürzte Geschwindigkeit und erzwungene Ausrollung dienen nach Ansicht des Artikels eher der Sicherung von Liquidität und Kapitalrückfluss als dem technischen Nutzen.
- Der Text argumentiert, dass die bereits offenbarten Grenzen und Fehler von KI dazu führen sollten, nur verifizierte Teile schrittweise zu integrieren.
- Es wird betont, dass die Entwicklung von praktischer und vertrauenswürdiger Software wichtiger ist als ein riesiges Ziel wie AGI (künstliche Allgemeinintelligenz).
- Nutzer:innen sollten nur wirklich nützliche Technologien selektiv übernehmen und dürfen nicht dazu gezwungen werden, KI zu akzeptieren, nur weil Unternehmen wegen Überinvestitionen oder Infrastrukturkosten Druck ausüben.
Kritik an der übermäßigen Verbreitung von KI
- KI wird in verschiedenen Bereichen wie Suchleisten, Betriebssysteme und Kreativwerkzeuge erzwungen integriert.
- Funktionen werden hinzugefügt, obwohl die Nutzer:innen es nicht wünschen, sodass es sich wie eine erzwungene Einspielung und nicht wie ein „Upgrade“ anfühlt.
- Auch wenn sich Technik schrittweise und organisch durchsetzen kann, geschieht das derzeit in einem forcierten, aufgezwungenen Prozess.
- Die Situation wird als nicht als natürlicher Fortschritt der Technik, sondern als geschwindigkeitsgetriebene Kapitallogik beschrieben.
Kapitalgetriebenes KI-Vorantreiben
- Die aktuelle Ausrollungsgeschwindigkeit der KI ist stärker auf Liquiditätssicherung ausgerichtet als auf tatsächlichen Nutzen.
- Einige Milliardäre beschleunigen die Verbreitung, um zu Lebzeiten möglichst viel Gewinn zu erzielen.
- Der Satz „Wir schulden ihnen nichts“ betont, dass Nutzer:innen sich nicht den Gewinnzielen von Unternehmen unterordnen müssen.
- Die Einführung von KI sollte nicht aufgrund von Quartalsergebnissen oder Rückflussterminen erfolgen, sondern dann, wenn sie tatsächlich hilfreich ist.
Erkenntnis der KI-Grenzen und richtige Integration
- Illusionen, Fehler und Halluzinationen (Hallucinations) in KI sind bereits sichtbar geworden.
- Daher sollten nur nachweislich funktionierende Funktionen selektiv integriert werden; eine pauschale Einführung ist nicht erforderlich.
- Große Ziele wie AGI (künstliche Allgemeinintelligenz) sind nicht nötig; entscheidend ist einfach nur gut funktionierende Software.
Respekt für Forschende und Kreative
- Wenn ein Modell aktuell nicht korrekt funktioniert, sollten Forschende ins Labor zurückkehren und es verbessern.
- Nutzer:innen können ihrer Arbeit nachgehen und auf korrekte Weise zur Datengenerierung beitragen.
- Die unautorisierte Nutzung der Werke von Schöpfer:innen, Autor:innen und Künstler:innen im Training wird kritisiert; stattdessen wird eine kooperative Herangehensweise betont.
Konsumentenwahl und Marktprinzipien
- Es wird kritisiert, wenn große Tech-Konzerne KI aufdrängen, weil sie „zu viele GPUs gekauft“ haben oder „in Infrastruktur in Milliardenhöhe investiert“ haben.
- Mit der Formulierung „Das ist nicht mein Problem“ wird klar gemacht, dass Verbraucher:innen nur die für sie wertvollen Produkte wählen werden.
- Es gibt genügend legitime Anwendungsfälle und Ertragschancen für KI, doch ein gewaltsames Einbringen in den Markt ist nicht zu rechtfertigen.
- Das deutet darauf hin, dass wir zu einem echten kapitalistischen Prinzip zurückkehren sollten: nachfragebasierter, selektiver Konsum.
2 Kommentare
Hacker-News-Kommentare
Wenn es nur eine einfache Zusatzfunktion wäre, wäre das noch in Ordnung, aber bei Gemini werden selbst im Bezahl-Abo Daten zum Training verwendet oder Prompts von Menschen eingesehen, wenn man den Aktivitätsverlauf nicht deaktiviert
Es ist absurd, 20 Dollar im Monat (Pro) oder 249,99 Dollar (Ultra) zu zahlen und trotzdem werden die Daten jahrelang gespeichert
Aber seit dem letzten Update funktionieren keine Funktionen mehr, wenn ich meine Inhalte nicht für das AI-Training bereitstelle
2012 war ich schockiert, als Facebook weiße Pfeile in die Fotogalerie einbaute und die Entscheidung einiger PMs praktisch der ganzen Welt aufgezwungen wurde
Das Entfernen von Tasten aus Auto-Armaturenbrettern, 3D-Fernseher, Flat Design, riesige Smartphones — all das gehört in denselben Zusammenhang
Tech-PMs beeinflussen unser tägliches Leben wie Diktatoren viel zu stark
Ich habe kürzlich Duck.ai ausprobiert und dabei das Gefühl bekommen, dass wir auch gegenüber Technologie wieder einen konservativen Ansatz brauchen
Wir alle sollten das Tempo drosseln und die Probleme korrigieren
Unerwünschte Funktionen werden dem OS aufgezwungen, und in internen Dashboards werden Nutzungszahlen von Bing und Copilot Investoren präsentiert
Das kommt fast finanziellem Betrug gleich
Ausgerechnet jetzt ersetzt Microsoft das offenbar durch eine OCR-basierte Variante, und das ist ein komplettes Chaos
Dank Proton laufen auch Spiele gut, und für die Arbeit habe ich ohnehin Linux genutzt, daher fiel der Umstieg leicht
Es ist ein Ziel, das menschlichen Fortschritt symbolisiert — wie Kernfusion, interplanetare Besiedlung oder die Heilung von Krebs
Das ist ähnlich wie Menschen in den 1800er-Jahren zu sagen, Elektroautos oder Flughäfen würden nicht gebraucht
Eigentum und Zweck von AGI sind eine andere Frage; ob Flugzeuge Menschen transportieren oder im Krieg eingesetzt werden, ist eine Entscheidung der Menschen
Außerhalb der Tech-Branche interessiert sich fast niemand dafür
Damals wurde man nach ein paar Klicks automatisch angemeldet, und als wir auf der Firmenwebsite einen Google+-Button eingebaut hatten, dauerte das Laden der Seite manchmal mehrere Minuten
Am Ende war es eine nutzlose Funktion, und auch dieses Mal wirkt AI wie ein ähnlich unnötiger Ressourcenverbrauch
Dagegen sind die heutigen AI-Produkte eine fortlaufende Serie von Fehlschlägen im Softwaredesign
Nicht einmal Fitbit und Pixel 7 arbeiten richtig zusammen, und dann kommt man mit AI — völlig absurd
Alle Dienste bauen AI-Funktionen ein und erhöhen die Preise
Unsere Daten werden von AI analysiert, und Social Media, Nachrichten, Bilder und Videos werden mit AI-generierten Inhalten gefüllt
Unternehmen und Politik treffen Entscheidungen auf Grundlage von AI-Ergebnissen
Am Ende läuft es auf „AI mit dir oder durch dich“ hinaus
Eine Struktur des Zwangs, die nur dazu dient, bereits investiertes Geld zu rechtfertigen
Aber die Aktionäre wollen AGI
Wegen niedrigerer Personalkosten und steigender Aktienkurse
Es wäre schön, wenn alle nur „wirklich nützliche Werkzeuge“ verwenden wollten, aber so ist die Realität nicht
Es ist nur ein Marketing-Trugbild und ein Vorwand, um die Autonomie von Arbeitnehmern abzubauen
Es drängt sich ständig in Nachrichten und andere Apps, und ich habe Angst, es versehentlich zu aktivieren
Die beiden Apps sind stark miteinander verknüpft, daher kann man das Problem mit alternativen Apps umgehen
Aber ein Platzen der AI-Blase wird viele Menschen negativ treffen
Selbst wenn Großkonzerne durchhalten können, kann ein Kurssturz Kettenreaktionen auslösen
Die Kapitalverzerrung würde sich verschärfen und am Ende zu einem noch größeren Zusammenbruch führen
Wäre die Blase lieber schon vor ein paar Jahren geplatzt, hätten wir heute vielleicht nicht das Problem von AI-Servern, die das Stromnetz bedrohen
Rechenleistung wird reserviert, und man bezahlt nach Nutzung — diese Struktur gefällt mir nicht
Ich frage mich, ob AI möglich ist, die lokal ausreichend gut funktioniert
Wenn man sie nicht nutzt, spart man Geld
Ich stimme unten dem Punkt „In der Realität gibt es keine Wahlmöglichkeit“ zu.
Es ist bereits ein schnell fahrender Zug und ein fliegendes Flugzeug.