No AI* Here – Eine Antwort auf Mozillas nächstes Kapitel
(waterfox.com/blog)- Waterfox, ein Fork von Firefox, widerspricht entschieden der Entwicklung, in der Mozilla eine AI-zentrierte Browserstrategie als Zukunft von Vertrauen und Transparenz darstellt
- Als Kernproblem wird benannt, dass in Browser integrierte Large Language Models (LLMs) nicht auditierbare Black Boxes sind und die Kontrolle der Nutzer schwächen
- Ein Browser sollte ein User Agent sein, der im Auftrag der Nutzer mit dem Web interagiert, und kein System, das deren Urteilsvermögen ersetzt
- Kritisiert wird, dass Mozilla mit einer Strategie, die auf den durchschnittlichen Nutzer abzielt, erneut die technische Community entfremdet
- Waterfox stellt mit dem Grundsatz, keine LLMs in den Browser aufzunehmen, und mit verantwortungsvoller Governance eine Alternative vor
Hintergrund und Problemstellung
- Mozilla hat eine Vision als „vertrauenswürdigstes Softwareunternehmen“ mit AI im Zentrum vorgestellt
- Erwähnt werden die strukturelle Krise des Browsermarkts, darunter die Verbreitung von AI-Browsern und die Schritte von Alphabet für die Zeit nach Chrome
- Waterfox erklärt, den Druck grundsätzlich zu verstehen, hält die Richtung der Reaktion jedoch für fundamental falsch
Das Problem mit dem Begriff „AI“
- Es wird darauf hingewiesen, dass AI als Sammelbegriff verwendet wird und Unterschiede zwischen Technologien verdeckt
- Lokale Machine-Learning-Übersetzungstools wie Bergamot seien vertrauenswürdig, weil ihr Zweck klar sei und sich ihre Funktionsweise beobachten lasse
- LLMs hingegen werden als Black Boxes beschrieben, deren interne Abläufe und Datenverarbeitung sich nicht verifizieren lassen
- Im Browserkontext seien zweckgebundene, begrenzte Modelle vertrauenswürdiger als allgemeine Modelle
Das Wesen des Browsers
- Der Browser wird als User Agent definiert, der die Befehle der Nutzer ausführt
- Mit einem zwischengeschalteten LLM entstehe über dem Browser ein weiterer Agent
- Es wird die Gefahr benannt, dass Tab-Organisation, Umschreibung des Verlaufs und Entscheidungen über die Art der Informationsdarstellung durch nicht verifizierbare Logik gesteuert werden
- Selbst wenn es eine Option zum Deaktivieren von AI-Funktionen gibt, sei es für Nutzer schwer nachzuvollziehen, welche Auswirkungen sie im aktivierten Zustand haben
Mozillas Dilemma
- Anerkannt wird der strategische Druck durch ein suchabhängiges Erlösmodell und sinkende Firefox-Marktanteile
- Kritisiert wird der innere Widerspruch, einerseits von Vertrauen und Nutzerautonomie zu sprechen und andererseits Technologien einzuführen, die genau diese schwächen
- Die Strategie, auf den durchschnittlichen Nutzer abzuzielen, wird als in den vergangenen mehr als zehn Jahren gescheitert bewertet
- In Erinnerung gerufen wird, dass die technische Community und datenschutzorientierte Nutzer Mozillas eigentliche Kernbasis waren
Waterfox’ Entscheidung
- Waterfox erklärt, sich auf die Qualität der eigentlichen Browserfunktionen zu konzentrieren
- UI und Anpassbarkeit gelten als weitgehend ausgereifte Themen; Priorität haben stattdessen Performance und Webstandards
- Der Browser wird als eine eigene Betriebssystemumgebung verstanden, und AI wird als ungeeignet angesehen, diese zu verwalten
- Der klare Grundsatz, keine LLMs einzubinden, gelte sowohl jetzt als auch in der absehbaren Zukunft
Fork-Ökosystem und Governance
- Es wird darauf hingewiesen, dass vielen Firefox-Forks eine juristische Trägerschaft, Richtlinien und Verantwortungsstrukturen fehlen
- Erläutert wird, dass ein Open-Source-Fork nicht automatisch Vertrauen bedeutet
- Waterfox hält durch eine juristische Einheit, eine Datenschutzerklärung und Nutzungsbedingungen die Verantwortlichkeiten klar nachvollziehbar
- Diese Governance habe auch den Zugang zu geschützten Streaming-Diensten wie Widevine ermöglicht
Haltung zur Unvermeidlichkeit
- Es wird eingeräumt, dass AI-Browser zum Mainstream werden könnten
- Zugleich wird argumentiert, dass das Web seinem Wesen nach dezentral ist und es daher immer Alternativen geben wird
- Verwiesen wird auf frühere Veränderungen bei Firefox, in deren Verlauf Waterfox Nutzeranforderungen bewahrt habe
- Abschließend wird der Grundsatz bekräftigt, dass die Aufgabe des Browsers darin besteht, den Nutzern zu dienen, und nicht darin, für sie zu denken
1 Kommentare
Hacker-News-Kommentare
Es wird infrage gestellt, ob die Behauptung stimmt, LLMs seien vollständig eine Blackbox, sodass sich nicht überprüfen lasse, wie sie Daten verarbeiten.
Auch neuronale maschinelle Übersetzung ist in ihrer internen Funktionsweise undurchsichtig; deshalb ist schwer nachvollziehbar, warum ausgerechnet LLMs als besonders gefährlich gelten sollen.
Funktionen wie die Zusammenfassung in Firefox basieren größtenteils auf lokalen Modellen, bei Chrome ist es ähnlich.
LLM-Funktionen im Browser haben einen begrenzten Anwendungsbereich wie Übersetzung oder Zusammenfassung, daher wirken Sorgen über Datenmissbrauch übertrieben.
LLMs werden dagegen auf jedes Problem angewandt, und wenn die Genauigkeit niedrig ist, entsteht realer Schaden.
Dinge wie die Zusammenfassung englischer Artikel erscheinen zudem nicht wirklich notwendig.
Außer bei Inhalten wie wissenschaftlichen Arbeiten, die ohnehin ein Abstract haben, habe man sich nie eine Zusammenfassung gewünscht.
Mehr Vertrauen bestehe in Systeme wie Single-Purpose-Modelle, bei denen Ein- und Ausgabe klar überprüfbar sind.
Es gibt Bedenken, dass Mozilla über einfache Übersetzung und Zusammenfassung hinaus eine tiefere Integration anstrebt.
Möglicherweise ist der Text des CEO auch ein Lackmustest, um Reaktionen auszuloten.
Das Privacy-Marketing von Mozilla unterscheide sich aus dieser Sicht kaum von dem von Apple.
Alles, was nicht lokal verarbeitet wird, sollte nur mit expliziter Zustimmung der Nutzer (opt-in) erfolgen.
Übersetzen ist seinem Wesen nach ein nichtdeterministisches Problem, daher kann man LLMs nicht allein deshalb verurteilen.
Suche und Informationsrecherche funktionieren dagegen gut mit deterministischen Algorithmen, weshalb es keinen Grund gibt, sie durch LLMs zu ersetzen.
Übersetzungsprojekte wie Bergamot sind wegen ihrer Transparenz und Prüfbarkeit wertvoll.
Strukturell unterscheiden sich LLMs davon jedoch nicht grundlegend.
Man kann sich das Innere auch wie in der Marian-NMT-Dokumentation ansehen.
Die Idee nichtkommerzieller KI ist zwar gut, aber LLMs pauschal abzulehnen wirkt wie eine verschlossene Haltung.
Es wird empfunden, dass Sprache vom Sprachstil des Gegenübers beeinflusst wird, deshalb wird nicht mit LLMs gesprochen.
Für Codegenerierung werden sie genutzt, Gespräche aber nur mit Menschen geführt.
Es fühle sich an wie Experimente, in denen Menschen, die mit Schimpansen aufwachsen, stärker und schneller selbst beeinflusst werden.
Auch eine mittlere Position jenseits extremer Zustimmung oder Ablehnung ist völlig vernünftig.
Sie ist eine Gegenreaktion auf die Situation, dass KI in jedes Produkt hineingezwungen wird.
Werkzeuge sollten passend zum jeweiligen Zweck eingesetzt werden.
Werkzeuge mit einem einzelnen Zweck erzeugen weniger emotionale Belastung und sind angenehmer, weil ihnen eine falsche Persönlichkeit fehlt.
Firefox sollte sich auf eine starke Plugin-API und Sicherheits-Sandboxing konzentrieren.
Wer KI nutzen möchte, kann das per Erweiterung tun, und wer das nicht will, lässt es einfach.
Alle anderen Funktionen werden deaktiviert.
Seit Jahrzehnten habe ich keine Werbung mehr gesehen.
Eine Funktion, bei der die Tableiste verschwindet, solange man nicht mit der Maus darüberfährt, wäre völlig ausreichend.
Deshalb gibt es Sorgen, dass KI diesmal auf dieselbe Weise durchgedrückt wird.
Die meisten Nutzer wissen nicht, wie man Funktionen deaktiviert.
Meine Mutter etwa kommt mit dem Abschalten des KI-Modus in Chrome nicht zurecht und empfindet das als störend.
Problematisch ist, dass solche Nutzer in Statistiken dann als Menschen erscheinen, die KI "bevorzugen".
Der Widerstand gegen KI in Firefox wirkt teilweise wie eine emotionale Reaktion.
Wenn lokale LLMs eingebaut würden, würden die meisten Bedenken wohl kleiner ausfallen.
Funktionen wie Übersetzung, Zusammenfassung, Wiki-Suche oder automatisches Ausfüllen von Formularen könnten nützlich sein.
Eine Seitenleiste und ein KI-Chatbot-Button wurden zwangsweise hinzugefügt, was als störend empfunden wird.
Früher wurde sogar die Größe des Menüs verändert, was häufig zu Fehlklicks führte.
Intern scheint es Anbindungen an Cloud-basierte KI wie ChatGPT, Claude und Gemini zu geben.
Gewünscht ist einfach ein datenschutzorientierter Browser.
Wichtiger als experimentelle Funktionen ist eine Struktur, die Erweiterbarkeit ermöglicht.
Der Browser sollte KI nur dann verwenden, wenn ich es ausdrücklich will.
Selbst bei einem lokalen Modell ist die Speicherlast zu groß.
Dinge wie Übersetzung und Tab-Gruppierung funktionieren ohne Cloud-Abhängigkeit.
Waterfox ist bei seiner Entwicklung von Firefox abhängig.
Dass Mozilla zur Sicherung seines Marktanteils KI einbaut, ist nachvollziehbar.
Scheitert das jedoch, wird auch für Waterfox das Überleben schwierig.
Falls nötig, kann ich zu einem anderen Browser wechseln.
Im Moment erfüllt er meine Anforderungen, und das reicht mir.
Wegen eines alten Linux-Rechners bin ich zu Waterfox gewechselt.
Die Snap-Version von Firefox war so langsam, dass sie unbenutzbar war.
Mir gefällt, dass Waterfox LLM-Integration ablehnt.
Auf meiner Hardware wären LLMs zu schwergewichtig, und die genannten Anwendungsfälle wirken auch nicht attraktiv.
Es ist beruhigend, dass noch Nischenräume existieren, die nicht vollständig von KI vereinnahmt wurden.
Die KI-Funktionen von Firefox lassen sich per Richtlinie deaktivieren.
Verwandte Dokumente: policy-templates generativeai, preferences, firefox.js Einstellungen, all.js Einstellungen
Das Design sollte so sein, dass Nutzer es nicht erst mühsam abschalten müssen.
Die meisten werden solche Einstellungen gar nicht erst ausprobieren.
Während ständig neue Funktionen hinzukommen, leidet die Benutzerfreundlichkeit zunehmend.
Es wäre schön, wenn es eine einfache Nicht-KI-Option gäbe.
Waterfox verfolgt die Philosophie, dass ein Browser nicht anstelle des Nutzers denken sollte.
Die Haltung, keine LLMs zu integrieren, ist eindeutig.
Allerdings lassen sich KI-Funktionen auch in anderen Browsern leicht abschalten.
Um ein echter Konkurrent zu werden, müsste Waterfox herausfinden, was die Menschen wirklich wollen, und genau darauf optimieren.
Andererseits könnte es sein, dass Menschen irgendwann tatsächlich wollen, dass KI für sie mitdenkt.
Wenn Menschen von "KI" sprechen, meinen sie in vielen Fällen eigentlich LLMs.
Es wäre gut, wenn sich die Gewohnheit durchsetzt, diese Begriffe klar zu unterscheiden.
In diesem Zusammenhang lohnt sich auch ein Blick auf die Stellungnahme von Vivaldi.
Link zur Vivaldi-Ankündigung