Google Chrome installiert stillschweigend ein 4-GB-AI-Modell auf Geräten ohne Zustimmung

 (thatprivacyguy.com)
1 Punkte von GN⁺ 2 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Im Chrome-Benutzerprofil werden ein Verzeichnis OptGuideOnDeviceModel und die etwa 4 GB große Datei weights.bin angelegt; dabei handelt es sich um die Gewichtungsdatei des On-Device-LLM Gemini Nano
  • Neuere Chrome-Versionen laden für KI-Funktionen wie „Help me write“ oder On-Device-Betrugserkennung auf Geräten, die die Hardware-Anforderungen erfüllen, Modelle herunter – ohne Zustimmungsdialog oder ein explizites Kontrollkästchen in den Einstellungen
  • Eine Verifizierung mit einem neuen Profil auf Apple Silicon zeigt anhand von .fseventsd, Chrome-Local State, ChromeFeatureState und GoogleUpdater-Logs, dass Erstellung, Entpacken und abschließendes Verschieben des Modellverzeichnisses am 24. April 2026 innerhalb von 14 Minuten und 28 Sekunden automatisch abliefen
  • Die „AI Mode“-Pill in Chrome 147 ist keine Oberfläche für das lokale Nano-Modell, sondern eine cloudbasierte Search Generative Experience, die Anfragen an Google-Server sendet; Nano wird stattdessen für getrennte Funktionen wie „Help-Me-Write“, KI-Vorschläge für Tab-Gruppen, Smart Paste und Seitenzusammenfassungen verwendet
  • Die stille Verteilung des 4-GB-Modells wirft Fragen zu Artikel 5(3) der ePrivacy-Richtlinie, zu den GDPR-Prinzipien von Transparenz und datensparsamen Voreinstellungen sowie zu Bandbreiten- und CO2-Kosten unter ESG-Gesichtspunkten auf; bei einer Verteilung auf 1 Milliarde Geräte werden 4 EB Transfer, 240 GWh und 60.000 Tonnen CO2e veranschlagt

Auf der Festplatte installierte Dateien und Funktionsweise

  • Im Chrome-Benutzerprofil werden das Verzeichnis OptGuideOnDeviceModel und die etwa 4 GB große Datei weights.bin angelegt; diese Datei wird als Gewichtungsdatei von Googles On-Device-LLM Gemini Nano beschrieben
  • Chrome nutzt diese Datei für „Help me write“, On-Device-Betrugserkennung und weitere KI-gestützte Browserfunktionen; wenn KI-Funktionen in neueren Chrome-Versionen standardmäßig aktiviert sind, gelten Geräte mit erfüllten Hardware-Anforderungen als Ziel für die Auslieferung
  • Während der Installation wird dem Benutzer kein Zustimmungsdialog angezeigt, und auch in den Chrome-Einstellungen gibt es kein Kontrollkästchen wie „4-GB-KI-Modell herunterladen“
  • Bei Windows-Installationen dokumentieren mehrere unabhängige Berichte einen Ablauf, bei dem Chrome die Datei nach dem Löschen erneut herunterlädt; um dies dauerhaft zu verhindern, sind chrome://flags, Enterprise-Policy-Tools oder die Deinstallation von Chrome nötig
  • Unter macOS wird die Datei im Besitz des Benutzers mit Modus 600 erstellt und kann daher grundsätzlich gelöscht werden; Chrome speichert den Installationsstatus jedoch in Local State, und wenn der Variations-Server das Profil erneut als geeignet einstuft, wird der Download wieder aufgenommen

Verifizierung mit einem neuen Profil auf Apple Silicon

  • Testumgebung

    • Am 23. April 2026 wurde ein Chrome-Benutzerdatenverzeichnis für ein automatisiertes Audit erstellt und für ein Datenschutz-Audit von 100 WebSentinel-Websites verwendet
    • Der Audit-Treiber auf Basis des Chrome DevTools Protocol führte Seitenladevorgänge, fünfminütiges Warten, Event-Erfassung und das Beenden von Chrome zwischen den Websites aus; nach der Profilerstellung gab es keine menschlichen Tastatur- oder Mauseingaben
    • Weder die „AI mode“-Oberfläche von Chrome noch die gesamte Chrome-UI wurden direkt bedient; der Audit-Treiber interagierte nur mit Dokumenten und CDP und griff auch nicht auf die Omnibox zu
    • Beim Aufräumen am 29. April wurde mit du -sh festgestellt, dass das Audit-Profil OptGuideOnDeviceModel-Gewichtungen im Umfang von 4 GB enthielt

  • Von .fseventsd aufgezeichnete Installations-Zeitleiste

    • Das Dateisystem-Ereignisprotokoll .fseventsd des macOS-Kernels zeichnet Datei-Erstellung, -Änderung und -Löschung unabhängig von Anwendungslogs auf; weder Chrome noch Google können es aus der Ferne verändern, und die Event-Page-Dateien bleiben auch nach dem Löschen der referenzierten Dateien erhalten
    • Am 24. April 2026 um 16:38:54 CEST erstellte Chrome im Audit-Profil das Verzeichnis OptGuideOnDeviceModel
    • Am 24. April 2026 um 16:47:22 CEST wurden unter /private/var/folders/.../com.google.Chrome.chrome_chrome_Unpacker_BeginUnzipping.*/ drei temporäre Verzeichnisse angelegt; eines davon schrieb weights.bin, manifest.json, _metadata/verified_contents.json und on_device_model_execution_config.pb
    • Zur selben Zeit protokollierte ein anderer Unpacker-Prozess Aktualisierungen der Certificate Revocation List und der Browser-Preload-Daten, was darauf hindeutet, dass Sicherheitsupdates, Preload-Aktualisierungen und das 4-GB-KI-Modell im selben Leerlauffenster gebündelt verarbeitet wurden
    • Am 24. April 2026 um 16:53:22 CEST wurde die entpackte weights.bin nach OptGuideOnDeviceModel/2025.8.8.1141/weights.bin verschoben; adapter_cache.bin, encoder_cache.bin, _metadata/verified_contents.json und die Ausführungskonfiguration wurden ebenfalls zusammen abgelegt
    • Gleichzeitig wurden im Chrome-Optimization-Guide die Modellziele 40, 49, 51 und 59 neu in optimization_guide_model_store registriert; dabei soll es sich um kleinere Modelle für Textsicherheit und Prompt-Routing handeln, die zusammen mit dem LLM verwendet werden
    • Von der Verzeichniserstellung bis zum abschließenden Verschieben betrug die gesamte Installationszeit 14 Minuten und 28 Sekunden; während dieses Zeitraums gab es keine menschliche Interaktion mit dem Profil

  • Spuren in Chrome selbst und GoogleUpdater-Logs

    • In der Local State-JSON des Audit-Profils von Chrome befindet sich ein Block optimization_guide.on_device, in dem unter model_validation_result attempt_count: 1, result: 2, component_version: "2025.8.8.1141" aufgezeichnet sind
    • Derselbe Block enthält performance_class: 6 und vram_mb: "36864", was als Hinweis gewertet wird, dass Chrome vor der Anzeige von KI-Funktionen an den Benutzer GPU und gesamte Unified-Memory-Kapazität ausliest, um die Eignung für das Ausrollen des Modells zu bestimmen
    • In ChromeFeatureState des Audit-Profils sind OnDeviceModelBackgroundDownload<OnDeviceModelBackgroundDownload und ShowOnDeviceAiSettings<OnDeviceModelBackgroundDownload im Block enable-features enthalten
    • Das erste Flag soll den stillen Download auslösen, das zweite den Abschnitt für On-Device-KI in chrome://settings sichtbar machen; da beide an dasselbe Rollout-Flag gebunden sind, wird dies so interpretiert, dass die Installation beginnt, bevor in der Einstellungsoberfläche überhaupt eine Möglichkeit zum Ablehnen erscheint
    • In den GoogleUpdater-Logs ist verzeichnet, dass die Kontrollkomponente für das On-Device-Modell mit der appid {44fc7fe2-65ce-487c-93f4-edee46eeaaab} von http://edgedl.me.gvt1.com/edgedl/diffgen-puffin/... heruntergeladen wurde; diese 7 MB große komprimierte Steuerdatei traf am 20. April 2026 ein, also drei Tage vor der Erstellung des Audit-Profils
    • Diese Kontrollkomponente ist unabhängig vom Profil und wird automatisch durch einen stündlich laufenden LaunchAgent gestartet; die Transfer-URL ist zwar HTTP, die Integrität wird jedoch über die im Paket enthaltene CRX-3-Signatur verifiziert
    • Die Kontrollkomponente liefert Chrome das Manifest, das auf die eigentlichen Gewichtungen verweist, während der interne OnDeviceModelComponentInstaller von Chrome – ein vom GoogleUpdater getrennter Codepfad – die mehrere Gigabyte großen Gewichtungen direkt vom Google-CDN bezieht

  • Größenordnung und frühere Berichte

    • Community-Berichte über das Verzeichnis OptGuideOnDeviceModel und die Datei weights.bin gibt es seit über einem Jahr; 2026 haben sich jedoch Umfang und Nachprüfbarkeit verändert
    • Der weltweite Marktanteil von Chrome wird mit über 64 % angegeben, und die geschätzte Zahl der Chrome-Nutzer im Jahr 2026 liegt je nach Quelle zwischen 3,45 und 3,83 Milliarden
    • Da Gemini-Funktionen zunehmend aggressiver in Chrome integriert werden, betrifft dieses Verhalten nicht mehr nur wenige fortgeschrittene Nutzer oder einzelne Plattformen, sondern hunderte Millionen Geräte auf allen Desktop-Betriebssystemen, für die Chrome verfügbar ist

Dasselbe Muster wie im Anthropic-Fall

  • Erzwungenes Bundling außerhalb der Vertrauensgrenze

    • Im Anthropic-Fall wurden nach der Installation von Claude Desktop Native-Messaging-Einträge für Brave, Edge, Arc, Vivaldi, Opera und Chromium angelegt; im Chrome-Fall schreibt Chrome ein 4-GB-AI-Modell in das Benutzerprofil.
    • weights.bin ist nicht Teil von Chrome selbst, sondern als separates trainiertes Machine-Learning-Modell mit eigenem Zweck, eigenem Datenschutzprofil und eigenem Einwilligungsumfang zu betrachten.

  • Unsichtbare Defaults und fehlendes Opt-in

    • Es gibt weder einen Dialog beim ersten Start noch ein Kontrollkästchen in den Einstellungen; Nutzer entdecken das Modell erst, wenn der Speicherplatz bereits belegt ist.

  • Entfernen ist schwieriger als Installieren

    • Für das Hinzufügen der Datei ist kein Klick nötig, zum Entfernen muss man jedoch erst ihre Existenz entdecken, ihre Bedeutung verstehen und auf einen versteckten Benutzerprofilpfad zugreifen, um sie zu löschen.
    • Unter Windows muss laut Darstellung zunächst das Schreibschutzattribut entfernt werden; selbst nach dem Löschen kann die Datei beim nächsten geeigneten Zeitpunkt erneut heruntergeladen werden, wenn die Chrome-AI-Funktionen nicht deaktiviert werden.

  • Vorab-Bereitstellung nicht angeforderter Funktionen

    • Das Nano-Modell wird vorab auf dem Datenträger abgelegt, damit es sofort ausgeführt werden kann, wenn der Nutzer eine AI-Funktion aufruft; auch ohne einen solchen Aufruf belegt es jedoch 4 GB.

  • Verwischter Umfang durch allgemeine interne Bezeichnungen

    • OptGuideOnDeviceModel ist ein interner Chrome-Begriff für „OptimizationGuide on-device model storage“, und für normale Nutzer ist es schwer, das mit „Gemini Nano LLM weights“ in Verbindung zu bringen.
    • Ein präziserer Name läge näher an GeminiNanoLLM/weights.bin, doch Google wird dafür kritisiert, stattdessen einen internen Begriff gewählt zu haben.

  • Registrierung von Ressourcen, die Nutzer nicht eingerichtet haben

    • Auch Nutzer, die Chrome-AI-Funktionen nie geöffnet haben, erhalten das Modell; ebenso Nutzer, die es einmal geöffnet und dann entschieden haben, dass sie kein Interesse daran haben.
    • Ob die Datei vorhanden ist, ist von der tatsächlichen Nutzung der Funktion getrennt.

  • Mangelnde Dokumentation und automatische Neuinstallation

    • Googles an Nutzer gerichtete Dokumentation zu Chrome-AI-Funktionen weist nicht in einem dem stillen 4-GB-Download entsprechenden Maß auf diese Kosten hin.
    • Wenn Nutzer die Datei löschen, erstellt Chrome sie erneut; die Löschung durch den Nutzer wird nicht als zu respektierende Anweisung behandelt, sondern wie ein temporärer Zustand, der korrigiert werden soll.

  • Rückwirkende Grenzen späterer Einwilligung

    • Selbst wenn Google später fragen würde: „Möchten Sie ein 4-GB-AI-Modell herunterladen?“, würde das die bereits auf Hunderten Millionen Geräten erfolgte stille Installation nicht rückwirkend rechtfertigen.
    • Dieses Verhalten ist kein Test-Build, sondern ein codesigniertes Verhalten, das über den regulären Release-Kanal von Chrome stable verteilt wurde.

Trennung zwischen „AI Mode“-Pill und On-Device-Modell

  • Wenn Chrome 147 in einem geeigneten Profil ausgeführt wird, erscheint rechts in der Omnibox ein „AI Mode“-Pill.
  • Nutzer könnten daraus schließen, dass dieser „AI Mode“ ein lokales Modell verwendet und Anfragen auf dem Gerät verbleiben, da Chrome ein On-Device-LLM besitzt und bereits ein 4-GB-Gemini-Nano-Binary auf dem Datenträger installiert wurde.
  • Tatsächlich ist das AI-Mode-Pill in der Omnibox von Chrome 147 jedoch eine Cloud-basierte Oberfläche der Search Generative Experience; die vom Nutzer eingegebenen Anfragen werden an Google-Server gesendet und dort von Googles gehosteten Modellen verarbeitet.
  • Das On-Device-Nano-Modell wird im UI-Ablauf von AI Mode nicht aufgerufen, sondern in separaten Funktionen wie der <textarea>-Funktion von „Help-Me-Write“, AI-Vorschlägen für Tab-Gruppen, Smart Paste und Seitenzusammenfassungen verwendet.
  • Nutzer tragen also die Kosten für 4 GB Speicherplatz und die Bandbreite des stillen Downloads, während die sichtbarste AI-Erfahrung keine On-Device-Vorteile bietet, sondern an Google-Server weitergeleitet wird.
  • Diese Struktur kann bei Nutzern den Eindruck von „lokaler AI“ erzeugen, tatsächlich hat Google damit jedoch eine Ressource auf Nutzergeräten platziert, die künftig von anderen Chrome-Subsystemen ohne Server-Roundtrip aufgerufen werden kann.
  • Nach den Kriterien für deceptive design patterns in den EDPB Guidelines 03/2022 wird dies so bewertet, dass „AI Mode“ den Verarbeitungsort nicht klar offenlegt und damit misleading information darstellt, keinen Wahlmoment zwischen rein lokaler und Cloud-basierter Oberfläche bietet und damit skipping ist, und dass AI Mode und die Entfernung der On-Device-Installation getrennte Kontrollen bleiben, die Auffindbarkeit und Deaktivierung erschweren, also hindering.

Rechtliche Fragen im EWR und im Vereinigten Königreich

  • ePrivacy Directive Article 5(3) verlangt für das Speichern von Informationen auf dem Endgerät eines Nutzers oder den Zugriff auf bereits gespeicherte Informationen eine vorherige freie, spezifische, informierte und eindeutige Einwilligung, es sei denn, dies ist für die Bereitstellung eines vom Nutzer ausdrücklich angeforderten Dienstes der Informationsgesellschaft unbedingt erforderlich.
  • Die 4-GB-Gemini-Nano-Gewichtsdatei ist auf dem Endgerät des Nutzers gespeicherte Information; da der Nutzer nicht eingewilligt hat, Chrome auch ohne diese Datei funktioniert und der Nutzer keinen Dienst angefordert hat, der ein 4-GB-On-Device-LLM unbedingt erfordert, wird dies als Verstoß gegen Article 5(3) bewertet.
  • GDPR Article 5(1) and Article 25 verlangen jeweils die Grundsätze von Rechtmäßigkeit, Fairness und Transparenz sowie Datenschutz durch Technikgestaltung.
  • Wenn die Hardware des Nutzers profiliert wird, um die Eignung für das Pushen des Modells zu bestimmen, Installationsereignisse auf Google-Servern protokolliert werden und On-Device-Funktionen Benutzer-Prompts verarbeiten können, müssen Nutzer in klarer Sprache darüber informiert werden, was geschieht.
  • Ein 4-GB-AI-Modell allein deshalb vorab bereitzustellen, weil Nutzer möglicherweise künftig AI-Funktionen aufrufen könnten, wird als Architektur bewertet, die dem Prinzip der datensparsamen Voreinstellungen widerspricht.
  • Dieselbe Analyse gilt unter UK GDPR und den Privacy and Electronic Communications Regulations 2003; beim California Consumer Privacy Act wirft das Fehlen eines Hinweises zum Zeitpunkt der Erhebung für diese spezielle Kategorie vorab bereitgestellter Software Fragen zur CCPA-Informationspraxis auf.
  • Zudem wird die Möglichkeit von Verstößen gegen strafrechtliche Vorschriften zum Computer-Missbrauch in mehreren Ländern aufgeworfen.

ESG und Klimakosten

  • Berechnungsmethode

    • Der Chrome-Fall ist eine Verteilung, bei der ein 4-GB-Binärpaket auf Hunderte Millionen Geräte ausgeliefert wird; anders als bei der Installation des 350-Byte-JSON-Manifests von Claude Desktop sind Bandbreiten- und Energiekosten hier messbar
    • Die Energieintensität der Netzwerk-Datenübertragung wird mit 0,06 kWh/GB berechnet, dem Mittelwert des Bereichs von 0,04 bis 0,10 kWh/GB aus Pärssinen et al. 2018
    • Für den Emissionsfaktor des Stromnetzes wird 0,25 kg CO2e/kWh verwendet, basierend auf der EU-27-Stromversorgungsmischung für die Berichterstattung 2024 laut European Environment Agency und IEA

  • Kosten eines einzelnen Nano-Pushs pro Gerät

    • Die Bandbreite wird mit 4 GB berechnet
    • Die Energie wird mit 4 × 0.06 = 0.24kWh pro Gerät und Push berechnet
    • CO2 wird mit 0.24 × 0.25 = 0.06kg CO2e pro Gerät und Push berechnet
    • Diese Zahl umfasst nur den einmaligen Download des Modells und nicht erneute Downloads nach dem Löschen, nachfolgende Modell-Updates oder die tatsächliche Energie für On-Device-Inferenz

  • Gesamtkosten nach Verteilungsgröße

    • Google veröffentlicht nicht, wie viele Geräte den Nano-Push erhalten; Chrome bestimmt die Eignung anhand der Hardware-performance_class, berechnet aus CPU, GPU, System-RAM und verfügbarem VRAM
    • Bei 100 Millionen Geräten ergibt sich eine Gesamtmenge von 400 PB, 24 GWh und 6.000 Tonnen CO2e
    • Bei 500 Millionen Geräten ergibt sich eine Gesamtmenge von 2 EB, 120 GWh und 30.000 Tonnen CO2e
    • Bei 1 Milliarde Geräten ergibt sich eine Gesamtmenge von 4 EB, 240 GWh und 60.000 Tonnen CO2e
    • 24 GWh entsprechen dem jährlichen Stromverbrauch von rund 7.000 durchschnittlichen Haushalten im Vereinigten Königreich, 120 GWh etwa 36.000 Haushalten und 240 GWh etwa 72.000 Haushalten
    • 6.000 Tonnen CO2e werden mit den Jahresemissionen von rund 1.300 durchschnittlichen Pkw in der EU verglichen; 30.000 Tonnen mit etwa 6.500 Pkw oder rund 8.000 Economy-Passagieren auf einem Hin- und Rückflug London–Sydney; 60.000 Tonnen mit den Jahresemissionen von etwa 13.000 Pkw

  • Zusätzliche, nicht einbezogene Kosten

    • Nicht enthalten sind die laufenden Kosten für den belegten Festplattenspeicher 4GB × N auf den Geräten der Nutzer
    • Die grauen Emissionen von SSDs werden nach Tannu and Nair 2023 mit etwa 0,16 kg CO2e/GB NAND angegeben; 1 Milliarde Geräte × 4 GB entsprechen damit rund 640.000 Tonnen CO2e an verkörperten SSD-Emissionen, die einem nicht von den Nutzern genehmigten Zweck zugewiesen werden
    • Ebenfalls nicht enthalten ist die On-Device-Inferenzenergie, wenn Nano tatsächlich aufgerufen wird; bei 2 Milliarden täglichen Chrome-Nutzern ist selbst ein kleiner Pro-Inferenz-Wert nicht mehr klein
    • Wenn Nutzer versuchen, die Datei zu löschen und dadurch ein erneuter Download ausgelöst wird, kommen jedes Mal pro Gerät zusätzliche 4GB × 0.06kWh × 0.25kg = 0.06kg CO2e hinzu
    • Gemini Nano ist kein einmaliges Artefakt, sondern ein Modell mit regelmäßigen Gewichtsaktualisierungen; bei jedem Update wiederholt sich dieselbe Rechnung

  • Das Problem der reinen Bandbreitenkosten

    • Die Netzwerkkosten einer unerwünschten 4-GB-Nutzlast tragen ISP, Mobilfunkanbieter, Nutzer mit volumenbasierten Tarifen und die Netzwerkinfrastruktur
    • Laut der Pärssinen-Referenz entfallen rund 50 % der Übertragungsenergie auf Zugangsnetze und CDN-Edge, etwa 30 % auf Endnutzergeräte wie Router, Modems und NICs, der Rest auf das Kernnetz
    • Für Nutzer mit volumenbasierten Mobilfunktarifen, besonders in Regionen, in denen das Smartphone der einzige Internetzugang ist, kann ein unerwünschter 4-GB-Download nahe an das monatliche Datenlimit heranreichen
    • 4G- und 5G-Mobildatentarife werden auch für Desktop-Geräte in Haushalten ohne Glasfaser-, Kabel- oder ADSL-Zugang genutzt, daher reicht der Einwand „Auf Mobilgeräte wird nicht gepusht“ nicht aus

Was Google hätte tun sollen

  • Wenn Chrome das Nano-Modell erstmals herunterladen will, sollte ein klarer Dialog angezeigt werden: „Chrome möchte für die folgenden Funktionen eine 4-GB-AI-Modelldatei auf Ihr Gerät herunterladen. Erlauben Sie dies oder entscheiden Sie später.“
  • Es hätte als Pull-Modell entworfen werden sollen, sodass der Download erst dann erfolgt, wenn der Nutzer eine AI-Funktion erstmals aufruft, und der Funktionsaufruf selbst als Zustimmung gilt
  • Unter chrome://settings/ sollten die von Chrome heruntergeladenen AI-Modelldateien, ihre Größe, die von ihnen betriebenen Funktionen sowie eine Schaltfläche „Remove and stop downloading“ pro Modell angezeigt werden, und das Entfernen sollte dauerhaft respektiert werden
  • In der Chrome-Beschreibung im Microsoft Store, im Chrome-Installer und auf der Google-Chrome-Downloadseite hätte in klarer Sprache darauf hingewiesen werden müssen, dass auf unterstützter Hardware zusätzliche Modelldateien erheblicher Größe heruntergeladen werden können
  • Wenn der Nutzer weights.bin löscht, sollte die Datei nicht erneut erzeugt werden; eine Anwendung sollte eine starke Nutzerpräferenz darüber, was auf der Festplatte vorhanden sein soll, nicht außer Kraft setzen
  • Im jährlichen ESG-Bericht von Google sollten die gesamte Bandbreite und der CO2-Fußabdruck von AI-Funktionsmodellen, die auf Nutzergeräte gepusht werden, regional offengelegt und im Kontext von CSRD als Scope-3-Emissionen der Kategorie 11 verbucht werden
  • Nutzer, die das Modell bereits ohne Zustimmung erhalten haben, sollten beim nächsten Chrome-Start darüber informiert werden, was passiert ist, den Speicherort der Datei einsehen und den Widerruf sowie die Entfernung mit einem Klick durchführen können

Abschließende Streitpunkte

  • Sowohl die Manifest-Installation von Anthropic Claude Desktop als auch der Gemini-Nano-Push in Google Chrome waren Entscheidungen, die die Geräte der Nutzer nicht als persönliche, vom Eigentümer kontrollierte Geräte behandelten, sondern als Verteilungsfläche für die Produkt-Roadmap des Anbieters
  • Der Anthropic-Fall wird als Platzierung einer Vorabberechtigung für Browser-Automatisierung auf den Geräten von etwa 3 Millionen Claude-Desktop-Nutzern dargestellt, der Google-Fall als Platzierung von 4 GB AI-Gewichten auf den Geräten von nach mittlerer Schätzung rund 500 Millionen Chrome-Nutzern
  • Beide Unternehmen betonen Sicherheit, Ethik und verantwortungsvolle AI, doch das dokumentierte stillschweigende Installationsverhalten untergräbt die grundlegende Zustimmung, die die Glaubwürdigkeit solcher Positionen trägt
  • Bytes für AI sind keine Ausnahme von den Gesetzen, die für andere Bytes gelten, die ohne Erlaubnis auf Nutzergeräten gespeichert werden, und „klein“ im Verhältnis zur Nutzerspeichergröße bedeutet nicht, dass der kumulative CO2-Fußabdruck kein realer und messbarer Klimaschaden ist
  • Ob das nächste Chrome-Update Installationen ohne Zustimmung beseitigt und auf ein explizites Opt-in umstellt, wird als Maßstab dafür dargestellt, wie Googles Position zu verantwortungsvoller AI und Nachhaltigkeit zu bewerten ist

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2 시간 전
Hacker-News-Kommentare

  • Ich halte es für einen großen Fehler, das als ein Problem zu framen, das Zustimmung erfordert
    Das ist ungefähr so seltsam, wie zu behaupten, Microsoft Word habe ohne Zustimmung ein englisches Rechtschreibwörterbuch installiert. Es ist einfach Teil der Software, und der Nutzer hat der Installation der Software und automatischen Updates zugestimmt, also fällt es in diesen Rahmen
    Ob es angemessen ist, dafür so viel Speicherplatz oder Bandbreite zu verbrauchen, kann man diskutieren, aber das ist eine praktische Debatte. Wenn man es zu einer Zustimmungsfrage macht, wirkt das unnötig reißerisch und erschwert die Diskussion

    • Es ist zusätzliche Software, nach der viele Nutzer weder gefragt haben noch sie wollten und deren Existenz sie nicht einmal kennen
      Das erinnert an die Zeit, als alte Installer voller „Promotionen“ wie Toolbars waren. Jetzt hat man unerwünschte Software einfach vertikal integriert und den Zwischenhändler entfernt
      Ein englisches Wörterbuch mit vielleicht 100 KiB und 4 GiB sind völlig verschiedene Größenordnungen. Ohne nachzufragen 4 GiB Speicherplatz zu belegen, ist so oder so schlechtes Verhalten. Wenn Microsoft Word wegen einer Funktion wie einem Wörterbuch plötzlich 4 GiB mehr verbrauchen würde, gäbe es vielleicht nicht denselben Widerstand wie bei KI, aber kaum jemand würde das wirklich akzeptieren, eher stillschweigend hinnehmen
    • Wenn man Kameras und Mikrofone in Geräte einbaut, die sie nicht brauchen, dann a) steigen die Produktpreise für alle wegen Funktionen, die vor allem Unternehmen nützen, b) gibt es selbst dann böswillige Akteure, wenn man Unternehmen wohlwollend betrachtet, und c) gibt es ohnehin keinen Grund, Unternehmen als gutwillige Akteure zu sehen
      Ein KI-Modell in den Browser zu packen, wirkt allmählich so, als würde man nicht nur Smart Glasses, sondern jede Brille mit einer Kamera ausstatten. So zu tun, als sei das normal oder unproblematisch, ist offenkundig abgestimmte Rationalisierung und normalisiert den Überwachungsstaat. Das Ende ist absehbar. Browserbasierte Modelle werden am Ende die Randressourcen der Rechner der Nutzer nutzen, um den Unternehmen Cloud-Kosten zu sparen, und für teureres, invasiveres Profiling eingesetzt werden
    • Falsch ist, rechtliche Zustimmung à la „steht in den Nutzungsbedingungen“ mit echter Zustimmung gleichzusetzen
      Alle, insbesondere Google, wissen, dass 99 % der Nutzer die Nutzungsbedingungen nicht lesen. Ob das vor Gericht einklagbar wäre, ist eine andere Frage, aber man kann darüber schreiben, darüber informieren und Google schlechte Publicity verschaffen. Dann könnte Zustimmung vielleicht eher echte Zustimmung als bloß konstruierte Zustimmung werden
    • Ich denke, das größte Problem ist das Fehlen von Zustimmung
      Es wirkt, als wolle man das nicht so framen. Es ist bei moderner Software üblich, problematische Teile oder Verhaltensweisen zu ignorieren, und genau darüber beschwert sich dieser Artikel tatsächlich
    • Nach derselben Logik wäre es dann wohl auch in Ordnung, wenn Chrome plötzlich einen Bitcoin-Miner enthalten würde
      Das wirkt eher wie ein Unterschied im Ausmaß als in der Art

  • Wenn in Chrome die Flags #optimization-guide-on-device-model und #prompt-api-for-gemini-nano aktiviert sind, kann jede Webseite aus Gründen wie Origin Trial oder Early Stable Release auf die neue Prompt API zugreifen und mit LanguageModel.create() den einmaligen Download eines etwa 2,7-GiB-CPU-Modells oder eines etwa 4,0-GiB-GPU-Modells starten
    https://developer.chrome.com/docs/ai/prompt-api
    Wenn Chrome 148 morgen erscheint, wird dieses Verhalten auf dem Desktop standardmäßig aktiviert sein
    Um den Download durchzuführen, muss auf dem Volume mit dem Chrome-Datenverzeichnis 22 GiB freier Speicher vorhanden sein und im temporären Verzeichnis mindestens das Doppelte der Modellgröße frei sein

    • Erst haben die Tabs den RAM genommen, aber weil genug RAM da war, hat sich niemand beschwert
      Dann haben sie den Chip genommen, aber weil es ohnehin Dark Silicon war, hat sich niemand beschwert
      Und dann haben sie die HDD genommen
    • Das schwerwiegendere Problem ist, dass Google modellgewichtsdateien pro Benutzer installiert
      Das heißt, für jeden Betriebssystemnutzer auf demselben Gerät belegt Chrome noch einmal 4 GB zusätzlich
    • Schon die in Chrome enthaltene Summarizer API kann einen Download eines 2-GB-Modells auslösen
      Summarizer.create()
      [0]: https://developer.chrome.com/docs/ai/summarizer-api#model-do...
      Die anderen eingebauten KI-APIs scheinen feinabgestimmte Modelle zu verwenden, also ist das wohl ein anderes Modell als das der Prompt API
    • Ein Problem ist, dass manche noch immer ländliche verbindungsabhängige Tarife pro GB nutzen
      In Montana zahlt man oft rund 0,25 $ pro GB unabhängig vom Datenvolumen, also 1 Dollar Mehrkosten pro Desktopgerät. Für öffentliche Schulbezirke mit Hunderten von Computern ist das eine durchaus relevante Belastung
    • Wenn man in about:flags nach model sucht, tauchen mehrere Einträge auf
      #omnibox-ml-url-scoring-model
      #omnibox-on-device-tail-suggestions
      #optimization-guide-on-device-model
      #text-safety-classifier
      #prompt-api-for-gemini-nano
      #writer-api-for-gemini-nano
      #rewriter-api-for-gemini-nano
      #proofreader-api-for-gemini-nano
      #summarizer-api-for-gemini-nano
      #on-device-model-litert-lm-backend
      Es gibt auch Gemini-bezogene Dinge, die bei der Modellsuche nicht auftauchen: #skills. Vielleicht ist das gemeint mit „gemini in chrome“
      Eine Option, die gesamte KI pauschal zu deaktivieren, scheint es nicht zu geben. Dass Mozilla zunehmend von KI besessen ist, gefällt mir auch nicht, aber immerhin gibt es dort eine oberste Option, um alle KI-Funktionen abzuschalten. Chrome lasse ich manchmal nur noch zu Testzwecken installiert

  • Irgendwo gibt es bestimmt UX-Metriken, die zeigen, dass Nutzer eine Funktion eher länger ausprobieren, wenn der Modelldownload schon im Voraus erfolgt ist, statt dass sie erst auf einen großen Download warten müssen

  • Auf einem NFS-Home-Dateiserver werden zusätzliche 4 GB pro Benutzer ein riesiger Albtraum sein. Wir haben Tausende von Studenten
    Auf Windows-Lab-Rechnern landet die Datei in AppData\\Local, das aus betrieblichen Gründen nicht umgeleitet wird. Also muss man entweder die Profile liegen lassen und aufsummieren lassen oder wie üblich die Profile löschen und jedes Mal erneut herunterladen
    Ich bin dagegen, dass ein KI-Modell unerwartet 4 GB aufbläht, aber selbst dann wäre mir lieber, es würde einmal systemweit installiert. Dann wären es 4 GB pro Windows- oder Linux-Lab-Gerät statt mindestens 4 TB zusätzlicher Last auf dem NFS-Server und 4-GB-Downloads pro Benutzer und Gerät im Windows-Lab

    • Aus Sicht eines anderen Systemadministrators freue ich mich, dass jemand an solche praktischen Aspekte denkt
      Google hätte es besser machen müssen. Chrome hat über sein Update-Programm ohnehin lokale Administratorrechte, also hätte es eine einzige geräteweite Kopie installieren sollen
      Wahrscheinlich gilt es als uncool, an die Leute zu denken, die ganz normale Dinge wie Desktop-Infrastruktur und Dateiserver am Laufen halten. Diese rücksichtslose Ignoranz, als hätte man mit keinem einzigen Unternehmensadmin aus der Praxis gesprochen, wirkt fast böswillig
    • Warum nicht einen leichtgewichtigen Browser vorschreiben und Chrome verbieten?

  • Ich habe mir das auf einem Linux-Desktop angesehen und es so gelöst: die stillen 4-GB-KI-Modelldateien und die KI von Chrome entfernt
    In Chrome zu chrome://flags gehen
    Nach den folgenden Einträgen suchen und sie deaktivieren:
    Enables optimization guide on device
    Prompt API for Gemini Nano
    AI Mode
    DevTools öffnen: F12 oder Ctrl+Shift+I
    Auf die Einstellungen, also das Zahnradsymbol, klicken
    Zu AI Innovations gehen und das Häkchen bei Enable AI assistance entfernen
    Unter Linux kann man in der bash-Shell Folgendes tun; dadurch gehören die Datei/Verzeichnisse root statt meinem Benutzer und Chrome kann sie nicht erneut herunterladen
    sudo rm -rf ~/.config/google-chrome/OptGuideOnDeviceModel
    sudo rm -rf ~/.config/googlechrome/Default/OptGuideOnDeviceModel
    sudo touch ~/.config/google-chrome/OptGuideOnDeviceModel
    sudo chmod 400 ~/.config/google-chrome/OptGuideOnDeviceModel
    sudo touch ~/.config/google-chrome/Default/OptGuideOnDeviceModel
    sudo chmod 400 ~/.config/google-chrome/Default/OptGuideOnDeviceModel
    Falls man das früher schon einmal gemacht hat und es also bereits existiert, sicherstellen, dass root Eigentümer ist:
    sudo chown root:root ~/.config/google-chrome/OptGuideOnDeviceModel
    sudo chown root:root ~/.config/google-chrome/Default/OptGuideOnDeviceModel
    Zur Kontrolle auflisten:
    ls -l ~/.config/google-chrome/OptGuideOnDeviceModel
    ls -l ~/.config/google-chrome/Default/OptGuideOnDeviceModel

    • DevTools verwendet serverseitige Modelle und nur nach explizitem Opt-in

  • Schätzungen von 2018 wie „Energieintensität der Netzwerkdatenübertragung: 0,06 kWh pro GB“ dürften heute leicht um den Faktor 10 danebenliegen
    Auch rechtliche Argumentationen scheinen kaum weit zu tragen, wenn sie nicht von tatsächlichen Juristen kommen. Fachbegriffe werden zu leicht missverstanden. Das ist derselbe Grund, warum es riskant ist, LLMs als Anwälte zu benutzen
    Nebenbei: Der ganze Text las sich stilistisch wie von einem LLM geschrieben. Das heißt nicht, dass er es sicher war, eher nur, dass es sich so anfühlte

    • Das ist wie bei der Person, die Claude Code als Spyware bezeichnet hat, weil es ein paar Windows-Registry-Schlüssel erstellt. Das kann ich schwer ernst nehmen
      [0] https://www.thatprivacyguy.com/blog/anthropic-spyware/
    • 0,04–0,1 kWh/GB ergeben selbst für 2018 keinen Sinn
      Gigabit-Internet entspricht 125 MB/s, und bei diesen Werten würde man beim Herunterladen 18–45 kW Strom verbrauchen. Das ist völlig absurd
    • Du glaubst, dass die Energiekosten der Übertragung in 8 Jahren um den Faktor 10 gesunken sind? Warum?
    • Stimme zu. Und dann den Klimaeffekt von KI-Modelldownloads zu kritisieren, während direkt am Anfang des Artikels ein KI-generiertes Bild steht, ist der Gipfel der Heuchelei. Den Rest wollte ich gar nicht mehr lesen

  • Die Formulierung „installiert still und heimlich“ ist irreführend
    Es geht darum, Dateien in das Paket aufzunehmen, die mit einer Softwarefunktion zusammenhängen. Ich nutze Chrome aus vielen Gründen nicht, aber für so etwas gesondert Zustimmung einzuholen, ist weder Standard noch zu erwarten

    • Trotzdem gibt es Präzedenzfälle dafür, dass Software die Installation von „Zusatzfunktionen“ oder Utility-Paketen ankündigt oder abfragt, den Speicherbedarf anzeigt und sogar den Installationsort wählen lässt
      Kreativsoftware macht so etwas ständig
      Google Chrome könnte ohne Weiteres etwas Ähnliches tun. Google scheint aber wohl zu wissen oder zu ahnen, dass dann deutlich weniger Bloatware installiert würde
    • „Forscher entdeckten, dass Chrome still und heimlich alles kopiert, was man online ansieht, und auf der Festplatte speichert“ klingt düster und beängstigend, beschreibt aber auch ziemlich genau, wie ein Cache funktioniert
      Es gibt genug beängstigende und schlechte KI-Themen, über die man diskutieren kann, ohne mit Angstmacherei zu arbeiten
    • Das Wort „still“ erscheint mir passend
      Früher gab es keine derart großen Speicheranforderungen, der neue Funktionscharakter wirkt völlig optional, und es läuft still im Rahmen eines normalen Upgrades ab
    • Ist es wirklich okay, wenn eine 1-GB-Chrome-Installation auf allen Geräten plötzlich zu einer 5-GB-Chrome-Installation wird, ohne dass die Nutzer es wollen oder auch nur wissen?
    • Es gibt momentan zu viele Schlagzeilen darüber, dass etwas „still und heimlich“ passiert
      Wirkt gerade wie ein seltsamer Trend

  • Wenn Gemma4 E2B ein gutes Modell wäre, könnte es das vielleicht wert sein, aber in unseren Tests war es ohne zusätzliches Training und Fine-Tuning ehrlich gesagt völlig nutzlos
    Diese Anwendungsfälle passen ohnehin nicht zur normalen Nutzung eines Webbrowsers, und ich sehe nicht, dass sie es wert wären, eine derart breite und teure Infrastruktur zu unterstützen
    Gemma 4 E4B ist ein deutlich besseres Modell, aber zu groß, um es überall herunterzuladen und auszuführen
    Ich halte das für eine vorschnelle Entscheidung. Google investiert viel Aufwand, um ein Modell auszurollen, das bei allen einen sehr schlechten ersten Eindruck davon hinterlassen könnte, was On-Device-Modelle leisten können, und das könnte langfristige Folgen haben. Besser wäre es, damit zu warten, bis kleinere und bessere Modelle da sind

    • Die meisten Nutzer werden nicht einmal wissen, dass es das gibt
      Webentwickler werden diese Funktion den Nutzern gegenüber sichtbar machen. Ob das Modell liefert, was benötigt wird, müssen die Entwickler beurteilen
      Wenn solche Web-APIs Teil von Standards werden sollen, ist es gut, überhaupt etwas zum Ausprobieren zu haben. Das könnte wohl auch bedeuten, dass alle Browseranbieter am Ende irgendetwas implementieren
    • Ich frage mich, wie sich ein schlechter erster Eindruck von On-Device-Modellen auf den Wettbewerb zwischen gehosteter generativer KI und lokalen Modellen auswirken wird

  • Wie schwer wäre es gewesen, einfach mit einer kurzen Meldung zu warnen und ein Opt-out anzubieten
    Die meisten hätten es ohnehin nicht gelesen und einfach auf OK geklickt, und Google hätte wenigstens so tun können, als würden sie sich um die Nutzer kümmern. Vielleicht hat man Gegenwind erwartet und die Nachricht war am Ende genau der „Kompromiss“, auf den man hinauswollte

    • Google will nicht, dass Nutzer Opt-out wählen
      Dann kann man den Aktionären erzählen, Chrome sei „AI Powered“
      Bei Google sind die Nutzer nicht einmal Kunden
    • Ein lokales KI-Modell an sich kann willkommen sein, aber wenn es an Chrome gebunden läuft, würde ich erwarten, dass am Ende fast alle Daten doch bei Google landen
      Sie lesen schließlich einfach E-Mails. Kann man bei so einer Firma irgendeine Form von Anstand erwarten? Es ist ein Werbegeschäft
      Das Schlimme ist, dass Leute immer noch Gmail benutzen
    • Man versucht, die Prompt API ohne Zustimmung der übrigen Web-Standardisierungsgremien als De-facto-Standard durchzudrücken
      Die Aktivierung per Standard hilft diesem Ziel
    • Wahrscheinlich denkt Google, der Anteil der Nutzer, denen das wichtig ist, sei zu klein, um die Kosten einer Warnmeldung zu rechtfertigen
      Schon die Existenz einer Warnung würde andeuten, dass es hier etwas gibt, worüber man sich Sorgen machen könnte, und Google wird diese Sichtweise wahrscheinlich weder unterstützen noch akzeptieren
    • Weil wir nicht das bekommen sollen, was wir wollen, sondern das, was die Technologieherrscher wollen, dass wir bekommen