- Laut einem Tweet von Kevin Bankston liest Googles Gemini-AI-Dienst private Drive-Dokumente ohne Zustimmung der Nutzer
- Das ist eines Unternehmens wie Google nicht würdig, und es gibt offenbar keinerlei Kontrolle über sensible persönliche Daten
- Es ist kein gutes Zeichen für künftige Datenschutzprobleme infolge der erzwungenen Einführung von AI
Was genau passiert hier?
- Weder das Google-Supportteam noch Gemini AI wissen genau, was vor sich geht, aber Kevin Bankston stellt einige Theorien auf
- Technisch scheint es nicht nur in Google Docs, sondern in ganz Google Drive stattzufinden
Was ist die Ursache dieses Problems?
- Laut Gemini AI müssten die Datenschutzeinstellungen, die Gemini bekannt gemacht werden sollen, öffentlich verfügbar sein, was jedoch nicht der Fall ist
- Es sieht so aus, als würde die AI entweder „halluzinieren (lügen)“ oder es gäbe eine Fehlfunktion in einem internen System auf Googles Servern
- Selbst wenn diese privaten Daten nicht für das Training von Gemini AI verwendet werden, wirkt das alles nicht gut
Das Problem mit dem von Bankston entdeckten Einstellungs-Schalter
- Die Gemini-Zusammenfassungsfunktion war bereits deaktiviert
- Sie befand sich an einem völlig anderen Ort als die Webseite, auf die der Gemini-Bot anfangs verwiesen hatte
In Bankstons Fall scheint das Problem auf Google Drive beschränkt zu sein
- Es tritt zumindest erst auf, nachdem bei einem Dokument einmal auf die Gemini-Schaltfläche geklickt wurde
- Ein passender Dokumenttyp (in diesem Fall PDF) löst danach künftig automatisch Google Gemini für alle Dateien desselben Typs aus, die in Google Drive geöffnet werden
- Die Aktivierung von Google Workspace Labs im Jahr 2023 könnte die Ursache sein. Dadurch könnten die eigentlich vorgesehenen Gemini-AI-Einstellungen ignoriert werden
Selbst wenn dieses Problem nur Nutzer von Google Workspace Labs betrifft, ist es ein gravierender Nachteil
- Der Preis dafür, beim Testen neuer Technologien geholfen zu haben
- Gerade bei potenziell sensiblen Informationen bleibt die Einwilligung der Nutzer auf granularer Ebene wichtig
- Google ist diesem Prinzip nicht gerecht geworden und hat damit zumindest einen Teil seiner Nutzerbasis vollständig im Stich gelassen
Meinung von GN⁺
- Das Sammeln und Analysieren persönlicher Informationen ohne Zustimmung der Nutzer ist ein schwerwiegender Eingriff in die Privatsphäre. Das gilt umso mehr bei sensiblen Daten wie Steuererstattungen
- Mit dem Fortschritt der AI-Technologie könnten solche Probleme noch gravierender werden. Unternehmen sollten dem Schutz der Privatsphäre ihrer Nutzer höchste Priorität einräumen
- Für Nutzer, die an Beta-Testprogrammen wie Google Workspace Labs teilnehmen, sind bessere Schutzmechanismen und mehr Transparenz nötig
- Bei der Einführung von AI-Technologien ist es wichtig, die Zustimmung und Wahlfreiheit der Nutzer zu respektieren. Ein erzwungener Ansatz führt zum Verlust des Nutzervertrauens
- Google sollte diesen Vorfall zum Anlass nehmen, die Datenschutzrichtlinien seiner Dienste einschließlich Gemini AI zu überprüfen und die Kommunikation mit den Nutzern zu verbessern
Noch keine Kommentare.