- Die Kontroverse um die neue AI-Funktion von Dropbox wurde durch die Sorge verstärkt, dass anvertraute persönliche Dateien für das Training von OpenAI verwendet werden könnten; Dropbox wies dies entschieden zurück
- Die Funktion umfasst On-Demand-Zusammenfassungen und auf Retrieval-Augmented Generation (RAG) basierendes „Chatten mit Daten“, doch bei AI-Privatsphäre ist mit vagen Erklärungen kaum Vertrauen zu gewinnen
- Ein AI-Schalter, der standardmäßig aktiviert zu sein schien, zusammen mit dem Grundsatzhinweis „nicht ohne Zustimmung zum Training verwendet“, konnte bei Nutzern Verwirrung über den Umfang der Zustimmung auslösen
- Auch wenn OpenAI sagt, dass „über die API übermittelte Daten nicht zum Training verwendet werden“, glauben das viele Nutzer nicht; dadurch entsteht eine ähnliche Struktur des Misstrauens wie beim Glauben an Facebooks Mikrofon-Abhörwerbung
- AI-Unternehmen müssen Vertrauen durch transparente Erklärungen zu Trainingsdaten und Verarbeitungsweisen wiederherstellen, und lokale Modelle werden angesichts von Privatsphäre-Sorgen zu einer attraktiveren Alternative
Der Kern der Kontroverse um Dropboxs AI-Funktion
- Nachdem Dropbox neue AI-Funktionen hinzugefügt hatte, wurde die Kritik lauter, dass persönliche Dateien an OpenAI übermittelt und zum Modelltraining verwendet werden könnten
- Die zentrale Sorge war, ob private, in Dropbox gespeicherte Dateien als Trainingsdaten für OpenAI genutzt werden; Dropbox bestritt dies entschieden
- Die Funktionen bestehen aus On-Demand-Zusammenfassungen und Retrieval-Augmented Generation (RAG) wie „Chatten mit Daten“
- Bei Diensten, die viele persönliche Daten speichern, kann schon eine leicht unklare Erklärung zur AI-Privatsphäre schnell Vertrauen zerstören
Verwirrung durch Zustimmungs- und Einstellungsformulierungen
- In den AI principles von Dropbox steht, dass Kundenvertrauen und Datenprivatsphäre die Grundlage bilden und Kundendaten nicht ohne Zustimmung für das Training von AI-Modellen verwendet werden
- In den Kontoeinstellungen gab es einen AI-bezogenen Schalter, und selbst bei Konten, bei denen er nie bewusst aktiviert wurde, wirkte er eingeschaltet
- Etwa vier Stunden nach Veröffentlichung des Artikels funktionierte der Link zu dieser Einstellung nicht mehr
- Es ist nicht klar, ob dieser Schalter als Zustimmung zum Modelltraining zu verstehen ist
- Das Wort „Zustimmung“ wird äußerst vage, wenn es mit der Realität zusammenkommt, dass Nutzungsbedingungen oft ungelesen akzeptiert werden
- Viele Nutzer verstehen es so, dass persönliche Daten, deren Schutz sie Dropbox anvertraut haben, in den Trainingsprozess von OpenAI einfließen
Nutzer, die OpenAI nicht vertrauen
- Der Text in den Dropbox-Einstellungen erläutert über den Drittpartner OpenAI: „Daten werden niemals für internes Modelltraining verwendet und innerhalb von 30 Tagen von Drittservern gelöscht“
- Viele Nutzer glauben jedoch nicht, dass OpenAI die Daten nicht zum Training verwendet
- Die Kontroverse geht damit über ein Dropbox-Einstellungsproblem hinaus und wird zu einer allgemeinen Vertrauenskrise rund um AI
- Die Wahrnehmung, „OpenAI trainiert mit allen Daten, die es sehen kann“, hat eine ähnliche Stellung wie der Glaube, „Facebook hört über das Mikrofon des Handys Gespräche mit und zeigt darauf basierend Werbung“
Vergleich mit der Facebook-Mikrofon-Abhörverschwörung
- Die Theorie, dass Facebook über das Mikrofon des Handys Gespräche mithört und daraufhin Werbung anzeigt, gibt es schon lange
- Technisch gibt es mehrere Gegenargumente
- Mobile Betriebssysteme erlauben es Apps nicht, unbemerkt auf das Mikrofon zuzugreifen
- Privatsphäre-Forscher können die Kommunikation zwischen Gerät und Facebook prüfen und das tatsächliche Verhalten nachvollziehen
- Hochwertige Spracherkennung im großen Maßstab permanent laufen zu lassen, wäre sehr teuer
- Es gibt auch nichttechnische Gegenargumente
- Facebook bestreitet dies, und falls eine Lüge auffliegen würde, wäre das Reputationsrisiko enorm
- Zu viele Menschen müssten beteiligt sein, als dass so etwas ohne Whistleblower dauerhaft verborgen bliebe
- Facebook verfügt bereits über deutlich billigere und effektivere Methoden zur Werbeaussteuerung als Mikrofonüberwachung
- Wenn man Tausende Anzeigen sieht, gibt es zwangsläufig Fälle, in denen sie zufällig zu etwas passen, das man gerade gesagt hat
- Wenn Nutzer jedoch direkt nach einem tatsächlich geführten Gespräch eine passende Anzeige sehen, verlieren solche Gegenargumente ihre Überzeugungskraft
- Die Reply All-Folge aus dem November 2017 „109 Is Facebook Spying on You?“ kam zu dem Schluss, dass Facebook nicht über das Mikrofon mithört, doch Menschen, die bereits daran glauben, lassen sich nur schwer überzeugen
Bei AI verstärkt die Blackbox das Misstrauen
- Im Facebook-Fall glauben Nutzer auf Basis persönlicher Erfahrungen zu wissen, was vor sich geht
- Bei AI ist die Lage fast umgekehrt
- Modelle sind eher eine Blackbox und werden im Verborgenen aufgebaut
- Es ist schwer zu wissen, welche Trainingsdaten verwendet wurden
- Ebenso schwer ist zu verstehen, wie sich Trainingsdaten auf das Modell ausgewirkt haben
- Nutzer verlassen sich dadurch eher auf Stimmung und Gefühl als auf Belege, und die derzeitige Stimmung rund um AI ist schlecht
Warum die Vertrauenskrise wichtig ist
- Der Verdacht, dass Unternehmen über ihren Umgang mit Privatsphäre lügen, ist äußerst ernst
- Eine Gesellschaft, in der große Unternehmen über ihre Datenverarbeitung offen lügen und damit ohne Folgen davonkommen, ist nicht gesund
- Eine wichtige Aufgabe des Staates ist es, genau das zu verhindern
- Wenn OpenAI mit Daten trainiert hätte, bei denen zugesichert wurde, dass nicht damit trainiert werde, müsste das Unternehmen vor Regulierungsbehörden erscheinen oder verklagt werden
- Wenn Facebook über das Mikrofon von Handys überwacht hätte, müsste es ebenso Ziel von Regulierung und Klagen werden
- Wenn unbegründete Verschwörungstheorien als Tatsachen geglaubt werden, kann das auch die gesellschaftliche Intoleranz gegenüber tatsächlichem rechtswidrigem Verhalten von Unternehmen schwächen
- Privatsphäre ist wichtig, wird aber leicht missverstanden
- Menschen überschätzen und unterschätzen sowohl das, was Unternehmen tun, als auch das, was technisch möglich ist
- AI-Technologie verschiebt die Grenzen des Möglichen schnell, sodass selbst für sachkundige Menschen vieles schwer zu verstehen ist
Was OpenAI und AI-Labore tun können
- Große AI-Labore könnten ihre Trainingsmethoden klarer offenlegen
- Die Kernfrage ist, was OpenAI als Trainingsdaten verwendet
- Derzeit lautet die Antwort: Das lässt sich nicht wissen; der gesamte Prozess ist sehr intransparent
- Unter solchen Bedingungen ist es schwer für Menschen, OpenAI zu glauben, wenn es sagt: „Über die API eingereichte Daten werden nicht zum Training verwendet“
- ChatGPT selbst ist noch komplizierter
- OpenAI verwendet Interaktionen mit ChatGPT zur Modellverbesserung
- Auch zahlende Kunden sind keine Ausnahme; die Ausnahme ist ChatGPT Enterprise mit „contact sales“-Preisgestaltung
- Wenn ein Nutzer ein vertrauliches Dokument in ChatGPT einfügt und um eine Zusammenfassung bittet, braucht es mehr Erklärungen dazu, wie ChatGPT-Daten für Modellverbesserungen genutzt werden, um beurteilen zu können, ob nach dem nächsten Modell-Update Teile dieses Dokuments anderen Nutzern offengelegt werden könnten
- So wie große Plattformunternehmen nach Ausfällen öffentliche Postmortems veröffentlichen, könnten auch AI-Unternehmen Vertrauen durch transparente Erklärungen zurückgewinnen
- Dan Luu hat dazu eine Liste relevanter Postmortem-Beispiele zusammengestellt
Die Chance für lokale Modelle
- Ein wiederkehrendes Muster in dieser Kontroverse ist, dass Nutzer ihre Daten lieber lokalen Modellen, die auf dem eigenen Gerät laufen, anvertrauen als Cloud-gehosteten Modellen
- Die Qualität lokaler Modelle verbessert sich stetig, und ihre Größe nimmt ab
- Mixtral-8x7b-Instruct konnte auf einem Laptop laufen und wurde als erstes lokales Modell eingeschätzt, das qualitativ ungefähr auf dem Niveau von ChatGPT 3.5 liegt
- Phi-2 von Microsoft ist ein Modell mit 2,7 Milliarden Parametern
- Viele brauchbare lokale Modelle beginnen erst bei 7 Milliarden Parametern
- Für Phi-2 wird Leistung auf modernem Niveau im Vergleich mit einigen größeren Modellen beansprucht
- Die Trainingskosten scheinen bei etwa 35.000 US-Dollar zu liegen
- Das Potenzial lokaler Modelle ist groß, doch es sollte vermieden werden, wegen falscher Privatsphäre-Sorgen die Vorteile größerer und komfortablerer gehosteter Modelle zu verlieren
Voraussetzungen für die Diskussion über AI und Privatsphäre
- Die Schnittstelle zwischen AI und Privatsphäre ist ein wichtiges Thema
- Für eine hochwertige Diskussion braucht es so viel Transparenz und Verständnis wie möglich darüber, was tatsächlich geschieht
- Wenn Unternehmensangaben nicht ohne Weiteres geglaubt werden, wird diese Diskussion noch schwieriger
- Unternehmen müssen das Vertrauen der Nutzer gewinnen und dafür sorgen, dass Nutzer verstehen, warum
1 Kommentare
Hacker-News-Kommentare
Beim Datenschutz auf Websites braucht es eine umsetzbare und rechtlich klare Definition dessen, was Einwilligung bedeutet.
Es darf nicht so aussehen, als müssten Nutzer der Datenerhebung, -verarbeitung und Weitergabe an Dritte aktiv zustimmen, während dies in Wirklichkeit bereits heimlich geschehen ist und die Einwilligung im Nachhinein nur vorgetäuscht wird.
Wenn man jemanden dazu bringt, einen Vertrag zu unterschreiben, indem man ihn täuscht, ist dieser Vertrag betrügerisch; und wenn man sagt, man werde um Erlaubnis bitten, bevor man etwas tut, dann aber stillschweigend behauptet, man habe diese Erlaubnis bereits in einem früheren Vertrag erhalten, ist das ebenfalls Betrug.
Ich weiß nicht, wann das Justizsystem so zahnlos geworden ist, aber man kann das nicht den ungeschützten Bürgern anlasten.
Nötig ist die Fähigkeit, das Recht wieder in Richtung Entflechtung von Monopolen und New-Deal-Ära zu drehen, schädlichen Einfluss zu zerschlagen und danach neu aufzubauen.
Ich habe dem Support eine WTF-Mail geschickt, werde mein Konto aber wohl kündigen. Ich kann mir keine Antwort vorstellen, die mir das irgendwie akzeptabel erscheinen lassen würde.
Große Unternehmen haben zu viel Macht und Einfluss.
Der Artikel ist insgesamt gut, aber die Analogie zwischen „mein Handy hört mich ab“ und „OpenAI kann darüber lügen, wie es meine Daten verwendet“ wirkt etwas fehlerhaft.
Für den Zugriff von Drittanbieter-Apps auf das Mikrofon des iPhones gibt es starke Kontrollmechanismen; wenn meine Daten jedoch im Klartext an Dritte weitergegeben werden, gibt es nichts Entsprechendes. Für normale Nutzer mag beides gleich wirken, aber im ersten Fall ist man immer noch geschützt.
Diese Unterscheidung mag wie Haarspalterei erscheinen, aber so zu tun, als sei der Kampf um Datenschutz und Datensouveränität der Nutzer bereits verloren, ist äußerst kontraproduktiv. Ich sehe oft, dass technisch halbwegs versierte Zyniker bei jedem neuen Missbrauch durch Unternehmen mit „das wissen wir doch längst“ reagieren und sich so verhalten, als wäre es ohnehin dasselbe, wenn man nicht seit über zehn Jahren Tails Linux nutzt, gleich sein Home-Verzeichnis zu zippen und komplett an dubiose Tech-Firmen und Datenbroker zu schicken.
Diese erlernte Hilflosigkeit untergräbt nicht nur Vertrauen, sondern vermittelt auch den Eindruck, eine bessere Welt sei unmöglich. Der Dropbox-Vorfall wirkt wie ein Beispiel dafür, dass diese Denkweise zurückgekehrt ist. Es ist wahnsinnig zu glauben, Nutzer würden sich nicht daran stören, wenn man andeutet, ihre privaten Dateien würden ungefragt an Dritte geschickt.
Zur Einordnung: Den Großteil meiner Daten hatte ich bereits aus Dropbox abgezogen und in Richtung Self-Hosting verschoben, aber gestern war der letzte Anstoß, das Konto vollständig zu kündigen. Danke, Dropbox.
Beim Facebook-Beispiel glauben die Leute anhand ihrer persönlichen Indizien zu verstehen, was vor sich geht; bei KI ist es dagegen fast das genaue Gegenteil. KI-Modelle sind seltsame Black Boxes, werden im Geheimen gebaut, und es gibt keine Möglichkeit zu verstehen, was die Trainingsdaten waren oder wie sie das Modell beeinflussen.
Ich stimme völlig zu, dass die größte aktuelle Gefahr Selbstzufriedenheit ist. Wenn Menschen falsche mentale Modelle entwickeln und dann mit den Schultern zucken nach dem Motto „so ist das eben“, wird es schwer, die realen Probleme zu verbessern.
Es gibt sicher bessere und schlechtere Optionen dafür, wem man Daten und Privatsphäre anvertraut, aber ich weiß nicht einmal, wer das sein soll oder ob es im weiteren Sinn überhaupt „vertrauenswürdige“ Stellen gibt, also handle ich unter der Annahme, niemandem vertrauen zu können.
Ich wäre gern weniger zynisch, aber mit Blick auf die letzten 10 bis 20 Jahre erscheint Zynismus völlig gerechtfertigt. Wenn diese Haltung falsch ist, wie kann man sie korrigieren?
Der Zugriff von Apps auf das Mikrofon wird vom Betriebssystem kontrolliert, und es gibt vom Betriebssystem bereitgestellte Werkzeuge, mit denen Nutzer sehen können, welche App wann das Mikrofon nutzen darf.
Cloud-Datenzugriff läuft dagegen vollständig nach dem Prinzip „vertrau mir“, und es ist bereits offengelegt worden, dass viele Unternehmen dieses Vertrauen missbraucht haben.
Ich nutze Dropbox zwar, aber alles, was ich dort ablege, ist entweder verschlüsselt oder so unkritisch, dass es auch im öffentlichen Internet landen könnte. Ich habe viel Zeit mit Self-Hosting-Lösungen verbracht, kam aber irgendwann zu dem Schluss, dass der praktische Nutzen ab einem gewissen Punkt nicht mehr groß ist und ich Zeit und Energie besser anderswo einsetze.
Dieser Beitrag wirkt auf mich etwas naiv und sehr nach „gehen wir von guten Absichten aus“
Wenn man sich ansieht, was in den letzten zehn Jahren außerhalb von AI passiert ist, fressen alle Daten wie zwanghafte Sammler. Nicht nur Google oder Facebook, die Daten in ihren Kernprodukten nutzen, sondern fast alle. Heute habe ich sogar gesehen, dass eine schwedische Traditionsrezepte-Minisite, die ich zu Weihnachten genutzt hatte, automatisch abspielende Videos und ein Dark-Pattern-Cookie-Consent-Banner hinzugefügt hat
Fast jede neue App und Website bewegt sich um diese Wirtschaftsachse herum, und ungefähr zu dem Zeitpunkt, als große Sprachmodelle stark wurden, wurden Drittanbieter-APIs plötzlich reihenweise dichtgemacht
Die heutige AI-Generation ist nicht einfach nur ein Fall davon, dass andere Player heimlich Daten wie einen Mitternachtssnack verzehren, sondern eher wie schnelle Zombies, die nach Blut und Gehirnen hungern. Das liegt auch daran, dass Daten im Produkt eine direktere Rolle spielen, und auch daran, dass die überhitzte Wettbewerbsmentalität des Tech-Venture-Capitals durch die Aussicht auf den ersten Paradigmenwechsel seit Jahrzehnten aus dem Schlaf gerissen wurde
Alle Anzeichen deuten auf Zombie-Apokalypse und Goldrausch hin, mit nachträglichem Um-Verzeihung-Bitten. Deshalb glaube ich fest, dass alle vor der unvermeidlichen Reputationskrise den Diskurs über Sicherheit und Verantwortung verstärken. Sie legen sich im Voraus Munition zurecht, um die Lage zu vernebeln
Aber die Techniker hängen herum, als hätten sie die letzten zehn Jahre nicht wirklich miterlebt, und glauben, diesmal werde es anders sein, weil AI in der Wissenschaft verwurzelt ist, weil es glänzende neue Firmen sind, weil es einen Sicherheitsdiskurs gibt, weil es scharfe Twitter-Posts von „realistischen“ Gründern gibt
Ich tue nicht so, als wüsste ich genau, was hinter den Kulissen passiert, aber ich bin lange genug dabei, um zu wissen, wie Menschen funktionieren. Und Menschen sind nicht besser geworden
Rechtlich mag das Realität sein, aber wenn man so handelt, sieht man immer noch aus wie die hässliche Seite der Tech-Branche
Der Text geht viel zu leicht darüber hinweg, dass es neben dem Training mit meinen Daten auch Datenschutzbedenken gibt
Ich arbeite beruflich damit, und Kunden unterliegen Geheimhaltungsvereinbarungen und Regulierungen dazu, wohin Informationen gehen. Ich möchte lieber einen Dienst nutzen, bei dem Daten einfach auf dem Server bleiben, statt dass es immer mehr Stellen für Datenabflüsse gibt
Ich verstehe schon grundsätzlich nicht, warum meine Daten nicht immer vollständig verschlüsselt sind und nur ich sie sehen kann. Aber die Vorstellung, dass sie ohne meine Zustimmung oder mein Interesse aktiv über das Internet geschickt werden, damit ein anderes Unternehmen sie frisst und verarbeitet, ist schrecklich
Wenn ich sie bewusst einschalte, nutze ich AI-Funktionen häufig, aber dass ein Unternehmen meine privaten Dateien ohne Zustimmung kreuz und quer durchs Internet schickt, ist verrückt
Ehrlich gesagt hat OneDrive ein Migrationstool, also habe ich mir eine Dropbox-Business-Testversion geholt und letzte Nacht automatisch alle Dateien umgezogen. Das war der letzte Tropfen nach all dem Verhalten, die Desktop-Oberfläche mit Gerümpel und Pop-ups vollzustopfen und die Ende-zu-Ende-Verschlüsselung, die ich immer wieder angefordert habe, nicht bereitzustellen
Falls man mit ein paar Klicks von Dropbox Business zu einem Office-365-OneDrive-Konto umziehen möchte, hier ist es: https://learn.microsoft.com/en-us/sharepointmigration/mm-dro...
Homomorphe Verschlüsselung könnte eine Lösung für verteiltes Computing sein, aber bis sie Realität wird, sind es noch einige Jahre. Bis dahin müssen wir in Richtung Entcloudifizierung, Rückkehr zu On-Premises und hybriden privaten Cloud-Kooperativen innerhalb vertrauenswürdiger Gruppen gehen
Ein weiterer Grund ist, den gewaltigen Vermögenstransfer von Einzelpersonen und kleinen Unternehmen hin zu Big Data zu verhindern
Es ist erfreulich, dass die Fantasie einer allmächtigen AI, die die Welt übernimmt, nachlässt und man die gewöhnlichere Realität besser versteht. AI beschleunigt nur das bereits bestehende absurde Machtungleichgewicht. Privates muss privat bleiben
Viel Glück, wenn Sie glauben, dass ein Cloud-Anbieter Ihre Interessen an erste Stelle setzt. Das hier ist Hacker News, und Vertrauen wird nicht selbstverständlich gewährt, sondern muss verdient werden
Das ist zwar keine Ende-zu-Ende-Verschlüsselung, kann aber verhindern, dass das Unternehmen verschlüsselte Daten als Trainingskorpus nutzt. Vielleicht sind Kollegen oder Familienmitglieder, die geteilte Ordner und Dateien erstellen, nicht technisch genug, um Verschlüsselung zu verstehen?
Wenn man mit Kunden Geheimhaltungsvereinbarungen hat, sollte man Dropbox ohne Ende-zu-Ende-Verschlüsselung nicht nutzen, und dasselbe gilt für OneDrive
Im Kern geht es nicht nur um die Sorge, ob persönliche Dateien in Dropbox als Trainingsdaten für OpenAI-Modelle weitergegeben werden.
Egal wofür sie verwendet werden: Ich möchte nicht, dass meine Daten irgendwohin gesendet werden, solange ich das nicht erlaubt habe.
In diesem Fall müssen wir nicht nur darauf vertrauen, ob OpenAI mit unseren Dateien trainiert, sondern auch darauf, ob sie sicher mit unseren Dateien umgehen können. Es gibt keinen Grund, daran zu zweifeln, dass die Aussage, nicht damit zu trainieren, wahr ist, aber das Problem bleibt trotzdem bestehen.
Gleichzeitig könnte es aber irgendeine Form von Monitoring der Modell-Ausgaben geben, und insbesondere wenn Retrieval-Augmented Generation (RAG) auf private Dateien angewendet wird, kann es eindeutig zu Datenschutzverletzungen kommen.
Es ist ziemlich vernünftig, nicht davon auszugehen, dass Menschen die detaillierten Bedingungen vollständig verstehen. Wahrscheinlich verstehen sie sie tatsächlich nicht, und eine Sache, die AI-Unternehmen klar gezeigt haben, ist, dass sie glauben, gewünschtes Material auf gewünschte Weise verwenden zu dürfen, unabhängig davon, ob die Urheber zugestimmt haben.
Wenn man verhindern will, dass Dritte oder Zweite die Daten lesen können, muss man sicherstellen, dass sie clientseitig Ende-zu-Ende-verschlüsselt sind.
Das bedeutet, man sollte Syncthing statt Dropbox verwenden, und Signal statt Slack oder Discord.
Zumal es in der Vergangenheit einige dokumentierte Sicherheitsprobleme gab.
Die Geschichte im Artikel über Vertrauen in Mikrofone wirkt wie ein Ablenkungsmanöver, das von einem klarer herausarbeitbaren Kern ablenkt.
Facebook nimmt buchstäblich Daten aus Apps und dem Internet, verfolgt Online-Verhalten und speist diese Daten in Modelle über dich ein. Diese Modelle sind so genau, dass sie manchmal fast vorhersagen können, was du denkst. Deshalb kommen normale Nutzer zu dem Schluss, dass über das Mikrofon mitgehört wird.
Unternehmen für große Sprachmodelle wie OpenAI und ihre Partner verwenden nahezu genau dieselben Modelle. Sie scrapen Daten aus allen möglichen Quellen, verbessern damit Modelle und monetarisieren das, indem sie die Wahrscheinlichkeit erhöhen, dass du weiter auf die gewünschten Stellen klickst.
Beim Mechanismus liegen sie technisch falsch, aber in Bezug auf den extremen Eingriff in die Privatsphäre haben sie völlig recht. Dass dieser Eingriff nicht über ein Mikrofon, sondern in Form genauer Modelle erfolgt, ist nur ein technisches Detail; der Endeffekt ist derselbe.
Ich wohne in der Nähe einer großen Universität, also wird das vermutlich über die IP-Adresse geschätzt. Gelegentlich bekomme ich auch Lexus- oder Jaguar-Werbung, das ist dann in Ordnung.
Ich glaube nicht, dass Facebook heimlich über das Smartphone-Mikrofon jemanden belauscht, aber das Argument „Wenn die Lüge auffliegt, wäre das Reputationsrisiko astronomisch“ überzeugt überhaupt nicht.
Unter den normalen, nichttechnischen US-Amerikanern, die ich kenne, ist Facebooks Ruf bereits miserabel. Die Leute haben gesehen, dass Facebook dazu beigetragen hat, den Aufstand vom 6. Januar 2021 anzuheizen, und danach jede Verantwortung vermieden und nichts repariert hat.
Wenn herauskäme, dass sie tatsächlich etwas getan haben, von dem viele ohnehin schon glauben, dass sie es wahrscheinlich tun, wäre der Reputationsschaden dadurch deutlich geringer.
Ob OpenAI oder ein anderer Großkonzern: Ich „vertraue“ nicht darauf, was sie nach eigener Aussage getan haben, tun werden oder gerade tun.
Trotzdem glaube ich nicht, dass OpenAI Dropbox-Daten ohne Zustimmung der Nutzer zum Trainieren von Modellen verwendet.
Aber darum geht es hier nicht. Das Problem sind Daten während der Übertragung. Es geht um Daten, die an Dritte geschickt werden, die sie tatsächlich lesen können; an Orte, an denen es böswillige Mitarbeiter geben kann, die Dropbox nicht kontrollieren kann; an Orte, an denen sie in Logs landen oder anderen Richtlinien unterliegen können.
Wenn ich private Daten an Dropbox schicke, darf Dropbox sie aus keinem Grund, auch nicht zur „Produktverbesserung“, ohne ausdrückliche und hinreichend informierte Zustimmung an irgendjemanden weitergeben. Ich verstehe nicht, warum das überhaupt umstritten ist.
Wenn Dropbox die Modelle selbst hostet und Nutzern, die zugestimmt haben, eine Suche per Retrieval-Augmented Generation anbietet, ist das etwas anderes.
Wenn Dropbox ohne vorherige Information aller Betroffenen die Daten sämtlicher Nutzer an Dritte sendet, ist das etwas völlig anderes – und furchtbar.
Training ist entweder Fair Use oder eben nicht. Und wachstumsstarke Silicon-Valley-Unternehmen sind nicht gerade dafür bekannt, den Geist des Gesetzes besonders gut zu respektieren.
In den Richtlinien steht sogar, dass sie sie jederzeit nach Belieben aktualisieren können.
Eine Datenschutzerklärung ist nicht einmal rechtlich bindend. Wenn du in den USA bist und keinen Vertrag mit Dropbox hast, hast du kaum Rechte; und wenn du die Rechte durchsetzen willst, von denen du glaubst, dass du sie hast, musst du vor Gericht gehen – ein System, in dem faktisch Geld gewinnt, während die Gegenseite ein Unternehmen mit Milliardenvermögen ist.
Wenn Dropbox das Vertrauen, das du ihnen entgegengebracht hast, offen missbraucht, wäre das wirklich mies und möglicherweise eine furchtbare Geschäftsentscheidung, weil niemand Dropbox je wieder Daten anvertrauen würde. Aber wenn sie eines Tages komplett böse werden und anfangen, Daten an jeden weiterzugeben, der dafür bezahlt, kannst du dagegen vermutlich kaum etwas tun.
Daten, die einem wichtig sind, sollte man nicht ohne lokales Backup und Verschlüsselung in die Cloud legen. Dann muss man sich keine Sorgen machen, was der Cloud-Anbieter damit macht oder an wen er sie weitergibt.
Stattdessen würde ich mir wünschen, dass sie meine Daten so verschlüsseln, dass sie eine solche Funktion gar nicht anbieten können. Ich möchte Datenwiederherstellung, aber allein die Tatsache, dass sie diese AI-„Funktion“ anbieten können, wirkt so, als hätten sie kaum Anstrengungen unternommen, um zu verhindern, dass böswillige Insider oder Dritte auf meine Daten zugreifen.
Die Geldstrafen sind pro offengelegtem Vorfall und pro beteiligtem Mitarbeiter sehr hoch, und auch die einzelnen Mitarbeiter, die direkt offengelegt oder geteilt haben, haften persönlich.
Deshalb bin ich sicher: Selbst wenn sie Dokumente ohne Ankündigung mit nicht offengelegten Dritten geteilt haben sollten, dann nicht „alle“. Unternehmensdaten sind wahrscheinlich sicher. Solche Verträge werden vor der Unterzeichnung sehr gründlich geprüft.
Eine Vertrauenskrise der KI?
Erst recht, nachdem es so aussah, als seien Vorstand und CEO eines Unternehmens wegen Vorwürfen von Lügen oder Manipulation entlassen bzw. ausgetauscht worden, während niemand genau weiß, worum es eigentlich ging?
Wenn Dropbox Nutzerdaten scannt und daraus abgeleitete Daten erstellt, dann sind diese „abgeleiteten“ Daten nicht mehr „Nutzerdaten“, sondern Dropbox-Daten und können geteilt werden. Vielleicht sind sie nur statistischer Natur und nicht direkt mit einzelnen Nutzern verbunden, aber ist das nicht genau Trainingsdaten? Funktioniert es nicht ursprünglich genau so? Könnten sie dann nicht zum Training von KI-Modellen geteilt werden?
Das ist keine Lüge, sondern Wortklauberei. Nein, es ist unethisches Verhalten, und es ist zum Standard großer Tech-Unternehmen geworden.
Ich habe in diesem Streit keine Interessen. Ich stelle mich weder auf die Seite von Altman noch auf die von OpenAI. Und ich habe erhebliche Bedenken, wohin diese schöne neue Welt uns führt. Ich weiß auch nicht, ob es eine verlässliche Möglichkeit gibt, von diesem Karussell abzusteigen, egal wie unattraktiv das Ziel ist.
Das hier beschriebene Verhalten von Dropbox ist nur ein weiterer Punkt in einer sehr langen Reihe von Vertrauensbrüchen durch Tech-Unternehmen.
In dem Beispiel des Autors sendet Dropbox Daten nur dann an OpenAI, wenn der Nutzer explizit eine AI-bezogene Funktion wie das Zusammenfassen von Dokumenten ausführen lässt. Die Gegenreaktion scheint aber ohne Belege anzunehmen, dass massenhaft die Dokumente von Menschen gescannt und hochgeladen werden.
Unethisches Verhalten gibt es bei AI-Unternehmen ganz sicher. Persönlich enthalte ich mich der Einschätzung, ob der Anteil höher oder niedriger ist als die Grundrate unethischen Verhaltens in der allgemeinen Bevölkerung. Wenn man über schlechtes Verhalten sprechen will, sollte man jedenfalls konkrete Beispiele mit zitierbaren Belegen verwenden, statt Angst zu schüren.
Menschen, die AI-Unternehmen nicht vertrauen, dürften bei vielen Unternehmen verschiedenster Branchen, Non-Profit-Organisationen und sogar Regierungsbehörden ähnlich empfinden.
Je nachdem, wen man fragt, scheint es ein größeres Vertrauensproblem zu geben, das weit über AI-basierte Unternehmen hinausreicht. Deshalb wirkt es wie eine unmögliche Aufgabe außerhalb des Einflussbereichs dieser Unternehmen, nur von diesem speziellen Bereich zu verlangen, gegen das Misstrauen ihnen gegenüber anzukämpfen – denn das hieße, Misstrauen aus allen Richtungen zu begegnen.
Ich weiß nicht genau, was die Antwort auf dieses Problem ist, ob es überhaupt ein echtes Problem ist, oder wohin wir steuern, wenn sich ein solcher allumfassender Zynismus auf alles und jeden ausbreitet. Vielleicht sind wir einfach dazu verflucht, in interessanten Zeiten zu leben.
Unsere gesamte Branche missbraucht Vertrauen in einem unglaublichen Ausmaß, und es gibt keine Anzeichen dafür, dass sich das in absehbarer Zeit ändern wird.