Vertrauenskrise bei Künstlicher Intelligenz

 (simonwillison.net)
1 Punkte von GN⁺ 2023-12-16 | 1 Kommentare | Auf WhatsApp teilen

Misstrauen gegenüber den neuen AI-Funktionen von Dropbox

  • Dropbox hat neue AI-Funktionen hinzugefügt.
  • Diese Funktionen stehen in der Kritik, Daten an OpenAI zu senden.
  • Dropbox bestreitet, dass persönliche Dateien für das Training von Modellen verwendet werden.

Wichtige Details

  • Dropbox verfügt über ein Dokument mit dem Grundsatz, Kundendaten nicht ohne Zustimmung der Kunden für das Training von AI-Modellen zu verwenden.
  • In den Einstellungen gibt es ein verstecktes Kontrollkästchen, bei dem unklar ist, ob Nutzer tatsächlich zugestimmt haben.

Menschen, die OpenAI nicht vertrauen

  • OpenAI, der Drittpartner von Dropbox, erklärt, die Daten nicht für internes Modelltraining zu verwenden und sie innerhalb von 30 Tagen zu löschen.
  • Die Menschen glauben den Aussagen von OpenAI nicht und erleben eine Vertrauenskrise gegenüber AI.

Facebook belauscht dich nicht über dein Mikrofon

  • Die Theorie, Facebook höre über das Mikrofon der Nutzer mit und zeige darauf basierend Werbung an, lässt sich aus technischen und nichttechnischen Gründen leicht widerlegen.
  • Trotzdem glauben viele Menschen auf Grundlage eigener Erfahrungen solchen Behauptungen nicht.

Das ist wirklich wichtig

  • Vertrauen ist wichtig, und es ist ein schwerwiegender Vorwurf, wenn Unternehmen beim Umgang mit persönlichen Daten nicht die Wahrheit sagen.
  • Die Aufgabe des Staates ist es, dafür zu sorgen, dass so etwas nicht passiert.

Was wir tun können

  • Große AI-Labore können das Vertrauen verbessern, indem sie Informationen über ihre Trainingsdaten offenlegen.
  • Interaktionen mit ChatGPT werden zwar zur Verbesserung des Modells verwendet, aber es fehlen Details dazu, wie genau das geschieht.

Chance für lokale Modelle

  • Menschen vertrauen lokalen Modellen, die auf ihren eigenen Geräten statt in der Cloud laufen, stärker.
  • Die Qualität lokaler Modelle verbessert sich, während ihre Größe sinkt.

Meinung von GN⁺

  • Die Schnittstelle zwischen AI und Datenschutz ist ein wichtiges Thema, das eine transparente Diskussion erfordert.
  • Das Misstrauen gegenüber den Aussagen von Dropbox und OpenAI entsteht aus mangelndem Verständnis der Technologie und fehlendem Vertrauen.
  • Dieser Text ist interessant, weil er die schnelle Entwicklung der AI-Technologie und die damit verbundene Bedeutung des Datenschutzes hervorhebt und erklärt, warum transparente Kommunikation auf Basis von Verständnis und Vertrauen notwendig ist.

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2023-12-16
Hacker-News-Kommentare

  • Der Screenshot stammt direkt aus meinem Account. Er ist auf „Ein“ gestellt, aber ich habe das nicht selbst aktiviert.

    • Im Zusammenhang mit dem Datenschutz auf Websites gibt es auch eine Krise der „Einwilligung“. Wir brauchen eine rechtlich durchsetzbare Definition von Einwilligung, und sie sollte nicht bedeuten, dass Nutzer einer Weitergabe ihrer Daten an Dritte aktiv zustimmen müssen. Guter Artikel, aber die Analogie zwischen „Mein Telefon hört mich ab“ und „OpenAI könnte darüber lügen, wie es meine Daten nutzt“ ist etwas fehlerhaft. Eine strenge Kontrolle von Drittanbieter-Apps mit Zugriff auf das iPhone-Mikrofon ist nicht dasselbe wie die Weitergabe von Daten an Dritte. Für Laien mag das gleich erscheinen, tatsächlich sind wir aber vor Ersterem geschützt. So zu tun, als sei der Kampf um die Privatsphäre und Datensouveränität der Nutzer bereits verloren, ist sehr unproduktiv. Man sieht oft, dass einigermaßen technikaffine Menschen auf den Missbrauch neuer Unternehmen mit einer Haltung von „alte Nachrichten“ reagieren. Diese Leute sollten ein besseres Beispiel geben. Diese Ohnmacht untergräbt Vertrauen und vermittelt nicht den Eindruck, dass eine bessere Welt möglich ist. Der Fehler von Dropbox scheint genau aus dieser Denkweise zurückzukommen: dass Nutzer sich nicht daran stören würden, wenn wir ihre privaten Dateien ohne Nachfrage an Dritte schicken. Ich habe den Großteil meiner Daten bereits aus Dropbox herausgezogen und hatte gestern das Bedürfnis, Dropbox endgültig zu kündigen. Danke, Dropbox!

  • Dieser Beitrag wirkt etwas naiv und nach „gutem Glauben“. Schau dir an, was in den letzten zehn Jahren außerhalb von AI passiert ist: Alle konsumieren Daten wie zwanghafte Sammler. Nicht nur Google und Facebook, sondern wirklich alle. Heute habe ich entdeckt, dass eine Mini-Website über traditionelle schwedische Küche Auto-Play-Videos, Cookie-Consent-Banner mit Dark Patterns usw. hinzugefügt hat. Fast jede neue App/Website ist um diese wirtschaftliche Achse herum aufgebaut. Und in dem Moment, als LLMs stark wurden, begann plötzlich eine koordinierte Abriegelung von Drittanbieter-APIs. Jetzt haben wir ChatGPT/OpenAI und ihre Konkurrenten. Wenn andere Akteure Daten wie heimliche Mitternachtssnacks verschlingen, dann ist die aktuelle Generation von AI eher wie schnelle, agile Zombies, die nach Blut und Gehirnen lechzen. Das liegt daran, dass Daten im Produkt eine direktere Rolle spielen, aber auch daran, dass die typische Hype-Train-Wettbewerbsmentalität der Tech-VCs zum ersten Mal seit Jahrzehnten wieder aufgewacht ist. Alles deutet auf Zombie-Apokalypse/Goldrausch/später um Vergebung bitten usw. hin. Deshalb glaube ich fest daran, dass sie sich (alle) stärker auf Sicherheits-/Verantwortungsrhetorik konzentrieren. Sie legen sich schon im Voraus Munition zurecht, um das Wasser zu trüben, bevor die unvermeidlichen PR-Krisen um ihren Ruf kommen. Währenddessen sitzen wir Techniker herum, als hätten wir die letzten zehn Jahre nicht intensiv erlebt, und denken, diesmal sei es anders, weil AI ein akademisches Fundament habe, wegen der schicken neuen Firmen, wegen der Sicherheitsrhetorik, wegen der kantigen Twitter-Äußerungen von Gründern, die „mit beiden Beinen auf dem Boden stehen“. Ich weiß nicht genau, was passiert, aber ich kenne Menschen lange genug, um zu wissen, wie sie funktionieren. Und sie sind nicht besser geworden.

  • Ich denke, dein Artikel übersieht Datenschutzprobleme, die über das Training auf meinen Daten hinausgehen.

    • Als Berufstätiger habe ich Kunden, die Vertraulichkeitsvereinbarungen und Vorschriften dazu einhalten müssen, wohin meine Informationen gehen. Ich bevorzuge Dienste, bei denen meine Daten auf dem Server bleiben. Ich verstehe nicht, warum meine Daten nicht immer vollständig verschlüsselt sind und nur von mir eingesehen werden können, aber dass sie ohne meine Zustimmung oder mein Interesse über das Internet an andere Unternehmen übertragen und dort verarbeitet werden, ist furchtbar. Wenn ich AI-Funktionen nutze, stimme ich dem zu, aber meine privaten Dateien ohne meine Zustimmung durchs ganze Internet zu schicken, ist verrückt. Ehrlich gesagt hat OneDrive ein Migrationstool, und ich habe eine Testversion von Dropbox Business erhalten und letzte Nacht alle Dateien automatisch verschoben. Das ist der letzte Tropfen, nachdem dieses Unternehmen immer wieder Dinge tut, um die ich nicht gebeten habe, und Funktionen nicht liefert, die ich ständig verlange ... Ende-zu-Ende-Verschlüsselung. Falls jemand mit wenigen Klicks von Dropbox Business zu einem Office-365-OneDrive-Konto migrieren will: hier ist es: [Link zum Migrationstool]

  • Das Kernproblem hier ist, dass Leute befürchten, dass private Dropbox-Dateien von OpenAI für das Modelltraining verwendet werden.

    • Das ist nur ein Teil des Problems. Ich will nicht, dass meine Daten irgendwohin geschickt werden, außer ich habe es genehmigt. In diesem Fall haben wir keinen Grund, daran zu zweifeln, dass OpenAI unsere Dateien nicht fürs Training verwendet, wie sie sagen, aber wir müssen darauf vertrauen, dass sie mit unseren Dateien sicher umgehen können.

  • Facebook sagt, dass sie das nicht tun. Das Risiko für ihren Ruf wäre enorm, wenn sie beim Lügen erwischt würden.

    • Ich glaube nicht, dass Facebook heimlich über das Mikrofon des Telefons von jemandem lauscht, aber diese konkrete Behauptung ist überhaupt nicht überzeugend. Facebooks Ruf ist zumindest unter den normalen, nicht technischen Leuten, die ich kenne, ohnehin am Boden. Ich lebe in den USA, und die Leute wissen, dass Facebook dazu beigetragen hat, den Aufruhr vom 6. Januar 2021 anzuheizen, und danach jede Verantwortung von sich gewiesen hat, ohne etwas zu reparieren. Der Reputationsschaden, den sie durch etwas erleiden würden, von dem viele ohnehin schon glauben, dass sie es wahrscheinlich tun, ist damit nicht vergleichbar.

  • Der Aspekt mit dem Vertrauen in das Mikrofon wirkt im Artikel wie ein Ablenkungsmanöver, das vom eigentlichen Punkt ablenkt, der klarer gemacht werden könnte.

    • Facebook nimmt deine Daten aus seiner App und aus dem Internet, verfolgt dein Verhalten im Internet und speist diese Daten in dein <i>Modell</i> ein. Diese Modelle sind manchmal so genau, dass sie fast vorhersagen können, was du denkst. Deshalb kommen normale Menschen zu dem Schluss, dass sie einen über das Mikrofon abhören müssen. LLM-Unternehmen wie OpenAI und ihre Partner verwenden fast genau dieselben Modelle. Sie holen sich Daten, wo immer sie können, verbessern damit ihre Modelle und sorgen dafür, dass du weiter dort klickst, wo sie wollen, und monetarisieren dich.

  • Ich „vertraue“ weder OpenAI noch irgendeinem anderen Großunternehmen, was das angeht, was sie sagen, getan haben, tun werden oder gerade tun.

    • Aber ich glaube OpenAI, dass sie ohne Zustimmung der Nutzer keine Daten aus Dropbox fürs <i>Training</i> verwenden. Doch das ist hier nicht das Problem. Das Problem entsteht während der Übertragung der Daten; man sendet Daten an einen Dritten, der sie tatsächlich lesen kann, und es könnte dort unkontrollierbare Rogue-Mitarbeiter geben, die Daten könnten in Logs auftauchen oder nach anderen Richtlinien verarbeitet werden. Wenn ich persönliche Daten an Dropbox schicke, dürfen sie diese nicht ohne meine ausdrückliche und informierte Zustimmung aus irgendeinem Grund an Dritte weitergeben. Ich kann nicht nachvollziehen, wie das überhaupt umstritten sein kann. Wenn Dropbox das Modell hosten und zustimmenden Nutzern RAG-Abruf anbieten wollte, wäre das eine Sache. Wenn Dropbox aber proaktiv alle Daten aller Nutzer an Dritte schickt, ohne es irgendjemandem mitzuteilen, ist das etwas völlig anderes. Es ist schrecklich.

  • Eine Vertrauenskrise bei AI?

    • Was passiert wohl, nachdem man gehört hat, dass der Vorstand/CEO eines Unternehmens wegen Vorwürfen von Lügen oder Manipulation entlassen/ausgetauscht wurde? Wenn Dropbox etwas gewinnt, indem es aus Nutzerdaten abgeleitete Daten scannt, dann werden diese „abgeleiteten“ Daten nicht mehr zu „Nutzerdaten“, sondern zu Dropbox-Daten und können geteilt werden. Sie können statistischer Natur sein und nicht direkt auf einzelne Nutzer bezogen, aber ist das nicht genau das, was Trainingsdaten sind? Funktioniert es nicht genau so? Das ist keine Lüge, sondern Haarspalterei. Nein, das ist unethisches Verhalten, und für Großunternehmen ist es zum Standard geworden.

  • Ich denke, Menschen, die AI-Unternehmen nicht vertrauen, empfinden wahrscheinlich ähnlich gegenüber Unternehmen aus vielen Branchen, Non-Profits und sogar Regierungsbehörden.

    • Für mich scheint es ein viel größeres Vertrauensproblem zu geben, das weit über AI-basierte Unternehmen hinausgeht. Deshalb wirkt der Versuch dieses speziellen Bereichs, gegen dieses Misstrauen aus allen Richtungen anzukämpfen, wie eine unmögliche Aufgabe, die außerhalb des eigentlichen Geschäftsbereichs dieser Unternehmen liegt. Ich bin nicht sicher, was die Antwort auf dieses Problem ist, ob es überhaupt ein echtes Problem gibt oder worauf wir zusteuern könnten, wenn sich dieser allgegenwärtige Zynismus auf alles und jeden ausbreitet. Vielleicht sind wir einfach dazu verdammt, in interessanten Zeiten zu leben.