Training von Slack-AI mit Kundendaten

 (slack.com)
1 Punkte von GN⁺ 2024-05-17 | 1 Kommentare | Auf WhatsApp teilen
  • Slack entwickelt keine generativen KI-Modelle mit Kundendaten, aber für prädiktive Modelle wie Emoji- oder Kanalempfehlungen können Nachrichten, Inhalte, Dateien und Nutzungsinformationen analysiert werden
  • Globale Modelle sind so konzipiert, dass sie keine Teile von Kundendaten reproduzieren, und es gibt Kontrollen, die verhindern, dass Mitarbeitende bei der KI-/ML-Entwicklung oder Analyse auf zugrunde liegende Inhalte zugreifen können
  • Kunden können beantragen, die Daten ihres Workspace oder ihrer Organisation vom Training der globalen Slack-Modelle auszuschließen; auch nach dem Ausschluss können die Vorteile global trainierter ML-Modelle weiter genutzt werden
  • Kanalempfehlungen, Suchergebnisse, Autovervollständigung und Emoji-Empfehlungen arbeiten mit externen Modellen, numerischen Bewertungen, der Anzahl früherer Interaktionen und öffentlichen Formulierungen, um die Offenlegung von Kundendaten zu reduzieren
  • Die generativen KI-Funktionen von Slack verwenden Drittanbieter-LLMs, aber Kundendaten bleiben innerhalb von Slacks Vertrauensgrenze und werden ohne ausdrückliches Opt-in nicht zum Training generativer KI-Modelle verwendet

Grundsätze für die Nutzung von Daten durch Slack AI/ML

  • Die Grundsätze von Slack für die Produktentwicklung stellen den Schutz der Privatsphäre und die Sicherheit von Kundendaten in den Mittelpunkt
  • ML und AI werden als Werkzeuge zur Verbesserung der Slack-Produkte eingesetzt
  • Es werden keine generativen KI-Modelle mit Kundendaten entwickelt
  • Für die Entwicklung prädiktiver Modelle wie Emoji- oder Kanalempfehlungen können folgende Daten analysiert werden
    • An Slack übermittelte Kundendaten: Nachrichten, Inhalte, Dateien usw.
    • Sonstige in der Datenschutzrichtlinie und in Kundenverträgen definierte Informationen, einschließlich Nutzungsinformationen

Globale Modelle und Zugriffskontrollen

  • Slack baut oder trainiert keine für alle Kunden breit eingesetzten Modelle auf eine Weise, die Teile von Kundendaten reproduzieren kann
  • Bei der Entwicklung von AI-/ML-Modellen oder der Analyse von Kundendaten können Slack-Mitarbeitende nicht auf zugrunde liegende Inhalte zugreifen
  • Zum Schutz der Vertraulichkeit und Sicherheit von Kundendaten gibt es verschiedene technische Maßnahmen
  • Kunden können Opt-out wählen, damit ihre Kundendaten nicht für das Training globaler Slack-Modelle verwendet werden
    • Kundendaten aus Workspaces mit Opt-out werden nur zur Verbesserung der Erfahrung in diesem jeweiligen Workspace verwendet
    • Die Vorteile global trainierter ML-Modelle bleiben weiterhin verfügbar
    • Org- oder Workspace-Owners sowie der Primary Owner müssen eine E-Mail an feedback@slack.com mit der Workspace-/Org-URL und dem Betreff Slack Global model opt-out request senden
    • Slack antwortet nach Bearbeitung der Anfrage, ob sie abgeschlossen wurde

Verbesserung des Dienstes mit Kundendaten und weiteren Informationen

  • Die Produkt- und Analyseteams von Slack können Kundendaten und weitere Informationen verwenden, um den Dienst zu entwickeln, zu aktualisieren und zu verbessern
  • Diese Personalisierung und Verbesserung wird möglich, indem untersucht und verstanden wird, wie Nutzer mit Slack interagieren
  • Die in den Kundenverträgen von Slack und in der Privacy Policy enthaltenen Vertraulichkeitspflichten gelten in jedem dieser Szenarien
  • Kunden besitzen ihre eigenen Kundendaten
  • Slack aggregiert und trennt Kundendaten, sodass Dritte auch dann nicht erkennen können, welcher konkrete Kunde oder welche Person die Quelle einer Verbesserung war, wenn Kundendaten für Service-Updates genutzt werden
    • Davon ausgenommen sind verbundene Unternehmen oder Unterauftragsverarbeiter von Slack

Datenschutzmechanismen je prädiktiver Funktion

  • Kanalempfehlungen

    • Es kann empfohlen werden, neuen öffentlichen Kanälen innerhalb des Unternehmens beizutreten
    • Empfehlungen basieren auf Kanalmitgliedschaften, Aktivität und thematischen Überschneidungen
    • Das Modell lernt aus früheren Empfehlungen und daraus, ob Nutzer dem Kanal beigetreten sind
    • Ein externes Modell, das nicht mit Slack-Nachrichten trainiert wurde, bewertet die thematische Ähnlichkeit und gibt einen numerischen Score aus
    • Das globale Modell erstellt Empfehlungen nur mit diesem numerischen Score und Nicht-Kundendaten

  • Suchergebnisse

    • Das Such-ML-Modell identifiziert Ergebnisse, die zu einer bestimmten Anfrage passen, und hilft Nutzern, die gewünschten Informationen zu finden
    • Es basiert auf früheren Suchergebnissen und vorherigen Interaktionsverläufen
    • Das Modell ist so konzipiert, dass es Suchanfragen oder Ergebnisse nicht reproduzieren kann

  • Autovervollständigung

    • Suchanfragen oder anderer Text können automatisch vervollständigt werden
    • Wenn ein Nutzer zum Beispiel einige Anfangsbuchstaben von Customer Support eingibt, kann diese Formulierung vervollständigt werden
    • Vorschläge werden lokal erzeugt und stammen aus gängigen öffentlichen Formulierungen in Nachrichten innerhalb des Workspace des Nutzers
    • Der Algorithmus zur Auswahl möglicher Vorschläge lernt global aus zuvor vorgeschlagenen und akzeptierten Vervollständigungen
    • Er verwendet Regeln, die die Ähnlichkeit zwischen Eingabetext und Vorschlag bewerten; in den Algorithmus fließen nur numerische Scores und die Anzahl früherer Interaktionen ein

  • Emoji-Empfehlungen

    • Reaktions-Emojis können auf Grundlage des Inhalts und der Stimmung einer Nachricht, der bisherigen Emoji-Nutzung und der Häufigkeit der Emoji-Nutzung im Team in einem bestimmten Kontext vorgeschlagen werden
    • Wenn in einem bestimmten Kanal bei Glückwunschnachrichten häufig mit 🎉 reagiert wird, kann bei neuen ähnlich positiven Nachrichten ebenfalls eine 🎉-Reaktion vorgeschlagen werden
    • Ein externes Modell, das nicht mit Slack-Nachrichten trainiert wurde, kann die Stimmung einer Nachricht klassifizieren
    • Das Slack-Modell berücksichtigt für Emoji-Vorschläge nur die Häufigkeit, mit der in diesem Workspace Nachrichten einer bestimmten Stimmung mit bestimmten Emojis verknüpft sind

Verarbeitung von Kundendaten in generativer KI

  • Generative KI ist eine Kategorie von KI-Systemen, die auf Prompts der Nutzer reagieren und Inhalte wie Text erzeugen können
  • Zu dieser Kategorie gehören Large Language Models (LLMs)
  • AI in Slack verwendet generative KI und nutzt Drittanbieter-LLMs
  • Sofern Kunden nicht ausdrücklich per Opt-in zustimmen, werden Kundendaten nicht zum Training generativer KI-Modelle verwendet
  • AI in Slack verwendet bestehende LLMs; diese Modelle werden nach einer Anfrage nicht mit Kundendaten aktualisiert und speichern Kundendaten auch nicht auf andere Weise
  • Diese Modelle werden auf der Infrastruktur von Cloud-Anbietern wie AWS gehostet
  • Kundendaten bleiben innerhalb von Slacks Vertrauensgrenze, und LLM-Anbieter können nicht auf Kundendaten zugreifen
  • Benachrichtigungen über Änderungen bei Unterauftragsverarbeitern können auf der Trust and Compliance webpage abonniert werden

Quellen der Suchantworten von Slack AI

  • Die Suchfunktion von AI in Slack bezieht ihre Antwortquellen aus Slack-internen Funktionen und verbundenen Dokumenten
  • Zu den Suchquellen gehören
    • Slack-Funktionen: Canvas, huddles canvas notes, clip transcripts, text snippets
    • In Slack hochgeladene Dateien: PDF, E-Mail, docx, pptx, Keynote
    • Verbundene Dokumente aus Google Drive: Docs, Slides
    • Dokumente aus Sharepoint/OnDrive: Word, Powerpoint
    • Partner-Apps zur Dateispeicherung wie Box: sofern installiert
  • Nutzer müssen über Integrationen mit Slack authentifiziert sein, um auf diese Dateien zugreifen zu können
  • Administratoren können alle Dateiergebnisse deaktivieren oder festlegen, dass extern gehostete Dateien nicht als Quellen verwendet werden
  • Weitere Hinweise finden sich im Help Center

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-05-17
Hacker-News-Kommentare

  • Ich habe den Support kontaktiert und ein Opt-out veranlasst; die Antwort lautete, dass die Anfrage abgeschlossen wurde.
    Slack erklärte, dass es plattformweite Machine-Learning-Modelle für Dinge wie Kanal-/Emoji-Empfehlungen und Suchergebnisse gibt, diese jedoch nicht so entwickelt oder trainiert werden, dass sie Kundendaten lernen, speichern oder reproduzieren können.
    Slack AI ist ein separat zu kaufendes Add-on; laut Slack werden keine LLMs mit Kundendaten trainiert, sondern in der AWS-Infrastruktur von Slack gehostete LLMs verwendet, sodass die Daten nicht mit externen LLM-Anbietern geteilt werden.
    Links zur Richtlinie: https://slack.com/trust/data-management/privacy-principles, https://slack.engineering/how-we-built-slack-ai-to-be-secure...

    • Am Ende klingt das wie: „Wir füttern unsere KI mit deinen Daten, teilen sie aber nicht mit anderen.“
      Zumindest bis zum nächsten Update der Nutzungsbedingungen
    • Es wirkt völlig halbherzig, stillschweigend standardmäßig auf Teilnahme zu setzen und im Slack-Admin-Panel nicht einmal ein einfaches Opt-out anzubieten, während man gleichzeitig so tut, als läge einem die Privatsphäre der Kunden am Herzen.
    • Soweit ich weiß, war das Verfahren: „Wenn Sie Ihre Kundendaten aus den globalen Slack-Modellen ausschließen möchten, soll der Org-/Workspace-Owner oder Primary Owner eine E-Mail an feedback@slack.com mit der Workspace-/Org-URL und dem Betreff ‚Slack Global model opt-out request‘ senden.“
      Vermutlich hast du genau das gemacht?
    • Ich habe dieselbe Standardantwort bekommen und auf Rückfragen nach weiteren Details nie eine Antwort erhalten.

  • Wenn die Regelung lautet: „Man kann sich dagegen entscheiden, dass Kundendaten für das Training globaler Slack-Modelle genutzt werden. Auch nach dem Opt-out werden Workspace-Daten nur zur Verbesserung der Erfahrung in diesem Workspace verwendet, und man profitiert weiterhin von den global trainierten Modellen“, fragt man sich, warum sich nicht jeder dagegen entscheiden würde.
    Außer natürlich, man weiß gar nicht, dass man überhaupt ein Opt-out machen muss; sonst wirkt es wie eine Entscheidung, die nur Nachteile hat.

    • Ich verstehe nicht, warum Unternehmen glauben, Kunden würden es akzeptieren, wenn man durch ein AI-Label in der Pressemitteilung private Kommunikationsdaten aus einem bezahlten Dienst ohne Zustimmung im industriellen Maßstab absaugt und monetarisiert.
    • Offenbar will man es nicht einfach machen.
      Einzelne Nutzer scheinen kein Mitspracherecht bei der Verwendung ihrer Daten zu haben und müssen den Workspace Owner kontaktieren.
      Wenn ich das tue, würde ich eher darum bitten, alternative Plattformen zu prüfen.
    • Wie bei Internet-Privatsphäre so oft: Wäre es einfach, hätten sich alle abgemeldet.
      Am Ende ist es wieder ein Opt-out-Whac-A-Mole, der Weg dorthin ist nur eine allgemeine Anfrage, und selbst nach dem Opt-out scheint trotzdem noch trainiert zu werden.
    • Bei der Formulierung „Kunden eine Wahl geben“ muss ich an einen Witz aus Per Anhalter durch die Galaxis denken.
      Vielleicht verstecken sie irgendwo auf Seite 300 der Bedingungen einen winzigen Hinweis an möglichst unauffälliger Stelle.
    • Vielleicht will man ja das bestmögliche globale Modell.
      Wenn man das Nicht-Abmelden als „beim Bauen eines besseren Produkts helfen“ sieht: Es ist ohnehin schon ein bezahltes Produkt, und wenn ohne zusätzlichen Zeitaufwand die nächste Version besser werden kann, warum nicht?
      Man bekommt zum gleichen Preis ein besseres Produkt, und das Unternehmen bekommt ein besser verkäufliches Produkt.
      Es mag ein Geschäft sein, bei dem das Unternehmen stärker profitiert, aber nur weil eine Seite mehr gewinnt, heißt das nicht, dass die andere verliert.
      Wenn einem Datenprivatsphäre sehr wichtig ist oder man glaubt, dass das Zulassen des Trainings tatsächlich ein Risiko für die Offenlegung vertraulicher Informationen schafft, ist das etwas anderes; dann gibt es immerhin die Möglichkeit auszusteigen, und man kann selbst abwägen zwischen „besseres Produkt“ und „vermutetes Risiko der Offenlegung vertraulicher Informationen“.

  • Die Formulierung „Modelle, die breit für alle Kunden eingesetzt werden, werden nicht so entwickelt oder trainiert, dass sie Kundendaten lernen, speichern oder reproduzieren können“ enthält so viele subtile Einschränkungen und Haftungsausschluss-Formulierungen, dass sie eher Misstrauen als Vertrauen weckt.
    Sie gilt nur für Modelle, die „breit für alle Kunden“ eingesetzt werden; wenn ein Modell also nicht breit eingesetzt wird oder nur für einige Kunden, gilt der ganze Satz nicht.
    Logisch klingt das so, als impliziere es, dass Daten in solchen Fällen doch nach außen dringen könnten, und das ist ziemlich übel.
    Diese Formulierung sollte geändert werden, und die Person, die sie geschrieben hat, ist ein Risiko.

    • Weniger „die Person ist ein Risiko“, eher klingt es so, als sei das absichtlich zur Verantwortungsvermeidung so formuliert worden.
    • Noch seltsamer wird es ein paar Absätze später mit „Wenn Sie nicht möchten, dass Kundendaten für das Training globaler Slack-Modelle verwendet werden, können Sie sich dagegen entscheiden.“
      Das heißt dann, Kundendaten werden zwar nicht verwendet, um „Modelle, die breit für alle Kunden eingesetzt werden, auf diese Weise“ zu trainieren, tragen aber dennoch zum Training globaler Modelle bei.
    • Das Problem liegt bei der Person, die die Realität geschaffen hat, in der die Rechtsabteilung bei solchen Haftungsausschlüssen tanzen muss.
      Das Problem ist für uns allerdings größer als für sie.
    • In Enterprise-Slack gibt es in Kanälen oder privaten Chats Informationen, die nirgends sonst im Internet stehen, und man stellt sich vor, dass so etwas ins Modell gelangt.
      Wenn jemand dann in einem sehr konkreten Szenario in Gesprächsform nachfragt, könnten vertrauliche Daten nach außen gelangen, auch wenn sie keinem Kundennamen direkt zugeordnet sind.
      Es ist ja nicht so, als könnte man ein LLM nicht fragen, wie eine bestimmte oder beliebige Firma in einer bestimmten Branche etwas entwerfen würde.
    • Die Formulierung scheint so klar wie möglich zu sein, und in den Bullet Points werden ausführlichere Beispiele genannt.
      Beim Kanal-Empfehlungsmodell werde gelernt, welche Empfehlungen es in der Vergangenheit gab und ob Nutzer dem empfohlenen Kanal beigetreten sind; zum Schutz der Privatsphäre würden jedoch Kundendaten und Modell getrennt gehalten.
      Mit einem externen Modell, das nicht auf Slack-Nachrichten trainiert wurde, werde die thematische Ähnlichkeit bewertet, um numerische Scores zu erzeugen, und das globale Modell nutze für Empfehlungen nur diese Scores und Nicht-Kundendaten.
      Auch die Suche lerne nicht aus den Suchanfragen oder dem Text der Ergebnisse selbst, sondern aus teamspezifischen Kontextinformationen wie der Anzahl, wie oft eine Nachricht in der Suche angeklickt wurde, oder der Wortüberlappung zwischen der Suchanfrage und der empfohlenen Nachricht.
      Autocomplete-Vorschläge würden aus häufigen Formulierungen in öffentlichen Nachrichten des Workspace stammen; global werde auf Basis früher vorgeschlagener und akzeptierter Vervollständigungen gelernt, aber im Algorithmus würden nur Scores und frühere Interaktionszähler verwendet.
      Auch bei Emoji-Empfehlungen werde mit einem externen Modell, das nicht auf Slack-Nachrichten trainiert wurde, die Stimmung klassifiziert, und dann nur berücksichtigt, wie häufig in diesem Workspace Nachrichten mit dieser Stimmung zusammen mit einem bestimmten Emoji verwendet wurden.

  • Zusammengefasst: Wenn man Daten aus dem globalen Modell heraushalten will, muss man sich abmelden.
    Gleichzeitig wird vage gesagt: „Daten gelangen nicht zwischen Workspaces“, was sehr verwirrend ist.
    Man sollte Werkzeuge verwenden, bei denen Daten nicht „nicht abfließen werden“, sondern nicht abfließen können.

    • Sind nicht im Grunde alle Werkzeuge in einem Zustand, in dem Daten mit nur einem API-Aufruf abfließen können?
    • Die meisten SaaS-Dienste sind Multi-Tenant; wir leben also seit Jahrzehnten bereits in einer Welt von „es könnte abfließen, aber wird schon nicht abfließen“.
    • Ich frage mich, was in juristischen Formulierungen der Unterschied zwischen „will not“ und „cannot“ ist.

  • Der Satz „Bei der Entwicklung von AI/ML-Modellen oder der Analyse von Kundendaten kann Slack nicht auf die zugrunde liegenden Inhalte zugreifen. Es gibt verschiedene technische Maßnahmen, die dies verhindern“ ist verwirrend.
    „Kann nicht“ ist eine starke Formulierung, aber wie soll es möglich sein, dass AI-Modelle auf die Daten zugreifen können, Slack, Inc. selbst jedoch nicht?
    Wenn ich nichts übersehe, klingt das eher nach „tun wir nicht“ als nach „können wir nicht“.

    • Das Wort „Slack“ ist hier interessant.
      Vermutlich sind damit „Slack-Mitarbeiter“ gemeint, aber „Slack“ kann das Unternehmen mitsamt Vermögenswerten, Beauftragten, Systemen, Computern, Servern und AI-Modellen umfassen.
      Selbst wenn Signal sagt: „Wir können nicht auf Nutzerinhalte zugreifen“, klingt das für mich nach einer instabilen und allzu optimistischen Formulierung.
      Wenn ich „kann nicht“ höre, verstehe ich das so, dass innerhalb des Unternehmens niemand das im rechtlich zulässigen Rahmen tun kann.
      Slack-Mitarbeiter könnten diese technischen Maßnahmen abschalten, und Signal-Mitarbeiter könnten per App-Update dafür sorgen, dass alle Nachrichten über andere Server umgeleitet werden.
      Die bessere Formulierung wäre: „Slack-Mitarbeiter greifen nicht auf die zugrunde liegenden Inhalte zu.“
    • In dem Whitepaper, das in demselben Kommentar verlinkt ist, steht, dass Zugriffe nach dem Prinzip der minimalen Rechte und rollenbasierten Berechtigungen bereitgestellt werden, dass nur Daten verarbeitet werden können, die für die aktuelle Aufgabe vernünftigerweise erforderlich sind, und dass jeder Produktionszugriff mindestens vierteljährlich überprüft wird.
      Das klingt dann ziemlich eindeutig nach möglichem Zugriff.
    • Aus Sicht eines Engineers, der Systeme für sensible Daten gebaut hat, wirkt dieser Satz wie eine Aussage über Access Control Lists, das System, das diese Access Control Lists bereitstellt, und die Richtlinien, denen dieses System folgt.
      Zum Beispiel könnte ein Batch-Job für das Modelltraining als Systemnutzer laufen, der Zugriff auf Daten hat, die als „Interaktionen“ annotiert sind, aber keine Berechtigung für „Content“-Daten wie Nachrichtentexte oder den Text von Nutzeranfragen besitzt.
      Wenn der Trainingsjob ein RPC sendet, um solche Inhalte abzurufen, würde das abgelehnt – so wie beim Versuch, ohne Login auf die DM eines anderen zuzugreifen.
      In großen Unternehmen können Engineers oder Produktmanager Access Control Lists nicht nach Belieben festlegen; sie beantragen die Zugriffsrechte für Batch-Jobs bei einem System, und auch die Betreiber dieses Systems handeln nach Unternehmensrichtlinien.
      Das ist ähnlich wie bei einem Bankangestellten, der mit Kontonummern arbeitet, aber nicht heimlich Geld auf ein privates Konto überweisen kann – oder dabei erwischt würde.
      Der Satz bedeutet eher, dass es systemseitig nicht möglich sein sollte, dass irgendein Slack-PM Richtlinien ignoriert und heimlich mit Kundendaten trainiert, die kein anderes Team verwendet, nur um die OKRs seines Teams zu verbessern.
      Natürlich ist die Analogie nicht perfekt.
      Ein Bankangestellter wäre eher mit einem Slack-Supportmitarbeiter vergleichbar, der nach Zustimmung des Kunden Nachrichten stellvertretend einsehen könnte, und wahrscheinlich gibt es in der Praxis keinen Weg, einem Modelltrainingsjob den einer Einzelperson gewährten begrenzten Zugriff weiterzureichen.
      Ein reifes Unternehmen sollte auch verhindern, dass ein Mitarbeiter mit seinen Zugriffsrechten auf personenbezogene Daten auf einem beliebigen Notebook ein Modell trainiert und dieses Modell dann in Produktion bringt.
      Bei Startups mag so etwas aber durchaus vorkommen.
    • Auch jedes Unternehmen, das Ende-zu-Ende-Verschlüsselung verspricht, gibt am Ende nur ein Ehrenwort.
      Das gilt genauso für Telegram oder WhatsApp.

  • Ich wünschte, es gäbe eine Liste von Unternehmen, die so etwas tun, damit man sie meiden kann.
    Wenn ihr andere Unternehmen kennt, die mit Kundendaten trainieren, ohne einen gut sichtbaren, leicht zugänglichen Opt-out-Schalter anzubieten, postet sie bitte unten.

    • Synology hat diese Richtlinie im März aktualisiert.
      Früher hieß es, Informationen aus Anfragen an den technischen Support würden nur zur Problemlösung verwendet und einige technische Details könnten nach Entfernung personenbezogener Daten zur Erstellung von Bug Reports genutzt werden.
      In der neuen Formulierung heißt es wohl, dass bestimmte technische Informationen nach Entfernung personenbezogener Daten zur Erstellung von Bug Reports verwendet werden können und dass anonymisierte technische Informationen an Microsoft Azure übermittelt werden können, um mit OpenAI-Diensten die Support-Erfahrung zu verbessern.
      Persönlich identifizierbare Informationen wie Name, Telefonnummer, Adresse, E-Mail-Adresse, IP-Adresse und Produktseriennummer sollen ausgeschlossen sein.
      Früher habe ich E-Mails über Aktualisierungen der Datenschutzrichtlinie einfach gelöscht, aber inzwischen habe ich mir angewöhnt, per Diff zu prüfen, ob solche Formulierungen hineingeschoben wurden.
    • Wenn Daten in einer Datenbank gespeichert sind, die das Unternehmen frei lesen und auf die es zugreifen kann – also nicht Ende-zu-Ende-verschlüsselt –, dann wird dieses Unternehmen letztlich die Nutzungsbedingungen ändern, damit die Daten für AI-Training verwendet werden können.
      Der Anreiz ist einfach zu stark, um dauerhaft zu widerstehen.
      https://twitter.com/kepano/status/1688610782509211648
      https://twitter.com/kepano/status/1682829662370557952
    • Es wäre wahrscheinlich einfacher, eine Liste der Unternehmen zu erstellen, die das nicht tun.
      Die Liste ist leer.
    • Bis Schutzmechanismen eingeführt werden und jeder selbst entscheiden kann, wie seine Daten verwendet werden und ob er dafür kompensiert wird, kann man sich nur wehren, indem man nichts Nützliches oder Präzises ins Internet stellt.

  • Ich verstehe nicht, wie das mit dem europäischen Recht auf Vergessenwerden vereinbar sein soll.
    Ehrlich gesagt frage ich mich, welches dieser AI-Modelle dieses Recht überhaupt wahren kann.
    Wenn ein Nutzer die Löschung verlangt, wird dann das gesamte Modell neu trainiert? Eher wohl nicht.

    • Der derzeitige „AI“-Betrug wirkt wie der ultimative komplizierte Prozess, um jede Menge Handarbeit zu verbergen.
      Urheberrecht gibt es angeblich nicht mehr, es sei kein Diebstahl, sondern Transformation, und man müsse vor dem Training des Modells auf dem gesamten Internet opt-outen, wobei sie das vermutlich trotzdem nicht umsetzen würden.
      Angeblich würden überhaupt keine Jobs wegfallen, während gleichzeitig jedes Unternehmen sofort 15 % der Belegschaft entlässt und die Rückkehr ins Büro erzwingt, um noch mehr Autodaten zu bekommen.
      Es wird damit geworben, man werde mit „diesem einen seltsamen Trick“ zum produktivsten Programmierer überhaupt, aber statt selbst ein profitables Produkt zu bauen, scheint man es lieber Einzelpersonen verkaufen zu wollen.
      Am gravierendsten und gefährlichsten ist, dass Informationen auf der niedrigsten Ebene zensiert werden, noch bevor sie die Fingerspitzen oder Augen der Menschen erreichen.
    • Machine Unlearning ist tatsächlich ein reales Fachgebiet, und als Einstieg kann man sich [0] ansehen.
      [0] https://ai.stanford.edu/~kzliu/blog/unlearning
    • Ich glaube nicht, dass die derzeitige Auslegung von DSGVO und ähnlichen Regeln so aussieht.
      Soweit ich weiß, muss ein Modell, wenn es bereits trainiert wurde, wegen eines Antrags auf Vergessenwerden nicht gelöscht werden, aber die rechtliche Unsicherheit ist groß.
      Wenn man sich jüngere DSGVO-Urteile ansieht, ist es vermutlich weiterhin ein Verstoß, weil es sich nicht um Opt-in, sondern um Opt-out handelt.
      Wahrscheinlich filtern sie alle im EWR erzeugten Daten heraus.

  • Für Team-Messaging sollte man wirklich selbst gehostete Lösungen wie Matrix/Element verwenden.
    Es ist völlig in Ordnung, keine eigene Hardware im Unternehmen stehen haben zu wollen, aber die Lösung besteht dann darin, eine Ende-zu-Ende-verschlüsselte Lösung zu betreiben, bei der der Hosting-Anbieter keinen Zugriff auf die Daten hat.
    cryptpad.fr ist ebenfalls großartige Software.

    • Man kann sich Campfire ansehen.
      Man bekommt den Source Code (Ruby on Rails) und kann ihn deployen, wo man will; wir betreiben es auf einem DigitalOcean-Droplet.
    • Zulip(https://zulip.com/) wirkt wie eine großartige selbst gehostete Python-basierte Alternative zu Slack/Teams.

  • Für Slack, Google, Microsoft und alle anderen Anbieter von SaaS-Tools ist der Anreiz für so etwas enorm.
    Wenn Unternehmen vermeiden wollen, für Vendoren zur Ware zu werden, müssen sie letztlich die Kontrolle über ihre eigenen Daten und ihre AI-Strategie behalten.
    Das bedeutet wahrscheinlich, kleine, teure und potenziell geschäftsschädigende Funktionen abzuschalten, eine zentrale Wissensbasis mit sauberer Zugriffskontrolle und Governance aufzubauen und dann irgendein Open-Source- oder Blackbox-LLM eines Anbieters anzustöpseln.

    • „Für Vendoren zur Ware werden“ ist genau der Ausdruck, nach dem ich gesucht habe.
      Deshalb wollte ich, dass die Firma statt Slack selbst gehostetes Mattermost nutzt.
    • Auf jeden Fall ein moralisches Risiko und zugleich eine Chance.
      Zur Erinnerung: Windows 11 synchronisiert Dateien standardmäßig mit Microsoft-Servern.

  • Am Ende heißt es wohl: „Wir nutzen es nur, um Emojis auszuwählen, und ein bisschen auch für ein lustiges internes Aktienempfehlungstool.“
    Also ein Tool, das auf Basis anonymisierter Echtzeit-Gedanken aus Hunderttausenden Tech-Unternehmen interessante Aktien zum Kaufen empfiehlt.