Nach Kritik: Zoom erklärt, Kundendaten nicht für das Training von KI-Modellen zu verwenden

 (darkreading.com)
1 Punkte von GN⁺ 2023-08-15 | 1 Kommentare | Auf WhatsApp teilen
  • Nach wachsender Kritik daran, dass die Nutzungsrechte nach der Einführung generativer KI-Funktionen zu weit gingen, hat Zoom seine Bedingungen und Produkte so angepasst, dass Kundeninhalte nicht für das Training von KI-Modellen verwendet werden
  • Ausgenommen sind Audio, Video, Chat, Bildschirmfreigaben und Anhänge sowie kommunikative Inhalte wie Umfrageergebnisse, Whiteboards und Reaktionen
  • Auslöser der Kontroverse war die bisherige Richtlinie, die es erlaubte, einige Kundendaten für Funktionen wie Zoom IQ Meeting Summary und Zoom IQ Team Chat Compose zum Training zu nutzen
  • Nach der Kritik der Kunden führte Zoom zunächst ein Opt-out ein, überarbeitete dann aber am 11. August die Nutzungsbedingungen erneut und entfernte die meisten Formulierungen zur KI-Nutzung
  • Die neuen Bedingungen behalten jedoch Rechte an servicegenerierten Daten wie Telemetrie-, Produktnutzungs- und Diagnosedaten bei, sodass die Spannung zwischen KI-Funktionen und Nutzervertrauen bestehen bleibt

Zoom-Nutzungsbedingungen jetzt mit Ausschluss von Kundeninhalten aus KI-Training

  • Zoom hat nach Kundenfeedback seine Terms of Service aktualisiert und klar festgelegt, dass Kundeninhalte nicht für das Training von KI-Modellen von Zoom oder Dritten verwendet werden
  • Vom KI-Training ausgenommen sind:
    • Audio
    • Video
    • Chat
    • Bildschirmfreigaben
    • Anhänge
    • Kundeninhalte mit Kommunikationscharakter wie Umfrageergebnisse, Whiteboards und Reaktionen
  • Hintergrund der Kontroverse sind die generativen KI-Funktionen von Zoom
    • Zoom IQ Meeting Summary: KI-gestützte automatische Besprechungszusammenfassung
    • Zoom IQ Team Chat Compose: KI-gestützte Funktion zum Verfassen von Chats
  • Die frühere Richtlinie räumte Zoom für diese Funktionen das Recht ein, einige Kundendaten zum Training von KI-Modellen zu verwenden, und genau die Möglichkeit ohne ausdrückliche Kundeneinwilligung führte zur Gegenreaktion

Weitreichende Datenrechte und wachsender Vertrauensdruck

  • Die bisherigen Nutzungsbedingungen räumten Zoom sehr weitreichende Rechte in Bezug auf die Nutzung von Kundendaten ein
    • „perpetual, worldwide, non-exclusive, royalty-free, sublicensable, and transferable“ Rechte
    • breit gefasste Zwecke einschließlich Machine Learning, künstlicher Intelligenz, Training und Tests
    • Handlungen wie „redistribute, publish, import, access, use, store, transmit, disclose“ in Bezug auf Daten
  • Als sich die Kritik der Kunden in sozialen Medien ausbreitete, änderte Zoom die Richtlinie zunächst in die Richtung, „Audio-, Video- und Chat-Kundeninhalte ohne Kundeneinwilligung nicht für das Training von KI-Modellen zu verwenden“
  • Danach überarbeitete Zoom am 11. August die Bedingungen erneut und entfernte faktisch den Großteil der Formulierungen zur Nutzung künstlicher Intelligenz
  • Die neuen Bedingungen behalten allerdings Zooms Rechte an servicegenerierten Daten bei
    • Telemetriedaten
    • Produktnutzungsdaten
    • Diagnosedaten
  • Shomron Jacob, Leiter für Machine Learning bei iterate.ai, sieht es so, dass Technologieunternehmen seit Langem Kundendaten nutzen, um die Nutzererfahrung zu verbessern und neue Funktionen einzuführen
    • Der Kontext ist, dass Google, Facebook und Amazon Nutzerdaten verwendet haben, um Dienste zu personalisieren und KI-Algorithmen zu verbessern
  • Da die Kontrolle über Datenschutz-, Sicherheits- und Ethikfragen rund um KI zunimmt, steigen auch die Erwartungen an Transparenz und Nutzereinwilligung
  • Regulatorische Rahmenwerke wie die DSGVO und der kalifornische CCPA setzen Standards für Datenerhebung und Datennutzung, wodurch Technologieunternehmen die Nutzung von Daten zur Verbesserung von KI mit Compliance-Anforderungen und dem Schutz des Nutzervertrauens zugleich in Einklang bringen müssen

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2023-08-15
Hacker-News-Meinungen

  • Wenn Daten in einer Datenbank gespeichert sind, die das Unternehmen frei lesen und auf die es frei zugreifen kann, also nicht Ende-zu-Ende-verschlüsselt, dann wird das Unternehmen am Ende die Nutzungsbedingungen ändern und versuchen, diese Daten für KI-Training zu verwenden.
    Der Anreiz ist so stark, dass er sich kaum widerstehen lässt.

    • Ich finde, diese Logik passt nicht so recht.
      Zahlende Kunden hassen es wirklich, wenn ihre Daten ohne ihre Erlaubnis zum Trainieren von KI-Modellen verwendet werden; der aktuelle Zoom-Fall ist das jüngste Beispiel.
      Unternehmen, die so etwas versuchen, werden sich heftig die Finger verbrennen, und Zoom hat sich bereits heftig verbrannt. Persönlich glaube ich nicht, dass Zoom das tatsächlich vorhatte; eher war nicht klar genug formuliert, dass sie es nicht tun würden, was dann in einem PR-Desaster endete.
      Wenn zahlende Kunden es ablehnen, ist der Anreiz für ein Unternehmen sogar viel stärker, es nicht zu tun.
    • Der Gesetzgeber sollte eingreifen und verhindern, dass neue oder geänderte Nutzungsbedingungen auf Daten angewendet werden, die gesammelt wurden, bevor der Nutzer ausdrücklich zugestimmt hat.
      Für Unternehmen wäre es mühsam, nachzuverfolgen, unter welcher Version der Nutzungsbedingungen jedes einzelne Datenstück gespeichert wurde, aber genau so umständlich sollte es werden, damit Daten als die Verbindlichkeit behandelt werden, die sie eigentlich sein sollten.
    • Das erinnert an Jamie Zawinskis Gesetz der Software-Vereinnahmung: „Jedes Programm versucht, sich so weit auszudehnen, bis es E-Mails lesen kann. Programme, die sich nicht so ausdehnen können, werden durch solche ersetzt, die es können.“
    • Wenn es viele Großkunden gibt, ist das ein ziemlich starker Hemmfaktor. Jeder vernünftige Unternehmenskunde würde in so einem Fall sagen: „Gut, dann ist jetzt wohl Zeit für MS Teams.“
    • Die meisten Nutzerdaten sind für KI-Training vermutlich völlig nutzlos.
      Es fehlt der Kontext, und es gibt keine Qualitätskontrolle. Selbst wenn man annimmt, dass die Weisheit der Masse im Durchschnitt der richtigen Antwort näherkommt, trainiert man die KI am Ende darauf, mittelmäßige Antworten zu geben.
      Während des Big-Data-Hypes haben viele Unternehmen behauptet, Daten seien wertvoll, und alles gespeichert; das meiste davon war aber nicht einmal die Kosten für die Festplatten wert. Wert entsteht erst, wenn es Käufer gibt, die für die Nutzung bezahlen.
      Es gibt viele Daten auf der Welt, aber tatsächlich wertvoll sind Information und Wissen.

  • Zoom war wohl nur enttäuscht darüber, dass die Änderung der Nutzungsbedingungen die Runde gemacht hat, und vermutlich auch darüber, dass ihr Ruf in Sachen Datenschutz überhaupt noch gut genug ist, um eine Kontroverse auszulösen.
    Ich frage mich, ob Teams eine ähnliche Gegenreaktion erleben würde, falls so etwas nicht ohnehin schon in den Nutzungsbedingungen steht.

    • Vielleicht, aber Teams ist sehr gut darin, Gegenwind zu ignorieren.
      Manche mögen das anders empfinden, aber alle Leute, die ich kenne, hassen Teams ohnehin schon und nutzen es nur, wenn ihr Unternehmen sie dazu zwingt.
    • Teams wird O365-Unternehmensdaten verwenden, um KI-Copilot bereitzustellen, also eine Funktion, die Kunden buchstäblich verlangen.
    • Die Kultur bei Microsoft ist extrem konservativ, wenn es darum geht, Kundendaten auf diese Weise zu verwenden.
      Ich habe einmal mit einem Microsoft-Manager gesprochen; er sagte, es habe früher die Idee gegeben, in Hotmail kontextbezogene Werbung wie bei Gmail einzubauen, aber das sei entschieden abgelehnt worden.
      Die Vorstellung, Kundendaten, sogar Daten kostenloser Nutzer, auf diese Weise zu verwenden, galt als Tabu. Microsoft verdient sein Geld mit riesigen Unternehmensverträgen, und wenn Kundendaten in irgendeiner Form zugunsten von Wettbewerbern genutzt würden, könnten diese Verträge gefährdet sein.

  • Verwandte Beiträge:
    Zoom's TOS Permit Training AI on User Content Without Opt-Out - https://news.ycombinator.com/item?id=37038494 - August 2023 (35 Kommentare)
    How Zoom’s terms of service and practices apply to AI features - https://news.ycombinator.com/item?id=37037196 - August 2023 (177 Kommentare)
    Ask HN: Zoom alternatives which preserve privacy and are easy to use? - https://news.ycombinator.com/item?id=37035248 - August 2023 (16 Kommentare)
    Not Using Zoom - https://news.ycombinator.com/item?id=37034145 - August 2023 (194 Kommentare)
    Zoom terms now allow training AI on user content with no opt out - https://news.ycombinator.com/item?id=37021160 - August 2023 (510 Kommentare)

  • Zoom hat ganz sicher mehrere KI-Modelle, und dasselbe gilt für Teams, Google Chat und andere.
    Für automatische Untertitel und Transkription von Meetings braucht man solche Modelle, ebenso für automatische Hintergrundunschärfe und Hintergrundtrennung. Vermutlich arbeiten sie auch an einem Produkt für „Meeting-Zusammenfassungen“.
    Das sind Funktionen, die Leute mögen und ständig nutzen. Ich frage mich, wie man von Zoom erwartet, solche Funktionen zu verbessern, ohne echte Nutzerdaten der Plattform zu sammeln.

    • Das eigentliche Problem ist nicht, dass Kundendaten grundsätzlich für solche Zwecke verwendet werden können. Es ist, dass Kundendaten verwendet werden können, ohne vorher Zustimmung einzuholen.

  • Zu spät. Es hat eine Stunde gedauert, eine selbst gehostete Jitsi-Instanz aufzusetzen, und es gibt keinen Grund, zurückzugehen.

    • Genau das. Nachdem ich den Beitrag gesehen hatte, lief innerhalb von zwei Stunden ein leicht angepasstes Jitsi auf einem Docker-Host bei Hetzner.
      Ich war von Performance und Stabilität von Jitsi überrascht.
    • Wo hostest du Jitsi?
    • Es wäre sehr hilfreich, wenn du Erkenntnisse oder Learnings teilen könntest.
      Mehrere Leute, die ich kenne, mich eingeschlossen, wollen diesen Weg demnächst ebenfalls gehen.

  • Ich erstelle eine Liste von KI-Unternehmen, die mit Nutzerdaten trainieren: https://github.com/skiff-org/skiff-org.github.io/blob/main/b...
    Den Zoom-Eintrag werde ich aktualisieren, aber ich finde es weiterhin verdächtig

    • Wodurch unterscheidet sich „KI“ von „Machine Learning“ oder anderen Predictive-Modeling-Ansätzen, die in eine Anwendung einfließen?
      Letzte Woche habe ich mit einem Teil der Kundendaten ein Regressionsmodell angepasst – habe ich damit also eine KI mit Kundendaten trainiert? Geht es um die Absicht, darum, ob es sich an öffentliche Nutzer richtet, oder darum, ob es ein generatives Modell ist?
    • Statistische Analysen mit Nutzerdaten werden sie natürlich weiterhin durchführen, und ich würde auch das in die Kategorie „KI auf Basis von Nutzerdaten“ einordnen
      Deshalb glaube ich nicht, dass dieses Kriterium greift

  • Speichert Zoom Video- oder Audiodaten von Anrufen? Das ist wirklich die zentrale Frage
    Wenn irgendetwas gespeichert wird, ist es nicht vertrauenswürdig

    • Wenn man einen Videoanruf aufzeichnet, speichert Zoom ihn für einen. Ansonsten sollte nichts gespeichert werden
      Außerdem werden bei Video-Streaming-Protokollen wie HLS oder MPEG-DASH die Streams als Videosegmente gespeichert und später gelöscht

  • Es ist wieder enttäuschend, dass große Unternehmen versuchen, solche Richtlinien möglichst unauffällig durchzudrücken
    Wer hält so etwas für in Ordnung? Einfach ein Manager, der nur kassieren will? Wir müssen besser sein als das

  • „Nach dem Gegenwind erklärte Zoom, Kundendaten nicht für das Training von KI-Modellen zu verwenden“
    Noch nicht

  • Wie könnte man überhaupt trainieren, wenn von Anfang an alles Ende-zu-Ende-verschlüsselt ist?

    • Entweder ist Machine Learning so gut, dass es Details aus verschlüsselten Streams extrahieren kann, oder das Unternehmen verwendet „Ende-zu-Ende“ im Sinne von „Ende-Mitte-Ende“ und zeichnet in der Mitte alles auf
      Welche der beiden Möglichkeiten plausibler ist, scheint allen ziemlich klar zu sein; seltsamerweise dürfte es aber unterschiedliche Meinungen darüber geben, welche davon keinen Sinn ergibt
    • Stimmt nicht. E2EE muss man ausdrücklich aktivieren: https://support.zoom.us/hc/en-us/articles/360048660871-End-t...
    • Es gibt viele Kommentare zur Bedeutung von Ende-zu-Ende-Verschlüsselung, aber offenbar weniger dazu, was hier tatsächlich passiert
      Zoom ist, wie Meet, Teams, WebEx und viele andere Dienste, die ich kenne, „verschlüsselt“, aber „Ende-zu-Ende-verschlüsselt“ im üblichen Sinn ist nicht der Standard. Einige haben eine E2EE-Option, aber sie ist tief in den Diensteinstellungen vergraben und nicht leicht zu aktivieren
      Deshalb kann der Server Audio und Video konstruktionsbedingt sehen – und tut es auch. Wird die Infrastruktur kompromittiert, können Angreifer das ebenfalls sehen. Die Verschlüsselung im Standardmodus verhindert lediglich, dass der ISP den Inhalt des Anrufs sieht
      Im Gegensatz dazu sind Signal-Anrufe E2EE. Selbst bei Anrufen, die über Signal-Server weitergeleitet werden, sieht Signal keine entschlüsselten Video- oder Audiodaten. Allerdings kann Signal auch dann erkennen, wer am Anruf teilnimmt, nur nicht, was gesagt wurde
      Nebenbei: Deshalb haben wir Booth.video gebaut – um zu zeigen, dass das kein grundlegender Trade-off ist und dass E2EE und metadatensichere Videokonferenzen auch im Browser möglich sind
    • Nicht alle Meetings sind E2E-verschlüsselt. Wenn man Verschlüsselung einschaltet, werden viele Funktionen wie Cloud-Aufzeichnung und Apps deaktiviert
    • Wie definiert Zoom eigentlich Ende-zu-Ende?