Richterin weist Behauptung eines „Massenüberwachungsprogramms“ zurück, das allen ChatGPT-Nutzern schade

• Weil OpenAI im Rahmen der Beweissicherung in einer Urheberrechtsklage die ChatGPT-Logs von Millionen Nutzern unbefristet aufbewahren muss, ist die Debatte um die Privatsphäre der Nutzer zu einem Streitpunkt vor Gericht geworden
• Der zweite Antragsteller, Aidan Hunt, wandte ein, dass eine Anordnung, nach der sogar gelöschte und anonyme Chats gespeichert werden, einem landesweiten Massenüberwachungsprogramm nahekomme; selbst wenn nur Ausgaben gespeichert würden, könnten dadurch Eingabefragen oder Themen offengelegt werden
• Richterin Ona Wang wertete die Anordnung als Maßnahme, die ein Privatunternehmen verpflichtet, vorhandene Daten für Prozesszwecke zu sichern, zu trennen und aufzubewahren, und akzeptierte die Auslegung als Massenüberwachung nicht
• Das Gericht sah eine mögliche Verletzung der verfassungsrechtlichen und vertraglichen Privatsphäre von ChatGPT-Nutzern als Nebenfrage, die nicht direkt mit dem Kern der Urheberrechtsklage zusammenhängt, und ließ Hunts Intervention nicht zu
• OpenAI wird in einer mündlichen Verhandlung am 26. Juni Bedenken gegen die Aufbewahrungsanordnung vorbringen; Corynne McSherry von der EFF betonte, dass für Aufzeichnungen von AI-Chatbots Mechanismen für Benachrichtigung, Löschung und Transparenz nötig seien

---

Anordnung zur Aufbewahrung von ChatGPT-Logs und Versuch einer Nutzerintervention

• Das Gericht hat OpenAI angewiesen, ChatGPT-Logs von Millionen Nutzern unbefristet aufzubewahren; auch gelöschte Chats fallen unter die Aufbewahrungspflicht
• Die Anordnung dient der Sicherung potenzieller Beweise in einer von Nachrichtenorganisationen eingereichten Urheberrechtsklage
• Der erste Antrag eines Nutzers auf Intervention wurde im Namen eines Unternehmens eingereicht, doch Richterin Wang wies ihn im Mai mit der Begründung zurück, dass das Unternehmen die Unterlagen über einen Anwalt hätte einreichen müssen
• Der zweite Antragsteller, Aidan Hunt, gab an, ChatGPT gelegentlich zu nutzen und bei der Nutzung des Dienstes mitunter „sehr sensible persönliche und geschäftliche Informationen“ an OpenAI zu senden

Aidan Hunts Vorwurf einer Verletzung der Privatsphäre

• Hunt wandte ein, die Aufbewahrungsanordnung habe ein landesweites Massenüberwachungsprogramm geschaffen, das alle ChatGPT-Nutzer betreffe und ihnen potenziell schade
• Er problematisierte auch, dass Nutzer nicht vorab darüber informiert worden seien, dass gelöschte Chats und anonyme Chats plötzlich aufbewahrt würden
• Auch wenn der Umfang der Aufbewahrung auf ChatGPT-Ausgaben beschränkt sei, bestehe das Risiko weiter
  • Denn Ausgaben könnten Eingabefragen oder Themen im Kern offenlegen oder diese häufig ausdrücklich erneut formulieren
• Hunt erklärte, er habe nicht gewusst, dass OpenAI diese Informationen speichere, bis er in einem Online-Forum entsprechende Nachrichten gesehen habe
• Er machte geltend, seine Rechte aus dem Vierten Verfassungszusatz und auf ein rechtsstaatliches Verfahren würden verletzt, und schlug einen Antrag auf Aufhebung der gerichtlichen Anordnung vor

Forderung, anonyme und sensible Chats auszunehmen

• Hunt kritisierte, Richterin Wang habe nicht erwogen, Anonymous Chats von der Aufbewahrung und Offenlegung auszunehmen
• Er ging davon aus, dass anonyme Chats mit hoher Wahrscheinlichkeit die sensibelsten und potenziell schädlichsten Informationen der Nutzer enthalten
• Die Chat-Typen, die er ausgenommen wissen wollte, waren:
  • Chats zu medizinischen, finanziellen, rechtlichen und persönlichen Themen
  • Chats, die tiefgehende private Informationen über Nutzer enthalten, aber mit den Interessen der klagenden Nachrichtenorganisationen überhaupt nichts zu tun haben
• Hunt sah in dem Fall neue und wichtige verfassungsrechtliche Fragen zum Recht auf Privatsphäre im Zusammenhang mit der Nutzung von AI
• Zudem warf er die Frage auf, ob eine Discovery-Anordnung in einem Zivilverfahren ein landesweites Massenüberwachungsprogramm schaffen könne

Begründung von Richterin Wang für die Zurückweisung

• Richterin Wang folgte Hunts Argumenten in einer Anordnung vom 20. Juni nicht
• In einer Fußnote stellte sie klar, dass eine Anordnung zur Dokumentenaufbewahrung nicht als Massenüberwachung ausgelegt werden könne
  • Die Anordnung verpflichte ein Privatunternehmen lediglich, bestimmte bei ihm vorhandene Daten ausschließlich für Prozesszwecke aufzubewahren, zu trennen und zu sichern
  • Sie stellte ausdrücklich fest, dass die Justiz keine Strafverfolgungsbehörde sei
• Die Frage, ob die vorübergehende Aufbewahrung bestimmter Chat-Ausgabe-Logdaten, die OpenAI während des Rechtsstreits normalerweise gelöscht hätte, die verfassungsrechtlichen oder vertraglichen Datenschutzrechte einzelner Verbraucher verletzen könne, wurde als Nebenfrage eingestuft
• Diese Frage trage „in keiner Weise“ zur Klärung des Sachverhalts in der Hauptsache der Urheberrechtsverletzung bei
• Die von Hunt aufgeworfenen „neuen“ Fragen seien keine Streitpunkte der Urheberrechtsklage; ihre Behandlung würde, selbst wenn sie erfolgte, die Lösung der eigentlichen Streitfragen unangemessen verzögern

OpenAIs mündliche Verhandlung und die Frage der Nutzerbenachrichtigung

• OpenAI erhält am 26. Juni vor Richterin Wang Gelegenheit zu einer mündlichen Verhandlung, um Bedenken gegen die Aufbewahrungsanordnung vorzubringen
• Hunts größte Sorge war, dass die Aufbewahrungsanordnung bestehen bleibt und Chat-Daten möglicherweise den klagenden Nachrichtenorganisationen offengelegt werden
• Richterin Wang sah derzeit kein Risiko, da bislang keine Chat-Daten an Nachrichtenorganisationen offengelegt worden seien
• Hunt befürchtete, dass bereits die Speicherung der Daten durch OpenAI auch ohne Weitergabe schwerwiegende und irreparable Schäden verursachen könne
• Einige Nutzer stellten infrage, wie entschieden OpenAI dagegen vorgehen werde
  • Hunt befürchtete, dass der Schutz der Nutzerprivatsphäre nachrangig werden könnte, falls OpenAI andere Erwägungen wie Prozesskosten, eine schnelle Beilegung oder die Vermeidung von Reputationsschäden stärker gewichte
• OpenAI reagierte nicht umgehend auf eine Bitte um Stellungnahme und hatte zuvor unter Verweis auf den Kreis der betroffenen Nutzer erklärt, gegen die Anordnung vorgehen zu wollen
• Corynne McSherry von der Electronic Frontier Foundation sieht in dieser Discovery-Anordnung ein reales Risiko für die Privatsphäre der Nutzer und einen möglichen Präzedenzfall für andere Klagen
• McSherry sagte, Nutzer von AI-Chat-Apps müssten ihre Verläufe löschen können und sicher sein, dass sie tatsächlich gelöscht wurden; außerdem seien zeitnahe Benachrichtigungen über Anfragen nach Nutzerinformationen sowie regelmäßige Transparenzberichte erforderlich