Microsoft überwacht Nutzer seiner KI-Tools

Microsoft überwacht Nutzer seiner KI-Tools

• Microsoft hat festgestellt, dass Hacker aus China, Russland und dem Iran seine KI-Tools nutzen, um ihre Hacking-Fähigkeiten zu verbessern.
• Diese Akteure werden als Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon und Salmon Typhoon identifiziert; sie setzen große Sprachmodelle (LLMs) ein, um Cyberoperationen zu verstärken.
• Die einzige Möglichkeit für Microsoft oder OpenAI, diese Aktivitäten zu erkennen, besteht darin, Chatbot-Sitzungen zu überwachen.
• Die Nutzungsbedingungen erlauben vermutlich die Überwachung der Nutzer; obwohl es nicht überraschend ist, dass Microsoft und OpenAI die KI-Nutzung beobachten, wird dies durch diese Ankündigung nun bestätigt.

GN⁺-Meinung

• Der Artikel liefert wichtige Informationen darüber, dass Microsoft KI-Tool-Nutzung überwacht und dadurch Aktivitäten staatlich unterstützter Hackergruppen nachverfolgt.
• Die Nutzerüberwachung kann Bedenken hinsichtlich persönlicher Privatsphäre und Sicherheit auslösen, kann aber auch als entscheidende Maßnahme zur Stärkung der Cybersicherheit und zum Schutz der nationalen Sicherheit gewertet werden.
• Diese Überwachung zeigt die ambivalente Nutzungsmöglichkeit von KI-Technologie und könnte die Debatte über neue ethische und rechtliche Fragen anstoßen, die mit dem technischen Fortschritt einhergehen.

[GN⁺]

Hacker News Kommentare

• Zusammenfassung der Kommentare zur Datenverarbeitung der OpenAI-API

  • Laut den Nutzungsbedingungen (TOS) der OpenAI-API kann OpenAI Eingaben und Ausgaben der API bis zu 30 Tagen speichern, um den Dienst bereitzustellen und Missbrauch zu identifizieren.
  • Sofern keine gesetzliche Pflicht besteht, werden die Daten nach 30 Tagen aus dem System gelöscht.
  • Nutzende können für bestimmte Anwendungsfälle eine Datenaufbewahrung ablehnen (Zero Data Retention, ZDR).
  • Einzelheiten zur Datenverarbeitung sind in der Plattform-Dokumentation von OpenAI zu finden.

• Zusammenfassung der Kommentare zur Datenverarbeitung von Microsoft-AI-Tool-Nutzenden

  • Ein Vorwurf, Microsoft würde die Nutzer von KI-Tools ausspionieren, spiegelt nicht wider, dass Microsoft entdeckt hat, dass eine feindliche Regierung eines autoritären Staates KI-Tools für illegale Aktivitäten missbräuchlich einsetzt.
  • Durch die Zustimmung zu den Nutzungsbedingungen stimmen Nutzende zu, dass Microsoft diese Datenüberprüfung durchführen darf.

• Zusammenfassung der Kommentare zu Google Bard und Gemini

  • Google hebt auf der Startseite von Gemini klar hervor, dass Nutzerkonversationen von menschlichen Prüfern überprüft und zur Verbesserung der Technik der Gemini-App verwendet werden können.
  • Nutzer sollten keine Informationen eingeben, die sie nicht von menschlichen Prüfern eingesehen oder von Google genutzt sehen möchten.
  • Inhalte aus Google Workspace werden weder geprüft noch für Verbesserungen bei Gemini genutzt.
  • Wenn Nutzende die Aktivität in der Gemini-App deaktivieren, werden zukünftige Gespräche nicht geprüft und nicht zur Verbesserung von Modellen verwendet.

• Zusammenfassung der Kommentare zu Nutzungsbedingungen und Datenschutzrichtlinien

  • Viele Tech-Unternehmen haben in ihren Nutzungsbedingungen festgelegte Rechte, die es ihnen ermöglichen, die KI-Nutzung ihrer Nutzer zu überwachen.
  • Wenn in den Nutzungsbedingungen Klauseln zur Überwachung enthalten sind, ist es sinnvoll anzunehmen, dass das Unternehmen tatsächlich überwacht.
  • Datenschutzrichtlinien sollen Vertrauen schaffen, aber es gibt keine Möglichkeit, zu überprüfen, ob ein Unternehmen sie tatsächlich einhält.

• Zusammenfassung der Kommentare zur Benutzerüberwachung bei Microsoft

  • Dass Microsoft die Nutzung von KI-Tools durch Nutzende überwacht, ist keine Überraschung und längst bekannte Tatsache.
  • Mehrere Tech-Firmen, darunter Microsoft, haben die Möglichkeit, Gespräche von Nutzenden einzusehen, und das darf nur auf Basis einer ausdrücklichen, widerrufbaren Zustimmung erfolgen.

• Zusammenfassung der Kommentare zur KI-Nutzung und Datensammlung

  • Die Nutzung von KI-Tools bedeutet, dass Nutzerdaten in großem Umfang gesammelt werden.
  • Nur wer Datenschutz für Nutzerdaten wirklich ernst nimmt, sollte nur lokal laufende KI einsetzen.

• Zusammenfassung der Kommentare zur KI-Entwicklung und Datensammlung

  • KI basiert auf Daten; je mehr Daten gesammelt werden, desto besser kann die KI trainiert werden, was einen Kreislauf erzeugt, in dem immer mehr Nutzer bereit sind, Daten bereitzustellen.

• Zusammenfassung der Kommentare zur Datensammlung und Missbrauchserkennung auf Plattformen

  • Es ist klar, dass alle Plattformen die Eingaben der Nutzenden sammeln, um künftige Modelle zu trainieren und Missbrauch zu erkennen.