- Copilot+ Recall: Eine neue Funktion von Microsoft Windows 11, die den PC-Bildschirm des Nutzers fortlaufend erfasst und alle Aktivitäten in eine durchsuchbare Datenbank umwandelt.
- Sie ermöglicht es dem Nutzer, alles, was er zuvor gesehen hat, leicht zu durchsuchen.
- Die meisten Nutzer reagieren negativ auf diese Funktion. Grund dafür sind Datenschutzbedenken und die Möglichkeit eines Eingriffs in die Privatsphäre.
Potenzielle Nutzer von Copilot+ Recall
- Für Unternehmensmanager mit vielen Aufgaben und wenig Zeit kann es nützlich sein, sofort nachsehen zu können, was sie vor einem Monat zu einem bestimmten Thema getan haben.
- Das betrifft jedoch nur einen sehr kleinen Teil der Windows-Nutzerbasis.
- Die meisten Windows-Nutzer wollen spielen, Pornos schauen und ein menschliches Leben führen, in dem man auch Fehler macht.
- Die Vorstellung, dass jemand anderes Zugriff auf das eigene Gerät haben und die als Fotos festgehaltenen persönlichen Erinnerungen sehen könnte, ist für viele Menschen auf einer tiefen Ebene sehr beängstigend.
Microsofts Fehler
- Microsoft begeht im Namen der KI und auf eine Weise, die echten Kunden schadet, eine Form von Selbstsabotage.
- Das könnte die gesamte Marke Copilot in Brand setzen.
- Es wird darauf hingewiesen, dass diese Funktion das Sicherheitsversprechen von Windows grundlegend bricht.
[ Q&A zu den Sicherheitsproblemen von Copilot+ Recall ]
F. Werden die Daten nicht vollständig lokal auf dem Laptop verarbeitet?
- Ja. Man hat die kluge Entscheidung getroffen, Code wie Azure AI am Edge zu verarbeiten.
F. Dann können Hacker und Malware also nicht darauf zugreifen, oder?
- Nein, sie können darauf zugreifen.
F. Aber es ist doch verschlüsselt?
- Wenn man am PC angemeldet ist und Software ausführt, wird es für den Nutzer entschlüsselt.
- Verschlüsselung im Ruhezustand hilft nur, wenn jemand den Laptop physisch stiehlt.
- Dinge wie InfoStealer-Trojaner sind seit über zehn Jahren ein großes Problem und können nun leicht angepasst werden, um Recall zu unterstützen.
F. Microsoft hat doch gesagt, nur der Nutzer könne auf die Daten zugreifen?
- Das stimmt nicht. Es lässt sich zeigen, dass andere Benutzerkonten auf demselben Gerät auf die Datenbank zugreifen können.
F. Wie funktioniert das dann?
- Alle paar Sekunden wird ein Screenshot aufgenommen.
- Dieser wird von Azure AI automatisch per OCR verarbeitet und in eine SQLite-Datenbank im Benutzerordner geschrieben.
- Diese Datenbankdatei enthält als Klartext die Historie von allem, was der Nutzer auf dem PC gesehen hat.
F. Wie sieht die Datenbank aus?
- Microsoft hat über Medien erklärt, Hacker könnten Copilot+-Recall-Aktivitäten nicht aus der Ferne exfiltrieren.
- Tatsächlich handelt es sich aber um eine Klartextdatenbank mit allem, was auf dem PC gesehen wurde. Das lässt sich sehr leicht automatisiert exfiltrieren.
F. Wie kommt man an die Datenbankdatei?
- Es sind Dateien im neuen Ordner
CoreAIPlatform unter AppData.
F. Aber sie ist doch stark verschlüsselt, sodass niemand zugreifen kann?!
- In einem Video ist zu sehen, wie zwei Microsoft-Ingenieure auf den Recall-Datenbankordner zugreifen und die SQLite-Datenbank auslesen.
- Dafür sind nicht einmal Systemrechte erforderlich.
F. Aber normale Nutzer führen doch nichts als Administrator aus!
- Laut Microsofts eigener Website zur Einführung von Recall stimmt das.
- Tatsächlich muss man nicht einmal Administrator sein, um die Datenbank zu lesen.
F. Aber in dem Video erschien doch eine UAC-Abfrage. Ist das keine Sicherheitsgrenze?
- Laut Microsofts eigener Website und dem MSRC ist UAC keine Sicherheitsgrenze.
F. Wo ist dann hier die Sicherheit?
- In der realen Welt gibt es Lücken groß genug, um ein Flugzeug hindurchzufliegen, daher funktioniert es nicht ordentlich.
F. Werden Dinge wie Finanzinformationen nicht automatisch per Screenshot erfasst und per OCR verarbeitet?
- Nein.
- Laut Dokumentation nimmt Recall keine Inhaltsredaktion vor.
- Passwörter oder Bankkontonummern werden nicht verborgen.
- Es sei denn, die betreffende Website hält Standard-Internetprotokolle ein, etwa das Maskieren von Passwörtern mit
*.
F. Wie groß ist die Datenbank ungefähr?
- Sie komprimiert sehr gut; mehrere Tage Arbeit umfassen ungefähr 90 KB.
- Über eine durchschnittliche Breitbandverbindung lassen sich in wenigen Sekunden Dokumente und Tastenanschläge von mehreren Monaten exfiltrieren.
F. Wie schnell ist die Suche?
- Auf dem Gerät ist sie sehr schnell.
F. Haben Sie Ihre eigene Recall-Datenbank schon exfiltriert?
- Ja. Es wurde eine automatische Exfiltration durchgeführt, und es wurde eine Website erstellt, auf die sich die Datenbank hochladen und sofort durchsuchen lässt.
- Technische Details werden absichtlich noch nicht offengelegt, um Microsoft bis zur Veröffentlichung der Funktion Zeit zu geben.
- Es gäbe tatsächlich viel zu zeigen, und wenn diese Funktion öffentlich wird, würden mehr Communities aus dem Cyberbereich sehr viel Spaß damit haben, aber das wäre wirklich traurig, weil realer Schaden entstehen kann.
F. Welche Arten von Daten enthält die Datenbank?
- Alles, was der Nutzer gesehen hat, nach Anwendung sortiert.
- Jeder Text, den der Nutzer gesehen hat (
Microsoft Edge im InPrivate-Modus ausgenommen, Google Chrome jedoch nicht).
- Sämtliche Benutzerinteraktionen wie das Minimieren von Fenstern.
- Es gibt eine Benutzeraktivitäts-API, und Drittanbieter-Apps können die Daten anreichern und gespeicherte Daten einsehen.
- Auch als Drittanbieter werden alle besuchten Websites gespeichert.
F. Wenn man E-Mails/WhatsApp-/Signal-/Teams-Nachrichten löscht, werden sie dann auch aus Recall gelöscht?
- Nein, sie bleiben unbegrenzt in der Datenbank.
F. Werden sich selbst löschende Nachrichten aus Messaging-Apps aus Recall entfernt?
- Nein, sie werden von Recall erfasst und bleiben nutzbar.
F. Sind damit also groß angelegte Datenlecks von Websites möglich?
- Ja. Wenn es künftig zu großen Datenlecks kommt, bei denen Kundendaten offensichtlich abgeflossen sind, würde man normalerweise das datenverarbeitende Unternehmen verantwortlich machen.
- Wurde jedoch mit einem Windows-Gerät mit Recall auf einen Dienst oder eine App zugegriffen, kann ein Hacker alles sehen und sogar einen Datendump erstellen, ohne dass selbst das betreibende Unternehmen etwas davon merkt.
- Die Daten sind in der Recall-Datenbank bereits konsistent strukturiert und daher für Angreifer leicht nutzbar.
- Man sollte sich auf KI-gestützte Mega-Leaks vorbereiten.
F. Hat Microsoft gegenüber der BBC ein irreführendes Bild der Sicherheit von Copilot vermittelt?
F. Hat Microsoft gegenüber Kunden ein irreführendes Bild der Sicherheit von Copilot vermittelt?
- Ja. Zum Beispiel wird es als optionales Erlebnis beschrieben, ist aber standardmäßig aktiviert und kann von Nutzern nur optional deaktiviert werden.
- Der CEO von Microsoft sprach bei diesem Produkt von „Screenshots“, während das Produkt selbst nur den Begriff „Snapshots“ verwendet.
- Microsoft muss klar machen, was das ist, damit Kunden eine informierte Entscheidung treffen können.
F. Gilt Recall nicht nur für ein einziges Hardwaregerät?
- Das stimmt nicht. Derzeit gibt es 10 Copilot+-Geräte, die bei allen großen Herstellern bestellt werden können.
- Außerdem heißt es auf Microsofts Website, man arbeite an Unterstützung für AMD- und Intel-Chipsätze.
- Recall soll für Windows 11 gelten.
F. Wie deaktiviert man Recall?
- Bei der Ersteinrichtung eines kompatiblen Copilot+-Geräts muss man die Option anklicken, Recall zu deaktivieren.
- Im Enterprise-Bereich ist es standardmäßig aktiviert; zum Abschalten ist daher eine Richtlinie erforderlich:
Turn off Saving Snapshots for Windows.
F. Welche Auswirkungen hat das auf die Privatsphäre? Verstößt es nicht gegen die DSGVO?
- Ich bin kein Experte für Datenschutz oder Recht.
- Datenschutzexperten, mit denen gesprochen wurde, sind sehr besorgt über die Auswirkungen auf Haushalte, etwa in Situationen häuslicher Gewalt.
- Unternehmen müssen das Risiko bedenken, Kundendaten auf diese Weise zu verarbeiten.
- Microsoft wird wohl nicht als Datenverarbeiter haften, da die Verarbeitung auf dem Edge-Gerät erfolgt.
F. Ist Microsoft ein großes böses Unternehmen?
- Nein.
- Dort arbeiten sehr kluge Menschen, und manchmal machen sehr kluge Menschen Fehler. Entscheidend ist, ob sie den Fehler erkennen und was sie dann tun.
F. Waren Sie nicht ein ehemaliger Mitarbeiter, der Microsoft hasst?
- Nein, erst diesen Monat wurde noch ein Blog geschrieben, der Microsoft lobt.
F. Ist das wirklich so schädlich, wie behauptet wird?
- Man sollte zu den Eltern oder Großeltern nach Hause gehen, sich deren Windows-PC ansehen, die im letzten Jahr installierte Software prüfen, das Gerät benutzen und einen Virenscan laufen lassen.
- Es gibt einen Grund dafür, dass es eine Sicherheitsindustrie im Billionen-Dollar-Umfang gibt und sich die meisten Probleme rund um Malware und Endpoints drehen.
F. Was sollte Microsoft tun?
- Meiner Meinung nach sollte Recall zurückgezogen und später als ordentlich überarbeitete Funktion erneut angeboten werden.
- Außerdem sollten die internen Entscheidungen überprüft werden, die zu dieser Situation geführt haben.
- Anfang dieses Monats schrieb der CEO von Microsoft allen Mitarbeitern per E-Mail: „Wenn Sie zwischen Sicherheit und anderen Prioritäten wählen müssen, ist die Antwort klar. Wählen Sie Sicherheit.“
- Nun wird sich zeigen, ob er den Inhalt dieser E-Mail ernst meint.
- Jetzt sollte man den Schlag einstecken und Demut zeigen; andernfalls könnte das Vertrauen der Kunden in die Marken Copilot und Sicherheit aufs Spiel gesetzt werden.
- Ehrlich gesagt gibt es kaum Kunden, die lautstark klagen würden, wenn Recall nicht sofort verfügbar wäre. Aber wenn Microsoft gar nichts tut, das Produkt einfach veröffentlicht, nur leicht anpasst oder das Problem in den Medien kleinredet, wäre das äußerst besorgniserregend.
1 Kommentare
Hacker-News-Kommentare
Microsofts Strategie: Microsoft verfolgt offenbar eine Strategie, zunächst aggressiv voranzugehen und später eine abgeschwächte Lösung anzubieten, um seine Ziele zu erreichen.
Erfahrungen mit Windows und ChromeOS: Basierend auf früheren Erfahrungen bei Microsoft war Windows kein schlechtes Betriebssystem. Nach einem Versuch mit ChromeOS ging es am Ende aber zurück zu Debian.
Wechsel zu Linux: Kürzlich wurde auf einem Framework 16-Laptop Arch Linux und Steam installiert, und Spiele laufen reibungslos. Es fühlt sich an, als wäre man nun vollständig von Microsoft-Produkten losgekommen.
Microsofts Imagewandel: Durch die Übernahme von GitHub und die Einführung des Linux-Subsystems wirkte Microsoft wie ein cooles Unternehmen, doch durch die jüngste Recall-Funktion und die verpflichtende Kontoanmeldung bei der Installation von Windows 10 hat sich wieder ein negatives Bild ergeben.
Probleme mit der Recall-Funktion: Früher bemühte sich Microsoft darum, die Kompatibilität mit Software von Drittanbietern aufrechtzuerhalten, jetzt enttäuscht das Unternehmen mit der Einführung der die Privatsphäre verletzenden Recall-Funktion.
Steve Jobs und Microsoft: Steve Jobs verstand, welche Gefühle Menschen mit Produkten verbinden, Microsoft dagegen nicht. Schon früher wurden die Gefühle der Nutzer nicht berücksichtigt, und daran scheint sich bis heute nichts geändert zu haben.
Datenschutzbedenken: Die Datenschutzprobleme sind ernst, und möglicherweise wird sich die Situation verbessern, bevor sie noch schlimmer wird. Wenn diese Funktion jedoch gut umgesetzt wird, könnte sie die Killer-App der modernen KI werden.
Die Bedeutung des Zugangs zu Informationen: Guter Zugang zu Informationen ist eine starke Fähigkeit. Persönliche Informationen sind äußerst wertvoll, und es braucht eine Möglichkeit, sie zu speichern und automatisch darauf zuzugreifen. Mit der Zeit wird man sich daran anpassen müssen.
Spionagegerät: 2017 holten sich Menschen freiwillig Spionagegeräte ins Haus, und 2024 aktivieren sie einen Keylogger.
Der Film 'Antitrust' und die Realität: Der Film 'Antitrust' aus dem Jahr 2001 handelt von einem Microsoft ähnlichen Unternehmen, das alle Computer überwacht und Code stiehlt. 23 Jahre später ist das Realität geworden.