- Microsoft will die Recall-Funktion, die am 18. Juni breit für Copilot+ PC-Nutzer bereitgestellt werden sollte, zunächst als Vorschau im Windows Insider Program (WIP) anbieten
- Dies ist eine Entscheidung auf Grundlage von Microsofts Zusage, allen Kunden eine vertrauenswürdige, sichere und robuste Erfahrung zu bieten und zusätzliches Feedback einzuholen, bevor die Funktion allen Copilot+ PC-Nutzern zur Verfügung gestellt wird
- Copilot+ PCs sind eine im Mai vorgestellte Kategorie von Personal Computern mit Funktionen für künstliche Intelligenz (KI)
- Das WIP ist ein öffentliches Software-Testprogramm, in dem Millionen von „Windows-Fans“ künftige Funktionen des Betriebssystems vorab ansehen können
- Microsoft plant, die Recall-Vorschau bald auf allen Copilot+ PCs bereitzustellen, nachdem Feedback aus der WIP-Community eingegangen ist
Überblick über die Recall-Funktion
- Die Recall-Funktion verfolgt den Nutzungsverlauf des Computers – von Websuchen bis zu Sprachchats – und speichert eine Aufzeichnung auf dem Computer, damit Nutzer auch Monate später noch nach etwas suchen können, an das sie sich erinnern müssen
Datenschutzbedenken
- Unmittelbar nach der Ankündigung dieser Funktion wurden Datenschutzbedenken geäußert
- Einige Nutzer in sozialen Medien äußerten die Sorge, dass diese Funktion Spionage ermöglichen könnte
- Der milliardenschwere Technologe Elon Musk bezeichnete dies als eine „Black Mirror“-Episode und verglich es mit der Netflix-Serie, die die schädlichen Auswirkungen fortschrittlicher Technologien untersucht
1 Kommentare
Meinungen auf Hacker News
Dieser Beitrag ist verwirrend und vage, und genau das wirkt beabsichtigt. Er legt den Fokus auf Sicherheit und wiederholt, dass Sicherheit oberste Priorität habe, aber wir wissen bereits, dass das in Wirklichkeit nicht so ist.
Es wird nicht gesagt, welche Sicherheitsprobleme es gab, ja nicht einmal angedeutet, dass konkrete Probleme existierten oder entdeckt wurden.
Es klingt eher so, als suche man nach einem neuen Marketingansatz oder wolle den Schock mit „wir hören auf Nutzerfeedback“ abfedern und es dann langsamer durchdrücken, sobald sich die Empörung gelegt hat.
Alle wichtigen Machtakteure wollen, dass etwas wie Recall zum Standard wird. Chefs wollen Mitarbeiter überwachen, Regierungen wollen Bürger und Gegner überwachen, und Tech-CEOs wollen Trainingsdaten für KI sowie Daten für Werbe-Targeting sammeln.
Die wichtigsten Stakeholder werden unterschiedliche Vorstellungen haben, irgendwo zwischen „später noch einmal versuchen“, „für einen anderen Zweck umwidmen“ und „vergessen wir es“. Aber in einem Unternehmen von Microsofts Größe laufen Entscheidungen sehr langsam, daher muss der nächste Schritt zwangsläufig unklar bleiben. Als Gruppe wissen sie es mit ziemlicher Sicherheit selbst noch nicht.
Ich habe früher bei einer Firma gearbeitet, die eine recht bekannte Datenbank für Mobile-Apps entwickelte. Es war eine einfache API, mit der Daten auf dem Telefon gespeichert und ohne viel Zutun der Entwickler mit einem Server synchronisiert wurden.
Zwei Kollegen bauten über mehrere Wochen eine ziemlich überzeugende Chat-App, die Nachrichten mehrerer Nutzer über mehrere Geräte synchronisierte, und wollten sie als Demo veröffentlichen. Bis jemand darauf hinwies, dass es keinerlei Sicherheit gab, hatte das niemand bemerkt. Der Server akzeptierte einfach den neuesten Zustand, den der Client schickte. In einem Chat bedeutete das: Jeder Client konnte den gesamten Verlauf neu schreiben, und der Server würde ihn bei der nächsten Synchronisierung mit einem „Danke!“ an alle verteilen.
Das waren erwachsene Menschen mit Abschlüssen von angesehenen Institutionen, und trotzdem kamen sie überhaupt nicht auf diesen Gedanken. Ich denke, Recall lässt sich schon allein durch Hanlons Rasiermesser und eine Kultur erklären, in der man ungern widerspricht. Es ist klar, dass viele Menschen wollen, dass Computer so funktionieren, und sie wollten es möglicherweise veröffentlichen, ohne auf interne Kritik zu hören.
Bis sich das ändert, sollte man Aussagen dazu, wie sicher Recall werden kann, mit Vorsicht genießen.
Im Vergleich zu Apple Intelligence stellt Apple nicht nur die meisten lokalen APIs in Swift bereit, sondern baut auch dedizierte Hardware und ein unikernel-ähnliches OS und setzt eine Sandbox-Schicht davor, die nur die OS-Funktionen freigibt, die für KI-Verarbeitung und Cluster-Kommunikation nötig sind.
Microsoft dagegen ist eher bei „vertraut uns, wir werden das Richtige tun“.
Microsoft spricht nicht mit Nutzern, bevor es Code zu Windows hinzufügt. Nutzer kontaktieren Microsoft auch nicht, um mitzuteilen, welchen Code sie wollen oder nicht wollen.
Selbst wenn doch, würde das Unternehmen nicht auf Basis von Nutzervorschlägen handeln. Die Reaktionen von Journalisten, Bloggern und Kommentatoren auf Recall lauten eher „das ist eine schlechte Idee“ als „das sollte verschoben werden“.
Microsoft wird tun, was es immer tut: nach eigenem Gutdünken handeln.
Der eingereichte Titel ist etwas verwirrend, und auch das Update macht es nicht viel klarer.
Im Original heißt es „Update zur Recall-Vorschaufunktion für Copilot+ PCs“, und Recall wird von einer Vorschau, die am 18. Juni 2024 breit für Copilot+ PCs verfügbar sein sollte, zu einer Vorschau, die zuerst innerhalb weniger Wochen im Windows Insider Program bereitgestellt wird.
Die öffentliche Veröffentlichung kann sich also verzögern, aber an Insider wird es weiterhin ausgeliefert. Es könnte der 18. Juni 2024 sein, doch die Formulierung „innerhalb weniger Wochen“ deutet auf einen späteren Zeitpunkt hin.
Außerdem heißt es dort, man kündige „Updates an, die angewendet werden, bevor die Recall-Vorschau am 18. Juni an Kunden ausgeliefert wird“, und man plane, „die Recall-Vorschau bald für alle Copilot+ PCs verfügbar zu machen“.
Verschoben ist es auf jeden Fall, und da weder wir noch Microsoft wissen könnten, wie lange, ist es auf unbestimmte Zeit verschoben.
Recall ist ein typischer Fehler, den Microsoft immer wieder macht, ohne daraus zu lernen: ein Fall, bei dem man falsch einschätzt, wie man eine Funktion vermarktet und verpackt.
Microsoft neigt dazu, Integrationen stark voranzutreiben, um die Verbreitung neuer Funktionen zu erhöhen, und das geht häufig nach hinten los. Auch bei Windows 8 wollte man die neue Metro UI unbedingt durchsetzen, integrierte sie tief ins OS, stellte sie in der gesamten Vermarktung in den Vordergrund und machte sie zum ersten Bildschirm nach dem Login.
Es gab auch gute Funktionen wie bessere Performance und Suchergebnisse, aber sie waren nicht optional. Kunden, die nur oberflächlich hinsahen, fassten es als „der Desktop wurde abgeschafft“ auf; das stimmte zwar nicht, aber weil MS die neue Funktion so übertrieben forcierte, blieb dieser Eindruck hängen.
Jetzt ist es ähnlich. Microsoft hat ein objektiv hervorragendes Tool gepusht, den Nutzern aber keine Gelegenheit gegeben zu entscheiden, ob sie es wollen, und auch Messaging und Marketing machten unklar, was tatsächlich passiert. Auch dieser Blogbeitrag spricht ausführlich darüber, dass Sicherheit wichtig sei, sagt aber nicht, was die eigentlichen Sicherheitsprobleme sind und wie sie gelöst werden.
Es überrascht mich immer wieder, warum Microsoft nicht daraus lernt, obwohl schlampiges Marketing und erzwungene Integration ihnen schon mehrfach geschadet haben.
Der Kern ist, dass es Dinge gibt, von denen jeder möchte, dass sie nur vorübergehend auf dem Computer existieren. Wenn ich zum Beispiel eine Kreditkartennummer eingebe, will ich auf keinen Fall, dass der Computer einen Screenshot macht. Noch wichtiger ist, dass ich häufig einen „temporären Notizblock“-Texteditor verwende, der sensible Daten enthalten kann, und ich absolut nicht will, dass solche Daten dauerhaft gespeichert werden.
Microsoft hat die Sicherheitsfolgen dieser Funktion nicht richtig durchdacht.
Ich bin mir nicht einmal sicher, ob das AI-Tool nur offline gearbeitet hätte, und am Ende könnte es bedeuten, dass man mehr Gesamtdaten als zuvor mit Microsoft teilt. Aus Datenschutzsicht ist diese Funktion abstoßend.
Also: lokaler Zugriff auf alle Daten und Upload der Daten, die in Cloud-Apps genutzt werden.
Zehn Jahre später stellte sich jedoch heraus, dass Tastatur und Maus weitaus verbreiteter sind.
Für alle, die die jüngste Entwicklung nicht verfolgt haben: Die US-Regierung bewertet wegen jüngster Sicherheitsprobleme im Zusammenhang mit staatlich unterstützten Angriffen aus Russland und China ihre Beziehung zu Microsoft neu.
Ein aktuelles Beispiel ist der Microsoft-Storm-0558-Vorfall: https://www.microsoft.com/en-us/security/blog/2023/07/14/ana...
Microsoft hat kürzlich zugesagt, seine Sicherheitspraktiken durch Anreize bei der Vergütung von Führungskräften und andere Maßnahmen zu verbessern: https://blogs.microsoft.com/on-the-issues/2024/06/13/microso...
Trotz solcher Zusagen sind jedoch mehrere Abgeordnete der Ansicht, dass Microsoft seine jüngsten Sicherheitsversprechen nicht ernst nimmt. Einige von ihnen haben Einfluss auf die Höhe der Gelder, die Microsoft erhält.
Recall wird häufig als Blitzableiter genutzt, der Microsofts Problem sichtbar macht, Funktionen ohne Berücksichtigung der Sicherheit überhastet auszurollen.
Video, in dem der Microsoft-Präsident von einem Abgeordneten aus Florida befragt wird; Recall wird ebenfalls erwähnt: https://youtu.be/kB2GCmasH4c?t=8217
Ich glaube nicht, dass es nur einen einzigen Grund für die Verschiebung des Starts gibt, aber dass Microsofts größter Kunde Recall auf diese Weise betrachtet, dürfte die Entscheidung, den Launch zurückzustellen, stark beeinflusst haben.
Satya Nadellas Microsoft ist wirklich ein seltsames Unternehmen. Die eine Seite scheint Zuckerbergs „move fast and break things“ nachzueifern, während die andere sagt: „Moment, wir sind das wichtigste Softwareunternehmen der Welt. Es darf nichts kaputtgehen!“
Ganz zu schweigen von dem zehnjährigen Versuch, mit Windows Phone, RT und Nokia im Mobilbereich Google und Apple einzuholen. Nadella hat das zum Glück beendet.
Mir hat die Tatsache die Augen geöffnet, dass es das Surface Pro 10 nur für Unternehmen gibt. Man hat das gesamte Gerät entworfen und produziert, verkauft es aber nicht an normale Kunden. Dieser Markt soll stattdessen zur experimentelleren Copilot-Linie gehen, die vielleicht gut ist, aber von Anfang an gibt es keine Wahl.
Kurz gesagt: Die wirklich wichtigen Kunden, nämlich Unternehmen, die Site-Lizenzen bezahlen, haben das als inakzeptables Geschäftsrisiko eingestuft.
Wer 2024 noch Windows nutzt und weder ein multinationaler Konzern noch eine LLC ist, nimmt eben in Kauf, was damit einhergeht.
Ich persönlich liebe Gaming und Musikproduktion wirklich, deshalb nutze ich Mint und Windows im Dual-Boot. Beides ist unter Linux eindeutig unzureichend.
Normale Menschen außerhalb unserer Geek-Blase haben wenig Lust auf Desktop-Linux. Macs sind großartig, aber richtiges Gaming ist schwierig.
Das Unternehmen sagt auch, es umarme Open Source. Es will Entwicklern nicht nur als etwas erscheinen, das sie wegen der Arbeit zwangsläufig nutzen müssen, sondern als lebendige Alternative zu Linux und Apple.
Inzwischen will man auch die „breite Masse“ anziehen, deshalb bekommt Windows allerlei Zusatzfunktionen, die als benutzerfreundlich verkauft werden. Werbung gibt es auch, aber sie ist nicht so schlimm, wie man hört. Wenn man sich im Startmenü vertippt, erscheinen etwa Websuchergebnisse wie von Bing zusammen mit Werbung, ähnlich wie bei einer Google-Suche. Ob das etwas ist, das ich „in Kauf nehmen muss“, weiß ich nicht, und es hat mich nicht genug gestört, um es zu deaktivieren.
Letztlich bedeutet die Nutzung von Windows, Microsoft implizit zu vertrauen. Genauso wie iPhone- oder Android-Nutzer Apple oder Google implizit vertrauen. Man versucht nur, die Zahl der Akteure zu verringern, denen man vertrauen muss.
Microsoft steht eher ständig im Rampenlicht und bekommt viel harte Kritik ab, hat also mehr zu verlieren als kleinere oder „angesehenere“ Anbieter; deshalb macht mir das nicht allzu große Angst. Selbst wenn eine neue Spielerei Microsoft beim Überwachen helfen könnte, sehe ich daher keinen großen Grund, mich darum zu sorgen. Wenn sie überwachen wollen, können sie es ohnehin jederzeit.
Gestern sagte Microsoft-Präsident Brad Smith vor dem Ausschuss für Heimatschutz des US-Repräsentantenhauses aus, und der Ausschuss argumentierte, Microsoft sei ein Risiko für die nationale Sicherheit.
Unternehmenskunden könnten auf diese Aussage ebenfalls reagieren, aber vom Timing her wirkt die Motivation hinter dieser Ankündigung eher wie Druck vonseiten der US-Regierung.
Interessant ist, dass der AI-Hype auch Nicht-Techniker dazu gebracht hat, mehr über Datenschutz- und Sicherheitsbedenken im Zusammenhang mit Software nachzudenken und darüber zu sprechen.
Verglichen mit der Datensammlung, die große Tech-Konzerne seit Jahren betreiben, sind große Sprachmodelle an sich nicht besonders viel böser. Aber die AGI-Werbung hat bei den Menschen Abwehrreaktionen ausgelöst.
Ich sehe das positiv. Menschen sollten technischen Datenschutzfragen mit Angst, Unsicherheit und Zweifel begegnen.
Natürlich lässt sich ein großer Teil meiner Aktivitäten vermutlich aus anderen Tracking-Daten zusammensetzen, aber dauerhafte Screenshots von allem, was auf dem Bildschirm war, sind eine zentralisierte Datengoldmine, und ich möchte, dass niemand Zugriff darauf hat.
Ich halte das für bösartiger als die meisten anderen Formen der Datensammlung.
Recall nutzt ein in Windows 11 eingebautes lokales AI-Modell, um von nahezu allem, was man auf dem Computer sieht oder tut, Screenshots zu erstellen, und ermöglicht es Nutzern, gesehene Elemente zu durchsuchen und wiederzufinden.
In einer durchsuchbaren Timeline kann man durch Snapshots scrollen und nachsehen, was man an einem bestimmten Datum am PC gemacht hat. Alles in Recall soll lokal und privat auf dem Gerät bleiben; die Daten würden nicht zum Training von Microsofts AI-Modellen verwendet.
https://www.theverge.com/2024/6/13/24178144/microsoft-window...
Ich musste das nachschlagen und teile es, um jemandem eine Minute zu sparen.
Ich frage mich, wie Microsoft in einem viel vielfältigeren Ökosystem aus stromsparenden und günstigen Windows-Geräten solche Funktionen in großem Maßstab auf dem Gerät ausführen lassen will.
Das ist erst der Anfang von AI-zentrierten Produkten, die übertrieben verkauft und dann verzögert oder stillschweigend eingestellt werden.
Große Sprachmodelle sind für einfache Aufgaben in Ordnung, haben aber bereits ihre Grenzen erreicht. Egal wie viele Daten es gibt, sie lösen das Problem von Wiederholung und Komplexität nicht.
Solche Gespräche werden von Leuten geführt, die kein einziges Paper zu großen Sprachmodellen gelesen oder sie nicht einmal wirklich benutzt haben. Sie kennen die Risiken überhaupt nicht, treiben es aber weiter voran, weil irgendein ahnungsloser Chef ihnen aufgetragen hat, einen Plan zur AI-Nutzung zu erstellen.
Dagegen gibt es bei Apple Intelligence keinen Widerspruch, obwohl es sich an alle Apps erinnern soll. Persönlich halte ich diese Idee für gut; sie muss vorsichtig und sicher umgesetzt werden, aber die Möglichkeit, Logs wieder hervorzuholen, ist nützlicher als eine neue Suche.
Bei Googles generativer Suche und ChatGPT mit integrierter Suche von OpenAI sieht man denselben doppelten Standard: Wenn Google falschliegt, ist das ein großes Problem, bei den anderen aber nicht.
Apple AI stellt im Kern API-Hooks bereit, über die Apps dem Modell Aktionen und Daten zugänglich machen können. Derzeit scheinen das Apples eigene Apps zu tun, aber jeder App-Anbieter kann selbst entscheiden, ob er es unterstützt.
Das ist ein völlig anderer Ansatz.
Auch serverseitig gibt es eine spezielle OS-Version im Unikernel-Stil, aus der alles entfernt wurde, was für KI-Berechnungen oder Networking nicht nötig ist, und es werden Swift und Secure Enclave verwendet.
Das ist etwas anderes als eine Plaintext-SQLite-Datenbank, geschrieben in C oder C++ und COM, wie es die WinDev-Sparte offenbar bevorzugt.
OpenAI und Bing machen deutlich, dass der Nutzer mit einem KI-Chatbot spricht, und die meisten Menschen erwarten nicht, dass das so vertrauenswürdig und genau ist wie das erste Ergebnis einer Google-Suche.