Versucht Microsoft, Selbstmord zu begehen?

 (antipope.org)
2 Punkte von GN⁺ 2024-06-06 | 1 Kommentare | Auf WhatsApp teilen

Microsofts neue Funktionen: CoPilot+ und Recall

Zusammenfassung der wichtigsten Punkte

  • Ausbreitung von AI:

    • Die jüngsten Tech-Nachrichten konzentrieren sich auf die Ausbreitung von AI (künstlicher Intelligenz).
    • Viele Unternehmen bemühen sich darum, AI zu ihren Produkten hinzuzufügen.

  • Einführung von CoPilot+:

    • CoPilot+ ist ein auf LLMs (Large Language Models) basierendes Windows-Add-on von Microsoft.
    • Es ähnelt dem früheren Clippy, nutzt jedoch AI, um Nutzern bei ihren Aufgaben zu helfen.
    • Aufgrund der Grenzen von LLMs besteht jedoch die Möglichkeit, dass keine präzisen Antworten geliefert werden.

  • Windows-ARM-Prozessoren:

    • Microsoft treibt Windows auf ARM-Basis voran, um nicht von Intel abhängig zu sein.
    • Die neuen CoPilot+-PCs sind mit leistungsstarken ARM-Prozessoren ausgestattet und für AI-Aufgaben ausgelegt.

  • Recall-Funktion:

    • Recall ist eine Funktion, die sämtliche Aktivitäten eines Nutzers auf dem Computer aufzeichnet.
    • Sie erstellt Screenshots, extrahiert per OCR (optische Zeichenerkennung) und Spracherkennung Text und speichert ihn in einer Datenbank.
    • Die gespeicherten Daten sind nicht verschlüsselt, was zu Sicherheitsproblemen führen kann.

  • Privacy-Probleme:

    • Die Recall-Funktion kann die Privacy der Nutzer schwerwiegend verletzen.
    • Die gespeicherten Daten können Benutzeranmeldedaten, Passwörter usw. enthalten.
    • In rechtlichen Verfahren könnte die Datenbank vorgeladen werden, was für Unternehmen und Privatpersonen ein großes Risiko darstellt.

  • Weitere Probleme:

    • Die Recall-Funktion könnte gegen Privacy-Gesetze wie GDPR und HIPAA verstoßen.
    • Microsoft plant, diese Funktion zwangsweise in ein Windows-11-Update aufzunehmen.

Meinung von GN⁺

  • Verletzung der Privacy:

    • Die Recall-Funktion kann die Privacy der Nutzer schwerwiegend verletzen. Besonders für Unternehmen oder Einzelpersonen, die mit sensiblen Daten arbeiten, stellt sie ein großes Risiko dar.

  • Sicherheitslücken:

    • Eine unverschlüsselte Datenbank kann Hackern oder böswilligen Nutzern leicht zugänglich sein. Das kann mit hoher Wahrscheinlichkeit Sicherheitsvorfälle verursachen.

  • Rechtliche Probleme:

    • Die Recall-Funktion verstößt mit hoher Wahrscheinlichkeit gegen Privacy-Gesetze wie GDPR und HIPAA. Das kann zu Rechtsstreitigkeiten führen.

  • Vertrauen der Nutzer:

    • Die Einführung einer solchen Funktion durch Microsoft kann das Vertrauen der Nutzer erheblich beschädigen. Langfristig könnte sich das negativ auf das Unternehmensimage auswirken.

  • Alternative Technologien:

    • Unternehmen, denen die Privacy der Nutzer wichtig ist, sollten statt der Recall-Funktion andere Alternativen prüfen. Zum Beispiel ist die Einführung von Open-Source-basierten Sicherheitslösungen sinnvoll.

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-06-06
Meinungen auf Hacker News

  • Selbst wenn man Sicherheits- und Datenschutzbedenken ausblendet, fühlt sich Recall nicht wirklich wie eine KI-Funktion an.
    Ist das nicht im Kern eine Architektur, die On-Device-OCR und eine SQLite-Datenbank erstellt und diese dann durchsucht? Selbst nach der heute lockeren Definition von KI sehe ich die Verbindung nicht so recht. Liegt es daran, dass OCR auf Machine Learning basiert? Falls es in Recall eine LLM-Komponente gibt, die ich übersehe, würde mich interessieren, ob man auch eine Website für einen Prompt-Injection-Angriff bauen könnte, die bösartige Anweisungen in der SQLite-Datenbank indexieren lässt und sie später dem LLM zuführt.

    • Es heißt schon seit Langem: Jedes Mal, wenn KI-Forschende etwas möglich machen, wechselt es von „unmöglicher Science-Fiction“ zu „das ist keine echte KI“.
      Es ist seltsam, diese Reaktion tatsächlich zu sehen. Auch OCR galt einmal als etwas, das in brauchbarer Qualität unmöglich sei; deshalb nutzte man CAPTCHAs, um Forum-Bot-Logins zu verhindern. Anfangs waren es Texte, dann wurden sie immer stärker verzerrt, bis selbst Menschen sie kaum lesen konnten, dann kamen Hausnummern und „Klicken Sie alle Bilder mit XYZ an“, und am Ende verschwand das weitgehend zugunsten von Analysen, die Mauszeigerpositionen und besuchte Websites betrachten.
    • Nachdem ich selbst nach einer Antwort gesucht habe, scheint es über einfache OCR hinaus ein gewisses Maß an semantischer Analyse zu geben; nach dem heutigen lockeren Sprachgebrauch kann man es daher wohl als KI-Funktion ansehen.
      Ein Hinweis ist diese Demo https://www.youtube.com/watch?v=aZbHd4suAnQ&t=1062s, in der die Suche nach „blue pantsuit with sequin lace“ einen Eintrag findet, der im Text als „peacock“ beschrieben ist. Das sieht nach Embedding-Suche über Bild-Embeddings aus.
      Außerdem heißt eine der drei von Recall erstellten SQLite-Datenbanken „SemanticImageStore“, daher scheint auf dem Gerät ein Bild-Embedding-Modell im CLIP-Stil zu laufen. In dieser Datenbank gibt es auch eine Spalte „diskann“, was offenbar auf Microsofts Vektorindex-Bibliothek https://github.com/microsoft/DiskANN verweist.
    • In der Demo kann man suchen, auch wenn die Wörter „Blue bag“ nicht auf dem Bildschirm stehen.
      Wenn zum Beispiel auf einem Foto einer PowerPoint-Folie eine blaue Tasche zu sehen ist, findet es sie.
    • Offenbar wird hier eine KI-Definition verwendet, die eher in Richtung „Problem, das Computer womöglich nicht lösen können“ geht.
      OCR galt eindeutig als KI, bevor wir wussten, wie es geht. Jetzt, wo wir es verstehen, ist es „einfach Computing“ geworden, aber auch nach anderen KI-Definitionen ist es weiterhin plausibel, es als KI zu betrachten.
    • Wahrscheinlich ist RAG im Spiel.

  • Wenn Recall in der EU nicht schon vollständig illegal ist, befindet sich Microsoft vom Launch bis zu einem EU-weiten Verbotsgesetz in einem Rennen ohne Tempolimit.
    Ich sehe kein Szenario, in dem die EU das in ihrem Binnenmarkt erlaubt. Allein die sehr berechtigte Sorge, dass es von missbräuchlichen Ehepartnern ausgenutzt werden könnte, reicht politisch völlig aus. Ich kann mir kaum ein Mitglied des Europäischen Parlaments vorstellen, das sich gegen ein so verpacktes Gesetz stellen würde, und die neu gewählten Abgeordneten würden zwischen all den komplexen und schwierigen Themen einen einfachen Erfolg sicher begrüßen.

    • Warum sollte Recall in der EU illegal sein?
    • Was ist, wenn europäische Bürger diese Funktion wollen? Haben sie dann gar keine Wahl?

  • Neben den bereits erwähnten mehreren logischen Fehlern möchte ich noch einen hinzufügen.
    Diese Argumentation setzt voraus, dass Microsofts Zukunft Windows ist. Seit Satya sehe ich das nicht mehr so. Sobald man das erkennt, sieht die Zukunft ziemlich rosig aus, unabhängig von einem Implementierungsfehler bei einer Windows-Funktion.

    • Was ist dann die Zukunft, die Microsoft vorschlägt?
      Xbox ist es nicht; diesen Krieg verlieren sie, und auch das basierte auf Windows. Smartphones sind es auch nicht; dort haben sie bereits verloren, und auch das basierte auf Windows.
      Office ist ebenfalls schwierig. Der Bedarf an kostenpflichtigen Office-Suiten sinkt, und MS Office im Browser ist ziemlich schlecht.
      Es könnte Azure sein, aber der große Zubringer zu Azure besteht meiner Ansicht nach darin, dass Microsoft Unternehmen dazu drängt, Active Directory und Exchange in die Cloud zu verlagern. Das Ende von Windows ist aber das Ende von Active Directory, und für Cloud-Mail und -Kalender gibt es Alternativen. Wenn man nicht ohnehin wegen Exchange schon dort ist: Ist Azure für viele Leute attraktiv?
      Die Zukunft mag rosig sein, aber wie soll man diese Zukunft erkennen, wenn es kein Windows gibt, auf das man schauen kann? ;p
    • Stimmt. Microsoft hat mehrere Milliarden-Dollar-Umsatzquellen wie Office, Azure, XBox und Spiele-Labels, und die „Cloud“-Seite des Computing ist fast ausschließlich Linux, sodass der Anreiz sinkt, in Windows zu investieren.
      An Bewegungen wie WSL, winget und sudo sieht man deutlich, dass Windows sich bei der Kommandozeilenschnittstelle immer mehr zu einer Hülle entwickelt, die Linux imitiert.
      Microsoft im Jahr 2000 war Windows 9x, 2000 und Office. 2004 lud man von Websites Windows-exklusive Software herunter, aber 2024 ist auch Apple-exklusive oder Linux-exklusive Software verbreitet.
      Streng genommen war das „Jahr des Linux-Desktops“ seit mehr als zehn Jahren MacOS. Verglichen mit Reibungspunkten wie Windows-Dateipfaden und der Win32 API ist es fast eine Einstiegsdroge auf dem Weg zu vollständigem Linux.
    • Wenn das stimmt, läuft auf 80 % der Desktops und Laptops weltweit ein verfallendes Betriebssystem.
      Ich sage nicht, dass das falsch ist; tatsächlich stimme ich zu, dass Windows innerhalb von Microsoft in den Hintergrund gerückt ist, aber es ist ziemlich beängstigend.
      Wenn man sich die neuen Exchange-Server-Lizenzen ansieht, kann man wohl sicher davon ausgehen, dass Microsoft so schnell wie möglich aus dem On-Premises-Softwaregeschäft aussteigen will. Fraglich ist nur, ob die Welt bereit ist, das zu akzeptieren, und ob das das ist, was wir wollen.
    • Stimmt. Windows ist inzwischen fast ein Lockangebot, bei dem Verluste in Kauf genommen werden.
    • Um Windows großartig zu machen, müsste man nur den ganzen Müll entfernen, nach dem niemand gefragt hat.
      Es gibt absurd viele fragwürdige Anti-Patterns.

  • Selbst wenn Microsoft oder ein anderes FAANG-Unternehmen all unsere Daten leakt, ist unklar, ob sie tatsächlich einen hohen Preis dafür zahlen würden.
    Wann ist zuletzt ein Unternehmen wegen Daten­sicherheitsproblemen wirklich „untergegangen“? Zu den jüngsten Sicherheitsvorfällen gehören Snowflake sowie AWS / Capital One.

    • Dass Leaks passieren, versteht jeder.
      Der entscheidende Punkt hier ist: Was nicht gesammelt wurde, kann auch nicht geleakt werden. Recall umfasst weit mehr und weit sensiblere Daten als alles, was Microsoft zuvor gesammelt hat.
    • Snowflake hat ziemlich konsequent gesagt, es habe sich nicht um eine Kompromittierung des Basissystems gehandelt, sondern um Fehlkonfigurationen bei Kunden.
      Das erinnert an die Mitte der 2010er-Jahre bei AWS, als bestimmte Systeme standardmäßig öffentlich waren und zahlreiche „Datenlecks“ schlicht dadurch entstanden, dass Unternehmen ihre Daten-Buckets nicht auf privat gestellt hatten.
    • Was wir brauchen, sind hohe, verpflichtende Bußgelder für jedes Datenleck.
      Wenn man Unternehmen zum Beispiel 10.000 Dollar pro Person zahlen ließe, deren Adresse geleakt wurde, würden sie anfangen, Verbraucherdaten nicht als billigen Vermögenswert, sondern als Risiko zu behandeln.
    • Equifax sollte man auch nicht vergessen.

  • Es sieht so aus, als hätte der Webserver dort zuerst Selbstmord begangen.

  • In Microsofts jüngstem Quartalsbericht stand ein Umsatzplus von 17 %, und die Aktie ist im vergangenen Jahr um fast 25 % gestiegen.

    • Schön für sie. Das wird nicht viel bedeuten, wenn Kunden anfangen, sich vor solchen Dingen zu fürchten und Geschäfte abzulehnen.
    • Wenn ich könnte, würde ich bei Microsofts Betriebssystemgeschäft short gehen und bei ihrem Cloud-Provider-Geschäft sowie ihrer OpenAI-Investition weiter long bleiben.
    • Dass die Aktie im vergangenen Jahr um fast 25 % gestiegen ist, heißt doch, dass sie etwa so gut wie der durchschnittliche S&P 500 abgeschnitten hat, oder? Von einem Tech-Giganten würde ich mehr erwarten.

  • Microsoft begeht eindeutig keinen Selbstmord. Seht euch an, wie viel Aufmerksamkeit dieses Feature bekommen hat.
    Alle Tech-Medien sprechen über Windows, und Windows ist plötzlich wieder relevant. Wie soll das Selbstmord sein?
    Selbstmord begehen die Microsoft-Kunden, die dieses Feature eingeschaltet lassen. Man muss die Nutzer über die Risiken dieses Features aufklären und darüber, wie man es abschaltet.

    • Wenn jemand eine Waffe auf einen richtet und sagt: „Ich schieße in 5 Sekunden“, und man bleibt stehen, statt in Deckung zu gehen, und wird getroffen, dann ist das kein Selbstmord.
      Es mag ein dummer Tod sein, aber die Person, die geschossen hat, hat trotzdem Mord begangen. Das fühlt sich nach einer ziemlich passenden Analogie für die aktuelle Situation an.
    • Wir sind bereits über die rutschige Abwärtsspirale hinaus und spüren schon den Wind in den Haaren.

  • Ich kann es auf HN nicht finden, aber ich glaube, ich habe früher schon etwas Ähnliches wie Recall gesehen.
    Ein Screenshot-Tool ließ OCR/Erkennung darüber laufen und machte die Daten in einer Datenbank durchsuchbar. Es war als Open Source auf GitHub.
    Nebenbei: Bei den Datenschutzfragen bin ich hin- und hergerissen, aber andererseits scheint es ARM wieder zu Windows zu bringen, und das unterstütze ich.

  • In „Wir wussten schon seit einiger Zeit, dass Sprachmodell-Technologie unsere Zukunft beherrschen würde“ ist dieses Wir definiert als die Leute, die nur dann Einkommen erzielen, wenn mehr Geld in LLM-Technologie fließt.
    Für den Rest von uns wirken LLMs als allgemeine Lösung für irgendetwas hoffnungslos fehlerhaft.

  • Ich sehe nicht unbedingt, dass Microsoft Selbstmord begeht.
    Ich finde nur, dass sie viel zu reaktiv und nicht proaktiv genug sind. Anders gesagt: Sie machen wohl den Fehler, sich zu sehr darauf zu konzentrieren, Tech-Trends vorherzusagen, statt ihren eigenen Weg zu schaffen und Chancen zu erzeugen.
    Natürlich schaffen sie in manchen Märkten ihren eigenen Weg, etwa bei Entwickler-Tools oder vielleicht Azure. Aber was weiß ich schon, ich bin nur ein dummer Programmierer.