Meta bestätigt Hacking von Tausenden Instagram-Konten durch Missbrauch eines AI-Chatbots

 (this.weekinsecurity.com)
1 Punkte von GN⁺ 7 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Durch eine Schwachstelle im AI-gestützten Kontowiederherstellungssystem von Instagram konnten Links zum Zurücksetzen des Passworts an von Angreifern kontrollierte E-Mail-Adressen gesendet werden, wodurch eine Übernahme von Konten möglich wurde
  • Laut einer Mitteilung über eine Datenschutzverletzung informierte Meta mindestens 20.225 Personen über kompromittierte Konten
  • Angreifer konnten die vollständige Kontrolle über Instagram- und verknüpfte Konten erlangen und auf Kontaktdaten, Geburtsdatum, Profilinformationen sowie Beiträge, Direktnachrichten und Kontoaktivitäten zugreifen
  • Ein Bug in einem separaten Codepfad prüfte nicht korrekt, ob die angeforderte E-Mail-Adresse mit der zum Konto gehörenden Adresse übereinstimmte, sodass das Zurücksetzen von Passwörtern bei Konten ohne Zwei-Faktor-Authentifizierung missbraucht werden konnte
  • Meta hat den AI-Chatbot deaktiviert und den Codepfad für das Zurücksetzen von Konten entfernt; zur Verhinderung ähnlicher Vorfälle werden auch andere Chatbots überprüft

Ausmaß des Vorfalls und zugängliche Informationen

  • Meta informierte in einer Mitteilung über die Datenschutzverletzung mindestens 20.225 Personen über die Kompromittierung ihrer Konten, darunter 30 Einwohner von Maine
  • Die Kompromittierung konnte zur Übernahme des vollständigen Instagram-Kontos und verknüpfter Konten führen und umfasste Zugriff auf Kontaktdaten, Geburtsdatum, Profilinformationen, Beiträge, Direktnachrichten und Kontoaktivitäten
  • Meta weiß derzeit nicht, auf welche personenbezogenen Daten während der Angriffe tatsächlich zugegriffen wurde

Schwachstelle und Angriffsweg

  • Der Vorfall steht im Zusammenhang mit einer Schwachstelle im AI-gestützten Kontowiederherstellungssystem für Instagram, die zum Zurücksetzen der Passwörter von Instagram-Nutzerkonten missbraucht wurde
  • Der Fehler ermöglichte es, Passwörter von Konten ohne aktivierte Zwei-Faktor-Authentifizierung zurückzusetzen; der Chatbot schickte den Bestätigungscode dabei an eine von Angreifern kontrollierte E-Mail-Adresse statt an die E-Mail-Adresse des Kontoinhabers
  • Wegen eines Bugs in einem separaten Codepfad prüfte das System nicht korrekt, ob die vom Anfordernden angegebene E-Mail-Adresse mit der E-Mail-Adresse übereinstimmte, die mit dem betreffenden Instagram-Konto verknüpft war
  • Wenn eine E-Mail-Adresse angegeben wurde, die zuvor nicht mit dem Konto verknüpft war, lehnte das System die Anfrage nicht ab, sondern schickte den Link zum Zurücksetzen des Passworts an diese Adresse, sodass unbefugte Dritte Reset-Links für Konten erhalten konnten, die ihnen nicht gehörten
  • Angreifer konnten in diesem Schritt das Passwort des Opfers zurücksetzen und das Konto übernehmen, als wären sie der rechtmäßige Eigentümer
Anzeige

Zeitraum und Benachrichtigung der Nutzer

  • Laut der Liste aus Maine begannen die Angriffe um den 17. April und dauerten bis zu dieser Woche an, als Meta den Chatbot absicherte
  • Instagram begann Anfang dieser Woche damit, betroffenen Personen Benachrichtigungen zum Zurücksetzen des Passworts zu senden; einige berichteten, dass die Angriffe weiterhin andauerten
  • Meta wies betroffene Nutzer an, ihr Passwort zurückzusetzen und sich über sichere und verifizierte Kanäle erneut zu authentifizieren

Maßnahmen von Meta und verbleibende Unklarheiten

  • Meta hat den AI-Chatbot derzeit deaktiviert und den Codepfad entfernt, über den der Chatbot Nutzerkonten zurücksetzen konnte
  • Um ähnliche Vorfälle zu verhindern, überprüft Meta auch andere Chatbots auf seinen Plattformen
  • Die konkreten Umstände, die zum Missbrauch des Chatbots führten, sind noch unklar
  • Der Vorfall ereignete sich, während Meta seinen Fokus weiter auf AI legt, nachdem Tausende Mitarbeiter entlassen und Aktienanreize für Top-Führungskräfte ausgezahlt wurden

Verwandte Beiträge

1 Kommentare

 
GN⁺ 7 시간 전
Hacker-News-Kommentare

  • In Metas Benachrichtigung über den Sicherheitsvorfall heißt es, „das Tool selbst funktionierte normal und wie beabsichtigt, konnte aber wegen eines Bugs in einem separaten Codepfad nicht korrekt prüfen, ob die von der Person angegebene E-Mail-Adresse, die ein Passwort-Reset angefordert hatte, mit der E-Mail-Adresse des betreffenden Instagram-Kontos übereinstimmte“. Es scheint nicht richtig zu sein, diese Situation als normales Funktionieren oder wie beabsichtigt zu bezeichnen.

    • Im Italienischen gibt es den Ausdruck: „Die Operation war ein voller Erfolg, aber der Patient ist gestorben.“
    • Der Satz liest sich wie: „Es funktionierte wie geschrieben, und wir lehnen jede Haftung oder Gewährleistung für Folgeschäden und Nebenschäden dieser Software ab.“
      Ich denke immer wieder, dass man zur Behebung vieler Probleme in den USA den UCC[1] aktualisieren müsste, damit Haftungsausschlüsse für in Produkten verwendete Software nicht mehr möglich sind.
      [1] Universal Commercial Code -- https://www.law.cornell.edu/ucc
    • Das Tool funktionierte korrekt und wie beabsichtigt, außer dass es wegen eines Bugs weder korrekt noch wie beabsichtigt funktionierte.
    • Das klingt ziemlich ähnlich zu den Ausreden, die Claude oder ChatGPT liefern, wenn man auf einen Fehler hinweist oder um eine Support-Antwort zu einem Softwareproblem bittet.
    • Die Logik hier ist, dass die AI eine plausibel verpackte Eingabeseite ist.
      Das Eingabeformular, das Benutzername und E-Mail entgegennimmt und an eine Backend-Funktion weiterleitet, funktionierte wie beabsichtigt; das Problem ist, dass die Backend-Funktion nicht prüfte, ob die E-Mail zum Benutzernamen passt.

  • „Meta benachrichtigte mindestens 20.225 Personen, dass ihre Konten kompromittiert wurden … Hacker konnten die vollständige Kontrolle über das Instagram-Konto eines Opfers und verknüpfte Konten übernehmen und auf Kontaktdaten, Geburtsdatum, Profilinformationen sowie Beiträge, DMs und Kontoaktivitäten zugreifen … der Angriff begann um den 17. April und dauerte bis in diese Woche an“ — das ist ein schockierendes Ausmaß.

    • Ich mag Meta nicht, aber ob etwas „schockierend“ ist, sollte man eher am Anteil betroffener Nutzer als an absoluten Zahlen messen.
      Für ein mittelständisches Unternehmen mit 100.000 Kunden wäre das schockierend, aber für einen Internetgiganten mit 3 Milliarden monatlich aktiven Nutzern ist es zwar schlecht, aber vielleicht nicht „schockierend“.
    • Es scheint, als hätten sie die Erkennung umgehen können, weil Meta ausdrücklich zulässt, dass Bot-Traffic auf seinen Diensten schamlos Dinge tut.
      Bitte sagt mir nicht, dass Menschen wie eine Armee herbeiströmten und die Konten einzeln kompromittierten.
    • Ich kann nur hoffen, dass die EU ein DSGVO-Bußgeld verhängt, das sehr nahe an der Obergrenze von 4 % des weltweiten Umsatzes liegt.
      Allerdings bezweifle ich, dass die EU wirklich liefern wird, wenn es tatsächlich darum geht, Kunden zu schützen.

  • Ein für ein neues Produkt angelegtes Konto wurde von einem automatisierten System dauerhaft deaktiviert, und es gab keine Möglichkeit, bei einem Menschen Einspruch einzulegen.
    Falls das jemand von Meta/Instagram sieht: Ich habe die Details kurz in einem Blogpost beschrieben und würde mich über Hilfe freuen.
    https://addisonwebb.com/blog/2026-06-05-Can%20Someone%20at%2...

    • Meta verlangt, dass das Basiskonto ein Mensch ist und nicht ein Produkt, Unternehmen oder eine andere nichtmenschliche Entität repräsentiert.
      Deshalb erschien die Aufforderung, „zu verifizieren, dass du ein Mensch bist“, und anschließend wurde das Basiskonto wegen eines Verstoßes gegen die Community-Richtlinien gesperrt, nach denen das Basiskonto eine Person sein muss.
      Die verlinkte Seite mit den Community-Richtlinien ist ziemlich textlastig, sodass man leicht denken kann, man habe gegen nichts verstoßen, solange man nichts offensichtlich Problematisches wie Erwachsenenmaterial hochlädt.
      Der verletzte Abschnitt ist der Teil, der besagt, dass man kein Konto erstellen darf, das eine nichtmenschliche Entität wie ein Unternehmen, ein Haustier oder einen virtuellen Charakter repräsentiert.
      Man muss dem Prozess folgen, von einem persönlichen Konto aus eine Unternehmensseite einzurichten.
      Heute ist es auf allen Social-Media-Plattformen wichtig, beim Erstellen von Unternehmensseiten den offiziellen Weg zu lesen, und alle stehen unter Druck, die Welle von Spam- und Scam-Seiten einzudämmen.
    • Leider ist das sehr verbreitet und in der Branche fast ein vorhersehbares Ergebnis, wenn man zum ersten Mal eine Marken- oder Produktseite erstellt.
      Wenn es sich weiterhin nicht lösen lässt, würde ich empfehlen, eine Branding-/Werbeagentur zu kontaktieren, etwa 100 Dollar zu zahlen und deren Meta-Ansprechpartner um die Entsperrung bitten zu lassen.
      Praktisch muss man jemanden kennen, der jemanden bei Meta kennt, um solche Konten anlegen zu können.
      Tipp: Es ist besser, dieses Problem nicht auf Twitter oder anderen Plattformen zu posten. Das würde jede Menge automatisierten Spam anziehen.
    • Man könnte auch einen Antidetect-Browser ausprobieren.
      Solche Tools sind unter anderem dafür gemacht, neue Konten zu erstellen.
    • Ich wollte ein komplett separates Konto für eine Meetup-Gruppe anlegen und hatte dasselbe Problem; nichts hat geholfen.
    • Dieser Teil ist wirklich ein Desaster.
      Jedes Mal, wenn ich versuche, ein Konto für geschäftliche Zwecke zu erstellen, werde ich innerhalb weniger Minuten aufgefordert, meinen Ausweis hochzuladen, und am Ende wird das Konto trotzdem gesperrt.
      Alles muss über ein persönliches Konto laufen.

  • Das war vor ein paar Tagen schon auf Hacker News (https://news.ycombinator.com/item?id=48359102).
    Damals ging es nicht um Metas schlampige Verifizierung, sondern um eine Erklärung der eigentlichen Angriffsmethode.

  • Hoffentlich beschleunigt das den Niedergang von Meta noch weiter.
    Die Welt würde sich auch ohne Social Media gut anpassen.

    • Realistisch betrachtet: Welche Auswirkungen sollte das auf Meta haben? Ein paar Leute werden wütend sein, aber der Rest wird sich nicht darum kümmern, und dann geht alles weiter wie bisher.
    • Ich kann kaum nachvollziehen, dass dieses Unternehmen immer noch mehr als 1 Milliarde Dollar Nettogewinn pro Quartal macht.
    • Was ist die Alternative? Ein erheblicher Teil dieser 22.000 Konten sind wahrscheinlich Accounts mit großem Publikum, das nur über eine große Plattform erreichbar ist.
      Leider ist Meta fast die einzige Plattform, über die man Menschen aus vielen verschiedenen Bevölkerungsgruppen erreichen kann, und entscheidend sind die Leute, die diesen 22.000 Konten folgen.
      Sie sind von diesem Vorfall nicht direkt betroffen, also werden sie Meta nicht verlassen, und 99 % werden nicht einmal wissen oder sich dafür interessieren, dass das passiert ist.

  • „KI-gestütztes System zur Kontowiederherstellung“ – was zur Hölle macht Meta da eigentlich?

    • Wie könnte man dem süßen Kool-Aid schon widerstehen?
      Trotzdem hätten sie das wirklich nicht tun sollen, und ich frage mich, welche Auswirkungen das auf die großen KI-IPOs haben wird.
      Meta ist in diesem Bereich selbst einer der großen Player; wenn sie das nicht hinbekommen …
    • Kontowiederherstellung ist bei praktisch jedem Dienst mit Abstand die häufigste Ticket-Kategorie.
      Menschen vergessen oder verlieren ihre Zugangsdaten, werden gehackt oder imitiert, und das betrifft nur legitime Anfragen.
      Dazu kommen illegitime Anfragen von Script Kiddies, die täglich ihr Unwesen treiben, über Erpresser, die auf Lösegeld aus sind, bis hin zu Leuten, die „wertvolle“ Handles stehlen wollen, oder staatlichen Akteuren, die Zugang zu DMs von Personen suchen, die Anti-Regierungs-Accounts Nachrichten schicken.
      Daraus folgen drei Dinge: Es ist teuer, wenn Menschen diese Tickets bearbeiten müssen; es kann einen enormen PR-Schaden geben, egal ob man eine Anfrage bearbeitet oder nicht; und die Nutzer/Kunden reichen von den klügsten und reichsten Menschen der Welt bis zu Touristen mit schlechterem Urteilsvermögen als ein Bär[1] oder Menschen, die kaum verständlich schreiben können.
      Noch schlimmer ist, dass Online-Dienste oft überhaupt keine Verbindung zu staatlich ausgestellten Ausweisen haben, es möglicherweise auch keine Ersatzmittel wie eine Handy-SIM gibt, auf jeder Ebene Korruption hineinspielt und insbesondere bei „saftigen“ Zielen Einsätze von mehreren Millionen Dollar möglich sind, wenn sich das in Geld umsetzen lässt.
      Instagram allein hat weltweit 3 Milliarden Nutzer, daher ist es unvermeidlich, dass der Support immense Kosten verursacht; dazu kommen rund 7.000 aktiv genutzte Sprachen weltweit[2], und selbst Menschen mit der Macht des US-Präsidenten oder dem Reichtum von Elon Musk sind Angriffsziele.
      Offensichtlich war das Risikomanagement der gesamten Idee erschreckend unzureichend, aber man sollte diesen Bereich nicht so behandeln, als wäre er von vornherein ein belangloses Problem.
      Genau deshalb wird KI so stark vorangetrieben: Wenn man es richtig baut, kann sie einen großen Teil der Arbeit eines First-Level-Support-Desks zu deutlich geringeren Kosten übernehmen.
      [1] https://velvetshark.com/til/til-smartest-bears-dumbest-touri...
      [2] https://www.sapiens.org/language/world-languages-counting-me...

  • Der Titel sollte zu „Meta bestätigt, dass wegen eines unsicheren KI-Chatbots Tausende Instagram-Konten gehackt wurden“ geändert werden.

  • Ich verstehe nicht, warum bei so etwas die Frage „Kann der Nutzer eine andere E-Mail-Adresse anfordern?“ nicht buchstäblich der allererste Test war.
    Ist der Maßstab so groß, dass man einfach gar nichts testet?

    • Der Kern dieser Erfindung ist doch, Menschen von der Last zu befreien, ihr Gehirn benutzen zu müssen.
      Es gibt Ausnahmen, aber die meisten wollen KI mit der Haltung nutzen dürfen, faul sein zu können.
    • Zu ihrer Verteidigung: Sie werden das LLM wohl angewiesen haben, keine Fehler zu machen.
    • Weil die Softwarebranche Einfachheit der User Experience mit Einfachheit der Developer Experience verwechselt.
      Wahrscheinlich wurde während der Entwicklung weder an die User Experience noch an die Experience der Support-Mitarbeiter gedacht.
      Man hat nur auf die eigene Developer Experience geschaut, das LLM einen Chatbot bauen lassen, es hat funktioniert, und dieses Tempo wurde dann dokumentiert, nach oben berichtet und genutzt, um Investitionen von Aktionären anzuziehen.
      Hätte es echte Vorüberlegungen gegeben, hätte das der Erzählung widersprochen, dass KI Ingenieure ersetzt oder die Produktivität um das 100-Fache steigert.

  • Schon die lächerlich schlechte „Q&A-Chatbot“-Funktion unter manchen Facebook-Posts und ein System, das in den meisten Fällen unangemessene nicht von unproblematischen Kommentaren unterscheiden kann, zeigen, wie weit Meta bei KI zurückliegt.