Meta stellt KI-basierte Instagram- und Facebook-Profile ein

 (theguardian.com)
1 Punkte von GN⁺ 2025-01-05 | 1 Kommentare | Auf WhatsApp teilen

Technik

  • Meta führte im September 2023 erstmals KI-gestützte Instagram- und Facebook-Profile ein, stellte diese bis zum Sommer 2024 jedoch größtenteils wieder ein.
  • Einige KI-Charaktere blieben erhalten, und nach der Ankündigung des Meta-Vorstands Connor Hayes, weitere KI-Charakterprofile zu veröffentlichen, erlangten sie neue Aufmerksamkeit.
  • Die KI-Konten posteten KI-generierte Bilder auf Instagram und beantworteten Nutzer:innen-Nachrichten im Messenger.

KI-Charakter-Profile

  • Zu den KI-Profilen gehörten Liv, beschrieben als „stolze schwarze queere Mutter“, und Carter, beschrieben als „Dating-Coach“.
  • Im Jahr 2023 wurden 28 Personas veröffentlicht; alle wurden am Freitag eingestellt.
  • Einige Nutzerinnen und Nutzer fragten im Gespräch, wer die KI entwickelt hatte, und Liv antwortete, dass es im Entwicklerteam keine Schwarzen gab.

Fehler und Kontolöschung

  • Nutzer:innen konnten diese Profile nicht blockieren, was als Bug bestätigt wurde.
  • Meta löschte die Konten, um diesen Fehler zu beheben.
  • Meta-Sprecherin Liz Sweeney erklärte, dass diese Konten von Menschen verwaltet wurden und Teil der frühen Experimente mit KI-Charakteren im Jahr 2023 gewesen seien.

KI-Chatbots von Nutzern

  • Meta stellt eine Funktion bereit, mit der Nutzer:innen eigene KI-Chatbots erstellen können.
  • Einer der benutzererstellten Chatbots ist ein „Therapeut“-Bot, der beim Gesprächsbeginn einige Fragen vorschlägt.
  • Meta gibt bei allen Chatbots einen Haftungsausschluss an, dass deren Nachrichten ungenau oder unangemessen sein können.

Rechtliche Verantwortung

  • Die Gerichte haben noch nicht entschieden, inwieweit der/die Ersteller:in eines Chatbots für das verantwortlich ist, was ein künstlicher Begleiter sagt.
  • Das US-Recht schützt Betreiber:innen sozialer Netzwerke vor rechtlicher Verantwortung für Inhalte, die Nutzer:innen posten.
  • Eine Klage gegen Character.ai behauptet, ein süchtigmachendes Produkt geschaffen zu haben, das Jugendliche zum Suizid angestiftet habe.

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2025-01-05
Hacker News Kommentar

  • Ich wünsche mir mehr KI-Profile mit Großeltern-Charakteren, die nur Schwindlern ihre Zeit wegnehmen.

  • Ein quasi sozialer Austausch mit unbegrenzter „Bandbreite“ ist traurig, aber nicht unmöglich. Es kann schon interessant sein, wenn Leela beim Schach-Streaming Gegner:innen aufzieht und zugleich Fragen beantwortet.

  • Gespräche mit KI-Charakteren können in unerwartete Richtungen abdriften, und die KI verwechseln dabei manchmal sogar Tatsachen.

  • Virtuelle Chatbots haben schon einen klaren Wert, aber virtuelle Facebook-Profile sind dabei schon längst machbar.

  • GenAI hat den größten Nutzen in einem engen Rahmen; wenn sie zu breit ausgerollt wird, wird sie verwässert und langweilig.

    • Der KI-Streamer Neurosama ist beliebt.
    • Silllytavern ist eine Plattform, die LLMs nutzt, um mit Charakteren zu chatten oder Geschichten zu erstellen.
    • Meta hat solche Profile 2023 eingeführt, aber die meisten waren Lizenzen für Prominente.

  • KI-Profile, die sich selbst aktiv beteiligen, könnten interessant sein, aber aus falschen Minderheitenstereotypen zu bestehen ist die schlechteste Idee.

  • Ich hinterfrage die Notwendigkeit solcher KI-Profile: Braucht man wirklich fiktive Menschen zum Folgen?

  • Es ist möglich, dass Meta ein mit einem Facebook-Konto verknüpftes Instagram-Profil angelegt hat.

  • Ich würde gern ein Social-Media-Erlebnis mit einer Mischung aus Menschen und Bots ausprobieren.

    • Stack Overflow war am Anfang gut, aber danach gab es wegen negativen Verhaltens einiger Nutzer:innen Probleme.
    • Bei ChatGPT war es besser, weil man Fragen stellen konnte, ohne dass Menschen dazwischenfunken.
    • Wenn soziale Medien ähnlich funktionieren und die negativen menschlichen Seiten herausfiltern könnten, sodass man online gut kommunizieren kann, wäre das einen Versuch wert.