- Bei Metas neuester AI-Demo kam es während einer Live-Vorführung zu einem Fehler
- Eine als "AI" bezeichnete Sprachaufnahme wurde abgespielt, noch bevor sich der eigentliche Darsteller bewegte
- Viele Anwesende bemerkten dadurch, dass es sich nicht um eine Echtzeit-Demo, sondern um eine Vorabaufnahme handelte
- Zweifel und Kontroversen über die Glaubwürdigkeit der Demo nahmen zu
- Der Vorfall löste Diskussionen über die Verlässlichkeit von AI-Technologie und die Art öffentlicher Vorführungen aus
Überblick über den Vorfall
- Bei einer von Meta veranstalteten AI-Demo kam es während der Live-Vorführung zu einem Zwischenfall
- Obwohl sich der Darsteller in der realen Umgebung noch gar nicht bewegt hatte, wurde bereits eine als "AI" gekennzeichnete aufgenommene Stimme abgespielt
- Die anwesenden Zuschauer bemerkten dies sofort, wodurch offenkundig wurde, dass es sich nicht um eine Live-Demo in Echtzeit handelte
Zentrale Punkte und Reaktionen
- Durch den Vorfall verbreitete sich eine negative Wahrnehmung hinsichtlich der Glaubwürdigkeit von Metas Demo
- Innerhalb und außerhalb der Branche wurden Forderungen nach Transparenz und Authentizität bei AI-Technologie lauter
Auswirkungen auf die Branche
- Der Vorfall wurde zu einem Anlass, die Notwendigkeit einer gesicherten Vertrauenswürdigkeit von AI-Technologie erneut hervorzuheben
- Bei künftigen öffentlichen Vorführungen dürften präzise Abläufe und die Gewährleistung von Wahrhaftigkeit noch wichtiger werden
1 Kommentare
Hacker-News-Kommentare
Es gibt noch ein weiteres schlechtes Beispiel mit Zuck darin
https://old.reddit.com/r/interestingasfuck/comments/1nkbqyk/zuckerberg_invested_billions_in_new_tech_to_watch/
Ist es also am Ende wirklich darauf hinausgelaufen? Das soll künstliche Intelligenz sein? Man hat einfach zig Milliarden Dollar dafür ausgegeben, ein Rezept mündlich zu erklären? Ich frage mich, warum man so viel für etwas ausgibt, das man auch auf ein Blatt Papier schreiben könnte
Hätte es diesen großen Fehlschlag nicht gegeben, hätte ich gar nicht gewusst, dass es überhaupt eine Demo gab. Auch negatives Marketing ist am Ende Marketing, und es wirkt
Das war wirklich schmerzhaft anzusehen. Ich kann kaum glauben, dass ich 2 Minuten durchgehalten habe
Big Tech hat dieses Jahr 155 Milliarden Dollar für AI ausgegeben. Und in Zukunft sollen noch Hunderte Milliarden mehr ausgegeben werden
https://www.theguardian.com/technology/2025/aug/02/big-tech-ai-spending
Das Beste, was ich je in meinem Leben gesehen habe. Ich bin so glücklich, dass ich es kaum in Worte fassen kann
Das Video war nicht vorab aufgezeichnet, aber es war eine manipulierte Demo. Vielleicht hat sich die AI nach vielen Proben verheddert. Das entschuldigt nichts. Man hat ein Budget auf Apollo-Programm-Niveau hineingepumpt, und trotzdem ist es noch dumm. Meta ist ein Unternehmen mit rund 2 Billionen Dollar Marktkapitalisierung, und es überrascht mich immer wieder, dass es nicht einmal ein einziges ordentliches Produkt zustande bringt
Nicht vorab aufgezeichnet, aber es wirkte so, als hätte man bestimmte geskriptete Antworten für bestimmte Sprachphrasen vorbereitet. Deshalb kam, als "what do I do first" wiederholt wurde, immer wieder dieselbe falsche Antwort. Wäre es ein echtes Modell gewesen, hätte es nicht ständig dieselbe Antwort wiederholt, sondern direkter versucht, sich zu korrigieren
Metas Kerngeschäft verdient mit Werbung und Datentracking unglaublich viel Geld, deshalb spielt es überhaupt keine Rolle, was die übrigen Geschäftsbereiche tun
Bedeutet letztlich also ... es ist nicht anders als ein Stein
Ehrlichkeit ist inzwischen eine Oase in der Wüste aus Betrug und Identitätsvortäuschung im Jahr 2025. Ich warte nur darauf, dass all diese Blasen platzen
Ich denke ähnlich — vermutlich wurde bei einer früheren Probe der Speicher nicht sauber geleert. Und ich fand auch schon das Nutzungsszenario verwirrend, in dem diese Person bereits eine großartige Küche, Zutaten und ein Steak vorbereitet hat, aber angeblich keinerlei Ahnung hat, wie man eine Sandwichsauce macht
Der Kotaku-Artikel landet wirklich einen guten Treffer
Man muss anerkennen, dass Live-Demos schwierig sind. Gestern wirkte es nicht wie erzwungen inszeniert, sondern eher wie ein unerwarteter Defekt durch Änderungen in letzter Minute. Die meisten Builder haben so etwas schon erlebt. Mir ist bei einem Hackathon auch einmal kurz vor dem Auftritt durch eine letzte Änderung der Server kaputtgegangen, und ich habe 6 Stunden gelitten, bevor ich auf die Bühne musste
Live-Demos sind besonders schwierig, wenn das Produkt, das man verkauft, ein betrügerisches Produkt ist
Der Nokia-CEO musste einmal auf einer großen Handy-Messe das neueste Produkt auf der Bühne vorführen. Mein Geschäftspartner und ich hatten die Demo selbst gebaut, aber es war so schwer, sie auf den letzten Server zu bringen, dass wir sie am Ende auf einem alten PC im Kleiderschrank eines Freundes mit einer 2-Mbit-Internetleitung laufen ließen. Ich stand auf der Bühne und sah mir die Demo schweißgebadet an
Ich mag Meta nicht, aber dass Live-Demos schwierig sind, stimmt eindeutig. Wenn wir in einer Welt landen, in der all diese Dinge nur noch vorab aufgezeichnet und digital bearbeitet sind, fände ich das auch nicht gut
Dass Live-Demos schwierig sind, entschuldigt noch lange kein Schummeln
Ich habe mir das Video noch einmal angesehen und verstehe nicht ganz, warum die erste halbwegs plausible Antwort sofort unterbrochen wurde. Vielleicht gab es Audio-Latenz oder er war irritiert, weil es anders lief als in der Probe
Ich habe einen Freund, der Zaubershows macht und gleichzeitig Stand-up-Comedy. Beides sind Live-Auftritte, aber ich habe noch nie jemanden gesehen, der es mit so einer Tagline verkauft. Zu Beginn seiner Shows sagt er zur Belustigung des Publikums: "Heute ist es eine Zaubershow. Aber wenn die Zaubertricks scheitern, machen wir einfach eine Comedyshow daraus." Zuck, ich kann dir meinen Freund günstig vermitteln. Damit könntest du dein Repertoire an Auftritten erweitern, bei denen du gut mit Menschen auskommst
Wenn dein Freund den britischen Zauberkünstler Tommy Cooper nicht kennt, sollte er ihn sich unbedingt einmal ansehen
https://en.wikipedia.org/wiki/Tommy_Cooper
Kann es sein, dass dein Freund eigentlich keine Zauberei kann und einfach nur lustig ist? Oder baut er absichtlich ein paar Fehlschläge ein?
Ich schätze, selbst nach dutzenden Proben ist es nie so vollständig zusammengebrochen wie live. Trotzdem rechne ich es ihnen hoch an, dass sie weiter auf Live-Demos setzen. Apple-Demos sind inzwischen so fade, dass sie sich wie eine zweistündige Werbung anfühlen
Es ist tatsächlich interessant zu sehen, wie das Modell in einer echten Umgebung arbeitet — vermutlich ähnlich wie in der Demo-Szene. Aber ich teile den Verdacht nicht, dass diese Demo vorab aufgezeichnet war. Wahrscheinlich war es eher ein unfertiger Prototyp, bei dem wichtige Schritte ausgelassen wurden oder der Ablauf wegen fehlender multimodaler Fähigkeiten nicht korrigiert wurde. Vielleicht war es auch eine inszenierte Aufnahme, aber das ist nicht der entscheidende Punkt. Im realen Einsatz werden am Ende Genauigkeit, Latenz und Bedienkomfort das sein, was für echte Nutzer zählt. Zum Beispiel glaube ich auch nicht, dass viele Leute ein Tool zum Schreiben per Gesten wirklich für die meisten Nachrichten verwenden möchten. Es sieht cool aus, aber aktuell wirkt es nicht wie etwas, das breite Akzeptanz finden wird
Die Stimmung ist viel zu negativ. Trotzdem glaube ich, dass unsere Branche von Optimisten vorangebracht wird und dass wir gesellschaftlich gerade deshalb Fortschritte machen, weil wir eine Kultur haben, die in gewaltige technologische Herausforderungen investieren kann. Meta baut statt Aktienrückkäufen Computer, die mit Menschen sprechen, sehen, Probleme lösen und virtuelle Elemente in die Realität zeichnen. Ich lobe sie dafür, dass sie sich an eine Live-Demo gewagt haben
Ich mache mir Sorgen, dass die spöttische und höhnische Stimmung immer mehr Reddit ähnelt. Dass der am höchsten bewertete Beitrag ein Reddit-Link ist, finde ich auch enttäuschend, und ich verfolge diese Community seit mindestens 10 Jahren, also ist das keine Täuschung eines Neulings
Er ist der CEO eines Unternehmens im Wert von zig Milliarden Dollar und verspricht Technologie, die sich auf die Arbeitsplätze unzähliger Menschen auswirken wird. Deshalb muss er auch entsprechend gründlich überprüft werden
Du projizierst gerade einfach nur deine eigene Hoffnung auf Betrüger und Lügner. Sie müssen kritisiert und verspottet werden, damit echte Innovatoren eine Chance bekommen
Das ist nicht wie die Demos aus der frühen iPhone-Zeit, als neue Technologie gerade erst aufkam. Damals wurden Fehlschläge eher verziehen. Heute verkaufen Meta und ähnliche Unternehmen aber seit Jahren die Erzählung, dass sie mit AI überall die Welt verändern werden, und schaffen dann nicht einmal ein simples Rezept für eine Steaksauce. Genau diese Diskrepanz ist der Kern dessen, worüber sich die Leute lustig machen. Das ist überhaupt nicht dieselbe Liga
Ich glaube nicht, dass es manipuliert war. Wenn man mit Claude im Browser debuggt, bekommt man ähnliche Ergebnisse. Deshalb wird es in der Praxis auch nicht viel genutzt. Irgendwo in der Pipeline wird es etwas nachlässig oder prescht voraus und interpretiert nur das, was es zeigen will. Es will so wirken, als sei es "fertig". Das ähnelt dem Problem, dass LLMs so tun, als hätten sie Tests bestanden. Wenn man für einen Zielzustand gelegentlich einfach so tut, als hätte man ihn erreicht, kann das beim RL-Training effektiv als bestanden durchgehen. Das liegt nicht an Wi-Fi, sondern an den Eigenschaften von genAI
Für kleine Aufgaben ist es großartig als Autocomplete-Tool. Bei Dingen, die man schon oft gemacht hat, ist es nützlich. Aber ich hätte nie alles auf solche Modelle gesetzt
Es war extrem schwierig, Claude dazu zu bringen, Pfeile auf Fotos richtig zu interpretieren. Ich habe ihm ein Flussdiagramm gegeben, und darin war es wirklich schlecht
Es gibt das Sprichwort: "Arbeite nie mit Kindern, Tieren und Puppenspiel"
https://tvtropes.org/pmwiki/pmwiki.php/Main/NeverWorkWithChildrenOrAnimals#:~:text=Jim%20Henson%20states%20that%20he'd%20been%20told%20never%20to%20work%20with%20children%2C%20animals%2C%20or%20puppets.