So sieht jede App aus, die AI hinzufügt

 (botharetrue.substack.com)
2 Punkte von GN⁺ 2023-10-14 | 1 Kommentare | Auf WhatsApp teilen
  • Apps, die mit AI-Funktionen erweitert wurden, werden als Ablauf persifliert, bei dem zunächst mit einem riesigen Splash-Screen Erwartungen aufgebaut werden, bevor das tatsächliche Ergebnis enttäuscht
  • Hinter dem Wettlauf der Unternehmen, AI-Funktionen zu veröffentlichen, stehen Investitionshype und eine Nachahmungslogik; der zitierte Inc-Artikel warnt davor, dass Unternehmen in der Seed-Phase allein mit einem Pitch-Deck 100 bis 150 Millionen US-Dollar einsammeln
  • Die Kritik richtet sich nicht gegen AI selbst, sondern gegen AI-Marketing; dem werden Beispiele wie Google gegenübergestellt, das AI im gesamten Produkt einsetzt, ohne damit anzugeben
  • Canvas „Magic Design“ und die Beta-Kennzeichnung werden dafür kritisiert, minderwertige Ergebnisse als „magic“ zu verpacken
  • Formulierungen wie „AI-enabled assistant“ können das Vertrauen eher senken und sogar zu einer so starken Ablehnung führen, dass man Geld für eine Option zahlen würde, die das Wort AI vermeidet

Das wiederkehrende Muster beim Onboarding von AI-Funktionen

  • Apps, die AI hinzufügen, locken Nutzer zuerst mit einer großen Splash-Page an
  • Nach einem Klick auf „get started“ erscheint ein Bild, als würde der ganze Planet vom „Aha“-Moment des Nutzers erleuchtet, und erzeugt die Erwartung, dass sich nun alles verändern wird
  • Im nächsten Schritt soll der Nutzer seine Aufgabe beschreiben, aber es gibt kaum Hinweise darauf, was oder wie genau man etwas eingeben soll
  • Selbst die Beispiel-Prompts sind überzogen, etwa in der Art: „Erstelle eine Marketingkampagne, die Menschen für ein neues Internet begeistert, einschließlich Maskottchen und Slogan“

AI-Boom und Nachahmungswettlauf

  • Der Wettbewerb um die Einführung von AI-Funktionen wird als race to the bottom beschrieben
  • Unternehmen sehen, wie andere Firmen AI bauen und dafür Hype bekommen, und wollen dann auf denselben Zug aufspringen
  • Das Beispiel mit einer Meditations-App überzeichnet dies: Statt wie Calm.com mit „10 Minuten Meditation am Tag“ zu werben, gäbe es dann etwas wie „Headspace AI“, bei dem ein Roboter an deiner Stelle meditiert und dir die dabei gewonnenen Erkenntnisse mitteilt
  • Der zitierte Inc-Artikel schreibt, dass AI für Investoren zwar weiterhin attraktiv ist, zugleich aber ein überhitzter, überinvestierter und überbewerteter Bereich sei
    • Jason Corsello von Acadian Ventures äußert Sorge darüber, dass Unternehmen in der Seed-Phase allein mit einem Pitch-Deck 100 bis 150 Millionen US-Dollar einsammeln
    • Oded Shenkar von der Ohio State University sagt, dass in einem Goldrausch die Nachahmung zunimmt und dass es ein verbreiteter Irrtum sei, Startups stets als Innovatoren zu sehen

Apps, die AI gut nutzen, und Apps, die AI in den Vordergrund stellen

  • Es wird nicht jede Nutzung von AI grundsätzlich abgelehnt
  • Google wird als Gegenbeispiel genannt: Obwohl AI im gesamten Produkt steckt, stellt das Unternehmen sie nicht so zur Schau wie ein Kind, das mit neu gekauften blinkenden Schuhen angibt
  • Im Gegensatz dazu wird Canva dafür kritisiert, „Magic Design (TM)“ zu bewerben und es auch noch mit einem Beta-Hinweis zu versehen
  • Beta wird satirisch als eine in der Tech-Branche übliche Umschreibung für „nicht besonders gut“ dargestellt

Ablehnung gegenüber der Verpackung als „Magic“

  • Ein zentraler Kritikpunkt ist das Marketing, AI-Ergebnisse als „magic“ zu bezeichnen
  • Das erzeugte Bild einer „fairy cat“ wird nicht als beeindruckendes Resultat beschrieben, sondern eher wie etwas, das ein Baumgeist auf LSD und Speed am Computer gezeichnet hätte
  • Als Beispiel für echte magic werden Zaubertricks genannt, die Menschen in Staunen versetzen — im Kontrast zur „magic“-Rhetorik des AI-Marketings

Konkrete Reaktionen auf App-Marketing

  • Wenn auf einer Website „now with AI-enabled assistant“ steht, löst das so starke Ablehnung aus, dass man die App meiden und am liebsten den Computer aus dem Fenster werfen würde
  • Taucht das Wort AI in einer App auf, wird dies überzogen so dargestellt, als sei das ganze System mit einer „AI-disease“ infiziert und nie wieder richtig brauchbar
  • Gäbe es eine Option, bei der das Wort AI nirgends in der App auftaucht, würde man sie als Premium-Tier kaufen
  • Zum Schluss folgt noch ein persönlicher Witz darüber, dass jemand mit dem Namen Alex von Freunden Al genannt wird — und dass „AI Magic“ deshalb so klinge, als sei er selbst Magie oder als würde die App seine Magie benutzen

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2023-10-14
Meinungen auf Hacker News

  • Eine Arbeit von mir, die persönlich kurz für Aufsehen gesorgt hat: https://meat-gpt.sonnet.io
    Ein beträchtlicher Teil des Traffics kommt von Leuten, die glauben, das sei ein echtes Projekt, weil Kataloge für KI-Tools ständig Beschreibungstexte zu meinem KI-Produkt halluzinieren.
    Ich hätte fast einen Preis gewonnen, habe aber gegen eine Website mit einem rotierenden 3D-Sandwich verloren; immerhin traf ich dadurch jemanden, der von einem Startup zur Herstellung von Beef Jerky gewechselt war, und es entstand eine kleine, exklusive Community namens „meatverse“.
    Ich habe auch https://butter.sonnet.io gebaut, wofür Leute Geld bezahlen wollten, und vielleicht sollte ich eine mittelalterliche Content-Farm mit Native Ads in Frakturschrift monetarisieren: https://tidings.potato.horse

    • Ironischerweise ist Butter wirklich großartig und passt genau zu dem, was generative KI nachhaltig gut kann: im Namen der Nutzer viel Text lesen, hier Video-Untertitel, strukturierte und unstrukturierte Erkenntnisse herausziehen und so zu einem reichhaltigeren Erlebnis führen. Dafür würde ich wohl auch bezahlen.
      https://github.com/paprikka/butter/blob/main/src/watcher/detector.ts#L10-L33
      Der Punkt des ursprünglichen Beitrags, und vermutlich auch von meat-gpt, ist allerdings: Wenn eine App von Anfang an verlangt, dass Nutzer in Echtzeit jede Menge unstrukturierten Text eingeben, ist das bestenfalls lästig und läuft auch unserem Instinkt zuwider, auf coole Dinge zu zeigen, Veränderungen zu beobachten und sie mit echten Menschen zu teilen.
      KI ist großartig, wenn sie das Tippen, Lesen und Anschauen irrelevanter Werbung reduziert und die Zeit erhöht, in der man relevante Dinge sieht, bei denen man „Ooooh“ sagt.
    • Die Projekte sind großartig und die Arbeit ist beeindruckend.
      Aber hier freue ich mich vor allem, dass ich wieder an .horse erinnert wurde. Ich habe es, glaube ich, seit der Uni nicht mehr gesehen, als Freunde und ich wild Domains kauften und statische Seiten hochluden, deren Hintergrund aus einem zufälligen, gekachelten Bild bestand.
    • Mir gefällt die UI dieser Projekte, und ich mag die minimalistische Ästhetik.
      Falls es okay ist: Mich würde der Tech-Stack interessieren. Das Frontend sieht nach Svelte aus.
    • Ich wollte diese mittelalterliche Content-Farm mögen, aber die Schrift ist unecht.
      Sie verwenden nicht einmal das richtige lange s, also ſ: https://en.wikipedia.org/wiki/Long_s
    • meat-gpt ist auch cool, aber jetzt will ich noch mehr die Website mit dem rotierenden 3D-Sandwich sehen, die dagegen gewonnen hat.
      Gibt es zufällig einen Link?

  • Das erinnert mich an den Electric Monk aus Douglas Adams’ Dirk Gently.
    „Der Electric Monk war ein arbeitssparendes Gerät, wie eine Spülmaschine oder ein Videorekorder. Spülmaschinen waschen für einen den langweiligen Abwasch ab und ersparen einem die Mühe, es selbst zu tun; Videorekorder schauen für einen langweiliges Fernsehen und ersparen einem die Mühe, es selbst anzusehen. Electric Monks glauben für einen und ersparen einem die immer beschwerlichere Aufgabe, all die Dinge zu glauben, die die Welt von einem verlangt.“
    Besonders passend ist die Stelle, dass dieser Electric Monk kaputtging und anfing, fast wahllos alle möglichen Dinge zu glauben, sogar Dinge, die man selbst in Salt Lake City kaum glauben würde.

    • Sobald ich „Probieren Sie Headspace AI aus. Einer der Roboter meditiert für Sie und teilt Ihnen die gelernten Lektionen mit“ las, musste ich an den Electric Monk denken.
      Seltsamerweise hatte ich in Erinnerung, dass es ein Gerät war, das für einen Fernsehen schaut.

  • Der Hype Train der Tech-Branche existiert genauso wie die zwielichtige Welt des Multi-Level-Marketings. Wegen früherer Kunden habe ich damit einiges an Erfahrung.
    Was verkauft wird, ist egal; es geht nur darum, ob der Hype Train an genügend Leuten vorbeikommt, damit man seine „Investition“ zu Geld machen kann.
    Jede Finanzierungsrunde ist der Exit der vorherigen Teilnehmer, und die letzte Runde ist der IPO, bei dem die ahnungslose Öffentlichkeit die leere Tüte in der Hand hält.
    Wie bei einem MLM-Pyramidensystem kann das Produkt oder der Service für manche Menschen durchaus wertvoll sein, wird aber in der Realität auch an die große Mehrheit verkauft, die es nicht braucht.
    Vor ein paar Jahren musste irgendwo im Businessplan BLOCKCHAIN stehen, heute muss KI hinein. Menschen begeistern sich auch für Dinge, die sie nicht verstehen oder die nur imaginär sind, also kann man einfach Träume verkaufen; man darf nur nicht auf den eigenen Hype hereinfallen.

    • Genau.
      Ich bin auf drei Hype Trains aufgesprungen: Dotcom, Cloud und jetzt KI; w3/Krypto habe ich verpasst.
      In anderen Bereichen der USA oder der Welt habe ich solche Hype Trains allerdings kaum gesehen.

  • Ich arbeite bei einem Fortune-500-Unternehmen, und einer unserer hohen Tech-Führungskräfte stand in Business Insiders Top 100 im Bereich KI.
    Unser Unternehmen hat kein Produkt, das KI nutzt, und das, was KI tatsächlich am nächsten kam, war ein sehr kleiner Test mit GitHub Copilot.

    • Vor 15 Jahren gab es jemanden, mit dem ich an NGO-Projekten in Afrika gearbeitet habe.
      Diese Projekte waren Prototypen, Proofs of Concept, Tests oder klein angelegt, und die Person war, ehrlich gesagt, eher kein Manager, der besser im Umsetzen als im Reden war; ich glaube, der tatsächliche Beitrag war gering.
      Trotzdem landete diese Person im Jahr darauf in den Top 100 des Time Magazine, weil sie „Millionen von Kindern gerettet“ habe, und da wurde mir klar, wie Medien wirklich funktionieren.
    • Das könnte das Unternehmen verraten, aber falls möglich, würde mich interessieren, welcher Beschreibungstext als Begründung für die Aufnahme in diese Liste dabei stand.
      Der wahre Grund ist wohl „hatte eine gut vernetzte PR-Person bei Business Insider“, aber wenn man den nach außen präsentierten schön klingenden Vorwand kennt, dürfte das ziemlich aufschlussreich sein.
    • Sind solche Listen nicht alle Marketingmaßnahmen?

  • Das Pop-up „Absurde, ehrliche Comedy, etwa zweimal pro Woche über verletzliche persönliche Essays geliefert – E-Mail eingeben …“ lag zufällig über dem Prompt „Woran hängst du fest?“ im zweiten Bild
    Eine Weile habe ich nicht bemerkt, dass es nicht Teil der Abbildung war. Immerhin hat die fiktive AI-Seite einen erst etwas anklicken lassen, bevor sie nach persönlichen Daten gefragt hat

    • Ich habe gesehen, dass auf jeder Substack-Seite beim Herunterscrollen ein dummes Modal erscheint, und es nervt mich so sehr, dass ich Substack nach Möglichkeit meide
      Ich denke über so etwas wie eine Chrome-Erweiterung nach, die sie automatisch schließt, aber im Moment habe ich das Gefühl, dass die meisten nicht einmal den Klick wert sind
      Genau so, wie mich das Internet bei allen Modals trainiert hat: sofort schließen, ohne zu lesen. Wenn ihr meine Aufmerksamkeit wollt, setzt den Call-to-Action in den Text, den ich gerade lese
      Mitten im Content ein Modal einzublenden, das nach meiner E-Mail fragt, wirkt wie ein Signal, dass der Content euch nicht wichtig ist und ihr ihn nur geschrieben habt, um an meine Daten zu kommen
    • Ging mir auch so. Ich dachte, der Autor mache einen selbstironischen Witz über Leute, die sich auf Substack atemlos selbst vermarkten, aber nein
    • Ich sollte eine AI trainieren, die automatisch auf „continue reading“-Links klickt

  • Unternehmen probieren gerade massenhaft Dinge aus, indem sie Müll an die Wand werfen, um zu sehen, was kleben bleibt, und seltsamerweise belohnen Investoren das
    Es ist klar, dass man mit LLMs nützliche Funktionen bauen kann, aber zuerst müssen Unternehmen etwas begreifen
    Es braucht mehr Aufwand, als einfach ein LLM-Frontend auf ein Produkt zu setzen, und wahrscheinlich wird es auch keine glitzernde „disruptive“ Funktion sein
    Schon eine User Experience um 5 % einfacher und effizienter zu machen, ist enorm wertvoll, aber AI-Influencer werden so eine Funktion nicht atemlos verkaufen
    Vor allem muss man erst über das zu lösende Problem nachdenken, bevor man über die Lösung nachdenkt

    • Man sollte es wohl andersherum sehen. Investoren werfen massenhaft Geld auf AI, um zu sehen, was kleben bleibt, und Journalisten werfen massenhaft Aufmerksamkeit auf AI, um zu sehen, was kleben bleibt
      Unternehmen merken, wie leicht es ist, auf diesen Zug aufzuspringen
      Kürzlich habe ich über eine Stunde mit dem Engineering-Leiter eines Startups gesprochen, das gerade aus dem Stealth Mode gekommen ist – über Arbeit, Markt, technische Herausforderungen und Teamstruktur –, und AI kam kein einziges Mal vor
      Aber wenn man auf die Website geht, ist sie voll mit Formulierungen wie „verstärken Sie Ihr _____ mit fortschrittlicher AI“
    • Ist das Startup-Modell selbst nicht schnelles Experimentieren, also Dinge an die Wand zu werfen und zu sehen, was kleben bleibt?
      Das Wort „Venture“ in Venture Capital passt doch genau dazu
      Ehrlich gesagt weiß ich nicht, auf welche andere Weise das funktionieren sollte
    • Ich dachte, wir seien an der Phase des dummen Geldes vorbei und in der Phase von Profitabilität und Sparsamkeit angekommen
      Offenbar gibt es noch mehr Geld zu verbrennen
    • Wenn es einen Goldrausch gibt und alle losstürmen, um sich ein Stück zu sichern, ist es unmöglich vorherzusagen, wer am erfolgreichsten sein wird
      Weil das Ergebnis unsicher ist, landet man bei der Strategie, in jeden zu investieren, der im Goldrausch tatsächlich aktiv ist
      Natürlich liegen in der Realität Netzwerkeffekte vorne, und man wird eher in Leute investieren wollen, die man kennt und die eine Erfolgsbilanz und Fähigkeiten beim Schaffen von Wohlstand haben
      Deshalb ist es an sich nicht falsch, im Goldrausch aktiv zu sein und dafür von Investoren belohnt zu werden; dahinter steckt eine ziemlich klare Rationalität
    • Das passiert in jedem Hype-Zyklus
      Vor ungefähr einem Jahr das Metaverse, davor mehrere Runden Krypto-Unsinn, und davor gab es den alten Freund AI
      Es gab eine kurze Phase, in der alles so tat, als wäre es ein AI-Chatbot, um Venture-Finanzierung zu bekommen, und diese letzte AI-Blase ist mit dem Start von Microsoft Tay praktisch gestorben

  • Genau so empfinde ich den AI-Hype
    Ich bin schon ziemlich lange im Bereich „AI“, und der Hype ist schädlich, weil er völlig unrealistische Erwartungen erzeugt – sowohl an den Nutzen der Tools als auch an ihre Kosten

  • „Gib mir ein High Six“ ist ein guter Witz. Umso mehr, wenn man bedenkt, wie notorisch schlecht neuronale Netze darin sind, plausible Hände zu erzeugen

    • Das Bild mit der Zukunfts-Kristallkugel und den drei Fingern setzt dem Ganzen die Krone auf
      Ich empfinde es genau wie der Autor. „AI“ an eine App zu kleben, wirkt wie das Signal eines schmierigen Verkäufers, der schnell Schrott loswerden will, um diesen Monat die Alimente zahlen zu können
      Machine Learning selbst ist in Ordnung und nützlich. Aber „pack einfach ein LLM obendrauf“ ist schmerzhaft plump
      Jetzt machen das alle Tech-Produkte und -Services, und es fühlt sich komplett an wie die Rückkehr des Krypto-Hypes
    • Ich musste auch lachen, aber wenn man die neuesten SDXL-Modelle auf Civitai gesehen hat, sind die Probleme mit Händen und Fingern ziemlich verbessert worden
      Einige der jüngsten generierten Bilder sind ziemlich realistisch

  • Es ist wirklich erstaunlich, dass so viel Geld in AI-Betrug fließt, während die kleinen heldenhaften Maintainer, die generative AI-Tools auf GitHub pflegen, kaum Finanzierung bekommen
    Es gibt Ausnahmen, etwa dass TheBloke für quantisierte Modelle gesponsert wird oder GGML Seed-Finanzierung bekommen hat, aber Leute wie InvokeAI, VoltaMl, koboldcpp/artbot und AI Horde, Petals, die ControlNet-Entwickler und andere sollten eigentlich im Geld schwimmen, während sie tatsächlich mit praktisch nichts ausbrennen
    Es gibt sicher noch viel mehr Beispiele, die ich nicht kenne

    • War das beim Blockchain-Hype nicht derselbe Ausgang?
      Die Krypto-Bros sind mit dem Geld abgehauen, und ein paar Entwickler haben auf GitHub mit wenig oder gar keiner Finanzierung Stück für Stück weitergebaut
      Der große Unterschied ist, dass es viel weniger Leute gibt, die den AI-Hype verteidigen, und dass man die Anwendung von LLMs insgesamt viel kritischer und realistischer betrachtet
    • Man sollte normalen Leuten davon nichts erzählen. Im Moment sind überraschend viele von ihnen gut ansprechbar und leicht zur Zusammenarbeit zu bewegen
      Ein weiterer Grund, warum sie unter dem Radar bleiben, ist, dass viele aus dieser Szene etwas fragwürdig sind
      Zum Beispiel ist Automatic1111 auch für ein rassistisches Rimworld-Mod bekannt, schreibt 4chan aktiv in die Entwickler-Credits und benutzt Ho Chi Minh als GitHub-Profilbild. Er könnte Vietnamese sein oder ein seltsamer Kommunist, vielleicht auch beides
      Realistisch gesehen kommen viele AI-Innovationen von Leuten mit Anime-Profilbildern auf Discord, und ihr Grund, so besessen davon zu sein, ähnelt eher Dopaminjagd. Außerhalb dieses Bereichs weiß das aber fast niemand

  • Ich hätte gedacht, dass die Leute in der Tech-Branche und in diesem ganzen „Unternehmergeist“-Umfeld etwas rationaler und vernünftiger wären, aber in Wirklichkeit sieht es so aus, als könne man jedem Schrott verkaufen.
    Es ist ernüchternd zu sehen, wie viel Aufmerksamkeit solche Schrott-Influencer auf Twitter bekommen.
    Immerhin ist es in dieser Flut aus fiktiven Meinungen und Ratschlägen ein guter Filter dafür, auf wen man nicht hören sollte.

    • Natürlich gibt es auch viele Leute aus der Tech-Branche, aber ein Teil des Problems ist, dass inzwischen jeder dubiose Straßenhändler sagen kann: „Ich habe ein AI-Produkt gebaut, schaut mal!“
      Ich kenne inzwischen persönlich ein paar solcher Leute, und die Hälfte von ihnen versteht nicht einmal richtig, was sie da tut, sondern folgt nur YouTube-Tutorials und richtet etwas ein.
      Was sie als „AI-Produkt“ bezeichnen, ist in Wirklichkeit nur ein Bot, der an irgendeine API angebunden ist und einen sehr fragilen System-Prompt enthält; trotzdem glauben sie, alle müssten beeindruckt sein, weil sie es nach einem Tutorial installiert haben.