CEOs, die glauben, dass KI ihre Mitarbeitenden ersetzt, sind einfach schlechte CEOs

• LLM-Tools können sehr wirkungsvoll sein, wenn Mitarbeitende sie aus eigenem Antrieb lernen und als Hilfsmittel für ihre Arbeit einsetzen, aber ein unternehmensweit erzwungener Einsatz samt Kündigungsdrohungen ist keine gute Nutzungsmethode
• In vier in den letzten drei Monaten übermittelten Fällen verschickten CEOs Rundmails an das ganze Unternehmen mit Botschaften sinngemäß nach dem Motto: Wer KI-Tools nicht sofort lernt, soll sich einen anderen Job suchen
• Methoden wie Leaderboards für den Token-Verbrauch, die die Nutzung selbst belohnen, fördern nicht den guten Einsatz von LLMs, sondern können unproduktive Nutzung verstärken
• Selbst wenn ein CEO mit Agenten-Tools einen funktionierenden Prototypen oder einen Vertrag erstellt hat, sind echte Arbeiten wie Code-Review, Prüfung von Klauseln, Sicherheit und rechtliche Compliance weiterhin nötig
• Die Stärke von LLMs liegt darin, Mitarbeitenden, die sie gut einsetzen, zu helfen, mehr zu schaffen — nicht darin, dass man weniger Menschen braucht

---

Die KI-Überreaktion der CEOs

• In den letzten drei Monaten wurden vier Fälle bekannt, in denen CEOs übermäßig auf KI reagierten
• Gemeinsam war allen, dass in unternehmensweiten E-Mails sinngemäß gefordert wurde, LLM-Tools sofort zu lernen und zu nutzen, andernfalls solle man sich einen anderen Arbeitsplatz suchen
• Einige Unternehmen holten Berater ins Haus, um Teams den Umgang mit den Tools beizubringen, oder veranstalteten Office Hours und interne KI-Hackathons
• Der Kern aller Fälle lässt sich auf den Druck zusammenfassen, dass Mitarbeitende KI bei der Arbeit ständig einsetzen müssten, weil sie eine erstaunliche Technologie sei

Falsche Anreizsysteme

• Einige Unternehmen führten Leaderboards für den Token-Verbrauch ein, was als Anreiz für den guten Einsatz von LLMs ungeeignet ist
• Wer KI gut nutzen will, muss lernen, Tokens als knappe Ressource zu betrachten
• Wenn schlicht höherer Token-Verbrauch als bessere Nutzung zählt, nimmt unproduktive Nutzung leicht zu
• LLM-Tools können mächtig und wichtig sein, doch ihre tatsächliche Nützlichkeit ist mit verschiedenen Problemen und Grenzen verbunden

Der Unterschied zwischen Zwang und freiwilliger Nutzung

• LLMs können sehr wirkungsvoll werden, wenn Nutzer die Tools gut erlernen und sie freiwillig als Hilfsmittel für ihre Arbeit auswählen
• Wer zum Einsatz von LLM-Tools gezwungen wird, lernt nicht, sie richtig zu verwenden
• Auch Mitarbeitende profitieren davon, die Stärken und Grenzen von KI-Tools tiefer zu verstehen
• Die Stärke von LLMs liegt darin, dass sie Mitarbeitenden helfen, mehr zu leisten, wenn sie gut und freiwillig eingesetzt werden

Die reale Arbeit, die CEOs übersehen

• Box-CEO Aaron Levie ist ein KI-Befürworter und erklärt dennoch, warum CEOs sich übermäßig in KI hineinsteigern
• CEOs sind oft weit genug von der tatsächlichen Arbeit entfernt, die in der letzten Meile nötig ist, um mit KI Wert zu schaffen, und damit anfällig für eine „AI psychosis“
• Der Begriff „AI psychosis“ kann missverständlich sein und wurde von mehreren Psychologen und Psychiatern als ungenau und potenziell problemverschärfend kritisiert
• Wenn CEOs KI nutzen, sehen sie nur die guten Ergebnisse und bedenken nicht die nächsten zehn oder zwanzig Arbeitsschritte, die nötig sind, um mit Agenten nachhaltige Resultate zu erzielen
• Auch wenn ein CEO sagt: „Ich habe einen coolen Produktprototyp gebaut“, sind vor dem echten Produktionseinsatz weiterhin Code-Reviews und Fehlerbehebungen nötig
• Auch wenn ein CEO sagt: „Ich habe einen Vertrag erstellt“, müssen vor dem Versand an die Gegenseite weiterhin alle Klauseln geprüft und Verbindungen zu bestehenden Verträgen hergestellt werden

Der Unterschied zwischen etwas, das funktioniert, und einem Produkt im Maßstab

• „Etwas, das funktioniert“, „etwas, das gut funktioniert“, „etwas, das im Maßstab gut funktioniert“ und „etwas, das in einer bestimmten Umgebung im Maßstab gut funktioniert“ sind nicht dasselbe
• Unternehmen beschäftigen viele Mitarbeitende, um kleine, aber wichtige Details abzudecken, die CEOs oft nicht gut sehen
• Sicherheit, rechtliche Compliance und Barrierefreiheit sind Beispiele für solche Details, die CEOs leicht übersehen
• Es ist möglich, mit Agenten-Tools etwas Funktionsfähiges zu bauen, aber um ein Produkt für den Massenmarkt gut zu entwickeln und sicher nutzbar zu machen, ist viel mehr Arbeit erforderlich
• Auch Agenten-Coding-Tools können bei manchen Aufgaben helfen, aber wer von „Ich habe eins gebaut“ zu „Also kann das jeder“ springt, verkennt, warum Menschen mit Wissen und Erfahrung eingestellt werden

Personalisierte Tools und Cargo-Cult-Denken

• Der beste Anwendungsfall für LLM-Tools liegt eher im Bau vollständig personalisierter Werkzeuge, die bei bestimmten Aufgaben helfen, als in der Entwicklung von Tools für den Massenmarkt
• Wenn ein CEO nur sieht, dass Mitarbeitende irgendwo in der Organisation mit Computern arbeiten und dadurch Ergebnisse erzeugen, und dann annimmt, dass seine eigene Arbeit mit Claude Code daran gleichartig sei, ist das Cargo-Cult-Denken
• Die zusätzlichen Schritte und Verarbeitungsvorgänge, die Mitarbeitende leisten und die CEOs nicht sehen, bleiben weiterhin nötig
• Wenn ein CEO mit Agenten-Tools wie Claude Code etwas baut und es funktionieren sieht, kann er fälschlich urteilen, warum viele Mitarbeitende überhaupt gebraucht werden

Entlassungslogik und Unternehmensnarrative

• Dass ein CEO nach vollständigem Eintauchen in KI-Technologie sofort zu dem Schluss kommt, die Hälfte der Belegschaft entlassen zu können, wird als düster-komische Situation beschrieben
• Unternehmen, die glauben, wegen LLM-Tools große Teile ihrer Belegschaft entlassen zu können, werden bald merken, dass sie falschliegen
• Benötigt werden nicht weniger Mitarbeitende, sondern mehr Menschen, die wissen, wie man produktiv arbeitet
• Wenn Unternehmen LLMs als Begründung für Massenentlassungen anführen, dienen sie meist als Vorwand
• Gegenüber der Wall Street ist die Erzählung von „KI-Effizienz“ leichter vermittelbar als die Erklärung, man habe zuvor zu viel eingestellt

Was CEOs lernen müssen

• CEOs müssen lernen, wie die Technologie funktioniert; dazu gehört auch, ihre Grenzen zu verstehen
• Wenn ein CEO glaubt, ein per Vibe Coding gebauter Prototyp sei produktionsreif, sollte er ihn selbst veröffentlichen und die Folgen sehen
• Wenn ein CEO glaubt, ein per Vibe Coding erstellter Vertrag sei so belastbar wie ein von Anwälten geprüfter Vertrag, wird er sehen, wie hoch die Rechtskosten werden, wenn Probleme auftreten
• KI-Tools sind mächtig, aber ein CEO, der glaubt, sie würden die Arbeit von Mitarbeitenden ersetzen, ist ein schlechter CEO

[GN⁺]

Hacker-News-Kommentare

• Das erinnert mich an den alten Witz: „90 % des Codes sind 90 % der Arbeit. Die restlichen 10 % des Codes sind noch einmal 90 % der Arbeit.“
  Ich habe seit 1986 fast mein gesamtes Erwachsenenleben damit verbracht, Produkte zu launchen, und eine der frühesten Lektionen war, dass „Launch“ größer ist als „Design“.
  Es gibt unglaublich viel Arbeit dabei, ein Produkt auszuliefern, das unter dem eigenen Markennamen veröffentlicht und anschließend auch supportet werden muss.
  Es ist ähnlich wie Kinder zu bekommen. Die Empfängnis macht Spaß, die Geburt ist schmerzhaft, und die Erziehung ist eine lebenslange Aufgabe.
  Ich denke, dass für Produkte, die gegen Geld veröffentlicht werden, dieselbe Art von Arbeit gilt.

  • Einer der Gründe, warum Menschen das bei KI anders sehen, ist vermutlich, dass Anthropic immer wieder gesagt hat, man müsse bei den meisten Aufgaben keinen Code mehr schreiben oder reviewen.
    Ihre Agenten-Schwärme würden GitHub, Slack und Wikis durchforsten, um herauszufinden, was als Nächstes zu tun ist, und ein anderer Schwarm von Agenten würde dann Code-Review, Tests, Merges, Deployments, A/B-Tests und sogar Rollbacks übernehmen.
    Boris hat allein in den letzten ein bis zwei Wochen fast 300 PRs gemergt, also wirkt es, als hätten die führenden Labs das Siegel der Produktivität gebrochen.
    Und gleichzeitig sprechen sie von einer rekursiven, sich selbst verbessernden KI, die so mächtig und autonom ist, dass jedes Unternehmen darauf vorbereitet sein müsse, seine Bemühungen „einzustellen“.
    Die Model Card von Fable/Mythos[1] enthält sogar Einschränkungen in dem Sinne, dass das Modell zu mächtig sei, um es normalen Leuten einfach so zur Nutzung zu überlassen, weshalb Anfragen zu Modell-Tuning und Training abgelehnt würden.
    [1] We’ve implemented new interventions that limit Claude’s effectiveness for requests targeting frontier LLM development (for example, on building pretraining pipelines, distributed training infrastructure, or ML accelerator design). Using Claude to develop competing models already violates our Terms of Service, but enforcing this restriction through our safeguards avoids accelerating the actors most willing to violate these terms. Unlike our interventions for cybersecurity, biology and chemistry, and distillation attempts, these safeguards will not be visible to the user. Fable 5 will not fall back to a different model. Instead, the safeguards will limit effectiveness through methods such as prompt modification, steering vectors, or parameter-efficient fine-tuning (PEFT)
  • Stimme voll zu. Ein fertiges Produkt zu launchen, das sogar einen funktionierenden User-Acquisition-Funnel hat, ist deutlich schwieriger.
    Man baut zuerst das vollständige Produkt mit vielen Funktionen und muss diese Funktionen dann in eine extrem komprimierte Übersicht pressen, sodass sie alle auf der Landingpage sichtbar werden.
    Wenn Besucher nicht innerhalb von 10 Sekunden das gesamte komplexe Produkt verstehen, hat man sie bereits verloren.
    Das Produkt muss komplex sein. Der Softwaremarkt ist bereits so, und die niedrig hängenden Früchte sind meist schon gepflückt, wenn man sie entdeckt.
    Sicher wird es Leute geben, die mit neuen einfachen Chancen Geld verdienen, die durch technologische Veränderungen entstehen, aber wahrscheinlich wirst du nicht dazugehören. Dir fehlen dafür die geschäftlichen Kontakte, um das möglich zu machen.
  • Mir gefällt diese Analogie. Wenn man ein Produkt gut ausliefert, hat das – ähnlich wie bei einer guten Kindererziehung – einen Effekt wie Dividenden. Es verursacht seltener Probleme, und wenn Probleme auftreten, ist ihr Umfang meist kleiner.
  • Den Witz „90 % des Codes sind 90 % der Arbeit. Die restlichen 10 % des Codes sind noch einmal 90 % der Arbeit“ habe ich, glaube ich, noch nie gehört, aber nach meiner Erfahrung klingt er absolut wahr.
    Das erinnert mich auch an „90 % des Spiels sind halb mental“.
  • Die Analogie ist bis zum Ende großartig. In den letzten 10 % steckt der meiste Aufwand und die meisten Iterationen, damit man später nicht so viel Zeit für Wartung aufwenden muss.

• Es gibt wirklich viele schlechte CEOs. Sie sind Politikern ziemlich ähnlich. CEO zu werden ist ziemlich schwierig, aber die Fähigkeiten, die man braucht, um bis dorthin zu kommen, und die Fähigkeiten, die man braucht, um den Job tatsächlich gut zu machen, überschneiden sich nicht immer besonders stark.

  • CEOs kommen fast immer durch viel Büropolitik in diese Position.
    Wichtig ist, wem man schmeichelt und wem nicht, und ob man zufällig das richtige Timing hat.
    Dass ein CEO seinen eigentlichen Job wirklich kompetent macht, ist meiner Meinung nach extrem selten.
    Meistens trägt die arbeitende Belegschaft das Unternehmen, und in manchen Fällen halten die Mitarbeitenden die Firma sogar gegen den Willen des CEOs am Laufen.
    Das heißt nicht, dass Führungskräfte das Unternehmen absichtlich ruinieren wollen, aber sie sind inkompetent und treffen deshalb immer wieder miserable Entscheidungen.
  • Im Gegensatz zu „CEO zu werden ist ziemlich schwierig“ wirkt es wie einer der wenigen Berufe, für die man offenbar keinerlei Qualifikation braucht.
    Was man braucht, um CEO zu werden, ist am Ende nur, jemanden davon zu überzeugen, dass er geliehenes Geld zurückbekommt.
    Ich habe unter wirklich furchtbaren Menschen gearbeitet, die wahrscheinlich nirgendwo ein Vorstellungsgespräch bestanden hätten, die aber CEO waren, weil sie beständig immer mehr Geld hereinholen konnten.
  • Ich weiß nicht, von welcher Fähigkeit da die Rede ist. Ich habe einige getroffen.
    Die meisten hatten wohlhabende Eltern, die alles finanziert haben, und kamen durch Alumni-Vitamin B auf Eliteschulen.
    Viele waren klüger als der Durchschnitt, aber ganz sicher keine Genies.
    Dank ihres Wohlstands kamen sie früher als andere mit Computern in Berührung.
    Es wirkt, als könnten oder wollten sie nicht verstehen, dass sie im Durchschnitt ganz klar „nepo babies“ sind.
  • CEO zu werden ist überhaupt nicht schwer, und auch die Arbeit als CEO ist im Vergleich zu hochqualifizierter Facharbeit nicht besonders schwer. Schwieriger ist nur die Verantwortung.
    Natürlich ist der CEO eines Unternehmens wie Microsoft in vielerlei Hinsicht extrem anspruchsvoll und belastend, aber die meisten CEOs haben keine solche Position.
    Rein nach meiner Erfahrung waren die meisten CEOs und CTOs ahnungslose Idioten.
    Andererseits programmiere ich seit 25 Jahren und war nur 3 Jahre CEO, also sollte man das mit etwas Vorsicht lesen.
    Ich glaube, diese Titel werden stark überbewertet. Am Ende hängt alles davon ab, was das Unternehmen tatsächlich macht und was diese Rolle dort konkret verlangt.
    Ein CTO in einer bedeutungslosen SaaS-Firma kann auch jemand direkt nach dem Studium sein, weil dort wahrscheinlich an banalen Dingen gearbeitet wird, die jeder, sogar ein LLM, zusammenschrauben könnte.
    Der CTO eines weithin genutzten und zuverlässigen Streaming-Dienstes, der einen relevanten Teil des weltweiten Internet-Traffics verarbeitet, löst dagegen viel interessantere und schwierigere Probleme, und seine Entscheidungen sind entsprechend deutlich wichtiger.
  • „CEO zu werden ist ziemlich schwierig“, dabei muss man buchstäblich nur eine LLC oder Corporation registrieren. Es gibt sogar SaaS-Firmen, die das für einen erledigen.

• Ich habe auf Xitter gesehen: „Jeder CEO, der Jobs durch AI ersetzen will, sollte zuerst seinen Assistenten durch AI ersetzen.“ Ich finde, das ist eine perfekte Regel.
  AI-Demos sind doch alle nur Varianten eines persönlichen Assistenten, also sollte AI diese Arbeit doch übernehmen können, oder nicht?
  Unter CEOs mit Assistenten wird es meiner Meinung nach null Freiwillige geben.
  Nur zur Klarstellung: Das soll keine Beleidigung menschlicher Assistenten sein. Sie leisten wertvolle Arbeit und sollten meiner Meinung nach nicht durch AI ersetzt werden.

  • Genau das ist doch dogfooding.
    Jemand von OpenAI hat gesagt, das System sei inzwischen besser als Ärzte. Das war nicht meine Aussage, sondern seine. Dann hat er seinen Arzt wohl ersetzt, oder?

• Maßgeschneiderte AI wäre vermutlich ziemlich gut darin, CEOs zu ersetzen. Man muss nur daran denken, wie viel ein Unternehmen tun könnte, wenn man so viel Overhead abbaut.

  • Sie muss nicht einmal maßgeschneidert sein. Wenn ChatGPT den ganzen Tag Unternehmensinitiativen und PR-Floskeln produziert, würde das wahrscheinlich niemand bemerken.
  • Von einem einzigen CEO-Gehalt könnte man wirklich eine Menge Tokens kaufen. Einen Versuch wäre es wert.
  • Ich baue gerade ein Projekt, und danach werde ich eine AI entwickeln, die es verwaltet und die CEO-Rolle übernimmt.
    Der Code wird von Mensch + AI geschrieben, gemanagt wird nur durch AI.
  • Wenn AI etwas Unethisches oder Illegales tut, wer trägt dann die Verantwortung? Steckt man den Computer ins Gefängnis? Oder drückt man wie bei menschlichen CEOs einfach ein Auge zu?
  • Die Robotik ist dafür noch nicht weit genug. Man muss ja noch Golftermine mit Investoren und Vorstandsmitgliedern wahrnehmen.

• CEOs verstehen, dass AI das Potenzial für Produktivitätssteigerungen bietet. Diese Produktivitätsgewinne für Personalabbau zu nutzen, ist ein fantasieloser Ansatz.
  Die mutigere Variante wäre, diese Zugewinne zu nutzen, um die Erwartungen bestehender Kunden zu übertreffen oder den Umsatz zu steigern, ohne die Mitarbeiterzahl proportional zu erhöhen.

• Es gibt wirklich viele schlechte CEOs.
  Es gibt auch wirklich viele schlechte Softwareentwickler.
  Wenn beide aufeinandertreffen, wird der Softwareentwickler entlassen.
  Der CEO zieht nach einer Weile weiter, nachdem er seine Stock-Options ausgeübt hat.

  • Schlechter CEO + schlechter Softwareentwickler = neuer CTO

• Der CEO eines modernen börsennotierten Unternehmens ist meist eher ein Hedgefonds-Manager, der versucht, den letzten Dollar aus der Belegschaft herauszupressen. AI ist für ihn ein faszinierender, aber wenig wirksamer Hebel.

• Wenn AI dich kompetenter macht, ist das im Grunde ähnlich, als hätte man dir Kapitalzufluss gegeben.
  Ein CEO, der daraufhin denkt, man müsse Leute entlassen, signalisiert damit auch, dass er nicht weiß, wie man zusätzliche Ressourcen sinnvoll einsetzt.

• Warum können wir kein AI-Modell bauen, das solche CEOs ersetzt? Beim Führen eines Unternehmens wäre es vermutlich ziemlich gut.

• Wie wäre es mit Mitarbeitenden, die glauben, dass AI ihren CEO ersetzt?

  • Wirkt wie jemand, der wie für das Top-Management gemacht ist.