Tech-CEOs scheinen an einer AI-Psychose zu leiden
(techcrunch.com)- AI-Größenwahn entsteht, wenn CEOs nach Erfahrungen mit Prototypen oder der Generierung von Verträgen vorschnell glauben, Agenten könnten auch die eigentliche Arbeit ersetzen
- Aaron Levie ist AI-Optimist und Angel-Investor, meint aber, dass CEOs den Automatisierungsumfang überschätzen, ohne die letzte Meile der operativen Arbeit zu kennen
- In den ersten fünf Monaten des Jahres 2026 erreichten Entlassungen in der Tech-Branche mit 115.430 Personen bei 152 Unternehmen fast das Gesamtjahr 2025 mit 124.636
- ClickUp entließ nach der Einführung von rund 3.000 AI-Agenten 22 % seiner Belegschaft, und Zeb Evans strebt eine „100x org“ mit Fokus auf schnelle Prüfung an
- Studien von UC Berkeley, NBER und MIT zeigen begrenzte oder paradoxe Produktivitätseffekte von AI; CEO-Übervertrauen in AI ohne Vorbereitung kann in organisatorisches Chaos führen
Das Gefälle zwischen CEO-AI-Übervertrauen und der operativen Realität
- Für Box-Gründer Aaron Levie liegt das Kernrisiko darin, dass CEOs in einen AI-Größenwahn verfallen
- CEOs probieren mit AI einen Prototypenbau oder die Erstellung von Verträgen aus und ziehen dann schnell den Schluss, dass Agenten auch die reale Arbeit übernehmen könnten
- Doch die letzte Meile — Code vor dem Deployment prüfen, Bugs finden und Aufrufe an halluzinierte Bibliotheken erkennen — ist weit von der täglichen Arbeit eines CEOs entfernt
- Auch das Trainieren von AI-Modellen auf firmenspezifische Vertragsbedingungen oder das tagelange Durchforsten subtiler Klauseln in Verträgen übernehmen CEOs nur selten selbst
- Levie ist keine AI-skeptische Figur: Mit 2,7 Millionen Followern auf X teilt er häufig positive Einschätzungen zu AI und ist auch als Angel-Investor in AI-Startups aktiv
- In „Headless software is the future“ vertritt er die Ansicht, dass für AI-Agenten entwickelte Software die Richtung der Zukunft ist
- CEOs rät er, AI „extrem viel“ zu nutzen, um selbst zu prüfen, was möglich und unmöglich ist, und dabei sowohl die Stärken als auch die tatsächlich nötige Arbeit zu verstehen
- Das Problem ist, dass CEOs den Bereich möglicher Automatisierung überschätzen, ohne die Arbeitsprozesse ausreichend zu verstehen, und diesen Glauben dann in die Unternehmensführung einfließen lassen
Entlassungen, Produktivitätsforschung und organisatorisches Chaos
- Das Ausmaß der Entlassungen in der Tech-Branche erreichte in den ersten fünf Monaten 2026 fast schon das Gesamtjahr 2025
- Laut Layoffs.fyi wurden 2026 bislang bei 152 Tech-Unternehmen 115.430 Menschen entlassen
- 2025 waren es bei 275 Unternehmen 124.636 Menschen
- Viele Unternehmen nannten AI als Grund für Stellenabbau, doch es gibt auch die Lesart, dass es sich um AI-Washing handelt: AI-Produktivitätsgewinne dienen als Verpackung, während in Wirklichkeit andere Geschäftsentscheidungen und Kennzahlen die Kürzungen treiben
- ClickUp-CEO Zeb Evans erklärte auf X, sein Unternehmen habe nach der Einführung von rund 3.000 AI-Agenten für interne Aufgaben 22 % der Belegschaft entlassen
- Evans sagte, es gehe nicht um Kostensenkung; er wolle eine Organisation, die aus Menschen besteht, die AI-Agenten steuern und deren Ergebnisse schnell prüfen
- Eine solche Organisation nennt er „100x org“
- Forschungsergebnisse zu AI und Produktivität stützen die Erwartungen vieler CEOs nicht besonders stark
- Eine Meta-Analyse vom Oktober im California Management Review der UC Berkeley kommt zu dem Schluss, dass es keine „robuste Beziehung“ zwischen AI-Einführung und einem Anstieg der Gesamtproduktivität gibt
- Eine Studie des National Bureau of Economic Research vom März sieht zwar Produktivitätszuwächse durch AI-Einführung, verweist aber zugleich auf ein Produktivitätsparadox: die gefühlte Verbesserung ist größer als die gemessene Verbesserung
- MIT-Forschende kamen nach dem Einsatz tausender Agenten in Aufgaben zu dem Schluss, dass diese in vielen Fällen noch keine Qualität auf menschlichem Niveau erreichen
- Beim aktuellen Tempo der LLM-Verbesserung könnten bis 2029 die meisten textbezogenen Aufgaben im Mittel mit einer Erfolgsquote von 80 % bis 95 % auf einem mindestens ausreichenden Qualitätsniveau erledigt werden
- Das deutet darauf hin, dass AI in etwa drei Jahren bei den meisten Aufgaben ein grundlegendes Fähigkeitsniveau erreicht und dann noch einige weitere Jahre braucht, um Menschen zu übertreffen
- Wenn AI den Output erhöht, könnten sich Engpässe auf Managementfreigaben und organisatorische Kontrolle verlagern
- Die Harvard Business Review argumentiert, dass der Engpass schlicht ins Management wandert, wenn alle mit AI mehr Ergebnisse erzeugen
- Mit wachsendem Output steigt auch die Zahl der Dinge, die freigegeben werden müssen; erhalten alle Entscheidungsbefugnisse, kann die Organisation außer Kontrolle geraten
- Auch ein TechCrunch-Bericht über interne Erfahrungen bei OpenAI aus dem vergangenen Jahr deutet an, dass mehr Autonomie zu Kontrollproblemen führen kann
- Wenn CEOs auf diese operative Last nicht vorbereitet sind, dürfte die sicherste Folge des anhaltenden CEO-AI-Übervertrauens organisatorisches Chaos sein
2 Kommentare
Das ist insbesondere in Korea ein landesweites Problem.
Hacker-News-Kommentare
Wenn man einmal eine Organisation mit mehr als 500 Leuten geführt hat, merkt man, dass die meisten Probleme mit Agenten in menschlichen Organisationen bereits existieren
Man gibt eine Richtung vor, sagt, man solle sich schnell in diese Richtung bewegen, prüft häufig nach, betrachtet die Ergebnisse und korrigiert den Kurs, ohne dabei vollständig zu verstehen, was diese Menschen tatsächlich tun
Das ist an sich kein fataler Unterschied
Führungskräfte verlassen sich auf die Fähigkeiten der Leute, die sie eingestellt haben, bringen Ausführende und Aufsicht zusammen und arbeiten unter der Annahme, dass beide Seiten fehlbar sind
Der grundlegende Unterschied ist, dass Menschen Ergebnisse ziemlich gut vorhersagen können, einen Ruf haben, den sie nicht ruinieren wollen, Nein sagen können und im Allgemeinen nicht ins Gefängnis wollen
AI-Tools sehen oberflächlich ähnlich aus, aber ihnen fehlt die nützliche Spannung, die man gratis dazubekommt, wenn man Menschen einstellt
Es gibt zwar auch keinen nutzlosen Konflikt, aber der Konflikt zwischen dem, was ich angewiesen habe, und dem, was jemand tatsächlich tun will, ist nicht nur schlecht
Es ist einem Hebel, den sie ohnehin schon hatten, sehr ähnlich, nur schneller und direkter ausführbar
Der Nachteil ist, dass AI keine Selbsterhaltungs-Kontrollmechanismen wie Gehalt, Beförderung oder das Vermeiden von Gefängnis hat, obwohl genau diese Dinge bisher der Puffer waren, der katastrophale Ergebnisse verhinderte
Sie kann die Produktionsdatenbank schneller und mit breiterem Lächeln löschen als selbst der wütendste Mitarbeiter
Wenn ein Junior Fehler macht und das nicht rechtzeitig abgefangen wird, entsteht daraus meist automatisch Lernen, aber bei einem LLM muss man das Harness anpassen und hoffen, dass es wirkt, wenn man ihm Fehler beibringen will
Besonders komisch ist, dass sich früher alle ständig darüber beschwert haben, es sei zu schwer, implizites Wissen in Worte zu fassen, um klare Anweisungen zu schreiben, mit denen Juniors schnell aufsteigen können, und jetzt versucht man genau das
Ein gutes Harness wird die Ergebnisse wohl verbessern, aber ich glaube nicht, dass ein LLM Senior-Niveau erreichen kann
Neuen Mitarbeitern gibt man normalerweise nicht ohne jede Einschränkung die Berechtigung, Daten zu löschen, Geld zu überweisen oder Verträge abzuschließen; in der Regel überwacht das jemand
Es gibt auch die Erwartung, dass sie sich vorher erst einmal in gewissem Maß bewähren
Trotzdem behandeln CEOs oder Entscheidungsträger AI in ihrer gefühlten Leistungsfähigkeit fast wie einen Menschen, obwohl sich ihre tatsächlichen Tests oder direkten Erfahrungen oft faktisch auf hat mir eine schicke Präsentation gebaut beschränken
Die aktuelle Generation von AI-Agenten ist nicht kompetent, wenn nicht jemand in unmittelbarer Nähe beaufsichtigt, der die Aufgabe kennt
Das ist nicht unbedingt nur ein Problem von Tech-CEOs, und ich weiß auch nicht, ob Psychose als Ausdruck fair oder präzise ist
Ich habe einmal mit jemandem gearbeitet, der Shopify ziemlich gut nutzte, Stores verwalten und vieles erledigen konnte, aber kein Programmierer war
Diese Person zeigte mir, wie sie mit Shopifys AI-Blockgenerator in einer Minute etwas erzeugte, das zu etwa 65 % fertig war
Ich habe auch einen Freund, der in WordPress gerade genug Code kann, um gefährlich zu sein, und der per Vibe Coding eine API-Integration zusammengebaut hat und so begeistert war, dass er daraus ein Plugin oder Produkt machen wollte
So ist der aktuelle Stand der Technik
Mit einem guten Prompt und ein wenig Nacharbeit bekommt man sehr schnell etwas, das einem Minimum Viable Product nahekommt, und das kann ziemlich berauschend sein, einem Macht geben und aufregend wirken
Etwas, das früher zu schwierig oder unerreichbar war, erscheint plötzlich direkt vor einem, und weil man so schnell so weit gekommen ist, fühlt es sich an, als müsste man nur noch ein kleines Stück weitergehen, um fertig zu werden
Meistens ist das derzeit aber nicht so, und es ist schwer, Menschen dafür zu verurteilen, dass sie es trotzdem so empfinden
Wenn Nicht-Techniker ein Projekt bauen, das oberflächlich so aussieht, als liefe es gut, sehen sie oft nicht, dass es in die falsche Richtung geht, sich nicht verallgemeinern lässt oder an offensichtlichen Stellen falsch ist
Ein Minimum Viable Product ist deshalb nützlich, weil es bedeutet, dass jemand mit Domänenwissen das Produkt nicht bloß zusammengesetzt hat, sondern die schwierigen Teile versteht, weiß, was funktioniert und was nicht, und ob sich der Versuch überhaupt lohnt
Vibe Coding macht genau das nicht
Es baut nur etwas, das wie ein Minimum Viable Product aussieht, ohne zu wissen, was es tatsächlich ist
Ich finde, berauschend trifft dieses Gefühl besser als ermächtigend
Er klingt feindselig und zerstört die Möglichkeit eines produktiven Gesprächs
Wenn man jemanden als psychisch krank bezeichnet, wird diese Person sich eher weniger auf ein Gespräch einlassen und stärker an der eigenen Sicht festhalten
Ich wünschte, HN würde sich in zwei „Subreddits“ aufspalten,
/r/HNund/r/AIWenn wahrgenommen wird, dass es einen großen Goldrausch gibt, bei dem die Gewinner eines neuen Marktes alles bekommen, gehen Investoren Risiken ein, um zu gewinnen
Selbst wenn sie scheitern, verlieren Reiche dabei Geld, während sie vielen Menschen Arbeitsplätze geben, also sollten Leute, die höhere Steuern für Reiche wollen, das eigentlich begrüßen
Als die Landwirtschaft erfunden wurde, gab es massenhafte Arbeitslosigkeit unter Jägern und Sammlern, und als das Auto erfunden wurde, traf es die Peitschen für Pferdekutschen ebenso
Das Leben bringt Erschütterungen mit sich, aber sie sind unvermeidlich, und Anpassung ist langfristig besser
Wenn man sein Leben um Familie und Freunde herum aufbaut und sich bei Haus oder Auto nicht übernimmt, wird es schon gutgehen
Ich würde das ursprüngliche HN der Hacker wiederbeleben wollen, die tatsächlich Innovation und Gründungen betreiben, also /r/startup
Das HN von vor der Zeit, als Leute, die nie einen Pinsel in der Hand hatten, endlose Monologe über Malerei hielten
Auch GitHub sollte in
/trendingund/trending-aiaufgeteilt werdenEin Kollege sagte, das Gute daran, heutzutage AI lernen zu wollen, sei, dass inzwischen jeder Podcast von AI handle, aber ich halte das nicht für etwas Gutes
Ich will Substanzielles und verschiedene Themen lernen, nicht, dass alles, was ich online lese und höre, AI ist
Die Blase wird platzen und dann wird es wieder ruhiger werden
Vor nicht allzu langer Zeit war die Startseite gefühlt voller Krypto-/Blockchain-/web3-Unsinn
Das hier Beschriebene ist überhaupt kein ausschließliches AI-Phänomen
Die Theorie, dass „CEOs Prozesse nicht gut genug verstehen, um zu wissen, was automatisiert werden kann und was nicht. Aber diese Unwissenheit hält sie nicht davon ab, auf Grundlage ihres Glaubens zu handeln“, gibt es schon sehr lange.
Ich arbeite schon lange, und soweit ich mich erinnern kann, gab es diese Theorie immer.
Es ist die Prämisse von Undercover Boss und auch ein häufiges Ende von Beiträgen auf r/maliciouscompliance.
Je weiter man in einem Unternehmen nach oben kommt, desto größer ist die Wahrscheinlichkeit, dass man sich von den Beschäftigten an der Front entfernt, ihre Bedürfnisse weniger versteht und etwas durchdrückt, ohne die Gesamtwirkung der Entscheidung zu kennen.
Unser CEO hat kürzlich verkündet, er habe angefangen, Frontend-Programmierung zu machen, tatsächlich hatte er aber nur ChatGPT angewiesen, HTML auszugeben.
ChatGPT wird ihm dabei sicher auch gesagt haben, wie klug und großartig seine Idee ist und was für ein hervorragender Ingenieur er sei.
Solche Dinge vergrößern die Kluft zwischen dem, was ein CEO glaubt, was Mitarbeitende tun, und dem, was sie tatsächlich tun.
Oft muss man Details und Kleinkram bestehender Prozesse ignorieren, um eine bessere Richtung vorzugeben.
Das Ziel ist nicht, kurzfristige oder mittelfristige Schmerzen auf Abteilungsebene oder unbeabsichtigte Folgen zu vermeiden, sondern das Unternehmen in eine neue Richtung zu steuern.
Prozesse müssen sich anpassen oder verworfen werden, um diese Richtung zu erreichen.
Das ist nicht viel anders als die Erkenntnis, dass die Softwarearchitektur einen ausbremst.
Anstatt zu versuchen, jede bestehende Funktion, jedes Modul und jede Schicht zu „retten“, wirft man sie bereitwillig weg oder ersetzt sie, geleitet von einer Draufsicht auf das Gesamtsystem und die Richtung, in die es gehen soll.
Seit Jahrzehnten sprechen wir über die Reality Distortion Fields verschiedener CEOs, und ich habe auch schon mit solchen CEOs gearbeitet.
AI verstärkt dieses Reality Distortion Field nur.
Ihr Verständnis kam langsam, aber sie lernten gründlich und handelten vorsichtig.
Solche Leute sind allerdings sehr selten.
Dann wird es wichtiger, die Zahlen des nächsten Quartals weiter zurechtzustutzen, um kurzfristige Aktionäre zufriedenzustellen, als Kosten zu senken oder die Zeit der Mitarbeitenden für die Lösung echter Probleme zu nutzen.
Manchmal werden die Boni des Vertriebsteams wichtiger als die Marge des Geschäfts.
Es gibt viele Gründe, warum „das Falsche“ nach unten weitergereicht wird, und oft liegt es nicht daran, dass „nicht zugehört wird“, sondern daran, dass auf jemand anderen gehört wird, der als wichtiger gilt.
Reißerischer Titel
Etwas wie „Box-Gründer Aaron Levie sagt, CEOs sollten AI stärker nutzen und dabei ihre Grenzen kennenlernen“ wäre treffender.
Im Kern sagt er, dass Führungskräfte überschätzen, wie sehr LLMs schwierige Probleme auf einen Schlag lösen können, und die danach folgende menschliche Wartungsarbeit unterschätzen.
Unser CEO hat sich tief in AI-Prototyping hineingestürzt und ist dann am Ende bei Datenarchitektur und Deployment gegen die Wand gelaufen
Zum Glück hat er sehr schnell erkannt, dass Vibe Coding nur dann nicht entgleist, wenn eine von Menschen entworfene Kerninfrastruktur vorhanden ist.
In der Tech-Branche zu arbeiten heißt, ständig Neues zu prüfen und zu entscheiden, ob man abwarten kann oder ob man riskiert, abgehängt zu werden.
Dafür braucht es Weisheit, aber viele CEOs scheinen sich von FOMO treiben zu lassen.
Dass man auf der Managementleiter immer weiter aufsteigt und dabei in Managementfähigkeiten vorankommt, während man technisch zunehmend zurückfällt, hilft gegen FOMO auch nicht.
Umso beeindruckender, dass dein CEO seine Instinkte scharf genug gehalten hat.
Entweder auf die leichte oder auf die harte Tour.
Wenn man die Anreize des Hypes vom tatsächlichen Produkt selbst trennt, kann ich völlig nachvollziehen, wie faszinierend diese Technologie ist und wie sie zu einer Art Rausch führen kann
Ich selbst habe auch schon bis spät in die Nacht damit herumgespielt und Dinge gebaut.
Es ist wie die Entdeckung des Feuers: zugleich nützlich und magisch.
Man kann Essen garen und Wärme gewinnen, und zugleich ins Feuer starren, Geschichten spinnen und sich nie langweilen.
Vielleicht sind wir genetisch darauf ausgelegt, uns zu Dingen hingezogen zu fühlen, die sowohl Funktion als auch Form haben.
Es gibt allerdings einen Grund, warum der beinahe wahnsinnige Schamane nicht der Stammeshäuptling war.
Führung erfordert Urteilsvermögen.
Man muss wissen, wann man den Schamanen fragt, wann man sich mit den Ältesten des Nachbarstamms berät und wann man das Schwert zieht.
Der Häuptling weiß, was passiert, wenn man aus „Effizienzgründen“ ein Drittel des Stammes abschneidet, das Saatgut verbrennt, um das Feuer zu vergrößern, oder die Wachen durch Golems ersetzt.
Der Schamane endet oft damit, im eigenen Kessel gekocht zu werden.
Tech-CEOs verfallen wegen der Quartalszahlen gerade in eine AI-Psychose, und ich leide unter einer Psychose der Mietratenzahlung
Da fragt man sich, ob Menschen nicht dafür gemacht sind, irgendeiner Form von Besessenheit zu verfallen, ob aus FOMO oder finanziellem Druck
Egal, wie gut der Zustand wird, man gewöhnt sich am Ende daran, langweilt sich und findet etwas Neues, worüber man unglücklich sein kann
Das passiert allen, von Kindern bis zu Alten
Dazu gehören Besessenheiten wie die Vorsicht vor Schlangen und Spinnen oder das Bedürfnis nach Sauberkeit
In der modernen Zivilisation hat man in diesen starken Apparat auch andere Reize wie Mietratenzahlungen eingespeist, damit Menschen zu produktiven Mitgliedern der Gesellschaft werden
Die glücklichsten Länder sind nicht die produktivsten
Besonders dann nicht, wenn sie wie die Finnen so auf Glück fixiert sind, dass sie sich lieber auf die Sauna als auf tokenmaxxing konzentrieren
Soziale Meme, die uns dazu bringen, Code auszurollen, Linien nach oben zu treiben und die Allegorien längst Verstorbener zu verehren, verdecken die grundlegenden biologischen Tatsachen
Jäger-und-Sammler-Gruppen kooperierten lose, um zu überleben, aber sprachliche und landwirtschaftliche Traditionen haben schon lange mehr als bloßes Überleben verlangt sowie die Einhaltung bedeutungsloser mündlicher Überlieferungen
Daraus entsteht die Pflicht, das eigene Empfinden zu ignorieren und die Meme lebender Ältester nachzusprechen, die Angst haben, allein in einem Pflegeheim zurückgelassen zu werden
Sie scheinen es nicht einfach direkt sagen zu können und stützen sich stattdessen auf alte religiöse und politische Formeln
Man soll diese Schuldbücher weiter pflegen, auch nachdem die, die die Rechnungen ausgestellt haben, längst tot sind
Letztlich ist das alles nur eine Überhöhung und Verwischung der Besessenheit, am Leben zu bleiben, zu nutzloser Philosophie
Ich mag den Trend überhaupt nicht, therapeutische Begriffe für alles Mögliche zu verwenden und sich gegenseitig diagnostizieren zu wollen
Historisch hat es nie zu guten Ergebnissen geführt, Andersdenkende auf diese Weise zu medizinieren
Gemeint ist im Grunde, von Maschinen verhext oder vampirartig fasziniert zu sein
Es beschreibt einen Zustand übermäßigen Vertrauens in AI; niemand denkt, dass diese Leute im wörtlichen Sinn an einer Psychose leiden
Aus der Perspektive von etwa zweieinhalb Jahren Strategieberatung, in denen ich hauptsächlich Claude genutzt und daneben auch GPT und Gemini verwendet habe, kann ich mit Sicherheit sagen:
Die irrationale Überhitzung in der Echokammer der Tech-Führung, die sich in einer Art Flitterwochenstimmung daran berauscht, Managementverantwortung an Claude abzugeben, wird im Rückblick sehr töricht wirken