KI ist kein Kollege, sondern ein Exoskelett

• Die Sicht auf KI als autonomen Kollegen führt oft zu Enttäuschungen, doch der Ansatz, sie als Werkzeug zur Verstärkung menschlicher Fähigkeiten zu sehen, schafft transformative Ergebnisse
• Wie bei Exoskelett-Beispielen aus Fertigung, Militär, Medizin und Lauftraining sollte auch KI nicht menschliches Urteilsvermögen ersetzen, sondern als Hilfssystem für mehr Nachhaltigkeit und Effizienz wirken
• Kasava setzt mit dem „Product Graph“ eine Struktur um, die Code-, Issue- und Strategieinformationen integriert und so die Verbindung von KI und menschlichem Urteilsvermögen realisiert
• Mit einer „Micro-Agent“-Struktur werden Aufgaben fein zerlegt, sodass KI wiederkehrende Arbeit verstärkt und die Entscheidungsgewalt beim Menschen bleibt
• Künftige Produktivitätsgewinne werden nicht aus vollständiger Autonomie, sondern aus menschlicher Verstärkung (Amplification) entstehen, und KI wird sich als natürliche Erweiterung des Menschen etablieren

---

Fehlwahrnehmungen von KI und das Exoskelett-Modell

• Während Unternehmen Enttäuschungen erleben, wenn sie KI als autonomen Agenten behandeln, erfahren jene, die sie als Werkzeug zur Erweiterung menschlicher Fähigkeiten nutzen, echte Veränderungen
• KI sollte nicht als eigenständige Instanz des Urteilens agieren, sondern als Verlängerung menschlicher Entscheidungsfindung
• Die Metapher „KI ist kein Kollege, sondern ein Exoskelett“ definiert die Rolle der KI als menschenzentriertes Verstärkungssystem neu

Reale Beispiele für Exoskelette

• Fertigungsindustrie: Ford führte EksoVest in 15 Werken in 7 Ländern ein und senkte die Verletzungsrate um 83 %; BMW berichtete von einer Verringerung der körperlichen Belastung um 30–40 %
  • Cray X von German Bionic bietet Unterstützung beim Heben von 66 Pfund; bei Kunden wie BMW und IKEA gingen Krankheitstage um 25 % zurück
• Militärbereich: Sarcos Guardian XO Max bietet eine Kraftverstärkung von 20:1, sodass sich 100 Pfund wie 5 Pfund anfühlen
  • Lockheed Martin HULC kann Lasten von 200 Pfund mit 7 Meilen pro Stunde transportieren und hilft, Muskel-Skelett-Verletzungen vorzubeugen
• Medizinische Rehabilitation: 76 % der Patientinnen und Patienten mit Rückenmarksverletzung können mit Exoskelett ohne Unterstützung gehen
• Laufforschung: Das Knöchel-Exoskelett von Stanford reduziert den Energieverbrauch um 15 %, der Soft Suit von Harvard senkt die Stoffwechselkosten um 5,4 %
• Gemeinsam ist all diesen Beispielen, dass sie den Menschen nicht ersetzen, sondern seine Fähigkeiten verstärken

Grenzen des Konzepts „KI-Agent“

• Autonome KI verursacht wegen fehlenden Kontexts Fehlurteile und Halluzinationsprobleme
• Wenn sie ohne Verständnis für menschliches Urteilsvermögen und Kontext eigenständige Entscheidungen treffen will, ist die Wahrscheinlichkeit des Scheiterns hoch
• Kasava verfolgt daher eine Struktur, in der KI tiefgehende Analysen durchführt, die Entscheidungen aber vom Menschen getroffen werden

Kasavas Product Graph

• Erste Ebene: Codebase, Commits, Issues, PRs und Projektdaten werden automatisch erfasst, um die reale Struktur und den Entwicklungszustand des Produkts zu modellieren
• Zweite Ebene: Strategische Einschätzungen und Prioritäten der Nutzenden werden einbezogen, um automatisierte Daten und menschliches Urteilsvermögen zu verbinden
• Durch diese Kombination kann die KI Analysen durchführen, die sowohl den tatsächlichen Produktkontext als auch die Absicht des Teams berücksichtigen
• So setzt Kasava letztlich eine symbiotische Verstärkungsstruktur aus KI und Mensch um

Micro-Agent-Architektur

• Arbeit wird nicht nach Rollen, sondern nach einzelnen Detailaufgaben zerlegt, um die Bereiche zu identifizieren, die KI verstärken kann
  • Beispiele: Verfassen von Commit-Messages, Suche nach Code-Mustern, Schreiben von Boilerplate-Code, Sicherheitsprüfungen, automatische Aktualisierung von Dokumentation
  • Funktionsentscheidungen, komplexes Debugging und Architekturentscheidungen bleiben in menschlicher Hand
• Jeder Micro-Agent konzentriert sich auf genau eine Funktion und hat klar definierte Ein- und Ausgabegrenzen
• Der Mensch muss im Entscheidungskreislauf bleiben, damit das Exoskelett-Modell erhalten bleibt

Produktivitätseffekte und die Bedeutung von Verstärkung

• Wie Exoskelett-Studien zeigen, führt eine Energieeinsparung von 15 % nicht nur zu höherer Effizienz, sondern auch zu mehr Durchhaltefähigkeit und Resilienz
• Auch in der Softwareentwicklung lassen sich durch weniger repetitive Arbeit kognitive Ressourcen wieder in kreative Aufgaben investieren
• Kasava erzielt durch automatische Dokumentationsupdates, automatisch verfasste Commit-Messages und Workflow-Integration einen zusammengesetzten Produktivitätsschub
• Das ist der kumulative Effekt eines verstärkenden statt autonomen KI-Ansatzes

Ausblick: nicht Autonomie, sondern Verstärkung

• Organisationen sollten nicht fragen: „Wie bringen wir KI dazu, autonom zu arbeiten?“, sondern: „Welche Formen von Ermüdung und Fehlern können wir reduzieren?“
• Dass die Exoskelett-Industrie bis 2030 voraussichtlich jährlich um 20 % wächst und ein Volumen von 2 Milliarden US-Dollar erreicht, liegt daran, dass sie Menschen stärkt, statt sie zu ersetzen
• Für KI gilt dasselbe: Verstärkende Werkzeuge, die sich natürlich in menschliche Workflows integrieren, schaffen nachhaltigen Wert

[GN⁺]

Hacker-News-Kommentare

• Ich stimme der beschwichtigenden Vorstellung nicht zu, dass „AI mich nutzen wird, mich aber nicht ersetzt“
  Am Ende wird der Nutzer formale Systeme wie aus Ton formen
  Mittelfristig ist die Aussage „AI ist kein Kollege“ treffend
  Menschliche Zusammenarbeit ist ihrem Wesen nach ineffizient, und Softwareentwicklung wird schnell zu einem Individualsport werden
  Ich halte eine Struktur mit einem einzelnen Designer mit gutem ästhetischem Gespür und zahlreichen Agenten für besser

  • Die aktuelle Generation von AI ist nur ein einfacher Textprädiktor und kann logische Fehler im Code nicht wirklich finden
  • Es ist unrealistisch anzunehmen, dass jede einzelne Person ihre Anforderungen der AI klar vermitteln kann
    Außerdem ist fraglich, ob AI das pflegen kann, wenn sich Plattformen und Bibliotheken ändern
  • Jensen Huang sagte: „Jetzt ist jeder auf der Welt ein Programmierer geworden“
    Zugehöriger Artikel: Nvidia CEO predicts the death of coding
  • Auf das Problem der Kommunikationskosten durch zusätzliches Personal hat Brooks schon vor 50 Jahren hingewiesen
    Ob man mehr Menschen hinzufügt oder mehr Bots, das Grundprinzip ist dasselbe
  • Die Formulierung „AI leveraged mich“ klingt, als würde AI auf mich treten, um höher zu kommen
    Vielleicht ist das sogar die richtige Metapher

• Die Exoskelett-Metapher ist cool, aber nicht realistisch
  Tatsächlich gibt es viele praktischere Ansätze — Fahrzeuge, Roboterarme, Fernsteuerung usw.
  Riesige humanoide Roboter sind kommerziell ineffizient

• Ich kann der Behauptung zustimmen, dass „wir über AI falsch nachdenken“
  Die CEOs von Anthropic und OpenAI haben ihre Absicht bereits klar gemacht — Ziel ist eine Reduktion von SWE um 90 %

  • Aber kaum jemand glaubt das ernsthaft
    Schon früher hieß es, UML, Offshore-Entwickler oder No-Code würden alles ersetzen, aber am Ende ist AI nur ein Werkzeug
    Die Aussagen der CEOs sind nur Botschaften zur Stützung des Aktienkurses
  • Um die Nachfrage nach SWE zu senken, müsste man nicht AI, sondern zuerst das Problem der Organisationseffizienz lösen
    Tatsächlich verschwenden viele Entwickler Zeit mit Projekten, deren Wert unklar ist
  • Ohne großen Durchbruch ist das unmöglich
    Ironischerweise könnten die Entwickler, die solche Tools bauen, als Erste ihre Jobs verlieren
  • Es wäre wohl viel besser, wenn man sich nicht so auf agentische AI versteifen würde
    AI-Tools in der IDE sind viel genauer und schneller
    Aber Claude drängt dazu, mit minimalem Kontext „alles in einem Durchgang fertigzustellen“
    Das wirkt wie ein Design im Interesse des Unternehmens statt des Nutzers
  • Die Aussage, die SWE-Nachfrage werde um 90 % sinken, ist nicht realistisch
    Je höher die Effizienz, desto komplexere Software wird gebaut, und die Nachfrage steigt eher noch

• Die Exoskelett-Metapher ist tröstlich, aber die eigentliche Veränderung ist die „Skalierbarkeit von Geschmack“
  Früher war die Umsetzung selbst für Menschen mit hervorragender Urteilskraft ohne Team schwierig
  Jetzt kann eine einzelne Person mit gutem Gespür und starker Entwurfsfähigkeit Ergebnisse auf Teamniveau liefern
  Der Engpass hat sich von „Kann man Code schreiben?“ zu „Was ist es wert, gebaut zu werden?“ verschoben

  • Die Formulierung „ein völlig anderes Spiel“ ist interessant
  • Prototypen lassen sich schnell bauen, aber bis zum Produktniveau braucht es weiterhin Erfahrung
  • Im Grunde ist das genau die Definition von Augmentation — ein Werkzeug, das die Fähigkeiten einer einzelnen Person verstärkt
  • Die Aussage, „Software, für die früher ein Team nötig war, wird nun von einer Person ausgerollt“, klingt etwas übertrieben

• AI arbeitet bereits wie ein Kollege (co-worker)
  Aufgaben, die man früher Menschen übertragen hat, delegiert man heute an AI

  • Tatsächlich ist der Umfang delegierbarer Arbeit viel größer
    Die meisten Branchen schöpfen dieses Potenzial noch kaum aus
  • Es gibt aber auch Fälle, in denen es Stress verursacht, die von AI erzeugten Ergebnisse nachzubessern

• In Lenny’s Podcast sagte Boris, der Autor von Claude Code, „Code schreiben ist bereits ein gelöstes Problem“
  Wenn Ingenieure keine Open-Source-Beiträge mehr leisten, bleibt die Frage, ob AI dann überhaupt noch weiterlernen kann

  • Diese Aussage ist zu apodiktisch
    Die Aussagen der Menschen, die solche Tools gebaut haben, sind mit einem Interessenkonflikt (conflict of interest) behaftet
  • Vermutlich arbeitet er auf einer sauberen Codebasis mit guten Tests
    In so einer Umgebung wirkt Code schreiben vielleicht einfach, aber die meisten Projekte sind nicht so
  • Das Problem ist nicht „Code schreiben“, sondern „Software Engineering“
    Dieses Feld ist noch nicht stagniert
    Weil die Muster nicht orthogonal sind, lässt es sich auch nicht als einfache lineare Kombination erklären
  • Das ähnelt der Logik: „Wenn Dichtung bereits eine vollendete Kunst ist, brauchen wir keine Dichter mehr“
    Kreative Ingenieure werden weiterhin gebraucht
  • Ich habe eine Demo gesehen, in der Boris offene Issues von Excalidraw mit einem Claude-Agenten gelöst hat
    Er hat nicht eine einzige Zeile Code selbst geschrieben und das Problem trotzdem gelöst
    Vielleicht liegt er also nicht völlig falsch

• Nur weil man ein Exoskelett trägt, läuft man nicht 10-mal schneller und bewegt die Hände nicht schneller
  Die Metapher passt nicht

• Wenn AI oft Sätze wie „Not X, but Y“ erzeugt, wirkt das vorlagenbasiert

  • Das Muster „It’s not X, it’s Y“ wurde wieder erkannt

• Für mich ist die heutige AI eher ein Verstärker (amplifier)
  Sie stärkt mich beim Programmieren und bei bestimmten Aufgaben
  Bis es zu einer vollständigen Ersetzung kommt, mache ich mir keine Sorgen

  • Aber Verstärkung bedeutet letztlich mehr Arbeit mit weniger Leuten
    Das könnte zu sinkender Arbeitsnachfrage und niedrigeren Gehältern führen
  • Im Ergebnis ist es sehr wahrscheinlich, dass die Zahl der Entwickler sinkt, die für denselben Output benötigt werden

[dkmin]

Danke fürs Teilen. Das ist erfrischend.