- In der Softwareentwicklung bezeichnet der Bus-Faktor ein Konzept dafür, wie viele Wissensträger vorhanden sein müssen, damit ein Projekt wartbar bleibt; bisher lag der schlechteste Fall bei 1
- Seit der Veröffentlichung von ChatGPT (30. November 2022) und der breiten Akzeptanz generativer KI verlassen sich jedoch viele Menschen darauf, dass KI Wissen übernimmt, statt es selbst zu bewahren – faktisch entsteht damit ein Bus-Faktor von 0
- In der Programmierpraxis verwenden immer mehr Entwickler von LLMs erzeugten Code und Features unverändert, geben den Versuch auf, die Codebasis zu verstehen, und wechseln zu „Vibe Coding“
- Dadurch kann man bei Bugfixes, Security-Patches oder Funktionserweiterungen in eine Situation geraten, in der niemand weiß, warum der Code so geschrieben wurde
- Das schafft erhebliche Risiken für Zuverlässigkeit und Sicherheit von Software; bis zu dem Tag, an dem KI perfekten Code perfekt erzeugt, bleibt hier eine grundlegende Grenze bestehen
Konzept und Geschichte des Bus-Faktors
- Der Bus-Faktor ist ein Konzept, das numerisch ausdrückt, auf wie viele Personen bestimmtes Wissen verteilt ist
- Beispiel: Wenn 3 Personen wissen, wie sich ein Datenbank-Backup wiederherstellen lässt, dann beträgt der Bus-Faktor dieser Funktion 3
- Traditionell war der schlechteste Wert 1; wenn eine Person dieses Wissen verlor, war die Weiterführung des Projekts unmöglich
- Um das zu überwinden, hat die Menschheit Wissen durch Dokumentation, Ausbildung, Wissenstransfer, Seminare, Schulen und viele andere Methoden verbreitet
- Das führte zu systematischen Versuchen, Wissen zu überliefern und zu bewahren, in die enorme personelle Ressourcen und Zeit investiert wurden
Einführung von KI und Bus-Faktor 0
- Mit dem Start von ChatGPT im November 2022 begann das Zeitalter von „AI First“
- Während KI Code und Features erzeugt, werden viele Menschen als Träger und Bewahrer von Wissen ausgeklammert und beginnen, sich auf KI-Erzeugnisse zu verlassen; dadurch sinkt das Projektverständnis rapide
- In der Folge entsteht ein Zustand, in dem es überhaupt keine Wissensträger mehr gibt, also ein Bus-Faktor von 0
- Programmierer schreiben und verstehen Code und Features nicht mehr selbst, sondern delegieren vollständig an die KI
- In diesem Prozess vermeiden Entwickler das Verständnis der Codebasis und die Dokumentation und gehen stattdessen zu einem Muster über, bei dem sie die KI einfach erneut um eine Erklärung bitten
Probleme des LLM-basierten Codings
- Selbst wenn man Fragen der Codequalität beiseitelässt, ist der Kernpunkt, dass Lesen und Warten grundsätzlich schwieriger sind als Schreiben
- Früher boten Mentoren oder Dokumentation zumindest minimale Hilfe, doch in einer KI-abhängigen Umgebung verschwindet sogar dieses Sicherheitsnetz
- In einer LLM-basierten Entwicklung wird der Entstehungsprozess des Codes nicht aufgezeichnet, und nicht einmal die KI erinnert sich an den Kontext des von ihr erzeugten Codes
- Am Ende müssen Entwickler von der KI geschriebenen, aber kontextlos wirkenden Code analysieren und ändern
- Das führt bei der Fehlerbehebung, beim Patchen von Sicherheitslücken oder bei Dependency-Upgrades zu einem Zustand, in dem niemand Absicht und Struktur des Codes kennt
Risiken aus Nutzersicht
- Nicht nur Entwickler, auch Nutzer sind Risiken ausgesetzt
- Software, in die persönliche Dokumente, Kreditkarteninformationen, private Fotos oder Gedanken hochgeladen werden, könnte aus Code bestehen, dessen interne Struktur und Zweck niemand kennt
- Das birgt ernsthafte Risiken für Datenschutz und Zuverlässigkeit und wirft Fragen zur Stabilität des Dienstes auf
Fazit
- Vibe Coding, das zu einem Bus-Faktor von 0 führt, ist grundsätzlich ein fehlerhafter Ansatz
- Das ist eine unvermeidbare Grenze, solange KI nicht in der Lage ist, mit 100 % korrekten Prompts auch 100 % korrekten Code zu erzeugen
- Daher darf man in der aktuellen Situation neben der Nutzung von KI die Bedeutung von Wissenssicherung und Codeverständnis nicht übersehen; es ist essenziell, Strukturen für Wissensmanagement und Dokumentation aufrechtzuerhalten
Noch keine Kommentare.