Struktur der Verantwortungsdiffusion
- In The Unaccountability Machine argumentiert Dan Davies, dass Organisationen eine „Struktur der Verantwortungsdiffusion“ bilden. Das ist eine Struktur, die die Folgen von Entscheidungen abfängt oder verschleiert, sodass niemand direkt Verantwortung übernehmen kann.
- Wenn zum Beispiel ein leitender Manager einer Hotelkette beschließt, das Reinigungspersonal zu reduzieren, kann das die Zahlen im Finanzbericht verbessern. Wenn ein Kunde jedoch einchecken will, ist das Zimmer nicht fertig, und die Mitarbeiter wissen nicht, wann es fertig sein wird. Es gibt niemanden, bei dem man sich beschweren kann, und keine Möglichkeit mitzuteilen, dass diese Entscheidung die Pläne des Kunden ruiniert hat. Die Verantwortung verschwindet und geht für immer verloren.
Wie Strukturen der Verantwortungsdiffusion funktionieren
- Damit eine Struktur der Verantwortungsdiffusion funktioniert, muss Feedback blockiert werden. Das heißt, das Feedback der Menschen, die von einer Entscheidung betroffen sind, darf keinen Einfluss auf das Funktionieren des Systems haben.
- Wenn eine Krankenversicherung eine Behandlung ablehnt, wenn eine Fluggesellschaft einen Flug streicht, wenn eine Behörde erklärt, dass jemand keinen Anspruch auf Leistungen hat, oder wenn Investoren allen Unternehmen anweisen, AI in ihre Apps zu integrieren, sind Strukturen der Verantwortungsdiffusion überall zu finden.
- Das setzt voraus, dass tatsächlich eine Entscheidung getroffen wurde. Ein weiterer Mechanismus der Verantwortungsdiffusion besteht darin, dass sich die Entscheidung selbst kettenartig fortsetzt, sodass ihr Ursprung verschwindet.
Die Bedeutung von Verantwortung
- Es lohnt sich, kurz darüber nachzudenken, was „Verantwortung“ eigentlich bedeutet. Davies formuliert das „Grundgesetz der Verantwortung“: Das Ausmaß, in dem man eine Entscheidung ändern kann, entspricht dem Ausmaß, in dem man für diese Entscheidung Verantwortung tragen kann.
- Nach Sidney Dekkers Definition von Verantwortung ist Verantwortung eine „Erklärung dafür, wie etwas geschehen ist, unter welchen Bedingungen es geschehen ist und warum diese Entscheidung zu dem Zeitpunkt sinnvoll erschien“. Das ist eine Voraussetzung dafür, zu lernen und bessere Entscheidungen zu treffen.
Vergleich mit AI
- Entscheidungen an AI zu delegieren, ist ein bequemer Weg, eine Struktur der Verantwortungsdiffusion zu schaffen. Doch Organisationen jeder Größe – Unternehmen ebenso wie Regierungen – haben solche Strukturen bereits gut ausgebildet.
- Die durch AI gebotene Verantwortungsdiffusion ist kein neuer Service, sondern eine Ausweitung eines bestehenden Problems. Das macht es nicht weniger beängstigend, kann aber einen nützlichen Hinweis liefern. Wenn Versuche gescheitert sind, Unternehmen zur Verantwortung zu ziehen, ist es unwahrscheinlich, dass man bei Algorithmen erfolgreicher sein wird. Es braucht neue Methoden.
Zusammenfassung von GN⁺
- Dieser Artikel bietet Einblicke darin, wie Organisationen Strukturen schaffen, um Verantwortung zu vermeiden. Das ist besonders nützlich, um zu verstehen, wie Technologien wie AI die Verantwortungsdiffusion ausweiten können.
- Strukturen der Verantwortungsdiffusion funktionieren, indem sie die Verbindung zwischen den Entscheidungsträgern und den Menschen kappen, die von diesen Entscheidungen betroffen sind.
- AI kann Verantwortungsdiffusion weiter erleichtern, aber das ist kein neues Phänomen, sondern eine Ausweitung eines bestehenden Problems.
- Das Thema könnte interessant sein, um Verantwortungsstrukturen in Organisationen zu verbessern und Wege zu finden, bessere Entscheidungen zu treffen.
Noch keine Kommentare.