Accountability Sinks: Abfluss für Verantwortung

• Ein Accountability Sink ist ein institutionelles Phänomen, bei dem Urteilsvermögen durch formale Verfahren ersetzt wird: Entscheidungen werden ausgeführt, aber es wird unklar, wer verantwortlich ist und an wen man sich mit Beschwerden wenden kann
• Verfahren schaffen Effizienz, Sicherheit und organisationales Gedächtnis, doch von oben vorgegebene Regeln können zu blindem Befolgen führen, selbst wenn die Menschen vor Ort das Problem erkennen
• Die Entsorgung von Erdhörnchen am Flughafen, Airline-Gate-Mitarbeiter, Namensbeschränkungen bei Kreditkarten, die Verwaltung des Holocaust und die Aufteilung von Hausarbeit zeigen alle die Verantwortungslücke, die entsteht, wenn Urteilsvermögen in Verfahren aufgeht
• Umgekehrt ermöglichen akademische Tenure, Forschungsschutz nach Art von Xerox PARC, Bell Labs und DARPA, Venture Capital sowie Googles SRE-blameless postmortems bessere Entscheidungen, indem sie die Last der Verantwortung verringern
• In komplexen Gesellschaften können Verfahren nicht verschwinden; entscheidend ist daher, Institutionen so zu gestalten, dass Verfahren keine Vorrichtung zum Verbergen von Menschen sind, sondern Urteilsvermögen vor Ort erhalten

---

Die Grundstruktur eines Accountability Sink

• Dan Davies nennt in seinem Buch The Unaccountability Machine: Why Big Systems Make Terrible Decisions — and How the World Lost Its Mind das Phänomen, dass menschliches Urteilsvermögen durch formale Verfahren ersetzt wird, einen Accountability Sink
• Wenn etwas, das Menschen früher direkt beurteilt haben, in ein Verfahren umgewandelt wird, erscheint es weniger als bewusste Entscheidung einer Person, sondern als Ausführung eines Prozesses
• Wenn das Verfahren falsch funktioniert, verschwinden leicht sowohl die Person, der man die Schuld geben könnte, als auch die Stelle, bei der man protestieren könnte
• Organisationen haben starke Anreize, menschliches Urteilsvermögen in Verfahren umzuwandeln
  • Entscheidungen können Kontroversen auslösen
  • Wenn Interessen betroffen sind, entstehen Widerstand und Groll
  • Unpersönliche Verfahren erlauben es, dieselbe Entscheidung wiederholt anzuwenden, ohne Verantwortungsgefühl oder Schuldgefühle

Die Verantwortungslücke, die Verfahren erzeugen

• Im April 1999 kamen 440 Erdhörnchen mit einem KLM-Flug aus Peking am Schiphol Airport außerhalb von Amsterdam an; wegen fehlender Importpapiere konnten sie nicht an einen Kunden in Athen weitergegeben werden
  • Auch eine Korrektur des Fehlers und eine Rücksendung kamen nicht zustande
  • Flughafenmitarbeiter steckten die 440 Tiere angesichts des Papierproblems in einen industriellen Schredder
  • Die Anordnung kam von der niederländischen Behörde für Landwirtschaft, Umweltmanagement und Fischerei; die KLM-Führung erklärte später, die Anordnung sei „aufgrund ihrer Form und des Fehlens praktikabler Alternativen unethisch“ gewesen
  • Die Mitarbeiter handelten insofern „formal korrekt“, als sie eine Anweisung befolgten, doch KLM räumte ein, dass die Entscheidung ein assessment mistake gewesen sei
• Die faktisch einzige Sicherung in diesem System war die vage Erwartung, dass die für die Tötung von Tieren zuständigen Menschen eine direkte Anweisung vielleicht verweigern würden, wenn das Ergebnis bizarr genug wirkte
  • Es ist nicht üblich, dass jemand, der in einem Lager arbeitet, die Befugnis erhält, eine Regierungsanordnung aus ethischen Gründen zu kippen
  • Psychologisch wie organisatorisch ist es unrealistisch, zu erwarten, dass jemand in 99 % der Fälle Anweisungen befolgt und im 100. Fall plötzlich unabhängig urteilt
• Airline-Gate-Mitarbeiter überbringen Passagieren schlechte Nachrichten wie eine Nichtbeförderung, können nach Unternehmensrichtlinie aber kaum etwas ändern
  • Der Kunde spricht zwar mit einem Menschen, hat es tatsächlich aber mit Regeln und Verfahren zu tun, die auf einer höheren Ebene festgelegt wurden
  • Selbst wenn man wütend sein will, fällt es schwer, die einzelne Person vor einem zu beschuldigen, und das Unternehmen spricht mit einer anonymen Organisationsstimme
• In einem Beispiel eines Kreditkartenunternehmens erlaubte das Design der Plastikkarte nur Namen mit bis zu 24 Zeichen
  • Mitarbeiter wiesen das Business-Team auf das Problem von Antragstellern mit langen Namen hin
  • Das Business-Team entschied sich wegen des sehr kleinen Anteils nicht für ein Redesign der Karte, sondern für die Ablehnung der Anträge
  • Antragsteller können trotz guter Bonität keine Karte erhalten, erfahren den Grund nicht und finden kaum eine verantwortliche Person, bei der sie sich beschweren können
  • Ein technischer Mangel wurde also durch ein Verfahren überdeckt
• Das Beispiel eines Ehepaars, das die Reihenfolge beim Abwasch wöchentlich abwechselnd festlegte, zeigt, dass dasselbe Problem auch im Kleinen entstehen kann
  • Wenn eine Person krank ist, stapelt sich das Geschirr, aber die andere fühlt sich nicht verantwortlich, weil sie nicht an der Reihe ist
  • Auch ist nicht klar, wem man die Schuld geben soll

Bürokratie und die Risiken groß angelegter Verfahren

• Holocaust-Forscher sehen die groß angelegte Ermordung als möglich geworden an, weil massenhafter Hass in formalisierte Verwaltungsverfahren überführt wurde
• Die Trennung der Juden von der übrigen Bevölkerung und ihre Konzentration an einem Ort waren ein entscheidender Schritt auf dem Weg zum Massenmord
  • In Bulgarien wurden Juden nicht in Ghettos oder regionale „Arbeitslager“ zusammengezogen, sondern aufs Land geschickt, um bei der Farmarbeit zu helfen
  • Nachdem sie über das ganze Land verteilt waren, wurde es schwierig, die nächsten Schritte durchzuführen und sie per Zug in Konzentrationslager zu schicken
• Die Aufgabe, Juden zu konzentrieren, war für den Erfolg des Massenmords wichtig, doch die Bürokraten, die sie ausführten, fühlten nicht, dass sie selbst direkt Menschen töteten
  • Sie glaubten, die langweilige Verwaltungsarbeit zu verrichten, die sie jeden Tag machten
• Betrachtet man die Nürnberger Prozesse, bleibt das Gefühl zurück, dass „niemand verantwortlich ist“
  • Viele Angeklagte hatten nicht nur Befehle befolgt, sondern auch eigenständig gehandelt
  • Dazu passt Forschung, wonach die Folgen für deutsche Soldaten, die rechtswidrige Befehle verweigerten, erstaunlich milde waren
  • Dennoch waren Hunderttausende an der Umsetzung der Endlösung beteiligt, sodass das Gefühl von Willkür bleibt, warum nur einige bestraft wurden
• In einem Interview mit dem Historiker Götz Aly heißt es, hätte man 1965 denselben Maßstab angelegt, hätten mehr als 300.000 deutsche Männer und Frauen wegen Beihilfe zum Mord zu lebenslanger Haft verurteilt werden müssen
  • Auch Büroangestellte wie die Sekretärin der Wannsee Conference tippten Befehle ab, doch damals sah man sie nicht als Personen, die ins Gefängnis gehörten

Die Vorteile von Verfahren und die Kehrseite der Verantwortungsvermeidung

• Formale Verfahren sind meist nützlich
  • Sie steigern die Effizienz und schaffen Skaleneffekte, indem dieselben Entscheidungen wiederholt angewendet werden
  • Sie verbessern die Sicherheit, etwa wenn Piloten vor dem Start Checklisten durchgehen
  • Sie speichern organisationales Gedächtnis, indem sie Lehren und Lösungen aus früheren Fällen in Schritte codieren
• Tief in der Bürokratie können Verfahren jedoch über reine Effizienzmittel hinaus zu Techniken werden, Verantwortung zu verwalten und zu vermeiden
• Die heutige Unzufriedenheit im Westen hängt mit der Wut darüber zusammen, in Systemen festzustecken, die Menschen nicht als Menschen, sondern wie Maschinenteile behandeln
  • Verfahren treffen Entscheidungen, und wenn etwas scheitert, gibt es niemanden, der es erklärt oder Verantwortung übernimmt
  • Wenn Staaten oder private Unternehmen Verantwortung an unpersönliche Verfahren abgeben und keine Abhilfe anbieten, fühlt sich auch Demokratie wie ein hohler Begriff an
• Widerstand gegen Experten, Skepsis gegenüber Richtern und Toleranz gegenüber Korruption erscheinen aus dieser Perspektive anders
  • Experten können als Designer unpersönlicher Systeme erscheinen
  • Richter können wirken, als seien sie Verfahren stärker verpflichtet als Gerechtigkeit
  • Korruption ist schlecht, kann aber zumindest wie eine Entscheidung wirken, die von einer Person mit Namen und Gesicht getroffen wird
• Automatische Telefonansagen, endlose Menüs und Kundensupport-Erfahrungen ohne Verbindung zu einem Menschen verstärken diese Angst

Wenn Entlastung von Verantwortung gute Ergebnisse schafft

• Begrenzte Verantwortung ist manchmal eine absichtlich notwendige Institution
• Akademische Tenure macht es faktisch schwer, Wissenschaftler zu entlassen, und gibt ihnen die Freiheit, riskante oder unkonventionelle Forschung zu betreiben
  • Forscher müssen gegenüber Managern weniger häufig termingerechte Ergebnisse liefern oder sich für Fehlschläge entschuldigen
• Auch bei erfolgreichen Forschungseinrichtungen wie Xerox PARC, Bell Labs und DARPA zeigt sich ein ähnliches Muster
  • Es gab Manager, die Forscher vor Forderungen nach sofortigem Nutzen, bürokratischer Überwachung und ständiger Rechtfertigung gegenüber Vorgesetzten schützten
• Auch das Venture-Capital-Modell mildert die Verantwortung von Startup-Gründern
  • Von Gründern wird erwartet, dass sie sich um Erfolg bemühen, aber sie werden nicht zur Rechenschaft gezogen, nur weil sie scheitern
  • Das Risiko des Scheiterns ist im Preis des VC bereits eingerechnet
  • VC fungiert wie ein Accountability Sink zwischen Kapitaleignern und Gründern

Situationen vor Ort, in denen Regeln gebrochen werden mussten

• Nach der Schießerei in Las Vegas am 1. Oktober 2017 strömten Hunderte Schussverletzte gleichzeitig in die Notaufnahme eines Krankenhauses
  • Das medizinische Personal brach mehrfach etablierte Regeln und Verfahren, um zu reagieren
  • Lehrbuchmäßig sollte die Triage vom erfahrensten Arzt übernommen werden, vor Ort wurde sie jedoch an Pflegekräfte übergeben
  • Als die Pyxis-Authentifizierung den Ablauf blockierte, wurden etomidate, succinylcholine und O-negative Blutkonserven in der Nähe des Einsatzortes bereitgestellt
  • Als ventilators knapp wurden, nutzte man Y tubing, um zwei Personen mit ähnlicher Statur und ähnlichem tidal volume an einen ventilator anzuschließen
• Ein Kommentar beschrieb diesen Fall so: „Wenn er kein Held gewesen wäre, wäre er sofort gefeuert worden“
• In der Gmail-SRE-Erfahrung gab es bei Incident Response kaum erzwungene Verfahren
  • SREs sind gegenüber Vorgesetzten für die Service-Verfügbarkeit verantwortlich, mussten während der Störungsbehebung aber keinen festgelegten Prozess befolgen
  • Viele Verfahren wurden genutzt, doch eher als vom Team gewählte Guidelines oder Empfehlungen denn als verpflichtende Regeln
  • Nach einem Incident gehörten Anpassungen an Verfahren ebenso zur Reaktion wie Softwareänderungen
• Die blameless postmortems der Google-SRE-Kultur begrenzen persönliche Verantwortung ausdrücklich
  • Ein postmortem soll nicht bestimmte Einzelpersonen oder Teams wegen unangemessenen Verhaltens beschuldigen, sondern sich darauf konzentrieren, die Ursachen zu finden, die zu einem Vorfall beigetragen haben
  • Es wird angenommen, dass alle im Rahmen der Informationen, die sie damals hatten, in guter Absicht das Richtige getan haben
  • Wenn Menschen Strafe fürchten, werden sie Probleme nicht offenlegen

Flugsicherheit und ehrliche Berichterstattung

• Am 1. Februar 1991 kollidierte auf einer Start- und Landebahn des Los Angeles International Airport ein Passagierjet mit einem kleinen Pendler-Propellerflugzeug; letztlich starben 35 Menschen
• Ein Artikel in Asterisk behandelt den Fall der Fluglotsin Robin Lee Wascher
  • Einige Minuten bevor Wascher USAir flight 1493 die Landeerlaubnis erteilte, hatte sie SkyWest flight 5569 angewiesen, auf runway 24L „taxi into position and hold“ auszuführen
  • Sie erinnerte sich nicht daran, eine Startfreigabe erteilt zu haben, und erkannte, dass sich das Flugzeug möglicherweise noch auf der runway befand
  • Wascher kehrte in den Tower zurück und sagte ihrem Supervisor, sie glaube, dass USAir mit SkyWest flight 5569 kollidiert sei
• Waschers Fehler und die Tatsache, dass er zum Tod von 35 Menschen führte, waren eindeutig, doch sie wurde nicht bestraft
  • Kollegen bewachten ihr Hotelzimmer, um die Presse fernzuhalten
  • Einige Monate später sagte sie bei der NTSB-Anhörung gewissenhaft über ihre Erinnerung aus
  • Sie erhielt auch die Möglichkeit, in den Tower zurückzukehren, lehnte dies aber ab
  • Niemand wurde strafrechtlich angeklagt
• Wascher zu entfernen hätte die Sicherheit nicht verbessert
  • Sie war keine besonders schlechte Fluglotsin, sondern eine durchschnittliche Lotsin mit durchschnittlicher Bilanz
  • Kollegen betonten, dass dasselbe jedem hätte passieren können
• Wenn ehrliche Berichte zu Verbesserungen wie dem Kauf eines zweiten Bodenradars, der Verlegung störender Beleuchtung und der Abschaffung von Nebenaufgaben führen, hat das auf die Flugsicherheit eine viel größere Wirkung als Waschers Entlassung
  • Bestrafung kann andere erfahrene Fluglotsen dazu bringen, davor zurückzuschrecken, Verantwortung für Dinge außerhalb ihrer Kontrolle zu übernehmen, was letztlich dazu führen kann, dass sie durch weniger erfahrene Personen ersetzt werden

Verantwortungsumgehung, die blockierte Systeme löst

• HealthCare.gov ging wie geplant am 1. Oktober 2013 live, doch Besucher stießen bald auf zahlreiche technische Probleme
  • Schätzungen zufolge konnten sich in der ersten Woche nur 1 % der interessierten Menschen registrieren
  • Das Scheitern der Website hätte zu einem Scheitern von Obamas zentraler Politik werden können und gilt als erster Fall, in dem Website-Performance zur höchsten Priorität des Weißen Hauses wurde
• Laut Jennifer Pahlkas Recoding America entwickelte das Team danach einen Zwei-Stufen-Plan
  • Ein kleines Technikteam mit einschlägiger Erfahrung und passenden Fähigkeiten rekrutieren
  • Das Vertrauen der CMS gewinnen, der Behörde, die für die Umsetzung der Website verantwortlich war
• Die neu hinzugekommenen Techniker machten klar, dass sie nicht gekommen waren, um Schuld zuzuweisen, sondern um zu helfen
  • Statt wie bei einer üblichen Reaktion auf Scheitern die Aufsicht zu verstärken und den Handlungsspielraum zu verkleinern, arbeitete CMS nun mit vertrauenswürdigen Technikern zusammen
  • CMS wusste, wie man Technologie und Services beschafft, und hatte allein für healthcare.gov 60 Verträge vergeben; nun gab es im Team jedoch Menschen, die nicht nur Vertragsbedingungen, sondern Code sehen konnten
• Dominic Cummings erinnerte sich an die NHS-PPE-Beschaffung während der COVID-Krise im März 2020
  • Er hörte, dass bestellte PPE erst bis zum Sommer eintreffen würde, obwohl der maximale Bedarf in den kommenden drei bis vier Wochen lag
  • Man wollte auf die bisherige Weise den Schiffstransport aus China nutzen; er forderte, da die Fluggesellschaften stillstanden, Flugzeuge nach China zu schicken, um Material zu holen
  • Nur Boris Johnson konnte sagen, man solle Bürokratie, EU-Regeln, Treasury-Vorgaben usw. umgehen, und „ich übernehme persönlich die gesamte rechtliche Verantwortung“
• Indem Johnson die Verantwortung übernahm, verringerte er die Last für Beamte, und statt in starren formalen Verfahren stecken zu bleiben, konnte das Problem gelöst werden

Der Markt als riesige Vorrichtung zur Verantwortungsentlastung

• Der freie Markt wird als größtes Beispiel eines Accountability Sink behandelt
• Vom Staat wird erwartet, Rechtsstaatlichkeit, Vertragsdurchsetzung sowie die Einhaltung von Steuern und Gesetzen zu gewährleisten, sich aber nicht in den täglichen Betrieb des Marktes einzumischen
• Märkte werden oft als Informationsverarbeitungsmechanismen beschrieben, die über die Gesellschaft verstreute Informationen bündeln und die Verteilung knapper Ressourcen optimieren
• Fehlende Verantwortung ermöglicht es Unternehmern, große Risiken einzugehen
  • Wenn ein Unternehmen scheitert, fällt die Kritik zwar auf den Gründer selbst zurück, aber niemand verfolgt ihn, um ihn zu bestrafen
  • Der Zwang, nur auf Nummer sicher zu gehen, nimmt ab
• Eine Hauptursache für das Scheitern kommunistischer Volkswirtschaften war die Missachtung der Gesetze von Angebot und Nachfrage, doch auch die Struktur, in der alle Unternehmensleitungen ihren Vorgesetzten und der kommunistischen Partei Rechenschaft schuldeten, könnte Risikoaversion erzeugt haben
  • Daraus ergibt sich die Deutung, dass selbst dann, wenn Wissenschaftler Technologien entdeckten, die Umsetzung neuer Technologien und Geschäftspraktiken schlecht ausfiel und dies zu allgemeiner wirtschaftlicher Stagnation führte

Unterscheidungen für das Design von Institutionen

• Formale Verfahren sind meist nützlich, und komplexe moderne Gesellschaften können ohne Verfahren nicht bestehen
• Nicht jedes formale Verfahren ist ein Accountability Sink
  • Verfahren, die man selbst entwirft und sich selbst auferlegt, befreien nicht von Verantwortung, wenn Probleme entstehen
  • Von oben auferlegte Verfahren können blindes Befolgen fördern, selbst wenn sie den eigentlichen Zielen schaden
• Nicht jeder Accountability Sink führt zu Starrheit und Verschleierung
  • Verfahren können so gestaltet werden, dass sie betroffene Menschen vor der Last der Verantwortung schützen, ohne im Voraus festgelegte Lösungen zu erzwingen
  • Ein blameless postmortem ist ein Beispiel dafür
• In Situationen wie bei Gate-Mitarbeitern gibt es in Wirklichkeit oft eine gewisse Möglichkeit für außergewöhnliche Eskalation, doch öffentlich muss aufrechterhalten werden, dass sie unmöglich ist
  • Das erzeugt für Kunden den Sekundäreffekt, dass sie sich ausreichend unangenehm verhalten müssen, um Ausnahmen, Eskalation oder Sonderbehandlung zu erreichen
• Das Zitat aus Ayn Rands Atlas Shrugged zeigt dasselbe Problem literarisch: Menschen, die vor einem roten Signal nicht handeln, weil sie fürchten, dass Verantwortung auf sie abgewälzt wird, und Dagny Taggart, die mit „ich sage es“ Verantwortung übernimmt