Computer können niemals zur Verantwortung gezogen werden.
(simonwillison.net)- Eine legendäre Folie aus einer internen IBM-Schulung von 1979 ist im Zeitalter der KI äußerst passend
A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
Ein Computer kann niemals zur Verantwortung gezogen werden.
THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
Daher darf ein Computer niemals eine Managemententscheidung treffen. - Auf Twitter wurde nach Informationen zur ursprünglichen Quelle gefragt, und Jonty Wareing antwortete:
- Jemand fand sie in den Arbeitsunterlagen seines Vaters; diese wurden später durch eine Überschwemmung zerstört
- In der Korrespondenz mit dem IBM-Archiv konnte nichts gefunden werden. Es war üblich, dass Niederlassungen Materialien produzierten, die nicht archiviert wurden.
- Antwort, die Jonty von IBM erhielt
- Das Bild wurde erstmals im Februar 2017 online geteilt, in einem Tweet von @bumblebike
- Es wurde bestätigt, dass es aus internen Schulungsunterlagen von 1979 stammt
- Ein weiterer Tweet von @bumblebike aus dem Dezember 2021: wurde bei der Überschwemmung 2019 zusammen mit den meisten anderen Dingen zerstört
- Bei einem Zoom-Treffen des Rentnerclubs wurde nachgefragt, aber es gab kaum jemanden in der passenden Altersgruppe
2 Kommentare
„Wer keine Verantwortung für Entscheidungen übernehmen kann, sollte niemals Manager werden.“
Hacker-News-Kommentar
Es wird darauf hingewiesen, dass die Nutzung von Computern als Mittel zur Vermeidung von Verantwortung dient. Dies wird mit einem Zitat aus Neil Postmans Buch <i>Technopoly</i> erläutert: Computer erscheinen, als wären sie eine echte Quelle von Autorität, wodurch die Tendenz entsteht, Verantwortung abzugeben
Es werden Fragen zu autonomen Fahrzeugen aufgeworfen. Die Verantwortung verlagert sich vom Fahrer zum Hersteller, und es ist fraglich, ob der Hersteller diese Verantwortung übernehmen will
Es wird behauptet, dass die Einführung von Chipkarten dazu diente, die Verantwortung der Banken auf die Nutzer abzuwälzen. Die Sicherheit wurde zwar erhöht, tatsächlich ging es aber darum, die Haftung für Kreditkartenbetrug auf die Nutzer zu übertragen
Es wird betont, dass Identitätsdiebstahl in gleicher Weise Bankbetrug ist. Indem man es Identitätsdiebstahl nennt, wird es von einem Problem der Banken zu einem Problem des Einzelnen umgedeutet
Es wird erwähnt, dass Unternehmen Verantwortung hassen, was im Grunde für alle Menschen gilt
In manchen Unternehmen gibt es Richtlinien, nach denen Manager keine Entscheidungen treffen wollen, weil sie dafür verantwortlich gemacht werden könnten
Es wird darauf hingewiesen, dass das Wort „Verantwortung“ inzwischen zu einer bedeutungslosen therapeutischen Floskel geworden ist. Ein CEO sagt, er übernehme Verantwortung, doch tatsächlich folgen daraus keine Konsequenzen
Mit einem Zitat aus Norbert Wieners Buch <i>God & Golem Inc.</i> wird erklärt, dass Menschen von automatischen Rechenmaschinen nicht in erster Linie genauere Berechnungen wollen, sondern eine Kiste, an die sie Verantwortung delegieren können
Als rechtliches Prinzip wird vertreten, dass der Betreiber die Verantwortung tragen muss. Andernfalls müsse man, so die Analogie, Streichhölzer verbieten, um Brände zu verhindern
Es wird angemerkt, dass so etwas schon vor dem aktuellen AI-Hype rund um „Algorithmen“ geschah
Es wird erklärt, dass ein in der digitalen Forensik verwendetes Prinzip umgekehrt angewendet wird. Vor Gericht kann ein Ermittler für digitale Forensik bezeugen, was auf einem Gerät getan wurde, aber nicht, wer es getan hat
Wenn Fachleute erklären, dass Computer zwar sehr deterministisch wirken, in Wirklichkeit aber Unsicherheit besteht, sind Laien oft schockiert
Es wird ein gesellschaftlich normalisiertes Beispiel genannt: Wenn in einem Geschäftsalarm die Diebstahlsicherung auslöst, heißt es, der Computer habe ein Problem verursacht. Es wirkt, als habe der Computer den Fehler gemacht, tatsächlich ist das jedoch nicht der Fall