- Betreiber von Filialen der britischen Post übernahmen wegen Fehlern im von Fujitsu entwickelten Horizon-Buchhaltungssystem nicht existierende Fehlbeträge; zwischen 1999 und 2015 wurden Hunderte verurteilt, gingen bankrott, wurden inhaftiert oder erlitten Rufschädigung
- Horizon wurde 1999 eingeführt, um die papierbasierte Buchhaltung zu ersetzen, zeigte jedoch in vielen Filialen falsche Fehlbeträge von Tausenden bis Zehntausenden Pfund an; in manchen Fällen stieg der Betrag sogar, wenn dieselbe Abrechnung erneut eingereicht wurde
- Die Filialbetreiber trugen vertraglich die Verantwortung für Verluste, und die Post verschärfte den Schaden, indem sie Betroffenen sagte, sie seien die Einzigen mit dem Problem, oder den Zugang verweigerte, der für den Nachweis ihrer Unschuld nötig gewesen wäre
- In einer 2019 von mehr als 500 Personen angestrengten Zivilklage wurden Bugs, Fehler und Mängel von Horizon anerkannt; die Post zahlte mehr als 138 Millionen Pfund Entschädigung, doch von 700 Verurteilungen wurden nur 93 aufgehoben
- Nach dem ITV-Drama “Mr Bates vs The Post Office” explodierte die öffentliche Empörung, woraufhin die Regierung ein Gesetz zur Aufhebung der Urteile voranzutreiben begann; die Entschädigungspflicht von Fujitsu und die Frage einer strafrechtlichen Verantwortung sind weiterhin Gegenstand von Untersuchungen
Justizirrtum im großen Stil durch Horizon-Fehler
- Sub-postmasters, die Filialen der britischen Post betrieben, wurden zwischen 1999 und 2015 wegen der von Horizon ausgewiesenen Fehlbeträge strafrechtlich verfolgt, in den Ruin getrieben und in ihrem Ruf beschädigt
- Die britische Regierung besitzt die Post und bezeichnet den Fall als einen der größten Justizirrtümer der britischen Geschichte
- Der Schaden weitete sich auf Tausende Betroffene aus; 700 von ihnen wurden wegen Straftaten verurteilt, einige landeten im Gefängnis
- Horizon wurde vom japanischen Unternehmen Fujitsu entwickelt und 1999 eingeführt, um die papierbasierte Buchhaltung zu ersetzen
- Schon kurz nach der Einführung meldeten Filialleiter, dass die Software so wirke, als seien Tausende Pfund oder mehr aus den Konten der Post verschwunden
Nicht existierende Fehlbeträge wurden zu persönlichen Straftaten
- Jo Hamilton sagte, dass ein Horizon-Computer 2003, als sie ein Postamt in einer kleinen Stadt im Süden Englands betrieb, einen Fehlbetrag von 2.000 Pfund anzeigte und sich der Betrag vor ihren Augen verdoppelte, als sie dieselbe Abrechnung erneut durchführte
- Hamilton finanzierte ihr Haus neu, um den nicht existierenden Fehlbetrag auszugleichen; als die Post sie 2007 wegen Diebstahls und falscher Buchführung anklagte, war der Fehlbetrag auf 36.000 Pfund angewachsen
- Sie bekannte sich der falschen Buchführung schuldig, unter der Bedingung, dass der Diebstahlsvorwurf fallengelassen wurde, doch der gesamte Vorgang war für Hamilton eine zerstörerische Erfahrung
- Wendy Buffrey erlebte 2008 ebenfalls, dass sich der von Horizon unerklärlich ausgewiesene Fehlbetrag jedes Mal verdoppelte, wenn sie dieselbe Abrechnung erneut einreichte
- Ermittler der Post sagten Buffrey, sie sei die Einzige mit diesem Problem
- Buffrey ging davon aus, für 36.000 Pfund haften zu müssen, und zahlte 10.000 Pfund auf das Konto ein, indem sie ihre Kreditkarten bis zum Limit ausschöpfte
- Ihr Anwalt sagte damals, bei einem Schuldspruch auf nicht schuldig drohten ihr wahrscheinlich drei Jahre Haft, woraufhin sie sich der falschen Buchführung schuldig bekannte, unter der Bedingung, dass der Diebstahlsvorwurf fallengelassen wurde
- Buffrey sagt, sie leide seither infolge des Stresses unter anhaltenden Schmerzen durch Fibromyalgie
Verträge und Ermittlungen waren zu Ungunsten der Filialbetreiber gestaltet
- Die Verträge der Post glichen eher Franchiseverträgen, und die Filialbetreiber mussten für finanzielle Verluste in ihren Filialen einstehen
- Einigen Betreibern, deren Verträge beendet worden waren, verweigerten Ermittler der Post den Zutritt zu ihren Geschäftsräumen, was es erschwerte, Beweise für ihre Unschuld zu finden
- Jedes Mal, wenn Hamilton die Horizon-Hotline anrief, sagten ihr die Mitarbeiter, sie sei die Einzige mit einem Systemproblem
- Anwalt Neil Hudgell sagte, er habe direkt von sub-postmasters und ihren Familien gehört, die nach falschen Anschuldigungen oder dem Verlust von Geschäft und Ruf Suizid begangen hätten
- Die Ehefrau von Martin Griffith erklärte in ihrer Opferaussage, ihr Mann sei nach der Entscheidung der Post, seinen Vertrag zu beenden, in eine tiefe Depression gefallen und vor einen Bus gelaufen
- Griffith hatte sich Geld von seinen Eltern geliehen, um Fehlbeträge in den Konten auszugleichen, und war später zudem Opfer eines Raubüberfalls auf die Filiale geworden
Auch nach dem Prozesserfolg langsame Entschädigung und schleppende Aufhebung der Urteile
- In einer Zivilklage, die 2019 von mehr als 500 sub-postmasters angestrengt wurde, stellte das Gericht fest, dass Horizon „bugs, errors and defects“ aufwies
- Die Post hat bisher mehr als 138 Millionen Pfund an Entschädigung gezahlt und erklärt, frühere Fehler korrigieren zu wollen, einschließlich Unterstützung bei der Aufhebung unrechtmäßiger Verurteilungen
- Nach dem juristischen Erfolg von 2019 meldeten sich weitere sub-postmasters und erklärten, Horizon habe falsche Fehlbeträge ausgewiesen
- Von den 700 Verurteilten wurden bislang nur 93 rehabilitiert, darunter Hamilton und Buffrey
- Mehr als 2.700 Personen haben bisher Entschädigung beantragt, doch viele sub-postmasters halten die erhaltenen Summen für unzureichend und fordern Verantwortung der Beteiligten
Polizeiermittlungen und der Umfang von Fujitsus Verantwortung
- Die Londoner Metropolitan Police leitete 2020 strafrechtliche Ermittlungen zu möglichen Betrugsdelikten durch die Post ein
- Die Polizei untersucht auch Fujitsu wegen möglicher Straftatbestände im Zusammenhang mit den Anklagen gegen sub-postmasters
- Zwei Minister der britischen Regierung sagten, Fujitsu könnte je nach Ergebnis der unabhängigen öffentlichen Untersuchung dazu verpflichtet werden, Entschädigungen an die Opfer zu zahlen
- Fujitsu erklärte, man unterstütze die Untersuchung entschlossen, um den Ablauf der Ereignisse zu verstehen und daraus zu lernen
- Fujitsu sagte, die Untersuchung habe die verheerenden Auswirkungen des Falls auf das Leben von postmasters und ihren Familien bestätigt, und entschuldigte sich für die Rolle des Unternehmens bei ihrem Leid
Eine Dramaserie löste die politische Reaktion aus
- Der Fall war über Jahre vor Gerichten und in britischen Medien präsent, doch nach der Ausstrahlung des ITV-Dramas „Mr Bates vs The Post Office“ nahmen öffentliche Wahrnehmung und Empörung sprunghaft zu
- Das Drama behandelt den langen Kampf der sub-postmasters, ihre Unschuld zu beweisen und Entschädigung zu erhalten
- Alan Bates ist der ehemalige sub-postmaster, der diese Bemühungen anführte
- Nach Veröffentlichung des Dramas reagierte die britische Regierung innerhalb weniger Tage mit der Geschwindigkeit, die sub-postmasters seit Jahren gefordert hatten
- Premierminister Rishi Sunak kündigte an, das Parlament werde ein wegweisendes Gesetz zur Aufhebung der Verurteilungen von Hunderten sub-postmasters zügig verabschieden
- Im britischen Politik- und Justizsystem bleiben Fragen offen: wer was wann wusste, ob einzelne Personen strafrechtlich zur Verantwortung gezogen werden sollten und in welchem Umfang Fujitsu für Entschädigungen haftbar gemacht werden sollte
Ein Trauma, das fast 20 Jahre andauerte
- Siema Kamran und ihr Ehemann Kamran Ashraf kauften 2001 eine Postfiliale im Norden Londons; drei Jahre später entdeckte eine Prüfung der Post einen nicht erklärbaren Fehlbetrag von 25.000 Pfund
- Ashraf bekannte sich unter dem Druck seines Anwalts des Diebstahls schuldig, wurde 2004 zu neun Monaten Haft verurteilt und 2020 rehabilitiert
- In den ersten Wochen seiner Haft saß Ashraf in einem Hochsicherheitsgefängnis 23 Stunden am Tag eingeschlossen, bevor er in ein Gefängnis mit niedrigerer Sicherheitsstufe verlegt wurde
- Er wurde vier Monate später entlassen, musste danach jedoch noch fünf Monate lang eine elektronische Fußfessel zur Standortüberwachung tragen
- Kamran, die heute als selbstständige Make-up-Artistin arbeitet, sagte, ihr Mann leide infolge dieser Erfahrung an posttraumatischer Belastungsstörung und sowohl er als auch sie selbst und ihre drei Kinder benötigten therapeutische Hilfe
- Sie sagte, wenn die Post so etwas tun könne, wisse man nicht, wozu andere Marken fähig seien, und sie könne nie wieder für ein großes Unternehmen arbeiten
1 Kommentare
Hacker-News-Kommentare
Das ist ein Beitrag, der den realen Fall neu zusammenfasst, und wegen dieses Vorfalls habe ich ein Promotionsstudium in Informationssystemen begonnen.
Ich wollte verstehen, warum ein solches Maß an IT-Inkompetenz trotz jahrzehntelang angesammelter guter IT- und Software-Praktiken auch heute noch möglich ist, stellte aber bald fest, dass die Forschung zu Informationssystemen das meiste bereits erklärt hat.
Letztlich sind Menschen eben Menschen und schlechte Organisationen eben schlechte Organisationen, und solange es bei fast allem glockenförmige Verteilungen gibt, wird das vielleicht nie ganz verschwinden.
Wenn alle altruistisch, bescheiden, klug, kompetent und ehrlich wären, würden nicht nur in der IT, sondern in vielen Bereichen der Welt zahlreiche Probleme verschwinden, aber Menschen, Organisationen und Gesellschaften sind jeweils auf ihre eigene Weise defekt.
Trotzdem zeigt die Organisationsforschung bessere Wege auf, auch wenn manche Leute sich wohl bis zuletzt nicht darum kümmern werden.
Ich konzentriere mich nicht mehr weiter auf dieses Thema, weil es bereits ausreichend erforscht zu sein scheint, aber es ist interessant, dass dieser Fall noch immer wieder in den Nachrichten auftaucht.
Für wichtige Systeme muss es Verantwortlichkeit geben, und diese Verantwortung sollte Hersteller und Eigentümer verpflichten, Sicherungen, Prüfungen und Schutzmaßnahmen einzubauen.
Warum dieses Prinzip im Software Engineering so schlecht angewendet wird, ist eine andere Frage, aber ich denke, es sollte angewendet werden.
Das Gerede von „move fast and break things“ möchte ich ehrlich gesagt nicht hören.
Dieser Fall wurde öffentlich, und es gab Versuche der Wiedergutmachung, weil er so groß war und Hunderte oder Tausende Menschen darin verstrickt waren.
Man sollte sich fragen, in wie vielen voneinander getrennten Fällen Leben zerstört werden und unschuldige Menschen im Gefängnis verrotten.
Entweder zieht diese Organisation auf ungewöhnliche Weise besonders giftige Menschen an, oder sie hat sich in den vergangenen Jahrzehnten so entwickelt.
In den TV-Werbungen „The People’s Post Office“ aus den frühen 2000ern spielte John Henshaw die Rolle eines Subpostmasters; da er für starke Schurkenrollen und korrupte Polizisten bekannt ist, war das eine seltsame, aber irgendwie passende Besetzung.
Sich darauf zu verlassen, dass „alle klug sind und in guter Absicht handeln“, ist bereits ein kaputtes Design.
Wenn dich die akademische Seite interessiert, würde ich dringend empfehlen, sich wieder mit dem Entwurf von Systemen zu beschäftigen, die auch bei Inkompetenz und sogar bei Gegnern funktionieren.
Eher kommen großspurige Betrüger mit einem flexiblen Verhältnis zur Wahrheit überall nach oben.
Es gibt mehr Informationen darüber, was technisch tatsächlich im Hintergrund passiert ist: https://www.theguardian.com/uk-news/2024/jan/09/how-the-post...
David McDonnell aus dem Entwicklerteam sagte in der Untersuchung: „Von den acht Leuten im Entwicklerteam waren zwei sehr gut, mit zwei konnte man einigermaßen zusammenarbeiten, aber drei bis vier waren nicht fähig genug, professionellen Code zu schreiben.“
Ich will die Verantwortung nicht den Entwicklern zuschieben; die Verantwortung liegt eindeutig beim Management.
Die Leute, die Code-Bugs verursacht haben, sollten nicht auch noch dafür verantwortlich gemacht werden, dass deswegen andere Menschen im Gefängnis landeten.
Manager wissen nicht besonders gut, was Engineers tatsächlich tun.
Die einzigen, die technische Trade-offs wirklich verstehen, sind Engineers, und wenn von den Ergebnissen unserer Arbeit Leben abhängen, sollten wir nicht vollständig vor den Folgen unserer Entscheidungen geschützt sein.
Das ist weder gut für die Gesellschaft noch letztlich für uns selbst.
Nach den Grundsätzen des Deliktsrechts gibt es Verantwortung für vorhersehbare Schäden, und je höher die Fachkompetenz, desto größer die Verantwortung.
Die Senior Engineers im Team hätten es besser machen müssen, und ich denke, sie tragen Schuld.
Das ist ein Punkt, der mich immer beschäftigt.
Man kann eine API bauen, die den Zugriff vollständig auditiert, aber Code, der diese API umgeht, lässt sich leicht schreiben.
Code ist kein Gebäude mit Wänden und Türen; man kann das Innere verändern, ohne die Tür zu berühren.
Einen nicht auditierten Backdoor für Betreiber einzubauen ist schlecht, aber wenn man den Source Code bearbeiten kann, sind Backdoors praktisch unbegrenzt.
Horizon ist ein Produkt der 1990er, und die Softwarebranche war damals ganz anders als heute.
Damals war Microsoft ungefähr der einzige Ort, an dem von Programmierern im Bewerbungsgespräch routinemäßig Coding verlangt wurde, und Einstellungen waren fast zufällig.
Teams, in denen eine kleine Zahl von Leuten, die funktionierenden Code schreiben konnten, eine große Zahl von Leuten mittrug, die das überhaupt nicht konnten, waren häufig.
The Daily WTF ist ebenfalls ein Produkt dieser Zeit, und es gibt viele Geschichten wie Brillant Paula Bean: https://thedailywtf.com/articles/The_Brillant_Paula_Bean
Solche Geschichten hört man heute viel seltener, weil sich die Branche darauf eingependelt hat, konkrete Fähigkeiten vor der Einstellung zu testen, wodurch viele Leute aussortiert wurden, die nicht richtig programmieren konnten und trotzdem in Projekte gekommen wären.
Wenn ich der einzige Entwickler und Verkäufer dieser App wäre, hätte ich dann keine Verantwortung?
Würde es etwas ändern, wenn es einen QA-Mitarbeiter gäbe oder je zwei Entwickler und QA-Leute?
Sollte stattdessen ein nichttechnischer Mensch, der die App verkauft oder beworben hat, die Verantwortung tragen?
Ich verstehe nicht, warum die Verantwortung von Entwicklern vollständig verschwinden sollte, nur weil sie ihren eigenen Code nicht gründlich genug überprüft haben.
Der Kern dieses Falls scheint das interne private „Justiz“-System der Post Office gewesen zu sein.
Es war intransparent, voreingenommen und verweigerte die Prüfung von Beweisen.
In einer Zeit, die universelle Rechte anstrebt, ist es absurd, dass ein Arbeitsplatz jemandem das Recht nehmen kann, sich im öffentlichen Justizsystem zu verteidigen.
IT-Bugs waren ebenfalls ein Problem, aber politische Fehlentscheidungen einer in der Vergangenheit gefangenen Institution haben viele Menschen ruiniert, und bis zur TV-Dramaserie blieb das weitgehend unter der Decke.
Tatsächlich erhielt die Person, die die Post Office leitete, sogar eine staatliche Auszeichnung.
Bei IT und Code-Generierung gibt es viele Fallstricke, aber der Kern dieses Falls liegt woanders.
In der öffentlichen Untersuchung kam heraus, dass die Post Office aggressive juristische Taktiken einsetzte, etwa Unterpostmeister des Diebstahls zu bezichtigen und sie unter Druck zu setzen, sich zu geringeren Anklagepunkten schuldig zu bekennen.
Die CPS hat 11 Fälle von Unterpostmeistern identifiziert, die „bemerkenswerte Beweismittel“ zum Horizon-System enthielten.
Rechtsexperten sind der Ansicht, dass die Regierung schon seit Jahren davor gewarnt wurde, dass diejenigen, die private Strafverfolgung betreiben, mit höherer Wahrscheinlichkeit andere Motive als die Durchsetzung von Gerechtigkeit haben und dies deshalb gefährlich ist.
Der frühere Director of Public Prosecutions, Lord Ken Macdonald KC, sagte, es entstehe ein offensichtliches Risiko, wenn eine interessengebundene Organisation wie die Post Office die Rolle der Staatsanwaltschaft übernehme.
Die CEO wurde dafür belohnt, die Krise zu „managen“, und die Regierung hätte nach den Warnsignalen der ersten Jahre Antworten einfordern müssen.
Doch erst nach 20 Jahren und einer TV-Dramaserie wurde sie gezwungen, Führung zu zeigen.
Ob Netflix sie international lizenziert ausstrahlt, weiß ich nicht.
Die Lage in Großbritannien ist etwas anders, aber verpflichtende Schiedsklauseln nehmen Beschäftigten das Recht, Gerechtigkeit zu suchen, und werden immer verbreiteter.
Die BBC brachte den Fall 2015 in einer Panorama-Dokumentation, und die Post Office bedrohte die BBC wegen des Inhalts.
„Die Post Office bedrohte die BBC und log, als sie versuchte, entscheidende Beweise zu unterdrücken, die Postmeister im Horizon-Skandal entlasteten.“
„Die falschen Behauptungen stoppten die Sendung nicht, verzögerten die BBC-Ausstrahlung aber um einige Wochen.“
https://www.bbc.com/news/uk-67884743
Es war nicht nur ein einfacher „Fehler“, sondern auch ein PR-Krieg, der die Stimmen der Betroffenen bis heute ziemlich erfolgreich unterdrückt hat.
Als ich die Nachrichten sah, dachte ich: „Davon habe ich doch vor fünf Jahren gehört, das ist doch sicher längst geklärt?“
Es hätte nicht erst so viel öffentliche Aufmerksamkeit gebraucht, bevor sich die Mühlen der Gerechtigkeit in Bewegung setzen.
Vor ein paar Jahren dachte ich noch: „Technologie ruiniert also das Leben von Menschen“, aber wenn das 2024 immer noch weitergeht, wirkt es nicht mehr wie ein technisches Problem.
Am Ende ist es ein Problem von Menschen, und Menschen sind furchtbar.
Diese Geschichte bekommt jetzt endlich die Aufmerksamkeit, die sie verdient.
Wer das enorme Ausmaß des Unrechts komprimiert verstehen will, sollte diesen Artikel von Private Eye lesen: https://www.private-eye.co.uk/pictures/special_reports/justi...
Das BBC-Radioprogramm, das 2020 begann, bietet ebenfalls viele gute Informationen, etwa dazu, wie die Post Office verdächtigte Unterpostmeister untersucht hat: https://www.bbc.co.uk/sounds/brand/m000jf7j
Es lässt sich kaum als bloßer Softwarefehler betrachten.
Auf allen Ebenen der staatlich betriebenen Organisation versuchte die Bürokratie, die Sache zu vertuschen, um schlechte Publicity zu vermeiden.
Medizinische Geräte? Auf keinen Fall.
Natürlich kann ich nie bis zum Ende wissen, wo mein Code ausgeführt wird, aber damit es so weit kommt, kann es nicht nur ein Softwareproblem gewesen sein. Trotzdem frage ich mich, wie die Entwickler, die jahrelang daran gearbeitet haben, das einfach hinnehmen konnten.
Es ist schwer zu glauben, dass nicht ein einziger Entwickler von diesem Problem gehört hat.
Haben sie sofort gedacht: „Unmöglich, ich bin der Beste der Welt, also kann es kein Systemproblem sein, die Leute müssen das Geld gestohlen haben“?
Ich könnte jedenfalls nicht schlafen und würde das gesamte System im Kopf immer wieder durchgehen, um herauszufinden, wo etwas schiefgelaufen ist.
Vielleicht eine Art Dunning-Kruger-Effekt?
Ich halte mich nicht für einen Coding-Zauberer, aber ich weiß immerhin, dass ich bis zu meinem Tod Bugs schreiben werde.
Rust verhindert auch keine logischen Bugs.
Es war nicht ein einzelner Bug, sondern mehrere verschiedene Bugs.
Die Post Office ist ein vollständig privates Unternehmen.
In dieser Geschichte gibt es viele offensichtliche Bösewichte, aber man fragt sich, wo die Rechtsordnung die ganze Zeit war.
Wurden da wirklich 900 Fälle angeklagt, ohne echte Beweise oder einfach nur, weil „der Computer das so sagt“?
Wenn sie eine der drei Gewalten ist, dann müssten Rechtsordnung und Justiz doch die letzte Schutzvorrichtung sein, die eine derart launenhafte Massenverfolgung völlig Unschuldiger verhindert, oder?
„Es gibt keinen direkten Beweis dafür, dass sie das Geld genommen hat … Sie bestreitet den Diebstahl entschieden. Es gibt keine CCTV-Beweise. Es gibt weder Fingerabdrücke noch markierte Geldscheine oder Ähnliches. Es gibt keine Beweise dafür, dass sie andernorts Bargeld gehortet, viel Geld ausgegeben oder Schulden beglichen hätte, und es gibt überhaupt keine Beweise zu Bankkonten. Auch bei der Durchsuchung ihres Hauses wurde nichts gefunden, das auf Schuld hindeutet.“
Der einzige Beweis war die Differenz zwischen dem Bargeld, das laut dem Horizon-Computersystem der Post Office in der Filiale vorhanden sein sollte, und dem tatsächlich vorhandenen Bargeld.
„Akzeptieren Sie das Vorbringen der Anklage, dass es hinreichende Beweise dafür gibt, dass Horizon ein bewährtes System ist, das über Jahre in Tausenden von Postfilialen verwendet wurde und grundsätzlich robust und zuverlässig ist?“
Nur dein Wort gegen meins erfüllt den Maßstab „jenseits vernünftiger Zweifel“ nicht, aber das Wort der Post Office, gestützt durch ein Computersystem, scheint auf die Geschworenen überzeugend genug gewirkt zu haben.
In diesem Fall kamen die Geschworenen zu einem Schuldspruch.
Es wird angenommen, dass sie ordnungsgemäß funktionieren, und wer das Gegenteil behauptet, trägt die Beweislast.
Viele sagen, diese Vermutung zur Zuverlässigkeit von Computerbeweisen müsse geändert werden.
https://www.theguardian.com/uk-news/2024/jan/12/update-law-o...
https://www.forbes.com/sites/emmawoollacott/2024/01/15/law-o...
Software ist eine Maschine, weder klug noch dumm.
In diesem Fall war sie defekt, und Menschen, die tatsächlich in der Lage gewesen wären, die Lage kritisch zu analysieren und zu beurteilen, haben die Ausgabe einer Maschine, in deren Inneres sie nicht richtig sehen konnten, wie ein Evangelium behandelt.
Im Allgemeinen wird ein Magistrat wohl jedes Mal die Seite des Staates wählen, wenn das ehrenwerte Rechtsteam von His Majesty’s Postal Service einem Typen mit Regionalakzent gegenübersteht, der nach dem Motto „für uns ist das ein dreckiger Dieb“ behandelt wird.
Es gab keine Spur von Geldbewegungen auf Konten, kein unerklärliches Vermögen und keine luxuriösen Ausgaben, sondern immer nur „der Computer hat es so gesagt“.
Problematisch ist auch, dass das Justizsystem jeden Fall einzeln behandelt.
Nach ein paar Fällen müsste es in der Rechtsordnung einen Mechanismus geben, der sagt: „Moment mal, hier stimmt etwas nicht.“
Die erste Änderung in diesem Fall wird in Großbritannien wohl sein, diese veraltete Praxis zu beenden, dass die Post Office eigene Strafverfolgungen betreibt.
In einem früheren Team war das Wort glitch verboten.
Es wurde von Entwicklern und Produktverantwortlichen gegenüber Kunden als Sammelbegriff für „einen Bug, für den ich keine Verantwortung übernehmen will“ benutzt, und hat in modernen Tech-Teams keinen Platz.
Früher wurden Antworten von Stack Overflow in die Codebasis des Unternehmens copy-pasted und man hielt daran fest, bis es „funktionierte“; wenn dann Probleme auftraten, lagen sie wochen- oder monatelang bei einer Person und wurden dann an die nächste weitergereicht.
In den meisten Fällen würde schon ein einfaches Ausgabestatement einen Ansatz zur Behebung liefern, aber selbst das galt als zu komplex.
Wenn Software Geld verdient, steigt der Anreiz, die Entwicklungskosten zu senken, billigere und weniger erfahrene Ingenieure einzustellen und Verfahren auszulassen mit der Begründung, „TDD ist Zeitverschwendung“.
Die britische Regierung ist abhängig von großen Beratungsfirmen, die im öffentlichen Sektor mit billigen, unerfahrenen Kräften arbeiten und den Rest einstreichen, während sie teure halbfertige Projekte abliefern oder gar nicht liefern.
Es gibt keine Organisation, die solche Verträge untersuchen will.
Sehr ähnlich zum Robodebt-System in Australien, mit ähnlich verheerenden Folgen: https://en.wikipedia.org/wiki/Robodebt_scheme
Sozialleistungsempfänger, die automatische Schuldeneintreibungsbescheide erhielten, nahmen sich das Leben; Schuldenbescheide wurden an Verstorbene verschickt, und auch Empfänger von Invaliditätsrenten bekamen solche Bescheide.
Wikipedia scheint so etwas als Algocracy zu bezeichnen, also Herrschaft durch Algorithmen.
Das lag daran, dass er Ergebnisse andeutete, die der damaligen Regierung nützten, und den Einzelnen die Beweislast dafür aufbürdete, dass die Forderung falsch war, während die Anforderungen absurd und Unterstützung oder Einspruchsverfahren kaum vorhanden waren.
Die damals regierende Liberal & National Party wollte ein hartes Image gegenüber Sozialbetrügern aufbauen, es wahlpolitisch nutzen und im nächsten Haushalt eine riesige potenzielle Einnahmequelle verbuchen, die es in Wirklichkeit gar nicht gab.
Viele Fehlberechnungen entstanden dadurch, dass Einkommen aus zwei Wochen oder mehreren Zweiwochenzeiträumen gemittelt und auf ein Jahreseinkommen hochgerechnet wurde; bei Sozialleistungsempfängern mit Gelegenheits- oder Kurzzeitarbeit ist das völlig falsch, weil dieser Zeitraum das Jahreseinkommen nicht repräsentiert.
In manchen Fällen erfuhren die als Schuldner bezeichneten Personen erst davon, als sie ein Forderungsschreiben eines Inkassobüros erhielten.
Wenn Einzelne Klage erhoben, setzte die Regierung die Forderung auf 0,00 Dollar herab und behauptete dann, es gebe keinen Klagegrund mehr, wodurch der Fall erledigt wurde.
Schließlich verlangten Anwälte, die eine bestimmte Person vertraten, sogar Zinsen auf die zu Unrecht geltend gemachte Schuld, sodass mit derselben Taktik kein Sieg mehr möglich war, und erst dann erkannte die Regierung die Rechtswidrigkeit des jahrelang betriebenen Systems an.
Um den Gesamtkontext zu verstehen, ist diese dreiteilige YouTube-Serie zu empfehlen: https://www.youtube.com/watch?v=OfsL9GAbl3M
Gleich zu Beginn wird erklärt, dass dies zur größten Sammelklage in der australischen Geschichte führte.
Heute gilt Software zwar als Wahrheit, aber das war nicht immer so
Es ist gut, dass KI so viel Aufmerksamkeit bekommt, denn dadurch scheint das Bewusstsein dafür zu wachsen, dass ihre Urteile falsch sein können
Vor Gericht sollte verlangt werden, dass Software-Entscheidungen ihre Daten und Entscheidungswege, also den „Algorithmus“, offenlegen
Außerdem braucht es Gesetze gegen Nutzungsverbote durch Systeme
Ohne Erklärung und ohne Rechtsmittel lebenslang ausgesperrt zu werden, ist absurd und kommt faktisch einer lebenslangen Strafe ohne Grund gleich