Fujitsu-Horizon-Bug, der Unschuldige ins Gefängnis brachte, war „von Anfang an“ bekannt
(arstechnica.com)- Fehler im Horizon-Buchhaltungssystem der britischen Post waren seit den frühen Phasen der Einführung bekannt und beeinflussten die Anklagen und Verurteilungen unschuldiger Postfilialleiter
- Zwischen 1999 und 2015 ließen fehlerhafte Buchhaltungsdaten es so aussehen, als sei Geld verschwunden; dadurch wurden mehr als 900 Sub-Postmaster und Sub-Postmistresses wegen Diebstahls oder Betrugs angeklagt und verurteilt
- Gerichte wussten nichts von 29 Bugs, die seit 1999 bekannt waren; zugleich hielt die Post Office an der Darstellung fest, das System funktioniere ordnungsgemäß, während Zeugenaussagen und Berichte nahelegen, dass sie an Änderungen von Gerichtserklärungen von Fujitsu-Mitarbeitern beteiligt war
- Bis heute wurden nur 93 Verurteilungen aufgehoben; einige Betroffene kamen ins Gefängnis, andere zahlten Geld an die Post Office, um Fehlbeträge auszugleichen, die es gar nicht gab, und Tausende warten auf Entschädigung
- Fujitsu hat eine moralische Verpflichtung anerkannt, zur Entschädigung der Opfer beizutragen; die britische Regierung bereitet ein neues Gesetz vor, um zu Unrecht Verurteilte schnell freizusprechen und zu entschädigen
Horizon-Fehler waren seit den frühen Phasen der Einführung bekannt
- Paul Patterson, Co-CEO von Fujitsu Europe, erklärte in einer öffentlichen Untersuchung, dass Bugs in der Horizon-Software „seit Beginn der Einführung“ bekannt gewesen seien
- Patterson sagte, „Bugs und Fehler waren auf mehreren Ebenen seit sehr langer Zeit bekannt“; seit den frühen Phasen der Systemeinführung habe es Bugs, Fehler und Mängel gegeben, und die beteiligten Parteien hätten davon gewusst
- Horizon war eine Buchhaltungssoftware, die 1999 von Fujitsus Tochtergesellschaft International Computers Limited bei der britischen Post installiert wurde
Anklagen von 1999 bis 2015 und Ausmaß des Schadens
- Die fehlerhaften Buchhaltungsdaten von Horizon ließen es so aussehen, als verschwinde Geld aus Filialen; von 1999 bis 2015 wurden mehr als 900 Sub-Postmaster und Sub-Postmistresses wegen Diebstahls oder Betrugs angeklagt und verurteilt
- Einige Unschuldige kamen ins Gefängnis, andere zahlten Geld an die UK Post Office, um Fehlbeträge auszugleichen, die tatsächlich gar nicht existierten
- Laut BBC-Berichten wurden bislang nur 93 Verurteilungen aufgehoben, und Tausende warten noch auf Entschädigungsvereinbarungen
Den Gerichten unbekannte Bugs und geänderte Erklärungen
- Laut Berichten von The Guardian wurden die Gerichte, die Fälle von Postfilialmitarbeitern verhandelten, nicht über 29 Bugs informiert, die seit 1999 im Fujitsu-System festgestellt worden waren
- Selbst wenn Bugs eingeräumt wurden, wurden die für Gerichtsaussagen bestimmten Erklärungen von Fujitsu-Mitarbeitern von der Post Office geändert; zugleich versuchte die Post Office, an der Position festzuhalten, das System funktioniere ordnungsgemäß, während sie unschuldige Menschen vor Gericht brachte
- Patterson sagte, er sei überrascht gewesen, dass diese Details in den von Fujitsu-Mitarbeitern an die Post Office übermittelten Erklärungen fehlten, und er habe Belege gesehen, dass andere Personen die Erklärungen geändert hätten
- Als der leitende Anwalt der öffentlichen Untersuchung, Jason Beer KC, fragte, ob er dies als „beschämend“ ansehe, antwortete Patterson: „shameful and appalling“
- Patterson sagte, nach seinem Verständnis des britischen Rechts hätten alle Beweise, auf die sich die Post Office bei den Anklagen stützte, den Subpostmastern vorgelegt werden müssen
Private Anklagerechte und mögliche Reformen des Systems
- Die Financial Times berichtete, die öffentliche Untersuchung habe im Dezember 2023 erfahren, dass Anwälte der Post Office Fujitsu-Erklärungen umgeschrieben hätten
- Die Post Office nutzte das in Großbritannien privaten Unternehmen offenstehende private Anklagerecht, um 700 der 900 Verurteilungen zu erreichen
- Die übrigen Verurteilungen gingen auf Fälle zurück, die von der schottischen Staatsanwaltschaft angestrengt wurden
- Der Skandal könnte zu Reformen des Systems privater Strafverfolgung führen, das Organisationen ermöglicht, Menschen vor Gericht zu bringen
Fujitsus Entschuldigung und Verantwortung für Entschädigungen
- Patterson sagte Anfang derselben Woche vor Abgeordneten des britischen Parlaments, Fujitsu wolle sich für seine Rolle in einer „schrecklichen Fehlentscheidung der Justiz“ entschuldigen
- Er räumte ein, dass Fujitsu von Anfang an beteiligt war, dass das System Bugs und Fehler hatte und dass das Unternehmen die Post Office bei der strafrechtlichen Verfolgung von Sub-Postmastern unterstützte
- Patterson sagte, Fujitsu habe eine moralische Verpflichtung, zur Entschädigung der Opfer beizutragen
Seit 1999 bestehendes Problembewusstsein und Reaktion der Regierung
- Flora Page, Anwältin der Opfer, fragte Patterson, ob in der Vergangenheit niemand klar den Zusammenhang zwischen sehr schlechtem Code im Betrieb und sehr schlechten Daten gesehen habe, die in Litigation-Support-Services geflossen seien
- Patterson antwortete, dieses Verständnis des Zusammenhangs und dessen, was wo vor sich ging, habe sowohl bei Fujitsu als auch bei der Post Office bis ins Jahr 1999 zurückgereicht
- Post-Office-Minister Kevin Hollinrake sagte der BBC, Entschädigungen und Antworten zu bekommen sei seine „oberste Priorität“
- Hollinrake sagte, es habe schreckliche Auswirkungen auf das Leben der Menschen gegeben, darunter zerbrochene Ehen und Suizide; wo möglich, müsse Verantwortung durch Strafverfolgung eingefordert werden
- Die britische Regierung plant ein neues Gesetz, um zu Unrecht Verurteilte rasch freizusprechen und zu entschädigen
1 Kommentare
Meinungen auf Hacker News
Schockierend ist die Passage, in der Paul Patterson, Co-CEO von Fujitsu Europe, sagte, es sei „überraschend, dass dies in den Zeugenaussagen fehlte, die Fujitsu-Mitarbeiter dem Post Office vorlegten, und ich habe auch einige Belege dafür gesehen, dass andere Zeugenaussagen bearbeitet haben“
Wenn das, was vertuscht werden sollte, nur ein schlampig umgesetzter Softwarevertrag gewesen wäre, ist schwer zu verstehen, wie dieser Skandal immer noch schlimmer werden kann
Inzwischen drängt sich der Verdacht auf, dass es noch weiteres, bislang nicht aufgedecktes grundlegendes Fehlverhalten gibt
Fujitsu trägt zwar ebenfalls Verantwortung, aber wenn das Post Office Aussagen geändert hat, ist unklar, wer das hätte überprüfen müssen
Wenn ich der Polizei eine schriftliche Aussage gebe, sollte es nicht meine Verantwortung sein, bis zum Ende sicherzustellen, dass die Polizei meine Aussage nicht verändert hat
Natürlich muss man es ansprechen, wenn man davon erfährt, aber man muss darauf vertrauen können, dass eine mit dem Gericht verbundene Stelle keine Beweise manipuliert
So etwas passiert, wenn eine untergeordnete Organisation versucht, ihre eigene Verantwortung zu verdecken und dadurch die gesamte größere Organisation einem viel höheren Kostenrisiko aussetzt; oder wenn Einzelpersonen bzw. Organisationen glauben, im Recht zu sein, und ihre Reaktion immer weiter eskalieren; oder wenn sie wegen ihrer Macht glauben, sie könnten auch größere Verfehlungen durchgehen lassen, um den Preis des ursprünglichen Fehlers zu vermeiden
Das ist auch im Kleinen nicht selten, und in Unternehmen ohne eine Kultur des Vertrauens und der Ehrlichkeit wird Information über Fehler intern häufig unterdrückt, was dann zu noch schlimmerem und schädlicherem Verhalten führt
Außerdem liefert Fujitsu auch Software an viele britische Regierungsstellen wie den NHS; sie vertuschten also nicht nur einen riesigen Vertrag, sondern auch die Tatsache, dass sie gelogen hatten und infolgedessen Menschen ins Gefängnis kamen und sich sogar das Leben nahmen
Das hätte enorme politische Empörung ausgelöst, einschließlich straf- und zivilrechtlicher Haftung, und die Art der Auftragsvergabe unerwünscht ins Rampenlicht gerückt
Tatsächlich haben sich Menschen wegen Scham, Schulden und zerstörter Karrieren das Leben genommen, und dieser Fall hat Todesopfer gefordert
Jedes Mal wirkt es erstaunlich, absurd und unmöglich, und doch wiederholt es sich immer wieder
Wie in einer Komödie oder einem schlechten Thriller scheint auch das Verbrechen immer weiter zu eskalieren
Im Wikipedia-Artikel zu Paula Vennells steht, dass das Post Office zwischen 1999 und 2015 700 Filialleiter strafrechtlich verfolgt hat [0]
Das entspricht ungefähr einer Person alle acht Tage; ich kenne die Basisrate nicht, mit der Filialleiter Betrug begehen oder angeklagt werden, aber das wirkt doch wie eine übermäßig hohe Zahl
Bei einer derart gestiegenen Häufigkeit von Strafverfolgungen hätte das Post Office meiner Meinung nach eine interne Untersuchung einleiten müssen
[0] https://en.wikipedia.org/wiki/Paula_Vennells
Dafür gibt es keine Entschuldigung
Das war ein ziemlich zentraler Zeitraum, in dem all dies in vollem Gange war
Ich erwähne ihn besonders, weil er nach der Übergabe an Vennells für mehrere Jahre zu ITV wechselte
Genau ITV war es, das die Dramaserie produzierte, die diesen Fall wieder ins öffentliche Bewusstsein brachte
Allerdings verließ er ITV lange bevor die Produktion der Serie begann, daher könnte es eher eine kreative Entscheidung als äußerer Einfluss gewesen sein
https://en.wikipedia.org/wiki/Adam_Crozier
Es könnte ein extremes Beispiel dafür sein, dass gierige, unmoralische Führungskräfte ihre eigenen Fehler auf andere projizieren
Ernsthaft: Wenn man kriminell wäre, würde man wirklich den mühsamen Weg wählen, jahrelang ein Postamt zu betreiben?
Wenn es Millionen davon gegeben hätte, wären 700 vielleicht eine beeindruckende Zahl
Es gibt Dinge, die bis heute weiterlaufen
Strafverfolgungen finden weiterhin statt, allerdings nicht durch das Post Office, sondern unter Führung des Crown Prosecution Service
Fujitsu liefert dem CPS und dem Post Office weiterhin Daten, so wie seit Jahren; ob sie auch noch Zeugenaussagen liefern, weiß ich nicht
Filialleiter beschweren sich weiterhin darüber, dass Bugs in der Horizon-Software Saldenfehler verursachen
Filialleiter müssen bei Fehlbeträgen weiterhin Strafen zahlen und dem Post Office Geld erstatten; diese Beträge werden automatisch vom Gehalt abgezogen
Ich wollte versuchen, die HN-Threads zu diesem Thema zusammenzutragen
Ich frage mich, ob es noch weitere wichtige Beiträge gibt, die fehlen
Interessant ist, dass es 2012 eine Einreichung mit einem Kommentar gab und danach sieben Jahre lang offenbar fast nichts
Fujitsu CEO Deposition – Post Office Horizon IT Inquiry - https://news.ycombinator.com/item?id=39059302 - Jan 2024 (1 Kommentar)
Fixing Horizon bugs would have been too costly, Post Office inquiry told - https://news.ycombinator.com/item?id=39039712 - Jan 2024 (59 Kommentare)
Fujitsu says it will pay compensation in UK Post Office scandal - https://news.ycombinator.com/item?id=39023695 - Jan 2024 (26 Kommentare)
How a software glitch at the UK Post Office ruined lives - https://news.ycombinator.com/item?id=39010070 - Jan 2024 (326 Kommentare)
Post Office Horizon scandal explained: Everything you need to know - https://news.ycombinator.com/item?id=38983144 - Jan 2024 (8 Kommentare)
A TV Show Forced Britain's Devastating Post Office Scandal into the Light - https://news.ycombinator.com/item?id=38951802 - Jan 2024 (168 Kommentare)
British Post Office Scandal - https://news.ycombinator.com/item?id=38937705 - Jan 2024 (149 Kommentare)
How the Post Office's Horizon system failed: a technical breakdown - https://news.ycombinator.com/item?id=38931792 - Jan 2024 (4 Kommentare)
Ex Post Office CEO hands back award after IT failures lead to false convictions - https://news.ycombinator.com/item?id=38930011 - Jan 2024 (127 Kommentare)
Post Office Horizon Enquiry – Fujitsu Report on Eposs PinICL Task Force (1998) - https://news.ycombinator.com/item?id=38926582 - Jan 2024 (1 Kommentar)
Fujitsu bosses knew about Post Office Horizon IT flaws, says insider (2021) - https://news.ycombinator.com/item?id=38890468 - Jan 2024 (8 Kommentare)
Mr Bates vs. the Post Office - https://news.ycombinator.com/item?id=38869011 - Jan 2024 (3 Kommentare)
What went wrong with Horizon: learning from the Post Office Trial - https://news.ycombinator.com/item?id=38867712 - Jan 2024 (19 Kommentare)
UK Post Office: 700 Horizon software scandal victims to receive £600k each - https://news.ycombinator.com/item?id=37561428 - Sept. 2023 (40 Kommentare)
After 20 years, the Post Office scandal cover-up is happening in plain sight - https://news.ycombinator.com/item?id=36778486 - Juli 2023 (1 Kommentar)
The UK post office database scandal – “can't see the bug = user is a thief” - https://news.ycombinator.com/item?id=35837576 - Mai 2023 (2 Kommentare)
Hundreds of lives ruined by faulty UK Post Office computer system - https://news.ycombinator.com/item?id=35792896 - Mai 2023 (4 Kommentare)
Ex-Mitarbeiter der britischen Post berichten Untersuchung von der Belastung durch IT-Skandal - https://news.ycombinator.com/item?id=30394685 - Feb. 2022 (2 Kommentare)
Post-Office-Skandal: Öffentliche Untersuchung soll Fehlurteile prüfen - https://news.ycombinator.com/item?id=30329668 - Feb. 2022 (149 Kommentare)
Post-Office-Skandal: „Ich will, dass jemand anderes angeklagt und eingesperrt wird, so wie ich es wurde“ - https://news.ycombinator.com/item?id=30329510 - Feb. 2022 (2 Kommentare)
Fehlerhafte Software brachte Postangestellte ins Gefängnis - https://news.ycombinator.com/item?id=26973583 - April 2021 (1 Kommentar)
Verurteilte Post-Office-Mitarbeiter werden rehabilitiert - https://news.ycombinator.com/item?id=26924882 - April 2021 (187 Kommentare)
Britisches Gericht entlastet Post-Office-Mitarbeiter, die aufgrund „korrupter Daten“ verurteilt wurden - https://news.ycombinator.com/item?id=26913037 - April 2021 (284 Kommentare)
Britisches Rechtssystem geht davon aus, dass Computer keine Bugs haben - https://news.ycombinator.com/item?id=25518936 - Dez. 2020 (24 Kommentare)
Post-Office-Skandal: Postmaster feiern Sieg gegen Verurteilungen - https://news.ycombinator.com/item?id=24661321 - Okt. 2020 (2 Kommentare)
Insolvenz, Gefängnis, zerstörte Leben: Einblick in den Post-Office-Skandal - https://news.ycombinator.com/item?id=24440476 - Sept. 2020 (1 Kommentar)
Postmaster wurden auf Grundlage unzuverlässiger Beweise strafrechtlich verfolgt - https://news.ycombinator.com/item?id=23454606 - Juni 2020 (2 Kommentare)
Fehler im Buchhaltungssystem der Post führten dazu, dass Mitarbeiter wegen Diebstahls verurteilt wurden - https://news.ycombinator.com/item?id=21795219 - Dez. 2019 (104 Kommentare)
Post Office beauftragt Wirtschaftsprüfer mit Prüfung der Computer-Behauptungen von Sub-Postmastern - https://news.ycombinator.com/item?id=4143107 - Juni 2012 (1 Kommentar)
Eine aktuelle TV-Miniserie hat offenbar öffentliches Interesse geweckt, wodurch die Massenmedien begonnen haben, breit darüber zu berichten
Diese Liste würde sich gut für eine Seminararbeit in Informatik oder Technik eignen, oder für einen guten Medium-/Substack-Artikel bzw. eine Serie
Für Professoren wäre sie auch als Fallstudie zu Computerethik geeignet, aber vielleicht sollte man noch etwas warten, damit mehr Details ans Licht kommen
Private Eye hat den Fall kontinuierlich weiterverfolgt, seit Computer Weekly zuerst darüber berichtete
Fürs Protokoll: Es gibt auch einen von mir eingereichten Beitrag und einen Kommentar
Computer Says 'Guilty' - https://news.ycombinator.com/item?id=27392724 - Juni 2021 (1 Kommentar)
In England und Wales ist Behinderung der Justiz ein Verbrechen, auf das bis zu lebenslange Haft stehen kann.
Persönlich halte ich das für eine angemessene Strafe für die Anwälte, die diese Zeugenaussage umgeschrieben haben.
Kollaboration oder Bearbeitung an sich ist schwerlich als Straftat zu werten; strafbar ist vielmehr, sie zu unterschreiben, obwohl man weiß, dass es sich um falsche oder irreführende Aussagen handelt.
Schockierend ist der Teil, dass „Zeugenaussagen von Fujitsu-Mitarbeitern, die vor Gericht behandelt werden sollten, später von der Post Office bearbeitet wurden“.
Für die Personen, die das getan haben, sollte es erhebliche Haftstrafen und Geldbußen geben.
Wenn ein neues Softwaresystem Betrug aufdeckt, der zuvor nicht sichtbar war, hat man die Verantwortung, die Ergebnisse zu prüfen, erneut zu prüfen und ein drittes Mal zu prüfen, bevor man das Leben von Menschen ruiniert.
Auch die Leute, die heute AI-Klassifikatoren bauen, sollten sich das zu Herzen nehmen.
Solche Systeme werden bereits oder sehr wahrscheinlich bald für die Auswahl von Überwachungszielen, Face Matching und KI-gestützte Rechtssoftware eingesetzt.
Wir sind nicht weit von der Situation „der Computer sagt: schuldig“ entfernt; und selbst wenn der Computer das nicht direkt sagt, reicht es, wenn er der falschen Sorte Mensch genügend Rechtfertigung liefert, zu glauben, sie tue das Richtige.
Bei der niederländischen Steuerbehörde ist etwas sehr Ähnliches passiert, und wenn hier die IND vollständig durchleuchtet wird, werden meiner Vermutung nach noch viel mehr Fälle dieser Art ans Licht kommen.
Bis zu einem gewissen Grad ist das auch in den meisten Softwareprojekten alltäglich.
Oft weiß man, dass die Software Bugs und Probleme hat, sieht darin aber keinen Blocker, der eine Verschiebung des Release-Termins rechtfertigt; in Bereichen mit geringem Risiko wie der Spieleentwicklung funktioniert das einigermaßen.
Bei Software, bei der das Leben und die Finanzen von Menschen auf dem Spiel stehen, funktioniert das aber nicht.
Erst recht geht es nicht, Menschen als Kriminelle anzuklagen, obwohl man genau weiß, dass das Problem auf System-Bugs zurückgehen könnte.
Man kann grundsätzlich infrage stellen, ob die Methode „schnell vorankommen, Dinge kaputtmachen und Bugs ignorieren, solange sie nicht nach vollständigem Release-Stopp aussehen“ richtig ist; aber die Reaktion auf geschäftlicher und juristischer Ebene war eindeutig falsch, und der größte Teil des Problems entstand durch das dubiose Verhalten von Führungskräften und Business-Verantwortlichen, die versucht haben, es zu vertuschen.
Wer jemand anderem eine Schuld anhängt, sollte mit derselben Sanktion wie für das Verbrechen selbst belegt werden.
Es gibt weitere verwandte Beiträge.
Fixing Horizon bugs would have been too costly, Post Office inquiry told
https://news.ycombinator.com/item?id=39039712
Fujitsu is sorry that its software helped send innocent people to prison
https://news.ycombinator.com/item?id=39038263