Tesla behauptete, bei tödlichem Unfall fehlten zentrale Daten – doch ein Hacker fand sie

• Tesla behauptete im Zusammenhang mit einem Unfall im Autopilot-Betrieb, dass zentrale Daten nicht vorhanden seien
• Doch nachdem ein Hacker interne Daten gefunden hatte, entbrannte eine Kontroverse
• Dadurch wurden Fragen zur Glaubwürdigkeit von Teslas Aussagen und zum tatsächlichen Datenbestand aufgeworfen
• Teslas rechtliche Verantwortung und der Umgang mit der Vorlage von Beweismitteln geraten erneut in den Fokus
• Auch die Risiken autonomer Fahrtechnologien und Fragen der Transparenz werden erneut hervorgehoben

---

Überblick über die Kontroverse um zurückgehaltene Tesla-Unfalldaten

• Tesla behauptete im Zusammenhang mit einem tödlichen Unfall mit autonomem Fahren, dass das Unternehmen keinen Zugriff auf die zentralen Daten des Vorfalls habe
• Ein Hacker fand jedoch die relevanten Daten in Teslas internen Systemen und belegte damit, dass die zuvor als nicht vorhanden bezeichneten Daten tatsächlich existierten
• Dadurch wurde die Frage aufgeworfen, ob Tesla in gerichtlichen Aussagen die Wahrheit verschwiegen hat oder zumindest die eigenen internen Datenverwaltungssysteme nicht ausreichend versteht
• Der Fall löste mehrere Themen aus, darunter die Zuweisung rechtlicher Verantwortung, die Pflicht zur Vorlage von Beweismitteln und die Transparenz beim Datenmanagement autonomer Fahrzeuge
• Zudem rückte dadurch die Zuverlässigkeit autonomer Fahrtechnologien und die Haltung von Tech-Unternehmen beim Umgang mit künftigen Unfällen stärker in den Fokus

[GN⁺]

Hacker-News-Kommentare

• Teile den Archivlink

• Ich frage mich, ob ich das richtig verstehe. Unfalldaten werden also automatisch an Tesla übertragen und sofort nach der Übertragung als gelöscht markiert? Bei so einer Struktur hätte Tesla das Monopol auf den Zugriff auf die Daten und könnte nach Belieben entscheiden, ob und wie sie verwendet werden. Dass so etwas vor Gericht Bestand haben soll, kann ich mir kaum vorstellen, aber bisher scheint es so zu laufen. Und natürlich würde man erwarten, dass es auf den Tesla-Servern Audit-Logs über das Löschen von Unfalldaten gibt, aber ob die tatsächlich existieren, hat offenbar niemand überprüft

  • Fahrzeugdaten werden nicht nur von Tesla, sondern von allen Herstellern exklusiv kontrolliert. Es gibt weder standardisierte Methoden zur Datenaufzeichnung oder -abfrage, noch lassen sich die Logs einzelner Komponenten ohne die jeweiligen Zulieferer interpretieren
  • Etwas wohlwollender betrachtet besteht nach einem Unfall das Risiko, dass Außenstehende auf das Fahrzeug und den Speicher zugreifen und dabei personenbezogene Daten des Halters oder Fahrers offengelegt werden. Außerdem könnten Zustandsdaten des Fahrzeugs je nach präsentierender Partei verzerrt dargestellt werden, daher sollte nur offizielles Fachpersonal Zugriff haben. Das ist ein ähnliches Konzept wie bei der Behandlung von Flugschreibern am Unfallort
  • Ein weiterer Grund könnte sein, dass es Konflikte mit dem Upload-Code für andere Arten von Daten geben könnte, die an Tesla hochgeladen werden. Beim ersten Datentyp (beliebige Daten) ist es sinnvoll, die Daten im Fahrzeug zu löschen, sobald bestätigt wurde, dass sie auf den Tesla-Servern gespeichert wurden, um Speicherplatz freizugeben. Für Unfälle ist das nicht optimal, aber man kann nicht automatisch unterstellen, dass das Löschen böswillig war
  • Ich sehe da eine Ähnlichkeit zu „Aufzeichnungen zur Verbesserung der Gesprächsqualität“. Die Aufsichtsbehörden verlangen, dass Kunden informiert werden, aber wenn die Aufnahmen dem Unternehmen schaden würden, heißt es plötzlich, es habe keine gegeben, und veröffentlicht werden sie nur dann, wenn sie nützlich sind. Tesla ist schon oft dadurch aufgefallen, mit gewaltigen Mengen an Kundendaten schlampig umzugehen, und vor Kurzem wurden sogar Videos aus dem Fahrzeuginneren innerhalb von Büros geteilt. Eine Pornodarstellerin hat einmal Videos in einem selbstfahrenden Tesla aufgenommen, und ich nehme an, dass dieses Material unter dem Vorwand der „Qualitätsverbesserung“ überall herumgereicht wurde
  • Früher musste man Tesla oft verklagen, um Telemetriedaten eines Fahrzeugs zu bekommen. Selbst wenn die Daten nicht gegen Tesla verwendet werden sollten, sondern in Verkehrsunfallprozessen, hat Tesla sie nicht herausgegeben. Gleichzeitig hat Tesla ohne Zustimmung Telemetriedaten an die Presse weitergegeben, um sich selbst zu verteidigen oder jemanden sogar fälschlich schlecht dastehen zu lassen. Dann heißt es etwa, „das Fahrzeug hat den Fahrer gewarnt“, und bei genauerem Hinsehen stellt sich heraus, dass es in Wirklichkeit nur eine einzige Warnung 18 Minuten vor dem Aufprall gab

• Ich habe früher bei eBay eine Model-3-Infotainment-Einheit gekauft und gehackt. Die Menge der darin gespeicherten Daten ist enorm. Nachdem ich Zugriff auf das System hatte, konnte ich die VIN des Fahrzeugs auslesen und sogar die Versteigerung des Unfallwagens finden, aus dem es stammte. Anhand der gespeicherten Positionsdaten waren Wohnort des Halters, Arbeitsplatz, häufig besuchte Geschäfte und das gesamte Bewegungsmuster klar erkennbar. Die zuletzt aufgezeichnete GPS-Position war eine T-Kreuzung in North Carolina, und auf Street View konnte ich sogar den Baum sehen, gegen den das Fahrzeug offenbar gefahren war

  • Mich interessiert die Hardware. Ist das im Grunde ein Linux-basierter Computer mit SD-Karte oder SSD, und welches Dateisystem wird verwendet?
  • Die Bemerkung „einen Ausschnitt aus dem Leben des Halters gesehen“ … mit eingeschlossen vielleicht sogar den Tod? Kleiner Scherz dazu

• Laut dem im Gericht abgespielten annotierten Video erkannte Tesla ein Fahrzeug in 170 Fuß Entfernung und danach einen Fußgänger in 116 Fuß Entfernung. Trotzdem plante Tesla eine Route genau durch den Punkt hindurch, an dem sie standen, direkt am Ende der Straße mit Signal und Schildern. Das heißt: Das System erkannte Fahrzeug und Fußgänger und versuchte trotzdem, genau zwischen ihnen hindurchzufahren. Ich frage mich ernsthaft, wie gravierend der Zustand dieser Software eigentlich ist

  • Hier ist ein Video als Beleg dafür, dass es tatsächlich so schlimm ist: vimeo.com/1093113127/e1fb6c359c. Es geht nicht nur darum, dass ein Fußgänger erkannt wurde und man trotzdem in seine Richtung fuhr, sondern dass der Fußgänger sogar tatsächlich angefahren wurde und das System die Route danach einfach fortsetzte
  • Alle reden davon, dass AI die Welt revolutionieren und zu Skynet werden wird, aber das eigentliche Pathfinding ist auf dem Niveau eines Counter-Strike-Bots
  • Ich denke, das ist ein „dog/pig problem“. Das Problem solcher Systeme ist das Fehlen von „object permanence“. Selbst wenn in 170 Fuß Entfernung ein Fahrzeug erkannt wird, bleibt diese Erkennung beim Näherkommen nicht bestehen; bei Fußgängern genauso. Das Tesla-System filtert stationäre Objekte wie stehende Fahrzeuge oder Schilder heraus, und das ist auch bei Fahrassistenzsystemen anderer Marken nicht unüblich, außer im Parkmodus. Der Unterschied ist nur, dass Fahrer anderer Marken solchen Systemen meist nicht blind vertrauen, während Tesla-Fahrer dazu neigen, die Assistenzfunktionen übermäßig zu überschätzen. Passender Videolink: Szene aus The Mitchells vs. the Machines
  • Meine Vermutung ist, dass das tatsächlich erkannte Fahrzeug und der Fußgänger nicht die Opfer waren, sondern andere Objekte. Wären es die Opfer gewesen, hätte man wohl nicht von „a vehicle“ oder „a pedestrian“ gesprochen

• „Unmittelbar nach dem Unfall am 25. April 2019 um 21:14 Uhr wurden entscheidende Daten automatisch auf Tesla-Server hochgeladen und in einer zentralen Datenbank gespeichert. Die Zentrale schickte dem Fahrzeug eine automatisierte Nachricht, dass der Crash-Snapshot empfangen wurde. Kurz darauf wurden dieselben Daten vor Ort auf ‚unlink‘ gesetzt, also die lokale Kopie im Fahrzeug als gelöscht markiert. Tesla erklärte vor Gericht, dass ein solcher Ablauf bei Unfällen üblich sei.“ Dieser gesamte Ablauf ist schockierend

  • Es überrascht mich, wie leicht Menschen diesem Unternehmen ein so großes Vertrauen schenken. Ob es nun EV-Marktführer geblieben wäre oder eine neue Macht im Bereich AI/Robotik geworden ist: Dieses Unternehmensverhalten übertrifft wirklich jede Vorstellung. Diese Art von Unmoral erinnert fast an Aperture Science
  • Ich kann mir keinen Fall vorstellen, in dem dieser Ablauf rechtmäßig verteidigt werden kann und keine Probleme verursacht. Ich habe große Fragen zu Compliance, rechtlichen Anforderungen und Datenaufbewahrung, und ich frage mich auch, wer so einen Code überhaupt in ein Release aufgenommen hat. Das war kein Fehler einer Einzelperson, sondern eine Entscheidung auf Teamebene
  • Das größere Problem ist, dass Tesla sogar die Daten auf dem zentralen Server „aktiv gelöscht“ hat
  • Der von mir zitierte Teil, also das Löschen der Daten im Fahrzeug, ist für mich gar nicht so seltsam; viel schockierender ist das Löschen auf dem Server
  • Im Top-Kommentar eines früheren HN-Threads zu einem ähnlichen Vorfall wurde erwähnt, dass der zugesprochene Schadensersatz überhöht sei. Ich bin gespannt, ob die Diskussion in diesem Thread anders verläuft

• Als Volkswagen beim Abgasskandal erwischt wurde, wurde der CEO entlassen und angeklagt. Sollte das bei Tesla nicht ebenso sein?

  • Das Besondere an Dieselgate ist, dass tatsächlich jemand bestraft wurde. Dass Unternehmen, vor allem strafrechtlich, wirklich belangt werden, ist meiner Ansicht nach sehr selten
  • Der zuständige Richter stellte in seiner Entscheidung fest, dass es „keine ausreichenden Beweise dafür gab, dass Tesla die Daten anfänglich vorsätzlich nicht vorgelegt hat“, und entschied stattdessen, dass Tesla die Kosten erstatten muss, die der Kläger für die eigene Datensicherung aufgewendet hat
  • Ich glaube, dafür bräuchte es wie bei Big Tobacco eine Koalition demokratischer Attorney Generals auf Bundesstaatsebene
  • Die Entlassung eines CEO ist Sache des Vorstands. Der Tesla-Vorstand glaubt, dass der Unternehmenswert anormal hoch ist und direkt am CEO hängt
  • Dieser Fall ist etwas völlig anderes als bei VW, gemeinsam haben sie nur, dass beide Autofirmen sind. Es mag sein, dass der Tesla-CEO entlassen oder angeklagt werden sollte, aber nicht deshalb, weil der VW-Fall ein Präzedenzfall wäre

• Wenn Tesla Secure Boot einführt, wird es in Zukunft für niemanden mehr leicht sein, solche Schwachstellen aufzudecken. Dann steigt auch die Wahrscheinlichkeit, dass Unfalldaten „verloren gehen“, ähnlich wie wenn die Polizei Aufnahmen von Bodycams „verliert“

  • Diesem Kommentar stimme ich extrem zu. Dass Hacker die Probleme aufdecken konnten, lag nur daran, dass weder Secure Boot noch verschlüsselte Images eingesetzt wurden. Embedded-Entwickler kennen Dinge wie MCUboot längst. Manager scheuen die Einführung oft wegen der Komplexität, aber sobald sie grünes Licht geben, wird jede Firmware wie ein Signal-Chat nur noch vom Hersteller lesbar sein. PSA-konforme Hardware muss sogar gegen Multi-Bit-Glitch-Angriffe resistent sein, dann haben Hacker praktisch keinen Zugang mehr

• Unter Verweis auf die geänderte Gerichtsaussage eines Tesla-Mitarbeiters wird das als „de facto Falschaussage“ bewertet

  • Was mich am meisten interessiert, ist, welche Konsequenzen den Mitarbeitern drohen, die solche Lügen tatsächlich erzählt haben. Ich frage mich, ob sie systembedingt eher geschützt werden, weil sie als Vertreter des Unternehmens gehandelt haben

• Nach diesem Artikel steht für mich fest, dass ich niemals einen Tesla kaufen werde. Lob an greenthehacker für den Hackversuch. Möge er noch lange glücklich an einem Starbucks Venti Hot Chocolate nippen

  • Ich frage mich, ob du schon vor heute überhaupt vorhattest, einen Tesla zu kaufen. Es gab ja schon zuvor mehrere tödliche Unfälle mit dem Autopilot-System; warum fühlt sich ausgerechnet dieser Fall für dich anders an? Für mich war der Auslöser damals der Fall in Florida, bei dem ein Tesla unter einen Sattelzug geriet und der Fahrer ums Leben kam
  • „Starbucks Venti Hot Chocolate“ auf lange Zeit zu wünschen, ist doch im Grunde fast schon ein Wunsch nach Diabetes, oder? Lockerer Einwurf dazu
  • Es gibt auch noch den scherzhaften Seitenhieb, ob Musks frühere Witze über die deutsche Luftwaffe denn ebenfalls keinen Einfluss auf die Kaufabsicht eines Tesla hatten

• Wer Elons Persönlichkeit richtig eingeschätzt hat, dürfte über all das, was gerade passiert, überhaupt nicht überrascht sein. Funktionen, Zeitpläne, sogar Videospiel-Rankings seien übertrieben oder erfunden gewesen … selbst die Übernahme von Twitter wird als Versuch gesehen, seine eigene Täuschung noch auszuweiten