Waymo stellt Dienst ein, nachdem Fahrzeuge während des Blackouts in San Francisco Verkehrsstaus verursachten

• Während eines großflächigen Stromausfalls in ganz San Francisco blieben die autonomen Fahrzeuge von Waymo stehen und verursachten Verkehrsbehinderungen
• Waymo kündigte eine vollständige Aussetzung des Fahrdienstes an und nannte als Gründe die Gewährleistung der Fahrgastsicherheit sowie den ungehinderten Zugang für Einsatzkräfte
• Durch den Stromausfall verlor etwa ein Drittel der Stadt die Stromversorgung, und Ampelanlagen fielen aus, sodass Fahrzeuge an Kreuzungen zum Stillstand kamen
• Bürger veröffentlichten in sozialen Netzwerken zahlreiche Videos von auf den Straßen stehen gebliebenen Waymo-Fahrzeugen; in einigen Abschnitten standen mehrere Fahrzeuge hintereinander im Stau
• Der Vorfall gilt als Beispiel, das die Grenzen autonomer Systeme bei Störungen der städtischen Infrastruktur offenlegt

---

Aussetzung des Waymo-Dienstes und die Blackout-Lage

• Waymo entschied am Samstag, dem 20. Dezember, seinen autonomen Fahrdienst wegen des stadtweiten Stromausfalls in San Francisco einzustellen
  • Unternehmenssprecherin Suzanne Philion erklärte, man habe den Dienst wegen des großflächigen Stromausfalls vorübergehend gestoppt, und betonte die Sicherheit der Fahrgäste sowie die Gewährleistung einer reibungslosen Bewegung von Einsatzkräften
• Der Stromausfall wurde durch geplante Lastabschaltungen von Pacific Gas & Electric (PG&E) verursacht; betroffen waren rund 125.000 Haushalte und Unternehmen
  • PG&E teilte gegen 20:30 Uhr mit, dass „später heute Nacht mit der Wiederherstellung der Stromversorgung begonnen wird“

Verkehrsstaus und Reaktionen der Bevölkerung

• An Kreuzungen mit ausgefallenen Ampeln blieben Waymo-Fahrzeuge stehen, was zu Verkehrsstaus führte
  • Bürger veröffentlichten auf Twitter (X) zahlreiche Videos und Fotos der stehenden Fahrzeuge
  • In einigen Videos waren 2 bis 6 Waymo-Fahrzeuge zu sehen, die in einer Reihe standen, oder Fahrzeuge, die mit blinkenden roten Warnlichtern im Regen angehalten waren
• Es folgten kritische Reaktionen wie „Wegen des Stromausfalls blockieren Waymos die Straßen“ und „Das wirkt wie eine untrainierte Situation“
  • Ein Nutzer schrieb, dass Waymo-Fahrzeuge im Stadtteil North Beach einen massiven Stau verursacht hätten

Verbreitung im Netz und öffentliche Meinung

• Am Nachmittag des Stromausfalls wurden mehr als Hunderte Beiträge mit Videos stehen gebliebener Waymo-Fahrzeuge veröffentlicht, die sich schnell in sozialen Netzwerken verbreiteten
  • In einem Beitrag hieß es, Waymo-Fahrzeuge in ganz San Francisco seien stehen geblieben und die gesamte Stadt befinde sich in einem Verkehrschaos
• Einige Nutzer vermuteten, dass ein Fernsteuerungssystem wegen instabiler Kommunikation möglicherweise nicht funktioniert habe, von Waymo gab es dazu jedoch keine Stellungnahme

Ankündigung der Wiederaufnahme des Dienstes

• Am folgenden Nachmittag gab Waymo bekannt, dass die Fahrzeuge wieder auf die Straßen zurückgekehrt seien
  • Weitere Erklärungen zum konkreten Wiederherstellungsprozess oder zu technischen Ursachen wurden nicht gegeben

Bedeutung des Vorfalls

• Der Stromausfall zeigt, wie autonome Fahrzeuge auf Störungen der städtischen Infrastruktur reagieren
• Er machte die Verwundbarkeit von Systemen deutlich, die stark von Signalsystemen und Kommunikationsnetzen abhängen, und hob die Notwendigkeit von Notfallreaktionssystemen hervor

[GN⁺]

Hacker-News-Kommentare

• Beim Fahren im Osten von SF kam jemand an einer Kreuzung mit ausgefallenen Ampeln vorbei.
  Die Waymo-Fahrzeuge fuhren sehr langsam durch die Kreuzungen. Offenbar wechselten sie in einen extrem vorsichtigen Modus, weil ausgefallene Ampeln nach der Regel als „4-Wege-Stopp“ behandelt werden.
  Menschliche Fahrer rollten langsam vor und fanden dabei natürlich eine Reihenfolge, aber Waymo brauchte etwa viermal so lange, um eine Kreuzung zu passieren. Ein Fahrzeug ließ den Querverkehr sogar achtmal vor und wurde immer weiter zurückgedrängt.
  Außerdem fuhren die Waymos alle auf derselben Route, und es gab eine Schlange von etwa zehn linksabbiegenden Fahrzeugen. Als ein Fahrer einen langsamen Waymo überholte, blieb Waymo stehen und verpasste noch drei weitere Gelegenheiten.
  Normalerweise sei Waymo inzwischen viel besser als früher, aber diesmal scheine eine Software-Anpassung nötig zu sein. Wahrscheinlich gebe es Verbesserungsmöglichkeiten für Ampelausfälle und selbst verursachte Staus.
  Einen vollständig stehengebliebenen Waymo habe die Person allerdings nicht gesehen. Vermutlich sei das System in einen extremen Failsafe-Modus gegangen. Der interne Analysebericht wäre interessant.

  • Manche beschweren sich, Waymo sei zu langsam, andere skandalisieren jeden noch so kleinen Regelverstoß.
    Menschen halten sich auch nicht perfekt an alle Regeln, aber bei Waymo führt schon ein einziger Verstoß zu großem Aufruhr. Deshalb kann das System gar nicht anders, als wie ein Fahranfänger übervorsichtig zu sein.
  • Es war zwar ein Fehlschlag, aber es gab weder Unfälle noch Verletzte. Aus Sicht von Waymo sei das kurzfristig ein Reputationsschaden, langfristig aber eine gute Lernerfahrung.
  • Auf die Bemerkung „Ich bin neugierig auf die interne Analyse“ spottete jemand, es gebe nichts zu analysieren, alle Fahrzeuge seien einfach in den Fahranfänger-Modus zurückgefallen.
    Die Gesamtleistung des Systems sei gesunken, aber Waymo behandle das als „Problem der anderen“.
  • In Kanada gelten ausgefallene Ampeln als 4-Wege-Stopp. Jemand fragte sich, ob in SF dieselbe Regel gilt.
  • Solche Probleme zeigten letztlich die Grenzen einer für urbane Umgebungen optimierten Technologie.
    Es wurde bezweifelt, wie Waymo bei Schnee, Eis, eingeschränkter Sicht oder verschwundenen Fahrbahnmarkierungen reagieren würde.
    In einem Schneesturm in Montreal reagieren menschliche Fahrer oft intuitiv, aber wenn die Sensoren verschmutzen, könnte Waymo funktionsunfähig werden.
    Bei dieser Tauglichkeit für extreme Kältebedingungen sei man gefühlt noch weit entfernt.

• Unter Verweis auf einen Mastodon-Post von John Ripley wurde gewarnt:
  „Wenn das nächste große Erdbeben kommt, werden die Notfalldienste in SF wegen Waymo blockiert.“
  Es sei erstaunlich, dass Waymo nicht besser für solche Situationen ausgelegt sei. In einer Krise in einen „Aufgabemodus“ zu fallen, wirke wie ein ernstes Problem.

  • Solche Sorgen seien auch auf HN schon mehrfach geäußert worden, würden aber oft als Anti-Startup-Stimmung abgetan und ignoriert.
    Beim autonomen Fahren gebe es viel mehr Möglichkeiten des Scheiterns, und große Unternehmen würden womöglich den Profit über den gesellschaftlichen Nutzen stellen.
  • In echten Notfällen müssten Feuerwehrfahrzeuge oder schwere Einsatzfahrzeuge Waymos womöglich zur Seite schieben.
    Bei früheren Bränden habe man auch schon verlassene Fahrzeuge weggedrückt, um die Straße freizubekommen.
  • Auf „Das ist erstaunlich“ entgegnete jemand, genau so funktionierten Tech-Unternehmen seit 20 Jahren.
    Die Kultur des „move fast and break things“ sei in sicherheitskritische Branchen eingedrungen und drücke per Lobbyarbeit auf Deregulierung.
  • Jemand anderes meinte, bei einem großen Erdbeben werde ohnehin die ganze Stadt lahmgelegt; das wäre also kein exklusives Waymo-Problem.
  • Wieder ein anderer kommentierte halb im Scherz, man müsse sie eben einfach mit dem Feuerwehrauto wegschieben.

• Waymo werde sich wohl bald verbessern.
  Bei diesem Stromausfall gab es keine Todesopfer, und gerade die Vorsicht habe offenbar Schäden verhindert.
  Wenn man an Todesfälle bei den Helene-Stromausfällen denke, sei Waymos Vorsicht eher positiv zu bewerten.

  • Darauf kam die sarkastische Reaktion: „Also ist alles okay, solange niemand direkt getötet wurde?“

• Auch menschliche Fahrer sind verwirrt, wenn Ampeln ausfallen.
  Die meisten fahren nach eigenem Ermessen durch Kreuzungen, ohne klare Ordnung. Für Waymo ist es schwer, so eine Situation perfekt zu bewältigen.

  • Allerdings sagte jemand, bei diesem Stromausfall hätten sich die Menschen eher recht geordnet verhalten.
    Dagegen seien mehrere Waymos mitten auf der Straße stehen geblieben und hätten den Verkehr blockiert.
  • Ein anderer meinte, am Anfang eines Stromausfalls herrsche Chaos, aber nach ein paar Tagen passten sich die Menschen an.
    Am Ende entstehe eine erlernte Ordnung, aber der Stromausfall in SF habe nicht lange genug gedauert.
    Dass Waymo vorsichtig gewesen sei, könne man verstehen, aber mitten auf der Straße anzuhalten, sei trotzdem ein Problem.
  • Auch in Manhattan habe es bei ausgefallenen Ampeln beinahe Unfälle gegeben, und jemand berichtete, selbst den Notruf 911 gewählt und danach den Verkehr geregelt zu haben.
  • Bei vielen Fußgängern funktioniere die Regel „Stopp-Schild-Kreuzung“ nicht gut.
    Aus Sicht der Fußgänger entstehe quasi immer Vorrang, was das Chaos noch vergrößere.
  • In Deutschland seien für den Fall ausgefallener Ampeln immer alternative Verkehrszeichen vorhanden.

• Es wurde gescherzt, man solle autonome Fahrzeuge einfach auf Schienen setzen.

  • „Dann könnte man auch nur einen Motor einbauen und den Rest hinten dran hängen, das wäre effizienter.“
  • „Wenn man sie über Leitungen mit Strom versorgt, bräuchte man auch keine Batterien mehr.“
  • „In Sim City gab es keinen Stau, wenn man statt Straßen nur Gleise gebaut hat.“
  • „Dann legen wir eben auf allen Straßen Gleise.“
  • Darauf entgegnete jemand, solche spöttischen Kommentare seien inzwischen ermüdend,
    denn Busse und Züge brächten einen nicht direkt ans Ziel und böten keinen persönlichen Raum.

• Ein Stromausfall sei ein offensichtliches Szenario, auf das Waymo selbstverständlich hätte vorbereitet sein müssen.
  Wenn schon so eine grundlegende Lage übersehen worden sei, gebe es vermutlich noch viele andere Schwachstellen.

  • Jemand hielt dagegen, es gebe keinen Beweis, dass der Stromausfall die Ursache war; es könnte auch ein komplexer Systemfehler gewesen sein.
  • Andere reagierten mit: „Erstaunlich, wo Stromausfälle in Kalifornien doch jeden Sommer vorkommen.“
  • Es kam auch Kritik auf, dass ein System, das von externer Strominfrastruktur abhänge, kein echtes autonomes Fahren sei.
  • Jemand teilte außerdem ein Video, in dem Waymo schon in einer Situation stehen bleibt, in der das Fahrzeug nur leicht über den Bordstein fahren müsste.
    Videolink

• Dass Waymo bei ausgefallenen Ampeln oder unterbrochener Kommunikation mitten auf der Straße stehen blieb, wurde als schwerwiegendes Problem gesehen.
  Das Fahrzeug sollte an einen sicheren Ort fahren und dann anhalten; einfach dort stehen zu bleiben, sei unsinnig.

  • Wie beim Fall Cruise könne ein falsch ausgelegter Failsafe selbst Gefahr erzeugen.
    Möglicherweise habe Waymo aus Angst vor genau diesem Fehler übermäßig oft angehalten.
  • Tatsächlich könnte auch ein anormaler Verkehrsfluss aus der Kombination von Ampelausfall und menschlichen Fahrmustern die Ursache gewesen sein.
    Das System habe dann womöglich entschieden, dass seine Sicherheitsgrenzen überschritten seien, und deshalb angehalten.
    Für solche Fälle brauche es eine starke regulatorische Reaktion des Staates.
  • Waymo bittet zwar Remote-Operatoren um Hilfe, aber wenn die Kommunikation ausfällt, ist keine Fernsteuerung mehr möglich.
    Dann kann es der Failsafe sein, dass das Fahrzeug selbstständig anhält.
    Das erinnere an Teleoperations-Videos von TeslaBot, wo bei einem Verbindungsabbruch ebenfalls einfach gestoppt wird.

• Zunächst dachten einige, Waymo sei wegen eines Internetproblems stehen geblieben, aber tatsächlich wirkte eher das Chaos durch ausgefallene Ampeln wie die Ursache.

  • Es wurde gefragt: „Woran erkennt Waymo eigentlich, dass eine Ampel ausgefallen ist?“
    Menschen urteilen aus dem Kontext, aber Waymo könnte schon dadurch verwirrt werden, dass einfach kein Lichtsignal sichtbar ist.
    Sensorfehler, verdeckte Sicht, begrenzte Blickwinkel und viele andere Ursachen seien denkbar, was die Beurteilung schwierig mache.
  • Jemand sagte, genau das habe er erwartet; trotzdem habe Waymo mitten auf der Straße gestanden, obwohl gar kein Hindernis da war.
  • Ein anderer scherzte, die Aussage, ein Computer sei „verwirrt“, habe inzwischen fast eine wörtliche Bedeutung bekommen.
  • Es wurde auch positiv gesehen: Solche Situationen hätte man zwar trainieren sollen, aber nach diesem Vorfall werde man es nun wohl tun.
  • Andere vermuteten, dass Waymo solche Szenarien womöglich überhaupt nicht trainiert hatte.

• Verwunderung darüber, dass Waymo so eine Situation offenbar gar nicht erwartet hatte.

  1. Niemand hat daran gedacht, oder
  2. man hat daran gedacht, aber es niedrig priorisiert, oder
  3. man war vorbereitet, hat aber trotzdem versagt.
  • Wahrscheinlich sei es Punkt 2, meinte jemand, denn Black-Swan-Reaktionen, die in keinem KPI auftauchen, helfen eben nicht bei Beförderungen.
  • Es wurde angemerkt, dass Fahren spontane Reaktionen auf Ausnahmesituationen erfordert und aktuelle AI dazu nicht in der Lage sei.
  • Andere meinten, das Problem sei nicht autonomes Fahren an sich, sondern das Fehlen von Remote Operations.

• Jemand, der im von dem Stromausfall betroffenen Teil von SF lebt, sagte, er habe tatsächlich mehrere mitten auf der Straße stehen gebliebene Waymos gesehen.
  Nachdem er aber beobachtet habe, wie menschliche Fahrer Kreuzungen mit ausgefallenen Ampeln ignorierten und einfach durchrasten, sei er über Waymos Failsafe fast erleichtert gewesen.
  Bei einem seltenen, aber vorhersehbaren „White-Swan-Ereignis“ sicher anzuhalten, sei seiner Meinung nach die richtige Entscheidung gewesen.

  • Darauf antwortete jemand scherzhaft: „Dann kommen eben ein paar Tausend Leute zu spät.“
  • Ein anderer erwiderte, so selten sei das gar nicht, und kritisierte die wiederkehrenden Stromausfälle bei PG&E.
    Dasselbe Umspannwerk sei in der Vergangenheit schon mehrfach abgebrannt.