Warum ich Abschied nehmen muss: Googles Führung hat ihren moralischen Kompass verloren
(mayrhofer.eu.org)- Der Sicherheitsverantwortliche von Android hat beschlossen zurückzutreten und schickte seinen Kolleginnen und Kollegen einen Abschiedsbrief, als Grund nennt er den Verlust der ethischen Orientierung in Googles Führung
- 2017 nahm er das Angebot als Director of Android Platform Security an; damals war Google ein Unternehmen mit einer am Gemeinwohl orientierten Kultur, geprägt von dem Ziel der Klimaneutralität, der Aufkündigung eines Pentagon-Vertrags und AI-Prinzipien
- Während seiner Zeit im Unternehmen wurden Erfolge beim Schutz der Nutzer erzielt, darunter standardmäßig aktivierte vollständige Geräteverschlüsselung, Ende-zu-Ende-verschlüsselte Backups und Insider Attack Resistance
- Unmittelbarer Auslöser für den Rücktritt war, dass Google zuletzt sein Ziel der Klimaneutralität aufgegeben und einen AI-Vertrag mit dem US Ministry of War abgeschlossen hat, entschieden von der obersten Führung ohne interne Diskussion
- Als Pazifist und europäischer Wissenschaftler könne er nicht an Arbeit für ein Militär, das Angriffskriege führt, mitwirken; die Kernbotschaft ist seine Sorge, dass dieser Vertrag zu Überwachung gegen ihn selbst und gegen EU-Bürger führen könnte
Hintergrund des Eintritts und das frühe Google
- 2017 konnte er das Angebot für die Position Director of Android Platform Security nicht ausschlagen; Trump war damals bereits Präsident, wurde aber noch als kontrollierbar angesehen, und vor allem war Google neun Jahre zuvor noch ein anderes Unternehmen
- Android war open source first und hatte gerade die Marke von 2 Milliarden Nutzern überschritten
- Seit 2009 hatte er Android-Sicherheit von außen erforscht, doch obwohl der Quellcode offen war, war direkter Kontakt mit dem internen Android-Team sehr schwer
- Es war eine Gelegenheit, das weltweit am weitesten verbreitete Linux-basierte Open-Source-Betriebssystem von innen mitzugestalten; er dankt Dave Kleidermacher und Nick Kralevich für ihr Vertrauen
- Als Wissenschaftler und Professor mit Lebenszeitstelle für Computersicherheit war dies im Silicon Valley die Position, die dem Geist der Wissenschaft und den ethischen Prinzipien für das Gemeinwohl am ehesten entsprach
- Als er eintrat, waren Googler willkommen und sogar ausdrücklich dazu angehalten, ihre Identität und ihre Werte in die Arbeit einzubringen; die Kultur war transparent und offen für vielfältige Debatten
Frühere gemeinwohlorientierte Werte bei Google
- Unternehmensweites Ziel war die Erreichung von vollständiger Klimaneutralität, und nachdem Mitarbeitende Widerspruch erhoben hatten, wurde ein Pentagon-Vertrag gekündigt (er unterzeichnete 2018 den offenen Brief)
- Die 2018 von Sundar Pichai veröffentlichten AI-Prinzipien legten ausdrücklich fest, welche Bereiche nicht verfolgt werden sollten
- Waffen und Technologien, die Menschen verletzen oder Verletzungen direkt fördern
- Technologien zur Informationsgewinnung und -nutzung für Überwachungszwecke, die gegen internationale Normen verstoßen
- Technologien, die internationalen Gesetzen und Menschenrechtsprinzipien widersprechen
- "Don't Be Evil" war nicht nur ein Slogan, sondern der Nordstern (north star) bei schwierigen Entscheidungen
- Das Motto des Android-Security-Teams lautete: "Ob das Gerät 1000 Dollar oder 100 Dollar kostet, ob der Nutzer prominent ist oder ein Flüchtling, wir machen es so sicher, dass nicht einmal wir selbst es brechen können."
- Die Interessen der Nutzer wurden an erste Stelle gesetzt, und selbst wenn das manchmal mit geschäftlichen Interessen anderer Google-Apps oder -Dienste kollidierte, hatten die Nutzer Vorrang
Sicherheitserfolge während der Zeit im Unternehmen
- Mit Android 10 wurde die Branche vorangebracht, indem selbst auf den günstigsten Geräten vollständige Geräteverschlüsselung standardmäßig aktiviert wurde
- Während sich die Diskussion auf Apple konzentrierte, wurde still und leise ein Ende-zu-Ende-verschlüsseltes Android-Backup eingeführt, das bis heute einen faktischen Standard in der Debatte Strafverfolgung vs. Privatsphäre der Nutzer setzt
- Insider Attack Resistance, ARM MTE und datenschutzorientierte digitale Identitätsnachweise waren Ergebnisse von Zusammenarbeit, um Nutzer auch vor böswilligen Teilen innerhalb von Google zu schützen
- Schon zu Beginn traf er Spitzenexpertinnen und -experten wie die als Android-Legende geltende Dianne Hackborn; alle waren freundlich zu Neuzugängen und teilten ihr Wissen
Das veränderte Google und die Entscheidung zum Rücktritt
- Googles Führung hat sein Ziel der Klimaneutralität stillschweigend aufgegeben, weil AI-Modelle viel Energie verbrauchen
- Noch schwerwiegender ist, dass die Führung einen AI-Vertrag mit dem US Ministry of War unterzeichnet hat
- Der Ausdruck "any lawful purpose" der aktuellen US-Regierung ist bereits wiederholt als Verstoß gegen internationales Recht belegt
- Diese Veränderungen wurden intern weder diskutiert noch geteilt, sondern einseitig von der obersten Führung entschieden; obwohl er früher in der Führungslinie war, erfuhr er davon nicht über interne Kanäle
- Da er die Handlungen des US Ministry of War unter dem Motto "Maximum lethality, not tepid legality" weder ausdrücklich noch stillschweigend, weder direkt noch indirekt unterstützen kann, sah er keine andere Wahl als den Rücktritt
Die zwei Seiten der Entscheidung
- Einerseits eine sehr schwere Entscheidung
- Er werde die Menschen, die weiterhin Gutes tun wollen, die Chancen auf positive Veränderung, die herausragenden Ingenieurinnen und Ingenieure sowie die reife Kultur von blameless post-mortem und dem Umgang mit Fehlern vermissen
- Andererseits eine unvermeidlich gewordene leichte Entscheidung
- Als Pazifist habe er schon vor langer Zeit entschieden, nicht für ein Militär zu arbeiten, das Angriffskriege führt, und unterscheide das von rein defensiven Handlungen
- Als europäischer Wissenschaftler sei ihm die aktuelle US-Regierung feindlich geworden, und er halte "any lawful purpose" für etwas, das auch Massenüberwachung von EU-Bürgern einschließt
- Dieser Vertrag bedeute aus seiner Sicht, dass Google-(AI-)Produkte direkt gegen ihn und sein Umfeld eingesetzt werden könnten
Pläne für die Zukunft
- Die vertragliche Kündigungsfrist beträgt 3 Monate ab dem letzten Tag des Monats, in dem die Kündigung eingereicht wurde; bis 2026-08-31 ist er in begrenztem Umfang über interne Kanäle erreichbar und wird laufende Projekte abschließen und übergeben
- Von der Arbeit an AI-Systemen, die unter den DoW-Vertrag fallen könnten, trennt er sich sofort (nach eigenem Wissen war er daran bisher nicht beteiligt)
- Danach ist er über viele externe Kanäle erreichbar und will weiter an Ende-zu-Ende-verschlüsselten Kommunikations- und Speicherprotokollen, datenschutzwahrender digitaler Identität, Sicherheit eingebetteter Systeme sowie OS- und Supply-Chain-Sicherheit arbeiten
- Der Schnittpunkt dieser Themen bleibt Sicherheit und Privatsphäre von Android (insbesondere AOSP)
- Er hofft inständig, dass Googles Führung ihren moralischen Kompass wiederfindet
Addendum (2026-06-12)
- Der Abschiedsbrief wurde weiter verbreitet als erwartet
- Er bekräftigt weiterhin, dass Android derzeit das beste mobile Betriebssystem ist, mit einem ausgewogenen Verhältnis aus Offenheit, Flexibilität und Sicherheit
- Einige Einschränkungen und Unannehmlichkeiten bleiben, aber ihm ist keine bessere Alternative bekannt
- Das Android-Security- und Privacy-Team arbeitet weiterhin engagiert und konsequent daran, den Schutz der Nutzer zu verbessern
- Die Entscheidung, Google zu verlassen, ist keine Bewertung der Mitglieder dieser Teams, und er vertraut darauf, dass die verbleibenden Teams weiterhin die richtigen Entscheidungen treffen werden
1 Kommentare
Hacker-News-Kommentare
Das kümmert mich nicht besonders, aber zu behaupten, Google habe erst jetzt seinen moralischen Kompass verloren, ist eine Aussage, die sich nur jemand leisten kann, der nicht kündigt, sondern reich genug ist, um in Rente zu gehen
Google ist buchstäblich das größte und am systematischsten organisierte Tracking- und Profiling-Unternehmen der Welt, und mit dem Aufstieg der LLMs wächst das noch weiter
Dafür wegen der Chancen oder aus anderen Gründen all die Zeit die Augen verschlossen zu haben und erst jetzt zu sagen, Google habe seinen moralischen Kompass verloren, wirkt heuchlerisch
Das Unternehmen hat sich ständig verändert und gleichzeitig auch wieder nicht groß verändert; es hat immer gern wohlklingende Dinge gesagt und anderen erklärt, wie sie sich verhalten sollten, war aber fast nie bereit, für das Richtige tatsächlich Umsatz aufzugeben
Die übliche Rechtfertigung lautete, wenn Google es nicht tue, werde es eben jemand anderes tun, und dieser jemand sei natürlich nicht so moralisch wie die Googler
Wer etwas älter ist, erinnert sich vielleicht noch an die Zeit, als Google öffentlich gegen datenschutzverletzende und störende Display-Werbung auftrat. Das war ein Kernbestandteil von Googles Image, bevor man merkte, dass sich mit der Übernahme von DoubleClick viel Geld verdienen ließ
Googles moralischer Kompass war schon lange verschwunden, bevor diese Person dort anfing. Das heißt nicht, dass Google besonders böse wäre, sondern nur, dass es sich in die Reihe ganz gewöhnlicher börsennotierter Unternehmen eingereiht hat
Ich verstehe nicht, warum hier so getan wird, als stünden Werbe-Tracking und -Targeting und die Entwicklung autonomer tödlicher Waffen moralisch auf derselben Ebene
Ich weiß nicht, ob die sarkastischen Kommentare wirklich gerechtfertigt sind. Jeder weiß, dass die Google-Leute keine selbstlosen Wohltäter waren, aber zu sagen, dass man das akzeptieren konnte und einen bestimmten KI-Einsatz im Krieg nicht akzeptieren kann, wirkt nicht inkonsequent
Anders gesagt: Meine Aktien sind endlich vollständig gevestet, und weil 2017 ja wirklich niemand wissen konnte, dass Google keine Bastion ethischer Hoffnung ist, bin ich jetzt unabhängig reich genug, um zu signalisieren, dass ich rein aus moralischen Gründen kündige
Allerdings war die Formulierung „Google hat seinen moralischen Kompass verloren“ in Wahrheit noch nie wirklich zutreffend
Inzwischen ist ziemlich klar, dass Unternehmen nur auf ökonomische Strömungen reagieren, und diese Strömungen werden davon bestimmt, was die Menschen tatsächlich wollen. Im Allgemeinen würde ich sagen, die Menschen haben ihren moralischen Kompass verloren. Nicht gemessen an dem, was sie sagen, sondern daran, wie sie politisch abstimmen und mit ihrem Geldbeutel abstimmen
Ich persönlich verstehe nicht so recht, warum Menschen Zusammenarbeit mit dem Militär grundsätzlich ablehnen. Dass man Pazifist ist, kann ich nachvollziehen, aber ganz einleuchten tut es mir trotzdem nicht
Die Geschichte ist voller Tragödien, die aus Schwäche entstanden sind. Deutschland und die Sowjetunion konnten beide Polen überfallen, und das Massaker von Katyn ist bis heute ein nationales Trauma. Wer würde einen Invasor wie Dschingis Khan nicht zurückschlagen wollen? Hast du schon vom Massaker von Yangzhou oder den drei Massakern von Jiading gehört? Warum sollte man zulassen, dass Zivilisation der Barbarei unterliegt?
Versteht mich nicht falsch. Ich hasse Krieg. Über endlose Kriege wie den Irakkrieg bin ich grenzenlos wütend, und ich halte G.W. Bush und sein Kabinett für wirklich bösartig. Natürlich ist die Gefahr real. Selbst ein zur Verteidigung geschaffenes Militär kann ohne Kontrolle leicht zum Werkzeug von Tyrannei oder Imperialismus werden. Deshalb braucht es strikte zivile Kontrolle sowie Checks and Balances gegenüber der Macht. Aber heißt das deshalb, dass Militär grundsätzlich immer böse ist?
Sie müssen sich der zentralen Tatsache ihrer Existenz nicht wirklich stellen: dass sie den Wohlstand der Welt in unverhältnismäßigem Maß genießen, und dass das ohne überwältigende militärische Macht nicht möglich gewesen wäre. Menschen in der Ukraine würden wohl kaum so sprechen
Je älter ich werde, desto mehr kann ich mich in Colonel Jessup hineinversetzen: https://www.youtube.com/watch?v=9FnO3igOkOk
Dieses Land wird gegenüber seinen Verbündeten zunehmend feindselig und tut auf internationaler Bühne seltsame Dinge, die sich nur schwer rechtfertigen lassen
Alle außenpolitischen Entscheidungen sind darauf ausgerichtet, militärische Konflikte und einen Atomkrieg zu vermeiden. Deshalb gibt es eine übermäßig starke Tendenz, Konflikte diplomatisch zu lösen
Die meisten Menschen verstehen das jedoch nicht und halten den heutigen, von Atomwaffen abgesicherten Frieden für echt und dauerhaft. Sie blenden die im Untergrund verborgenen Atomwaffen aus und befürworten Maßnahmen wie Pazifismus, die die Realität nicht widerspiegeln
Die gegenwärtige Lage lässt sich mit diesem Satz zusammenfassen: Harte Zeiten schaffen starke Menschen, starke Menschen schaffen gute Zeiten, gute Zeiten schaffen schwache Menschen, und schwache Menschen schaffen harte Zeiten
Ich bin selbst Autor, und als ich letzte Woche mein Buch wieder gelesen habe, das ich einige Jahre vor dem Aufkommen von LLMs geschrieben hatte, bin ich zusammengezuckt, als ich sah, dass ich selbst diese Struktur „X ist nicht Y, sondern Z“ verwendet hatte.
Jetzt habe ich ein moralisches Dilemma. Es fühlt sich zu sehr nach einem schmerzhaften LLM-Roboter-Tonfall an, sodass ich den Satz in der nächsten Auflage ändern möchte. Gleichzeitig habe ich ihn aber selbst geschrieben und nicht ein LLM, also möchte ich ihn auch stehen lassen. Was für moralische Dilemmata Menschen doch austragen müssen!
Ich kippe meine Gedanken auch manchmal in ein LLM, lasse sie ordnen und feile dann iterativ an dem, was ich eigentlich sagen will.
Vor über 20 Jahren habe ich 『Zen and the Art of Motorcycle Maintenance』 gelesen, und mir ist der Gedanke geblieben, dass Schreiben schwierig wird, wenn man gleichzeitig entscheiden will, was man sagen und wie man es sagen will. Gedanken in ein LLM zu kippen, ist eine Möglichkeit, Schwung zu bekommen.
Allerdings macht mich dieses vom LLM überstrapazierte Muster paralleler Verneinungen wirklich wahnsinnig, und ich muss es immer manuell entfernen. Ich frage mich allerdings auch, ob diese Denkweise beim Programmieren Vorteile hat. Zum Beispiel kann defensive Negation beim Programmieren die Codequalität erhöhen, während sie beim Schreiben bei übermäßigem Einsatz gute Prosa verwässert.
Aber was macht man, wenn man irgendwann nicht einmal mehr mit recht hoher Wahrscheinlichkeit sagen kann, ob etwas mit Hilfe eines LLM entstanden ist?
Ist es dann egal, weil man es ohnehin nicht unterscheiden kann, oder liest man lieber gar nichts mehr, aus Angst, am Ende doch ein LLM-unterstütztes Werk zu konsumieren?
Für mich ist es okay, solange es nicht voller typischer Signale steckt. Dann ist es einfach schlechter Text, und ich will ihn nicht lesen.
„Schau dir an, was ich mit Claude gebaut habe, LLMs werden die Welt verändern!“
„Nicht so toll, der Autor hat beim Blogpostschreiben wohl ein LLM benutzt.“
Erstaunlich, dass der Autor acht Jahre gebraucht hat, um sich ethisch zu positionieren. In dieser Zeit ist die Google-Aktie um 600 % gestiegen.
Als jemand, der bei Google gearbeitet hat, ist die Behauptung, Google habe erst in den 2010er Jahren seinen moralischen Kompass verloren, völlig lächerlich.
Erst recht ist die Andeutung absurd, Google habe 2017, als diese Person eingetreten ist, überhaupt noch einen moralischen Kompass gehabt.
Das ist ein kompletter Witz, da wäre etwas Selbstreflexion angebracht.
Ich verstehe die negative Stimmung hier nicht.
Er ist einer der führenden Experten im Sicherheitsbereich, und Android-Plattformsicherheit zu leiten, war eine Chance, für sehr viele Menschen enorm positive Wirkung zu entfalten. Und genau das hat er zehn Jahre lang getan.
Menschen wägen verschiedene, miteinander konkurrierende Faktoren ab. Anfangs mag es hohe Ambitionen gegeben haben, interessante, forschungsorientierte Ideen in Android einzubringen, und vielleicht hat er davon inzwischen vieles erreicht. Deshalb berücksichtigt er jetzt womöglich andere Faktoren.
Zu unterstellen, Menschen würden nur des Geldes wegen handeln, oder zu vermuten, dass sein Privatvermögen ab einem bestimmten Punkt seine Entscheidung bestimmt habe, ist unerquicklich. Besonders, wenn man die Person gar nicht kennt.
Fast alle Wissenschaftler, die ich kenne, werden von persönlicher Neugier, intellektuellem Ehrgeiz, dem Bedürfnis, Probleme zu finden und zu lösen, und einem starken Wunsch getrieben, positiv beizutragen. Ich bin selbst Wissenschaftler, kenne Rene und glaube, dass das auch auf ihn zutrifft.
Wenn er mit seiner Arbeit Geld verdient hat, ist das doch gut.
Ich glaube nicht mehr, dass ich damit in der Minderheit bin. Die allgemeine Haltung in diesem Thread mag „negativ“ sein, aber sie enthält eine viel realistischere und unverblümtere Wahrheit.
Wie immer muss man hinzufügen: Diese Person sollte alles Geld zurückgeben, das Google ihr gezahlt hat. Natürlich ist das in der Geschichte solcher frommen Texte noch kein einziges Mal passiert, und deshalb lebt das Meme weiter.
Offenbar nennt hier jeder nach eigenem moralischem Kompass irgendein beliebiges Datum, an dem Google seinen moralischen Kompass verloren haben soll.
Wenn wir schon in diese Richtung gehen, dann wurde Google meiner Meinung nach in dem Moment böse, als Brin und Page eine Arbeit veröffentlichten, in der sie schrieben, dass PageRank in Kombination mit Werbung niemals im Interesse der Verbraucher sein könne, und anschließend eine auf PageRank basierende Werbefirma gründeten.
Das gesamte Geschäft von Google beruht darauf, dass das Topmanagement seinen moralischen Kompass weggeworfen hat.
Sergey Brin und Larry Page schrieben, dass „werbefinanzierte Suchmaschinen inhärent zugunsten der Werbekunden verzerrt sein und sich von den Bedürfnissen der Verbraucher entfernen werden“. Und dann sind sie am Ende doch ins Werbegeschäft eingestiegen.