Zerstört Meta seine Engineering-Organisation?

 (newsletter.pragmaticengineer.com)
1 Punkte von GN⁺ 3 시간 전 | 1 Kommentare | Auf WhatsApp teilen
  • Meta galt lange durch schnelle Ausführung und Autonomie der Engineers als stark, doch rund um April 2026 geriet das interne Vertrauen durch eine KI-zentrierte Neuausrichtung stark ins Wanken
  • Um im KI-Wettlauf aufzuholen, übernahm Meta 49 % an Scale AI für rund 14,8 Milliarden US-Dollar ($14.8b) und übertrug Alexandr Wang die KI-Strategie, wodurch eine auf Datensammlung und Labeling ausgerichtete Arbeitsweise in die Engineering-Organisation gelangte
  • Schätzungsweise 30–50 % der Engineers in Kernteams wurden zu ADO versetzt, und etwa 4.000 bis 5.000 Software-Engineers sollen für Data-Labeling- und RLHF-Aufgaben eingesetzt worden sein
  • Mit Tracking von Tastatureingaben und Mausklicks, Bewertung der KI-Token-Nutzung und der Ankündigung eines Stellenabbaus um 10 % wuchs der Druck, messbare KI-Nutzung statt Produktqualität zu optimieren
  • Nach Instagram-Kontoübernahmen sowie Ausfällen bei Facebook und Instagram lautet die zentrale Aussage der Kritik, dass Metas Engineering-Organisation nicht mehr wie ein profit center, sondern eher wie ein Kostenzentrum behandelt wird

Meta-Kultur mit Fokus auf schnelle Ausführung und Autonomie

  • Metas Engineering-Kultur hat sich grob in zwei Phasen verändert
    • In den 2010er-Jahren: „move fast and break things“
    • Anfang der 2020er-Jahre: „move fast with stable infra“
  • Als Facebook 2012 eine Milliarde Nutzer erreichte, verteilte das Unternehmen ein internes Kulturheft von etwa 70 Seiten auf den Schreibtischen der Mitarbeitenden
    • Kernaussagen waren Geschwindigkeit, Furchtlosigkeit, Ownership und Denken außerhalb bestehender Muster
    • Auf dem Campus hingen Slogans wie „Move Fast and Break Things“, „Done is Better Than Perfect“ und „Fail Harder“
  • Meta im Jahr 2022 war weiterhin eine Organisation mit starker Engineer-Prägung
    • Der individuelle impact war eine zentrale Bewertungsachse
    • Im Vergleich zu anderer Big Tech gab es relativ wenig Prozesse und Standardisierung
    • Auch Tests, Dokumentation und Code-Kommentare galten als weniger umfangreich als bei anderer Big Tech
    • Neue Engineers durchliefen ein sechswöchiges Bootcamp, um mit der Meta-Kultur vertraut zu werden und ihr Team auszuwählen
  • Facebook und Instagram verfügten über eine ausreichend ausgereifte Infrastruktur, um schnelles Handeln zu stützen
    • Facebook wurde als Produkt mit einem in der Branche ausgefeilten automatischen Rollout-System beschrieben
    • Instagram wurde als Beispiel für validierte Infrastruktur genannt, die in der ersten Woche von Threads 100 Millionen Nutzer verarbeiten konnte
  • Interne Engineers hatten damals das Gefühl, ihre Arbeit gehöre zu einem profit center, das die Unternehmensgewinne erwirtschaftet

Investitionen, um die nächste KI-Plattformchance nicht zu verpassen

  • Meta wird im Unterschied zu Apple, Microsoft, Amazon und Google als Big-Tech-Unternehmen mit schwächerer eigener Hardware-Plattform oder eigenem Betriebssystem beschrieben
    • Apple verfügt über iPhone, iPad und Mac
    • Google verfügt über Android, ChromeOS und Pixel
    • Microsoft verfügt über Windows
    • Amazon verfügt über Kindle
  • Mark Zuckerberg wird so interpretiert, dass er nach dem Scheitern eines eigenen mobilen OS oder Smartphones in den 2010er-Jahren die nächste Plattformchance nicht mehr verpassen wollte
  • Investitionen in VR und AR waren Teil dieser Richtung
    • Es gab große Investitionen in Oculus und Meta Glasses
    • 2021 änderte Facebook seinen Namen in Meta
    • Seit der Pandemie habe das öffentliche Interesse an VR jedoch stark nachgelassen
  • Als KI 2022 zum großen Trend wurde, brachte Meta mit FAIR und der GenAI-Produktorganisation die Llama-Modellfamilie heraus
    • Llama 1: veröffentlicht im Februar 2023, drei Monate nach ChatGPT, entwickelt von FAIR
    • Llama 2: veröffentlicht im Juni 2023, entwickelt von der GenAI-Produktorganisation
    • Llama 3: veröffentlicht im April 2024, beschrieben als Metas wettbewerbsfähigstes LLM
    • Llama 4: veröffentlicht im April 2025, bewertet als „zutiefst enttäuschendes“ Modell
  • Im Juni 2025 startete Meta seine KI-Bemühungen neu, indem es 49 % an Scale AI für 14,8 Milliarden US-Dollar übernahm
    • Scale-AI-CEO Alexandr Wang übernahm Metas KI-Strategie
    • Ein geplanter Kauf von Manus AI für 2 Milliarden US-Dollar wurde von China blockiert; ob er abgeschlossen wurde, blieb unklar

Datensammlung im Stil von Scale AI und mehr RLHF

  • Die zentrale Fähigkeit, die Scale AI zu Meta brachte, wird in Trainingsdaten und modellverbesserndem menschlichem Feedback zusammengefasst
    • Training data and labeling: Bereitstellung hochwertiger gelabelter Datensätze für Code, Text, Bilder und Videos
    • RLHF and fine-tuning: eine Human-in-the-loop-Daten-Engine für menschliches Feedback an Foundation Models
  • Alexandr Wang wird als Person mit weitreichenden Befugnissen beschrieben, um Trainingsdatenerstellung, Data Labeling und RLHF voranzutreiben
  • Ende April informierte Meta seine Engineers über ein System zur Erfassung von Tastatureingaben und Mausklicks
    • Ziel war die Erzeugung von Trainingsdaten für Metas neue KI
    • Eine Opt-out-Möglichkeit soll es nicht gegeben haben
    • Es wurden Datenschutzbedenken geäußert, etwa wie weit die Erfassung bei privatem Online-Banking, privater E-Mail oder dem Annehmen privater Anrufe reicht
  • Laut Reuters fuhr Meta nach internem Widerstand Teile der Datenerfassungspläne zurück
    • Es wurde eine Steuerung ergänzt, mit der Mitarbeitende die Datenerfassung bis zu 30 Minuten pausieren können
    • Auch Ausnahmeanträge wurden möglich
  • Nach Gesprächen mit aktuellen Meta-Engineers wurde das Logging-System wegen Datenschutzregeln nicht im Vereinigten Königreich ausgerollt

Produkt-Engineers, die zu ADO verdrängt wurden

  • Seit Ende April erhielten Produkt-Engineering-Teams die Anweisung, 30 bis 50 % ihrer Engineers in die Organisation ADO (Agent Data Optimisation) zu entsenden
  • Dass diese Umverteilung als „erzwungen“ wahrgenommen wurde, lag daran, dass sie frontal mit Metas bisheriger Kultur kollidierte
    • Früher wurden Engineers nicht für ein bestimmtes Team, sondern für das Unternehmen eingestellt
    • Neue Mitarbeitende wählten ihr Team nach einem sechswöchigen Bootcamp
    • Team-Matching lief über Gespräche mit mehreren Teams und kleine Aufgaben, um die passende Rolle zu finden
    • Interne Wechsel waren leicht möglich und oft von Engineers selbst initiiert
  • Die freie Teamwahl über das Bootcamp begann um 2024 herum zu erodieren, doch Meta-Engineers mit mehr als zwei Jahren Betriebszugehörigkeit hatten ihre Arbeit bisher meist selbst gewählt
  • Besonders hart traf es Infrastruktur- und Security-Teams
    • In mehreren Infrastrukturorganisationen wechselten 30 bis 50 % zu ADO
    • In manchen Fällen gingen gerade die stärksten Engineers verloren
  • Die ADO-Organisation wird mit etwa 6.500 Personen beschrieben
    • Davon seien etwa 4.000 bis 5.000 Software-Engineers
    • Bei insgesamt rund 25.000 Engineers bei Meta könnte damit einer von fünf bis sechs Engineers ausschließlich Data Labeling betreiben
  • Engineers, die zu ADO versetzt wurden, sollen sowohl mit der Arbeit selbst als auch mit Top-down-Entscheidungen unzufrieden sein
    • Als „silver lining“ wurde genannt, dass sie nicht von Entlassungen betroffen waren und ihr Gehalt erhalten blieb

Stellenabbau-Ankündigung und Druck durch Token-Nutzung

  • Am 20. April berichtete Reuters, Meta plane einen Monat später einen Stellenabbau von 10 %, was Meta bestätigte
    • Mitarbeitende mussten also vier Wochen lang mit dem Wissen warten, bald ihren Job verlieren zu können
  • Metas Leistungsbewertung PSC (Performance Summary Cycle) wird als deutlich strenger beschrieben als bei Google oder Apple
    • Manager konkurrieren demnach darum, die Vergütungspakete ihrer Teammitglieder zu erhöhen, indem sie die Pakete von Engineers anderer Teams drücken
    • Kennzahlen wie Business-Impact, Zahl der Code-Reviews oder geschriebene Codezeilen können im Bewertungsprozess als Waffe eingesetzt werden
    • Mit sinkenden Quoten pro Bewertungsbucket verschärft sich die interne Politik um bessere Einstufungen
  • Nach Bestätigung des Stellenabbaus erfuhren Engineers, dass Manager in der Leistungsbewertung auf die Anzahl der Tokens schauen würden
    • Bei niedriger Token-Zahl drohe die Einstufung als Low Performer und damit die Kündigung
    • Intern habe es bei Meta ein Leaderboard zur Token-Nutzung gegeben, beschrieben als Umfeld, das zu „tokenmaxxing“ anstachelt
  • Laut The Information nutzten Meta-Mitarbeitende in 30 Tagen insgesamt 60,2 Billionen KI-Tokens
    • Zum Anthropic-API-Preis entspräche das 900 Millionen US-Dollar
    • Selbst bei günstigeren Einkaufspreisen für Tokens könnte es laut Schätzung noch über 100 Millionen US-Dollar sein
  • Das Zusammenspiel mehrerer Druckfaktoren habe eher performative work als echte Arbeit gefördert
    • Tracking von Tastatur und Mausklicks bei Engineers
    • Vollzeit-Umstellung eines erheblichen Teils der Engineers auf Data Labeling
    • Angekündigter Stellenabbau um 10 %
    • Eine Kultur, die alle Leistungskennzahlen optimiert
    • Messung der Token-Nutzung im PSC

Instagram-Kontoübernahmen und Chaos in der Security-Organisation

  • Am 30. Mai kam es auf Instagram zu der Übernahme mehrerer Konten
    • Darunter waren auch prominente Accounts wie der Obama-White-House-Account
  • Laut der Zusammenfassung von Siddharth Sundharam war der Angriffsablauf sehr einfach
    • Angreifer brauchten nur den Benutzernamen eines Accounts
    • Mit VPN oder Proxy in der Nähe der Stadt des Opfers wurde das Misstrauen der Instagram-Sicherheitssysteme umgangen
    • Dann teilten sie der Meta-Support-KI mit, das Konto sei gehackt worden, und baten darum, einen Verifizierungscode an eine beliebige, von den Angreifern kontrollierte E-Mail-Adresse zu senden
    • Wurde der vom KI-System versandte Code erneut eingereicht, folgte ein Link zum Zurücksetzen des Passworts
  • Der Vorfall wird als „proper zero auth password reset“ bezeichnet
    • Es soll keine zusätzliche Prüfung gegeben haben, ob die neu eingegebene E-Mail-Adresse vom Nutzer früher schon verwendet worden war
  • Nach Gesprächen mit internen Meta-Quellen stand KI im Zentrum dieses Ausfalls
    • Das Instagram-Trust-and-Safety-Team verlor durch Data Labeling und Stellenabbau rund 50 % seiner Belegschaft
    • Ein Teil der erfahrensten Kräfte wurde ebenfalls in KI-Trainingsarbeit verschoben
    • In den letzten zwei Monaten seien im gesamten Codebestand KI-generierte Änderungen mit kaum menschlicher Beteiligung und KI-Code-Reviews verbreitet gewesen
    • Normalerweise hätte das Trust-and-Safety-Team Sicherheitsverletzungen überwacht und Alarm geschlagen, doch durch die schnelle interne Umstrukturierung habe dort Verwirrung geherrscht
  • Am Montag, dem 1. Juni, wurde der Ausfall behoben und im Rahmen des SEV-Prozesses eine Untersuchung gestartet
    • Am nächsten Tag kündigte Meta-CISO Guy Rosen seinen Abgang an
    • Es gibt Spekulationen, dass dieser Abgang kein Zufall war, bestätigt ist das aber nicht
  • Als bisher schlimmster Ausfall wird der Vorfall von 2021 genannt, bei dem alle Meta-Dienste durch ein DNS-/BGP-Konfigurationsproblem sieben Stunden ausfielen
    • Nach dem Ausfall 2021 veröffentlichte Meta eine Postmortem-Analyse und eine Entschuldigung
    • Zum aktuellen Instagram-Kontoübernahmevorfall gebe es bislang noch keine öffentliche Postmortem-Analyse

Interner Unmut und Eingeständnisse der Führung

  • Wired schildert Beispiele für die Stimmung im Inneren von Meta
    • Während eines Livestreams nur für Mitarbeitende beschimpfte eine Person das Unternehmen und einen bestimmten Meta-AI-Manager mit Schimpfwörtern
    • Der Vorfall wird als Beispiel für den Frust im Applied-AI-Team angeführt, das im März zur Unterstützung der KI-Forschung von Meta Superintelligence Labs geschaffen wurde
  • Drei von Wired zitierte aktuelle Mitarbeitende sagten, es gebe breite Unzufriedenheit darüber, wie die rund 6.500 Personen große Organisation aufgebaut wurde und wie monotone Wiederholungsarbeit zur Verbesserung von KI-Modellen aussieht
    • Ein Mitarbeitender beschrieb es als „literally the gulag“ und beklagte Sinnverlust und Isolation
  • Meta-CPO Chris Cox bezeichnete die letzten Monate in einem All-Hands-Meeting von Instagram als „difficult“ und „brutal“
    • Er verglich die Lage damit, einen Marathon im Hagel zu laufen
    • Mit Verweis auf ausgetauschte Teammitglieder und gleichzeitiges Tracking sagte er: „what the fuck“
  • Laut Wired räumte Meta-CTO Andrew Bosworth ein, dass die KI-Neuausrichtung miserabel verlaufen sei, und versprach künftig bessere Kommunikation
    • Er ergänzte außerdem, Mitarbeitende würden Zugang zu KI-Coaching-Tools erhalten

Verantwortung und organisatorischer Schaden

  • Interne Engineers nennen Mark Zuckerberg und Alexandr Wang als Schlüsselfiguren der aktuellen Lage
    • Zuckerberg wird als verantwortlich dargestellt für die Umverteilung der Engineers, den Rollout der Tracking-Software und den Stellenabbau um 10 % trotz Rekordumsätzen und -gewinnen
    • Wang wird als derjenige genannt, der den Scale-AI-Ansatz aus Datenerzeugung, Labeling und RLHF eingebracht habe
  • Viele Maßnahmen außer dem Stellenabbau wirkten wie direkte Übernahmen aus der Arbeitsweise von Scale AI
    • Erzeugung von Trainingsdaten durch Tracking von Tastatureingaben und Mausklicks
    • Data Labeling unter Einsatz von mehr als 4.500 Engineers
    • Erzeugung von hochwertigem RLHF für das von Meta entwickelte Coding-LLM
  • Daraus ergibt sich die Interpretation, dass das Training einer Coding-KI wichtiger behandelt wird als der stabile Betrieb der Kernprodukte Instagram, Facebook und Messenger
  • Am 12. Juni kam es bei Facebook und Instagram zu einem weiteren vollständigen Ausfall auf SEV0-Niveau
  • Meta war laut Darstellung auf Kurs, Google bis Jahresende als weltgrößtes Werbegeschäft abzulösen
    • Trotzdem hält die Kritik an, dass die Führung den Bau eines Coding-LLM für wichtiger halte
  • Sollte der aktuelle Zustand anhalten, dürften wohl noch mehr langjährige Engineers das Unternehmen verlassen
    • Wenn Änderungen wie Data-Labeling-Zwang und Mitarbeitenden-Tracking zurückgenommen würden, könnte es jedoch noch ein kurzes Zeitfenster für eine Rückkehr zur Normalität geben

Sorge, ob „AI psychosis“ nur ein Meta-Problem ist

  • Mitchell Hashimoto sagte, einige Unternehmen befänden sich in einem starken Zustand von „AI psychosis“, über den sich kaum noch vernünftig sprechen lasse
  • Er erklärte, die Debatten über MTBF und MTTR aus der Cloud- und Automatisierungswende in der Infrastruktur kehrten nun in der gesamten Softwareentwicklung zurück
    • Problematisch sei die Denkweise: „Selbst wenn wir Bugs ausliefern, können Agenten sie schnell und in großem Maßstab beheben“
    • MTTR sei wichtig, aber man könne deshalb nicht gleich das gesamte Ziel resilienter Systeme aufgeben
  • Hashimotos Sorge ist, dass lokale Kennzahlen gut aussehen können, während das Gesamtsystem unverständlich wird
    • Selbst wenn weniger Bug-Reports eingehen, können latente Risiken wachsen
    • Höhere Testabdeckung kann mit geringerem semantischem Verständnis einhergehen
    • Die Änderungsrate kann so hoch werden, dass architektonische Erosion unbemerkt bleibt
  • Die Instagram-Kontoübernahme wird als Folge abgesenkter Qualitätsmaßstäbe bei KI-generiertem und KI-reviewtem Code interpretiert
    • Die Störung wurde zwar behoben, aber erst nachdem prominente Konten übernommen worden waren und das System öffentlich kompromittiert wurde
  • Der Text endet mit der Warnung, dass Führungsteams, die wegen KI radikale organisatorische Veränderungen erwägen, sich zuerst den Meta-Fall ansehen sollten
    • Meta-Engineers werden als Fachkräfte beschrieben, die KI schon früh aktiv genutzt und Erfahrung beim Aufbau von Produkten und KI-Infrastruktur gesammelt haben
    • Wenn selbst sie von Unternehmen und Führung enttäuscht sind, könne das für andere Startups und Big-Tech-Unternehmen eine Recruiting-Chance sein

Verwandte Beiträge

1 Kommentare

 
GN⁺ 3 시간 전
Hacker-News-Kommentare

  • Aus meiner Erfahrung bei Meta waren die gut funktionierenden Organisationen meist übernommene Einheiten. Das galt für WhatsApp, Reality Labs, Instagram usw., und die rein intern gewachsene Organisation, in der ich war, war furchtbar.
    Die Arbeit ging zwar voran, aber wegen Überbesetzung und extremer Änderungen bei Anforderungen und Zeitplänen war sie massiv ineffizient. Ich denke, dass die Kultur, die sich außerhalb von Meta gebildet hat, dazu benutzt wird, das Image aufzupolieren und so zu tun, als sei die gesamte Engineering-Kultur von Meta gut

    • Bei Google war es ähnlich. Man glaubte, das einzige gute Engineering-Unternehmen der Welt zu sein und sich vor den „falschen Ideen“ von außen schützen zu müssen, aber echte Fortschritte kamen in der Praxis nur durch Übernahmen
    • Mein Arbeitgeber wurde einmal von FB übernommen, und auch innerhalb von FB gab es hervorragende Teams, mit denen man gut zusammenarbeiten konnte. Diese Teams arbeiteten allerdings nicht wie typische FB-Teams, und ich hatte gehofft, dass die Arbeitsweise der übernommenen Organisationen ein wenig auf FB übergehen würde, aber das war wohl nur unterdrückter Optimismus
    • Ich hatte einen Freund, der nach der Instagram-Übernahme dort gearbeitet hatte, dann ging und später zu einem Facebook-Team zurückkehrte. Er hatte die Kultur bei Instagram schon immer gelobt, sagte aber, dass das Unternehmen, zu dem er zurückkam, kaum wiederzuerkennen war.
      Seinem Wortlaut nach lagen der beste Arbeitsplatz und der schlechteste Arbeitsplatz, die er erlebt hatte, buchstäblich wie Tag und Nacht auseinander
    • Für die Produktorganisation mag das gegolten haben, aber die Infrastruktur- und Developer-Infrastructure-Organisationen waren meiner Ansicht nach ziemlich stark
    • Wahrscheinlich heißt das nur, dass sie im Vergleich zum Rest von Meta gut funktionierten. Im Vergleich zu sich selbst vor der Übernahme vielleicht nicht, und WhatsApp wird von Tag zu Tag schlechter

  • Ich denke, der Spott in diesem Thread geht weitgehend in die falsche Richtung. Meta ist zwar böse, aber der Kernpunkt ist nicht das, sondern dass diese AI-Psychose zur neuen Normalität der Branche werden könnte, oder zumindest zu einer neuen Normalität.
    Bei meinem letzten Unternehmen wurde die Kultur ebenfalls schlagartig toxischer, als sich der CEO auf AI versteifte, ein Token-Ranking einführte und eine Zeit lang alle Nicht-AI-Arbeiten stoppen ließ. Wir waren nicht Meta

    • Ich habe anderthalb Jahre bei einem AI-Startup gearbeitet, das beim Einsatz von LLMs und generativen Modellen viel weiter war, und habe die AI-Psychose tatsächlich existieren sehen und früher als andere erkannt. Vielleicht war der CEO schon immer so, aber ein sympathischer und beliebter Mensch verwandelte sich komplett in jemanden, der wie ein Verrückter wirkte.
      Mehrere Leute, die er geholt hatte und mit denen er jahrelang zusammengearbeitet hatte, wurden entlassen oder kündigten. Als jemand kündigte, mit dem ich wirklich bis ans Ende der Hölle gegangen wäre, sagte diese Person ihm direkt: „Ich weiß nicht, was mit dir passiert ist, aber ich will nicht mit dieser Version der Person arbeiten, die ich einmal kannte.“
      Ich habe drei Entlassungswellen überstanden und wurde am Ende doch entlassen, und wenn ich sehe, was sie jetzt bauen, ist das niederschmetternd. Ich würde fast einen Link teilen, wenn ich es mir leisten könnte, mich von vielen Leuten zu entfremden. Ehrlich gesagt ist es gerade eine Art König der Wahnsinnigen-Situation, umgeben von ein paar der schleimigsten und schädlichsten Speichellecker im Unternehmen, während die Firma abbrennt.
      Ich glaube, so etwas kann nicht nur bei Zuck, sondern in vielen anderen Unternehmen genauso passieren. Ich bin nur ein unbedeutendes Zahnrad in der Organisation, aber wenn mir nichts Entscheidendes entgangen ist, wirkt es absurd, dass ich klüger erscheine als die meisten Leute, die solche Firmen führen. Irgendwann wird jemand über diese Zeit wohl eine griechische Tragödie schreiben, und ich glaube, es wird bald wirklich schlimm
    • Man kann hier noch eine weitere Lehre herauslesen. Selbst in der beschriebenen goldenen Zeit vor der AI war das Leistungsbewertungssystem bereits kaputt.
      Ziele hätten nie geschriebene Codezeilen oder individueller Beitrag sein dürfen; Ziele sollten Teamzusammenhalt, architektonische Konsistenz und die Fähigkeit sein, tatsächlich etwas Sinnvolles zu bauen
    • Am Ende ist das meiner Meinung nach nur ein weiteres Beispiel dafür, wie süchtig Menschen nach Algorithmen sind. Der Unterschied diesmal ist, dass diese Welle der Propaganda Menschen erreicht hat, die großen Einfluss auf die Branche haben, sodass ihr irrationales Verhalten viel sichtbarer wird
    • Ein Token-Ranking ist eine absurde Idee, aber nicht überraschend. Führungskräfte versuchen seit Jahren, Dinge wie die Zahl der committeten Codezeilen oder die Gesamtzahl der Commits zu verfolgen.
      Letztlich entsteht das, weil eine entrückte Führungsebene, die die Leute an der Front nicht kennt und die tatsächlich geleistete Arbeit nicht versteht, quantitative Kennzahlen braucht, auf die sie starren kann. Statistik ist wirklich grausam
    • Ich hatte das Glück, mehrfach AI-zentrierte Engineering-Teams sowohl auf Produkt- als auch auf Forschungsseite zu durchlaufen, und habe die Arbeitsweise immer wieder angepasst, während ich ernsthaft hinterfragt habe, wie AI Veränderungen bewirkt. Es waren allerdings alles Organisationen mit weniger als 50 Leuten.
      AI-Psychose scheint sich in großen Tech-Organisationen ganz anders auszuwirken als in kleinen, einflussreichen Teams.
      In kleinen Startups geht die Firma am Ende unter, wenn das Team kein gutes Produkt ausliefert. Vor allem trägt jeder Einzelne weiterhin Verantwortung für seine Arbeit. In guten Teams habe ich oft gesehen, dass selbst auf schlechte Pull Requests ziemlich sorgfältig reagiert wurde, weil allen klar ist, dass sich gerade jeder damit abmüht, das herauszufinden.
      Wenn es trotzdem nicht funktioniert, muss zwangsläufig jemand einen Weg finden, es besser zu machen. Fast alles, was ich darüber gelernt habe, wie man mit AI baut und mit AI tatsächlich Produkte ausliefert, habe ich in solchen Teams gelernt.
      Software Engineering verändert sich, aber aus Sicht derer, die Produkte ausliefern, fühlt sich das sehr ähnlich an wie die frühe Zeit der Webentwicklung. Damals musste ebenfalls jeder erst Muster dafür finden, wie man diese neue Softwarewelt stabil betreibt. Wer sich an JavaScript vor jQuery erinnert, weiß, wie viel erst noch herausgefunden werden musste, bevor Webentwicklung so wurde wie heute.
      In großen Tech-Organisationen ist die Entkopplung zwischen dem Einsatz der Mitarbeitenden und dem tatsächlich gelieferten Wert viel größer, und Verantwortung ist viel breiter verteilt. Wenn Verantwortung abstrakt wird und niemand sicher sagen kann, welchen Wert die eigene Arbeit tatsächlich erzeugt, ist das ein idealer Nährboden für AI-Psychose.
      Zum Teil liegt das auch daran, dass in solchen großen Organisationen ohnehin schon eine latente Psychose vorhanden ist. Wer „produktiv“ ist und was „wertvoll“ ist, verlangt immer nach fantasievollen Erzählungen, die nicht unbedingt fest in der Realität verankert sind.
      Ich glaube allerdings nicht, dass das lange als „neue Normalität“ bestehen bleibt. Wie damals beim Aufkommen der Webentwicklung werden kleine Teams vorausgehen und einen Teil davon herausfinden. Das MVC-Muster für Web-Apps, immer leistungsfähigere JavaScript-Frameworks und Best Practices, agile Arbeitsweisen, die Popularisierung von Git und GitHub, der Einsatz von NoSQL für Skalierung usw. wurden überwiegend in kleinen, schnellen Startups unter Realbedingungen erprobt und sind heute ein Fundament, bei dem manche modernen Entwickler nicht einmal mehr wissen, dass es überhaupt erst jemand aufbauen musste

  • Ganz anderes Thema, aber mitten im Text gibt es die typische Eisberg-Grafik, bei der nur 10 % senkrecht aus dem Wasser ragen. Tatsächlich treiben Eisberge aber nicht so, sondern drehen sich, bis sie weitgehend waagerecht liegen
    Seit ich das weiß, sehe ich überall falsch gezeichnete Eisberge. Mehr dazu unter https://axbom.com/iceberg/; man kann auch den Eisberg-Simulator https://joshdata.me/iceberger.html ausprobieren oder sich den Tweet ansehen, der diese Diskussion ausgelöst hat: https://xcancel.com/GlacialMeg/status/1362557149147058178

  • Dass „30–50 % der Ingenieure in den Kernteams zwangsweise für Daten-Labeling und RLHF versetzt wurden“, ist ehrlich gesagt schwer zu glauben. Bei all dem Wahnsinn, der derzeit passiert, weiß man zwar nie, aber US-Softwareentwickler sind wirklich teuer, daher wäre ihr Einsatz für Daten-Labeling eine Verschwendung von Ressourcen
    Außer mit „Kernteams“ ist nur ein kleiner Teil aller Entwickler gemeint, wirkt auch der Anteil viel zu hoch

    • Die eigentliche Frontarbeit besteht darin, dass Fachleute Fachinhalte labeln und anlernen. Das ist keine glamouröse Arbeit und rechtfertigt mit ziemlicher Sicherheit auch keine Vergütung auf FAANG-Niveau, aber das galt ursprünglich auch für die meisten Tätigkeiten der meisten FAANG-Ingenieure
      Man braucht allerdings fähige Leute in dem jeweiligen Fachgebiet. Meta verfügt wie vergleichbare Firmen seit dem Einstellungsboom über einen riesigen Pool nachweislich kompetenter Leute, und in einer fragilen Wirtschaftslage, in der ähnliche Chancen fast verschwunden sind, ist AI-Training durch Experten die reifste Geschäftsmöglichkeit
    • Zuck ist praktisch in eine All-Hands-Besprechung gegangen und hat den Mitarbeitern erklärt, dass der Wert derjenigen, die ihm geblieben sind, im Wesentlichen ihr Wert als Trainingsmulis für AI ist
    • Zuck sagte, das Applied-Intelligence-Team brauche intelligentere Leute. Und er hielt es für den besten Weg, intern Leute zu versetzen, die „intelligent“ genug sind, um durch Metas Bewerbungsgespräche zu kommen
      Also ja, finanziell betrachtet ist es Ressourcenverschwendung, aber genau das war die ursprüngliche Absicht
    • Der Glaube, dass Ingenieure einen Teil ihrer Zeit nichts tun und diese Zeit besser für etwas anderes mit sofort messbarem Nutzen eingesetzt werden sollte, ist so alt wie dieser Beruf selbst
      Ironischerweise verschwindet dieser Glaube, sobald sich die Diskussion darauf verlagert, bessere Hardware oder Software zu fordern. Als SSDs neu, klein und sehr teuer waren, hatten hier sicher viele Mühe, ihren Arbeitgeber davon zu überzeugen, dass sie ihren Preis wert sind
    • Ich stimme völlig zu, und es klingt für mich ebenfalls schwer glaubwürdig. Das Problem ist nur, dass ich selbst in einem dieser Kern-Infrastrukturteams arbeite, und zumindest unser Team hat 50–75 % seiner Ingenieure an die AI-Organisation verloren
      Bei den meisten anderen Infrastrukturteams, mit denen ich zusammenarbeite, sieht es ähnlich aus

  • Selbst wenn man die Engineering-Organisation beiseitelässt, wächst unter der Oberfläche ein viel größerer Wandel. Ich habe mit mehreren Ingenieuren aus der Infrastruktur-Organisation gesprochen; sie sagten, dass 30–50 % ihrer Teams in die ADO-Organisation abgeordnet wurden und in manchen Fällen die besten Ingenieure gegangen sind
    Am Dienstag kündigte Metas Chief Information Security Officer (CISO) Guy Rosen seinen Abgang an. Er war seit der Übernahme der mobilen Tracking-App Onavo im Jahr 2013 dabei und befasste sich in risikoreichen Zeiten wie dem Cambridge-Analytica-Skandal als VP of Trust & Safety / Integrity mit Plattformmissbrauch und Wahleinmischung
    Mit seinem Weggang geht auch viel gewachsene Ethik, Philosophie und implizites Wissen verloren, die Cybersecurity und Risikomanagement in der Organisation getragen haben. Diese drei Dinge lassen sich weder wegautomatisieren noch leicht öffentlich aussprechen, sind aber entscheidend. Das klingt nach einem noch größeren Wandel in der Entscheidungsfindung als im Engineering

    • Dass der Gründer von Onavo VP für „Trust & Safety“ wurde, ist auf jeden Fall interessant

  • Man muss fast bewundern, wie cartoonhaft verrückt Zuckerberg so etwas durchzieht. Wäre Facebook ein Unternehmen, das von normalen Menschen geführt würde, hätte es vermutlich in den nächsten 20 Jahren langsam alles verspielt, während die Bedeutung von Social-Media-Werbung allmählich zurückgeht
    Unter Zuckerbergs Führung ist es aber anders. Er wird den Laden niederbrennen, um einen Weg zu finden, weiter wichtig zu bleiben. Erstaunlich ist, dass die Leute dort gearbeitet haben und dachten, sie würden dabei nicht selbst verbrannt

    • Im letzten Earnings Call ist der Werbeumsatz im Jahresvergleich um 33 % gewachsen. Das Unternehmen verdient buchstäblich so viel Geld, dass es nicht weiß, wohin damit, und wirft deshalb bei jedem neuen Hype Geld hinein, falls daraus vielleicht ein neues Geschäft mit einer Milliarde Nutzern wird
      Gleichzeitig gibt es über Aktienrückkäufe und Dividenden auch Kapital an die Aktionäre zurück
    • Man kann Zuck böse oder gierig nennen. Aber dass er kein Geschäft führen könne, gehört nicht zu seinen Eigenschaften. In den letzten zehn Jahren ist Metas Nettogewinn so stark gewachsen, dass das Unternehmen ironischerweise unter den großen US-Techkonzernen die normalste Entwicklung beim Kurs-Gewinn-Verhältnis gezeigt hat

  • Viele geben Zuckerberg die Schuld, aber aus meiner Sicht liegt ein großer Teil der Verantwortung eher beim Scale-AI-Gründer Alexandr Wang, ähnlich wie es der Autor sieht. Dass jemand, der „MEI“ (Merit, Excellence, Intelligence) propagiert, zugelassen hat, dass leistungsstarke Fachexperten aus den Kern-Engineering-Organisationen abgezogen und ins Daten-Labeling versetzt wurden, ist ziemlich ironisch
    Ehrlich gesagt ist Daten-Labeling in einer Organisation wie Meta nicht der Ort, an dem man Top-Performer einsetzen will. Es ist ein Fall, in dem ein prominenter Tech-Gründer zugelassen wurde, eine leistungsstarke Engineering-Kultur zu beschädigen
    Wenn die Aktionäre diese Nuance gekannt hätten, hätten sie seinen Rauswurf gefordert. In seiner Führung fehlte es an merit, excellence und intelligence

    • Zuck hat ihn eingestellt, und Zuck war schon immer sehr direkt involviert. Die Verantwortung liegt bei Zuck
    • Ich denke, der Haupttreiber hinter dem Abzug leistungsstarker Fachexperten aus den Kern-Engineering-Organisationen ins Daten-Labeling war nicht Wang, sondern Bosworth

  • Facebook und Instagram sind so starke Geschäfte, dass sie selbst dann monopolartige Unternehmen blieben, die man in den nächsten Jahren nicht schlagen könnte, wenn die Entwicklungsarbeit komplett eingestellt würde.
    Ich verstehe allerdings nicht, wie Bildschirmaufzeichnungen oder Tastaturprotokolle nützliche KI-Trainingsdaten sein sollen. Das ist teuer und macht viele Leute wütend, scheint aber in der Praxis wenig Wert zu haben.

    • Eines der Dinge, die ich im Laufe meiner Karriere gelernt habe, ist, dass Engineering für den geschäftlichen Erfolg offenbar viel weniger wichtig ist, als man denkt. Wenn Engineering-Probleme oder Ausfälle nicht so gravierend sind, dass das Vertriebsteam öffentlich gekreuzigt wird und die Kunden abspringen, dann scheint man am Ende alles irgendwie mit Gaffer Tape notdürftig überdecken zu können.
      Natürlich trifft das in wirklich wichtigen Bereichen wie Verschlüsselungssoftware oder Finanzsoftware weniger zu. Trotzdem ist es erstaunlich, wie wenig der Unternehmenserfolg mit technischer Exzellenz verbunden ist.
    • Das ist eine Geschichte aus der alten Welt vor der KI. Mit KI kann eine dumme Führungskraft das Geschäft mit der Geschwindigkeit des Denkens ruinieren.
    • Wegen der Computernutzungsdaten.
    • Das mag sein, aber ich stimme nicht zu. Viele Unternehmen pumpen weiter Geld in Social Ads und erzielen trotzdem keine Ergebnisse. Wenn man nicht weiß, was man tut, bringt Meta nicht neue Kunden, sondern sorgt dafür, dass man enorme Budgets für bestehende Kunden ausgibt.
      Deshalb ist auch die Sparte Amazon Ads zuletzt gewachsen. Weil sie tatsächlich funktioniert. Bezahlte Social Ads und bezahlte Suche dagegen werden immer mehr zu Relikten.
      In naher Zukunft kann man damit vielleicht noch Geld drucken, aber es gibt den Frontalangriff durch Native Advertising, Medien, Amazon und andere, wo First-Party-Daten und Pixel wichtig sind und Datenschutz ebenfalls respektiert werden muss.
      Ich weiß das, weil ich ein kleines MarTech-Unternehmen betreibe, das mit GA4 konkurriert und gerade in Native Advertising expandiert.
    • Diese Geschäfte sind zwar stabil, aber es ist gut möglich, dass wir gerade den Höhepunkt der sozialen Medien erleben. Um als langfristiges Investment interessant zu sein, braucht es etwas Neues.
      Ich glaube nicht, dass Zuck den Halo-Effekt eines Musk hat, bei dem trotz viel Unsinn wenigstens Ergebnisse herauskommen. Und Metas Bilanz bei selbst entwickelten neuen Produkten sieht auch nicht besonders gut aus.
      Ist eine Empörungsmaschine, deren Nutzung heute ihren Höhepunkt erreicht hat oder ihm nahe ist, 2026 wirklich noch ein interessantes Investment?

  • Traurig. Ich hatte immer den Eindruck, dass Meta besonders im Vergleich zu Google vieles richtig gemacht hat, was den Einsatz von Ingenieuren angeht. Wenn ich zwischen React (Facebook) und Kubernetes (Google) wählen müsste, würde ich jedes Mal Ersteres nehmen.
    Kubernetes hat die Cluster-Technik in den letzten zehn Jahren gebremst und verhindert, dass bessere Alternativen für kleine Unternehmen oder für Firmen entstehen, die sich Technologien und Prozesse nicht leisten können, mit denen sich proprietäre Interessen nur schwer vereinbaren lassen.
    Es wäre viel besser gewesen, wenn jemand ein Open-Source-Produkt auf Basis von IBMs altem Parallel Sysplex gebaut hätte, aber darauf hätten wohl Patente gelegen. Inzwischen sind sie vermutlich ausgelaufen.
    So viel die Leute auch über React klagen, es hat sich in einem hart umkämpften Markt am Ende an die Spitze gesetzt. Ich habe viele UI-Objektaufbausysteme gesehen, die oberflächlich ähnlich wirken, etwa Microsofts XAML oder Oracles FXML, aber das System von React ist mit Abstand das einfachste und flexibelste.
    Es ist ein Beispiel dafür, dass sich die Ideen aus On Lisp auf praktisch jede Sprache mit grundlegenden funktionalen Programmierpraktiken übertragen lassen und mit nur sehr kleinen Compiler-Anpassungen ganz natürlich wirken.

    • Ich glaube, es braucht eine Erklärung, warum man React und Kubernetes als Technologien vergleichen kann, die Entwickler verwenden.
      React scheint klar der Spitzenreiter im Frontend zu sein, aber mich würde interessieren, was du als entsprechendes Gegenstück im Backend siehst.
    • Sollte man React nicht eher mit Vue.js als mit Kubernetes vergleichen?
    • Ich verstehe nicht ganz, was mit „Meta hat beim Einsatz von Ingenieuren vieles richtig gemacht“ gemeint ist. Wie soll es etwas Gutes sein, talentierte Softwareingenieure für Nutzertracking und das Design süchtig machender Algorithmen einzusetzen?
      React mag ein positiver Nebeneffekt sein, aber wenn ich an Meta denke, ist es ganz sicher nicht das Erste, was mir einfällt.
    • Wer React mit Kubernetes vergleicht und nicht React (Facebook) mit Vue.js (Google), hat in dieser Frage wohl nicht genug Domänenwissen.
      Kubernetes ist aus gutem Grund zum Industriestandard unter den Cluster-Orchestrierern geworden und ist hervorragend.
    • Läuft Instagram nicht auf Angular? Der Umsatz pro Nutzer ist höher als beim Kernprodukt FB. Vielleicht muss man die Maßstäbe für die Bewertung der FAANG-Reise noch einmal überdenken.

  • Ich glaube, hier gibt es einen Wandel, den viele nicht wahrnehmen. Wenn man in den frühen Tagen des Fernsehens gearbeitet hat, besonders als TV noch sehr experimentell war und sich die Standards jedes Jahr änderten, dann hat man entweder selbst sehr viel Engineering von Hand gemacht oder sehr eng mit Ingenieuren zusammengearbeitet.
    Im heutigen Fernsehen gibt es fast kein Engineering mehr. Bei Social Media scheint dasselbe zu passieren. Das Produkt ist ausgereift, und es wird künftig immer weniger Engineering-Probleme geben, die noch gelöst werden müssen.

    • Deshalb ist Meta in letzter Zeit wahrscheinlich in alle möglichen Nebenprojekte wie VR/AR oder KI gesprungen. Im Bereich Social Media fällt ihnen vermutlich nicht mehr viel ein, das die Arbeit noch lohnt.
      Wenn man dann noch sieht, wie halbherzig diese Nebenprojekte laufen, überrascht es auch nicht, dass Meta wieder bei Entlassungen landet. Sie haben zu viele Leute eingestellt und nie ernsthaft einen Weg gefunden, all diese Ingenieure sinnvoll einzusetzen.
    • Vermutlich bestand Metas Gesamtplan darin, diese Ingenieure in Wachstumsbereiche zu investieren. Und genau dort sind sie gescheitert.