Moneyball für Physical AI

• Roboterdaten lassen sich nicht wie Text aus bestehenden Korpora schürfen, und jede nützliche Stunde verursacht Kosten. Daher hängt die Kapitaleffizienz weniger von der insgesamt gesammelten Menge ab als davon, wie genau sich Grenznutzen pro Dollar und Neuheit der Daten berechnen lassen
• Wenn mehr Daten hinzukommen, sinkt der Loss gemäß einem Potenzgesetz. Diversität verändert jedoch den Generalisierungsbereich und die untere Fehlerschranke; Wiederholungen und Beinahe-Duplikate sättigen schnell, während seltene OOD-Fehlerfälle großen Nutzen liefern
• Daten aus Produktiv-Deployments folgen einer Decline Curve wie bei einer Ölquelle: Von anfänglichen Fehlern mit hoher Entropie konvergieren sie zu alltäglichen Erfolgen und Beinahe-Duplikaten. Statt die Betriebszeit zu erhöhen, sollte man daher den Fehler-Long-Tail herausfiltern
• Frühe Roboteraufgaben müssen aus kommerziellen Gründen die Umgebungsvariabilität begrenzen. Dadurch sinken intrinsische Dimension und Übertragbarkeit; das Produktions-Flywheel, bei dem Deployment-Umsätze ein General-Purpose-Modell verbessern sollen, funktioniert ohne externe Beobachtungsbreite und Interventionsvielfalt nur schwer
• Datenbudgets sollten so verteilt werden: den Umfang mit kostengünstigen Beobachtungsdaten erweitern, teure Teleoperation nur bis zum aufgabenspezifischen Sättigungspunkt sammeln und aus Produktiv-Telemetrie nur OOD-Fehler herausfiltern

---

Physical AI bepreist Datenmengen falsch

• 2002 erzielten die Oakland Athletics mit der drittniedrigsten Gehaltssumme der MLB 103 Siege. Statt subjektiver Ästhetik, Stolen Bases und Batting Average fanden sie mit der On-Base Percentage eine Kennzahl, die tatsächlich mit Runs korrelierte, und nutzten falsch bepreiste Spieler am Markt aus
• Auch bei Physical AI wird die kumulierte Betriebszeit stark gewichtet, weil sie eine gut sichtbare und leicht investierbare Kennzahl ist; ihre Korrelation mit der tatsächlichen Performance nachgelagerter Modelle ist jedoch schwach
• Roboterdaten lassen sich nicht wie Textdaten aus bestehenden Korpora schürfen. Für jede Stunde nützlicher Daten muss gezahlt werden, sodass die Kosten zusammen mit der Sammelmenge linear steigen
  • Ken Goldberg schätzt, dass Frontier-Robotikmodelle möglicherweise Daten im Umfang von etwa 100.000 Jahren benötigen
  • Ein Ansatz, der die für AGI nötigen überwachten Daten allein über groß angelegte manuelle Teleoperations-Infrastruktur bereitstellt, ist nicht nachhaltig
• Auch beim Ansatz, Roboter in Produktionsumgebungen einzusetzen und Telemetrie als Nebenprodukt operativer Umsätze zu gewinnen, kann derselbe statistische Fehler entstehen
  • Die Nischenaufgaben, die heute deploybar sind, liegen in den Bereichen mit der geringsten Variabilität
  • Die dort entstehenden Daten haben niedrige Entropie und sind miteinander korreliert, sodass ihr Grenznutzen klein ist
• Die Entsprechung zur On-Base Percentage in Physical AI ist die marginale Loss-Reduktion pro Dollar, die sowohl Scaling Laws als auch die Stückkosten der Datenerhebung berücksichtigt

Interessen, die die Daten-Supply-Chain antreiben

• Jeder Teilnehmer hat eine Datenperspektive, in der das eigene Geschäftsfeld am wertvollsten erscheint
  • Foundation-Model-Labore verkaufen die Skalierung allgemeiner Modelle und gehen daher davon aus, dass groß angelegtes Pretraining und mehr Rechenaufwand Edge-Case-Fehler beseitigen werden
  • Teleoperationsanbieter priorisieren Rohdatenmengen, weil ihr Umsatz eher mit Betriebsstunden steigt als mit Nutzen oder Neuheit der Daten
  • Etablierte Hardwareanbieter setzen voraus, dass die Umgebung normal und stabil ist, weil ihre Lösungen in Out-of-Distribution-Umgebungen scheitern
  • Viele akademische Robotikforscher meinen, die Lücke lasse sich eher durch Physik, Modelle und Regelung schließen als durch Daten
• neo-integrator wollen den Engpass der Datensammlung umgehen, indem sie spezialisierte Roboter in der kommerziellen Produktion einsetzen und Fehler durch menschliche Eingriffe behandeln
  • Evan Beard schlägt ein ökonomisches Flywheel vor, bei dem Produktiv-Telemetrie die Neuheit erzeugt, die für Multi-Task-Fähigkeiten nötig ist
  • Kyle Vedder hält dagegen, dass Umgebungen, die für frühe Robotereinführungen bezahlen, inhärent geringe Variabilität haben, wodurch eine Novelty-Pump-Beschränkung entsteht
• Welche Strategie pro Dollar die höchsten Modellfähigkeiten erzeugt, lässt sich nur beurteilen, wenn man empirische Scaling Laws gemeinsam mit der Unit Economics der Datenerhebung vergleicht

Drei Datentypen nach Kosten und Supervisionsform

• Beobachtungsdaten wie First-Person- und Third-Person-Videos sind kostengünstig und decken einen breiten Bereich ab. Sie erweitern die Support-Region des Repräsentationsraums, liefern aber keine direkte Handlungs-Supervision
• Interventionsdaten wie Teleoperations-Demonstrationen sind teuer und enger im Umfang, enthalten aber explizit Zustands-Aktions-Trajektorien; die Kosten steigen proportional zum menschlichen Arbeitsaufwand
• Deployment-Daten sind unbereinigte Telemetrie, die endogen in Produktionssystemen entsteht
  • Der Betrieb selbst kann auch Verluste verursachen
  • Die Datenverteilung wird nicht durch Algorithmusdesign bestimmt, sondern durch kommerzielle Betriebsbedingungen
• Datenmaximierung kann Rauschen mit niedriger Entropie erhöhen und die Lerneffizienz verschlechtern
  • Beim C4-Datensatz für Sprachmodelle verbesserten sich die Modelle, als Boilerplate und Beinahe-Duplikate entfernt und innerhalb eines festen Budgets die Abdeckung einzigartiger Tokens erhöht wurde
• Eine Datenpipeline ist ein Kapitalallokationsproblem: Was bekommt man mit einem Dollar je Datentyp, wo entsteht neue Information, und können Deployment-Daten den Aufgabenbereich erweitern?

Datennutzen aus Sicht von Scaling Laws

• Datenmenge und Loss-Reduktion

  • Wenn Datenmenge, Modellgröße und Rechenaufwand wachsen, sinkt der Test-Loss auf Log-Log-Achsen in Form eines Potenzgesetzes; die Verringerung nimmt jedoch ab und erreicht schließlich eine Untergrenze

  • Die kombinierte Form von Kaplan 2020 und Hoffmann 2022 lautet für Modellgröße (N) und Tokenzahl (D):

    [ L(N,D)=E+A N^{-\alpha}+B D^{-\beta} ]

  • Bei compute-optimaler Allokation reduziert sich dies auf eine eindimensionale Hüllkurve in Abhängigkeit von den Daten:

    [ L^{*}(D)=E+\tilde B D^{-\beta} ]

• (E) ist die vom Modell nicht eliminierbare Vorhersageunsicherheit; die Funktionsform ist konsistent, die Zahlenwerte sind jedoch Näherungen, wie in Besiroglu 2024 behandelt

• Diversität und intrinsische Dimension

  • Eine vielfältige Datenmischung erzeugt gleichzeitig zwei Effekte, die unabhängig von der Datenmenge sind
    • Sie senkt die asymptotische Fehleruntergrenze durch Transfer zwischen Domänen und eine Erweiterung des Mannigfaltigkeitsbereichs
    • Sie erhöht die intrinsische Dimension (d_{\text{int}}) des Datensatzes
  • Im auflösungsbegrenzten Bereich glatter Ziele gilt nach Sharma & Kaplan 2020 und Bahri 2021 die Beziehung (\beta \approx 4/d_{\text{int}})
  • Halbiert man die intrinsische Dimension der Aufgabe, verdoppelt sich der Scaling-Exponent ungefähr, sodass der Verlust schneller sinkt
  • Allerdings kann dies zur Konvergenz auf unterlegene, nicht generalisierende Optima führen; daher sollte die intrinsische Dimension der Pretraining-Verteilung nicht künstlich gesenkt werden
  • Das Gesetz zur Datenmischung von Ye et al. 2024 zerlegt den Mischungsverlust in domänenspezifische Potenzgesetze und Kopplungsterme zwischen Domänen; die Kopplungsterme bestimmen positiven Transfer und negative Interferenz

• Sättigung durch Wiederholung und Leistungsabfall

  • Wiederholte Daten zeigen bis zu etwa 4 Epochen (epochs) eine ähnliche Effizienz wie neue Tokens, danach sinkt der Nutzen schnell und verschlechtert schließlich die Fähigkeiten
  • Muennighoff et al. 2023 passen eine exponentielle Sättigungsform mit einer Halbwertszeit von (R^{*}\approx15) an
  • Vier Wiederholungen verursachen kaum Verlust
  • Ab 16 Wiederholungen beginnt ein klarer Bereich abnehmender Erträge, in dem zusätzliche Rechenleistung keine neuen Informationen mehr erzeugt
  • Wenn die Zahl der eindeutigen Beispiele (U) und die Zahl der Wiederholungen (r=T/U) ist, beträgt die effektive Datengröße (D_{\text{eff}}=U\cdot f(r)), wobei (f(r)) exponentiell sättigt
  • Nach Hernandez et al. 2022 führt eine übermäßige Wiederholung eines engen Datenteils zu lokalem Double Descent beim Testverlust und schädigt die für In-Context Learning nötigen Induction Heads und Copying Heads
  • Als 0,1 % des gesamten Korpus 100-mal wiederholt wurden, fiel die Performance eines Modells mit 800 Mio. Parametern bei Teilaufgaben auf das Niveau eines Modells mit 400 Mio. Parametern

• Nahe Duplikate und lokale Sättigung

  • Nahe Duplikate haben einen kontinuierlichen Nutzen zwischen vollständiger Wiederholung und völlig neuen Samples
  • Lee et al. 2021 fanden in C4 Fälle, in denen derselbe Satz mehr als 60.000-mal vorkam
  • Deduplizierung reduziert wörtliches Auswendiglernen und beschleunigt die Konvergenz, indem das Token-Budget unterschiedlichen Mannigfaltigkeiten zugewiesen wird
  • Eine kleine Änderung (\varepsilon) sorgt dafür, dass (x) und (x+\varepsilon) auf dasselbe Ziel abgebildet werden, und wirkt damit als implizite Konsistenzregularisierung
    • Sehr kleine Änderungen haben geringen Nutzen
    • Änderungen mittlerer Größe sind für die Regularisierung nützlich
    • Werden die Änderungen groß genug, werden sie zu eigenständigen Daten
  • Dichtes Sampling in einer engen Nachbarschaft sättigt die lokale Kapazität schnell und schadet der Modellleistung

• Seltene Ereignisse und der Long Tail

  • Seltene Out-of-Distribution(OOD)-Ereignisse bilden den Fehler-Tail, der die Modellleistung an der Scaling-Grenze begrenzt, und haben daher hohen Grenznutzen
  • Reale physische Verteilungen haben einen Long Tail; laut Michaud et al. 2023 entstehen makroskopische Fähigkeiten dadurch, dass Teilfähigkeiten, die einer Zipf-Verteilung folgen, der Häufigkeit nach erworben werden
  • Nach Feldman 2020 müssen seltene Subpopulationen gelernt werden, die einen großen Anteil an der gesamten operativen Dichte ausmachen, um Frontier-Genauigkeit zu erreichen
  • Sorscher et al. 2022 zeigen, dass die Auswahl schwieriger und seltener Samples typische Beschränkungen von Potenzgesetzen umgehen kann
  • Edge Cases, die aus der Stochastik der realen Welt entstehen, lassen sich durch synthetische Generierung oder strukturiertes Staging nur schwer reproduzieren
  • Je breiter die bekannte Verteilung wird, desto exponentiell seltener werden die verbleibenden neuen Varianten, wodurch die Entdeckungskosten sprunghaft steigen

Die Ökonomie des Grenznutzens pro Dollar

• Aufgabenspezifischer Verlust und Kapitalallokation

  • Bei Sprachmodellen ist Rechenleistung die Beschränkung und Daten sind reichlich vorhanden, doch in der Robotik ist der Beschaffungsaufwand nützlicher Daten die direkte Beschränkung

  • Das Gesamtziel an Fähigkeiten wird als Kombination von Aufgabenclustern (j) mit vorherigen Gewichten (\pi_j) modelliert, und der Verlust jedes Clusters folgt der folgenden Form

    [ L_j=A_j(\phi)+B_j(\phi)D_j^{-\beta_j} ]

  • (A_j(\phi)) ist die Untergrenze bei der Sensorikkonfiguration (\phi), (D_j) die Datenmenge, und (\beta_j\approx4/d_j) der Exponent entsprechend der intrinsischen Dimension (d_j)

  • Um begrenztes Kapital optimal zu verteilen, sollten die Ausgaben so erfolgen, dass der Grenzwert pro Dollar aller Erfassungs- und Kurationskanäle gleich wird

  • Interventionskanäle haben zwar eine Prämie für direkte Handlungsaufsicht, doch die Datenmenge sättigt schnell; der wichtigste ökonomische Nutzen entsteht daher durch Skill-Transfer zwischen Aufgaben

  • Die Kosten von Kanal (i) werden als (c_i), die Sättigungsfunktion als (g_i(n_i)) und die Transferprojektion auf Aufgabe (j) als (w_{ij}) dargestellt

  • Wenn die Erfassungsmenge steigt und (g_i'(n_i)) kleiner wird, sinkt auch der Nutzen pro Dollar

  • Beobachtungskanäle verbessern den Repräsentationsraum ohne Handlungslabels und beeinflussen die Fehleruntergrenze (A_j) sowie den Scaling-Koeffizienten (B_j)

• Die Sensorik bestimmt die Fehleruntergrenze

  • Stochastischer Fehler ist kein absolut festgelegter Wert, sondern relativ zu dem Informationszustand, den die Sensoren eines bestimmten Roboters beobachten

  • Die Untergrenze abhängig von der Sensorikkonfiguration (\phi) für Aufgabe (j) lässt sich als bedingte Entropie (A_j(\phi)=E[H[a|s_\phi]]) darstellen

    [ A_j(\phi)=A_j^{\min}+\left(A_j(\phi)-A_j^{\min}\right) ]

  • (A_j^{\min}) ist die physikalische Grenze, die sich durch keinen Sensor eliminieren lässt; der Rest ist der Anteil, der durch bessere Sensorik reduziert werden kann

  • Umweltvariationen, die ein Sensor mit niedriger Auflösung nicht unterscheiden kann, erscheinen dem Modell als aleatorisches Rauschen; hochauflösende Sensoren verwandeln sie dagegen in lernbare epistemische Fehler

  • Handlungsdaten bringen den Verlust näher an (A_j(\phi)), während bessere Sensoren (A_j(\phi)) selbst senken

  • Für den Break-even-Verlust (L_{\text{neutral}}) einer Aufgabe muss (A_j(\phi)\ll L_{\text{neutral}}) gelten, damit Deployment möglich ist

  • Wenn selbst bei optimaler Sensorik (A_j^{\min}\ge L_{\text{neutral}}) gilt, bringt eine Ausweitung der Datenmenge nichts

  • In diesem Fall muss die Hardwarekonfiguration geändert oder eine andere operative Aufgabe gewählt werden

Abzinsungskurve von Deployment-Daten und Konvergenzfallen

• Produktionstelemetrie erschöpft sich wie eine Ölquelle

  • In der frühen Produktionsphase treten hochentropische Fehlermodi auf, doch sobald Anomalien behoben werden, verwandeln sich die Daten in nahe Duplikate und Wiederholungen, und ihr Nutzen nimmt stark ab

  • Der effektive Nutzen einer lokalen Verteilung sättigt exponentiell wie (U_{\text{eff}}(n)=U_0+\Delta U(1-e^{-n/n_c}))

  • Jenseits des Sättigungspunkts bzw. der Covering Number (n_c) konvergiert der Produktionsstream zu Wiederholungsdaten mit geringem Nutzen

  • Hoher Wert konzentriert sich im Fehler-Tail; alltägliche Erfolge haben keinen Grenznutzen

  • Die Nettokosten von Deployment-Daten hängen von Fehlerrate, Kosten durch Interventionen und Durchsatzverluste sowie vom Wert der Aufgabenerledigung ab

    [ c_{\text{dep}}(L)=\rho(L)(\kappa_{\text{int}}+\kappa_{\text{prod}})-\nu ]

• Vor dem Break-even-Punkt mit (c_{\text{dep}}\approx0) ist die Datenerhebung defizitär; daher muss in frühen Deployments externes Kapital nicht als operativer Umsatz, sondern als R&D-Asset eingesetzt werden

  • Häufig nimmt man an, dass Deployments bei 95 % Performance mit Eingriffen beginnen und ab 99,5 % profitabel werden; wegen des Potenzgesetzes können die von (L_{\text{start}}) bis (L_{\text{neutral}}) benötigten Daten jedoch um mehrere Größenordnungen zunehmen
  • Wenn das Break-even-Ziel nahe an die Fehleruntergrenze rückt und (\Delta_{\text{safe}}=L_{\text{neutral}}-A_j(\phi)\to0), divergieren benötigte Datenmenge und Kosten superlinear
  • Aufgaben mit (L_{\text{neutral}}\approx A_j(\phi)) werden zu Kapitalsenken
  • Bevor der Deployment-Umfang erhöht wird, müssen Datenabdeckung und Sensorik verbessert werden

• Konflikt zwischen kommerzieller Konvergenz und Generalisierung

  • Um ein nicht optimales Foundation Model kommerziell zu deployen, muss man Umgebungsvariationen künstlich begrenzen und so die intrinsische Dimension der Aufgabe senken
  • Ein niedriges (d_j) erzeugt ein großes (\beta_j) und erhöht die Konvergenzgeschwindigkeit, konvergiert aber auf eine enge, nicht übertragbare Mannigfaltigkeit
  • Niedrig-entropische, korrelierte Daten aus strukturierten Betriebszellen erweitern die Generalisierungsgrenzen eines universellen Modells nicht und binden das System an die anfängliche Nische
  • Für jede fragmentierte, variationsarme Aufgabe fallen Non-Recurring-Engineering-(NRE-)Kosten an; um softwareähnliche Margen zu erzielen, müssen die marginalen Integrationskosten für sequenziell hinzukommende neue Aufgaben gegen null gehen
  • Zwei Arten von Datenverzerrung erzeugen unterschiedliche Grenzen
    • Staging-Bias: Eingriffsdaten haben eine hohe Handlungsdichte, sind aber wie in Simulationen oder Laboren künstlich strukturiert und erfassen die stochastischen Failure-Tails realer physischer Umgebungen nicht
    • Distributions-Bias: Deployment-Daten stammen aus realen Umgebungen, sind aber zur kommerziellen Überlebensfähigkeit auf variationsarme Nischen beschränkt und sampeln dadurch die falsche Verteilungsmischung
  • Eine Strategie der sequenziellen Expansion von engen zu breiten Aufgaben ist nur dann wirtschaftlich, wenn die Zahl deploybarer Aufgaben schneller wächst als das kumulierte NRE-Defizit
  • Da diese Expansion allein mit Deployment-Daten aus kommerziellen Nischen schwierig ist, müssen Beobachtungsabdeckung, die die Fehleruntergrenze senkt, und Eingriffsdiversität, die die Generalisierungsgrenzen erweitert, extern bereitgestellt werden, damit das Produktions-Flywheel funktioniert

Kennzahlen zur Informationsdichte als Ersatz für Betriebsstunden

• Marginale Integrationskosten pro Aufgabe erfassen die NRE-Kosten, die bei jeder neuen Aufgabe entstehen, in der Projektbuchhaltung
  • Wenn die Kosten trotz wachsendem Aufgabenportfolio nicht sinken, akkumuliert die Modellschicht keine aufgabenübergreifenden Repräsentationen
  • Auch die Geschäftsstruktur ähnelt dann eher linearer Systemintegration als skalierbarer Software
• Sättigungspunkt (n_c) pro Aufgabe sucht den Punkt, an dem die Lernkurve je Aufgabe und Umgebung abflacht
  • Wenn die Erhebung an diesem Punkt gestoppt wird, lassen sich die wichtigsten Verschwendungen im Budget für manuelle Teleoperation reduzieren
• Distributionsänderungsrate (v_j) verfolgt die Auftretensrate von OOD-Inputs und die Häufigkeit von Retraining
  • Eine nichtstationäre Zielverteilung erzeugt fortlaufend neue Failure-Modi; kontinuierliche Deployment-Telemetrie ist daher die einzige operative Bedingung, unter der sich ein Datenvorsprung halten lässt
• Clusterabdeckung misst statt der Zahl roher Episoden die Anzahl orthogonaler Aufgaben-, Objekt- und Umgebungscluster in einem standardisierten Daten-Embedding
  • Die Clustererweiterung über die Zeit wird zu einer Proxy-Kennzahl für domänenübergreifende Generalisierung
• Datennovelty-Dichte schätzt die Informationsdichte des eingehenden Streams mit Active-Learning-Heuristiken wie Ensemble-Uneinigkeit oder prädiktiver Varianz aufgezeichneter Zustände
  • Sie filtert niedrig-entropische alltägliche Erfolge heraus und priorisiert hochwirksame Failure-Tails
• Die zufällige Fehleruntergrenze (A_j(\phi)), die die Realisierbarkeit bestimmt, lässt sich nicht direkt messen
  • Man kann (L(D)=E+BD^{-\beta}) fitten und den asymptotischen Wert (E) schätzen, doch der Approximationsfehler ist groß und macht dies als direkte operative Kennzahl schwierig

Das Robotik-Ökosystem nach Datenstrategie

• Modellzentrierte Labore kuratieren und bereinigen Beobachtungskorpora aus unterschiedlichen Roboterformen in großem Maßstab für Pretraining und versuchen, aus dieser Abdeckung kumulative Generalisierung zu gewinnen
  • World-Model-Labore setzen darauf, mit gelernten Modellen günstige Eingriffsdaten zu erzeugen
  • Sowohl statisches Pretraining als auch synthetische Simulationen können die zufälligen Edge-Case-Failure-Tails realer Deployments nicht exakt replizieren
• Vertikal integrierte Anbieter führen Datenerhebung und Bereinigung auf proprietärer Hardware selbst durch
  • Auf die Hardware ausgerichtete Daten sind effizient
  • Abgesehen von Bereichen mit inhärent hoher Variabilität wie autonomem Fahren geraten sie in eine zyklische Falle mangelnder Neuheit, weil sie aus Gründen der Kommerzialisierbarkeit auf variationsarme Umgebungen beschränkt werden
• Neo-Integratoren sind mit einer flachen, breiten operativen Basis in unterschiedlichen Industrieumgebungen gut positioniert, um Aufgabenvielfalt zu sichern
  • Ein Geschäftsmodell, das diese Basis nicht als aktiv zu kuratierende Datenumgebung, sondern nur als abrechenbare Betriebsfläche behandelt, ist ein strategischer Fehler
• Teleoperationsanbieter verkaufen Betriebszeit und haben daher einen Anreiz, die rohe Datenmenge statt die Abdeckung einzigartiger Samples zu maximieren
  • Sie erzeugen auch über den aufgabenspezifischen Sättigungspunkt (n_c) hinaus Daten und stellen Infrastruktur-Tools bereit, die lokalen Umsatz bringen, aber keinen Scaling-Vorteil schaffen
• Bestehende Hardwareanbieter verteidigen profitable, variationsarme Märkte, die auf deterministische Bewegungswiedergabe zugeschnitten sind
  • Sie sammeln kaum Trainingsdaten und haben daher keinen Pfad, um die Scaling-Kurve hinaufzusteigen
• Die knappste Fähigkeit in Physical AI ist das Erkennen und Erfassen von Datennovelty; der Wert akkumuliert bei operativen Teams, die OOD-Varianten herausfiltern, unabhängig von den bestehenden organisatorischen Grenzen zwischen Forschung und Hardware-Engineering

Unterschiede zwischen Physical AI und LLM-Anwendungen

• Softwareanwendungen wie Cursor und Harvey leihen sich Foundation Models auf Token-Basis und sichern sich dennoch wirtschaftlichen Wert durch Workflow-Integration und proprietären Vertrieb
• Ökonomische Wertabschöpfung und Modellfähigkeit sind getrennte Variablen; Physical AI unterscheidet sich auf drei Achsen in seinen Bedingungen von Softwareanwendungen

• Aufgabendimension und Sättigungsgeschwindigkeit

  • Softwareentwicklung hat eine hohe intrinsische Dimension, sodass kontinuierliches Workflow-Feedback fortlaufend Grenznutzen liefert
  • Physische Aufgaben wie strukturiertes Warehouse-Picking haben eine niedrige intrinsische Dimension, wodurch aufgabenspezifische Datenströme schnell sättigen und in einen Bereich sinkender Erträge eintreten

• Asymmetrie der Foundation-Schicht

  • Softwareanwendungen arbeiten downstream von universellen, massiv subventionierten Foundation Models
  • In Physical AI gibt es keine gleichwertige universelle Foundation-Schicht, die man ausleihen könnte; heutige Robotik-Deployments müssen deshalb Umgebungsvariabilität künstlich reduzieren, um operativ machbar zu sein
  • Die so erhobenen spezialisierten Subverteilungen schaffen keine breitere Generalisierung

• Telemetriekosten und Margen

  • Software kann die gesamte operative Schleife – Quellcode, Nutzeränderungen, Kompilierergebnisse usw. – kostengünstig und vollständig beobachten
  • Physische Telemetrie ist teuer zu erheben, und wegen der Sensorauflösung bleiben inhärent unbeobachtete Bereiche bestehen
  • Wenn grundlegende Beobachtungsdaten für Physical AI als wettbewerbsrelevante und proprietäre Assets erhalten bleiben, konzentriert sich die Hebelwirkung in der vorgelagerten Modellschicht
  • Infrastrukturanbieter behalten proprietäre Preissetzungsmacht, während die Margen nachgelagerter Anwendungen unter Druck geraten

So verteilt man das Datenbudget

• Kumulierte Betriebsstunden sollten als Basiskennzahl für Modellleistung ausgeschlossen werden; Engineering-Effizienz und Scaling sollten anhand marginaler Integrationskosten pro Aufgabe, Sättigungsschwellen, Embedding-Clusterabdeckung und Distributionsänderungsrate bewertet werden
• Weder gestagte Eingriffsdaten noch enge Deployment-Daten können ein Foundation Model allein skalieren
  • Hochvolumiges Staging sättigt die aufgabenspezifische Abdeckung schnell und führt zu sinkenden Erträgen
  • Kommerzielle Deployments bieten in profitablen Nischen zu wenig Neuheit und verursachen je Umgebung NRE-Kosten für Fehlerbehandlung
• Der Beobachtungsabdeckung sollten kostengünstige, hochdiverse Daten priorisiert zugewiesen werden, um die zufällige Fehleruntergrenze zu senken und die Grenzen der Grundfähigkeiten zu erweitern
• Eingriffs-Staging sollte nur bis zum Sättigungspunkt (n_c) der Aufgabe durchgeführt werden; das verbleibende Budget sollte nicht auf Wiederholungen derselben Aufgabe, sondern auf Aufgabenvielfalt umverteilt werden
• In der Deployment-Telemetrie müssen OOD-Edge-Cases und Failure-Modi separiert werden; große Mengen alltäglicher Erfolge ohne Informationsdichte sollten verworfen werden
• Auch wenn frühe Deployments einige nützliche Signale erzeugen können, verbraucht ein fortgesetzter Betrieb vor dem Break-even Kapital
• Die Kapitaleffizienz von Physical AI skaliert nicht dadurch, dass man die Datenmenge maximiert, sondern durch die Fähigkeit, Datennovelty präzise zu bepreisen