Meta löst Responsible-AI-Team auf

 (theverge.com)
3 Punkte von GN⁺ 2023-11-20 | 1 Kommentare | Auf WhatsApp teilen
  • Meta hat sein Team für verantwortungsvolle Künstliche Intelligenz (RAI) aufgelöst und die Teammitglieder auf andere Produktteams für generative AI sowie in den Bereich AI-Infrastruktur versetzt.
  • Das RAI-Team hatte seit 2019 die Aufgabe, Probleme bei Methoden zum Training von AI zu identifizieren, und überwachte das Training der Modelle mit vielfältigen Informationen.
  • Das Team hatte bereits Anfang dieses Jahres eine Umstrukturierung durchlaufen; damals berichtete Business Insider, dass nur noch eine „Hülle“ übrig geblieben sei und Entlassungen erfolgt seien.
  • Metas automatisierte Systeme verursachten Probleme wie eine falsche Festnahme aufgrund eines Übersetzungsfehlers bei Facebook, voreingenommene Bilder bei der Erstellung von WhatsApp-AI-Stickern und einen Instagram-Algorithmus, der dabei half, Material über sexuellen Missbrauch von Kindern zu finden.

Globale Trends bei der AI-Regulierung

  • Dieser Schritt von Meta erfolgt zu einer Zeit, in der Regierungen weltweit versuchen, Regeln für die Entwicklung von Künstlicher Intelligenz aufzustellen, etwa indem die US-Regierung die Ausarbeitung von AI-Sicherheitsregeln angeordnet und Vereinbarungen mit AI-Unternehmen getroffen hat.
  • Die Europäische Union (EU) hat AI-Grundsätze veröffentlicht und bemüht sich weiterhin um die Verabschiedung eines AI-Gesetzes.

Meinung von GN⁺

  • Das Wichtigste an diesem Artikel ist, dass Meta sein Team für verantwortungsvolle AI-Entwicklung aufgelöst und die Mitglieder in andere Abteilungen versetzt hat.
  • Diese Veränderung bietet ein interessantes Beispiel dafür, wie Unternehmen AI-Ethik und -Sicherheit managen, während sich die AI-Technologie rasant weiterentwickelt und die Bedeutung eines verantwortungsvollen AI-Einsatzes zunimmt.
  • Außerdem spiegelt der Artikel die aktuelle Situation wider, in der weltweit intensiv über AI-Regulierung diskutiert wird, und enthält daher interessante Inhalte für Menschen, die sich für die Schnittstelle von Technologie und Recht interessieren.

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2023-11-20
Hacker-News-Kommentare
  • Meta gilt als das ethischste große AI-Unternehmen, weil es seine AI-Modelle offenlegt.
    • Die Ansicht ist, dass es unethisch ist, AI-Modelle unter dem Vorwand der „Ethik“ proprietär zu halten, weil Menschen dadurch stärker von willkürlichen Entscheidungen großer Unternehmen abhängig werden.
  • Jedes AI-Team sollte ethische Verantwortung mitdenken; diese auf ein einzelnes Team zu konzentrieren, ist ineffizient.
    • Ein „Responsible-AI-Team“ kann entweder einen Flaschenhals verursachen, weil es sämtliche AI-Arbeit prüfen muss, oder dazu führen, dass andere Teams ungehindert unverantwortliche AI entwickeln.
  • AI-Sicherheit ist eine Gruppe, die von der Arbeit anderer lebt; es ist wünschenswert, dass Meta sie abbaut.
  • Teams für Technologieethik legen in frühen Phasen mehr Wert auf Image als auf die Realität.
    • Die wenigen Menschen, die die grundlegende Richtung einer Technologie bestimmen, tragen ethische Verantwortung, und wenn sie unverantwortlich handeln, kann großer Schaden entstehen.
  • Es gibt keine konkreten Beispiele dafür, dass Metas Ethik-Team positiv beigetragen hat.
    • Man sollte Metas Bilanz der vergangenen Jahre prüfen, um zu bewerten, wie wirksam das Team dabei war, die Wahrheit zu wahren.
  • Wenn Geld knapp ist und eine Krise eintritt (wie bei OpenAI), ist es am besten, Abteilungen zu schließen, die nur dem Image dienen.
  • Da das Training von AI-Modellen teuer ist, werden mit dem Fortschritt der Technologie diejenigen profitieren wollen, die sie kontrollieren; langfristig kann das jedoch nach hinten losgehen.
  • Der Vergleich zwischen AI-Sicherheit und Rechts- oder Sicherheitsteams ist nicht stichhaltig.
    • Da niemand weiß, was es bedeutet, sichere AI zu bauen, können solche Teams letztlich nur den Fortschritt verlangsamen.
  • Der beste Weg, AI verantwortlich zu machen, ist, sie Open Source zu machen.
    • Dadurch hat kein einzelnes Unternehmen die vollständige Kontrolle, und Forschende können Missbrauchsmöglichkeiten sowie sinnvolle Einsatzweisen besser verstehen.
  • Die Verantwortung für AI sollte bei den Nutzern liegen, doch derzeit gibt kein Unternehmen den Nutzern die Befugnis, Produkte verantwortungsvoll mitzugestalten.
    • Der rechtliche Rahmen behandelt solche externen Effekte bereits, und der Versuch von Unternehmen, Verantwortung zu umgehen, führt zu noch inkompetenteren und nutzloseren Systemen.