OpenAIs „Plan für AGI und darüber hinaus“ [Übersetzung]

• „Unsere Mission ist es, sicherzustellen, dass künstliche allgemeine Intelligenz (AGI) – KI-Systeme, die im Allgemeinen intelligenter sind als Menschen – der gesamten Menschheit zugutekommt.“
• „Wenn AGI erfolgreich entwickelt wird, kann diese Technologie dazu beitragen, die Menschheit voranzubringen, indem sie Wohlstand fördert, die Weltwirtschaft ankurbelt und die Entdeckung neuer wissenschaftlicher Erkenntnisse unterstützt, die die Grenzen des Möglichen verschieben.“
• „Gleichzeitig kann AGI auch erhebliche Risiken mit sich bringen, darunter Missbrauch, schwere Unfälle und soziale Umwälzungen. Weil die positiven Aspekte von AGI so groß sind, halten wir es weder für möglich noch für wünschenswert, dass die Gesellschaft die Entwicklung dauerhaft stoppt; stattdessen müssen Gesellschaft und AGI-Entwickler den richtigen Weg finden.“
• Wichtige Prinzipien
  • Wir möchten, dass AGI die Menschheit dazu befähigt, im Universum so weit wie möglich zu gedeihen. Wir erwarten nicht, dass die Zukunft eine perfekte Utopie sein wird, aber wir wollen das Gute maximieren und das Schlechte minimieren, sodass AGI als Verstärker der Menschheit wirkt.
  • Wir möchten, dass Nutzen, Zugänglichkeit und Governance von AGI breit und fair geteilt werden.
  • Wir wollen die enormen Risiken erfolgreich bewältigen. Angesichts dieser Risiken erkennen wir an, dass Dinge, die theoretisch richtig erscheinen, sich in der Praxis oft seltsamer entwickeln als erwartet. Wir glauben, dass wir kontinuierlich lernen und uns anpassen müssen, indem wir weniger leistungsfähige Versionen der Technologie bereitstellen, um „Single-Point-of-Failure“-Situationen zu minimieren.

Inhaltsverzeichnis

• Kurzfristig (Plan)
• Je näher die Systeme an AGI heranrücken, desto vorsichtiger gehen wir bei Modellerstellung und -bereitstellung vor.
• Wir haben versucht, die Struktur so zu gestalten, dass Anreize mit guten Ergebnissen verknüpft sind.
• Langfristig (Plan)