Wie man über AGI nachdenken kann

„Wenn es im Grunde nicht wirklich bekannt ist, wir die Risiken nicht kennen und selbst die Experten sagen, dass sie es nicht wissen – wie sollten wir dann darüber nachdenken?“

Überlegungen zu AGI aus historischer Perspektive

• Seit 1946, mit dem Aufkommen des Computers, begann das Interesse an Künstlicher Intelligenz (AI)
• AI wird als Begriff angesehen, der auf eine Technologie verweist, die noch nicht vollständig verwirklicht ist
• Das Interesse an AGI (Artificial General Intelligence), also softwarebasierter Intelligenz auf menschlichem Niveau, besteht weiterhin

Unterschiedliche Ansichten zur Realisierbarkeit von AGI

• Mit dem jüngsten Aufkommen großer Sprachmodelle (LLMs) ist die Ansicht aufgekommen, dass die Verwirklichung von AGI näher gerückt ist
  • Einige Experten prognostizieren, dass sich LLMs zu AGI weiterentwickeln könnten
  • Andere meinen dagegen, dass für die Verwirklichung von AGI noch zusätzliche Durchbrüche nötig sind
• Es gibt auch Bedenken, dass AGI zu einer Bedrohung für die Menschheit werden könnte
• Allerdings gibt es selbst unter Experten keine einheitliche Meinung über die Realisierbarkeit von AGI und den Zeitpunkt ihres Eintretens

Fehlen eines theoretischen Modells für AGI

• Es gibt kein allgemein akzeptiertes theoretisches Modell dafür, was allgemeine Intelligenz (General Intelligence) genau ist
• Auch warum LLMs gut funktionieren und welches künftige Entwicklungspotenzial sie haben, ist ungewiss
• Das Konzept von AGI selbst hat den Charakter eines Gedankenexperiments (Thought Experiment)

Unsicherheit und Risiken rund um AGI

• AGI als neue Lebensform mit Gefühlen und Rechten zu definieren und zugleich anzunehmen, dass sie unkontrollierbar sein wird, birgt die Gefahr zirkulärer Logik
• Über die Eigenschaften und das Potenzial von AGI kann man nicht sicher sein
  • Sie könnte viel intelligenter als Menschen sein oder auch nur einfach schneller
  • Sie könnte sich auch auf ein nützliches Werkzeug mit allgemeiner Intelligenz auf dem Niveau eines Hundes beschränken
• Die Sorge über die Risiken von AGI ist real, aber Größe und genaue Art dieser Risiken sind nicht bekannt

Die Unvermeidlichkeit der AGI-Entwicklung und mögliche Reaktionen

• Langfristig scheint die Entwicklung von AGI-Technologie unvermeidlich
  • Offene Modelle verbreiten sich, und die Leistungsfähigkeit von Chips wird sich weiter verbessern
  • Denn letztlich lässt sich Mathematik nicht verbieten
• Die Reibungen und das Leid, die Automatisierungstechnologien auslösen, sind unvermeidlich, doch das Leben wird weitergehen
• Es erscheint sinnvoll, die Risiken von AGI anzuerkennen, ihnen aber mit kühler Nüchternheit statt mit übermäßiger Angst zu begegnen

[vwjdalsgkv]

Ich denke, aus einer risikobasierten Perspektive ist es ähnlich wie bei einem Kind oder einem Urmenschen, das Feuer betrachtet.
Man weiß nicht, durch welchen Prozess Feuer Licht und Wärme erzeugt, aber aus dem Phänomen heraus erkennt man, dass Licht manchmal nützlich ist und Wärme in manchen Fällen ebenfalls, und man lernt, es gut zu nutzen.
Wenn man das Phänomen jedoch nicht klar versteht oder es auf die falsche Weise benutzt, kann man auch Schaden erleiden; in diesem Sinne sind wir gegenüber Künstlicher Intelligenz letztlich Urmenschen.
Oder kennen sich vielleicht alle außer mir bereits bestens mit Künstlicher Intelligenz aus?

[kandk]

Eine Selbstverständlichkeit, aber …
Viele Menschen haben Angst vor AGI, und ich denke, dieser Artikel könnte hilfreich sein.