Projekt Sid: Multi-Agenten-Simulation auf dem Weg zu einer KI-Zivilisation

 (github.com/altera-al)
2 Punkte von GN⁺ 2024-11-04 | 1 Kommentare | Auf WhatsApp teilen

  • Projekt Sid: Multi-Agenten-Simulation auf dem Weg zu einer KI-Zivilisation

    • Dieses Repository enthält den technischen Bericht „Project Sid: Many-agent simulations toward AI civilization“
    • Eine Veröffentlichung auf arXiv ist geplant

  • Abstract

    • KI-Agenten wurden bislang isoliert oder in kleinen Gruppen evaluiert, wobei Umfang und Komplexität ihrer Interaktionen begrenzt waren
    • Groß angelegte Simulationen, die zivilisatorische Prozesse widerspiegeln, wurden bislang nicht untersucht
    • Diese Studie zeigt, wie sich 10 bis mehr als 1000 KI-Agenten innerhalb einer Agentengesellschaft verhalten und weiterentwickeln
    • Vorgestellt wird die PIANO-Architektur (Parallel Information Aggregation via Neural Orchestration), die es Agenten ermöglicht, in Echtzeit mit Menschen und anderen Agenten zu interagieren und dabei die Konsistenz zwischen mehreren Output-Streams aufrechtzuerhalten
    • Mithilfe zivilisatorischer Benchmarks auf Basis der Menschheitsgeschichte wird die Leistung der Agenten in groß angelegten Simulationen bewertet
    • Diese in einer Minecraft-Umgebung eingerichteten Simulationen zeigen, dass Agenten autonom spezialisierte Rollen entwickeln, kollektive Regeln einhalten und verändern sowie an kultureller und religiöser Verbreitung teilnehmen können
    • Diese ersten Ergebnisse zeigen, dass Agenten wichtige Meilensteine auf dem Weg zu einer KI-Zivilisation erreichen können, und eröffnen neue Wege für groß angelegte soziale Simulationen, organisatorische Intelligenz von Agenten und die Integration von KI in die menschliche Zivilisation

  • Paper

    • Das Paper ist an zwei Stellen verfügbar
      • arXiv: Veröffentlichung geplant
      • PDF: 2024-10-31.pdf (in diesem Repository)

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-11-04
Hacker-News-Kommentare

  • KI-Agenten werden als Konzept mit Autonomie und einer persistenten Umgebung gesehen, was Potenzial für den Einsatz bei Geschäftsproblemen hat

    • Es gibt Bedauern darüber, dass Führungskräfte echte Innovationen nicht verstehen

  • Kein Philosoph oder KI-Forscher, aber es wird für wichtig gehalten, Systeme von Prinzipien ausgehen und sich weiterentwickeln zu lassen

    • Systeme sollten auf Prinzipien wie Selbsterhaltung, Kommunikation und Gedächtnis basieren
    • Das menschliche Leben lasse sich mit "Leben", "Freiheit", "Liebe/Verbundenheit" und "Gier" erklären

  • Dieses Projekt wird aus Sicht wissenschaftlicher Forschung als nicht nützlich angesehen

    • Es wird auf mangelndes Experimentdesign und fehlende klare Ziele hingewiesen

  • Es besteht die Überzeugung, dass das Paper aus falschen Behauptungen besteht

    • Die Behauptung, KI-Agenten hätten wahlbezogene Aktivitäten koordiniert, wird als nicht ausreichend belegt angesehen

  • Der Nutzen dieses Projekts für die Zivilisation wird bezweifelt, aber es könnte ein interessantes Simulationsspiel sein

  • In Mozilla Firefox wird das Video nicht abgespielt

  • Es wird angenommen, dass die Agenten in Minecraft ihre Rollen nicht erfüllen können und dass sich die soziale Organisation nur schwer auf echte menschliche Gesellschaften übertragen lässt

    • Es wird darauf hingewiesen, dass die Rollen der Agenten hart kodiert sind

  • Experimente mit GPT-4 werden als ungeeignet für ehrliche Forschung angesehen

  • Die Zivilisation wirke nicht so komplex wie Menschen und erinnere eher an geskriptetes Verhalten als an eine echte Gesellschaft

  • Es wird erwähnt, dass das Wort "Agentic" stört