Nachruf auf Cyc

Das Scheitern des Cyc-Projekts

• Zusammenfassung: Das Cyc-Projekt war ein 40-jähriger Versuch, allgemeine Intelligenz in der künstlichen Intelligenz aufzubauen, indem symbolische Logik skaliert wurde, endete jedoch mit einem Fehlschlag. Dieser Essay beleuchtet die geheime Geschichte von Cyc, um sie breiter bekannt zu machen.

Der automatisierte Mathematiker und EURISKO

• Automated Mathematician (AM): Douglas Lenats erstes legendäres Projekt, ein System zur automatischen Entdeckung mathematischer Konzepte. Doch AM verfiel nach den ersten Entdeckungen rasch in intellektuelle Erschöpfung.
• EURISKO: Ein System, das entwickelt wurde, um die Grenzen von AM zu überwinden, und so konzipiert war, dass es heuristische Regeln für neue Entdeckungen selbst finden konnte. Doch auch EURISKO verfiel schließlich in intellektuelle Erschöpfung.

Die Geschichte von Cyc

• Der Beginn von Cyc: 1985 begann Lenat mit Cyc, indem er Alltagswissen manuell kodierte. Dabei entstanden rund 30 Millionen Aussagen bei Kosten von 200 Millionen Dollar.
• Kommerzielle Nutzung: Cyc wurde nach 2016 auf kommerzielle Anwendungen ausgerichtet, war funktional jedoch identisch mit den Services und Funktionen etablierter Unternehmen wie Oracle und IBM.
• Geheimhaltung: Cyc war von Geheimhaltung geprägt, für externe Forschende schwer nutzbar und konnte bei öffentlichen Benchmarks keine Ergebnisse vorweisen.

Gründe für das Scheitern von Cyc

• Grenzen symbolischer Logik: Lenat hielt an einem Ansatz mit symbolischer Logik fest, doch dieser scheiterte daran, allgemeine Intelligenz in der KI zu erreichen.
• Die Bedeutung von Alltagswissen: Lenat sah den Grund dafür, dass Menschen nicht in intellektuelle Erschöpfung verfallen, in einem enormen Bestand an Alltagswissen, mit dem sich fortlaufend neue Ideen erzeugen lassen.

Fazit

• Grenzen symbolischer Logik: Das Scheitern von Cyc zeigt, dass der Ansatz der symbolischen Logik nicht geeignet ist, allgemeine Intelligenz in der KI zu erreichen.

[GN⁺]

Hacker-News-Kommentare

• "Das ist ein Satz, den eine bewusste KI schreiben würde: Ich hatte den Eindruck: 'Hier gibt es nichts zu sehen, bitte weitergehen.'"

  • Ich hatte das Gefühl, dass Cyc sich nicht in eine nützliche Richtung entwickelt.
  • Ich war von McCarthys Blockwelt-Demo beeindruckt.
  • Ich denke, es war wichtig, die Regeln zu formalisieren, die den 'Kontext' schaffen, in dem KI funktioniert.
  • Frühere Fehlschläge von LLMs sind typische Beispiele für Kontextversagen.
  • Bestehende Modelle haben während des Trainings keinen Kontext, daher wird ihre Ausgabe nicht an den Kontext angepasst.

• "Ein sehr interessanter und wertvoller Artikel"

  • Es ist schade, das Projekt vorschnell als gescheitert abzutun.
  • Es hat mehr als 40 Jahre gedauert, bis neuronale Netze nützlich wurden.
  • Wenn die Wissensbasis von Cycorp allgemein zugänglich wird, könnte sie für das Training von LLMs verwendet werden.

• "Man kann die online veröffentlichte Version von opencyc ausführen"

  • Auf GitHub gibt es den Datensatz, die Wissensbasis und die Inferenz-Engine.
  • Es wurde in einer alten Version von Java geschrieben.

• "Ich habe versucht, viel über AM und EURISKO zu lesen, aber Lenats Arbeit war nicht öffentlich"

  • Es ist bedauerlich, dass andere nicht auf Lenats Arbeit aufbauen und sie weiterentwickeln konnten.

• "Der Artikel ist ein hervorragender Überblick über Symbolic AI"

  • Ich habe früher viel Zeit mit OpenCyc verbracht, mich aber seit 10 Jahren nicht mehr damit beschäftigt.
  • Die produktive Zukunft von Symbolic AI wird wohl damit zu tun haben, mit LLMs Wissensgraphen und symbolische Beziehungen aus unstrukturierten Daten aufzubauen.

• "Laut der Website läuft es bei Cyc gut"

  • Lenat ist 2023 gestorben, wird aber weiterhin als einziges Mitglied des 'Leadership Teams' aufgeführt.

• "Ich denke, Lenat lag in der Richtung richtig, dass die Datenmenge der Schlüssel zu nützlicher Intelligenz ist"

  • Das Cyc-Projekt wurde kritisiert, aber Ähnliches ist auch bei LLMs passiert.

• "Ein großartiger Essay! Vielen Dank an OP für die unermüdliche Recherche"

• "Ich habe keine starke Meinung zu Cyc, aber dieser Nachruf wirkt ziemlich gehässig"

  • Lenats grundlegende Überzeugung wird auch im ML geteilt.
  • ML erforderte eine überwältigende Menge an Rechenleistung.

• "Der große Cyc-Thread vom letzten Jahr"