Nachruf auf Cyc

 (yuxi-liu-wired.github.io)
1 Punkte von GN⁺ 2025-04-09 | 1 Kommentare | Auf WhatsApp teilen
  • Cyc war ein 1984 von Douglas Lenat gestartetes AGI-Projekt auf Basis einer Common-Sense-Wissensbasis, hinterließ aber trotz 30 Millionen Assertions, 200 Millionen Dollar und 2.000 Personenjahren keinen Nachweis für das Erreichen allgemeiner Intelligenz
  • Lenat sah bei AM und EURISKO, dass frühe Heuristiken erschöpft werden, und wollte deshalb zuerst Millionen von Common-Sense-Fakten und Regeln manuell einpflegen, um eine knowledge pump in Gang zu setzen
  • Cyc verfügte über CycL, microtheories, rund 1.100 Inferenz-Engines und begrenztes Natural-Language-Parsing, erreichte aber nie den Punkt, an dem es natürliche Texte lesen und autonom lernen konnte
  • Öffentlich nachvollziehbare staatliche und kommerzielle Anwendungen waren unter anderem die Terrorism Knowledge Base, ein Einsatz bei der Cleveland Clinic, Netzwerksicherheit und Datenintegration und unterschieden sich nicht wesentlich von klassischen Expertensystemen und Information-Retrieval-Ansätzen
  • Cycorp erreichte langfristige finanzielle Stabilität und einige kommerzielle Erfolge, doch Geschlossenheit, fehlende Benchmarks und das Ende von OpenCyc begrenzten den Einfluss auf externe AI-Forschung und den Bereich Knowledge Retrieval

Zentrale Bewertung von Cyc

  • Cyc war Douglas Lenats über 40 Jahre verfolgtes symbolisches AI-basiertes AGI-Projekt
    • Ziel war es, menschliches Common-Sense-Wissen in einer logischen Sprache im großen Maßstab zu kodieren und darauf aufbauend ein System für Schlussfolgern und Lernen zu schaffen
    • Das Projekt wuchs auf etwa 30 Millionen Assertions, 200 Millionen Dollar und 2.000 Personenjahre an
  • Der von Lenat immer wieder angekündigte Durchbruch blieb letztlich aus
    • 2016 sagte Lenat, Cyc sei fast „done“, doch von autonomem Lernen oder Belegen für AGI war nichts zu sehen
    • Selbst unter der Annahme, dass die knowledge pump bis 2025 seit neun Jahren primed war, gibt es keine Anzeichen für erreichte general intelligence
  • Zusätzliches Archivmaterial zu Cyc ist im cyc-archive öffentlich verfügbar

Die Logik von AM und EURISKO hin zu Cyc

  • Lenats Ausgangspunkt war Automated Mathematician (AM), sein Promotionsprojekt von 1976
    • AM begann mit 115 concepts der Mengenlehre und etwa 250 heuristic rules und soll natürliche Zahlen, Primzahlen und die Goldbach conjecture wiederentdeckt haben
    • AM konnte jedoch keine neuen Heuristiken erzeugen und zeigte die Grenze, nach Verbrauch der anfänglichen Heuristiken an „die of boredom“ zu sterben
  • Das Nachfolgesystem EURISKO war der Versuch, die Heuristiken selbst entdecken zu lassen
    • Beim Traveller-Turnier The Trillion Credit Squadron gewann es 1981 und 1982 mit unorthodoxen Flottendesigns
    • Nach Lenats Schätzung lief EURISKO am Ende insgesamt 1.300 CPU-hours auf einer Xerox 1100 Lisp machine, und der Traveller-Sieg war „60/40% Lenat/EURISKO“
  • Auch EURISKO konnte letztlich Selbsterschöpfung nicht vermeiden
    • Die Selbstentdeckung von heuristic rules hing von meta-heuristic rules ab, und auch diese verloren nach einigen Einsätzen an Wirkung
    • Lenat kam zu dem Schluss, dass für die fortlaufende Erzeugung neuer Analogien und Ideen wie beim Menschen ein enormer Bestand an Common-Sense-Wissen nötig ist

Das Design von Cyc und die knowledge pump

  • Cyc begann 1984 innerhalb von MCC und wurde später von Cycorp Inc. fortgeführt
    • Der ursprüngliche Plan war, von 1985 bis 1988 400 enzyklopädische Artikel manuell zu kodieren und von 1988 bis 1993 dann 30.000 Artikel, um das System anschließend für AI-Probleme und kommerzielle Anwendungen zu nutzen
    • Die frühe Schätzung ging davon aus, dass für Phase 1 und 2 150 Personenjahre nötig seien
  • Der Fokus des Projekts verlagerte sich von der direkten Kodierung der „schwarzen Tinte“ einer Enzyklopädie hin zur Kodierung des von ihr vorausgesetzten, aber nicht ausgeschriebenen white space, also des Common Sense
    • Um Sätze wie „Napoleon died in 1821. Wellington was greatly saddened.“ zu verstehen, brauche man Common-Sense-Wissen über death, time, warfare, France und menschliche Emotionen
  • Lenats Metapher der knowledge pump wurde zur Kernstrategie von Cyc
    • Anfangs füttert der Mensch das Wissen direkt spoon-feed ein
    • Mit wachsendem Wissen sollte das System natürliche Sätze immer besser in Logik parsen und weniger Eingriffe von Ontologists benötigen
    • Ab einem bestimmten Punkt sollte Cyc Texte lesen, mit Menschen sprechen und sein Wissen selbstständig weiter ausbauen

CycL, microtheory und Inferenzstruktur

  • Die Hauptkomponenten von Cyc waren CycL, die Wissensbasis und die Inferenz-Engine
    • CycL basiert auf SubLisp und besitzt mit dem Epistemological Level (EL) eine für Menschen les- und schreibbare Hochsprache sowie Übersetzungen auf Heuristic Level (HL) für effizientere Inferenz
    • EL-Sätze können in mehrere HL-Sätze übersetzt und dann von unterschiedlichen Inferenz-Engines verarbeitet werden
  • CycL-Ausdrücke verwenden ähnlich wie Lisp die Form (#$relation <arg1> … <argn>)
    • Ist #$relation eine Funktion, handelt es sich um einen term, ist sie ein Prädikat, um eine assertion oder sentence
    • Spezielle relations wie #$implies, #$forAll und #$thereExists dienen als Inferenzregeln
  • Cyc bündelt Assertions in microtheories (Mt) bzw. contexts
    • „Socrates is alive“ kann im Kontext 500 BC wahr sein, im Kontext 1995 aber nicht
    • Unvereinbare Glaubensinhalte wie #$ChristianMt und #$IslamMt können in unterschiedlichen contexts liegen
    • 2010 verfügte Cyc über mehr als 20.000 microtheories, die hierarchisch angeordnet waren, teils 50 levels tief
  • Die Zahl der Inferenz-Engines wuchs auf etwa 1.100 an
    • Eine allgemeine Inferenz-Engine war zu langsam, daher wurden fortlaufend heuristic modules ergänzt, die auf bestimmte Muster und microtheories spezialisiert waren
    • Nach Lenat et al. 2007 wurde eine Struktur aus 1 strategist, 4 tacticians und 1.097 workers beschrieben
    • 2010 hieß es, es sei schneller, die allgemeinste Inferenz-Engine ausgeschaltet zu lassen, weshalb sie vollständig deaktiviert worden sei

Der Flaschenhals beim Natural Language Understanding

  • Das Problem, von CycL in natürliche Sprache umzuwandeln, war seit Ende der 1990er Jahre weitgehend aufgesetzt
    • (#$genls #$Dog #$Mammal) kann etwa als „Dogs are mammals.“ wiedergegeben werden
    • Über word concepts und denotation assertions werden englische Wörter mit Cyc-Konzepten verbunden
  • Umgekehrt blieb das Parsen natürlicher Sprache in CycL, also English → CycL, dauerhaft schwierig
    • Cyc NLP verwendete ein gestuftes System aus keyword matching, extraction templates, syntax templates und full syntax tree parsing
    • Das dictionary enthielt rund 200.000 words and phrases sowie noch mehr assertions
  • Öffentlich verfügbare Beispiele für English → CycL sind sehr selten und eher einfache Sätze
    • „A girl is on a white lounge chair“
    • „Bill Clinton sleeps.“
    • „An AI researcher is a kind of computer scientist.“
    • „Did you touch a blue object located in the capital of France on September 25th, 2022?“
  • Auch in der letzten Zusammenarbeit von Lenat und Gary Marcus blieb der letzte Flaschenhals Natural Language Understanding (NLU)
    • Jede Axiom wurde von Menschen geprüft, bevor es für default correctness, generality und die Zuordnung zu einer microtheory in die Wissensbasis aufgenommen wurde
    • Cyc konnte CycL als interlingua lesen, doch das Parsen von English nach CycL blieb schwierig

Öffentliche Anwendungen und kommerzielle Nutzung

  • Cycorp war über lange Zeit für militärische, nachrichtendienstliche und kommerzielle Kunden tätig
    • Bis 2002 beliefen sich die Gesamtkosten auf 60 Millionen Dollar, davon kamen 25 Millionen vom Militär
    • Laut einer Quelle von 2005 stammte seit dem ersten größeren Regierungsauftrag 1996 etwa die Hälfte des Umsatzes von Cycorp von US-Behörden, der Rest von Unternehmen
  • Relativ detailliert öffentlich dokumentierte Anwendungen sind die Terrorism Knowledge Base (TKB) und der Einsatz bei der Cleveland Clinic
    • TKB wurde 2004 aufgebaut und 2008 beendet
    • Sie enthielt mehr als 2.000 Terroristen, mehr als 700 terroristische Organisationen, mehr als 6.500 Terrorangriffe und mehr als 200.000 Assertions
    • Nutzer gaben formale englische Anfragen ein, Cyc schlug CycL-Fragmente vor, und die Nutzer stellten daraus vollständige Anfragen zusammen
  • Der Semantic Research Assistant (SRA) der Cleveland Clinic ist für den Zeitraum 2007–2010 belegt
    • Das System beantwortete Anfragen zu cardiothoracic surgery, cardiac catheterization und percutaneous coronary intervention
    • Das Folgeprojekt SemanticDB von 2012 umfasste eine Datenbank mit 120 Millionen semantic triples und SPARQL-Abfragen
    • Lenat sagte 2019, für das Cleveland-Projekt seien 120.000 neue Assertions nötig gewesen, also 0,5 % der gesamten Wissensbasis
  • Weitere nachweisbare Fälle betreffen Netzwerksicherheit, Datenintegration, medizinische und pharmazeutische Terminologie-Thesauri, Insider-Trading-Erkennung, Ursachenanalyse bei Fertigungsausbeute, IT-Support und Bestandsmanagement sowie die Vorhersage von Ausfällen bei Ölpumpanlagen
    • Diese Anwendungen lagen nahe an den Standardmethoden von expert systems, data integration und information retrieval

OpenCyc, Semantic Web und abgeleitete Projekte

  • Cycorp veröffentlichte 2001 OpenCyc als kleinen subset von Cyc
    • OpenCyc sollte dem eigentlichen Cyc um 24 bis 30 Monate hinterherhinken
    • Die letzte Version erschien 2012 und wurde offenbar um März 2017 ohne gesonderte Ankündigung eingestellt
  • Es gab auch ResearchCyc, das jedoch auf Forschungszwecke beschränkt war und wohl um 2019 ohne Hinweis endete
  • Cycorp beteiligte sich in den 2000er Jahren auch an Semantic Web-Initiativen
    • Es erschienen Arbeiten zur Integration von Cyc-Wissen mit DAML, RDF, OWL und XML
    • Versuche wie Standard Upper Ontology Working Group, The Cyc Foundation, FACTory, OpenCyc for the Semantic Web und LarKC endeten ohne nennenswerten Erfolg
  • Zwischen 2014 und 2016 kam es zu einem „massive extinction event“, bei dem die meisten offenen Informationen zu Cyc aus dem Internet verschwanden
    • OpenCyc, tutorials, references, vocabulary lists und The Ontological Engineer’s Handbook version 0.7 verschwanden
    • Dies fiel mit dem Übergang zu kommerziellen Anwendungen im Jahr 2016 zusammen

Geschlossenheit und externe Bewertung

  • Das Cyc-Projekt war nach akademischen Maßstäben sehr geschlossen
    • Veröffentlichungen zu Cyc behandelten meist, wie Wissen in Cyc eingegeben wird, und nur selten Anwendungen, die aus Cyc heraus entstehen
    • Über die Arbeitsweise der Inferenz-Engines und Details kommerzieller Anwendungen wurde kaum etwas offengelegt
  • Auch der Source Code von AM und EURISKO wurde nicht veröffentlicht
    • Lenat behauptete oft, der Code sei vor langer Zeit verloren gegangen, wurde aber kürzlich im DBL folder eines Backup-Datensatzes des Stanford AI Laboratory gefunden
    • Ob Lenat den Code bewusst schützen wollte, bleibt offen
  • Die Nutzung von Cyc in externer Forschung blieb stark begrenzt
    • Cyc wurde weder in der AI-Forschung noch im knowledge retrieval nennenswert verwendet und hat nie Leistungen auf öffentlichen Benchmarks gezeigt
    • Davis and Marcus 2015 meinten, dass es für Außenstehende sehr schwierig sei, den tatsächlichen Stand von Cyc zu beurteilen
    • Davis 2016 bewertete die Sicht der AI-Community insgesamt so, dass Cyc als „sehr ausgefeilter Fehlschlag“ gelte

Lenats AI-Philosophie und wiederkehrende Kritik

  • Lenat hielt 40 Jahre lang an einer einheitlichen AI-Philosophie fest
    • Im Zentrum stand das Knowledge Principle: Höhere Intelligenz entsteht aus dem Wissen, das ein System nutzen kann
    • Dazu zählen Konzepte, Fakten, Repräsentationen, Methoden, Modelle, Metaphern und Heuristiken
  • Mehrere alternative Wege lehnte er ausdrücklich ab
    • Logical AI nach Art von Simon und Newell funktioniere seiner Ansicht nach nicht über Spielzeugprobleme hinaus
    • Physical embodiment oder robotics seien für AGI nicht essenziell; eine „mystical worship of physical embodiment“ verzögere AGI sogar
    • Genetic algorithms und evolutionary algorithms würden in local minima stecken bleiben und seien zu langsam
    • Statistical machine learning, neural networks und self-organization methods kritisierte er als Versuche eines „free lunch“ ohne große anfängliche Wissensbasis
  • Auch im Zeitalter von deep learning und LLMs wiederholte Lenat dieselbe Argumentation
    • Neural networks würden nur „remembering and espousing“, aber nicht „understanding and inferring“ leisten
    • Cyc könne als „left brain“ mit neural networks als „right brain“ kombiniert werden
    • Sein letzter Aufsatz, Lenat and Marcus 2023, kritisierte die Suche nach einem free lunch einschließlich LLMs und betonte die Notwendigkeit symbolischer Repräsentation und Schlussfolgerung

Cycorp intern und praktisches Fazit

  • Cycorp erreichte für ein kleines Technologieunternehmen eine ungewöhnlich langfristige finanzielle Stabilität
    • Wiederholt wurde beschrieben, dass das Unternehmen seit der Gründung profitabel, schuldenfrei und im Besitz der Mitarbeiter gewesen sei
    • Die Mitarbeiterzahl wird mit etwa 50 bis 200 angegeben
  • Aussagen ehemaliger Cyclists auf Hacker News zeichnen ein gemischtes Bild
    • Positiv genannt werden eine intellektuelle und philosophische Kultur, die Lösung technischer Probleme bei large scale inference, Profitabilität und einige erfolgreiche kommerzielle Anwendungen
    • Negativ genannt werden 30 Jahre technischer Schulden, doppelte Implementierungen, Geschlossenheit, eine true believer mentality sowie technische Lösungen und kommerzielle Anwendungen, die extern nie offengelegt wurden
  • Einige Ehemalige hielten es für unklar, ob Cyc tatsächlich Common-Sense-Reasoning betrieb oder vor allem eine besonders gute Grundlage für die Entwicklung von Expertensystemen war
    • Auch ob erfolgreiche kommerzielle Projekte wirklich Common-Sense-Reasoning benötigten, blieb unklar
    • Zudem wurde angemerkt, dass sich in vielen Projekten schwer benennen ließ, wo genau die „AI“ eigentlich stattfand
  • Am Ende wirkte Cyc weniger wie ein AGI-Projekt als vielmehr wie die letzte überlebende große Expertensystem-Firma
    • Es ist plausibel, dass Cycorp sich mit hervorragenden knowledge engineers, SubLisp und Nischen-Expertensystemen mit Bedarf an higher-order statements differenzieren konnte
    • Dafür, dass diese Differenzierung ein Weg zu AGI war, wurde jedoch kein Beleg geliefert

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2025-04-09
Hacker-News-Kommentare

  • Mir kam der lustige Gedanke, das klinge wie ein Satz, den eine bewusste KI schreibt: „Hier gibt es nichts zu sehen, also geh einfach weiter.“
    Wie vannevar hatte ich nicht das Gefühl, dass Cyc sich in eine nützliche Richtung bewegte; es gab zwar Ideen, aber sie wirkten nicht kohärent genug, um eine glaubwürdige Hypothese dafür zu bilden, wie man ein System bauen könnte, das diese Ideen tatsächlich umsetzt.
    McCarthys Blockwelt-Demo fand ich ziemlich beeindruckend, und später formalisierten er und sein Student einige der Regeln, die den Kontext schaffen, in dem KI arbeiten kann; ich denke, das ist weiterhin wichtig, um das Chaos zu lösen, das LLMs verursachen.
    Ein frühes typisches Scheitern von LLMs war zum Beispiel der Rat, man solle Steine in einen Salat geben, damit er knackig wird; das war ein klassisches Kontextversagen, bei dem Daten aus dem Kontext „Humor“ und Daten aus dem Kontext „Rezept“ miteinander vermischt wurden. Herkömmlichen Modellen fehlt während des Trainings Kontext, deshalb gibt es im Modell kein Element, das die Ausgabe je nach Kontext anpasst, und so landen am Ende Steine im Salat.
    https://citeseerx.ist.psu.edu/document?repid=rep1&type=pdf&d...

    • Die Messlatte „Es gibt noch keinen Beleg für allgemeine Intelligenz“ scheint ziemlich hoch zu liegen.
      Alle wissen, dass symbolische KI nicht so skalierte wie mit Massendaten trainierte LLMs, aber es stimmt zugleich, dass sie versuchte, viele Probleme anzugehen, bei denen LLMs noch immer nicht besonders gut sind.

  • Wirklich ein großartiger Text, einer der besten, die ich dieses Jahr auf HN gelesen habe.
    Als Kind bin ich in einer KI-Dokumentation zum ersten Mal auf Cyc gestoßen; dort gab es das Beispiel eines Mannes, der sich mit einem Elektrorasierer rasiert. Cyc kam zu dem Schluss, dass der Mann beim Rasieren kein Mensch sei, weil der Rasierer ein elektrisches Gerät ist und elektrische Geräte keine Menschen sind.
    Auf mich als Kind wirkte das enorm anregend für die Fantasie und ließ mich KI studieren wollen; später, als ich erfuhr, dass Cyc mit Prolog-artigen Relationen arbeitet, verlor das Ganze etwas von seinem magischen Eindruck. Am Ende habe ich statt KI Informatik studiert, aber mein erstes Interesse wurde trotzdem durch Cyc entfacht.
    Lenat wirkte wie ein seltsamer Typ, aber um mehrere KI-Winter zu überstehen, braucht man solche obsessiven wahren Gläubigen. Vielleicht werden Wissensgraphen wie Cyc in Zukunft wieder wichtig, wenn man versucht, Halluzinationen aus statistischem Lernen zu entfernen.

    • Dasselbe Beispiel hat bei mir früher ebenfalls das Interesse an KI wieder neu entfacht.
      Intuitiv denke ich, dass in diesem Ansatz etwas steckt, das nötig ist, um generative KI zuverlässig zum Funktionieren zu bringen. Das Gehirn hat Assoziationsfähigkeit, aber ohne einen Filter, der Signal von Unsinn trennt und Inhalte verständlich macht, ist das nicht besonders nützlich.
      Ich frage mich, ob Cyc jemals in der Lage war, selbst Inhalte auf sinnvolle Weise zu erzeugen. Ein solches System könnte am Ende wohl viele Details selbst herleiten, sodass man ihm nach und nach weniger vorsetzen müsste.
    • Ist das nicht ein Satz, bei dem vor und nach „während des Rasierens“ Kommas stehen müssten? Deshalb fällt es mir schwer, diesen Satz richtig zu verstehen.
    • Statt „wirkt wie ein seltsamer Typ“ müsste es „wirkte“ heißen.
      Leider ist er vor einigen Jahren gestorben, und ich bedaure, dass ich das bis jetzt nicht wusste.

  • Ein sehr interessanter und lesenswerter Text, deutlich besser als die Stimmung hier in den Kommentaren.
    Etwas schade ist nur, dass der Autor der Annahme, dieses Projekt sei gescheitert, zu viel Gewicht gibt. Nur weil es 40 Jahre gedauert hat, eine Lösung zu finden, heißt das nicht, dass der Ansatz einfach gescheitert ist.
    Neuronale Netze brauchten ebenfalls mehr als 40 Jahre, bis sie wirklich nützlich wurden, und billig war das auch nicht; trotzdem bezeichnet man sie deshalb nicht als gescheitertes Projekt. Auch heutige LLMs würde ich noch nicht als so intelligent ansehen.
    Falls die Wissensbasis von Cycorp eines Tages öffentlich wird und fürs Training von LLMs genutzt werden kann, könnte sich der größere Wert dieser Daten zeigen.

    • Wahrscheinlicher als eine Veröffentlichung der Wissensbasis von Cycorp ist wohl, dass sie nach und nach weniger wichtig wird, während offene Alternativen entwickelt werden.
      Im Wikipedia-Umfeld arbeitet man an etwas wie einer offen entwickelten Zwischensprache, die von Menschen bearbeitet werden kann, um damit grundlegende enzyklopädische Sätze für Wikipedias in unterrepräsentierten Sprachen zu füllen. Viele Details sind noch offen, aber siehe https://en.wikipedia.org/wiki/Abstract_Wikipedia und https://meta.wikimedia.org/wiki/Abstract_Wikipedia.
      Das könnte möglicherweise in die Nähe des im Artikel angenommenen Niveaus kommen: ein System, das englische und japanische Texte erzeugen kann, wenn man ihm den passenden „gesunden Menschenverstand“ einspeist. Wie nützlich logisches Schließen über solche Sätze tatsächlich wäre, ist unklar, aber wenn es wirklich wertvoll ist, besteht diese Möglichkeit natürlich.
    • Die Dissertation meiner Tochter bestand größtenteils aus negativen Ergebnissen. Selbst wenn das Projekt gescheitert sein sollte, hätte man daraus lernen können, wenn es nicht so geheimniskrämerisch gewesen wäre. Es hätte viel offener gemacht werden können, auch ohne Open Source zu sein.
    • Statt darauf zu warten, dass Cycorp öffentlich wird, geht es wahrscheinlich schneller, darauf zu warten, dass OpenAI öffentlich wird :)
      Um mit „neuronalen Netzen“ zu vergleichen, müsste man genau genommen mit symbolischer KI im weiteren Sinne vergleichen. Symbolische KI hat in manchen Bereichen ziemlich gut funktioniert, aber bei Alltagsvernunft-Schlussfolgerungen oder Bereichen nahe AGI überhaupt nicht.
      Wenn man den Vergleich bei „Cyc“ belässt, halte ich einen Vergleich selbst für unmöglich. Ohne Übertreibung gab es vor 2020 kein KI-Projekt, das so teuer war wie Cyc. Kosten von über einer Million Dollar tauchten erst ungefähr zur Zeit von GPT-2 auf, und AlphaGo sowie Deep Blue haben zwar keine genauen veröffentlichten Zahlen, dürften aber einige Millionen gekostet haben und funktionierten zumindest nachweislich.
      Auch die Aussage, es habe 40 Jahre gedauert, ist nicht ganz präzise. LeNet-5 funktionierte zum Beispiel bereits 1998 und wurde eingesetzt, um echte Schecks an Geldautomaten zu lesen. Die Hauptkosten bestanden in der ingenieurmäßigen Ausdauer der LeCun-Forschungsgruppe bei Bell Labs über zehn Jahre hinweg, und die fertige Version brauchte auf einem Silicon-Graphics-Origin-2000-Server mit einem einzelnen 200MHz-R10000-Prozessor für das Training auf MNIST mit „etwa 20 Epochen“ 2 bis 3 Tage CPU-Zeit.
      1998 mag, gerechnet vom Startpunkt der Perzeptronen in den 1950ern, technisch ungefähr 40 Jahre später sein, aber wenn man diesen Maßstab auf neuronale Netze anlegt, dann müsste man Cyc ebenso vom Startpunkt der Logik-KI in den 1950ern an zählen. Und ich frage mich auch, wozu Cyc 1998 in der Industrie eigentlich nützlich war.

  • Laut der Website läuft es für Cyc hervorragend. Dort heißt es „The Next Generation of Enterprise AI“.
    Obwohl Lenat selbst 2023 gestorben ist, ist er im leadership team weiterhin als einziges Mitglied aufgeführt.
    https://cyc.com/

    • Wirkt wie ein trauriger Grabstein.
      Selbst wenn er nur bewiesen hat, dass es unmöglich ist, bin ich ihm wirklich dankbar dafür, dass er es versucht hat.
    • Vielleicht war Cyc erfolgreich, und Lenat lebt in diesem Bewusstsein weiter.

  • Man kann die öffentlich zugängliche Version von OpenCyc ausprobieren: https://github.com/asanchez75/opencyc
    Das stammt aus der Zeit, als eine Version des Systems auf SourceForge hochgeladen war; auf GitHub finden sich Datensätze, Wissensbasis und Inferenz-Engine. Man sollte allerdings beachten, dass es mit einer alten Java-Version geschrieben wurde.

  • Vor langer Zeit habe ich versucht, so viel wie möglich über AM und EURISKO zu lesen.
    Leider hielt Lenat seine Arbeit sehr privat, fast geheim; abgesehen von Papieren und Artikeln auf hoher Ebene gab es kaum etwas zu lesen. Dadurch konnte niemand auf dem aufbauen, was Lenat geschaffen hatte, und ich halte das für einen großen Verlust.

    • Heutzutage kann man EURISKO selbst ausführen.

  • Dieser Artikel ist nicht nur über Cyc, sondern auch ein ziemlich guter Überblick über symbolische KI insgesamt.
    Früher habe ich viel mit OpenCyc gearbeitet, in den letzten zehn Jahren aber nicht mehr.
    Wenn symbolische KI eine produktive Zukunft hat, dann wohl in der Nutzung von LLMs, um aus unstrukturierten Daten Wissensgraphen und symbolische Beziehungen zu konstruieren.

    • Als „Überblick über symbolische KI“ war er informationsarm und oberflächlich und wirkte, als würde er nur den alten Punkt wiederholen, dass symbolische KI „gescheitert“ sei.
      Diese Behauptung stimmt schlicht nicht. Wichtige Bereiche symbolischer KI wie SAT-Solving, automatisches Theorembeweisen sowie Planung und Scheduling leben weiterhin stark und haben reale Ergebnisse geliefert. Tatsächlich funktionieren SAT-Solving, Planung, Programmverifikation und automatisches Theorembeweisen heute so gut, dass sie nicht einmal mehr als „KI“ gelten.
    • LLMs könnten solche Graphen nutzen, um ihre eigenen Antworten zu überprüfen. Irgendwann wird das vielleicht in die Architektur eingebaut und nimmt die Form von Graph-Attention-Schichten oder Ähnlichem an.

  • Ich denke, Lenat lag zumindest insofern richtig, als die überwältigende Größe der Daten letztlich der Schlüssel zu nützlicher Intelligenz ist.
    Früher habe ich das Cyc-Projekt kritisiert, weil es einen immer größeren Misthaufen aufschichtet und hofft, darin ein Pony zu finden; bei LLMs ist so etwas in gewisser Weise tatsächlich passiert.

    • Irgendwann könnte das Pendel wieder zurückschlagen und symbolische Ansätze einen Durchbruch erzielen und erneut in Mode kommen.
      Wahrscheinlich wird das damit zusammenhängen, solche Systeme in Hardware zu beschleunigen, um riesige Mengen an Fakten zu verarbeiten — so wie GPUs für neuronale Netze.
    • Der Haufen an LLM-Trainingsdaten ist jedoch viel größer.
      Diese Daten sind echte menschliche Äußerungen in realen Kontexten; es ist kein Pony-Mist, sondern das Pony selbst.
      LLMs besitzen keine Intelligenz. Sie leiten nur die Intelligenz vieler Menschen weiter, indem sie für eine Anfrage Muster in zahllosen menschlichen Äußerungen abgleichen. Dass dieses statistische Verfahren extrem gut funktioniert, ist als nützlich erwiesen, aber die Tatsache, dass LLMs keinen kognitiven Zustand haben, begrenzt stark, wie weit diese Technologie reichen kann.
      Bei Cyc ist dagegen nicht einmal klar, was man überhaupt daraus gewinnen kann. In Kombination mit LLMs könnte es nützlich sein, aber es bleibt weiterhin fest verschlossen.
      Die großen Schlussfolgerungen, die der Autor auf Basis dieses einen Systems und Ansatzes über symbolische KI zieht, sind nicht gerechtfertigt. Der Autor schreibt selbst, dass „selbst Ernest Davis und Gary Marcus, die symbolischen KI-Ansätzen sehr wohlgesonnen sind, kaum Belege für den Erfolg von Cyc finden konnten — nicht weil Cyc nachweislich gescheitert wäre, sondern weil es insgesamt zu wenig Belege gab, weder in die eine noch in die andere Richtung“.
    • Es ist lustig, dass viele LLM-Datensätze buchstäblich „The Pile“ heißen.
    • Trotzdem wurde zumindest Llama vermutlich mit libgen trainiert, dem Archiv, das den Großteil der Bücher und Publikationen der Menschheit sammelt. Was nicht digitalisiert ist, fehlt natürlich.
      Wahrscheinlich gingen Reddit-Kommentare, Twitter-Nachrichten, libgen und arXiv-PDFs in einen großen Haufen ein.
      Also ist sicher auch Mist dabei, aber ebenso sorgfältig kodiertes Wissen, also Texte — und dass LLMs so oft richtig liegen, ist wirklich erstaunlich.
    • https://ai-2027.com/ setzt voraus, dass ausreichend gute LLMs Regeln und Fakten verwenden, um sich selbst neu zu schreiben.
      Das klingt nach Science-Fiction, aber auch Matrixmultiplikation, die Gespräche führt, klingt wie Science-Fiction.

  • Als ähnliches Scheitern von GOFAI gab es den jahrzehntelangen Großversuch der russischen Firma ABBYY, mit rein komplexem formalen Grammatik-Parsing hochwertige Übersetzungssoftware zu bauen. ABBYY war lange Marktführer bei OCR-Software.
    Die Hintergrundgeschichte ist ziemlich interessant, und dieser Text wurde von jemandem geschrieben, der bei ABBYY gearbeitet hat: https://sysblok.ru/blog/gorkij-urok-abbyy-kak-lingvisty-proi...
    Der Text ist auf Russisch, aber ironischerweise kann man ihn mit der Google-Translate-Funktion von Chrome und Ähnlichem in gutem Englisch lesen. Und diese Funktion basiert natürlich vollständig auf Machine Learning.
    Im Kern ist die Geschichte Cyc sehr ähnlich. Symbolische KI, logische KI und GOFAI können anfangs beeindruckende Ergebnisse liefern, und ABBYY war anfangs viel besser als Google Translate, aber symbolische Ansätze skalieren nicht gut. Am Ende gewinnen Big Data + Machine Learning.
    Der obige Text behandelt Googles These von 2009, „The Unreasonable Effectiveness of Data“: https://static.googleusercontent.com/media/research.google.c...
    Wichtig ist, dass 2009 lange vor großen Sprachmodellen, Transformern und sogar vor AlexNet lag.

  • Bereits vor etwa einem Jahr gab es einen großen Thread zu Cyc: https://news.ycombinator.com/item?id=40069298