- Untersucht den Begriff der „Intelligenz“ von Mensch und künstlicher Intelligenz philosophisch und technisch und überprüft dabei Definition und Wesen neu
- Definiert Intelligenz nicht als bloße Rechenleistung, sondern als verallgemeinerte Fähigkeit zur Anpassung an die Umwelt und zur Problemlösung
- Vergleicht biologische Intelligenz und künstliche Intelligenz und stellt Kontextverständnis und Zielgerichtetheit als Kernelemente heraus
- Erklärt, dass die Entwicklung der künstlichen Intelligenz als Spiegel dient, durch den sich das Wesen menschlicher Intelligenz tiefer verstehen lässt
- Diese Diskussion liefert wichtige Implikationen für die Neuausrichtung der AI-Forschungsrichtung und einer menschenzentrierten Designphilosophie
Definition und Wesen der Intelligenz
- Der Text betrachtet Intelligenz nicht einfach als Informationsverarbeitung oder Rechenleistung, sondern definiert sie als verallgemeinerte Fähigkeit, sich an die Umwelt anzupassen und Ziele zu erreichen
- Intelligenz ist nicht die Technik, ein bestimmtes Problem zu lösen, sondern die Flexibilität, neue Probleme zu erlernen und zu bewältigen
- Daher wird Intelligenz nicht als statische Eigenschaft, sondern als dynamischer Prozess beschrieben, der sich je nach Situation und Kontext verändert
- Es wird argumentiert, dass menschliche Intelligenz eng mit Bewusstsein, Emotionen und sozialer Interaktion verbunden ist und sich nicht auf bloß algorithmische Berechnung reduzieren lässt
- Menschliches Denken umfasst Zielsetzung, Werturteile und erfahrungsbasiertes Schlussfolgern
- Diese Elemente werden als Bereiche benannt, die heutige Systeme der künstlichen Intelligenz nur schwer nachahmen können
Vergleich von künstlicher und biologischer Intelligenz
- Künstliche Intelligenz erfüllt bestimmte Aufgaben durch datenbasiertes Lernen von Mustern, während Menschen Probleme durch kontextuelles Verständnis und Bedeutungsinterpretation lösen
- AI lernt statistische Korrelationen, Menschen erkennen dagegen Kausalität und Zweckgerichtetheit
- Dieser Unterschied zeigt, dass das Wesen von „Intelligenz“ eher in der Fähigkeit zur Bedeutungskonstruktion liegt als in bloßer Geschwindigkeit der Informationsverarbeitung
- Biologische Intelligenz entstand unter evolutionärem Druck und im Dienst des Überlebens, während künstliche Intelligenz durch von Menschen entworfene Zielfunktionen betrieben wird
- Daher wird die „Intelligenz“ von AI als künstliche Form beschrieben, die externen Zwecken untergeordnet ist
- Menschliche Intelligenz umfasst inhärente Motivationsstrukturen wie Selbsterhaltung und soziale Kooperation
Bestandteile der Intelligenz und das Problem ihrer Messung
- Der Text nennt Lernen, Schlussfolgern, Gedächtnis, Planung und Kreativität als zentrale Bestandteile der Intelligenz
- Diese Elemente wirken zusammen und erzeugen in einer bestimmten Umgebung adaptives Verhalten
- Kreativität wird beispielsweise als höherdimensionale Ausdrucksform von Intelligenz beschrieben, bei der bestehendes Wissen zu neuen Lösungen rekombiniert wird
- Auch auf die Schwierigkeit, Intelligenz zu messen, wird hingewiesen
- IQ- oder Benchmark-Tests messen nur bestimmte Arten von Problemlösefähigkeit und spiegeln die komplexen Eigenschaften realer Intelligenz nicht wider
- Daher müssen bei der Bewertung von Intelligenz kontextuelle Anpassungsfähigkeit und Generalisierungsvermögen gemeinsam berücksichtigt werden
Philosophische Fragen, die durch die Entwicklung künstlicher Intelligenz aufgeworfen werden
- Die rasante Entwicklung der künstlichen Intelligenz wirft erneut die grundlegende Frage auf, „was das Wesen der Intelligenz ist“
- Je stärker AI menschliche Sprache, Kreativität und Urteilsvermögen nachahmt, desto dringlicher wird die Untersuchung, worin die dem Menschen eigene Intelligenz besteht
- Dies weitet sich über ein bloß technisches Problem hinaus zu einer ontologischen und ethischen Frage aus
- Der Text erklärt, dass AI als Spiegel menschlicher Intelligenz fungiert
- Anhand der Grenzen und Fehler von AI lässt sich die Struktur und Stärke menschlichen Denkens klarer verstehen
- Daher wird AI-Forschung als Prozess der Erweiterung des Verständnisses vom Menschen interpretiert
Zukünftige Richtung der Intelligenzforschung
- Es wird betont, dass die zukünftige Intelligenzforschung menschenzentriertes Design und ethische Überlegungen einschließen muss
- Neben technischen Leistungen sollte auch der Einfluss von Intelligenz auf Gesellschaft und menschliches Leben bewertet werden
- Dies steht in Verbindung mit dem Problem des „value alignment“, also der Gestaltung von AI-Systemen so, dass sie menschliche Werte und Ziele widerspiegeln
- Die Neudefinition von Intelligenz wird als Prozess dargestellt, der die philosophische Grundlage der AI-Entwicklung stärkt
- Technologischer Fortschritt kann das Verständnis menschlicher Intelligenz vertiefen und zum Anlass werden, die Bedeutung von Intelligenz neu zu konstruieren
- Letztlich sollte sich die Intelligenzforschung darauf ausrichten, die Ko-Evolution (co-evolution) von Mensch und Maschine zu erforschen
2 Kommentare
Hacker-News-Meinungen
Dieses Buch schreit geradezu nach einem Lektor.
Es gibt etwa 100 Kapitelüberschriften, die wirken, als seien sie in einem halluzinatorischen Assoziationszustand entstanden, und jeder Abschnitt erscheint wie ein künstlerischer Versuch, den Leser zu verwirren.
Dazu kommen komplizierte Diagramme und Fachjargon, die nur lose mit dem Inhalt verbunden sind, und sogar Scroll-Hijacking, was das Lesen zusätzlich erschwert.
Wenn das Ganze 600 Seiten lang ist, werden die meisten es wohl kaum von Anfang bis Ende lesen.
Dabei wird die Zustimmung des Lesers in der Reihenfolge überprüfbare Fakten → offensichtliche Wahrheiten → weithin akzeptierte Meinungen → unbegründete Behauptungen → banale Schlussfolgerungen erzeugt.
Diese Struktur ist oft eine Überredungstechnik von Kultführern oder politischen Rednern, mit der schwach begründete Behauptungen geschickt eingeschleust werden.
Die Teile des Buchs zu Kybernetik und Berechnungstheorie sind gut recherchiert, aber nicht originell und haben keine integrierte Argumentation.
Durch die Vermischung von Biologie und Film verliert der Text eher an Fokus.
Der Autor hat starke Ansichten zu KI, scheint diese aber nicht direkt zu begründen, sondern sie in einem Überzeugungs-Sandwich zu verstecken.
Verwandte Referenzen: Compliment Sandwich, Beitrag zur History of Computing
Ich habe das ganze Buch nicht gelesen, aber es scheint wertvoller zu sein, Karl Friston oder Andy Clark zur Theorie des Predictive Processing zu lesen.
Das Design meiner Website ist zwar lesbarer, aber gerade die seltsame Struktur dieses Buchs macht für mich seinen Reiz aus.
Wenn ich heutzutage Texte in diesem Stil sehe, wirken sie auf mich einfach absichtlich vage oder pseudointellektuell, und ich übergehe sie dann.
In dieser Diskussion darf Marcus Hutters 『Universal Artificial Intelligence』 nicht fehlen.
Dieses Buch liefert eine mathematische Definition von Intelligenz und die Grundlagen algorithmisch-probabilistischer Entscheidungsfindung.
Auch die Grenzen heutiger KI-Technik lassen sich in diesem Rahmen erklären.
Ich würde gern fragen, ob hier überhaupt jemand das Buch tatsächlich gelesen hat.
Ich bin ungefähr bis zur Hälfte gekommen, und die Idee, dass Selbstreplikation in einem berechenbaren Universum natürlich entsteht, fand ich interessant.
Es fühlt sich ein wenig nach Wolframs Weltbild an, aber der Versuch, viele verschiedene Bereiche zu verbinden, ist anregend.
Als Populärwissenschaft funktioniert es gut.
Besonders eindrucksvoll fand ich das Konzept „Replikation beginnt mit schlechter Kopie“.
Der Prozess, in dem ein System zunächst unvollkommen kopiert und sich dann schrittweise verbessert, bis Replikation gelingt, war spannend.
Ich denke, diese Idee lässt sich auch auf Startups, Ideen und Finanzsysteme anwenden.
Nebenbei: Im brainfuck-Code der Online-Version steckt ein Bug, also schaut mal danach.
Ich denke, Bedeutung entsteht aus Zustandsänderungen.
Menschen sind komplexe Erzeuger von Bedeutung, und weil das Universum an Entropie gebunden ist, gibt es ein Zeitlimit.
Bis dahin sehe ich uns als Wesen, die Bedeutung abstrahlen wie Sterne Licht abstrahlen.
Ich habe das Buch selbst nicht gelesen, aber der Autor scheint zu behaupten, dass ein großer Teil menschlicher Intelligenz durch KI reproduziert werden kann.
Das heißt, auch nichtlebende Systeme können intelligentes Verhalten zeigen.
KI fehlt jedoch verkörperter Kontext (embodiment), weshalb es schwer ist, sie als Intelligenz derselben Art wie die menschliche zu betrachten.
Um die Ursprünge menschlicher Intelligenz zu verstehen, ist Ester Thelens 『A Dynamic Systems Approach to the Development of Cognition and Action** ein guter Ausgangspunkt.
Dort wird erklärt, dass menschliche Entwicklung nicht aus genetischer Programmierung, sondern aus der Wechselwirkung von Versuch und Irrtum entsteht.
Letztlich denke ich, dass die Kunst von Fürsorge und Bildung der Schlüssel zur Entwicklung der Zivilisation ist.
Das Attribut „künstlich“ schafft die Unterscheidung bereits.
Aber sie können keinen Willen (will) haben. Ihre Ziele sind letztlich nur der Wille des Programmierers.
Die Haltung des Autors, „Das ist keine Philosophie, sondern Wissenschaft in Turings Fußstapfen“, wirkt auf mich wie gespielte Bescheidenheit bei gleichzeitiger Geringschätzung der Philosophie.
Die Kernaussage „Imitation ist Intelligenz“ lässt sich durch soziale Beispiele leicht widerlegen.
Wenn etwa ein Schauspieler perfekt einen genialen Menschen spielt, ist er deshalb noch kein Genie.
Mit anderen Worten: glaubwürdig klingende Satzproduktion ist nicht das Wesen von Intelligenz.
Menschliche Intelligenz entspringt fundamentalem Schlussfolgern und sensorischer Mustererkennung, und das ist weiterhin ein Bereich, den KI noch nicht erreicht hat.
Selbst einfache neuronale Netze sind universelle Approximatoren (universal approximators), daher könnten sowohl biologische als auch künstliche Gehirne letztlich Systeme sein, die komplexe Funktionen der Welt approximieren.
Intelligenz ist nicht bloß Ein-/Ausgabe-Approximation, sondern die Fähigkeit, kausale Strukturen zu lernen, zu simulieren und zu planen.
LLMs wirken nur deshalb intelligent, weil sie bereits das von menschlicher Intelligenz erweiterte Wissen in sich tragen.
Die eigentliche Frage ist, ob sie selbst kausale Modelle aufbauen können.
Aktuelle LLMs sind gut in Interpolation, aber schwach in Extrapolation.
Sensorische Eingaben kommen in unterschiedlichen Zyklen und an unterschiedlichen Orten an; vereinfacht man das, kann wichtige Information verloren gehen.
In einem Interview, das ich einmal gehört habe, gab es die Hypothese, dass menschliches Reasoning sich nicht für logisches Denken, sondern für soziale Überzeugung entwickelt habe.
Das heißt, wir erzeugen Gründe, um andere zu überzeugen oder unser eigenes Verhalten zu rechtfertigen.
In diesem Sinn fühlt sich die Next-Token-Vorhersage von LLMs der Struktur menschlicher Konversation ziemlich ähnlich an.
Ich glaube, es war Forschung von Hugo Mercier.
Siehe Why do humans reason?
Um Werkzeuge herzustellen und Wissen weiterzugeben, brauchte es Lehre und Zusammenarbeit.
Passendes Zitat: Cambridge excerpt
LLMs hingegen verarbeiten keine Konzepte, sondern nur Wörter.
Sprache ist nur ein vom Menschen geschaffenes Werkzeug; Ideen und Sprache sind getrennte Dinge.
Man erhöht schrittweise die Zahl der durch Autovervollständigung auf dem Smartphone vorhergesagten Wörter und misst, wie ähnlich das menschlicher Konversation wird.
Dieses Buch behandelt die Zentralität von Vorhersage, die soziale Struktur von Intelligenz, die Kompressionsfunktion von Sprache und die Grenzen isolierter Systeme.
Die eigentliche Kernfrage ist jedoch, ob echte Intelligenz allein durch reine Rechenprinzipien möglich ist oder ob Umweltimmanenz nötig ist.
Ich denke, Kosten und Effizienz treiben jedes Lernen an.
Biologische Systeme müssen die nächste Generation unterstützen, daher wird Intelligenz zu einem durch ökonomischen Druck optimierten Suchprozess.
Verwandter Beitrag: What the Dumpster Teaches
Nur Temperatur zu messen und sich abzuschalten, ist noch keine Zielinferenz.
Echte Intelligenz müsste eine Meta-Ebene besitzen, auf der sie über ihre eigenen Ziele reflektieren kann.
Es gibt also ökonomischen Selektionsdruck; die Struktur ist daher nicht völlig anders.
Menschen mögen solche Widersprüche nicht und versuchen daher, mittels Geschichten (story) Kohärenz zu erhalten.
Religion, Politik, Recht und KI-Mythen sind allesamt narrative Mechanismen zur Abschwächung kollektiver Vorhersagefehler.
Mikroben überleben jedoch auch ohne so etwas.
Letztlich ist Intelligenz nur ein instabiler Wirbel aus Information und nicht zwingend nötig, um Leben aufrechtzuerhalten.
Wenn Bewusstsein emergent ist, dann könnte auch siliziumbasierte Intelligenz möglich sein.
Laut Amazon-Rezensionen ist der Kern des Buchs die Hypothese des vorhersagenden Gehirns, also die Idee, dass sich das Gehirn entwickelt hat, um die Zukunft vorherzusagen.
Zudem wird behauptet, dass einige moderne KI-Systeme Intelligenz, Bewusstsein und freien Willen besitzen könnten.
Eine Definition über „Vorhersage“ wäre daher nur ein zeitabhängiges, vorläufiges Merkmal.
Intelligenz ist das, von dem wir glauben, dass wir es selbst tun können.
Doch Computer können das zunehmend auch alles.
Am Ende ist menschliche Intelligenz vielleicht nur fortgeschrittenes Pattern Matching.
LLMs können bislang weder autonome Forschung noch hochrangiges Design leisten.
Außerdem fehlt ihnen die Fähigkeit zu vergessen und das Management ihres eigenen Kontexts.
Vieles an menschlicher Intelligenz findet sich auch bei anderen Tieren, wurde aber durch Schrift und Werkzeugherstellung beschleunigt.
Pattern Matching liefert die nützliche Heuristik „Korrelation ist wahrscheinlich Kausalität“.
Intelligenz ist die Fähigkeit, Systeme zu hacken und zu verstehen, wodurch sich immer komplexeres Wissen aufbauen lässt.
Von Feuer, Stein und Weizen sind wir inzwischen an dem Punkt angekommen, über Marsmissionen zu sprechen.