Seit ChatGPT sind die Erwartungen an AGI gestiegen, und selbst der Begriff Superintelligenz klingt inzwischen nicht mehr wie Science-Fiction. Dennoch bleibt das Konzept der Intelligenz weiterhin vage, und es ist schwer einzuschätzen, wie weit sie sich überhaupt steigern lässt.
Deshalb habe ich einmal folgende Hypothese aufgestellt: Intelligenz ist keine Eigenschaft, die sich unbegrenzt steigern lässt. Kein System kann die menschliche Intelligenz übertreffen.
https://blog.naver.com/conanoc/224107260779
Mich würde interessieren, was ihr darüber denkt.
21 Kommentare
Die Geschwindigkeit des technologischen Fortschritts stand im Verhältnis zur Bevölkerungszahl.
Je mehr die Nahrungsmittelproduktion zunahm, desto mehr trieb die gewachsene Bevölkerung die Gesamtintelligenz voran.
Ab einem bestimmten Punkt führte eine steigende Nahrungsmittelproduktion jedoch nicht mehr zu mehr Bevölkerung, mehr Intelligenz und mehr Technologie.
Bei künstlicher Intelligenz ist das anders.
Entsprechend der produzierten Hardware und der eingesetzten Strommenge steigt die Gesamtmenge an Intelligenz linear an.
Fazit: Die Leistungsfähigkeit künstlicher Intelligenz mag Grenzen haben, ihre Skalierung jedoch nicht.
Als extremes Beispiel sind unendlich viele Orang-Utans intelligenter als ein einzelner Mensch – zumindest in Bezug auf Versuch und Irrtum und die Gesamtintelligenz. Und wenn man sich die aktuelle Entwicklung ansieht, zeigt KI im Raum des Internets bereits allwissend wirkende Fähigkeiten, auch wenn sie beim bloßen Urteilen noch Defizite hat. Sie ist bereits intelligenter als ein durchschnittlicher Mensch.
Ich halte es für schwer vorstellbar, dass unendlich viele Orang-Utans klüger sind als ein einzelner Mensch. Egal wie viele Orang-Utans es gibt: Sie lösen keine Probleme, die wir interessant fänden, und unter der Annahme, dass „Intelligenz gleich Problemlösungsfähigkeit ist“, reichen sie daher nicht an die menschliche Intelligenz heran. Natürlich ist es aus Sicht der Orang-Utans etwas unfair, dass wir überhaupt festlegen, was ein „Problem“ ist.
Dass ChatGPT schon jetzt intelligenter ist als Menschen, kann ich bis zu einem gewissen Grad nachvollziehen. Es weiß jedenfalls viel mehr als ich. Ein regelrechter Alleskönner.
Aber auch in Bezug auf Problemlösungsfähigkeit hat KI nach wie vor viele Schwächen. Deshalb sagt man wohl auch, dass sie das AGI-Niveau noch nicht erreicht hat.
Zwei Personen, A und B, schreiben eine Prüfung und erreichen 80 beziehungsweise 60 Punkte. Man könnte sagen, dass A klüger ist, aber zu behaupten, A habe eine höhere Intelligenz, ist etwas heikel.
Wenn B für die nächste Prüfung härter lernt und A und B dann 70 beziehungsweise 90 Punkte erzielen, müsste man diesmal sagen, dass B klüger ist und eine höhere Intelligenz hat.
Menschen können ihr Wissen durch Lernen erweitern, und wie bei KI gibt es für die Erweiterung von Wissen keine feste Grenze.
Menschen können schon heute mit Papier und digitalen Geräten Wissen speichern und so die Kapazitäts- und Gedächtnisgrenzen des Gehirns überschreiten, und sie können bei Bedarf zusätzlich lernen.
Entscheidend ist weniger das Wissen selbst als die Fähigkeit, dieses Wissen zur Lösung von Problemen einzusetzen.
Um Probleme zu lösen, muss man Wissen finden oder selbst erzeugen, das noch nicht im vorhandenen Wissensbestand enthalten ist und sich auch nicht einfach irgendwo beschaffen lässt.
Um zu überprüfen, ob dieses Wissen korrekt ist und ob sich damit das Problem lösen lässt, muss man externe Werkzeuge einsetzen. Genau hier entsteht das Problem der Skalierbarkeit.
Für neue physikalische Entdeckungen reichen Gedankenexperimente allein nicht aus. Möglicherweise muss man neue physische Werkzeuge bauen oder mit bestehenden Werkzeugen verschiedenste Experimente durchführen.
Schon für die Entwicklung eines neuen AI-Modells braucht man nicht nur Coding, sondern auch physische Infrastruktur in Form von Trainings-Hardware, und wenn nötig muss man zusätzliche GPUs kaufen, um die vorhandene Infrastruktur zu erweitern.
Bei solchen physischen Arbeiten werden Menschen noch lange Unterstützung leisten müssen, und wir werden zwangsläufig mit der Frage konfrontiert sein: „Könnte AI bei anderen Aufgaben als den physischen Arbeiten, die wir derzeit unterstützen, vielleicht doch besser sein?“.
Zunächst einmal ist diese Annahme (unter der Voraussetzung, dass wir Beobachter/Rechner innerhalb unseres physikalischen Systems sind) aufgrund des Unschärfeprinzips unmöglich (siehe Laplaces Dämon). Und da irreversible Prozesse wie Löschen/Initialisieren beim Umgang mit Informationen mit einer Zunahme der Entropie einhergehen (Landauers Prinzip), unterliegen Informationsverarbeitungsvorgänge wie Lernen/Berechnung im physikalischen System letztlich einer Obergrenze durch Energie-, Zeit- und Wärmebedingungen.
Und wenn man ein LLM unbedingt mit dem Gehirn vergleichen will, dann stelle ich es mir so vor: 1. Man friert den Zustand eines menschlichen Gehirns vollständig ein, sodass zusätzliches Lernen bzw. weitere Verbesserung unmöglich wird, 2. man entfernt alle Sinnesorgane und 3. man lässt es nur noch Braille-Sequenzen aufnehmen und ausgeben. Wenn man am Ende von außen draufschaut, wäre dieses Gehirn von einem LLM doch gar nicht zu unterscheiden, oder? Bedeutet das dann, dass dieses Gehirn nicht intelligent ist?
Was in dem verlinkten Text behauptet wird, scheint mir nicht mehr als eine bloße Idee zu sein; im Text selbst sehe ich keine nennenswerten Belege, die das stützen würden.
Gibt es denn eine Grundlage für die Annahme, dass selbst künftige AI-Modelle die heutigen Beschränkungen nicht überwinden können?
Nick Bostrom hat in seinem Buch "Superintelligence" drei Formen der Superintelligenz vorgestellt.
Von diesen scheint sich der von Ihnen angeführte Text nur auf qualitative Superintelligenz zu beziehen. Aber selbst wenn qualitative Superintelligenz unmöglich wäre, gibt es keinen Grund anzunehmen, dass Geschwindigkeits-Superintelligenz und kollektive Superintelligenz unmöglich wären.
Schon heute zeigen viele AI-Modelle, dass sie Ergebnisse in einer Geschwindigkeit ausgeben können, die mit Menschen nicht ansatzweise vergleichbar ist, und intern sind sie als Mixture-of-Experts-Struktur aufgebaut.
Daher kann man erwarten, dass AI-Technologie im Zuge ihrer Weiterentwicklung den Menschen in ihren Gesamtfähigkeiten in vielerlei Hinsicht übertreffen wird, selbst wenn die Tiefe des individuellen Denkens nur auf menschlichem Niveau läge.
Auch die Begründung dafür, dass qualitative Superintelligenz unmöglich sein soll, wirkt auf mich schwach.
Bereits vor über zehn Jahren haben wir erlebt, dass AI den Menschen im spezifischen Bereich Go übertroffen hat. In diesem Sinne scheint bereits klar, dass Maschinen zumindest in Bereichen mit eindeutig festgelegten richtigen Antworten die menschlichen Fähigkeiten übertreffen können.
Ich glaube nicht, dass mit dem Eintreten von Superintelligenz bei Problemen ohne feststehende richtige Antwort plötzlich eine "richtige Antwort" entsteht.
Bei ethischen Dilemmata zum Beispiel gibt es nur unterschiedliche Gewichtungen von Werten; eine objektiv festgelegte richtige Antwort kann es dort nicht geben.
Ich denke aber, dass sie die Diskussion solcher Fragen unterstützen kann, etwa indem sie auf Aspekte hinweist, an die Menschen nicht gedacht haben. In gewissem Maß halte ich das schon heute für möglich.
Vielen Dank für Ihre gute Einschätzung.
Meine Vermutung, dass es „wahrscheinlich keine Intelligenz geben wird, die den Menschen übertrifft“, stützt sich auf das „Wesen der Intelligenz“.
Wenn ich Intelligenz in zwei Arten unterteile – das, was man bereits kennt und gut beherrscht (Typ A), und das Umherschweifen auf der Suche nach etwas, das man nicht weiß (Typ B) –, dann wird möglicherweise klarer, wo die Grenzen liegen.
Typ A ist der Bereich, in dem die heutige AI stark ist, und zugleich der Bereich, den wir im engeren Sinne leicht als Intelligenz ansehen. Das ist vergleichsweise einfach (auch wenn es für AI lange Zeit dennoch schwierig war), deshalb wirken die Grenzen hier auch recht klar. Es ist, als läge bei einer einfachen Mathematikaufgabe die Obergrenze bei 100 Punkten.
Typ B mag vielleicht nicht wie Intelligenz aussehen, aber tatsächlich lösen wir schwierige Probleme gerade dank dieser Fähigkeit. Obwohl wir nicht wissen, wie man AI auf AGI-Niveau erschafft, bauen wir sie dennoch. Es ist nicht bloß reiner Zufall wie bei Flemings Entdeckung des Penicillins; vielmehr finden wir die Antwort, indem wir in einem Raum zahlloser Möglichkeiten schrittweise Richtungen auswählen, die etwas wahrscheinlicher zum Ziel führen. Die Grenze erscheint hier weniger qualitativ als quantitativ, und man könnte an die von Ihnen erwähnte schnelle bzw. kollektive Superintelligenz denken. Da sich Probleme der realen Welt nicht allein durch Gedankenexperimente lösen lassen, gibt es der Geschwindigkeit Grenzen. So wie auf der Gangnam-daero selbst ein sehr schnelles Auto kaum über 100 km/h hinauskommt.
Auch ich denke, dass der Fall AlphaGo ein interessanter Bezugspunkt sein kann. Ich halte das in diesem Fall eher für einen quantitativen als für einen qualitativen Unterschied. Das Ergebnis war möglich, weil man Muster auf menschlichem Niveau erfasst und dann viel mehr Varianten als ein Mensch in hoher Geschwindigkeit durchsuchen ließ.
Noch interessanter ist, dass AlphaGo zwar anhand menschlicher Go-Partien trainiert wurde, AlphaZero später jedoch ohne menschliche Partien lernte und darauf trainiert wurde, selbst gute Züge zu finden. Obwohl es dabei höhere Werte als AlphaGo erzielte, ähnelten die Go-Muster von AlphaZero den menschlichen Mustern fast vollständig. Mit anderen Worten: Die Joseki haben sich nicht wesentlich verändert. Das bedeutet, dass der Mensch bereits nahezu optimale Züge gefunden hatte. Genau das ist die Grenze bei Typ A.
Der Vergleichsmaßstab kann je nach Person unterschiedlich sein, aber ich persönlich würde sagen, dass AI und Mensch im Go dasselbe Niveau erreicht haben. Ein Go-Anfänger und ein professioneller Go-Spieler unterscheiden sich qualitativ in ihrer Spielstärke, AI ist jedoch lediglich etwas schneller als ein professioneller Go-Spieler.
Hm? Ich kenne mich mit Go zwar nicht gut aus, spiele aber schon ziemlich lange Schach, und dieser Punkt klingt völlig anders als das, was ich von Go-Spielern gehört habe.
Gibt es dafür vielleicht eine Grundlage oder Quelle?
Soweit ich weiß, hat AlphaGo Züge untersucht, die Menschen als ungünstig eingeschätzt und deshalb nicht gespielt hatten, und daraus neue Joseki gemacht.
https://namu.wiki/w/3%EC%9D%98%203
Im Fall von Go scheint bereits die Einschätzung selbst, „AI und Mensch hätten das gleiche Niveau erreicht“, auf einem Missverständnis zu beruhen. AI hat im Bereich Go schon bewiesen, dass sie den Menschen überlegen ist.
Der derzeit höchstbewertete Profi im Go ist Shin Jin-seo 9-dan mit 3866 Punkten. (siehe https://www.goratings.org/ko/)
Bei dem von Ihnen erwähnten AlphaGo Zero (2017) lag das veröffentlichte Elo-Rating jedoch bei stolzen 5185 Punkten.
Zur Einordnung: Bei einem Elo-Unterschied von 200 Punkten entspricht das ungefähr einem Leistungsunterschied, bei dem man drei von vier Partien gewinnt; bei einem Unterschied von 1200 Punkten soll die erwartete Siegquote bei 99,9 % liegen.
Die Version von AlphaGo, die gegen Lee Sedol spielte und vier von fünf Partien gewann, bei einer verlor, hatte ein Elo-Rating von 3739 Punkten; und als man diese Version gegen AlphaGo Zero antreten ließ, gewann AlphaGo Zero mit 100:0.
Daher scheint mir die Annahme, bei einem Punktunterschied von über 1300 gebe es keinen qualitativen Unterschied, schlicht die Realität zu ignorieren.
Auch die Behauptung, dass sich die Joseki im Go selbst nach dem Auftreten von AI nicht wesentlich verändert hätten, lässt sich schon mit einer einfachen Google-Suche als unzutreffend erkennen.
Außerdem gilt: Selbst wenn die Ergebnisse der AI-Verarbeitung zu menschenähnlichen Resultaten führen, garantiert das noch nicht, dass der menschliche Ansatz immer das bestmögliche Verfahren ist.
Zu behaupten, die menschliche Intelligenz stehe bereits am absoluten Gipfel und könne nicht weiter steigen, läuft letztlich auf die Aussage hinaus, dass menschliche Lern- und Problemlösungsweisen innerhalb des Möglichen bereits optimal seien.
Aber ist das wirklich so? Die menschliche Intelligenz wurde im Verlauf der Evolution unter Selektionsdruck geformt, um in jeder Epoche Probleme wie das Überleben zu lösen, und ist deshalb von allerlei Heuristiken und Verzerrungen geprägt.
Im Moment stimmt es zwar, dass künstliche Intelligenz selbst das noch nicht vollständig erreicht hat; doch daraus folgt nicht, dass auch zukünftige künstliche Intelligenz den Menschen nicht übertreffen könnte.
Zum Schluss denke ich sogar, dass gerade „herumzusuchen, weil man es nicht weiß“ ein Bereich ist, in dem Maschinen dem Menschen weit überlegen sein können. Maschinen können schließlich viele Instanzen einsetzen und parallel suchen. Sogar das wurde auf dem von Ihnen erwähnten Niveau von AlphaGo Zero bereits demonstriert.
Dass es in wissenschaftlichen Experimenten wie in Physik oder Chemie Engpässe beim Wissenserwerb geben wird, dem stimme ich zu; aber in Bereichen, in denen solche Engpässe nicht oder nur in geringerem Maß bestehen, dürfte vielmehr eine noch schnellere Entwicklung möglich sein. Dazu zählen etwa Mathematik oder Coding.
Und selbst an den Punkten, an denen Engpässe auftreten, gibt es Bereiche, in denen eine viel schnellere Entwicklung als heute möglich ist. (Wie AlphaFold zeigt.) Man wird mithilfe von Simulationen vorab etwas vorhersagen, um die Zahl tatsächlich notwendiger Experimente zu reduzieren, und repetitive Experimente mit Robotern automatisieren.
Wenn das so ist, wäre es dann nicht naheliegend zu prognostizieren, dass die von Ihnen als „Typ B“ bezeichnete Form kollektiver/geschwindigkeitsbasierter Superintelligenz den Menschen in genau diesen Bereichen bereits übertreffen wird? Menschliche Grenzen und theoretische bzw. physikalische Grenzen sind schließlich klar unterschiedliche Dinge. Wenn man behauptet, „bloß schneller zu sein ist keine qualitative Verbesserung“, dann ist das meines Erachtens lediglich ein Verschieben der Torpfosten und ein Ablenken vom eigentlichen Punkt. Das tatsächliche Ergebnis wird den menschlichen Output offenkundig übertreffen, sodass sich an diesem Punkt kaum noch überzeugend sagen lässt, es sei „nur schneller“.
Eher plausibel fände ich die Behauptung, dass die menschliche Intelligenz an biologische Grenzen gestoßen ist und sich deshalb über das heutige Niveau hinaus kaum noch stark steigern lässt.
Wenn man jedoch die kühne These aufstellt, dass die Intelligenz von Maschinen, die nicht an biologische, sondern an physikalische Grenzen gebunden ist, qualitativ ähnliche Grenzen wie die menschliche haben werde, dann braucht es dafür meiner Ansicht nach umso überzeugendere Belege und Argumente.
Um auf die Meinungen der beiden unten zu antworten: Wahrscheinlich geht es darum, wie man bewertet. Da ich keine Bewertungskriterien genannt habe, ist meine Behauptung von vornherein vielleicht etwas vage.
Nach meinem Maßstab möchte ich den Unterschied zwischen 80 und 90 Punkten in Mathematik oder zwischen 1 Stunde und 30 Minuten zum Lösen eines Problems nicht als Unterschied in der Intelligenz ansehen. Bei einem Unterschied in dieser Größenordnung ist es wohl besser, von derselben Intelligenzstufe zu sprechen. Auch zwischen Menschen gibt es große Abweichungen, und trotzdem fassen wir das als „menschliche Intelligenz“ zusammen. Auch Profi-Go-Spieler sind nicht alle gleich stark und haben unterschiedliche Elo-Rankings, aber wir sagen nicht, dass sie Go auf völlig unterschiedlichen Niveaus spielen; wir sagen jedoch, dass sie Go auf einem völlig anderen Niveau spielen als ein Amateur auf dem Niveau von 10 Kyu. In diesem Sinne ist AlphaZero, obwohl es Lee Sedol immer schlägt, nicht auf einem anderen Go-Niveau. (Wenn man so argumentiert, müsste man im Go wohl sagen, dass Gott, Mensch und KI auf demselben Niveau sind. Vorausgesetzt natürlich, dass Gott kein Go auf einem völlig anderen Niveau spielen kann. Zum Beispiel, wenn Gott selbst mit 9 Handicap-Steinen noch gegen Menschen gewinnen würde.)
Auf meine Behauptung „Die Joseki im Go haben sich nicht grundlegend verändert“ wirkt die Erwiderung, es habe sich durchaus etwas geändert und es seien auch neue Joseki entstanden, ein wenig wie ein „Widerspruch um des Widerspruchs willen“ — aber genau das macht Diskussionen ja interessant. Ohne Widerspruch wären Diskussionen zu fade.
Zusätzlich scheint es mir, dass wir die Perspektiven von KI besser einschätzen können, wenn wir schon allein qualitative Unterschiede und Geschwindigkeit voneinander trennen. Wie zuvor erwähnt, ist es so, wie man auf der Gangnam-daero kaum Tempo machen kann: Die Probleme, die wir tatsächlich lösen müssen, liegen in Umgebungen, in denen sich Geschwindigkeit nur schwer ausspielen lässt. Wenn die Geschwindigkeit begrenzt ist und die Intelligenz qualitativ auf ähnlichem Niveau liegt, wird es schwer, beim Ergebnis einen Unterschied zu erzeugen. Natürlich mag es einige Bereiche geben, in denen es keinen Geschwindigkeitsengpass gibt, aber Mathematik und Coding scheinen mir nicht dazu zu gehören; in diesen Bereichen dürfte zunächst eine qualitative Verbesserung des Niveaus wichtiger sein. (Meine These ist übrigens nicht, dass KI den Menschen nicht einholen wird.)
Wenn ein Mensch und eine KI gegeneinander antreten und eine Seite mit einer Siegquote von über 99 % überwältigend gewinnt, wie kann man dann sagen, dass sie auf demselben Niveau sind? Das ist letztlich nichts anderes, als überhaupt nicht mehr zu unterscheiden.
Die Aussage „Im Baduk sind Gott, Mensch und KI auf demselben Niveau“ wirkt so, als würde man behaupten, ihre Fähigkeiten seien im Wesentlichen gleichwertig, nur weil Gott, Mensch und KI beim Baduk dieselben Regeln teilen. Aber dieselben Regeln zu teilen und dieselbe Spielstärke zu haben, sind zwei völlig verschiedene Dinge.
Nach diesem Maßstab könnte man selbst dann noch sagen, sie seien auf demselben Niveau, wenn ein empirischer Abstand eindeutig vorhanden ist. Daher scheint mir die Diskussion nach diesem Kriterium keinerlei Bedeutung zu haben.
Wenn man sich einen anderen Beitrag ansieht, den diese Person in ihrem Blog veröffentlicht hat, scheint bereits die Ausgangsprämisse dafür, was als Beleg akzeptiert wird, stark von meinen Maßstäben abzuweichen.
Solange dieser Unterschied besteht, dürfte eine normale Diskussion schwer möglich sein, daher belasse ich es meinerseits hier.
Ah, hahaha — als ohne weitere Belege für den Widerspruch von Widerspruch um des Widerspruchs willen die Rede war, dachte ich nur: Was will diese Person eigentlich? …
Vielen Dank auch für den Blog-Link. Ich denke, bis hierhin reicht es dann auch für mich.
Irgendwie klang Ihre Redegewandtheit ja schon alles andere als gewöhnlich — Sie sind also derjenige, der bei einer Wette über die Mondlandungs-Verschwörung mit der Verschwörungstheorie gewonnen hat.
Wenn man es sogar schafft, mit der Behauptung einer Mondlandungs-Verschwörung Erfolg zu haben, frage ich mich wirklich, ob es für diese Person überhaupt ein Wett-Thema gibt, das unmöglich wäre.
Ich habe den Unterschied in den Perspektiven bei den Bewertungskriterien gut verstanden. Wie Sie sagten: Wenn man den Maßstab anlegt, dass schon ein um 1 Punkt besseres Ergebnis auf eine höhere Intelligenz hinweist, dann denke ich ebenfalls, dass die „Kontinuumshypothese der Intelligenz“ falsch ist.
Vielen Dank für Ihre Meinung.
Die einzige Möglichkeit, die Grenzen des Möglichen bei einer Aufgabe herauszufinden, besteht darin, sich ein wenig in den Bereich des Unmöglichen vorzuwagen.
Eine interessante Meinung. Eine Hypothese ist eben nur eine Hypothese, und je nach Person kann es unterschiedliche Ansichten dazu geben. Es wirkt seltsam, wenn man übermäßig die eigene Vorliebe in eine Hypothese hineinprojiziert und dann mit „Die Hypothese gefällt mir nicht. Die Hypothese ist unangenehm“ reagiert. Dagegen ist es überhaupt nicht ungewöhnlich, wenn man einfach meint, die Hypothese sei falsch, oder in etwa fragt, woher man das wissen wolle — das ist schließlich eine persönliche Meinung.
Da Sie eine Frage gestellt haben, antworte ich darauf so: Um diese Hypothese zu diskutieren, muss man unbedingt darüber nachdenken, was „Intelligenz“ überhaupt ist. Das Wesen der Intelligenz ist unscharf. Wir haben dafür bislang noch keine klare, allgemein akzeptierte Definition. Für Laien und auch für Entwickler im AI-Bereich ist ihr Wesen vage, zugleich wird in der kognitiven Psychologie viel dazu geforscht.
Fragen sind ein sehr wirksames Mittel, um Antworten zu finden, und eine Hypothese ist gewissermaßen auch eine Art von Frage.
Ich habe den Inhalt in meinem Blog festgehalten, aber wenn Sie sagen: „Ich verstehe nicht, worum es geht. Die Hypothese gefällt mir auch nicht“, dann kann ich wohl nicht mehr viel dazu sagen. Vermutlich liegt es einfach daran, dass ich nicht besonders gut schreiben kann.