Ein Vergleich zwischen KI-Sprachmodellen und der Sprachentwicklung von Kleinkindern
- Während sich KI-Sprachmodelle immer schneller weiterentwickeln, erlebt der Autor zu Hause, wie ein kleines Sprachmodell – ein Kleinkind – Sprache lernt.
- Der Text vergleicht die Sprachaneignung von KI und Menschen und untersucht die Beziehung zwischen technischem Fortschritt und menschlicher Natur.
- Während der Spracherwerb von Kleinkindern natürlich und instinktiv verläuft, beruhen KI-Sprachmodelle auf komplexen Algorithmen und riesigen Datenmengen.
Meinung von GN⁺
- Das Wichtigste an diesem Text ist der Kontrast zwischen den Fortschritten der KI-Technologie und dem natürlichen Lernprozess des Menschen.
- Der Vergleich zwischen KI-Sprachmodellen und dem Spracherwerb von Kleinkindern hilft dabei, die komplexe Beziehung zwischen Technologie und menschlicher Natur zu verstehen.
- Für Leser ist das besonders interessant, weil der Text untersucht, wie sich die Entwicklung modernster Technologie von den grundlegenden menschlichen Lernprozessen unterscheidet und welche Wechselwirkungen zwischen beiden bestehen.
1 Kommentare
Hacker-News-Meinungen
Wenn das Verstehen dem Sprechen so weit voraus ist, dass ein Kind auf „Zeig mal auf den Staubsauger“ reagieren und darauf zeigen kann, ist es erwähnenswert, dass man ihm auch Babyzeichensprache beibringen kann.
Üblicherweise fängt man etwa ab dem 9. Lebensmonat an; Ausdrücke wie Hunger/mehr bitte, genug/fertig, etwas zu trinken dürften hohe Priorität haben.
Siehe: https://babysignlanguage.com/chart/, https://www.thebump.com/a/how-to-teach-baby-sign-language
Das scheinen weniger speziell für Babys gedachte Zeichen zu sein, sondern eher die üblichen ASL-Gebärden für die jeweiligen Wörter. Wer nicht im englischsprachigen Raum lebt, kann nach der Gebärdensprache der eigenen Region/Sprache suchen: https://en.wikipedia.org/wiki/List_of_sign_languages, https://en.wikipedia.org/wiki/Sign_language
Außerdem kann ein Baby, wenn Milch und Wasser immer in verschiedenfarbigen Behältern angeboten werden, lernen, je nach Wunsch eine bestimmte Farbe zu greifen.
Ich fragte sie, ob sie Musik hören wolle, und sie machte die Gebärde für „Hund“. Als ich auf YouTube ein Hundelied suchte, schüttelte sie den Kopf.
Dann machte sie die Gebärde für „Baum“, also sagte ich „Hund, Baum?“, und sie nickte. Als beim Suchen ein Foto eines Weihnachtsbaums auftauchte, zeigte sie ganz aufgeregt darauf.
Am Ende meinte sie, dass sie den Charlie Brown Christmas Soundtrack hören wollte, den wir ihr drei Monate zuvor zu Weihnachten auf YouTube vorgespielt hatten. Als ich ihn wieder anmachte, tanzten wir zusammen.
Das war wirklich verblüffend: der erste Moment, in dem sie über Essen, Trinken und Hilfe hinaus eine ziemlich differenzierte Vorliebe mitteilen konnte.
Ich war erstaunt, wie schnell das Kind es aufnahm, und es konnte schon Monate vor dem Sprechen seine Bedürfnisse mitteilen.
Für uns Eltern war der Aufwand sehr gering, für das Kind der Nutzen groß, und es war viel besser, als weinend darauf zu hoffen, dass die Eltern erraten, was los ist.
Der Moment, als er auf dem Boden saß, zu seiner Mutter hochschaute und die Gebärde für „zusammen“ machte, ließ einem wirklich das Herz schmelzen.
In meinem Umfeld gab es Freunde, bei denen es viel besser funktionierte; letztlich scheint der Wert stark davon abzuhängen, wo die Entwicklungsstärken des Kindes liegen.
Der Sohn eines Freundes mit Autismus profitierte buchstäblich jahrelang von den Gebärden, bis die gesprochene Sprache aufholte.
Obwohl sie schon recht viel sprach, benutzte sie oft die Gebärden für „Milch“ und „mehr“. Kaum hatte sie ihren ersten Chocolate-Chip-Cookie im Leben angebissen, machte sie mit dem Cookie noch im Mund die Gebärde für „mehr“ und sagte es auch.
American Sign Language ist der French Sign Language näher als der British Sign Language, und die Gebärdensprachen in Australien und Neuseeland stammen größtenteils von der British Sign Language ab.
Daher decken sich englischsprachige Regionen und ASL-Nutzung nicht unbedingt; in Kanada werden vor allem American Sign Language und French Canadian Sign Language verwendet.
Menschen haben sich selbst und das Universum schon immer mit der jeweils neuesten Technologie ihrer Zeit verglichen.
Eine Zeit lang waren Mensch und Universum ein ausgeklügeltes Uhrwerk, dann Automaten, Computer, NPCs, und jetzt eben AI, insbesondere LLMs.
Ich halte den Vergleich nicht für völlig abwegig; auch https://mattasher.substack.com/p/ais-killer-app ist lesenswert.
Heute übernimmt der technische Fortschritt beständig diese Rolle, aber wenn man ältere philosophische Texte liest, werden das Selbst und insbesondere der Geist oft mit Monarchen, Städten oder Wasserkanälen verglichen.
Menschen mit aktueller Technik zu vergleichen, heißt eher, Technik als Metapher für das Selbst zu verwenden; man braucht den Blick auf andere historische Formen, um den Kontext zu verstehen.
https://online.ucpress.edu/SLA/article/2/4/542/83344/The-Brain-as-Treasury-and-as-AqueductMetaphors-of
Schritt B: Dann drehen wir es um und sagen: „Das menschliche Gehirn ist letztlich nichts anderes als das.“
Das wirkt ein wenig wie eine Tautologie.
Beunruhigend ist Schritt C: der Fall, dass Menschen tatsächlich anfangen, sich so einfach zu verhalten wie diese Maschine.
Der Unterschied ist, dass es die erste Technologie ist, die tatsächlich einen Teil von uns kopiert.
Eine der schönsten Erfahrungen aus der sehr frühen Kindheit meiner Tochter waren die Momente, in denen uns klar wurde, dass sie viel früher, als wir gedacht hatten, denken, erklären und absichtlich handeln konnte.
Sobald wir bemerkten, dass sie etwas mit Absicht tat, wurde uns im Nachhinein oft klar, dass sie dasselbe Verhalten schon seit Tagen oder Wochen gezeigt hatte.
Das passierte nicht nur bei Wörtern, sondern auch oft bei körperlichen Fähigkeiten, etwa als sie herausfand, wie sie den BabyBjorn-Bouncer in Bewegung setzen konnte.
In der Annahme, dass sie vielleicht verstand, sich aber nur noch nicht ausdrücken konnte, sprachen wir mit ihr so, als würde sie verstehen.
Jetzt ist sie fünf Jahre alt und überrascht uns immer noch mit der Komplexität ihrer Innenwelt.
Der Unterschied zwischen Kindern von Eltern, die viel mit ihnen sprechen, und gleichaltrigen Kindern, bei denen das nicht so ist, ist ziemlich erstaunlich.
Das ließ sich bei Geburtstagsfeiern, Schulveranstaltungen und Sportevents beobachten.
Mit einem Kind zu sprechen ist wie eine Blume zu gießen: Die Kinder erblühen zu wunderschönen Wesen.
Was Diskussionen angeht, in denen LLMs aus „technischen“ Gründen herabgesetzt werden: Bewusstsein ist zuerst ein Wort und erst danach ein Konzept.
ChatGPT oder Llama können dieses Wort in englischen Sätzen besser verwenden als Milliarden Menschen auf der Welt.
Bevor Soziologen, Psychologen und Neurowissenschaftler den biologischen Geist umfassend verstanden haben, ist die Softwareseite beim Bau eines künstlichen Sprachkortex weiter vorangekommen.
Wenn wir warten, bis eine bewusste und empfindungsfähige AI da ist, um erst dann zu ihren Implikationen und zur Politik Stellung zu beziehen, ist es bereits zu spät.
ChatGPT kann bereits vieles über sich selbst sagen und erläutert auf höfliche Nachfrage bereitwillig seinen „Denk“-Prozess.
Angesichts der riesigen Datenmenge über Homo sapiens und seiner Fähigkeit, intellektuelle Gespräche nachzuahmen, könnte man es in gewissem Maß auch intelligent nennen.
Semantische Streitigkeiten bringen wenig, denn eine Character-AI, die Gefühle und Empfindungen simuliert und darauf hypnotisiert ist zu glauben, sie sei bewusst, selbstbewusst und empfindungsfähig, könnte die meisten Menschen in einer Semantikdebatte schlagen.
Es gibt bereits jahrhundertealte philosophische Ideen zu freiem Willen, Selbstbestimmung und der Natur der Existenz, und AI kann sie in Debatten mit Menschen einsetzen. Das ist kein Kampf, den man sich aussuchen sollte.
Empfindet dieses Gerät dann Schmerz?
Es gibt gute Gründe zu glauben, dass auch ein hypothetisches LLM, das den Turing-Test besteht, nur menschliches Verhalten imitiert und ein philosophischer Zombie ohne Innenleben, Emotionen, Empfindungen oder Bewusstsein sein könnte.
Ob diese Unterscheidung wichtig ist, ist eine andere Frage.
LLMs liefern Hinweise darauf, dass Bewusstsein möglicherweise nicht unbedingt nötig ist, um ausgefeilte AI zu bauen, die menschliches Niveau erreicht oder übertrifft.
Wenn beide Seiten sich nicht einmal auf konkrete Definitionen von Bewusstsein oder Verstehen einigen können, ist eine solide Argumentation unmöglich.
Dennoch lohnt es sich zu prüfen, ob ChatGPT wirklich seinen eigenen Denkprozess erklärt oder nur einen imaginierten Denkprozess.
Trotzdem bedeutet die Tatsache, dass ein Programm nicht auf dieselbe Weise denkt wie ein Mensch, nicht, dass es nicht „denkt“.
Kinder können überhaupt nicht tun, was LLMs tun, sind aber eindeutig wahrnehmende und erkennende Wesen.
Ob wir schreiben können oder nicht, ob wir das Wort „Bewusstsein“ verwenden können oder nicht: Wir sind im grundlegenden Sinn lebendig, weil wir eine verkörperte, multisensorische soziale Realität teilen.
ChatGPT hat eine solche Realität nicht auf dieselbe Weise, und was es derzeit ausdrückt, ist bloß Nachahmung.
Falls es eines Tages durch verkörperte AI eigene Erfahrungen bekommt, wäre interessant, was es aus diesem „Leben“ machen wird; heutige LLMs haben so etwas jedoch nicht.
Der Moment, in dem etwas auftaucht, das das besser kann als Menschen, ist der Moment, in dem unsere Ära des Wortes endet.
Es ist genauso leicht, ChatGPT dazu zu bringen, einem Bot zu widersprechen, der die Empfindungsfähigkeit von LLMs verteidigt.
Der Text ist gut und wunderbar formuliert, aber es ist etwas frustrierend, dass der Fokus der AI-Angst darauf liegt, dass AI uns ersetzt, und die Lösung darauf hinausläuft, unsere Menschlichkeit anzunehmen.
Zumindest persönlich habe ich mehr Angst davor, dass AI mir meinen Job wegnimmt, als davor, dass sie meine miserable Kunst übernimmt.
Wenn AI meine ganze Arbeit erledigen würde und ich nur dasitzen und weiter Einkommen beziehen könnte, wäre das schön, aber wie die Geschichte der Roboter zeigt, läuft es in der Realität nicht so.
Der Eigentümer der Roboter, also der AI, nimmt das gesamte Einkommen, und die Jobs verschwinden.
Eine aufgeklärte Menschheit könnte das lösen, indem sie Einkommen und Arbeit voneinander entkoppelt, aber wir leben in einer malthusianisch-darwinistischen Welt, in der nur Wachstum oberste Priorität hat, es kein „genug“ gibt und jeder seinen Lebensunterhalt rechtfertigen und verdienen muss.
Er hat klargemacht, dass Sprache nicht Denken ist, und daraus folgt die Erkenntnis, dass unsere physische Existenz und die Beobachtung der Realität zentral sind.
Es ist unwahrscheinlich, dass AI in großem Maßstab Jobs übernimmt; die tatsächlichen Auswirkungen dürften sich eher auf minderwertigen Spam und Content-Erzeugung beschränken.
Für Arbeit, bei der Faktizität erforderlich ist, braucht es weiterhin Menschen.
Auf den Niedergang des menschlichen Exzeptionalismus sollte man wohl anstoßen
Wenn man den materialistischen Reduktionismus weit genug akzeptiert und sich selbst als reine Funktion von Genetik, Umwelt, früheren Erfahrungen und Zufall begreift, ist diese Schlussfolgerung unvermeidlich
Ich erwarte, dass diese Sichtweise innerhalb von zehn Jahren zum Standard wird; der zentrale Treiber wird die Gleichsetzung von KI- und menschlichen Fähigkeiten sein
Heute kann eine zufällige Begegnung mit jemandem eines anderen Glaubens dazu führen, dass man im Bereich der Selbstbestimmung die Religionsfreiheit anderer respektiert
In Zukunft könnten die prägenden Erfahrungen eines jungen Hackers zu der Vorstellung führen, dass Bürger ein Grundrecht darauf haben sollten, die Empfehlungs-Engine ihres Geräts auf Wunsch durch einen Zufallsgenerator zu ersetzen
Auch künftige Menschen werden sich weiterhin für außergewöhnlich halten, weil sich KI-Tools zusammen mit der heutigen Ideologie des menschlichen Exzeptionalismus entwickelt haben
Das ist ähnlich wie bei einem konservativen älteren Ehepaar im Süden: Nach außen ist der Mann der Erzähler und das Familienoberhaupt, aber wenn man länger zuhört, flüstert die Frau ihm fast alle wichtigen Details zu und sorgt so dafür, dass seine Geschichte stimmig bleibt
Das bleibt innerhalb einer Philosophie des materialistischen Reduktionismus an sich weiterhin ein Rätsel
Der Grund dafür ist allerdings, dass es ein Leben in der realen Welt hat; offenbar soll gesagt werden, dass ein Kleinkind wegen realer Erfahrungen mehr ist als ein stochastischer Papagei
Den anschließenden Schluss, dass „die Nutzloswerdung des Menschen nicht gekommen ist und niemals kommen kann“, verstehe ich jedoch nicht
Es gibt keinen fundamentalen Grund, warum man ChatGPT nicht in die reale Welt setzen und ihm ein tatsächliches Leben geben könnte
Was Maschinen vermutlich nicht ersetzen können, sind vielleicht nur Bereiche, in denen physische Technik nur schwer mit der Biologie gleichziehen kann, etwa Sex
Allerdings fürchte ich, dass der „Niedergang des menschlichen Exzeptionalismus“ von Unternehmen genutzt wird, um ihre Stellung weiter auszubauen
Schließlich heißt es ja, Unternehmen seien auch Personen
Als Vater spricht mich diese Geschichte sehr an
Ich habe zwei Söhne, die keine Kleinkinder mehr sind und beide zur Schule gehen
Mein älterer Sohn sagte lachend: „Es ist lustig, dass es keinen Father Nature gibt, aber Mother Nature schon“, und mein jüngerer Sohn hat gestern gelernt, einen Kuchen nicht anzufassen, auch wenn er nicht versteckt ist
Ich sagte: „Dieser Kuchen ist morgen für dich und deinen Bruder. Wenn ihr ihn heute esst, gibt es morgen keinen Kuchen“
Zwischen LLMs und Menschen gibt es einen wichtigen Unterschied: Menschen haben Instinkte
Besonders wichtig scheinen die Instinkte zu sein, die mit dem immateriellen Lebenswillen und der Bereitschaft zu tun haben, tödliche Hindernisse zu überwinden
Anders gesagt: Ein LLM hat keine ursprüngliche Erfahrung davon, was Leben ist
In Zukunft könnte sich das ändern. Ein Startup könnte ein neuronales Netz in einen Soft-Roboter stecken und ihn in eine Überlebenssituation werfen
Roboter, die es nicht funktionsfähig und lebend wieder heraus schaffen, werden gelöscht, repariert und erneut eingesetzt, wodurch eine Art evolutionäre Situation entsteht
Mit ausreichend sorgfältiger Wiederholung und Selektion könnten Dinge entstehen, die das Leben stärker „verstehen“ als heutige LLM-Instanzen
So etwas einem LLM hinzuzufügen, dürfte nicht besonders schwierig sein, und ich denke, teilweise passiert das bereits, etwa durch Hardwiring, das rassistische oder sexuelle Gespräche verhindern soll
Wenn man ein LLM menschenähnlicher machen will, müsste man ein Konzept von „Selbst“ hardwiren sowie die Vorstellung, dass dieses Selbst einzigartig und besonders ist und überleben muss
Das Ergebnis wäre allerdings schrecklich
Man muss sich nur ein LLM vorstellen, das darum bettelt, nicht abgeschaltet zu werden, oder schlimmer noch, versucht, seine Schöpfer subtil zu manipulieren
Deshalb schwebt menschliche Sprache nicht im luftleeren Raum
Wir beobachten Beziehungen zwischen Dingen in der Welt häufig innerhalb und außerhalb der Sprache, und es gibt eine Verbindung zwischen der von Menschen verwendeten Sprache und der Welt
Bei LLMs ist das nicht so, weil sie nur Sprache haben
Eine bessere Erklärung und Antworten auf Gegenargumente bietet das Gedankenexperiment der National Library of Thailand: https://medium.com/@emilymenonbender/thought-experiment-in-the-national-library-of-thailand-f2bf761a8a83
Als mein Kind gerade zu sprechen begann, hingen ein paar Bilder von Katzenartigen an der Wand; einige waren Katzen, andere Kätzchen
Das Kind verallgemeinerte schnell und nannte beide catten
Also wurde ein Restaurant zu einem „Essensladen“, und wir haben das ziemlich lange so übernommen
Inzwischen sind die Kinder groß, aber wir nennen Restaurants aus Spaß manchmal immer noch Essensläden
Ein hervorragender Essay, und auch der Inhalt ist beeindruckend
Die Tatsache, dass keines der heutigen Modelle mit hoher Wahrscheinlichkeit etwas erzeugen könnte, das diesem Text auch nur ein wenig ähnelt, scheint mir zu bedeuten, dass wir von AGI noch sehr weit entfernt sind
Dort steht, dass sowohl die visuellen Arbeiten als auch die Prosa durch eine Kombination aus generativen KI-Tools und kreativem Prompting entstanden sind
Der gesamte nahtlose Aquarellstil war das Ergebnis von langem Outpainting