Deep Learning stößt an seine Grenzen

 (nautil.us)
25 Punkte von ffdd270 2022-03-12 | 2 Kommentare | Auf WhatsApp teilen

  • Die im Artikel beschriebenen Grenzen sind: GPT-3 versteht Sätze nicht, sondern ist lediglich darauf fokussiert, sie natürlich fortzusetzen. Teslas Modell für autonomes Fahren kann eine Person mit einem STOP-Schild nicht unterscheiden. Einen im Schnee vergrabenen Bus klassifiziert es als Schneeräumfahrzeug. Die Ursache dafür ist, dass Deep Learning nicht denkt, sondern auswendig lernt und anschließend klassifiziert.

  • Deshalb zeigt Deep Learning hervorragende Wirkung in Bereichen, die nicht kritisch sind und bereits festgelegt wurden, also in Feldern, in denen sich das nächste Ergebnis vorhersagen lässt. In Bereichen, auf die das nicht zutrifft, gibt es jedoch viele Probleme. Der Autor nennt NetHack als Beispiel. Eine KI, die dieses Spiel spielt und abschließt, wurde in zwei Varianten getestet: klassische KI und Deep-Learning-KI. Die klassische KI zeigte die deutlich bessere Leistung.

  • Klassische KI, also symbolische KI, konnte die Bedeutung verstehen und entsprechend vorgehen. Deshalb reagiert sie auch schnell, wenn neue Muster auftauchen. Deep Learning ist dagegen nützlich, um Lücken in Bestehendem zu klassifizieren, konnte aber mit automatisch erzeugten Dungeons nicht gut umgehen. Denn es kann nicht erkennen, welche Bedeutung diese haben.

  • Als Alternative schlägt der Autor hybride KI vor. (Siehe auch: Durch die Vergangenheit der KI die Zukunft der KI sehen - MIT Technology Review) Dabei werden die symbolische Analyse und definierbare Regeln der klassischen KI genutzt, um die Grenzen von Deep-Learning-KI zu überwinden. So ließen sich die Ursachen interner Abläufe kontrollieren, und partielle wie auch ganzheitliche Zusammenhänge könnten genauer behandelt werden.

  • Solche KI existiert nicht nur in der Argumentation des Autors; auch AlphaGo und AlphaFold2 sind hybride KI, und andere Unternehmen bewegen sich ebenfalls in diese Richtung.

Verwandte Beiträge

2 Kommentare

 
xguru 2022-03-12

Ich habe überlegt, wie ich das kurz zusammenfassen und posten soll, und war deshalb am Grübeln, ob ich wie unten einfach nur eine kurze Vorstellung des Autors schreiben soll .. danke, haha

Das ist ein Text von Gary Marcus, dem CEO von Robust AI und Autor des Buches Rebooting AI.
 
ffdd270 2022-03-12

Dieser Beitrag deckt enorm viele Aspekte ab und hat auch sehr viele interessante Stellen, daher war es nicht einfach. Deshalb habe ich nur knapp die Passagen zusammengefasst, aus denen hervorgeht, warum der Autor hybride KI für notwendig hält.

Im Haupttext geht es auch um die Beziehung und die Spannungen (...) zwischen Deep-Learning-KI und traditioneller KI, und es gibt viele interessante Geschichten darin. Wenn ihr den Haupttext noch nicht gelesen habt, würde ich mich freuen, wenn ihr ihn euch auch anschaut. (__ )/