AI Alignment bedeutet, dass die AI-Alignment-Forschung darauf abzielt, AI-Systeme auf von Menschen beabsichtigte Ziele, Präferenzen oder ethische Prinzipien abzustimmen. Wenn ein AI-System die beabsichtigten Ziele erreicht, gilt es als ausgerichtet. Ein fehl-ausgerichtetes AI-System kann zwar einige Ziele kompetent erreichen, verfehlt aber die eigentlich beabsichtigten Ziele.
OpenAI hat kürzlich die Forschung „Language models can explain neurons in language models“ veröffentlicht. Diese Studie kann man auch so verstehen, dass es in gewisser Weise „KI brauchte, um KI zu verstehen“.
Darüber hinaus scheint es auch zur Lösung des von OpenAI häufig erwähnten „Alignment-Problems“ KI zu brauchen.
Kann KI also die „Ausrichtung zwischen KI und Menschen“ beurteilen? Und wenn ja, würden Sie wollen, dass sie das tut?
1 Kommentare
Selbst wenn das ginge, würden wahrscheinlich alle möglichen gesellschaftlichen Gruppen aus allen möglichen Gründen dagegen sein.