Rekursive Zusammenfassung von Büchern mit menschlichem Feedback

• Neues von OpenAI veröffentlichtes Paper

• Für den Einsatz von AI-Modellen muss überprüft werden, ob ein Machine-Learning-Modell wie von Menschen beabsichtigt funktioniert

→ das Alignment-Problem

• Die Lösung des Alignment-Problems ist für Menschen schwer zu bewerten und zeitaufwendig

• Um Scalable-Alignment-Techniken zu testen, wurde ein Modell darauf trainiert, ganze Bücher zusammenzufassen

→ Dabei werden Bücher zunächst abschnittsweise zusammengefasst, anschließend werden diese Zusammenfassungen auf einer höheren Ebene erneut zusammengefasst, bis eine endgültige Zusammenfassung entsteht

→ "Alice im Wunderland" mit 26.449 Wörtern wurde auf 136 Wörter zusammengefasst

→ Auf Basis eines feinabgestimmten GPT-3 erzeugt das Modell hervorragende Zusammenfassungen, deren durchschnittliche Qualität in etwa dem Niveau von von Menschen verfassten Zusammenfassungen entspricht