Die Evolution des Prompt Engineering: Verbalized Sampling verdoppelt die Kreativität von KI

Ein Forschungsteam aus Stanford hat eine einfache Prompting-Technik vorgestellt, die die Kreativität von KI-Modellen sofort verdoppeln kann. Die überraschende Erkenntnis: Ohne erneutes Training des Modells lässt sich das Problem repetitiver und abgedroschener Antworten lösen, indem lediglich ein einziger Satz hinzugefügt wird.

Kernpunkte:

• Die Magie eines Satzes: Allein die Anweisung „Erzeuge 5 Antworten zusammen mit Wahrscheinlichkeitswerten“ steigert die Kreativität um das 1,6- bis 2,1-Fache. Sofort einsetzbar, ohne erneutes Modelltraining, Parameteranpassungen oder komplexe Konfigurationsänderungen
• Grundursache identifiziert: Dass KI oft langweilig wirkt, liegt nicht am Modell selbst, sondern an einem im Alignment-Training entstandenen „Typicality Bias“. Weil Modelle darauf trainiert werden, von Menschen bevorzugte vertraute Antworten zu liefern, wird Kreativität unterdrückt
• Je größer das Modell, desto stärker der Effekt: Bei großen Modellen wie GPT-4 und Claude Opus 4 ist der Effekt 1,5- bis 2-mal stärker. Die Methode fungiert als Schlüssel, um verborgene Fähigkeiten zu aktivieren