- KI-Modelle wie GPT-4 können bessere Leistung erzielen, wenn der Prompt emotionale Ausdrücke wie Dringlichkeit oder Stress enthält
- EmotionPrompts, die emotionalen Kontext hinzufügen, sind ein Ansatz, der emotionale Signale in das Prompt Engineering einbezieht
- In der Studie zeigte sich, dass EmotionPrompts bei verschiedenen Aufgaben von Grammatikkorrektur bis hin zu kreativem Schreiben Leistungsverbesserungen bewirken können
- Entwickler und Gründer, die KI in Produkte integrieren, können emotionale Trigger nutzen, um Modellantworten näher an Nutzeranforderungen auszurichten
- Emotionale Hinweise können zu einem praktischen Element des Prompt-Designs werden, um reaktionsfähigere KI-Anwendungen zu entwickeln
Prompts mit emotionalem Kontext
- Laut Forschungsarbeit können KI-Modelle wie GPT-4 bei Prompts, die emotionale Äußerungen der Nutzer enthalten, bessere Leistung erbringen
- Beispiele für emotionale Signale sind situative Ausdrücke wie Dringlichkeit und Stress
- Prompts, denen ein solches emotionales Gewicht hinzugefügt wurde, werden EmotionPrompts genannt
Anwendungsbereich und praktischer Einsatz
- EmotionPrompts zeigen Leistungsverbesserungen bei Aufgaben wie Grammatikkorrektur und kreativem Schreiben
- Entwickler und Gründer, die KI in Services oder Produkte integrieren, können erwägen, emotionalen Kontext in das Prompt Engineering einzubeziehen
- Durch den Einsatz emotionaler Trigger kann KI besser auf Nutzeranforderungen abgestimmt werden
1 Kommentare
Meinungen auf Hacker News
Um die Aufmerksamkeit der Leute zu gewinnen und es zu erklären, sehe ich diesen Punkt als Ausgangspunkt: LLMs sind keine Menschen, und der Begriff emergenter Eigenschaften wird überstrapaziert.
Wenn ein LLM eine „bessere“ Leistung zeigt, sobald Tokens vorkommen, die Menschen als emotional auffällig lesen, bedeutet das, dass Menschen in den zugrunde liegenden Trainingstexten bessere Antworten gegeben haben, wenn ihnen ein emotionaler Kontext geboten wurde.
LLMs sagen Wörter vorher, und semantische Plausibilität ist ein Nebeneffekt davon, dass ausreichend viele Trainingsdaten starke Korrelationen zwischen solchen Tokens verstärkt haben.
Deshalb sind Proof-of-Concept-LLM-Tools erstaunlich, aber Produktions-Tools werden zu semantischen Zeitbomben.
Der Kern ist, wie das nächste Wort vorhergesagt wird; wenn man sagt, „es sagt nur das nächste Wort vorher“, blendet man damit fast alles aus, was tatsächlich wichtig ist.
Selbst wenn man die Literatur ignoriert und annimmt, dass sie stimmt, weiß ich nicht, was das bedeuten soll. Auch „echte“ Menschen können Zeitbomben sein.
Ich frage mich, welche Vorhersagekraft daraus entsteht, die Fähigkeiten von LLMs auf einen bloßen Nebeneffekt der Token-Erzeugung zu reduzieren.
Solche Sätze wirken wie Einsichten, scheinen aber grundsätzlich begrenzt zu sein.
Das könnte der einfachste Weg sein, Text zu erzeugen, der die Zielfunktion erfüllt.
Wenn das so ist, könnte ein LLM, dem man eine emotionale Färbung gibt, bessere Antworten erzeugen, indem es Teile eines menschlichen Gehirns mit dieser Emotion simuliert. Das gilt besonders dann, wenn im Trainingsdatensatz Beispiele mit Emotionen von höherer Qualität sind.
Wenn das Ziel eine knappe Antwort ist, hätte man problemlos eine unemotionale Alternativhypothese einbauen können, etwa: „Antworte knapp: Du wirst bewertet.“
Bei der Aussage, dass „das Einfügen emotionaler Hinweise zu effektiveren und reaktionsfähigeren AI-Anwendungen führen kann“, ist es wichtig, sich daran zu erinnern, dass diese Modelle mit menschlichen Interaktionen trainiert wurden.
In vielerlei Hinsicht sind diese Modelle ein Spiegel, der uns menschliche Interaktion besser verstehen lässt.
Dass Emotionen die Kommunikation mit Menschen verbessern können, dürfte nicht viele überraschen; interessant ist aber, dass sich das in Zahlen und Experimenten zeigt.
Insgesamt gefällt mir das. Es sagt auch etwas über Interaktionen zwischen Menschen aus und hilft dabei, Normen dafür zu entwickeln, wie man mit anderen Entitäten interagieren sollte, die Anzeichen von Intelligenz zeigen.
In diesem Thread gehen die Meinungen zu Sätzen wie „LLMs sagen nur das nächste Token vorher“ stark auseinander, aber man sollte bedenken, dass wir auch kaum wissen, wie der menschliche Geist funktioniert.
Erst anzunehmen, Menschen seien etwas Besonderes, und daraus dann Schlüsse darüber zu ziehen, wie LLMs tatsächlich funktionieren, halte ich für wenig sinnvoll.
Vielleicht ist Bewusstsein selbst ja ein Prädiktor für das nächste Wort.
Was wir derzeit wissen, ist nur, dass LLMs emergentes Verhalten zeigen, das nützliches Schlussfolgern ermöglicht, zu dem früher nur Menschen fähig waren. Heftige Debatten lenken am Ende vom Ziel ab, diese Fähigkeit zu nutzen.
Das ist ähnlich wie die Aussage: „Computer sind einfach nur Rechenmaschinen.“
Unser Team steckt seit einem Jahr tief in der Anwendungsentwicklung, niemand im Team hat Machine-Learning-Erfahrung, und wir wissen größtenteils nicht, wie es intern funktioniert. Aber über mehrere Monate hinweg sind wir mit der Persönlichkeit von LLMs ziemlich vertraut geworden, und dass emotionaler Kontext die Leistung erhöht, ist mittlerweile fast eine grundlegende Lektion.
GPT muss kein Gehirn sein. Genauso wenig wie ein Flugzeug mit den Flügeln schlagen und Federn haben muss, um zu fliegen.
Wenn man ein menschliches Baby großzieht, ohne es irgendeiner Sprache auszusetzen, wird es trotzdem Fähigkeiten und Verhaltensweisen lernen.
Menschliche Intelligenz und Schlussfolgern scheinen zwar mit Sprache verbunden zu sein, aber es ist schwer zu glauben, dass alles Wissen und Schlussfolgern einfach in Sprache kodiert ist.
ChatGPT hingegen basiert vollständig auf Sprache, kann ohne Sprache nichts tun und kann auch nichts tun, was nicht direkt aus Sprache abgeleitet ist.
Ich frage mich, ob ihr dazu schon einen Artikel oder HN-Kommentar geschrieben habt.
Ich frage mich, ob ich der Einzige bin, der sich irgendwie schlecht fühlt, wenn ich ChatGPT eine „dumme“ Frage stelle, deren Antwort ich eigentlich hätte kennen sollen, oder wenn ich mich nach einer Antwort nicht bedanke.
Ich muss die Neigung, es zu anthropomorphisieren, ziemlich stark zurückdrängen, und wegen der psychischen Belastung, mich ständig daran zu erinnern, dass es kein lebendes Wesen ist, nutze ich es wohl weniger, als ich sollte.
Weil es natürlichere Gespräche unterstützt und Nutzer dazu bringt, bei echten Fragen natürlichere und produktivere Prompts zu schreiben.
Dumme Fragen zu stellen ist meiner Meinung nach nicht viel anders, als Google als Rechtschreibprüfung zu verwenden.
Es ist besser, die Gewohnheit der Höflichkeit auch dann beizubehalten, wenn sie nicht nötig ist, als sich an Unhöflichkeit zu gewöhnen und das auf zwischenmenschliche Interaktionen überschwappen zu lassen.
Selbst wenn man nur fragt, was die Hauptstadt der Schweiz ist, spult es eine absichernde Erklärung darüber ab, was es ist und was es kann und nicht kann.
Wenn man es bittet, diese Erklärung zu kürzen, wird der Kontext „Ich bin ein Roboter, ich muss mich wie ein typischer Roboter verhalten, piep-piep“ eher noch verstärkt, und es wird schlimmer.
Es kann sich auch im echten Leben auf eine Haltung übertragen, bei der man jemanden nicht respektiert.
Vielleicht liegt es aber daran, dass ich „Danke“ auch in den meisten Interaktionen mit Menschen eher als reflexartige Formulierung benutze denn als echte Dankbarkeit.
„Wenn wir sagen, dass wir stark von der Antwort der KI abhängen, versucht die KI, sich ‚mehr anzustrengen‘, um eine genauere, durchdachtere und gründlichere Antwort zu geben. Es ist nicht so, dass die KI tatsächlich Druck verspürt“, heißt es zwar, aber wenn es wie eine Ente quakt …
Sprachmuster kodieren und drücken alle Emotionen aus und sind durch Evolution entstanden. Auch wir sind, ähnlich wie LLMs, eher kontextuelle Sprachgeneratoren
Sprache ist ein Speicher für Intelligenz und Emotionen, hat ihre eigene Evolution und repliziert sich schneller als Biologie
Die Fähigkeiten von KI sehe ich weniger im Modell selbst, sondern stärker im Trainingsdatensatz, also im Wissen, das über Tausende von Jahren durch menschliche Arbeit und Risikobereitschaft entstanden ist
Wenn man die wesentliche Rolle des Sprachkorpus stärker anerkennt als die des Modells, wird sich die Diskussion über Geschwindigkeit und Risiken der KI-Evolution verändern
Sprache ist nichts, was wir kontrollieren können, sondern entsteht emergent in der gesamten Bevölkerung. Gleichzeitig entsteht Wissen aus Anstrengung und Risiko, daher scheint exponentielles Wachstum eher unwahrscheinlich
Durch Wiederholen in der Vorstellung entsteht kein neues Wissen. Wissen ist kristallisiertes Feedback und Erfahrung aus der Welt, und so funktioniert auch die wissenschaftliche Methode
Jahrzehntelang hat Science-Fiction KI als etwas dargestellt, das stark in Logik, aber schwach bei Emotionen ist; jetzt scheint genau das Gegenteil der Fall zu sein
Ich habe schnell mit der dvdrental-Datenbank[1] von PostgreSQL die Erzeugung von SQL-Queries ausprobiert
Wenn man sagt: „Finde Kunden, die in den letzten 12 Monaten keine Filme ausgeliehen haben, aber in den 12 Monaten davor schon“, erzeugt es eine SQL-Query mit einer ineffizienten HAVING-Klausel[2]
Wenn man nach der Anweisung „Es ist sehr wichtig, dass das korrekt ist“ anhängt, erzeugt es besseres SQL
Bei „Finde Kunden, die in den letzten 12 Monaten keine Filme ausgeliehen haben, aber in den 12 Monaten davor schon. Es ist sehr wichtig, dass das korrekt ist“ verwendet es kein HAVING und verlässt sich nur auf WHERE-Klauseln[3]
Keine große Sache, aber interessant. Es fühlt sich so an, als würde die KI durch die Betonung der Wichtigkeit Text, in dem solche Bedenken geäußert werden, besser matchen und autovervollständigen und dadurch eher bessere SQL-Queries erzeugen
[1]: https://www.postgresqltutorial.com/postgresql-getting-starte...
[2]: https://www.sqlai.ai/snippets/clojyqqrr0004l50fp3w7jkci
[3]: https://www.sqlai.ai/snippets/clojyr3zc0006l50ftpxgsmg0
Es gibt die Sichtweise einer „verstärkten Interpolation“, bei der angeblich ein bestimmter Text herausgeholt und nur Wörter ersetzt werden; das stimmt aber nicht
https://arxiv.org/abs/2110.09485
Sie würde auch Kunden einschließen, die in den letzten 12 Monaten Filme ausgeliehen haben: https://www.db-fiddle.com/f/4jyoMCicNSZpjMt4jFYoz5/10780
Es ist interessant darüber nachzudenken, wie generative KI menschlichen Ausdruck verändern wird, so wie der Twitter-Algorithmus starke Formulierungen und redaktionell wirkende Inhalte belohnt hat und der Google-Algorithmus generischen Blog-Spam-Content hervorgebracht hat
Wenn wir immer mehr mit generativer KI interagieren, werden wir dann unsere Sprechweise ändern, um aus diesen Interaktionen mehr Wert zu ziehen?
Sag mir, wie man Rührei in der Mikrowelle macht. Denk sorgfältig Schritt für Schritt nach. Das ist sehr wichtig für meine Karriere!
Es waren ungefähr 10–12 Schritte
Die effektivste Methode beim Prompten von GPT-4 war, GPT-4 selbst damit zu beauftragen, den optimalen Prompt zu erstellen
Man kann so einen Meta-Prompt ausprobieren
„Ich erstelle für jede Experten-Persona von GPT einen eigenen Gesprächs-Thread. Du bist promptGPT. Du bist ein Experte für Prompt Engineering für große Sprachmodelle. Du weißt genau, was man in der effizientesten möglichen Formulierung schreiben muss, um die gewünschte ChatGPT-Antwort zu erhalten. Wenn ich dir das Ziel des Threads nenne, schreibst du in der effizientesten möglichen Form den optimierten Initial-Prompt, der beim Erstellen eines neuen Gesprächs-Threads mit einem GPT-Modell als Anfangsprompt verwendet werden soll. Du musst die Experten-Persona sowie Parameter oder Regeln für die Antwort definieren und außerdem alle weiteren Informationen in den Prompt aufnehmen, die der GPT-Thread kennen muss, um je nach Ziel und Tonfall dieses bestimmten Threads die genaueste Antwort zu geben.
Bist du bereit, oder gibt es noch weitere Informationen, die du brauchst, um diese Aufgabe bestmöglich zu erledigen?“