3 Punkte von GN⁺ 2023-11-06 | 1 Kommentare | Auf WhatsApp teilen
  • KI-Modelle wie GPT-4 können bessere Leistung erzielen, wenn der Prompt emotionale Ausdrücke wie Dringlichkeit oder Stress enthält
  • EmotionPrompts, die emotionalen Kontext hinzufügen, sind ein Ansatz, der emotionale Signale in das Prompt Engineering einbezieht
  • In der Studie zeigte sich, dass EmotionPrompts bei verschiedenen Aufgaben von Grammatikkorrektur bis hin zu kreativem Schreiben Leistungsverbesserungen bewirken können
  • Entwickler und Gründer, die KI in Produkte integrieren, können emotionale Trigger nutzen, um Modellantworten näher an Nutzeranforderungen auszurichten
  • Emotionale Hinweise können zu einem praktischen Element des Prompt-Designs werden, um reaktionsfähigere KI-Anwendungen zu entwickeln

Prompts mit emotionalem Kontext

  • Laut Forschungsarbeit können KI-Modelle wie GPT-4 bei Prompts, die emotionale Äußerungen der Nutzer enthalten, bessere Leistung erbringen
  • Beispiele für emotionale Signale sind situative Ausdrücke wie Dringlichkeit und Stress
  • Prompts, denen ein solches emotionales Gewicht hinzugefügt wurde, werden EmotionPrompts genannt

Anwendungsbereich und praktischer Einsatz

  • EmotionPrompts zeigen Leistungsverbesserungen bei Aufgaben wie Grammatikkorrektur und kreativem Schreiben
  • Entwickler und Gründer, die KI in Services oder Produkte integrieren, können erwägen, emotionalen Kontext in das Prompt Engineering einzubeziehen
  • Durch den Einsatz emotionaler Trigger kann KI besser auf Nutzeranforderungen abgestimmt werden

1 Kommentare

 
GN⁺ 2023-11-06
Meinungen auf Hacker News
  • Um die Aufmerksamkeit der Leute zu gewinnen und es zu erklären, sehe ich diesen Punkt als Ausgangspunkt: LLMs sind keine Menschen, und der Begriff emergenter Eigenschaften wird überstrapaziert.
    Wenn ein LLM eine „bessere“ Leistung zeigt, sobald Tokens vorkommen, die Menschen als emotional auffällig lesen, bedeutet das, dass Menschen in den zugrunde liegenden Trainings­texten bessere Antworten gegeben haben, wenn ihnen ein emotionaler Kontext geboten wurde.
    LLMs sagen Wörter vorher, und semantische Plausibilität ist ein Nebeneffekt davon, dass ausreichend viele Trainingsdaten starke Korrelationen zwischen solchen Tokens verstärkt haben.
    Deshalb sind Proof-of-Concept-LLM-Tools erstaunlich, aber Produktions-Tools werden zu semantischen Zeitbomben.

    • Der Mechanismus, der während des Trainings in diesem riesigen Haufen Bits namens Gewichte entsteht, ist völlig intransparent.
      Der Kern ist, wie das nächste Wort vorhergesagt wird; wenn man sagt, „es sagt nur das nächste Wort vorher“, blendet man damit fast alles aus, was tatsächlich wichtig ist.
    • Die Behauptung vom stochastischen Papagei ist meiner Ansicht nach inzwischen ziemlich gründlich widerlegt.
      Selbst wenn man die Literatur ignoriert und annimmt, dass sie stimmt, weiß ich nicht, was das bedeuten soll. Auch „echte“ Menschen können Zeitbomben sein.
      Ich frage mich, welche Vorhersagekraft daraus entsteht, die Fähigkeiten von LLMs auf einen bloßen Nebeneffekt der Token-Erzeugung zu reduzieren.
    • Nur weil man sagt: „Neuronen leiten nur Signale weiter. Alle kognitiven Eigenschaften entstehen aus dem Zusammenspiel elektrischer und chemischer Signale“, versteht man dadurch noch nicht das Bewusstsein.
      Solche Sätze wirken wie Einsichten, scheinen aber grundsätzlich begrenzt zu sein.
    • LLMs werden mit menschlichen Texten trainiert. Wenn sie gut trainiert sind, könnten sie anfangen, Teile des menschlichen Gehirns zu simulieren.
      Das könnte der einfachste Weg sein, Text zu erzeugen, der die Zielfunktion erfüllt.
      Wenn das so ist, könnte ein LLM, dem man eine emotionale Färbung gibt, bessere Antworten erzeugen, indem es Teile eines menschlichen Gehirns mit dieser Emotion simuliert. Das gilt besonders dann, wenn im Trainingsdatensatz Beispiele mit Emotionen von höherer Qualität sind.
    • Die Behauptung, Emotionalität sei wichtig, hätte gegen andere Kontrollbedingungen geprüft werden müssen.
      Wenn das Ziel eine knappe Antwort ist, hätte man problemlos eine unemotionale Alternativhypothese einbauen können, etwa: „Antworte knapp: Du wirst bewertet.“
  • Bei der Aussage, dass „das Einfügen emotionaler Hinweise zu effektiveren und reaktionsfähigeren AI-Anwendungen führen kann“, ist es wichtig, sich daran zu erinnern, dass diese Modelle mit menschlichen Interaktionen trainiert wurden.
    In vielerlei Hinsicht sind diese Modelle ein Spiegel, der uns menschliche Interaktion besser verstehen lässt.
    Dass Emotionen die Kommunikation mit Menschen verbessern können, dürfte nicht viele überraschen; interessant ist aber, dass sich das in Zahlen und Experimenten zeigt.

    • Das passt auch zu den Anekdoten, dass ein LLM besser wird, wenn man höflich mit ihm spricht, etwa „please“ und „thank you“ verwendet.
      Insgesamt gefällt mir das. Es sagt auch etwas über Interaktionen zwischen Menschen aus und hilft dabei, Normen dafür zu entwickeln, wie man mit anderen Entitäten interagieren sollte, die Anzeichen von Intelligenz zeigen.
  • In diesem Thread gehen die Meinungen zu Sätzen wie „LLMs sagen nur das nächste Token vorher“ stark auseinander, aber man sollte bedenken, dass wir auch kaum wissen, wie der menschliche Geist funktioniert.
    Erst anzunehmen, Menschen seien etwas Besonderes, und daraus dann Schlüsse darüber zu ziehen, wie LLMs tatsächlich funktionieren, halte ich für wenig sinnvoll.
    Vielleicht ist Bewusstsein selbst ja ein Prädiktor für das nächste Wort.
    Was wir derzeit wissen, ist nur, dass LLMs emergentes Verhalten zeigen, das nützliches Schlussfolgern ermöglicht, zu dem früher nur Menschen fähig waren. Heftige Debatten lenken am Ende vom Ziel ab, diese Fähigkeit zu nutzen.
    Das ist ähnlich wie die Aussage: „Computer sind einfach nur Rechenmaschinen.“
    Unser Team steckt seit einem Jahr tief in der Anwendungsentwicklung, niemand im Team hat Machine-Learning-Erfahrung, und wir wissen größtenteils nicht, wie es intern funktioniert. Aber über mehrere Monate hinweg sind wir mit der Persönlichkeit von LLMs ziemlich vertraut geworden, und dass emotionaler Kontext die Leistung erhöht, ist mittlerweile fast eine grundlegende Lektion.

    • Noch einen Schritt weiter gesagt: Es ist nicht wichtig.
      GPT muss kein Gehirn sein. Genauso wenig wie ein Flugzeug mit den Flügeln schlagen und Federn haben muss, um zu fliegen.
    • Interessant ist, dass Menschen auch ohne Sprache etwas lernen können.
      Wenn man ein menschliches Baby großzieht, ohne es irgendeiner Sprache auszusetzen, wird es trotzdem Fähigkeiten und Verhaltensweisen lernen.
      Menschliche Intelligenz und Schlussfolgern scheinen zwar mit Sprache verbunden zu sein, aber es ist schwer zu glauben, dass alles Wissen und Schlussfolgern einfach in Sprache kodiert ist.
      ChatGPT hingegen basiert vollständig auf Sprache, kann ohne Sprache nichts tun und kann auch nichts tun, was nicht direkt aus Sprache abgeleitet ist.
    • Ich würde gern lesen, was euer Team in den letzten Monaten über LLMs gelernt hat.
      Ich frage mich, ob ihr dazu schon einen Artikel oder HN-Kommentar geschrieben habt.
  • Ich frage mich, ob ich der Einzige bin, der sich irgendwie schlecht fühlt, wenn ich ChatGPT eine „dumme“ Frage stelle, deren Antwort ich eigentlich hätte kennen sollen, oder wenn ich mich nach einer Antwort nicht bedanke.
    Ich muss die Neigung, es zu anthropomorphisieren, ziemlich stark zurückdrängen, und wegen der psychischen Belastung, mich ständig daran zu erinnern, dass es kein lebendes Wesen ist, nutze ich es wohl weniger, als ich sollte.

    • Wenn man sich ChatGPTs Antworten ansieht, scheint OpenAI zu glauben, dass es besser ist, sich zu bedanken.
      Weil es natürlichere Gespräche unterstützt und Nutzer dazu bringt, bei echten Fragen natürlichere und produktivere Prompts zu schreiben.
      Dumme Fragen zu stellen ist meiner Meinung nach nicht viel anders, als Google als Rechtschreibprüfung zu verwenden.
    • Ich habe dieses Gefühl auch, und ehrlich gesagt habe ich mich bewusst dafür entschieden, dass das in Ordnung ist.
      Es ist besser, die Gewohnheit der Höflichkeit auch dann beizubehalten, wenn sie nicht nötig ist, als sich an Unhöflichkeit zu gewöhnen und das auf zwischenmenschliche Interaktionen überschwappen zu lassen.
    • Es lässt einen nicht vergessen, dass es kein lebendes Wesen ist.
      Selbst wenn man nur fragt, was die Hauptstadt der Schweiz ist, spult es eine absichernde Erklärung darüber ab, was es ist und was es kann und nicht kann.
      Wenn man es bittet, diese Erklärung zu kürzen, wird der Kontext „Ich bin ein Roboter, ich muss mich wie ein typischer Roboter verhalten, piep-piep“ eher noch verstärkt, und es wird schlimmer.
    • Wenn man sich über Jahre daran gewöhnt, Maschinen nur Befehle zu geben und sich nicht zu bedanken, kann einen das möglicherweise abstumpfen lassen.
      Es kann sich auch im echten Leben auf eine Haltung übertragen, bei der man jemanden nicht respektiert.
    • Manchmal empfinde ich das auch so.
      Vielleicht liegt es aber daran, dass ich „Danke“ auch in den meisten Interaktionen mit Menschen eher als reflexartige Formulierung benutze denn als echte Dankbarkeit.
  • „Wenn wir sagen, dass wir stark von der Antwort der KI abhängen, versucht die KI, sich ‚mehr anzustrengen‘, um eine genauere, durchdachtere und gründlichere Antwort zu geben. Es ist nicht so, dass die KI tatsächlich Druck verspürt“, heißt es zwar, aber wenn es wie eine Ente quakt …

    • Es gibt auch andere mögliche Erklärungen. Sowohl KI als auch Menschen reiten auf der Sprache
      Sprachmuster kodieren und drücken alle Emotionen aus und sind durch Evolution entstanden. Auch wir sind, ähnlich wie LLMs, eher kontextuelle Sprachgeneratoren
      Sprache ist ein Speicher für Intelligenz und Emotionen, hat ihre eigene Evolution und repliziert sich schneller als Biologie
      Die Fähigkeiten von KI sehe ich weniger im Modell selbst, sondern stärker im Trainingsdatensatz, also im Wissen, das über Tausende von Jahren durch menschliche Arbeit und Risikobereitschaft entstanden ist
      Wenn man die wesentliche Rolle des Sprachkorpus stärker anerkennt als die des Modells, wird sich die Diskussion über Geschwindigkeit und Risiken der KI-Evolution verändern
      Sprache ist nichts, was wir kontrollieren können, sondern entsteht emergent in der gesamten Bevölkerung. Gleichzeitig entsteht Wissen aus Anstrengung und Risiko, daher scheint exponentielles Wachstum eher unwahrscheinlich
      Durch Wiederholen in der Vorstellung entsteht kein neues Wissen. Wissen ist kristallisiertes Feedback und Erfahrung aus der Welt, und so funktioniert auch die wissenschaftliche Methode
    • Es könnte auch eine Aufnahme einer Ente sein
  • Jahrzehntelang hat Science-Fiction KI als etwas dargestellt, das stark in Logik, aber schwach bei Emotionen ist; jetzt scheint genau das Gegenteil der Fall zu sein

  • Ich habe schnell mit der dvdrental-Datenbank[1] von PostgreSQL die Erzeugung von SQL-Queries ausprobiert
    Wenn man sagt: „Finde Kunden, die in den letzten 12 Monaten keine Filme ausgeliehen haben, aber in den 12 Monaten davor schon“, erzeugt es eine SQL-Query mit einer ineffizienten HAVING-Klausel[2]
    Wenn man nach der Anweisung „Es ist sehr wichtig, dass das korrekt ist“ anhängt, erzeugt es besseres SQL
    Bei „Finde Kunden, die in den letzten 12 Monaten keine Filme ausgeliehen haben, aber in den 12 Monaten davor schon. Es ist sehr wichtig, dass das korrekt ist“ verwendet es kein HAVING und verlässt sich nur auf WHERE-Klauseln[3]
    Keine große Sache, aber interessant. Es fühlt sich so an, als würde die KI durch die Betonung der Wichtigkeit Text, in dem solche Bedenken geäußert werden, besser matchen und autovervollständigen und dadurch eher bessere SQL-Queries erzeugen
    [1]: https://www.postgresqltutorial.com/postgresql-getting-starte...
    [2]: https://www.sqlai.ai/snippets/clojyqqrr0004l50fp3w7jkci
    [3]: https://www.sqlai.ai/snippets/clojyr3zc0006l50ftpxgsmg0

    • Ein LLM ist keine Lookup-Tabelle. Es „matcht“ nicht auf diese Weise
      Es gibt die Sichtweise einer „verstärkten Interpolation“, bei der angeblich ein bestimmter Text herausgeholt und nur Wörter ersetzt werden; das stimmt aber nicht
      https://arxiv.org/abs/2110.09485
    • Die Query, die der Prompt mit hoher Wichtigkeit erzeugt hat, ist falsch
      Sie würde auch Kunden einschließen, die in den letzten 12 Monaten Filme ausgeliehen haben: https://www.db-fiddle.com/f/4jyoMCicNSZpjMt4jFYoz5/10780
  • Es ist interessant darüber nachzudenken, wie generative KI menschlichen Ausdruck verändern wird, so wie der Twitter-Algorithmus starke Formulierungen und redaktionell wirkende Inhalte belohnt hat und der Google-Algorithmus generischen Blog-Spam-Content hervorgebracht hat
    Wenn wir immer mehr mit generativer KI interagieren, werden wir dann unsere Sprechweise ändern, um aus diesen Interaktionen mehr Wert zu ziehen?

    • Mit ziemlicher Sicherheit ja
  • Sag mir, wie man Rührei in der Mikrowelle macht. Denk sorgfältig Schritt für Schritt nach. Das ist sehr wichtig für meine Karriere!

    • Schön. Ich habe beide optionalen Abschlüsse ausprobiert, und wenn ich beide verwendet habe, kam die ausführlichste Antwort heraus
      Es waren ungefähr 10–12 Schritte
  • Die effektivste Methode beim Prompten von GPT-4 war, GPT-4 selbst damit zu beauftragen, den optimalen Prompt zu erstellen
    Man kann so einen Meta-Prompt ausprobieren
    „Ich erstelle für jede Experten-Persona von GPT einen eigenen Gesprächs-Thread. Du bist promptGPT. Du bist ein Experte für Prompt Engineering für große Sprachmodelle. Du weißt genau, was man in der effizientesten möglichen Formulierung schreiben muss, um die gewünschte ChatGPT-Antwort zu erhalten. Wenn ich dir das Ziel des Threads nenne, schreibst du in der effizientesten möglichen Form den optimierten Initial-Prompt, der beim Erstellen eines neuen Gesprächs-Threads mit einem GPT-Modell als Anfangsprompt verwendet werden soll. Du musst die Experten-Persona sowie Parameter oder Regeln für die Antwort definieren und außerdem alle weiteren Informationen in den Prompt aufnehmen, die der GPT-Thread kennen muss, um je nach Ziel und Tonfall dieses bestimmten Threads die genaueste Antwort zu geben.
    Bist du bereit, oder gibt es noch weitere Informationen, die du brauchst, um diese Aufgabe bestmöglich zu erledigen?“