ChatGPT erhält Speicherfunktion und neue Steuerungsmöglichkeiten

• OpenAI testet eine Funktion, mit der sich ChatGPT an Gesprächsinhalte erinnert, um künftige Unterhaltungen nützlicher zu machen
• Nutzer können ChatGPT anweisen, sich bestimmte Dinge zu merken, nachfragen, woran es sich erinnert, und es per Gespräch oder in den Einstellungen etwas vergessen lassen
• Die Funktion wird zunächst für eine kleine Zahl von kostenlosen ChatGPT- und Plus-Nutzern bereitgestellt; OpenAI will bald Pläne zur breiteren Einführung teilen

So funktioniert die Speicherfunktion

• Während der Unterhaltung mit ChatGPT kann man es bitten, sich bestimmte Dinge zu merken, oder es kann Details automatisch erfassen
• Je mehr ein Nutzer ChatGPT verwendet, desto besser wird das Gedächtnis; diese Verbesserungen werden mit der Zeit deutlich sichtbar
• Wenn man zum Beispiel seine Vorlieben für Besprechungsnotizen erläutert, merkt sich ChatGPT das; und wenn ein Cafébesitzer Social-Posts für einen neuen Standort bespricht, kennt ChatGPT bereits den Ausgangspunkt

Nutzer behalten die Kontrolle

• Nutzer können die Speicherfunktion jederzeit deaktivieren; wenn sie ausgeschaltet ist, werden keine Erinnerungen erstellt oder verwendet
• Man kann ChatGPT bitten, bestimmte Dinge zu vergessen, einzelne Erinnerungen anzeigen und löschen oder in den Einstellungen alle Erinnerungen entfernen
• Das Gedächtnis von ChatGPT entwickelt sich durch die Interaktionen mit dem Nutzer weiter und ist nicht an eine bestimmte Unterhaltung gebunden
• Das Löschen eines Gesprächs entfernt die Erinnerungen nicht; dafür muss die Erinnerung selbst gelöscht werden

Für Gespräche ohne Speicher: temporäre Chats

• Wer ein Gespräch ohne Nutzung des Gedächtnisses führen möchte, kann temporäre Chats verwenden
• Temporäre Chats erscheinen nicht im Verlauf, nutzen keinen Speicher und werden auch nicht für das Modelltraining verwendet

Benutzerdefinierte Anweisungen

• Über benutzerdefinierte Anweisungen können Nutzer ChatGPT klare Informationen über sich selbst oder direkte Vorgaben zur Art der Reaktion geben

Weiterentwicklung von Datenschutz- und Sicherheitsstandards

• Die Speicherfunktion bringt zusätzliche Überlegungen zu Datenschutz und Sicherheit mit sich, etwa welche Arten von Informationen gespeichert werden sollten und wie diese verwendet werden

Mehr Effizienz für Team- und Unternehmenskunden

• Für Unternehmens- und Teamnutzer kann die Speicherfunktion bei der Verwendung von ChatGPT für die Arbeit nützlich sein
• ChatGPT lernt den Stil und die Vorlieben der Nutzer und entwickelt sich auf Grundlage früherer Interaktionen weiter

Auch GPTs bekommen ein Gedächtnis

• Auch GPTs sollen ein eigenes, unabhängiges Gedächtnis erhalten; Builder bekommen eine Option, die Speicherfunktion für GPTs zu aktivieren

Meinung von GN⁺:

• Diese Funktion personalisiert das Nutzererlebnis und sorgt für Kontinuität in Gesprächen, wodurch die Interaktion mit ChatGPT effizienter und ansprechender wird
• Eine stärkere Kontrolle der Nutzer über Datenschutz und Datenverwaltung ist wichtig, um das Vertrauen in die Technologie zu erhöhen und die Sicherheit der Nutzer zu gewährleisten
• Für Unternehmens- und Teamnutzer dürfte dies eine Funktion sein, die die Arbeitseffizienz deutlich steigert und den Nutzen sowie den Wert von ChatGPT erhöht

[GN⁺]

Hacker-News-Kommentare

• Im Zusammenhang mit den vielen Beschwerden über die Faulheit von ChatGPT beim Programmieren gibt es zwei Beobachtungen:

  • Messungen zeigen, dass GPT-4 Turbo beim Programmieren zunehmend fauler wird.
  • Wenn man Codeänderungen als unified diffs anfordert, wird faules Coding um das Dreifache reduziert.
  • Weitere Details dazu finden sich unter dem bereitgestellten Link.

• Wenn ich ChatGPT zu viele meiner Gedanken vorgebe, neigt es dazu, sich auf eine eingeschränkte Lösung festzulegen. Ich mache mir Sorgen, ob die Memory-Funktion dieses Problem noch verfestigen könnte.

• Manchmal ignoriert ChatGPT Anweisungen und folgt den Vorgaben des Nutzers nicht. Selbst wenn man ausdrücklich darum bittet, statt Code eine Gliederung zu liefern, entschuldigt es sich nur und gibt dieselbe Gliederung mit kaum weniger Code aus. Ich frage mich, ob die Memory-Funktion dieses Problem lösen kann.

• Wenn man als Kindergartenlehrkraft angibt, dass man 50-Minuten-Unterrichtseinheiten und Folgeaktivitäten bevorzugt, merkt sich ChatGPT das und hilft bei der Unterrichtsplanung. Das wirkt jedoch wie ein Beispiel, das nicht zur realen Situation in einem Kindergarten passt, sodass die AI offenbar auf falschen Informationen basiert.

• Dass GPT-4 faul ist, liegt daran, dass es durch den System Prompt dazu gezwungen wird. Der vollständige Prompt ist geleakt worden, und man kann die Einschränkungen sehen.

• Die Begriffe und Implementierungen von OpenAI werden immer unstandardisierter und mehr zur Blackbox, sodass selbst Fachleute verwirrt sind und es für nichttechnische Nutzer, die sich auf die ChatGPT-Web-App beziehen, noch schwerer zu verstehen ist.

• Durch Interviews mit ChatGPT-Nutzern wurden zwei allgemeine Nutzungsmuster festgestellt:

  • Das „transaktionale“ Muster sieht jeden Chat als eigenständige Frage und erwartet weder Memory noch Kontinuität.
  • Das „beziehungsorientierte“ Muster behandelt LLMs wie Freunde oder Kollegen; in diesem Fall ist Memory wichtig.
  • Ich bin gespannt, wie OpenAI diese beiden Nutzungsmuster zusammenführen wird.

• Die wöchentliche Nachricht darüber, wie vielfältig OpenAI das Tuning des System Prompts noch umbenennen wird.

• Eine Frage dazu, wie das technisch funktioniert. Ob es einfach eine Abkürzung ist, die Text in natürlicher Sprache zum Kontextfenster hinzufügt, oder ob aus dem Prompt abgeleitete Informationen bei Bedarf abgerufen werden.

• mykin.ai ist bisher die beste Memory-Funktion, die getestet wurde. Die Memory-Funktion von ChatGPT wirkt im Vergleich zu Kin wie ein Witz.