Assistant API (v2) – Neue Funktionen und Verbesserungen der OpenAI API

• Die Assistant API der OpenAI API hat erhebliche Updates und Verbesserungen erhalten und dabei neue Funktionen und Features eingeführt. Eine der wichtigsten Verbesserungen ist die Einführung von file_search, einem verbesserten Such-Tool, das pro Assistant bis zu 10.000 Dateien aufnehmen kann – eine 500-fache Steigerung gegenüber dem bisherigen Limit. Dieses Tool bietet schnellere Verarbeitung, unterstützt parallele Abfragen und bietet verbesserte Re-Ranking- sowie Query-Rewrite-Funktionen.

• Außerdem wurde das Objekt vector_store eingeführt, mit dem Nutzer Dateien zu einem Vector Store hinzufügen können, wo sie automatisch geparst, in Chunks aufgeteilt und eingebettet werden, sodass sie für die Suche bereitstehen. Diese Vector Stores können zwischen Assistants und Threads geteilt werden, was die Dateiverwaltung und Abrechnung vereinfachen kann.

• Weitere bemerkenswerte Updates umfassen die Kontrolle über die maximale Anzahl der in Runs verwendeten Tokens, das Setzen von Begrenzungen für die Anzahl zuvor oder zuletzt verwendeter Nachrichten sowie die für einen bestimmten Run verwendeten