- Während meiner Zeit bei Square gab es den gefürchteten „analytics on-call“, und wenn ich an der Reihe war, musste ich SQL-Fragen aus vielen verschiedenen Abteilungen beantworten
- Ich beschloss, diesen On-Call mit GPT-3 zu ersetzen
- Implementiert wurde das in Patterns Studio
- Der Prompt wird aus der Frage des Nutzers, dem Schema, den Daten bestehender Tabellen und präzisierenden Fragen aufgebaut
- Nach der Ausführung über mehrere GPT-Modelle erhält man mehr als fünf vollständige SQL-Statements
- Das SQL wird auf die relevanten Tabellen ausgeführt und das beste Ergebnis ausgewählt
- Dieses Ergebnis wird mit einem Slack-Bot verbunden
- Für die SQL-Generierung und -Ausführung ist die Schleife wie folgt aufgebaut
- Kandidatenabfragen erzeugen
- Das SQL mit GPT auf Qualität prüfen. Häufige Fehler finden und eine korrigierte Version der Query erzeugen lassen
- Das SQL auf den Tabellen ausführen
- Wenn es Fehler gibt oder ein Ergebnis vorliegt, GPT bitten, die Query erneut so zu korrigieren, dass das richtige Ergebnis herauskommt, und die Schleife erneut durchlaufen
- Wenn ein Ergebnis vorliegt, dieses zurückgeben
- Am Ende werden für eine einzelne Nutzerfrage etwa 20 GPT-Aufrufe ausgeführt
- Schritt für Schritt nachbauen (mit Crunchbase-Daten)
Noch keine Kommentare.