Show HN: Mistral Codestral und GPT-4o zu Jupyter Notebooks hinzugefügt

Pretzel 🥨 Eine moderne Open-Source-Alternative zu Jupyter

Pretzel ist ein Fork von Jupyter, der entwickelt wurde, um die Funktionen von Jupyter zu verbessern. Es fügt KI-gestützte Codegenerierung und -bearbeitung, Inline-Tab-Vervollständigung, Sidebar-Chat und Fehlerbehebung hinzu. Der Wechsel von Jupyter zu Pretzel ist sehr einfach. Alle Jupyter-Einstellungen, Tastenkombinationen und Erweiterungen funktionieren unverändert weiter.

Schnellstart

• Installation: pip install pretzelai und danach pretzel lab ausführen, um die Weboberfläche zu öffnen. Alternativ kann die kostenlos gehostete Version genutzt werden: pretzelai.app
• Einfach in einer Zelle mit dem Tippen beginnen, um die Inline-Tab-Vervollständigung zu verwenden
• In einer Jupyter-Zelle auf "Ask AI" klicken oder Cmd+K (Mac) / Ctrl+K (Linux/Windows) drücken, um den KI-Prompt zu öffnen
• Mit Ctrl+Cmd+B (Mac) oder Ctrl+Alt+B (Linux/Windows) die KI-Sidebar aktivieren, um mit der KI zu chatten, Code zu generieren und Fragen zu stellen
• Informationen zur Einrichtung eines OpenAI-API-Schlüssels stehen im Abschnitt Einstellungen

Installation

• Pretzel mit pip installieren: pip install pretzelai
• Bei Verwendung von conda zuerst pip installieren und dann Pretzel: conda install pip und danach pip install pretzelai
• Pretzel starten: pretzel lab

Verwendung

Inline-Tab-Vervollständigung

• Wenn Sie in einer Zelle mit dem Tippen beginnen, können Sie die Inline-Tab-Vervollständigung mit Codestral von Mistral nutzen
• Nach 1 Sekunde wird die Vervollständigung ausgelöst

Code in Notebook-Zellen generieren und bearbeiten

• In einer Zelle Cmd+K (Mac) / Ctrl+K (Windows/Linux) drücken oder auf "Ask AI" klicken, um das KI-Prompt-Textfeld zu öffnen
• Durch Erwähnung von @variable kann auf Variablen und DataFrames im Speicher verwiesen werden
• Wenn bereits Code vorhanden ist, bearbeitet der Prompt den bestehenden Code
• Wenn ein Teil des Codes in der Zelle ausgewählt/hervorgehoben wird, wird nur der ausgewählte Code bearbeitet
• Antworten können angenommen oder abgelehnt werden, oder der Prompt kann angepasst und erneut abgeschickt werden
• Mit ↑ / ↓ kann durch den Prompt-Verlauf navigiert werden

KI-Sidebar verwenden

• Die KI-Sidebar mit Ctrl+Cmd+B (Mac) / Ctrl+Alt+B (Linux/Windows) oder über das Pretzel-Symbol in der rechten Sidebar aktivieren
• Fragen stellen, Code generieren oder bestehenden Code durchsuchen
• Die KI verwendet immer den Code der aktiven Zelle als Kontext. Wenn ein Teil des Codes der aktiven Zelle hervorgehoben wird, wird nur der markierte Code als Kontext verwendet

Anwendungsbeispiele:

• "Modify the function my_function in @notebook to be more efficient" ← Sucht die Funktion my_function im gesamten Notebook und überarbeitet sie
• "Where is the code in @notebook that removes outliers"? ← Sucht im gesamten Notebook nach dem Code, der Ausreißer entfernt
• "Can you explain what this code does?" ← Erklärt den Code der aktuellen Zelle

Code mitten in bestehenden Code einfügen

• Den Cursor auf eine leere Zeile oder eine bestehende Codezeile setzen und mit Cmd+K das KI-Prompt-Textfeld öffnen
• Wenn der Prompt mit inject oder ij beginnt, fügt die KI neuen Code hinzu, ohne den bestehenden Code zu bearbeiten
• Der Code wird eine Zeile unterhalb der Cursor-Position eingefügt

Fehler mit KI beheben

• Wenn ein Fehler auftritt, erscheint oben rechts die Schaltfläche "Fix Error with AI". Durch Anklicken kann ein Behebungsversuch gestartet werden

Einstellungen

• Pretzel funktioniert standardmäßig ohne Konfiguration
• Pretzel verwendet standardmäßig einen kostenlosen KI-Server. Es kann so konfiguriert werden, dass OpenAI-/Azure-API-Schlüssel verwendet werden

OpenAI-Unterstützung

• Im oberen Menü die Option Settings öffnen und auf Settings Editor klicken
• Nach Pretzel suchen und in der linken Leiste Pretzel AI Settings auswählen
• Im Dropdown AI Service die Option OpenAI API Key wählen und dann den API-Schlüssel unter OpenAI Settings > API Key eingeben
• Bei Verwendung von OpenAI Enterprise kann zusätzlich eine Basis-URL für OpenAI-Aufrufe eingetragen werden
• Das Standardmodell ist GPT-4o und kann im Dropdown OpenAI Model geändert werden

Azure-Unterstützung

• Wie bei den OpenAI-Einstellungen im Dropdown AI Service die Option Use Azure API auswählen, um ein bei Azure gehostetes Modell zu verwenden

Feedback, Bugs und Dokumentation

• Bugs melden: https://github.com/pretzelai/pretzelai/issues
• Feedback und Beschwerden: [e-mail]

Informationen zu Jupyter

• Die ursprüngliche Jupyter-Dokumentation ist hier verfügbar, und die JupyterLab-README ist hier verfügbar

Datenschutzrichtlinie, Datenerfassung und Aufbewahrung

• Es werden keine personenbezogenen Daten erfasst. Es wird nur grundlegende Telemetrie für KI-Funktionen verwendet
• Wenn Cookies erlaubt werden, kann derselbe Nutzer über mehrere Browser-Sitzungen hinweg erkannt werden
• Es werden nur Prompts für KI-Funktionen erfasst, nicht jedoch die Antworten. Die Prompt-Telemetrie kann in den Einstellungen deaktiviert werden
• Code wird überhaupt nicht erfasst. Auch bei Nutzung des Cloud-KI-Servers von Pretzel wird Code nicht gespeichert
• Bei Nutzung der gehosteten Version von Pretzel wird ein Benutzerkonto auf Basis der E-Mail-Adresse erstellt. Gespeicherte Daten können jederzeit nach dem Einloggen gelöscht werden
• Der gehostete Server kann kostenlos genutzt werden, löscht Daten und Konten jedoch 30 Tage nach dem letzten Login. Für die sofortige Löschung eines Kontos einfach eine E-Mail mit dem Betreff "Account Deletion" an [e-mail] senden

FAQ

Q. Was ist mit der früheren Version von Pretzel AI passiert? A. Sie ist im Ordner pretzelai_visual zu finden. Weitere Informationen stehen in diesem PR

Q. Welche KI-Modelle verwendet Pretzel? A. Pretzel verwendet je nach Aufgabe unterschiedliche KI-Modelle:

1. Standardmodell: GPT-4o
   • Gutes Gleichgewicht zwischen Geschwindigkeit und Qualität
   • Kann in den Pretzel-Einstellungen geändert werden, wenn ein eigener API-Schlüssel verwendet wird
2. Inline-Vervollständigung: Codestral von Mistral
   • Hervorragend für Code-Vervollständigung
   • Sehr schnelle Leistung (22B-Parameter-Modell)
3. Alternative Option:
   • Wenn ein eigener API-Schlüssel verwendet wird, aber kein Mistral-API-Schlüssel angegeben ist, verwendet Pretzel auch für die Inline-Vervollständigung GPT-4o

Q. Was ist mit Funktion X? A. Es gibt viele Funktionen, die wir noch bauen möchten. Wenn Sie eine gewünschte Funktion haben, eröffnen Sie bitte ein Issue

Q. Wo ist die Roadmap? A. Eine grobe Roadmap steht oben in der README. Wir möchten viele Funktionen entwickeln, sind derzeit aber nur zu zweit. Wir sammeln Feedback, um Prioritäten zu setzen. Bitte eröffnen Sie ein Issue oder senden Sie Feedback per E-Mail

Q. Warum verwendet ihr die AGPL-Lizenz? Warum nicht MIT/BSD3? A. Das Ziel beim Bau von Pretzel ist es, ein großartiges Daten-Tool zu schaffen, das für Einzelpersonen und Unternehmen kostenlos nutzbar ist. Die AGPLv3-Lizenz soll verhindern, dass Dritte den Code übernehmen und verkaufen, ohne zur Community beizutragen

Q. Warum habt ihr euch für einen Fork von Jupyter entschieden? Warum nicht direkt zu Jupyter beitragen? A. Uns wurde klar, dass der Wechsel zu einem neuen Tool schwierig ist. Mit einem Fork von Jupyter werden die Wechselkosten minimiert. Jupyter ist ein ausgereiftes Produkt, und so können Funktionen schnell hinzugefügt werden

Q. Was, wenn ein Unternehmen Bedenken wegen der Nutzung eines Tools unter AGPLv3 hat? A. Die AGPL wird nur dann zu einer Hürde, wenn Pretzel verändert und öffentlich weiterverbreitet wird. Wenn ein Unternehmen das Tool intern verwendet, verlangt die AGPL nicht, den Code offenzulegen. Falls die AGPL ein Problem ist, nehmen Sie Kontakt auf, damit wir eine Lösung finden können

Q. Wie wollt ihr Geld verdienen? Warum wird das kostenlos angeboten? A. Es ist geplant, eine gehostete Version an Unternehmen zu verkaufen. Die gehostete Version soll Funktionen enthalten, die Unternehmen benötigen, etwa Zugriffskontrollen für Daten, Verbindungen zu Datenquellen, GitHub-Integration und gemeinsam nutzbare Dashboards. Die Version für Einzelpersonen wird nicht kostenpflichtig werden

Meinungen von GN⁺

• Pretzel erweitert die Funktionen von Jupyter und bietet Data Scientists und Engineers ein besseres Tool. Die KI-gestützten Funktionen zur Codegenerierung und -bearbeitung können die Produktivität erheblich steigern
• Beeindruckend ist, dass neue Funktionen hinzugefügt wurden, während die Kompatibilität mit Jupyter erhalten bleibt. Dass die Wechselkosten nahezu null sind, ist ein großer Vorteil für Nutzer
• Positiv ist auch, dass mit der AGPL-Lizenz Beiträge an die Community gefördert werden. Allerdings könnten manche Unternehmen wegen Lizenzfragen zögern, das Tool einzuführen
• Die KI-Funktionen von Pretzel erleichtern das Schreiben und Debuggen von Code, aber die Ergebnisse können je nach Leistung und Genauigkeit der KI-Modelle variieren. Eine kontinuierliche Verbesserung der Modelle ist erforderlich
• Zu den Tools mit ähnlichen Funktionen wie Pretzel gehören Google Colab und die Jupyter-Erweiterung von VSCode. Es ist wichtig, die Vor- und Nachteile der einzelnen Tools zu vergleichen, bevor man sich entscheidet