Spring AI Playground – Open-Source-Integrationsplattform für MCP, RAG und LLM-Experimente

Hallo!
Ich möchte das KI-Integrations-Playground Spring AI Playground für Entwickler vorstellen.

Haben Sie beim Testen für die Entwicklung bestehender KI-Services schon einmal Unannehmlichkeiten erlebt?

• Komplexes Environment-Setup bei jedem Test von LLMs, Vektor-Datenbanken, RAG-Workflows usw.
• Hoher Entwicklungsaufwand durch jedes Mal andere Methoden zur API-Integration
• Besonders für Java-Entwickler stellen Python-zentrierte KI-Tools eine Einstiegshürde dar

Deshalb habe ich mit dem Ziel begonnen: „Alle KI-Experimente auf einem Bildschirm“.

Hauptmerkmale:

• Unterstützung für mehr als 18 Vektor-Datenbanken zusätzlich zum standardmäßigen lokalen In-Memory-Vectorstore (Chroma, Milvus, PGVector, OpenSearch, Elasticsearch usw.)
• Integration wichtiger KI-Provider (OpenAI, Anthropic, Ollama, Google, Amazon, Microsoft)
• Frühe Einführung von MCP (Model Context Protocol), um KI-Agenten aufzubauen
• PWA-Unterstützung, sodass es im Browser wie eine App installiert und genutzt werden kann
• Eine auf dem Spring-AI-Framework basierende, für Java-Entwickler vertraute Umgebung

Was man mit Spring AI Playground machen kann:

• MCP-Tool-Verbindungen und Tests: Anbindung externer Tools an KI-Modelle
• Verbindung mit nahezu allen LLMs: einfacher Wechsel zwischen OpenAI, Ollama, lokalen Modellen usw.
• Vector-DB-Anbindung: Verbindung zu den meisten wichtigen Vektor-Datenbanken für Tests der Ähnlichkeitssuche
• RAG-Workflows: Den gesamten Prozess von PDF-, Word- und PowerPoint-Daten-Upload über Embedding-Erzeugung bis hin zu Suche und Antwort per GUI konfigurieren
• Integrierte LLM-Chat-Tests: Nach der Einrichtung von MCP und RAG alles auf einmal integriert testen

Zentrale Playgrounds:

• MCP Tool Playground (Inspector) - Verbindung und Test externer Tools
• Vector DB Playground - Dokument-Upload, Embeddings, Suchtests
• Chat Playground - Testen von dialogorientierter KI mit integrierten MCP- und RAG-Funktionen

In 5 Minuten starten (wenn git, ollama, docker und java 21 oder höher installiert sind):

git clone https://github.com/JM-Lab/spring-ai-playground.git  
cd spring-ai-playground  
./mvnw spring-boot:build-image -Pproduction -DskipTests=true  
docker run -p 8282:8282 -e SPRING_AI_OLLAMA_BASE_URL=http://host.docker.internal:11434 jmlab/spring-ai-playground:latest

Danach http://localhost:8282 aufrufen

Rückblick auf die Entwicklung:
Ursprünglich begann es als persönliches Lernwerkzeug, doch mit der Zeit wurde es zu einer All-in-One-Umgebung für KI-Entwicklung und -Tests, in der KI-Experimente an einem Ort möglich sind. Ziel war es insbesondere, Java-Entwicklern zu ermöglichen, moderne KI-Technologien auch ohne Python-Umgebung einfach zu erproben.

Open-Source-Beitrag:
Bereitstellung realer Anwendungsfälle und Best Practices für das Spring-AI-Ökosystem
Alternative zu Python-zentrierten KI-Tools für die Java-Community

Zukünftige Pläne:
Weiterentwicklung zu einem Spring AI Agent Playground mit zusätzlichen Funktionen für Entwicklung, Test und Deployment von KI-Agenten

Ich denke, das ist nützlich für Java-Entwickler, die KI-Funktionen lokal testen möchten. Feedback ist jederzeit willkommen!

Projektlink: https://github.com/JM-Lab/spring-ai-playground