Ollama startet Vorschauversion für Windows
(ollama.com)- Ollama ist Open Source und macht es einfach, LLMs wie Llama 2 und Mistral lokal auszuführen
- Jetzt können LLMs auch in einer Windows-Umgebung heruntergeladen, ausgeführt und für Generierung genutzt werden
- Die OpenAPI-kompatible Ollama API sowie Hardwarebeschleunigung werden unterstützt, und es gibt Zugriff auf die gesamte Modellbibliothek
- Nutzung von NVIDIA-GPUs und modernen CPU-Befehlssätzen wie AVX/AVX2
4 Kommentare
Wird vom Defender als Virus erkannt ...
Es ist kein Virus, sondern nur eine unbekannte ausführbare Datei, deshalb wird einfach eine Warnung angezeigt.
............
Ollama veröffentlicht Python- und JavaScript-Bibliotheken