GitHub Models

GitHub Models

Wichtige Inhalte

• Einführung von GitHub Models: Mehr als 100 Millionen Entwickler können AI-Modelle nutzen, um Anwendungen zu entwickeln.
• Verfügbare Modelle: Verschiedene Modelle wie Llama 3.1, GPT-4o, GPT-4o mini, Phi 3 und Mistral Large 2 können kostenlos genutzt werden.
• Bereitstellung eines Playgrounds: Eine interaktive Umgebung innerhalb von GitHub, in der mehrere Modelle getestet und Parameter angepasst werden können.
• Integration in Entwicklungsumgebungen: Modelle lassen sich einfach mit Codespaces und VS Code in die Entwicklungsumgebung integrieren.
• Produktionsbereitstellung mit Azure AI: Modelle können mit Responsible AI von Azure AI, Enterprise-Sicherheit und Datenschutz sowie globaler Verfügbarkeit bereitgestellt werden.

GitHub Models Playground

• Lernen und Experimentieren: Ein Bereich, in dem Studierende, Hobbyentwickler und Startups verschiedene AI-Modelle einfach erkunden und vergleichen können.
• Datenschutz gewährleistet: Prompts und Ausgaben in GitHub Models werden nicht mit den Modellanbietern geteilt und nicht zur Verbesserung der Modelle verwendet.
• Einsatz in der Lehre: Im Harvard-CS50-Kurs soll GitHub Models eingesetzt werden, damit Studierende einfacher mit AI experimentieren können.

Modellvergleich und Tests

• Modelleigenschaften: Die jeweiligen Funktionen, die Leistung und die Kosten jedes Modells können verglichen werden. Beispielsweise bietet Mistral geringe Latenz, während sich GPT-4o besonders für den Aufbau multimodaler Anwendungen eignet.
• Anwendung in verschiedenen Szenarien: Mit integrierten Modellen sind Experimente und Lernen schnell und effizient möglich.

Nutzung von Codespaces

• Experimente und Prototyping: Über Codespaces lässt sich Code für Modellinferenz ohne Reibungsverluste testen und in Projekte integrieren.
• Vorbereitung auf Produktion: Mit GitHub Actions und JSON-Dateien können Prompt-Evaluierungen ausgeführt und anschließend über Azure AI in die Produktionsumgebung überführt werden.

[soaple]

Derzeit werden Anmeldungen für die Waitlist der limitierten Public Beta entgegengenommen.