Einführung von ChatGPT Enterprise
(openai.com)- Da die Nachfrage von Unternehmen wächst, ChatGPT sicher innerhalb ihrer Organisationen bereitzustellen, hat OpenAI ChatGPT Enterprise für Unternehmen eingeführt
- Unternehmensdaten und Unterhaltungen werden nicht für das Modelltraining verwendet; geboten werden SOC-2-Konformität, Verschlüsselung bei Speicherung und Übertragung, eine Admin-Konsole und SSO
- Das Nutzungslimit für GPT‑4 entfällt; enthalten sind eine bis zu 2-mal schnellere Leistung, 32k Kontext und unbegrenzte erweiterte Datenanalyse
- Nur 9 Monate nach dem Start von ChatGPT wurden in mehr als 80 % der Fortune-500-Unternehmen registrierte Konten auf Basis von Unternehmens-E-Mail-Domains festgestellt
- Künftig sollen eine angepasste Anbindung an Unternehmensdaten, self-serve ChatGPT Business für kleine Teams, stärkere Analyse- und Browsing-Funktionen für die Arbeit sowie Tools nach Aufgabenbereich hinzukommen
ChatGPT Enterprise für den Einsatz in Unternehmen
- OpenAI hat ChatGPT Enterprise eingeführt
- Das Produkt bündelt Sicherheit und Datenschutz für Unternehmen, eine leistungsfähigere ChatGPT-Erfahrung, ein Kontextfenster für lange Eingaben, erweiterte Datenanalyse und organisationsspezifische Anpassungsmöglichkeiten in einem Angebot
- Ziel ist es, einen KI-Assistenten für die Arbeit an die jeweilige Organisation anzupassen und dabei Unternehmensdaten zu schützen
Nachgewiesene Nachfrage in den Fortune 500
- In den 9 Monaten nach dem Start von ChatGPT wurden in mehr als 80 % der Fortune-500-Unternehmen ChatGPT-Registrierungskonten festgestellt
- Diese Zahl basiert auf Konten, die mit Unternehmens-E-Mail-Domains verknüpft sind
- Führungskräfte in Unternehmen fordern seit Längerem einfachere und sicherere Wege, ChatGPT innerhalb ihrer Organisationen bereitzustellen
- Zu den ersten nutzenden Unternehmen gehören Block, Canva, Carlyle, The Estée Lauder Companies, PwC und Zapier
- Wichtige Anwendungsfälle sind das Verfassen klarerer Kommunikation, die Beschleunigung von Coding-Aufgaben, das Durchdringen komplexer Geschäftsfragen und die Unterstützung kreativer Arbeit
- Klarna möchte mit der Integration von ChatGPT Enterprise die Fähigkeiten der Mitarbeitenden und das Kundenerlebnis stärken, um weltweit 150 Millionen aktive Nutzer zu unterstützen
Sicherheit, Datenschutz und Verwaltungsfunktionen
- Unternehmen besitzen und kontrollieren in ChatGPT Enterprise ihre Geschäftsdaten
- OpenAI verwendet die Geschäftsdaten oder Unterhaltungen seiner Kunden nicht für das Modelltraining, und das Modell lernt auch nicht aus dem Nutzungsverlauf
- Die Sicherheitskonfiguration umfasst Folgendes
- Verschlüsselung gespeicherter Daten: AES 256
- Verschlüsselung während der Übertragung: TLS 1.2+
- SOC-2-Konformität
- Die neue Admin-Konsole unterstützt groß angelegte Unternehmens-Rollouts
- Verwaltung vieler Mitglieder auf einmal
- SSO
- Domain-Verifizierung
- Analytics-Dashboard für Einblicke in die Nutzung
- Weitere Informationen zur Datenverarbeitung finden sich auf der privacy page und im Trust Portal
GPT‑4, Datenanalyse und Workflow-Funktionen
- ChatGPT Enterprise hebt das Nutzungslimit für GPT‑4 auf
- Die GPT‑4-Leistung wird bis zu 2-mal schneller bereitgestellt
- Mit 32k Kontext können längere Eingaben, Dateien und Folgefragen verarbeitet werden
- OpenAI beschreibt dies als Verarbeitung von 4-mal längeren Eingaben oder Dateien
- Die erweiterte Datenanalyse kann unbegrenzt genutzt werden
- Diese Funktion war zuvor als Code Interpreter bekannt
- Beispiele sind die Verarbeitung von Marktdaten durch Finanzanalysten, die Analyse von Umfrageergebnissen durch Marketer und das Debugging von ETL-Skripten durch Data Scientists
- Für organisationsspezifische Workflows stehen gemeinsam nutzbare Chat-Vorlagen zur Verfügung
- Falls OpenAI für eine vollständig maßgeschneiderte Organisationslösung erweitert werden muss, umfasst der Preis kostenlose Guthaben für die Nutzung der API
- Asana erklärt, dass sich mit ChatGPT Enterprise die Recherchezeit der Teams im Durchschnitt um 1 Stunde pro Tag verringert hat
- Canva nennt verschiedene Anwendungsfälle, darunter die Behebung von Bugs durch Engineers, das Clustering unstrukturierter Daten durch Datenanalysten und das Schreiben von Tabellenkalkulationsformeln durch Finanzanalysten
Verfügbare Funktionen und geplante Erweiterungen
- ChatGPT Enterprise ist ab dem ersten Tag für Unternehmenskunden verfügbar
- Die folgenden Kernfunktionen stehen allen Enterprise-Kunden zur Verfügung
- Kunden-Prompts und Unternehmensdaten werden nicht für das Training der OpenAI-Modelle verwendet
- Datenverschlüsselung bei Speicherung und Übertragung
- SOC-2-Konformität
- Admin-Konsole, Verwaltung vieler Mitglieder auf einmal, SSO, Domain-Verifizierung und Analytics-Dashboard
- Unbegrenzter Zugriff auf GPT‑4
- Bis zu 2-mal schnellere GPT‑4-Leistung
- Unbegrenzte erweiterte Datenanalyse
- 32k-Token-Kontextfenster
- Gemeinsam nutzbare Chat-Vorlagen für die Zusammenarbeit im Unternehmen und den Aufbau gemeinsamer Workflows
- Kostenlose Guthaben für die OpenAI API zur Erweiterung vollständig maßgeschneiderter Lösungen
- In Vorbereitung sind folgende Funktionen
- Customization: Sichere Erweiterung des ChatGPT-Wissens mit Unternehmensdaten durch Anbindung bereits genutzter Anwendungen
- Availability for all team sizes: self-serve ChatGPT Business für kleine Teams
- Power tools: leistungsfähigere Advanced Data Analysis und Browsing, optimiert für die Arbeit
- Solutions for your function: Tools für bestimmte Aufgabenbereiche wie Datenanalyse, Marketing und Kundensupport
- OpenAI will in den kommenden Wochen so viele Unternehmen wie möglich onboarden
- Unternehmen, die starten möchten, finden weitere Informationen auf der ChatGPT-Enterprise-Website und können sich dort mit dem Vertriebsteam verbinden
1 Kommentare
Hacker-News-Meinungen
Wenn ausdrücklich zugesichert wird, dass nicht mit Unternehmensdaten trainiert wird, und SOC-2-Compliance hervorgehoben wird, fällt es vielen Unternehmen leichter, ChatGPT beruhigt in ihre Arbeitsprozesse aufzunehmen.
Beim Versuch, Unternehmen eine Plattform für LLM-Apps zu verkaufen, merkt man sehr schnell, wie sensibel sie beim Teilen von Daten sind. In Organisationen, die den Zugriff auf ChatGPT nicht blockiert haben, fügten Mitarbeitende bereits viele sensible Daten ein, und ich habe auch einige Firmen gesehen, die chatbot-ui über Azures OpenAI-Angebot bereitgestellt haben, weil Azure behauptet, keine Nutzerdaten zu verwenden (https://learn.microsoft.com/en-us/legal/cognitive-services/o...)
Um diese Datenschutzbedenken von Unternehmen zu adressieren, haben wir unserer Plattform ebenfalls Unterstützung für Azure OpenAI hinzugefügt und die Engine als Open Source veröffentlicht, um On-Premises-Deployments zu unterstützen (LLMStack - https://github.com/trypromptly/LLMStack)
Die große Sorge, die in der Richtlinie genannt wird, ist, dass geistiges Eigentum anderer aus den Trainingsdaten unbeabsichtigt verwendet werden könnte. Dass unsere Daten in das Tool gelangen, ist ebenfalls ein Problem, aber ebenso problematisch ist, dass wir etwas, das das Tool bereits in seinen Daten hat, ohne Berechtigung nutzen könnten. Wie kann man beweisen, dass das niemals passiert? Die einzige Möglichkeit, die mir einfällt, wäre, eine umfassende Liste aller Elemente bereitzustellen, mit denen das Tool trainiert wurde.
Unternehmen werden weiterhin sehr vorsichtig sein, Daten in solche Multi-Tenant-Plattformen einzuspeisen. Selbst mit Verschlüsselung fühlt sich das vermutlich nicht ausreichend an. Für Unternehmen scheint ein vollständig isolierter virtueller privater LLM-Stack nötig zu sein.
Das SOC-2-Framework ist komplex und teuer in der Einhaltung, wodurch Organisationen sich eher auf das Abhaken von Kästchen konzentrieren können, statt sinnvolle Sicherheitskontrollen umzusetzen. Als allgemeiner Maßstab zum Verständnis der Sicherheitskultur einer Organisation taugt SOC 2 nicht besonders, und es ist beängstigend, dass das offenbar das Beste ist, was wir derzeit haben.
Unternehmensdaten nicht zum Trainieren des Modells zu verwenden, ist bei Machine-Learning-Produkten für Unternehmen eine Grundvoraussetzung. Google macht das zum Beispiel auch so.
Um in stärker regulierten Branchen in Betracht gezogen zu werden, muss die Compliance-Stufe wohl noch weiter steigen. HIPAA-konform scheint es noch nicht zu sein, und der nächste Schritt wäre vermutlich eine geografische Abgrenzung bei der Übertragung, sodass die von der Institution genutzte Hardware innerhalb einer bestimmten Jurisdiktion stehen muss. Das klingt langweilig, ist aber eine einfache Möglichkeit, den adressierbaren Markt zu vergrößern.
Allerdings ist es derzeit wahrscheinlich schlicht eine Frage mangelnden Angebots. Schon die erste Welle dürfte die Kapazitäten auslasten. Ich frage mich auch, ob sie Batch-Processing-Dienste anbieten werden, die laufen, während die Mitarbeitenden der Unternehmen schlafen.
https://help.openai.com/en/articles/5722486-how-your-data-is...
Wenn ein Unternehmen intern dennoch das Consumer-Produkt nutzt, erscheint es sinnvoll, dafür zu bezahlen und sich abzumelden, damit Eingaben nicht fürs Training verwendet werden.
Meiner Ansicht nach verstoßen die ChatGPT-Modelle faktisch gegen alle Open-Source-Lizenzen. Selbst die MIT-Lizenz verlangt eine Urheberangabe; bevor jemand widerspricht, würde ich gern auch nur einen einzigen Lizenzhinweis zu einem Open-Source-Projekt sehen.
Wenn sie zudem von Microsoft unterstützt werden: Was passiert, wenn sie ihr Versprechen brechen und selektiv mit Daten von Wettbewerbern oder potenziellen kleinen Unternehmen trainieren?
Was könnte sie realistisch daran hindern? Die meisten Unternehmen haben nicht die Feuerkraft, um gegen das von Microsoft unterstützte OpenAI anzutreten. Wie kann garantiert werden, dass sie das nicht verletzen, und wie kann man sie praktisch zur Verantwortung ziehen? Für mich ist das einfach nur auf dem Niveau von „Vertrau uns“; gibt es Gründe, das anders zu sehen?
Korrigiert mich, wenn ich falsch liege. Mein letzter Stand ist, dass die Nutzung urheberrechtlich geschützter Daten rechtlich sehr unklar ist und sich in einer Grauzone bewegt. Außerdem verbieten viele Open-Source-Lizenzen meines Wissens nicht ausdrücklich, ihren Code als Trainingsdaten zu verwenden. Das Problem beschränkt sich nicht darauf, dass andere Unternehmen nicht die Ressourcen haben, gegen Microsoft/OpenAI zu kämpfen; selbst wenn sie sie hätten, ist nicht klar, ob ein Gericht Microsoft/OpenAI ein Fehlverhalten attestieren würde.
Das soll nicht heißen, dass ich in dieser Debatte auf der Seite von Microsoft/OpenAI stehe, aber ich glaube nicht, dass die Sache so eindeutig ist, wie du es darstellst.
Außerdem nutzen die meisten Mitarbeitenden Google Workspace oder die Office-365-Cloud zum Speichern und Teilen vertraulicher Dateien. Was ist bei OpenAI anders, dass es besorgniserregender wäre?
Die Punkte, die Unternehmenskunden angeboten werden – also dass Kunden-Prompts und Unternehmensdaten nicht zum Training von OpenAI-Modellen verwendet werden, unbegrenzter Zugriff auf Advanced Data Analysis (ehemals Code Interpreter) und ein 32k-Token-Kontextfenster für viermal längere Eingaben, Dateien und Anschlussfragen – hatte ich für Dinge gehalten, die auch für Nicht-Unternehmenskunden bereits möglich waren. Vielleicht liege ich falsch oder irgendetwas hat sich geändert.
Der Product-Market-Fit dürfte ziemlich solide sein. Das Produkt (ChatGPT) war bereit, aber nicht für Unternehmen; jetzt ist es enterprise-tauglich. Das dürfte viele Sales-Leads bringen.
Diese Ankündigung ermöglicht es Unternehmen, ihren Mitarbeitern die Nutzung von ChatGPT zu erlauben und zugleich Datenschutzbedenken zu verringern.
Interessant, aber ich bin etwas enttäuscht, dass dieser Launch kein Fine-Tuning auf einem Korpus von Unternehmensdokumenten umfasst. Es wirkt einfach wie ein etwas bequemeres und datenschutzfreundlicheres ChatGPT. Übersehe ich etwas?
Das Hochladen von Dokumenten über den Code Interpreter wird bereits unterstützt, und sie fügen Connectoren hinzu, um Anwendungen anzubinden, in denen die Dokumente liegen. Ich bin nicht sicher, was man darüber hinaus erwarten würde.
Die Botschaft dieses Videos hat sich im Nachhinein definitiv als nicht passend erwiesen: https://www.youtube.com/watch?v=smHw9kEwcgM
Kurz gesagt: Das könnte wirklich viele Startups getötet haben.
Aber meistens ist es eher „OpenAI-API + vorgeschalteter Prompt + Benutzeroberfläche + Marketing“. Das Problem ist, wie schon beim Start der GPT-3-API vor drei Jahren angesprochen wurde: Kein Startup kann leicht einen Wert liefern, der deutlich größer ist als der Wert, den die API selbst bietet. Daher ist es für OpenAI vergleichsweise einfacher, dieses Geschäft selbst zu übernehmen, als es bei ähnlichen Startup-Modellen rund um andere Großunternehmen in der Vergangenheit der Fall war.
Wenn man ein AI-Startup baut und ein LLM braucht, sollte man Llama oder ein anderes Modell nutzen, das man selbst kontrollieren und hosten kann. Alles andere ist praktisch Selbstmord.
Dort steht „unbegrenzter Zugriff auf Advanced Data Analysis (ehemals Code Interpreter)“, aber Code Interpreter war ein ziemlich schlechter Name. Für Leute ohne Informatikhintergrund bedeutete er nicht wirklich etwas.
Aber wie heißt es jetzt? „Advanced Data Analysis“ klingt eher wie die Funktionsbeschreibung in einem Bulletpoint als wie ein Name.
Vielleicht war es eine experimentelle Preview und ist jetzt nur noch für Unternehmen nutzbar. Zugriff hatte ich ohnehin nicht.
Könnte das damit zusammenhängen, dass dieses Repository plötzlich verschwunden ist?
https://github.com/microsoft/azurechatgpt
Frühere Diskussion:
https://news.ycombinator.com/item?id=37112741
In diesem Bereich gibt es ein paar gute Open-Source-Projekte. Sie sind nicht völlig identisch; viele Projekte konzentrieren sich auf lokale LLMs wie Llama2 oder das letzte Woche erschienene Code Llama.
https://github.com/jmorganca/ollama (LLMs lokal herunterladen und ausführen; ich bin Maintainer)
https://github.com/simonw/llm (Zugriff auf Cloud- und lokale LLMs über die Kommandozeile)
https://github.com/oobabooga/text-generation-webui (Web-UI mit Unterstützung für mehrere Backends)
https://github.com/ggerganov/llama.cpp (schneller lokaler LLM-Runner)
https://github.com/go-skynet/LocalAI (stellt eine OpenAI-kompatible API bereit)
Leider habe ich den Code nicht indexiert. Insights sind unter https://devboard.gitsense.com/microsoft/azurechatgpt zu sehen.
Der Transparenz halber: Das ist mein Tool.
https://github.com/matijagrcic/azurechatgpt
Ich dachte, Microsoft sei gerade mit dem Enterprise-Markt beschäftigt, aber OpenAI hat ein Enterprise-Produkt angekündigt. Es fühlt sich so an, als würden die beiden nicht besonders gut miteinander auskommen.
Optimale Geschäftsstrategie. Es lässt es so aussehen, als gäbe es mehr Wettbewerb, und verschiebt die Entscheidung von „Sollen wir ChatGPT nutzen?“ zu „Welchen GPT-Anbieter sollen wir nutzen?“.
OpenAI ist im Vergleich zu Microsoft ein kleines Unternehmen. Es hat nicht die Ressourcen, ein riesiges Partnernetzwerk aufzubauen. Bestenfalls kann es kleinen Kunden eine Produktlinie mit Support auf Foren-Niveau bieten und großen Kunden eine umfassend unterstützte Enterprise-Produktlinie. Aber den mittleren Markt wird wie immer Microsoft besetzen.
Ich verstehe nicht ganz, wo das Marktsegment von OpenAI endet und wo das von Azure beginnt.