OpenAI sperrt Konto von ByteDance, nachdem das Unternehmen GPT zum Training eines eigenen KI-Modells genutzt hat

• OpenAI hat das Konto von ByteDance gesperrt
• ByteDance soll GPT verwendet haben, um in China ein eigenes konkurrierendes Modell zu trainieren
• OpenAI-Sprecher Niko Felix erklärte, dass API-Kunden die Technologie für gute Zwecke einsetzen sollten, und gab bekannt, dass das Konto trotz der geringen API-Nutzung von ByteDance für eine Untersuchung gesperrt wurde
• ByteDance wickelte den Großteil der GPT-Nutzung über die Azure-Plattform von Microsoft ab; ob Microsoft wie OpenAI den Zugang von ByteDance sperren wird, ist bislang unklar

Meinung von GN⁺

• Dieser Artikel betont die ethischen Fragen rund um die Nutzung von KI-Technologien sowie die Bedeutung von geistigem Eigentum.
• Das Verhalten von ByteDance zeigt, wie Wettbewerb und Innovation im Technologiesektor mitunter rechtliche und moralische Grenzen austesten können.
• Der Vorfall sendet auch an andere Unternehmen ein Warnsignal und erinnert daran, dass bei der Nutzung von KI-Technologien klare Nutzungsrichtlinien und Lizenzbedingungen eingehalten werden müssen.

[GN⁺]

Hacker-News-Kommentare

• Doppelte Maßstäbe bei Urheberrechtsverletzungen

  Ein Nutzer weist darauf hin, dass es heuchlerisch sei, wenn OpenAI urheberrechtlich geschützte Werke anderer verwende, anderen aber dieselbe Möglichkeit in Bezug auf die eigenen Arbeiten verwehre. Ohne juristische Fachkenntnisse sei er über den Unterschied zwischen Moral und Recht verwirrt.

• Eine extreme Version des Urheberrechts

  Es wird kritisiert, dass OpenAI Bilder und Texte aus der ganzen Welt als Trainingsdaten verwenden könne, Wettbewerber innerhalb dieses Systems aber nicht dasselbe tun dürften. Das sei die kaputteste Version von Urheberrecht, die man sich vorstellen könne.

• Aufwerfen kartellrechtlicher Fragen

  Neben dem Urheberrecht werden auch kartellrechtliche Fragen aufgeworfen. Gerichte unterstützten im Allgemeinen Klauseln gegen Reverse Engineering, während das Kopieren von Schnittstellen eher begrüßt werde, weil es Marktersatz fördere. Neu sei die Frage, ob OpenAI die Nutzung von Ausgaben eines Werkzeugs beschränken könne, das für Kunden offensichtlich offen sei. Außerdem ähnele dies Datenbanklizenzen, die vergleichende Veröffentlichungen durch Kunden verhindern, was wettbewerbswidrig sein könne. Kartellrechtliche Überlegungen würden meist durch reife Märkte motiviert, in denen ein Akteur den Markt beherrscht. In einem wachsenden Markt stelle sich jedoch die Frage, ob dieselbe Analyse gilt. Wenn der Markt schnell wächst, könnten Bedenken geringer ausfallen, weil Dominanz unsicher ist. Ist der Markt dagegen besonders anfällig für Vereinnahmung, könnten frühe Marktführer mehr Aufmerksamkeit erfordern. Über die unmittelbare Wirkung eines Monopols auf sinkenden Wettbewerb hinaus könne ein zweiter Effekt in geringeren Investitionen in Wettbewerber bestehen, was zu wettbewerbswidrigen Folgen führe. Diese Sorgen könnten in einer frühen Marktphase am größten sein. Es wird gefragt, ob es dazu einen einschlägigen Anwaltsblog gibt.

• Blockieren von Wettbewerbern und Zusammenarbeit mit Deutschlands schlimmster Zeitung

  Es wird darauf hingewiesen, dass OpenAI Wettbewerber blockiere, mit Deutschlands schlimmster Zeitung zusammenarbeite und Microsoft einen Sitz im OpenAI-Vorstand habe. Das deute darauf hin, dass Altmans Rückkehr wirklich gut laufe.

• API-Nutzungsrichtlinien und der „gute“ Einsatz von Technologie

  Es wird erwähnt, dass ByteDance OpenAIs API nur in geringem Umfang genutzt habe, OpenAI das Konto aber für weitere Untersuchungen gesperrt habe. OpenAI betone, dass alle API-Kunden die Nutzungsrichtlinien einhalten müssten, wonach die Technologie für „gute“ Zwecke eingesetzt werden solle. Das Wort „gut“ klinge für viele positiv, doch es gebe immer Grauzonen, die für andere als böse erscheinen könnten.

• Diskussion über missbräuchliche Nutzung auf einer internen Kommunikationsplattform

  Es wird berichtet, dass ByteDance-Mitarbeiter auf der internen Kommunikationsplattform Lark darüber diskutierten, „wie man Beweise verwässert“. Der Missbrauch sei so verbreitet gewesen, dass Mitarbeiter von Project Seed regelmäßig an die API-Zugriffslimits gestoßen seien. Wenn man sich frage, warum andere Modelle GPT-3.5 offenbar schnell einholen, GPT-4 aber nicht übertreffen, solle man bedenken, dass sie möglicherweise einfach die Ausgaben von GPT-3.5 zum Training verwenden oder darüber lügen.

• Bootstrapping mit den Modellen großer Player

  Als IBM Watson neu und angesagt war, habe sich jemand gefragt, wie leicht es wohl wäre, mit den Modellen großer Player das eigene Modell zu bootstrappen. Mit OpenAI schien das nicht mehr nötig, doch als das Unternehmen beschloss, seine Modelle nicht mehr offenzulegen, habe sich die Lage geändert. Llama und viele andere trügen diese Fackel jedoch weiter. Das wirke wie eine interessante Methode, Modelle zu verbessern.

• Die Unmöglichkeit, Modellextraktion zu verhindern

  Es wird darauf hingewiesen, dass man ByteDance oder irgendjemanden sonst nicht daran hindern könne, OpenAIs Modell zu extrahieren, wenn die Motivation dafür groß genug sei. Man könne die Datensammlung auch an andere delegieren.

• Fragen zum Trainieren und Kopieren von Modellen über eine API

  Ein Nutzer bittet um eine Erklärung, wie man mit einem bestehenden Modell wie ChatGPT, zu dem nur API-Zugang besteht, ein eigenes Modell trainieren und Aspekte davon kopieren könne. Es fehle ihm an einem intuitiven Verständnis dafür, wie man überhaupt mit einer Prompt-Liste beginnen solle, die sämtliches Wissen abdeckt, und wie sich nützliche Ausgaben von unsinnigen Halluzinationen unterscheiden lassen. Er habe das Gefühl, in dem Artikel und den Links würden entscheidende Details nicht erklärt.

• Spöttischer Kommentar zu OpenAIs Sperrung von ByteDance

  Zur Sperrung von ByteDance-Konten durch OpenAI, weil ByteDance GPT zum Trainieren eigener KI-Modelle verwendet habe, heißt es spöttisch, das sei so, als würde ein Kind, das im Süßwarenladen Süßigkeiten gestohlen hat, sich darüber beschweren, dass sein jüngeres Geschwister dieselben Süßigkeiten stiehlt.