Viele AI-Sicherheitsorganisationen versuchen, heute existierende Open-Source-AI zu kriminalisieren

• Unter LLM-Nutzern wurde die Beschwerde laut, AI-Sicherheitsorganisationen wollten die Open-Source-LLMs verbieten, die sie verwenden; dazu wurde behauptet, dies sei ein falsch verbreitetes Gerücht.
• Diese Behauptung stimmt jedoch nicht. Tatsächlich haben viele AI-Sicherheitsorganisationen Gesetzesvorschläge unterstützt, die das Open Sourcing „der derzeit existierenden Modelle kriminalisieren“ würden.
• Einige dieser Organisationen sind gut finanziert und zunehmend mit politischen Entscheidungsträgern vernetzt.

Gesetzesvorschläge von AI-Sicherheitsorganisationen

• Center for AI Safety: eine gut finanzierte Organisation mit Schwerpunkt auf AI-Sicherheitsforschung und Öffentlichkeitsarbeit, die in ihrem bei der NTIA eingereichten Regulierungsvorschlag „leistungsstarke AI-Systeme“ definiert und Anforderungen formuliert, die das Open Sourcing solcher Systeme faktisch verbieten.
• Center for AI Policy: eine in Washington, D.C. ansässige Lobbyorganisation, deren ursprünglich vorgeschlagene Regeln vorsehen würden, dass das bereits veröffentlichte Llama-2 der Regulierung durch eine neue Behörde unterliegt.
• Palisade Research: eine Non-Profit-Organisation, die darauf abzielt, gefährliche Fähigkeiten konkret zu demonstrieren, um politische Entscheidungsträger und die Öffentlichkeit über AI-Risiken zu beraten, und die die Regierung aufgefordert hat, die Veröffentlichung von Llama 2 zu stoppen.
• The Future Society: ein Thinktank mit dem Ziel, AI durch bessere Governance auszurichten, der strenge Anforderungen für „Type 2“-GPAI vorgeschlagen und ausdrücklich erklärt hat, dass Open-Source-Modelle diese nicht erfüllen können.

Der Einfluss von AI-Sicherheitsorganisationen

• Diese Organisationen sind nur ein Teil jener, die ihre Politik oder Ziele sehr klar offengelegt haben.
• Es gibt weitere Organisationen mit weniger klaren politischen Positionen, die letztlich ebenfalls eine Haltung gegen Open Sourcing einnehmen.
• Hätten AI-Sicherheitsorganisationen die Gesetze durchgebracht, die sie in der Vergangenheit wollten, wären Modelle verboten worden, die derzeit aktiv genutzt werden.
• Diese Organisationen hoffen weiterhin, ähnliche Maßnahmen durchzusetzen, und die Open-Source-AI-Bewegung liegt ihnen gegenüber legislativ zurück.

Meinung von GN⁺

• Die Vorschläge von AI-Sicherheitsorganisationen bergen das Risiko, die Entwicklung von Open-Source-AI einzuschränken und Unternehmensmonopole zu stärken.
• Open-Source-AI ist für Forschung und Innovation essenziell, und ihre Einschränkung könnte sich negativ auf den technologischen Fortschritt auswirken.
• Dieser Beitrag zeigt, dass rechtliche Beschränkungen für Open-Source-AI derzeit aktiv vorangetrieben werden; das ist ein Thema, das erhebliche Auswirkungen auf die Demokratisierung und Zugänglichkeit von AI-Technologie haben kann.

[kuroneko]

Scheint etwas zu sein, das wir bei jeder neuen Technologie erleben.

[GN⁺]

Hacker-News-Kommentar

• KI-Sicherheitsexperten wird Heuchelei vorgeworfen. Wenn sie das, was sie behaupten, konsequent umsetzen würden, müssten sie ein Verbot aller KI fordern. Die schädlichen Auswirkungen von KI treten bereits unabhängig davon auf, ob Modellgewichte veröffentlicht werden, und besonders hervorgehoben wird, dass eine der profitabelsten Einsatzformen von KI darin besteht, Plagiate zu verschleiern und das Internet mit technisch umformulierten, aber inhaltlich identischen Texten zuzuspammen.
• Ein weiterer Grund, warum das Ende von Open-Source-KI nahe sein könnte, ist, dass Schluss sein dürfte, sobald Trainingsdaten lizenziert werden müssen. Viele Menschen sind wütend auf OpenAI und Midjourney wegen genau der Dinge, die Open-Source-KI zum Überleben braucht: Fine-Tuning oder Training von Grund auf. Sobald Politiker das zu einem Plattformthema machen, wird das Gesetz vermutlich umgeschrieben, um Unternehmen daran zu hindern, Trainingsdaten nach Belieben zu nutzen.
• Es gibt verschiedene Arten von Sicherheit. Zum Beispiel ist auch der Schutz von Profiten eine Form von Sicherheit. Viele Organisationen wirken wie Lobbyisten für etablierte Unternehmen im KI-Bereich. Soweit erinnerlich hat Microsofts Durchsetzung von Lizenzen eine ähnliche Strategie genutzt.
• Unter dem Begriff KI-Sicherheit werden viele unterschiedliche Ideen zusammengefasst, was nicht hilfreich ist. Dazu gehören zum Beispiel „sichere“ politisch korrekte Ausgaben, keine Pornografie, großangelegte gesellschaftliche/Wahlmanipulation und die Auslöschung der Menschheit durch starke KI; diese drei Dinge haben fast nichts gemeinsam, was jede Diskussion ineffizient macht.
• Der Regierung ist bewusst, dass „KI“ die Fähigkeit der Allgemeinheit, sie ohne ihre Kontrolle und Aufsicht zu nutzen, ihre Machtausweitung begrenzt. Wie der Artikel zeigt, schaffen diese „Thinktanks“ bereits die Grundlage, um eine Wiederholung von Llama 2 zu verhindern. Wir brauchen einen KI-Stallman, und FOSS-KI-Modelle sollten zu einer Bewegung werden wie die Kampagne für FOSS UNIX in den 80er- und 90er-Jahren. Als man Stallman jedoch zu diesem Thema schrieb, zeigte er kein Interesse oder eine defätistische Haltung und ignorierte die Idee einer GPL für Modellgewichte weitgehend.
• Die meisten KI-Sicherheitsexperten scheinen stark an das zu glauben, was sie predigen. Ob sie recht haben, ist eine ganz andere Frage. Die Finanzierung von KI-Sicherheit ist jedoch eindeutig zumindest teilweise durch Regulatory Capture oder irgendeine Form von Protektionismus motiviert.
• Unterschätzen Sie nicht den Wunsch bestehender Kontroll- oder Machtsysteme, sich selbst zu replizieren.
• Es gibt viele KI-Sicherheitsforscher mit guten Absichten, aber man sieht auch Sicherheitsheuchelei, die den Doppelstandard offenlegt: „KI für mich, aber nicht für dich“.
• Datenlizenzierung wird zu einem großen Engpass werden.
• Unzensierte Ergebnisse werden gegen Open-Source-Modelle eingesetzt werden, wenn Fragen in dunklen oder grauen Bereichen gestellt werden.
• Zwischen Open-Source- und Closed-Source-Modellen gibt es große Unterschiede bei Rechenleistung und Modellgröße. 7B gehört zum Open-Source-Bereich, während Closed Source weit darüber liegen wird.
• Dass diese Organisationen FLOP-Schwellenwerte benennen und MMLU als relevante Bewertungsmetrik heranziehen, ist etwas lächerlich. Es wirkt, als hätten mehrere Organisationen ähnliche Schwellenwerte einfach kopiert und eingefügt. Da Rechenkosten billiger werden, werden auch diese Schwellenwerte immer leichter zu erreichen sein. Vielleicht werden wir darauf zurückblicken und es als engstirnig und kurzsichtig ansehen.