Snowden: Vertraut OpenAI und seinen Produkten niemals

 (twitter.com/Snowden)
1 Punkte von GN⁺ 2024-06-16 | 1 Kommentare | Auf WhatsApp teilen
  • Snowden warnte öffentlich davor, @OpenAI und Produkten wie ChatGPT jemals zu vertrauen
  • Der unmittelbare Anlass für die Warnung ist die Entscheidung von @OpenAI, den @NSA/CSS Director in den Vorstand zu berufen
  • Er behauptete, es gebe für diese Berufung „nur einen einzigen Grund“, nannte in dem Beitrag aber keinen konkreten Grund
  • Er kritisierte die Entscheidung scharf als vorsätzlichen und kalkulierten Verrat an den Rechten aller Menschen weltweit
  • Der Beitrag ist eher eine kurze Warnung und enthält keine zusätzlichen Belege, Beispiele oder Handlungsempfehlungen

Snowdens Warnung

  • Snowden sagt, man solle @OpenAI und seinen Produkten nicht vertrauen
    • Als Beispiel nennt er ChatGPT
  • Die beanstandete Entscheidung ist die Berufung des @NSA/CSS Director in den Vorstand von @OpenAI
  • Er sieht diese Berufung als Entscheidung, die Rechte aller Menschen weltweit vorsätzlich zu verraten
  • Der Beitrag endet mit „You have been warned“ und ist als direkte Warnung an die Leser formuliert

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-06-16
Hacker-News-Kommentare

  • Man kann Snowden wie Stallman widersprechen oder seine Position für extrem halten, aber ihn komplett zu ignorieren wäre töricht
    Gerade läuft ein Goldrausch, bei dem geistige Eigentumsrechte umgangen werden, um die Werke von Milliarden Menschen ohne Quellenangabe oder Vergütung zu nutzen, während Gesellschaft und Gesetzgeber schlafen

    • Richard Stallman hat nie etwas getan, das den Glauben erschüttert hätte, dass er aus Prinzipien handelt, die in dem Recht auf Privatsphäre und individueller Freiheit verwurzelt sind
      Snowdens eigentliche Motive sind weit weniger klar

  • Man braucht Snowden nicht, damit er einem sagt, dass man OpenAI nicht vertrauen soll
    Als ich zum ersten Mal von dieser Firma hörte, reichten schon ein paar Worte, damit es sich anfühlte, als würde ich einen Gebrauchtwagenhandel betreten, der von dem Typen geführt wird, der mich in der Highschool gemobbt hat

    • Trotzdem müssen viele Leute es von jemandem gesagt bekommen
      Findest du, es wäre besser, gar nichts zu sagen?

  • Es gibt natürlich legitime Gründe, Nakasone in den Vorstand zu holen
    OpenAI ist sehr regulierungssensibel und hat deshalb ein großes Lobby-Team, das versucht, die US-Regierung in die eigene Richtung zu ziehen. Er bringt (a) politische Kontakte mit und vermittelt (b) Vertrauen, dass keine Entwicklung die nationale Sicherheit der USA gefährden wird. In Unternehmensvorständen ist das ziemlich üblich
    Realistisch gesehen hat nicht das, was KI tatsächlich kann, den größten Einfluss auf die Welt, sondern was man glaubt, dass KI kann

    • Das erinnert mich daran, dass Leute wie Henry Kissinger im Theranos-Vorstand saßen
      Woran erkennt man, ob solche Vorstandsposten tatsächlich bedeutsam sind oder nur kostenlose Gehaltsposten, bei denen alles einfach abgenickt wird?
    • Genau
      Außerdem war er nicht nur NSA-Direktor, sondern auch Kommandeur des U.S. Cyber Command, was sowohl für die Sicherheits- und Safety-Haltung von OpenAI als auch für den Verkauf an Regierungs- und Verteidigungskunden sehr relevante Erfahrung ist
    • Wenn man an die Regierung verkaufen will, ist das ebenfalls eine gute Idee
    • Im wohlwollendsten Licht betrachtet könnten seine Kontakte dabei helfen zu verhindern, dass die Regierung ohne Faktenbasis ein pauschales Verbot gegen KI insgesamt verhängt
      Aber ich denke, in den Köpfen der meisten Menschen wird diese Sache sehr negativ ankommen
    • Könntest du den Teil, dass „was man glaubt, dass KI kann“ mehr Einfluss hat als die tatsächlichen Fähigkeiten, näher erklären?
      Welche Wirkung hat diese Wahrnehmung und welche Wirkung hat KI tatsächlich?

  • In demselben Tweet steht: „Dies ist ein absichtlicher und kalkulierter Verrat an den Rechten jedes Menschen auf der Erde“
    Für mich klingt das etwas überzogen

    • Ich kenne die Details dieses konkreten Falls nicht, aber Übertreibung ist bei Snowden ziemlich üblich
      Ich werfe es ihm nicht allzu sehr vor. Er hat höllische Dinge erlebt. Trotzdem würde ich seine Twitter-Verlautbarungen nicht gerade als neutral formuliert bezeichnen
    • Stimme zu
      Alarmistische Formulierungen können hilfreich sein, um einem Anliegen Gehör zu verschaffen, aber man sollte sie sparsam einsetzen, wenn man nicht wie der Junge, der Wolf rief wirken will

  • In solchen Situationen sieht Apples Entscheidung, sich mit OpenAIs ChatGPT zu integrieren, noch schlechter aus
    Selbst wenn es Datenschutzversprechen gibt, wenig preiszugeben und die Nutzer ausdrücklich zu fragen, sollten die Vorgänge bei OpenAI und andere Vorfälle bei Apples Führung ernsthafte Sorgen auslösen
    Apples oberste Führungskräfte sagten, sie hätten dort angefangen, weil ChatGPT das Beste sei. Vielleicht hält diese Partnerschaft nicht einmal bis um diese Zeit nächstes Jahr

    • Das erinnert mich daran, wie begeistert Steve davon war, Facebook und Twitter als erstklassige Funktionen in iOS zu integrieren
      Das fühlt sich diesem Moment viel zu ähnlich an
      Dann fällt mir wieder ein, wie schlecht Siri ist. OpenAI hat Apple plötzlich bloßgestellt, und Apple braucht das verzweifelt, um in diesem Bereich konkurrenzfähig zu wirken. Es ist seltsam und traurig
    • Es klang so, als hätte man es flexibel gestaltet, damit sich auch andere Modelle einschleusen lassen
      Wenn es mehr Optionen gibt, könnte man die Nutzer sogar das Modell auswählen lassen
    • Man könnte Mixtral, Minstral, XWin, Mythomax, Claude 3 Haiku 196M verwenden
      Alle sind großartig und die meisten oder alle sind besser als Siri
      Das Beste, was Apple tun könnte, wäre meiner Meinung nach, den Nutzern die Wahl zu lassen, welche KI sie aufrufen wollen. Man könnte es wie iTunes oder den App Store einen AI store nennen. Dann könnten KI-Anbieter bei Datenschutz und Leistung konkurrieren. Allerdings bräuchten Nutzer viele Vergleichsfunktionen, um beurteilen zu können, was die Wahl wert ist

  • Quelle: The Verge
    https://www.theverge.com/2024/6/13/24178079/openai-board-pau...
    https://news.ycombinator.com/item?id=40680962 - Ehemaliger NSA-Chef tritt OpenAI-Vorstand bei

  • Ich stelle dem Chatbot zu sehr vielen Themen wirklich viele Fragen, und sein Nutzen hat sich schon mehrfach bewiesen.
    Trotzdem vertraue ich ihm nicht wirklich und bleibe vorsichtig; außerdem vermute ich nicht ernsthaft, dass ich im Detail überwacht werde. Mir fällt nur schwer, ein Szenario zu finden, in dem das gegen mich verwendet würde.
    Für mehr Privatsphäre wäre ich bereit, mehr zu zahlen, und ich interessiere mich auch für Self-Hosting. Aber unter meinen 99 Problemen steht das ziemlich weit hinten.
    Früher habe ich einmal Speichel an 23andMe geschickt. Ein Teil dieser Daten wurde gestohlen, und wahrscheinlich stehe ich jetzt irgendwo auf einer zum Verkauf stehenden Liste aschkenasischer Juden. Das ist unerquicklich. Im Moment fällt mir keine Situation ein, in der Chatbot-Überwachung zum Problem wird, aber vielleicht fehlt mir einfach die Fantasie.

    • Wenn deine Freunde und die Freunde deiner Freunde alle sagen würden, der Himmel sei violett, wärst du dann mutig genug, ihn blau zu nennen, auch wenn das deiner Beobachtung widerspricht?
      Wir werden in AI-Feedback eintauchen, und alle werden von diesem Rat beeinflusst werden. Solche „Quellen“, bei denen Google mich zu BuzzFeed schickt und dadurch weiß, dass ich Müll lese, werden praktisch verschwinden. Alles bekommt den Anschein von Autorität, nur weil ChatGPT es gesagt hat. Bei diesem Produkt geht es um Vertrauen. Würdest du einem böswilligen Schläger dieselbe Frage stellen und dabei private Details preisgeben? Wohl kaum.
      Selbst wenn es sich so anfühlt, als würdest du nach Belieben misstrauen, ist der Strom von AI-Ratschlägen wie Wasser und wir sind wie Fische. Wir werden bereits beeinflusst, und wenn du nicht weißt, wie, dann musst du genauer hinsehen.
    • Das ist vielleicht ein etwas anderes Thema, aber das eigentliche Problem bei Diensten wie 23andMe ist nicht nur, dass sie irreversible DNA- und Merkmalsdaten besitzen.
      Inzwischen haben sie damit auch DNA- und Merkmalsdaten über einen ziemlich großen Kreis von Verwandten nach oben und unten im Stammbaum. Solche Dienste zu nutzen heißt im Grunde, die eigene Familie zu verkaufen, und die hat dabei keine Wahl.
    • OpenAI wird künftig wahrscheinlich mehr als nur Chatbots anbieten.
      Schon jetzt kann man Dateien hochladen und analysieren lassen.
      Ich halte es nicht für einen Zufall, dass Microsoft Windows Recall für Verbraucher pusht, einen permanenten Index gelöschter Dateien behalten will, OneDrive als Standardspeicherort für O365-Unternehmenskunden durchdrückt und Milliarden in OAI steckt.

  • Für Leute, bei denen Twitter blockiert ist, ist hier zitiert, was der Rest des Tweets zu sein scheint.
    https://fortune.com/2024/06/14/edward-snowden-eviscerates-op...

    • Ich habe Twitter nicht blockiert, aber ich kann dort nichts sehen.
      In etwa 80 % der Fälle bekomme ich nur irgendeinen Standardfehler und „Erneut versuchen“.
    • Zur Info: Diese „Artikel“-Seite zeigt eine Warnung an, dass sie zu x.com weiterleitet.
      Es ist wohl Zeit, der Filterliste einen Eintrag hinzuzufügen.
      Ich habe auf den Link geklickt, um zu sehen, welchen neuen kaputten Bildschirm sie jetzt statt Tweets anzeigen. Seltsamerweise funktioniert der Artikellink. Das ist für mich seit sehr langer Zeit nicht mehr vorgekommen.

  • Es scheint einigermaßen klar, dass es irgendeine Form der Zusammenarbeit zwischen OpenAI und der Regierung gibt.
    Aber warum könnte das so ein dramatisch schlimmes Ding sein?

    • Wahrscheinlich, weil ihre Vorgeschichte nicht gerade besonders transparent ist, hehe.

  • Wieder eins weniger.
    Zur Liste hinzugefügt, den kostenpflichtigen Account gekündigt, die Daten gelöscht und auch den Account gelöscht.
    Es wird immer leichter, bei einem Dienst einen Schritt zurückzutreten und zu überlegen, ob er wirklich unverzichtbar ist. Im Prinzip ist er das nicht, und in dem Moment, in dem es eine missbräuchliche Beziehung wird, kann man ihn entfernen.
    OpenAI war kein braver Hund.