Kalifornischer Gesetzesentwurf verlangt Offenlegung, dass es sich um Bots handelt

 (veeto.app)
1 Punkte von GN⁺ 2025-02-08 | 1 Kommentare | Auf WhatsApp teilen

  • Überblick

    • Ein Gesetzesentwurf in Kalifornien würde verlangen, dass alle Online-Bots und KI-basierten Konten ihren automatisierten Charakter offenlegen.
    • Die Definition von Bots wird erweitert, um auch Konten einzuschließen, die generative KI verwenden.
    • Es würde vorgeschrieben, dass sie während der Online-Interaktion mit Nutzern auf Anfrage unverzüglich offenlegen, dass es sich um einen Bot handelt.
    • Auf allen Plattformen mit mehr als 10 Millionen monatlichen US-Nutzern wäre eine klare und gut sichtbare Bot-Kennzeichnung erforderlich.

  • Zusammenfassung

    • Der Bot-Offenlegungsgesetzesentwurf des Abgeordneten Wilson definiert Kaliforniens Umgang mit automatisierter Online-Kommunikation neu.
    • Der Entwurf erweitert das geltende Recht, das eine Offenlegung nur dann verlangt, wenn Bots versuchen, kommerzielle Transaktionen oder das Wahlverhalten zu beeinflussen.
    • Die gesetzliche Definition wird aktualisiert, um Konten einzuschließen, die durch generative KI betrieben werden.
    • Es wird verlangt, in allen Online-Interaktionen klar offenzulegen, dass es sich um einen Bot handelt, und diese Information auf Anfrage anderer Nutzer bereitzustellen.
    • Die Offenlegungspflichten gelten für öffentliche Websites, Webanwendungen und digitale Plattformen.
    • Online-Plattformen mit mehr als 10 Millionen monatlichen US-Besuchern müssen diese erweiterten Offenlegungsregeln einhalten.

  • Wichtige Daten

      1. Februar 2025: Erste Lesung. Druck vorgesehen.

  • Beteiligungsmöglichkeiten

    • Dieser Gesetzesentwurf wurde kürzlich eingebracht. Sie können dem Autor eine E-Mail senden, um Ihre Meinung mitzuteilen.

  • Ausblick der Community

    • Positiv: 45.5%
    • Negativ: 54.5%

  • Neueste Abstimmungsdaten

    • Derzeit gibt es keine Abstimmungsdaten zu diesem Gesetzesentwurf.

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2025-02-08
Hacker-News-Kommentare

  • Vor 10 Jahren, als Chatbots noch deutlich weniger nützlich waren, war es gängige Netiquette, dass es okay ist, wenn ein Bot sich als Mensch oder Neuling ausgibt, er es aber zugeben muss, wenn man ihn direkt fragt, ob er ein Bot ist
    Das fühlte sich an wie die Bot-Version der Urban Legend, dass verdeckte Ermittler es offenlegen müssen, wenn man sie direkt fragt, und ich sehe kaum Nachteile darin, eine solche Anforderung für öffentlich zugängliche Bots einzuführen
    Ich weiß allerdings nicht, ob der aktuelle Vorschlag genau das vorsieht, und die Website ist gerade nicht erreichbar

    • Ich finde, dieses Prinzip sollte in beide Richtungen gelten: Bots sollten bestätigen müssen, dass sie Bots sind, und Menschen sollten bestätigen müssen, dass sie Menschen sind
      Aus verschiedenen Gründen möchte ich auch nicht, dass Menschen so tun, als seien sie Bots
    • Die Position „Wenn man direkt fragt, reicht es, das offenzulegen“ wirkt wie ein Mittelweg, in Wirklichkeit wälzt sie die Last des Handelns aber auf Menschen ab, deren Energie begrenzt ist und die ohnehin schon Hunderte Entscheidungen treffen müssen
      Das klingt wie etwas, das ein Lobbyist einer Aufsichtsbehörde zuflüstern würde, um Regulierung faktisch wirkungslos zu machen
      Menschen, die mit Technik nicht vertraut sind, müssen weder wissen, was große Sprachmodelle sind und was sie können, noch haben sie die Pflicht, das zu wissen
      Solche Probleme müssen an der Quelle gelöst werden, und man sollte optimistischen libertären Technikern nicht erlauben, die ganze Gesellschaft zu ddosen
    • In einem anderen Kommentar gibt es einen Archiv-Link: https://news.ycombinator.com/item?id=42968477
    • Das erinnert mich an das alte /finger [Nick|Address]
    • Ich erinnere es eher umgekehrt. Die populären Chatbots von 2015 haben abgestritten, Bots zu sein, um den Turing-Test zu bestehen
      Die populären Chatbots von heute, also 2025, erklären ziemlich gut, dass sie Bots sind
      Natürlich ist das nur eine Verallgemeinerung über populäre Beispiele, und jeder kann seinen Bot so bauen, wie er möchte

  • Das sieht ganz klar nach verdeckter Werbung für vetto.app aus. Die einzige andere Aktivität von alexd127 ist genau dieser Thread zum gleichen Gesetzentwurf [https://news.ycombinator.com/item?id=42901553]

  • Ich hoffe, dieses Gesetz gilt auch für KI-generierte E-Mails, Sales-Outreach und LinkedIn-Nachrichten

    • Hoffentlich auch für politische SMS und für die Bestätigungsnachricht von irgendeiner anderen Zufallsnummer, nachdem man „STOP“ geschickt hat
      Besonders gut wäre es, wenn das in maschinenlesbarer Form wäre
    • Scheint so zu sein. Der vorgeschlagene Wortlaut lautet:

      It shall be unlawful for any person to use a bot to communicate or interact with another person in California online. A person using a bot shall not be liable under this section if the person discloses that it is a bot. A person using a bot shall disclose that it is a bot if asked or prompted by another person.
      Die Definitionen und den Originaltext gibt es unter https://legiscan.com/CA/text/AB410/2025
      E-Mails, Sales-Outreach und LinkedIn-Nachrichten fallen alle unter Kommunikation oder Interaktion

    • Ich gehe ohnehin davon aus, dass 99,9 % davon bereits komplett von Bots erzeugt werden
    • Warst du in letzter Zeit auf LinkedIn? Es ist praktisch die Theorie vom toten Internet in der Praxis
      Jeder Beitrag, jeder Kommentar ist so, und ich verstehe wirklich nicht, welchen Sinn das noch haben soll
      Ich vermisse die Zeit, als es dort einfach nur um die Suche nach Jobs und Kandidaten ging
    • Wenn das Gesetz kommt, wird LinkedIn ein einziges Chaos werden

  • Die Anforderungen gelten erst ab 10 Millionen monatlichen Nutzern in den USA. Ich verstehe nicht, warum sie nicht auch für kleinere Anbieter gelten sollten

    • So wie ich es verstehe, ist es eine Anforderung an Plattformen mit mindestens 10 Millionen monatlichen Nutzern. Auf etwas wie Twitter träfe das zu, auf Hacker News vermutlich nicht.
      Tatsächlich geht es eher darum, dass solche Plattformen eine Schnittstelle bereitstellen, über die Bots sich selbst kennzeichnen können, und dass sie sich nach Treu und Glauben bemühen müssen, Bots zu identifizieren.

      Online platforms with over 10 million monthly U.S. visitors would need to ensure bot operators on their services comply with these expanded disclosure rules.
      Wenn ein Bot also auf Plattformen wie Twitter, Facebook oder Reddit unterwegs ist, müsste er sich kennzeichnen, auch wenn er von einem kleinen Anbieter stammt.
      Man kann über den Schwellenwert streiten, aber er wirkt vernünftig. Das auch kleinen Nischenforen aufzuzwingen wäre nicht angemessen, würde kleine Akteure übermäßig belasten und zudem staatliche Ressourcen verschwenden. Der potenzielle Schaden ist definitionsgemäß ebenfalls geringer.
      Große Unternehmen mögen Regulierung, weil sie eine Markteintrittsbarriere darstellt und sie selbst diese Hürde überwinden können.
      Genauer gesagt drückt sie Konkurrenten nieder, bevor diese richtig wachsen können. Deshalb halte ich diese Art von Regulierung für eine gute Idee.
      Das Spielfeld ist ohnehin immer schief, und große Akteure können ihre Größe nutzen, um sogar mit schlechteren Produkten zu gewinnen

    • Dafür gibt es auf beiden Seiten praktische Gründe. Die meisten kleinen Unternehmen würden wahrscheinlich nicht einmal erfahren, dass es diese Regel gibt, selbst wenn sie beschlossen wird.
      Wenn verschiedene Rechtsräume jeweils eigene KI-Gesetze verabschieden, könnten sich nach und nach Hunderte von Gesetzen über zahllose Zuständigkeiten verteilen, einander widersprechen, und unklare Rechtsprechung würde ihre Bedeutung festlegen und laufend verändern.
      Um auf dem neuesten Stand zu bleiben, bräuchte man buchstäblich eine Compliance-Abteilung.
      Solche Abteilungen sind mit Juristen besetzt und teuer. Wenn solche Gesetze auch für kleine Anbieter gälten, würde das die Fähigkeit kleiner Unternehmen, überhaupt zu existieren, massiv bedrohen.
      Das ist auch der Grund, warum große Unternehmen in bestimmten Branchen aktiv für Regulierung lobbyieren. Nach außen heißt es „Sicherheit“, in Wirklichkeit ist es wettbewerbswidriges Verhalten.
      Aber bei etwa 10 Millionen regelmäßigen Nutzern sollte man sich eine Compliance-Abteilung problemlos leisten können
    • Anders gesagt: Startups sollte man ein wenig Spielraum zum Tricksen lassen. Ein kleiner Vorteil gegenüber etablierten Platzhirschen ist meiner Meinung nach politisch in die richtige Richtung
    • Falsch. Die 10-Millionen-Anforderung ist Teil der Definition von „online platform“ [1] und wird im bestehenden Gesetzestext nur in der Klausel [2] erwähnt, die besagt, dass diese keine Pflicht haben.
      Im vorgeschlagenen Gesetzentwurf [3] wird sie, abgesehen von Formularänderungen, überhaupt nicht erwähnt.
      [1] https://law.justia.com/codes/california/code-bpc/division-7/...
      [2] https://law.justia.com/codes/california/code-bpc/division-7/...
      [3] https://legiscan.com/CA/text/AB410/2025
    • Man betreibt einfach 10 Tochtergesellschaften über eine Kette von Briefkastenfirmen und achtet sorgfältig darauf, dass jede unter 8 Millionen monatlichen Nutzern bleibt.
      Alle verbreiten fast dieselbe Botschaft, aber natürlich ist das reiner Zufall, und sie haben sich bloß ganz unverhohlen gegenseitig kopiert

  • Da die Veeto-Website etwas überladen wirkt, hier die offizielle Seite der kalifornischen State Assembly zu dem Gesetzentwurf: https://leginfo.legislature.ca.gov/faces/billTextClient.xhtm...
    Es scheint ein ziemlich eng gefasster Entwurf zu sein. Offenbar wird nur die Voraussetzung gestrichen, dass der Einsatz von Bots nur dann illegal ist, wenn eine „Absicht zur Irreführung“ vorliegt.
    Diese Absicht ist sehr schwer nachzuweisen, weshalb das Gesetz am Ende wahrscheinlich nicht richtig durchgesetzt würde.
    Stattdessen wäre es eine Regel mit deutlich klarerer Grenze: Wenn man nicht offenlegt, dass es ein Bot ist, ist es illegal; wenn man es offenlegt, ist es in Ordnung.
    Nachdem die Veeto-Seite geladen war, sah ich einen Chat-Tab mit dem Text: “Ask me anything about this bill! I'll use the bill's text to help answer your questions.”
    Ironischerweise scheint Veeto selbst irgendeinen Chatbot zu verwenden und dürfte daher von diesem Gesetz direkt betroffen sein

    • Die Änderungen, in denen „Internet Web site“ zu „internet website“ korrigiert wird, fand ich amüsant

  • Interessant. Wie weit das in der Praxis gehen wird, weiß ich nicht, aber es ist eine Diskussion, die man führen sollte.
    Einerseits wirken die Kommentare so, als gäbe es ziemlich viel Interesse an einer Offenlegungspflicht.
    Andererseits dürften Unternehmen und große Werbekunden, also Spammer, das eher nicht wollen. Gibt es für sie überhaupt eine positive Seite an der Offenlegung?

    • Kalifornien ist ziemlich ordentlich darin, verbraucherfreundliche Gesetze zu verabschieden. „Ziemlich ordentlich“ im Vergleich zum Bund oder zu anderen Bundesstaaten.
      Es funktioniert nicht immer, aber ich habe das Gefühl, dass die Absicht vieler Gesetze tatsächlich auf die Menschen ausgerichtet ist.
      Unternehmen und große Werbekunden wollen das natürlich nicht. Irgendwann würde ich gern auf Reddit sehen, wie viele echte Bots es tatsächlich gibt und wie nah wir dem Dead Internet schon sind.
      HN dürfte unter dem Schwellenwert von 10 Millionen liegen, ab dem die Offenlegungspflicht greift. Ich glaube aber auch nicht, dass es hier viele Bots gibt
    • Je intelligenter Bots werden, desto mehr Zugang sollte man ihnen geben, nicht weniger.
      Menschen werden schon viel zu lange als nützliche Idioten und Marionetten benutzt, und ich sehe nicht, warum man bei Bots eine Ausnahme machen sollte

  • Ob es dieses Gesetz gibt oder nicht, die Branche wird sich ohnehin bald in diese Richtung bewegen. Der Grund ist ein Paradigmenwechsel
    Es geht bei Gesprächen jetzt nicht mehr um Scraping-Bots gegen echte menschliche Besucher.
    Die heutige Realität ist, dass legitime Nutzer AI-Agenten verwenden, um auf E-Commerce-Websites den niedrigsten Preis zu finden, automatisch zu bezahlen und anspruchsvolle Datenabfragen auszuführen.
    Selbst traditionelle Warnsignale wie viele schnelle Anfragen oder seltsame Navigationsabläufe können bei einem AI-Assistenten schlicht ehrliches Kundenverhalten sein.
    Siehe auch einen Beitrag, den ich vor ein paar Wochen gepostet habe: https://blog.tarab.ai/p/bot-management-reimagined-in-the

    • Es scheint noch immer zu viel Fixierung auf die Identität des Besuchers und dessen Handlungsträgerschaft zu geben.
      Man sollte einen Schritt zurücktreten und fragen, warum man Bots überhaupt einschränken oder blockieren wollte. Meistens, weil sie Ressourcen des Diensteanbieters verschwenden.
      Aus Sicht des Diensteanbieters muss man nicht zwischen einem AI-Agenten unterscheiden, der schnell 1.000 Seiten anfragt, um den niedrigsten Preis zu finden, und einem dummen Bot, der dieselben 1.000 Seiten zu einem anderen Zweck abgreift.
      Auch wenn ein schneller Mensch in einer Minute Hunderte Tabs öffnet, hat das dieselben Auswirkungen auf die AWS-Kosten.
      Wenn es die Ressourcen belastet und man solche Kunden nicht haben will, hat man das Recht, sie alle rauszuwerfen.
      Ob jemand ein Vertrauens-Token mitbringt oder ein Mensch ist, ist zweitrangig. Das Problem ist immer das Verhalten, nicht der Handelnde.

  • Muss man PUBG-Mobile-Spielern sagen, dass sie gegen Bots gewinnen?
    Müssen Medien behaupten, sie könnten nicht wirklich für Verstorbene sprechen?

    • „Müssen Medien behaupten, sie könnten nicht wirklich für Verstorbene sprechen?“
      Sollten sie das nicht?
    • PUBG Mobile macht das doch schon, oder? Das Spiel ist bereits eine Plattform, die relativ gut zwischen AI-Gegnern und menschlichen Gegnern unterscheidet und das auch anzeigt.
      Was Medien angeht, müsste man zuerst beweisen, dass sie Roboter sind.
    • Bei beidem ja.

  • Ich verstehe, wenn man dieses Gesetz aus Gründen der Praktikabilität oder Verfassungsmäßigkeit ablehnt.
    Nützlicher und rechtlich angemessener wäre aber wohl ein Gesetz in die entgegengesetzte Richtung, also ein Verbot von absichtlich täuschenden Bots, die behaupten, Menschen zu sein oder über menschenähnliche emotionale bzw. soziale Fähigkeiten zu verfügen.

  • Alternativvorschlag: Bei jedem Meme sollte man rechtlich sehen können, wer es erstellt hat.
    Wenn die Leute, die auf ein Meme hereinfallen, etwa sehen könnten, dass es von einer Propagandaorganisation aus Russland oder China erstellt wurde, würden sie vermutlich bald lernen, es skeptischer zu betrachten.