- Python/Pandas-Vollzeitdozent Reuven Lerner schaltete früher Kurswerbung auf Facebook; daraufhin wurde sein Meta-Werbekonto gesperrt, und nach einem Einspruch erhielt er ein lebenslanges Werbeverbot auf Meta-Plattformen
- Als Sperrgrund wurde lediglich ein Verstoß gegen die Werberegeln von Meta genannt; eine konkrete Erklärung, gegen welche Regel verstoßen wurde, war nicht ersichtlich
- Ein LinkedIn-Kontakt berichtete, Meta habe eine Anzeige für Python-Schulungen fälschlich als Handel mit lebenden Tieren eingestuft; im Kern ging es darum, dass Python eine Programmiersprache und Pandas eine Datenanalysebibliothek ist
- Drei Bekannte, die bei Meta arbeiteten oder arbeiten, versuchten nachzuforschen, erhielten aber die Antwort, dass wegen Metas 180-Tage-Richtlinie zur Datenaufbewahrung nach mehr als einem Jahr seit der Sperre die Belege verschwunden seien und es keine Möglichkeit zur Wiederherstellung gebe
- Da sowohl die ursprüngliche Entscheidung als auch der Einspruch offenbar von KI bearbeitet wurden, würde Lerner bei einer künftigen Wiederaufnahme von Kurswerbung sein Budget statt bei Meta in andere Werbekanäle wie Google stecken
Wie Werbung für Python/Pandas-Kurse zu einer dauerhaften Meta-Sperre führte
- Reuven Lerner ist Vollzeitdozent für Python und Pandas, hält Präsenzschulungen bei Unternehmen weltweit und betreibt auch Online-Produkte
- Zu den Online-Produkten gehören Videokurse und ein kostenpflichtiger Newsletter mit wöchentlichen Pandas-Übungen
- Er hat unter anderem bei Unternehmen wie Apple und Cisco unterrichtet
- Vor einigen Jahren schaltete er auf Facebook Werbung für einige Produkte, erzielte damit aber keine großen Ergebnisse; danach blieb das Werbekonto faktisch ungenutzt
- Als er vor etwa einem Jahr die Werbeseite erneut aufrief, sah er den Hinweis, dass das Konto wegen eines Verstoßes gegen Metas Werberegeln gesperrt worden sei
- Vor einigen Monaten prüfte er die Werbeverwaltungsseite erneut, doch Anzeigen waren weiterhin nicht erlaubt
- Welche Regel verletzt worden war, wurde nicht angezeigt
- Er erklärte, er habe außer seinen Python- und Pandas-Kursen nichts beworben
- Über den Button „Click here to appeal“ legte er Einspruch ein, doch etwa 30 Minuten später schickte Meta eine E-Mail, wonach der Richtlinienverstoß bestätigt sei und er auf Meta-Plattformen lebenslang keine Werbung mehr schalten dürfe
Mögliche Verwechslung von Python mit Tierhandel und gescheiterte Wiederherstellung
- Ein LinkedIn-Kontakt berichtete, er habe ebenfalls Probleme gehabt, als er auf Meta-Plattformen einen Python-Bildungskurs bewarb; Meta habe dies als Handel mit lebenden Tieren gewertet
- Lerner geht davon aus, dass Metas KI-System Python und Pandas nicht als technische Begriffe, sondern als Tiere interpretierte und deshalb die Sperrentscheidung traf
- Python ist eine Programmiersprache
- Pandas ist eine Datenanalysebibliothek für Python
- Auch der Einspruch sei seiner Ansicht nach nicht von einem Menschen, sondern von KI bearbeitet worden und zu einer ähnlichen Einschätzung gekommen
- Drei Bekannte, die bei Meta arbeiteten oder arbeiten, versuchten nachzuforschen, doch es führte nicht zur Wiederherstellung
- Der erste Bekannte bestätigte, dass wegen Metas 180-Tage-Richtlinie zur Datenaufbewahrung die relevanten Belege verschwunden seien und das Konto nach mehr als einem Jahr seit der Sperre nicht wiederhergestellt werden könne
- Auch der zweite und dritte Bekannte konnten keine weitergehenden Ergebnisse erzielen
- Lerner ist der Ansicht, dass Metas KI einen großen Fehler gemacht habe und dass es „ziemlich absurd“ sei, dass sowohl die ursprüngliche Entscheidung als auch der Einspruch von KI bearbeitet wurden
- Weil er nicht innerhalb eines bestimmten Zeitraums reagiert habe, lasse sich die Sperre nun nicht mehr rückgängig machen; wenn er künftig wieder Werbung schaltet, werde Meta keine Werbegelder erhalten, sondern Unternehmen wie Google
1 Kommentare
Meinungen auf Hacker News
Es ist wirklich frustrierend, wenn intransparente Verfahren wie KI Entscheidungen treffen.
Ich habe in Japan eine Godo Kaisha gegründet, das Pendant zu einer LLC, und daraufhin wurde mein Grüntee-Abo-Geschäft https://tomotcha.com, das ich zuvor als Einzelunternehmer problemlos genutzt hatte, von Stripe abgelehnt.
Zum Zeitpunkt der Ablehnung nutzte ich das Stripe-Konto als Einzelunternehmer weiterhin. Wenn es wirklich ein Verstoß gegen die Nutzungsbedingungen gewesen wäre, hätte vermutlich ein Mensch zuerst dieses Konto gesperrt; daher wirkt es sehr wahrscheinlich, dass eine KI die Ablehnung ausgelöst hat.
Ich weiß, dass Finanzregulierung streng ist und Zahlungsanbieter Gründe teils nicht im Detail nennen können, aber am Ende bin ich vorerst an PayPal gebunden.
Da sich die Produktzusammenstellung ändert, könnte sie inzwischen den Stripe-Bedingungen entsprechen; ich frage mich, ob ich erneut versuchen sollte, ein Stripe-Konto zu eröffnen.
Zum Beispiel könnte man schreiben: „Ein automatisiertes KI-System ist zu dem Schluss gekommen, dass es für uns nicht vorteilhaft ist, mit Ihnen Geschäfte zu machen. Wir können die Gründe nicht erläutern, weil das Hinweise zur Umgehung von Spam-Schutz liefern könnte. Für 15 Dollar können Sie jedoch eine menschliche Prüfung beantragen und Nachweise für rechtmäßige Verkäufe, Informationen zur registrierten Firma usw. einreichen. Auch bei Ablehnung erfolgt keine Rückerstattung, und die menschliche Prüfung ist keine Gelegenheit, die Grenzen der Nutzungsbedingungen auszureizen.“
Selbst wenn wir erklären, dass wir weder Esketamin noch irgendein anderes Arzneimittel verkaufen, ändert sich das Ergebnis des angeblich mit einem Menschen geführten Gesprächs mit Stripe nicht.
Nirgends, auch nicht auf der Website, steht, dass wir so etwas verkaufen, und Patientenzahlungen laufen wegen der Versicherungsabrechnung ohnehin nicht über Stripe.
Als Antwort kommt nur: „Wir haben Ihr Konto gesperrt, weil Sie Arzneimittel verkaufen“ oder „Wir prüfen die von Ihnen bereitgestellten Informationen“, und Angebote für ein Gespräch oder zur Einreichung von Unterlagen werden ignoriert.
Stripe ist ein großartiger Dienst, aber bei der Kundenprüfung läuft intern offenbar etwas ernsthaft schief.
Ich würde nicht sagen, dass meine Erfahrung mit dem Stripe-Support gut war, aber am Ende wurde das Problem gelöst.
Stripe scheint große Schwierigkeiten mit Fällen zu haben, in denen in Japan lebende Ausländer ein ausländisches Unternehmen besitzen.
Ich rief meinen Telekommunikationsanbieter über die normale Telefonnummer an, aber wegen eines Problems mit dem Handy oder der Basisstation brach das Gespräch ab. Nach etwa fünf Versuchen erklärte die Roboterstimme die Nutzung der Support-Hotline wegen „Missbrauchs“ dauerhaft für gesperrt.
Um Einspruch einzulegen, musste ich die Support-Hotline nutzen, und der Robo-Chat auf der Website war ebenfalls bereits gesperrt.
Am Ende durchsuchte ich die Facebook-Seite in der Hoffnung, dass sie von einem Menschen betreut wird, und hatte Glück: Ich erreichte eine menschliche Supportkraft, die die Sperre aufhob.
Seit Jahren poste ich nichts mehr auf Facebook und lasse den Account nur noch als Backup-Kanal am Leben, um mit dummen Großunternehmen Kontakt aufnehmen zu können.
Am frustrierendsten ist, dass sie ganz offen lügen.
Tatsächlich prüfen sie das Konto gar nicht, und die Sperre ist auch nicht dauerhaft.
Sobald man in so einer Situation jemanden mit Befugnis erreicht, wird die Sperre aufgehoben; letztlich ist das alles eine Frage von Kosten, Effizienz und Bequemlichkeit bei Facebook/Meta.
Ich denke, für dieses Problem braucht es Gesetze.
Es ist offensichtlich, dass der Markt nicht die Kraft hat, solches Verhalten zu korrigieren, und ob man es mag oder nicht: Von faktisch unverzichtbaren Online-Diensten lebenslang ausgeschlossen zu werden, kann für Einzelne verheerend sein.
Nur halten sich alle die Ohren zu und rufen „Big Tech ist kein Monopol“, sodass die bestehenden Gesetze schlicht nicht angewendet werden.
In einem wirklich wettbewerblichen Umfeld würde man einfach zum Laden nebenan gehen, der einen nicht willkürlich sperrt und echte Kundenservice-Mitarbeiter hat.
Könnte man den Nutzer nicht die Kosten für eine menschliche Prüfung zahlen lassen? Wie viel kostet das an menschlicher Arbeitszeit schon – vielleicht 20 Dollar?
Es gibt etliche ähnliche Fälle.
Das Scunthorpe-Problem ist ein klassisches Beispiel: AOL verhinderte, dass Nutzer Scunthorpe als Heimatort eintragen, weil darin die Teilzeichenkette „cunt“ steckt.
Amazon blockierte den Verkauf von Guns-N'-Roses-Artikeln wegen „guns“, und der Name Miranda führte wegen der Teilzeichenkette „Iran“ zu Problemen bei Banküberweisungen.
Manche Spiele zeigten den Spitznamen Nasser als „N*er“ an, als sähe er wie das N-Wort aus, und Alexa kann bis heute „pussycat“ nicht richtig aussprechen.
Kinderschutzsoftware filterte „anal“ in URLs und blockierte dadurch sogar „analysis“, und andere Software löschte Dateien, wenn der Dateiname „sex“ enthielt, wodurch sogar „sysext“ entfernt wurde.
An einer Schule fiel wegen dieses Bugs der gesamte Computerraum aus; dazu kam, dass der IT-Verantwortliche alle PCs auf einmal auf Windows 10 aktualisiert hatte, ohne die Softwarekompatibilität zu prüfen.
Auch der britische Politiker Dominic Cummings konnte keinen Twitter-Account erstellen.
Trotzdem ist das ziemlich vorschnelles Filtern.
Beim erneuten Hinsehen ist der veränderte Name sogar schlimmer – eine zugleich lustige und traurige Situation.
Das eigentlich harmlose Thema konnte ich nicht finden, aber wenn man ein wenig mit Suchbegriffen herumspielte, war es leicht, Pornos zu finden, die der Filter nicht erkannte.
Natürlich wurde dadurch sogar Burgunderwein blockiert, weil darin „gun“ vorkommt.
Das wurde offenbar so hastig umgesetzt, dass sie nicht einmal den Filter ordentlich bauen konnten.
Ich habe mehrmals versucht, bei Ebay ein Verkäuferkonto zu erstellen, wurde aber zwei Minuten nach Kontoerstellung und Verifizierung wegen eines Verstoßes gegen die Nutzungsbedingungen gesperrt.
Zu diesem Zeitpunkt hatte ich nicht einmal ein Profilbild hochgeladen und mit dem Konto noch gar nichts gemacht.
Der anschließende Prozess lief genauso: Der Einspruch wurde von einem Bot bearbeitet, der nur antwortete: „Wir haben recht, Sie haben gegen die Nutzungsbedingungen verstoßen, das Konto wurde gesperrt, und die Entscheidung ist endgültig.“
Ich vermisse die Zeiten, in denen Unternehmen für Kunden, die ihnen potenziell viel Geld einbringen konnten, menschlichen Kundensupport beschäftigten.
Heutzutage hängen Werbung und Verkauf oft von wenigen Plattformen ab, und es ist beängstigend, dass ein einzelner Bot jederzeit mein Geschäft und mein Unternehmen zerstören kann.
War es privat, mobil, Arbeit/Büro oder ein Rechenzentrum?
Wegen meines Nachnamens wurde ich bei den Facebook-Diensten – mit Ausnahme von WhatsApp – lebenslang gesperrt
Facebook glaubt, mein Nachname sei erfunden oder zu kontrovers, und selbst eine Kopie meines Reisepasses hat daran nichts geändert
Vor etwa 13 Jahren, bevor die Klarnamenrichtlinie durchgesetzt wurde, hatte ich ein Facebook-Konto, habe es aber geschlossen, weil es unangenehm war, Freundschaftsanfragen von Leuten aus ferner Vergangenheit abzulehnen oder anzunehmen
Heute ist eine Facebook-Gruppe der einzige Kanal, über den ich wichtige Informationen zu dem Gebäude bekomme, in dem ich wohne, aber ich kann nicht darauf zugreifen, was lästig ist
Meine Frau hat Zugriff, daher ist es kein großes Problem, aber um Facebooks Klarnamenrichtlinie zu umgehen, müsste ich wohl ausgerechnet einen falschen Namen verwenden
Dann wären Facebook-Werbung oder entwicklerbezogene Funktionen allerdings vermutlich schwer nutzbar
Der einzige Weg, der bei mir funktioniert hat, war, bei Meta, damals Facebook, eingestellt zu werden; für das Onboarding brauchte ich ein Konto
In einigen fotozentrierten Gruppen, in denen ich bin, stammt mehr als die Hälfte der Beiträge von Leuten mit falschen oder teils beleidigenden Namen, und obwohl ich weiß, dass sie mehrfach gemeldet wurden, passiert nichts
Eine schlechte Richtlinie wird meist noch schlimmer, wenn sie inkonsistent durchgesetzt wird
Die Aussage „Meta wird mein Geld nicht bekommen, sondern ein Unternehmen wie Google, das offenbar zumindest ein paar Leute in der Anzeigenabteilung beschäftigt“, ist letztlich nur eine komplizierte Art zu sagen, dass man mit einem Unternehmen Geschäfte machen will, das mein Geschäft annimmt
Auch Google ist dafür bekannt, nicht nur im Werbebereich, sondern für ganze Konten vollständig automatisierte Sperren zu verhängen
Daran hatte ich vorher nicht gedacht, aber es könnte erklären, warum ich das Gefühl habe, dass die Qualität von Werbung mit der Zeit immer weiter verfällt
Auch Google hat viele automatisierte Systeme, und ich weiß, dass Leute sich darüber in der Vergangenheit oft geärgert haben
Trotzdem haben Freunde, die von Googles automatisierten Systemen blockiert wurden, am Ende jemanden gefunden, der das Problem beheben konnte
Bei Meta scheint es für Kunden keinen solchen Weg zu geben, und selbst drei Mitarbeiter, die zustimmen konnten, dass die Situation absurd ist, und für mich bürgen konnten, konnten die Entscheidung nicht rückgängig machen
Die Software lief nur auf dem Mac, aber Google erlaubte die Verwendung von Wörtern wie Apple oder Mac nicht, weil sie Marken seien
Ich hatte sie kontextuell beschreibend verwendet, etwa „Widget-Zählsoftware für den Mac“, nicht in einer Formulierung wie „echte Apple-Software“
Ich habe Einspruch eingelegt, wurde aber abgewiesen, und soweit ich mich erinnere, gab es keine weitere Möglichkeit
Am Ende gab es praktisch keine Möglichkeit, Mac-exklusive Software zu bewerben
Ich hatte ein ähnliches Problem mit Facebook/Meta und habe schließlich aufgegeben, Werbedienste zu kaufen
Die Lösung liegt meiner Ansicht nach in Gesetzen, die 1) vorschreiben, dass Nutzer informiert werden, wenn sie nur mit einem Algorithmus interagieren, und 2) erzwingen, dass man innerhalb einer festgelegten Zeit einen Menschen erreichen kann
Ich hoffe, dass zumindest die EU bald ein solches Gesetz schafft
Es ist schon ein Problem, enorm viel Zeit mit KI-Interaktionen zu verschwenden, für die es keinerlei Ausgleich gibt; noch besorgniserregender ist aber, wenn KI-„Kundensupport“ entweder praktisch gar nichts bewirken kann oder umgekehrt weitreichende Berechtigungen hat, wichtige Änderungen an Nutzereinstellungen, Abrechnung usw. vorzunehmen
Ersteres bedeutet, dass ein Unternehmen seine Kunden täuscht, Letzteres kann sehr schlechte Folgen haben
Auf Meta scheint das allerdings kaum Einfluss zu haben
Unternehmen wie Meta, Google und Amazon, die beim Kundensupport ausschließlich auf KI setzen, sollten mit Bußgeldern belegt werden, die sie in den Bankrott treiben
Wenn man solche „Pechfälle“ auf Medizin, Finanzen, Versicherungen, Polizeiarbeit, Bildung, Unternehmensrekrutierung usw. ausweitet, fragt man sich, in welche Art von Gesellschaft wir uns unter dem Vorwand bewegen, Automatisierung und „KI“ würden Kosten senken und Effizienz steigern
Es ist kein Problem, wenn Technik Menschen – hier Meta-Mitarbeitern – hilft, Informationen effizienter zu verarbeiten
Aber bei Angelegenheiten, die andere Menschen in größerem oder kleinerem Ausmaß betreffen, Menschen aus dem Verfahren herauszunehmen, ist eine katastrophale Richtung
Zufällig steht heute auch auf der Startseite der Financial Times ein Artikel mit dem Titel „Metas Yann LeCun spricht sich gegen übereilte KI-Regulierung aus“
Wenn KI-Zensur trotzdem weiterhin nicht reguliert wird, wird das Problem größer
https://erinkissane.com/meta-in-myanmar-part-i-the-setup
Willkommen in der Zukunft
In nicht allzu ferner Zeit wird dieser Unsinn für die meisten Menschen, die im Internet mit Unternehmen oder Institutionen interagieren müssen, fast täglich passieren
Hochgradig automatisierte und undurchsichtige Verfahren, eine Logik, die schon bei kleinsten Signalen sofort sperrt, und Prüfwege, über die man nie einen Menschen erreicht, werden zum Alltag
Denn die Menschen, die die Automatisierung überlebt haben, sind viel zu beschäftigt damit, die Algorithmen zu füttern, um noch mit Kunden zu sprechen
Die meisten Menschen haben nicht die Ressourcen, gegen den Staat zu kämpfen, daher haben diese Anbieter schon immer Quantität über Qualität gestellt
Von Gier und Ignoranz getriebene „KI“ ist meiner Ansicht nach ein Schritt in Richtung Beschädigung und Zusammenbruch der staatlichen Dienstleistungen in mehreren westlichen Ländern
Nur wer das Wissen hat, sich im System zurechtzufinden, oder qualifiziert ist, über das geforderte Protokoll zu interagieren, hat Hoffnung auf ein Ergebnis
Megakonzerne steigen nun auf die Ebene darunter herab: Sie imitieren die Gewohnheiten der höheren Machthaber, übernehmen aber keine Verantwortung
Bei Autos, die älter als 15 Jahre sind, habe ich noch nie erlebt, dass physische Tasten nicht funktionieren – sofern es keine Unfallwagen waren
Ein Premium-Unternehmen, das Premiumpreise verlangt, lässt dagegen echte Menschen antworten
Das mag langsamer sein, aber es besteht zumindest die Chance auf Empathie und unkonventionelle Lösungen
Die einzige Lösung in solchen Fällen könnte darin bestehen, nicht nur für Meta, sondern für die gesamte FAANG-Kategorie Verfahren vor Gerichten für geringfügige Forderungen oder unabhängige Schiedsverfahren einzurichten.
Man muss sich nur vorstellen, wie ein Big-Tech-Mitarbeiter vor einem Richter oder Schiedsrichter sagen müsste: „Das System hat den Nutzer automatisch gesperrt, der Einspruch wurde ebenfalls automatisch abgelehnt, und da alle Beweise und Support-Daten gelöscht wurden, können wir nicht wissen, warum.“
Jede Form von Schiedsverfahren oder rechtlicher Prüfung würde bei einer solchen Antwort unmittelbar zu einer Niederlage des Tech-Giganten führen.
Grundsätzlich unterstütze ich das Recht eines Unternehmens, selbst zu entscheiden, mit wem es Geschäfte macht. Aber sobald ein Unternehmen eine quasi-monopolistische Stellung einnimmt und zum Gatekeeper für den Marktzugang wird, braucht es für solche Entscheidungen einen nachvollziehbaren Berufungsweg.
Pflichten wie im EU-Digital Markets Act, etwa „Geschäftsnutzern den Zugang zu Endnutzern zu ermöglichen“, könnten hier relevant sein. Ob sich das Verhalten der Unternehmen als Reaktion auf solche Gesetze ändern wird, bleibt abzuwarten.