Flocks Mikrofone zur Schusserkennung beginnen nun auch menschliche Stimmen zu erfassen

• Das neue Erkennungsmikrofon von Flock führt nun eine Funktion ein, die auch menschliche Stimmen und Schmerzsignale erfasst
• Das Gerät wurde bisher zur Schusserkennung eingesetzt, versucht nun aber auch, Notfälle von Bürgern zu erkennen
• Es zeichnen sich mögliche rechtliche Probleme ab, darunter Eingriffe in die Privatsphäre und Kontroversen um illegales Abhören
• In einigen Städten wurden bereits Verträge mit Flock gekündigt und der Abbau angeordnet; wiederholte Installationen verschärfen den Konflikt
• Die Sorge vor einem steigenden Risiko für Unbeteiligte und Eingriffen in bürgerliche Freiheiten wächst

---

Flocks Mikrofone zur Schusserkennung erhalten eine Funktion zur Erfassung menschlicher Stimmen

Flock Safety und die neue Funktion

• Flock Safety ist ein Polizeitechnologie-Unternehmen mit einem landesweiten Netzwerk für automatische Kennzeichenerkennung (ALPR) in den USA
• Das nun vorgestellte neue Produkt ist die Mikrofonreihe Raven, die mithilfe von akustischer Erkennung in öffentlichen Räumen Signale von „menschlichem Schmerz“ erkennen soll
• Bisher wurde sie zum Zweck der Schusserkennung und Alarmierung der Polizei eingesetzt, inzwischen wird aber auch die Funktion zur Erkennung von „Notfällen (z. B. Schreien)” beworben

Unklarheiten und Bedenken bei der neuen Funktion

• In Werbematerialien von Flock ist zu sehen, dass bei der Erkennung von Schmerzlauten wie „Schreien” ein Alarm an die Polizei gesendet wird
• Wie die tatsächliche Spracherkennung und Klassifizierung funktioniert, wird jedoch nicht klar offengelegt, sodass die Funktionsweise undurchsichtig bleibt
• Schon bestehende akustische Schusserkennungssysteme hatten häufig Fehlalarme durch Autoexplosionen, Feuerwerk und Ähnliches
• Es besteht die Möglichkeit rechtlicher Konflikte mit Gesetzen wie Verboten von Abhören und dem Aufzeichnen privater Gespräche (sogenanntes eavesdropping law)

Bereits aufgetretene Rechtsprobleme und Fehlschläge bei der Einführung

• In Illinois wurde Flock in der Vergangenheit wegen Verstößen gegen Landesrecht und der Weitergabe von Fahrzeugdaten an ICE verklagt
• Im Bundesstaat North Carolina wurde 2023 die Installation untersagt, weil die Geräte ohne Lizenz betrieben wurden
• In der Stadt Evanston hat das Unternehmen nach der Kündigung des Vertrags mit Flock die Geräte eigenmächtig erneut installiert; derzeit sind sie vorläufig mit schwarzem Klebeband abgeklebt

Zweifel am technischen Nutzen

• Laut einem Bericht eines Bürgeraufsichtsgremiums in Illinois führen mehr als 99 % der Flock-Alarme nicht zu tatsächlichen Polizeimaßnahmen
• Dass die Polizei wegen falscher Schussmeldungen ausrückt und dadurch Unbeteiligte gefährdet, ist bereits Realität geworden (z. B. der ShotSpotter-Fall in Chicago)
• Durch die Ausweitung auf die Funktion „Schmerzerkennung” könnten unerwartete rechtliche, menschenrechtliche und körperliche Risiken zunehmen

Gesamte Zusammenfassung

• Die Ausweitung der Audio-Erkennungstechnologie von Flock Safety ist ein wesentlicher Faktor für unbeabsichtigte Eingriffe in die Privatsphäre und gesellschaftliche Kontroversen
• Wegen rechtlicher und ethischer Probleme laufen in einigen Kommunen bereits Vertragskündigungen und der Abbau der Geräte
• Auch die Forderungen nach einer klaren technischen Erklärung und mehr Transparenz für die neue Funktion nehmen zu
• Eine kritische Überprüfung des Nutzens des Produkts und seines tatsächlichen Beitrags zur Kriminalitätsprävention gewinnt an Dynamik

[GN⁺]

Hacker-News-Kommentare

• Es ist zutiefst deprimierend, dass mittlerweile ein profitorientierter Utilitarismus die traditionellen amerikanischen Werte ersetzt; in der Tech-Industrie gibt es kaum noch Diskussionen über Werte oder darüber, in welcher Gesellschaft wir leben wollen, sondern nur noch: „Es verbessert ein Problem ein wenig und bringt Geld ein“ — das scheint alles zu sein, und das ist am Ende die Welt, die wir bekommen.
  • Ich habe es zwar profitorientierten Utilitarismus genannt, aber eigentlich verdient es diese Bezeichnung nicht einmal; für mich kommt das fast krimineller Korruption gleich. Diese Firmen verdienen in Wahrheit nicht einmal Geld und halten sich nur mit Mühe über Wasser, weil sie von Regierungsaufträgen leben. Wenn sie auf dem privaten Markt konkurrieren müssten, wären sie vielleicht noch dieses Jahr bankrott. Hinter solchen Entwicklungen steckt zudem eine sehr klare Richtung: Sie haben eine eindeutige Vision und sind bereit, alles zu tun, um sie zu verwirklichen. Deshalb halte ich die Durchsetzung von Kartellrecht für wichtig. Inzwischen sind Unternehmen, die „zu groß zum Scheitern“ sind, zum Normalfall geworden.
  • Das erinnert mich an die in Schulen eingesetzten „E-Zigaretten-Detektoren“. Die lassen sich so konfigurieren, dass sie auch Lärm oder bestimmte Wörter erkennen, und in der Praxis wird das Problem möglicher Verstöße gegen Abhörgesetze stillschweigend damit umgangen, dass man behauptet, es sei nur Pattern Matching mit Audio, das kurz im Speicher gehalten wird.
  • Es fühlt sich so an, als gäbe es, sobald etwas tatsächlich eingeführt wird, keinen Raum mehr für Kontroversen oder Debatten. Erst nachdem die Folgen eingetreten sind, beginnt überhaupt die Diskussion.
  • Hast du zufällig <i>The Technological Republic</i> gelesen? Das, was du gerade gesagt hast, ist fast genau das, was der Palantir-CEO in diesem Buch behauptet. Er sagte, man müsse darüber sprechen, was das „gute Leben“ ist. Ironischerweise scheint er bei Überwachung allerdings zu einem etwas anderen Schluss gekommen zu sein.
• Ich habe Garry Tans (YC-CEO) Aussage auf X gelesen: „Es klingt, als würdet ihr an chinesische Überwachung denken, aber amerikanische Überwachung kann Opfern helfen.“ Ich respektiere Garry, aber ich verstehe nicht, warum er denkt, die Grenze jenseits des Wesentlichen sei eine Grenze, der wir alle zustimmen würden. Letztlich wurde jede Waffe dazu benutzt, Menschen zu verletzen.
  • Ich habe jahrelang sehr viel Energie darauf verwendet, die Einführung von Flock in unserer Gemeinde zu verhindern, und die Meinungen in der Community gehen dramatisch auseinander. Der Ort, in dem ich lebe, gehört zu den progressivsten kleinen Kommunen in den USA, und trotzdem ist die Debatte um Flock keine einfache Frage der politischen Lager. In Wirklichkeit stehen sich die Menschen bei dieser Technologie scharf gegenüber.
  • Ich habe die übertriebene Werbung gesehen, dass „Flock Safety 10 % der Verbrechen im ganzen Land aufklärt“. Dafür gibt es keine belastbaren Daten. Ich habe wegen dieses Systems selbst einen Strafzettel für zu schnelles Fahren bekommen und frage mich, ob das dann auch als aufgeklärtes Verbrechen zählt. Es stimmt, dass Überwachung Opfern helfen kann, aber sie kann zugleich Bürgerrechte bedrohen. Am Ende brauchen wir das Recht, selbst zu entscheiden, wie viel unserer Freiheit wir aufgeben wollen. Irgendwie habe ich wohl zu viel Person of Interest gesehen Link.
  • Ich weiß nicht, was Garry ist, und es interessiert mich auch nicht, aber so eine Argumentation ist Sophisterei. Das ist eine Debatte, die aus dem grundlegenden Widerspruch seines Geschäfts entsteht. Wenn er wirklich klug wäre, hätte er einfach den Mund gehalten.
  • Du hast gesagt, du respektierst Garry, aber wenn ich solche Rhetorik höre, fällt mir diese Aussage immer schwerer. Die Logik „Meine Bombe tötet nur die Bösen“ ist im Kern entweder ignorant oder bösartig.
  • Diese Logik lässt sich in beide Richtungen anwenden. Es gibt das Beispiel der nuklearen Abschreckung (MAD), durch die Kriege insgesamt stark zurückgegangen seien und dadurch sogar mehr Leben gerettet worden seien. Ich erkenne das Fat-Tail-Risiko von Gewalt an, halte Tans Argumentation aber nicht für irrational. Dass eine Gesellschaft trotz eines gewissen Maßes an Überwachung vernünftig bleiben kann, sieht man auch am CCTV-Paradies Großbritannien.
• Nach dem Motto „Heute menschliches Leid, morgen alles Menschliche“ wird Flock am Ende alles überwachen, sobald nur die technischen Grenzen beseitigt sind. Dieses Unternehmen ist einzig auf Geld ausgerichtet, moralische Maßstäbe sind abgeschaltet. Es ist bereit, Polizei und Staat alles zu verkaufen, was diese haben wollen. Jedes Mal, wenn ich solche Nachrichten sehe, spende ich 20 Dollar an EFF oder ACLU.
  • Ein weiteres Problem ist, dass „die Regierung uns belastet und sich das am Ende mit unserem Geld kauft“. Die Kosten werden uns aufgezwungen.
  • Ich vermute, dass wir künftig mit der Begründung konfrontiert werden, „wenn wir normale Gespräche abhören, können wir schwere Verbrechen verhindern“. Solche Fälle beginnen immer kleinteilig und schrittweise.
• Die Rutschbahn in die Hölle ist extrem steil. Es wirkt, als kämen noch düsterere Zeiten. Ich würde die Technikbefürworter gern fragen: Wenn NSA und Palantir uns ohnehin alle überwachen, warum ist dann die Rate zufälliger Terrorakte trotzdem gestiegen? War nicht genau das der Zweck solcher Überwachungssysteme, so etwas vorher zu verhindern?
  • Ich frage mich, ob es wirklich stimmt, dass „die Rate zufälliger Terrorakte seit der Überwachung durch NSA und Palantir gestiegen ist“. Meiner Einschätzung nach ist Kriminalität von den 90ern bis kurz vor 2020 eher zurückgegangen. Seit 2020 hat sich die Welt so sehr verändert, dass Vergleiche schwierig sind.
  • Mich interessiert das Gegenfaktische: Solange wir nicht wissen, wie viele Angriffe solche Werkzeuge im Vorfeld verhindert haben, kennen wir nicht einmal die Baseline.
  • Eine Erwartung auf Privatsphäre an öffentlichen Orten ist nicht vernünftig. Das gilt sowohl für Video- als auch für Audioaufnahmen.
  • Ich finde schon den Begriff „stochastic terrorism“ etwas merkwürdig. Terror ist seinem Wesen nach ohnehin zufällige Gewalt.
• Zur Klarstellung: Es ist Flock (YC 2017).
  • In Einreichungstiteln schreibt man den YC-Jahrgang inzwischen fast nie mehr dazu, außer bei Launch HN.
  • Es gibt viele Ideen, die für Unternehmen gut, aber für die Gesellschaft insgesamt schädlich sind. Für YC steht das Geschäft immer an erster Stelle.
• Der Überwachungsstaat aus dem Roman 1984 wirkt im Vergleich fast harmlos. Wenn sich die Technologie weiterentwickelt, wird bald jeder einzelne Schritt jedes Menschen in Echtzeit überwacht werden. Dann geht es nur noch darum, wer Zugang zu diesen Daten hat und wer sie kontrolliert.
• Erstaunlich, dass offenbar jemand wirklich glaubt, dass diese Technologie ganz sicher nie missbraucht wird.
  • Sie haben es wirklich versprochen. Vielleicht sogar mit gekreuzten Fingern. (Und Hacker haben auch versprochen, die Daten ganz bestimmt nicht zu stehlen.)
• Der logische nächste Schritt ist, das durch die Mikrofone zu ersetzen, die wir jeden Tag in der Tasche mit uns herumtragen YouTube-Link.
  • 1960 hätte man auf den Vorschlag „Lasst uns alle Bürger einen Funk-Tracker mit sich tragen lassen“ mit Unmöglichkeit reagiert, und 2012 wurde daraus „zwei iPhones gehen?“ — und es war Realität.
• „Wenn jetzt sowieso alle jederzeit überwacht und aufgezeichnet werden, dann werden sich auch alle immer von ihrer besten Seite zeigen.“ YouTube-Link
• Wir werden auf der Straße, an Ampeln, durch Polizeifahrzeuge und Drohnen, in Parks und sogar durch Türklingelkameras gefilmt. Ich meine das nicht einmal als Witz, aber die Zeit, in der uns die riesigen Bildschirme aus 1984 überwachen, scheint nicht mehr fern.
  • Jetzt, da wirklich leistungsfähige LLMs da sind, muss nicht einmal mehr ein Mensch direkt überwachen oder zuhören. Datenströme können automatisch analysiert und zusammengefasst werden, sodass unerwünschtes Verhalten oder Wörter, Verdachtsmomente oder sogar Halluzinationen erkannt werden. In einer Zeit, in der vermummte Beamte im In- und Ausland Bürger zwangsweise abführen und es im Ausland autonome Drohnenangriffe gibt, ist die Zukunft nicht gerade rosig. Im Moment ist das immerhin noch semi-autonom.
  • Wenigstens ist es ein Trost, dass wir in unseren Wohnungen keine Abhörgeräte haben.
  • Ich habe das Gefühl, wir brauchen friedlichere Mittel zur Selbstverteidigung für Bürger.
  • Larry Ellison und verschiedene andere Tech-Milliardäre predigen die Logik des Überwachungsstaats: „Wenn jedes Verhalten jederzeit aufgezeichnet und überwacht wird, benehmen sich alle vorbildlich.“ Ellison, Vance, Musk, Thiel, Luckey, Zuckerberg und andere wollen ihren eigenen Überwachungsstaat schaffen. Sie sind bereits ziemlich weit gekommen. Was genau werden wir tun, um das aufzuhalten? Verwandter Artikel
  • Wir leben inzwischen in einer Zeit, in der sich allein über Wi‑Fi-Signale die Herzfrequenz messen lässt, also könnten sich auch Versicherungsprämien im Sekundentakt verändern. „Wenn Staat und Großkonzerne gemeinsam mit invasivem Tracking überwachen, dann ist das die positive Dystopie!“ (halb Witz, halb ernst) Artikel zur Wi‑Fi-Herzfrequenzmessung