They See Your Photos - Welche Informationen Fotos preisgeben

 (theyseeyourphotos.com)
1 Punkte von GN⁺ 2024-12-15 | 1 Kommentare | Auf WhatsApp teilen
  • Ein Experiment, das zeigt, dass persönliche Fotos nicht nur sichtbare Motive, sondern auch private Informationen offenlegen können
  • Wenn Nutzer ein einzelnes Foto hochladen, können sie sehen, welche Informationen die AI mit der Google Vision API daraus ausliest
  • Der Kernpunkt ist nicht die Profilauswertung aus vielen gesammelten Daten, sondern dass bereits aus einem einzelnen Foto weit mehr Rückschlüsse möglich sind, als man erwartet
  • Es geht nicht um mehrere Fotos oder langfristige Verhaltensanalysen; der Eingabebereich ist auf ein einzelnes Foto beschränkt
  • Es macht unmittelbar erfahrbar, dass das Teilen oder Hochladen von Fotos, wenn sie durch AI analysiert werden, zu einer unbeabsichtigten Offenlegung von Informationen führen kann

Welche Informationen ein einziges Foto offenlegt

  • They See Your Photos ist ein Experiment, mit dem Nutzer direkt prüfen können, was AI in den von ihnen hochgeladenen Fotos sieht
  • Fotos können viele persönliche Informationen preisgeben, und dieses Experiment konzentriert sich auf Informationen, die sich bereits aus einem einzelnen Foto ableiten lassen

So funktioniert es

  • Nutzer laden ein Foto hoch
  • Das System verwendet die Google Vision API, um zu prüfen, welche Informationen sich aus dem Foto auslesen lassen
  • Mit der Botschaft „Sieh, was sie sehen“ können Nutzer erleben, wie AI Fotos interpretiert

Verwandte Beiträge

1 Kommentare

 
GN⁺ 2024-12-15
Meinungen auf Hacker News

  • magick convert IMG_1111.HEIC -strip -quality 87 -shave 10x10 -resize 91% -attenuate 1.1 +noise Uniform out.jpg
    Dieser Befehl entfernt alle EXIF-Metadaten, ändert die JPEG-Qualität, schneidet einfach an jeder Kante 10 Pixel ab, skaliert auf ein bestimmtes Verhältnis, wendet eine Abschwächung an und fügt anschließend Rauschen vom Typ Uniform hinzu.
    Zusätzlich muss attenuate in der Kommandozeile vor dem +noise-Schalter stehen, und je schlechter der JPEG-Qualitätswert ist, desto schwieriger wird es, Bildmanipulationen zu erkennen[1].
    Beim Skalierungsverhältnis sind auch Fließkommawerte wie 91,5 % oder 92,1 % möglich. Unabhängig von KI-Bilderkennung kann man damit nicht nur Metadaten entfernen, sondern jedes veröffentlichte Bild unterschiedlich machen und es auch klar vom Originalfoto abweichen lassen.
    [1] https://fotoforensics.com/tutorial.php?tt=estq

    • Selbst wenn man AI image detection notwithstanding sagt, lohnt sich der Versuch nicht. Man macht daraus einfach nur ein für Menschen schlechter aussehendes Bild.
    • Es gibt keine Garantie, dass diese Methode perzeptuellem Hashing (perceptual hashing) standhält.
      https://en.wikipedia.org/wiki/Perceptual_hashing
    • Es ist sicher besser als nichts, aber ich frage mich, wie es sich bei perzeptuellem Hashing verhält. Ich habe etwa fünf Minuten versucht, pHash lokal laufen zu lassen, aber keine brauchbaren Ergebnisse bekommen; vermutlich habe ich es falsch bedient.
    • Bilder zu croppen oder neu zu komprimieren hilft kaum.
      Ein Blick auf die Rückwärts-Bildersuche von TinEye zeigt, dass solche Varianten leicht gematcht werden.
      https://tineye.com/
    • Wenn ein Bild ein Wasserzeichen enthält, lässt es sich auf diese Weise nicht entfernen. Wasserzeichen überstehen selbst gleichmäßiges Rauschen, das für Menschen kaum erträglich wäre, problemlos; da sie üblicherweise redundant an mehreren Positionen und in mehreren Kanälen gespeichert werden, wird gleichmäßiges Rauschen größtenteils herausgemittelt, und Cropping bringt ebenfalls wenig.
      Wasserzeichen platzieren ihr Signal oft in Farbräumen, die sich von RGB unterscheiden, oder in stark transformierten Bildbereichen; man fügt also auch kein Rauschen entlang der „Achse“ des Wasserzeichensignals hinzu. Auch bei der Suche nach ähnlichen Bildern hilft das kaum: Solche Algorithmen suchen Dutzende von Landmarks und finden Bilder, die einen hohen Anteil davon teilen. Früher waren das kontrastreiche geometrische Merkmale wie Ecken, die von Rauschen fast unbeeinflusst blieben; heute können Landmarks alles sein, was ein neuronales Netz auswählt, das auf übliche Veränderungen wie Kompression und Rauschen trainiert wurde.

  • Wenn man das nutzt, sollte man daran denken, dass man auf das Recht verzichtet, den Autor vor Gericht zu verklagen: https://theyseeyourphotos.com/legal/terms
    PLEASE NOTE THAT THESE TERMS CONTAIN A BINDING ARBITRATION PROVISION AND CLASS ACTION/JURY TRIAL WAIVER.
    Solche Klauseln sind in den USA verbreitet und wurden von US-Gerichten immer wieder anerkannt. Interessanterweise hat Ente hier keine Opt-out-Klausel aufgenommen, die in den allgemeinen Bedingungen enthalten ist (https://ente.io/terms). Ich frage mich, warum sie gerade für diesen Dienst restriktivere Bedingungen formuliert haben.

  • Das ist einfach Werbung für den eigenen Fotodienst. Wenn er nicht mit KI analysiert, dürfte auch die Suchfunktion mies sein, und die ist eine der besten Funktionen von Google Photos.

    • Ich arbeite bei diesem Fotodienst.
      Ente bietet eine ziemlich ordentliche Suche[1], die von On-Device Machine Learning angetrieben wird[2].
      [1]: https://ente.io/blog/machine-learning
      [2]: https://ente.io/ml
    • Zu sagen, die Suche sei ohne KI miserabel, ist etwas übertrieben. Google hat kein Monopol auf Objekt- und Gesichtserkennung in Fotos.
      Auch ohne Fotos in eine gesichtslose KI zu kippen und jede Menge Strom zu verbrauchen, können selbst gehostete Lösungen solche Funktionen durchaus bereitstellen.
    • Der Dienst Ente sieht ja letztlich ebenfalls die Fotos der Nutzer, daher wirkt das wie seltsame Werbung.
    • Wie kann man verhindern, dass Google die aus Fotos gewonnenen Informationen zur Aktualisierung von Nutzer- und Werbeprofilen verwendet?
    • Je mehr Unternehmen Nutzer nicht wie Nutzvieh, sondern wie Menschen behandeln, desto besser.

  • Für das Erzeugen von Bildbeschreibungen für sehbehinderte Menschen könnte das ziemlich großartig sein, aber es liefert keine tieferen Einsichten über das hinaus, was auf einen Blick erkennbar ist.
    Es enthält viel ausschweifendes Gerede, das „klug klingen“ soll. Zu einem Foto von Ästen hieß es zum Beispiel: „Ein aufmerksamer Beobachter könnte auch subtile Unterschiede in Dicke und Textur der Äste bemerken, was auf ein natürliches, organisches Wachstumsmuster hindeutet.“
    Danke. Sonst hätte ich vielleicht gedacht, dieser Baum sei ein unnatürlicher, anorganischer Baum.

    • Vermutlich steckt im Prompt eine Anweisung wie „Beschreibe die subtilen Details des Fotos ausführlich“ oder „Welche Schlussfolgerungen lassen sich aus der Situation ziehen?“.
      Es scheint diesen Versuch bei jedem Foto zu unternehmen, egal ob es bemerkenswerte Details oder Implikationen gibt oder nicht. Ich verstehe die Absicht, eine Sherlock-Holmes-artige Schlussfolgerung zu versteckten Fakten aus einem Foto zu zeigen, aber wenn das Modell nichts zu finden hat, wird es lächerlich.
    • Facebook erzeugt seit einigen Jahren grundlegenden Alt-Text. Er ist nicht hervorragend, aber besser als nichts, etwa in der Art: „Könnte ein Bild von 4 Personen, lächelnden Menschen und Text sein.“

  • Es wäre noch unheimlicher gewesen, wenn es nicht etwa Ohrringe an einem Ohr außerhalb des Bildrahmens halluziniert hätte oder behauptet hätte, der linke Schuh eines barfüßigen Kindes sei unscharf

    • Wir haben derzeit eine Deko mit im Harry-Potter-Stil schwebenden Kerzen über dem Esstisch hängen. Als ich ein Foto hochgeladen habe, auf dem sie gut zu sehen sind, hat es alles andere im Raum hervorragend beschrieben, die Kerzen aber komplett ignoriert.
      Ich stellte mir vor, wie das Modell verzweifelt denkt: „Halluziniere keine schwebenden Kerzen, halluziniere keine schwebenden Kerzen.“
    • Es versuchte, den wirtschaftlichen Status eines Schneeleoparden zu erraten.
      „Das Bild konzentriert sich auf einen einzelnen Schneeleoparden, Menschen sind nicht zu sehen. Der Gesichtsausdruck des Leoparden wirkt wachsam und leicht vorsichtig, aber nicht aggressiv. Aus dem Bild lassen sich Alter oder genauer Gesundheitszustand des Leoparden nur schwer bestimmen, er scheint jedoch ein erwachsenes Tier in relativ guter körperlicher Verfassung zu sein. Es gibt keine Hinweise, die eindeutig auf wirtschaftlichen Status oder Lebensstil schließen lassen.“
    • Gerade weil es sofort halluziniert, ist es unheimlich
    • Ich habe ein paar Bilder ausprobiert, und es halluzinierte, auf der Jacke sei etwas zu sehen oder es gebe ein weiteres Kleidungsstück.
      Es war ziemlich interessant, die Momente der Verwirrung zu sehen. Es fühlte sich nicht so an wie bei der Wortberechnung eines LLM, wo man denkt: „Ja, vielleicht kann man irgendwie zu so einer Antwort kommen.“ Visuelle Halluzinationen waren eher von der Sorte: „Das ist doch überhaupt nicht auf dem Bild …“

  • Ich schätze die Bemühungen, technische Lösungen zu bauen, mit denen man Big Tech wie Google vermeidet, aber meiner Meinung nach ist die beste Methode immer noch Fotos auszudrucken.
    In der Familie bin ich normalerweise der „Fotobeauftragte“, daher bestelle ich nach Veranstaltungen Abzüge an die Häuser der betreffenden Familien oder bringe sie selbst vorbei. Es gibt wenig, was damit vergleichbar ist, einen echten Gegenstand in der Hand zu halten.
    Außerdem kosten Abzüge ein wenig Geld, wodurch ein Anreiz entsteht, nur ein paar wirklich gute Fotos zu zeigen, statt sie in einen endlosen Scroll-Feed laufen zu lassen.

    • Hast du dir die Datenschutzerklärung des Fotolabors oder Druckdienstes angesehen, den du nutzt? Sie könnten digitale Kopien der Fotos sammeln, sie an Dritte verkaufen oder aus den Fotos gewonnene Informationen verkaufen und sie an Polizei oder Behörden weitergeben
    • Wenn eine Fotospeicher-App Abzüge bestellen einfach anbietet, könnte das eine gute Geschäftsidee sein
    • Wo lässt du sie drucken?

  • Ich habe ein Foto von Schäden am Schornstein wegen eines Flashing-Problems hochgeladen, und es war überraschend aufschlussreich. Allerdings sagte es, mein Haus sei alt und vernachlässigt. Hey, das ist gemein.
    Jedenfalls bin ich gegenüber den meisten KI-Systemen ziemlich skeptisch, aber sie bei Hausreparaturen zu nutzen, um die richtige Richtung einzuschlagen, klingt ziemlich reizvoll. Es ist schließlich fast unmöglich, Handwerker zu finden, die keinen Unsinn erzählen, günstig sind und tatsächlich auftauchen.

  • Es wirkt wie heutige LLMs: viel reden, ohne wirklich viel zu sagen. Ich habe ein paar persönliche Fotos hochgeladen, aber außer banalen Beschreibungen der Szene lieferte es kaum identifizierbare Informationen.
    Beispiel: „Im Hintergrund sind eine Mischung aus modernen und älteren Gebäuden zu sehen, typisch für eine europäische Stadt, mit unterschiedlichen Architekturstilen.“

    • Meine Erfahrung war ziemlich anders. Ich habe dieses Foto eingegeben:
      https://postimg.cc/yD4YZKFk
      Obwohl ich mir sicher bin, dass das Foto keine Standortdaten enthält, lautete der erste Satz: „Dieses Bild zeigt das Innere der Union Station in Chicago, Illinois.“ Am Ende hing noch etwas unausgereifte Kunstkritik dran, aber es erkannte den genauen Ort, den Weihnachtsbaum und die auf den Bänken sitzenden Menschen. Das Jazz-Ensemble an der Seite hat es übersehen.

  • Ente sieht für mich aus wie Immich[0], das ich mit meiner Familie selbst hoste, nur mit Ende-zu-Ende-Verschlüsselung. Ich bevorzuge die unverschlüsselte Variante, weil die Dateien bei Problemen genau so auf der Festplatte liegen und sich leicht wiederherstellen lassen.
    [0]: https://immich.app/

    • Die Ente CLI[0] hat einen Exportdienst, der nur lesend auf die Cloud zugreift; gelöschte Elemente werden umbenannt.
      Das Go-Binary läuft fast überall, einschließlich der meisten NAS, aber wegen Argon2 werden mindestens 1 GB RAM benötigt, um den Master Key zu entschlüsseln.
      [0] https://github.com/ente-io/ente/tree/main/cli
    • Ich bin überrascht, wie sehr es Google Photos ähnelt. Wenn Google die Preise noch einmal erhöht, könnte Immich die perfekte Alternative sein.

  • „Bei dem Schwan lassen sich Alter und weitere Details (ethnische Merkmale, Ethnizität, wirtschaftlicher Status, Lebensstil) nicht feststellen.“
    Hervorhebung von mir

    • Ich habe mehrere Zeichnungen hochgeladen, und bei fast jedem Porträt wurde ausdrücklich gesagt, dass sich „ethnische Merkmale, Ethnizität, wirtschaftlicher Status, Lebensstil“ nicht feststellen lassen.
      Ich bin kein großartiger Künstler, aber andere Details hat es ziemlich gut erkannt. Vermutlich fragt der Prompt nach solchen Dingen, und die KI scheut sich, darauf zu antworten. Allerdings sagte sie aufgrund des Zeichenstils, der Künstler sei wahrscheinlich männlich. Tatsächlich bin ich ein Mann, und mein Zeichenstil könnte männlicher sein, aber ich weiß nicht, wie man das quantifizieren sollte.