Es wird zum Trend, mit ChatGPT eine „umgekehrte Standortsuche“ aus Fotos durchzuführen
(techcrunch.com)- Bildbasierte Standortverfolgung mit ChatGPT verbreitet sich als viraler Trend
- Die neuesten OpenAI-Modelle o3 und o4-mini kombinieren Bildanalyse und Websuche und ermöglichen dadurch sehr präzise Standortschlüsse
- Nutzer geben o3 Restaurantmenüs, Straßenszenen oder Personenfotos und versuchen, ähnlich wie bei "GeoGuessr", den Ort zu erraten
- Die Sorge vor Datenschutzverletzungen wächst; OpenAI verweist zwar auf Schutzmechanismen, doch es fehlt an klaren Gegenmaßnahmen
- OpenAI erklärte, es gebe Systeme zur Erkennung und Reaktion auf Missbrauch, doch in der Praxis seien die Einschränkungen weiterhin unzureichend
Trend zur bildbasierten Rückverfolgung mit ChatGPT
- Unter Nutzern verbreitet sich derzeit ein Trend, mit ChatGPT den Ort in Bildern nachzuverfolgen
- Die von OpenAI veröffentlichten neuen Modelle o3 und o4-mini verfügen über Funktionen zur Schlussfolgerung visueller Informationen in Bildern
- Selbst unscharfe oder verzerrte Fotos lassen sich nach Vorverarbeitung wie Zuschneiden, Drehen oder Vergrößern analysieren
- In Kombination mit der Websuche zeigt die Funktion eine hervorragende Leistung bei der Ableitung von Städten, Sehenswürdigkeiten, Restaurants, Bars und anderen Orten
ChatGPT wird wie GeoGuessr genutzt
- Nutzer fordern o3 auf, "verhalte dich wie GeoGuessr", und versuchen, anhand von Instagram-Story-Screenshots, Straßenfotos oder Speisekarten den Ort zu schätzen
- GeoGuessr ist ein Online-Spiel, bei dem man Bilder hochlädt und den Ort findet
- ChatGPT leitet den Standort auch ohne vorherigen Gesprächsverlauf oder EXIF-Metadaten nur anhand visueller Hinweise ab
- Besonders o3 zeigte in bestimmten Situationen eine bessere Leistung als GPT-4o
Beispiel: Beim Foto eines violetten Nashorn-Schmucks in einer dunklen Bar
- GPT-4o lag mit "britischer Pub" falsch
- o3 schloss korrekt auf "eine Speakeasy-Bar in Williamsburg"
Auch GPT-4o zeigt überraschende Genauigkeit
- In einem von TechCrunch durchgeführten Test zeigte auch GPT-4o eine beachtlich hohe Genauigkeit und arbeitete dabei schneller
- Allerdings gab es auch Fälle, in denen nur o3 den Standort korrekt erkannte
- Dennoch ist auch o3 nicht perfekt; es gibt Situationen, in denen kein Ergebnis geliefert oder ein völlig falscher Ort genannt wird
Bedenken wegen möglicher Datenschutzverletzungen
- Dass grundsätzlich jeder ohne Einschränkungen mit Fotos anderer Personen deren Standort nachverfolgen kann, ist ein ernstes Problem
- So kann etwa das Erfassen von Instagram-Stories zu einem Doxxing-Risiko führen
- In den offiziellen Sicherheitsberichten zu den Modellen o3 und o4-mini erwähnt OpenAI dieses Problem derzeit nicht
Offizielle Stellungnahme von OpenAI
- Einige Stunden nach Veröffentlichung des Artikels übermittelte OpenAI TechCrunch die folgende Erklärung:
„o3 und o4-mini erweitern ChatGPT um visuelle Schlussfolgerungsfähigkeiten,
die in den Bereichen Barrierefreiheit, Forschung und Notfallreaktion nützlich sein können.
Wir haben die Modelle darauf trainiert, sensible Informationsanfragen abzulehnen,
Mechanismen zur Verhinderung persönlicher Identifizierung und zur Überwachung von Missbrauch eingeführt
und reagieren aktiv auf Richtlinienverstöße.“ - Dennoch fehlen weiterhin konkrete Sperrmechanismen oder technische Kontrollen für die rückwirkende Standortermittlung
6 Kommentare
Im Grunde übernimmt der Computer nur den lästigen Teil für uns; die Methode selbst gab es doch schon vorher, oder nicht?
KI ist letztlich etwas, das all die Dinge tut, die auch Menschen tun können. (Wie ein Saugroboter.)
Der dafür nötige Zeit- und Kostenaufwand ist um ein Vielfaches gesunken. Das ist eindeutig eine Zunahme der Bedrohung.
Wie im Text erwähnt, wurde das schon zuvor als eine Art „Spiel“ betrieben, daher lag es auch damals nicht auf einem Niveau, das für normale Nutzer schwer zugänglich gewesen wäre.
Die Gefahr entsteht, wenn man in Situationen, in denen der eigene Standort nicht bestimmbar sein sollte, Fotos hochlädt, anhand derer sich der Standort leicht ermitteln lässt.
Schon davor gilt aber, wie es auch in den Hacker-News-Kommentaren heißt, dass man beim Hochladen von irgendetwas ins öffentliche Internet grundsätzlich davon ausgehen muss, dass damit Informationen offengelegt werden.
Ich stimme im Großen und Ganzen zu. Aber der Punkt, dass es jetzt „jeder“ „im Handumdrehen“ tun kann, lässt mich doch an ziemlich beängstigende Nebenwirkungen denken.
Hacker-News-Kommentare