Deutsches Urteil erklärt Google für falsche Antworten in AI Overviews verantwortlich

• AI Overviews werden nicht als Liste von Suchergebnissen eingestuft, sondern als von Google mit eigener Struktur und eigenen Formulierungen erzeugte Inhalte, sodass Google unmittelbar für falsche Behauptungen haftet
• Das Landgericht München I kam zu dem Schluss, dass die KI-Zusammenfassung zwei Verlage fälschlich mit Betrug, Abo-Fallen und dubiosen Geschäftspraktiken in Verbindung brachte, obwohl sich in keiner der verlinkten Quellen eine solche Verbindung fand
• Die bisher auf klassische Suchmaschinen und Autovervollständigung angewandte Lehre der beschränkten Haftung ist auf AI-Zusammenfassungen nicht anwendbar, da sie für Funktionen gedacht war, die nur zu externen Websites führen
• Googles Einwand, Nutzer könnten die Quellen selbst prüfen, wurde zurückgewiesen; eine eigenständig verständliche KI-Zusammenfassung verliert ihre Verantwortlichkeit nicht allein deshalb, weil weitere Recherche möglich wäre
• Trotz einer Analyse, nach der Google AI Overviews auf Basis von Gemini 3 eine Genauigkeit von 91 % erreichten, könnten im Google-Maßstab stündlich Millionen falscher Antworten entstehen, was auf ein breiteres rechtliches Risiko für ähnliche KI-Dienste hindeutet

---

Kernaussagen des deutschen Gerichts

• Das Landgericht München I entschied, dass Google unmittelbar für den Inhalt KI-generierter Suchzusammenfassungen verantwortlich ist
• Die einstweilige Verfügung untersagt Google, über KI-generierte Suchzusammenfassungen falsche Behauptungen über zwei Münchner Verlage zu verbreiten
• Das Gericht stufte „AI Overview“ nicht als bloße Liste von Suchergebnissen ein, sondern als eigenen Inhalt von Google
• Googles KI-Zusammenfassung brachte die beiden Verlage bei bestimmten Suchanfragen fälschlich mit Betrug, Abo-Fallen und dubiosen Geschäftspraktiken in Verbindung
• Das Gericht stellte fest, dass die KI tatsächlich Informationen über andere, tatsächlich dubiose Unternehmen mit den Klägern verwechselte und dass sich eine solche Verbindung in den verlinkten Quellen nicht fand

AI Overview ist kein Suchergebnis

• AI Overviews funktionieren nicht wie traditionelle Suchergebnisse, sondern schreiben Ergebnisse in eigenen Sätzen und mit eigener Struktur um und bewerten sie
• Im beanstandeten Fall begann die KI-Zusammenfassung mit kategorischen Aussagen wie: „Ja, [Unternehmen] ist für verdächtige Geschäftspraktiken bekannt“
• Die KI-Zusammenfassung strukturierte ihre eigenen Abschnitte zu Zusammenfassung, möglichen Betrugssignalen und Tipps für Nutzer
• Das Gericht kam zu dem Schluss, dass die KI-Zusammenfassung Behauptungen aufstellte, die in den Suchergebnissen selbst nicht vorkamen
• Keine der verlinkten Quellen stellte eine Verbindung zwischen den Klägern und den von der KI genannten dubiosen Unternehmen her; das Gericht wertete dies als eigene Aussage der Beklagten
• Weil Google die KI erstellt und den Nutzern bereitgestellt hat, wurde Google auch als die Partei angesehen, die Einfluss auf Bereitstellung und Funktionsalgorithmus der KI hat

Bisherige Suchmaschinen-Haftungsgrundsätze gelten nicht

• Nach bisheriger Rechtsprechung des Bundesgerichtshofs galt für traditionelle Suchmaschinen und Autovervollständigung eine beschränkte Haftung
• Diese Rechtsprechung beruhte auf der Logik, dass Suchmaschinenbetreiber nur das Auffinden von Inhalten Dritter ermöglichen und daher nur mittelbar haften
• Das Münchner Gericht entschied, dass diese Logik auf AI Overviews nicht übertragbar ist
• Während gewöhnliche Suchmaschinen auf externe Websites verweisen, bewertet und kombiniert AI Overviews Inhalte mehrerer Drittseiten und erzeugt daraus eigenständige, neue inhaltliche Aussagen
• Das Gericht sah Google als die einzige Partei an, die KI-Aussagen überprüfen könne und zumindest die zugrunde liegenden Websites Dritter mit den eigenen Aussagen vergleichen könne
• AI Overview sei keine für die Internetnutzung absolut notwendige Funktion, da Nutzer Informationen auch mit klassischen Suchergebnissen ordnen könnten

Die Grenzen des Einwands „Nutzer können selbst prüfen“

• Google argumentierte in der Anhörung, Nutzer könnten die verlinkten Quellen selbst prüfen, um die Richtigkeit der KI-Zusammenfassung zu verifizieren
• Google machte geltend, dass allgemein bekannt sei, dass Nutzer KI-generierten Informationen nicht blind vertrauen sollten
• Das Gericht entschied, dass die bloße Möglichkeit, eine Aussage durch zusätzliche Recherche zu widerlegen, die Verantwortung für diese Aussage gewöhnlich nicht entfallen lässt
• Die beanstandete AI Overview war für sich genommen verständlich, enthielt in sich abgeschlossene, eigenständig verständliche Aussagen und keinen Hinweis auf alternative Deutungen oder unzuverlässige Inhalte
• Eine Studie, wonach nur 1 % der Nutzer in AI Overviews direkt auf einen Quellenlink klicken, stützt die Argumentation des Gerichts
• Das Gericht zog eine Parallele zum Presserecht: Auch für einen eigenständig verständlichen Teaser hafte ein Verlag, selbst wenn Leser nicht den gesamten Artikel lesen
• Würde Googles Logik gelten, dass AI Overviews allgemein nicht verlässlich seien, würde nach Auffassung des Gerichts auch der Nutzen dieser Funktion erheblich sinken

Schutzlücke und Fragen zum Digital Services Act

• Würde Google nur bei offensichtlichen Verstößen haften, hätten Betroffene bei KI-erzeugten Falschbehauptungen praktisch keinen wirksamen Rechtsbehelf
• Die als Quellen verwendeten Websites Dritter hatten die beanstandeten Aussagen selbst nicht getroffen, sodass Betroffene diese Quellen nicht verklagen könnten
• Wenn unter den bisherigen Regeln auch gegen Google keine wirksame Klage möglich wäre, entstünde eine Schutzlücke
• Google konnte sich weder auf den Haftungsschutz für Hosting-Anbieter im Digital Services Act noch auf die üblichen Notice-and-Takedown-Verfahren für Suchmaschinen stützen

KI-generierte Meinungen und Meinungsfreiheit

• Das Gericht urteilte, dass eine KI-Meinung nicht Ausdruck einer gebildeten Überzeugung einer Person sei, sondern Ergebnis eines Algorithmus
• Die Bereitstellung KI-basierter Recherche werde in erster Linie als Ausdruck der geschäftlichen Tätigkeit von Google angesehen
• Das Interesse an freier Meinungs- und Überzeugungsäußerung wurde nur als nachrangig bewertet
• Bei der Abwägung zwischen den Persönlichkeitsrechten der Kläger und den Interessen Googles traten Googles Interessen zurück, weil die beanstandeten Aussagen auf falschen Tatsachen beruhten
• Die KI stellte eine Verbindung der Kläger zu sachlich nicht verbundenen Unternehmen her; laut eidesstattlichen Versicherungen hatten die Kläger keinerlei Beziehung zu diesen Unternehmen

Urteilsausgang und Kostenverteilung

• Das Gerichtsurteil gab den Klägern in den meisten Punkten Recht
• Untersagt wurden Behauptungen über Betrug, Verbindungen zu verdächtigen Unternehmen, Abo-Fallen, nie stattgefundene Telefonate und angebliche Nichterreichbarkeit
• Nur zwei geringfügige Anträge wurden abgewiesen
• Das Gericht sah die Gefahr von Wiederholungsverstößen auch dann als gegeben an, wenn bestimmte Formulierungen nicht mehr angezeigt wurden
• Google hatte keine Unterlassungserklärung mit Vertragsstrafe abgegeben, und es gab keinen Mechanismus, der verhindern würde, dass der Algorithmus dieselben Aussagen erneut erzeugt
• Google trägt 80 % der Verfahrenskosten, die Kläger jeweils 10 %
• Das Gericht hielt es für möglich, dass dieses Urteil internationale Reichweite haben könnte

Das Problem hinter 91 % Genauigkeit

• In einer von dem KI-Startup Oumi für die New York Times durchgeführten Analyse erreichten Google AI Overviews auf Basis des aktuellen Gemini-3-Modells eine Trefferquote von 91 %
• Für die meisten Menschen gilt dieser Wert als ausreichend für den alltäglichen Gebrauch
• Im Maßstab von Google bedeuten selbst 91 % Genauigkeit stündlich Millionen falscher Antworten
• Wenn eine ausreichende Zahl dieser Fehler den Ruf von Unternehmen oder Einzelpersonen schädigt, könnte dies nicht nur für Google, sondern auch für Anbieter ähnlicher Dienste wie ChatGPT, Claude oder Perplexity zu erheblichen Rechtsproblemen führen
• Laut der Oumi-Analyse konnten 56 % der korrekten Gemini-3-Antworten nicht durch die von Google verlinkten Quellen gestützt werden
• Nutzer könnten daher in Situationen geraten, in denen sie die Herkunft einer von der KI gegebenen Antwort nicht nachvollziehen können
• Das Münchner Gericht befasst sich mit genau der Frage, ob Betreiber haften müssen, wenn eine KI eigene Behauptungen erzeugt, die in den verlinkten Quellen nicht enthalten sind
• Ob diese Logik in der Berufungsinstanz Bestand haben wird, ist noch offen; Google äußerte sich nicht zum Urteil

[brainer]

Voller falscher Antworten, hahaha

[GN⁺]

Hacker-News-Kommentare

• Wenn ich das richtig verstanden habe, gefällt mir dieses Urteil. Google hat ein Produkt namens Search gebaut, für dieses Produkt haben sich Regeln etabliert, und Google hat damit ein Monopol aufgebaut.
  Jetzt verwandelt Google dieses Produkt in ein neues Produkt und nennt es trotzdem beim gleichen Namen. Der Grund ist, dass das Monopol erhalten bleiben soll.
  Für rechtswidrig halte ich genau diesen Teil. Nicht Gemini an sich ist rechtswidrig, sondern dass die schlechteste Version von Gemini als Search ausgegeben wird und dabei die für Search etablierten Regeln bricht. Ich bin allerdings kein Jurist.

  • Das hat nichts mit dem Monopol zu tun. Google konnte sich bei der Haftung für Verleumdung in der Suche entziehen, weil Seitentitel und Snippets direkte Zitate der verlinkten Ergebnisseiten waren. Die AI Overviews dagegen werden von einem großen Sprachmodell formuliert, das Google kontrolliert.
  • Das steht in dem Artikel nicht. Wenn du meinst, der Artikel gebe das Urteil falsch wieder, solltest du genau darauf eingehen. Du sagst, dir gefalle das Urteil, und listest dann Dinge auf, die dir gefallen, aber mit dem Urteil nichts zu tun haben.
  • Ich verstehe die Logik überhaupt nicht und auch nicht, gegen welches Gesetz hier verstoßen werden soll. Welches Gesetz soll denn konkret verletzt worden sein?
    Der Artikel scheint so etwas auch nicht zu behaupten. Das wirkt eher wie ein Thema ähnlich Section 230 in den USA. Section 230 ist ein US-Gesetz, das Plattformen wie Facebook oder Google davor schützt, als Herausgeber behandelt zu werden, solange sie Informationen nur weiterleiten; hier geht es darum, dass Deutschland AI-Ergebnisse als von Google verfasst ansieht.
  • Das Gericht sieht bei KI-generierten Inhalten einen Autor, Redakteur und Herausgeber, und dieser Akteur ist Google. Außerdem hält es Google für haftbar. Da fällt mir sofort das überraschte-Pikachu-Meme ein.
  • So etwas steht im Urteil nicht.

• Gut so. Das echte Kennzeichen von allgemeiner künstlicher Intelligenz ist, dass ein Unternehmen Verantwortung übernimmt und nicht irgendwo tief in den AGB Formulierungen wie „nur zu Unterhaltungszwecken“ versteckt. Genauso wie man auch Mitarbeitende zur Verantwortung zieht.
  Beim autonomen Fahren ist es dasselbe. Solange das Auto die Verantwortung nicht übernimmt und der Nutzer nicht bloß als Passagier behandelt wird, ist es kein autonomes Fahrzeug.
  Allerdings wird Deutschland wohl bald Google-AI-Ergebnisse verlieren.

  • Die Position, dass Unternehmen für Fehler von selbstfahrenden Autos und Frage-Antwort-Systemen rechtlich haften sollten, erscheint mir völlig vernünftig.
    Aber wenn man diese Position vertritt, muss man auch akzeptieren, dass Unternehmen ihre Produkte und Dienste in diesem Land dann nicht anbieten. KI-Systeme werden irgendwann, vielleicht in 10 bis 20 Jahren, präzise genug sein, um die Kosten von Klagen zu tragen; bis dahin werden solche Länder jedoch keinen Zugang haben, bis vollständig verifizierte Systeme verfügbar sind.
  • Wenn Deutschland Google-AI-Ergebnisse verliert, ist das aus meiner Sicht ein Gewinn für Deutschland. Wenn ich AI-Ergebnisse brauche, nutze ich einfach AI.
  • Mercedes-Benz macht das in eingeschränkten Fällen. Waymo tut das im Allgemeinen. In China geht bei Level 4 und 5 das Risiko auf den Hersteller über. So sollte es sein.
  • Es wurde nicht tief in den AGB versteckt, sondern direkt unter dem Kasten steht:

    AI can make mistakes, so double-check responses

  • Warum sollte das allgemeine künstliche Intelligenz bedeuten? Wenn man den Anwendungsbereich eingrenzt, kommt man viel leichter in den Bereich, in dem Verantwortung übernommen werden kann, als wenn man versucht, die AI intelligenter zu machen.
    Auch bei autonomen Fahrzeugen reicht ein Modell, in dem das Unternehmen in bestimmten Situationen haftet und das Auto in anderen Situationen das Fahren verweigert; dafür muss es nicht außergewöhnlich gut sein.

• Ironischerweise stellt dieser Artikel selbst eine falsche Behauptung darüber auf, wofür Google hier eigentlich verantwortlich gemacht wurde, und kaum jemand überprüft das.
  Das verletzte Gesetz schützt den Ruf von Personen und Unternehmen vor Tatsachenbehauptungen, die nicht der Wahrheit entsprechen. Wenn eine Aussage im Kern verleumderisch ist, kann man nicht einfach „könnte falsch sein, bitte selbst prüfen“ dazuschreiben und dann behaupten: „X ist Y“.
  Ich finde dieses Urteil ziemlich gut. Hoffentlich wird Google künftig nicht mehr wie hier harte Tatsachenbehauptungen formulieren, sondern angemessenere Wendungen wie „Laut X …“ verwenden und ausdrücklich darauf hinweisen, dass es das nicht verifizieren kann. Noch besser wäre es, die Gerichtsdokumente zu finden, zu prüfen, ob es tatsächlich eine rechtliche Entscheidung gibt, und den Nutzer entsprechend zu informieren.

  • An welcher Stelle weicht der Artikel von dem ab, was du geschrieben hast?
  • In welchem Maß folgt Deutschland dem Präzedenzfallrecht? Falls das hier ein Präzedenzfall werden kann, wäre das wichtig. Solche AI-Overview-Antworten kann praktisch jeder erzeugen, und in neun von zehn Fällen liegen sie fast immer falsch.
  • Google macht so vieles kaputt, dass das Grundproblem selbst dann bestehen bleibt, wenn der Artikel ungenau ist. Es ist Zeit, dieses böse Monopol vollständig zu zerschlagen.
    Allerdings bin ich nicht einmal sicher, ob du recht hast. Welche konkrete falsche Behauptung stellt der Artikel denn auf?

• Manche werden sich beschweren, aber am Ende wird Europa in solchen Rechtsfragen wohl weiter voraus sein. Das ist nervig und bremst manchmal das Innovationstempo, aber US-Unternehmen machen ohne nennenswerte Grenzen einfach alles, womit Geld zu verdienen ist.

  • Es geht weniger darum, dass das Innovationstempo gebremst wird, sondern darum, dass eine Rückkehr zu einem klassischen Verständnis von Mensch, Gesellschaft und Gemeinwohl notwendig ist.
  • Ehrlich gesagt ist Europas langsame Einführung von Technologie und die vergleichsweise geringere Investition in diesem Fall ein Segen.
    Im Moment bekommt man damit vor allem Volatilität. Europa kann einfach abwarten, bis die USA den wirtschaftlichen und gesellschaftlichen Schock erlebt haben, und dann übernehmen, was überlebt. Es gibt keinen Grund zur Eile. Rund um die nützlichen Teile gibt es kaum Burggräben. Auch ist der Unterschied gegenüber offenen Modellen oder kleineren Anbietern nicht groß genug, um die Kosten und Risiken des Betriebs an der Front zu rechtfertigen. Wahrscheinlich wird sich der Großteil dieses AI-Geschäfts für die meisten Anwendungsfälle letztlich bei lokalen Modellen einpendeln.
    Die USA bringen vielleicht den ersten Billiardär hervor, aber realistisch gesehen läge das nicht an Innovation, sondern an Korruption, Ausbeutung und extremer Vermögensungleichheit. Wenn sich die AI-Wirtschaft nicht so entwickelt wie „erwartet“, gibt es auch keine Erholung. Dann wurde dieses Geld einfach in Wärme und Einweg-Hardwaremüll verwandelt. Wegen eines „technologischen Vorsprungs“ lohnt es sich nicht, Renten und gesellschaftlichen Zusammenhalt zu gefährden.
  • Solche Gesetze existieren, um reichen und mächtigen Leuten zu helfen und den Menschen darunter zu schaden. Das ist überhaupt kein Beispiel dafür, dass die EU besser sei als die USA.
    Oder hältst du es wirklich für gut, dass das Hosting negativer Bewertungen in Deutschland praktisch illegal ist?

• Zu welchem anderen Schluss sollte man sonst kommen? Plattformen haben sich daran gewöhnt, sich herauszuwinden, obwohl sie dafür genutzt werden, gefährliche und kaputte Produkte anzubieten. Irgendwo muss es Grenzen geben.
  Als Nächstes sollte man sich Amazon vornehmen, das von KI erzeugte Sammelratgeber verkauft:
  https://www.theguardian.com/technology/2023/sep/01/mushroom-...
  Als ich jünger war, hatte jedes Sammelbuch aus der Buchhandlung wenigstens ein Mindestmaß an Qualität. Ist das wirklich so schwer? Werden Wucherprofite jetzt gar nicht mehr bestraft?

  • Es gab einen Haftungsausschluss, und der Nutzer hat zugestimmt.
    Quelle: https://www.youtube.com/watch?v=P-QaEB5eXSU
    bei 3:00
  • Sollte man Wissenschaftler und Journalisten zur Verantwortung ziehen, wenn sie Falsches sagen oder Tatsachen verzerren?

• Dem Nutzer die Auswahl einer Antwort abzunehmen, statt ihn selbst urteilen zu lassen, ist enorme Macht, und das Gericht hat zu Recht gesehen, dass mit dieser Macht die Verantwortung einhergeht, den Schaden für andere in der Gesellschaft zu minimieren.

  • Die KI-Zusammenfassungen auf der Google-Suchseite sind im Vergleich zu echten Gemini-Ergebnissen erstaunlich dumm. Googles Such-KI wirkt wie das leichtgewichtigste Modell, das Suchergebnisse nur umschreibt. Sie greift zufällige Reddit-Kommentare auf, entfernt den Kontext und präsentiert sie als absolute Tatsachen.
  • Natürlich wissen sie das selbst. Der eigentliche Zweck ist, die Wahrnehmung der Leute umzuschreiben.

• Ich finde, das ist schlüssig.
  Wenn die Google-Suche auf Websites Dritter mit Fehlinformationen verweist, ist Google nicht verantwortlich. Die Verantwortung liegt dann bei den Dritten. Das ist das Privileg, das Google als Suchmaschine genießt.
  Wenn Google aber nicht als Suchmaschine, sondern als Antwortmaschine funktioniert, gilt dieses Privileg nicht mehr. Es gibt keinen Dritten mehr, auf den man die Verantwortung abwälzen könnte.

  • Das ist hier aber nicht passiert.

    According to the court, the Al mixed up information about other, genuinely sketchy companies with the plaintiffs and drew connections that didn't appear in any of the linked sources.
    Das heißt: Wären die falschen Behauptungen in den Quellen enthalten gewesen, wäre es eine geschützte Äußerung gewesen.
    Es gibt keinen besonderen Unterschied zwischen einer „Antwortmaschine“ und einer „Suchmaschine“. Dieser Teil ist eine hineingelesene Interpretation.

• Wirkt wie ein vernünftiges Urteil. KI ist keine Suche. Große Sprachmodelle erzeugen Aussagen, statt Suchergebnisse zu liefern, die der Nutzer selbst interpretieren muss. Es ist der Unterschied zwischen dem Nachschlagen eines Themas im Zettelkatalog einer Bibliothek und einer Software, die ihre eigene Antwort ausspricht.
  Als diese Systeme auftauchten und sofort begannen, selbstbewusst zu lügen, dachte ich schon, dass solche Klagen unvermeidlich sein würden. Gut, dass Deutschland hier richtig entschieden hat.

• Den Link zum Urteil gibt es hier. Dass es auf Deutsch ist, versteht sich von selbst, und die Originalseite scheint unter dem Andrang zusammengebrochen zu sein: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...

• In this case, Google's AI had wrongly linked two publishers to scams and shady business practices.
  Dann dürfte es das für AI Overviews in der EU gewesen sein.

  • Zusammen mit anderen Ländern mit Verleumdungsrecht vermutlich schon, aber es gibt kein Anzeichen für Strafen. Nicht einmal dafür, dass Google sämtliche Verfahrenskosten tragen muss. Falls es ein Geschäftsmodell dafür gibt, können sie es vielleicht verkraften.
  • Es hängt davon ab, ob Google meint, dass der Nutzen groß genug ist, um das Risiko einzugehen.
    Welcher Nutzen das sein soll, weiß ich auch nicht, aber sie werden es ja kaum ohne Grund eingeschaltet lassen.