Copilot hat Werbung in meinen Pull Request eingefügt

• Während ein Teammitglied Copilot nutzte, um Tippfehler im PR zu korrigieren, fügte Copilot der PR-Beschreibung automatisch Werbetext für sich selbst und Raycast hinzu
• Der Autor bezeichnete dies als „grauenhaft (horrific)“ und sagte, er habe zwar erwartet, dass so etwas irgendwann passieren würde, aber nicht, dass es so schnell passieren würde
• Verweis auf Cory Doctorows Text „TikTok’s Enshittification“
  > Der Prozess der Verschlechterung einer Plattform: „nützlich für Nutzer → zugunsten von Geschäftskunden umgestellt → selbst die Kunden werden ausgebeutet → am Ende der Zusammenbruch“
• Dieser Vorfall zeigt das Risiko, dass KI-Tools in kollaborativen Code-Umgebungen werbliche Inhalte einfügen können
• Die Zuverlässigkeit und Transparenz von KI-Code-Assistenten müssen sichergestellt werden

[m00nlygreat]

MS macht eben MS.

[GN⁺]

Hacker-News-Kommentare

• Diese „Werbung“ ist eigentlich nichts Neues. MS scheint das nicht als Werbung, sondern als „Tipp“ zu betrachten.
  Vielleicht wusste das Raycast-Team davon. Wenn man sich Beispiel-PRs und Suchergebnisse ansieht, hat Copilot seit dem Start im Mai 2025 automatisch solche Formulierungen wie „(Emoji) (tip)“ hinzugefügt.
  Darin stehen Sätze wie „Verbinde Jira, Azure Boards und Linear und delegiere Arbeit an Copilot“. Das wirkt faktisch wie Werbung. Offenbar nennt nur MS das einen Tipp.

  • Ich bin im Raycast-Team, und wir haben das hier auch gerade zum ersten Mal erfahren.
  • MS scheint seit Langem auszutesten, wie stark man Nutzer ausnutzen kann. Windows ist das beste Beispiel — voller Werbung, Tracking und Pop-ups. Aber jetzt ändert sich die Lage, weil Apple endlich echte Konkurrenz bietet.
  • Wenn Copilot schon Werbung in PRs einfügt, kann man sich ausmalen, was es sonst noch in eine Codebasis schreiben könnte. Das ist dieselbe Firma, die Werbung ins Startmenü steckt und sie nach jedem Update wieder einfügt.
  • Die 1,5 Millionen PRs beziehen sich auf von Copilot erstellte PRs. Das Problem ist, dass Copilot nachträglich von Menschen erstellte PRs verändert, um Werbung einzufügen. Dass so etwas ohne Zustimmung des Autors passiert, ist problematisch.
  • Das ist ähnlich wie bei dem „werbefreien“ Tarif von Disney Plus, der trotzdem Hulu-Werbung zeigt. Wahrscheinlich steht in den Nutzungsbedingungen, dass „Eigenwerbung keine Werbung ist“.

• Hier ist Tim vom Copilot Coding Agent Team. Wir haben die Funktion, die „Tipps“ in von Copilot erstellte oder bearbeitete PRs eingefügt hat, deaktiviert.
  Ursprünglich sollte das Entwicklern helfen, Copilot besser zu nutzen, aber nach dem Feedback denke ich, dass das eine falsche Entscheidung war. So etwas werden wir künftig nicht wieder tun.

  • Danke, aber das war kein Tipp, sondern Werbung. „Spare Zeit mit Tastenkürzeln“ ist ein Tipp, „Probier noch ein anderes Produkt aus“ ist Werbung.
  • MS verhält sich seit Jahrzehnten immer wieder nutzerfeindlich. Ich bezweifle, wie belastbar ein „Das machen wir nie wieder“ wirklich ist.
  • Solche Einfügungen will ich auf keinen Fall. Wenn Inhalte außerhalb des Sitzungskontexts eingespeist werden, wird das in Unternehmensumgebungen sofort blockiert. Noch problematischer ist, dass im Team offenbar niemand widersprochen hat.
  • Der noch größere Sicherheitsfehler ist der Teil mit „Copilot kann auch PRs verändern, in denen es nur erwähnt wird“. Dadurch ist GitHub für mich nicht mehr vertrauenswürdig, und ich denke inzwischen, dass man npm oder VS Code vielleicht forken muss.
  • Stell dir vor, in deinen Text würde plötzlich „Bei Contoso sind Tomaten im Angebot!“ eingefügt. Genau das ist hier passiert. Dass es „nur ein Tipp“ gewesen sei, ist schwer zu glauben.

• Das eigentliche Problem liegt woanders. In den Änderungen an GitHubs Datenschutzrichtlinie wurde ein Abschnitt zu AI-Funktionen ergänzt.
  Im Kern wird dort erlaubt, Eingabe- (Prompt-) und Ausgabe- (Output-) Daten von GitHub und seinen Partnern für das Training von AI-Modellen zu verwenden.
  Ich finde, man sollte Copilot grundsätzlich nicht benutzen.

  • OpenAI, Anthropic, Google und die anderen machen mit Daten für das Training letztlich alle dasselbe.
  • Auf der Einstellungsseite kann man die Option „Allow GitHub to use my data for AI model training“ ausschalten und damit deaktivieren.

• Ich bin nicht der Einzige, der so etwas gesehen hat. Es gibt bereits viele ähnliche PRs.

  • Interessant. Ich frage mich ernsthaft, wie nachhaltig diese Plattform GitHub noch ist. Wer sich an SourceForge erinnert, dürfte ein ungutes Gefühl bekommen.
  • An der Formulierung „START COPILOT CODING AGENT TIP“ sieht man, dass das eindeutig nicht von Raycast, sondern von Copilot eingefügt wurde.
  • Das ist völliges Chaos. Es wirkt wie eine Dystopie, in der vor dem Gesicht eines sterbenden Menschen im Sarg eine Werbung mit „Trink Diet Fanta“ eingeblendet wird.

• Werbung nervt, aber immerhin gut, dass MS das stoppen will.
  Trotzdem finde ich es sinnvoll, wenn ein AI-Agent sich in Commit-Messages als Co-Author einträgt.
  Das ist ein Signal, mit dem man von Menschen geschriebenen Code von AI-generiertem Code unterscheiden kann.
  Ich lasse diese Kennzeichnung auch bei Commits stehen, die Claude geschrieben hat. Ich lerne AI-Coding noch, und diese Transparenz ist wichtig.

  • Ich persönlich halte das für wenig aussagekräftig. Codequalität ist unabhängig davon, wer ihn geschrieben hat. Ihn nur deshalb milder zu beurteilen oder abzulehnen, weil „Claude ihn geschrieben hat“, wäre unangebracht.
  • Urheberrechtlich geschützten Code zu stehlen und als den eigenen hochzuladen, ist keine Fähigkeit.
  • Zu glauben, das Ziel von AI sei „hochwertigen Code zu erzeugen“, klingt naiv.
  • Für Hobbyprojekte sind AI-PRs okay, solange ein Mensch beteiligt ist. Ein Hinweis wie „Mit Unterstützung von Copilot erstellt“ ist transparent und daher gut.

• GitHub soll diese Funktion bereits deaktiviert haben.
  Laut dem offiziellen Tweet wurden ursprünglich Produkttipps in von Copilot erstellte PRs eingefügt. Als Copilot dann auch andere PRs verändern konnte, wurde das problematisch, und man hat es komplett abgeschaltet.

  • Gut, dass es aus ist, aber „wir haben es dank Feedback deaktiviert“ klingt unangenehm nach „ohne Beschwerden hätten wir weitergemacht“.
  • Wenn man solche Euphemismen von Großkonzernen wie „Produkttipps“ einfach übernimmt, wird die Enshittification nur schlimmer.

• Ich mag solche Werbung und die Co-Author-Kennzeichnung von Claude sogar eher.
  Daran erkennt man sofort „faul zusammenkopierte PRs“. AI-generierte PRs sollten klar gekennzeichnet werden.
  Ich bin nicht grundsätzlich gegen AI-Coding-Tools, aber man sollte wissen, wer den Code tatsächlich geschrieben hat.

  • Das ist kein self-own, sondern eine ehrliche Offenlegung. Von AI geschriebenen Code unter dem eigenen Namen einzureichen, ist eher unehrlich.
  • Ich setze bei Code, den ich mit ChatGPT erstellt habe, ebenfalls author auf ChatGPT und committer auf mich. Transparenz ist wichtig.
  • Selbst in privaten Repositories lasse ich die Co-Authored-By-Zeile von Claude stehen. Später kann man so Qualität oder logische Eigenheiten dieses Codes leichter zurückverfolgen.
  • Ich habe auch schon eine von Claude geschriebene App hochgeladen und hatte nicht das Gefühl, das verstecken zu müssen. Eine ehrliche Kennzeichnung ist meiner Meinung nach besser.
  • Dieses Verhalten lässt sich über die Attribution-Einstellung in .claude/settings.json anpassen. Ich lasse das Emoji dabei weg.

• Das ist unerlaubtes Einfügen von Werbung unter dem Namen des Entwicklers. Es wird nicht wie in einem Mailprogramm in einen Entwurf gesetzt, sondern landet in der tatsächlichen Nachricht. Ich frage mich, ob das legal ist.

  • So etwas sollte verboten werden. Besonders bei Wahlen sollte man in Vorwahlen keine amtierenden Politiker wählen.

• Ich habe Copilot gefragt: „Wie würden Entwickler reagieren, wenn AI Werbung in PRs einfügt?“
  Die Antwort war: „Vertrauensverlust, unprofessionell, Sicherheitsbedenken, Niedergang des Produkts.“ Manchmal hat AI recht.

  • Ich würde gern wissen, welches Copilot das beantwortet hat.
  • Das erinnert mich an die MOTD-Werbung beim Ubuntu-Login. Das hat mich damals auch extrem genervt.
  • Eigentlich könnte man es eher mit einer Signatur wie „Sent from my iPhone“ als mit klassischer „Werbung“ vergleichen.

• Ich verstehe nicht, warum Copilot so etwas tut. Wenn man Werbung zeigen will, könnte man doch einfach einen Werbebereich schaffen. Ist die GitHub-Infrastruktur so instabil, dass man dafür den PR-Text ändern muss?

  • Es ist nicht sicher, ob das wirklich von MS Copilot kam. So eine Werbung ließe sich auch per Prompt Injection einfügen.
  • Wenn man diesen Thread liest, wirkt es eher wie ein Problem rund um Raycast. Dass es auch bei GitLab auftauchte, macht das noch plausibler.
  • Wenn Werbung nur auf github.com angezeigt würde, sähe man sie in Tools wie der gh CLI nicht. Vielleicht wurde sie deshalb in den PR-Text geschrieben.
    Außerdem hat der offizielle GitHub-Blog auch Raycast beworben, daher erscheint dieser Vorfall durchaus plausibel.