cURL schafft Bug-Bounty-Programm ab

• Die Open-Source-Bibliothek cURL beendet ihr Bug-Bounty-Programm, um den starken Anstieg bedeutungsloser, von KI erzeugter Bug-Reports einzudämmen
• Maintainer Daniel Stenberg erklärte, dass die meisten von KI erstellten Meldungen „reine Fiktion“ seien und ihre Überprüfung viel Zeit koste
• cURL stellt Ende Januar die Auszahlung von Prämien ein; bislang wurden für insgesamt 87 Reports 101.020 US-Dollar ausgezahlt
• Der Sicherheitsforscher Joshua Rogers hat zwar mithilfe von KI-Tools tatsächlich valide Reports eingereicht, bezeichnete die Entscheidung aber als „sehr kluge Maßnahme“
• Er sagte, der eigentliche Antrieb sei nicht Geld, sondern Ansehen und technische Leistung, und auch andere Projekte müssten ähnliche Schritte erwägen

---

cURLs Entscheidung zur Einstellung des Bug-Bounty-Programms

• Die Open-Source-Codebibliothek cURL stellt die finanzielle Vergütung für Bug-Reports ein
  • Ziel ist es, den starken Anstieg von KI-generierten Falschmeldungen (AI slop) einzudämmen
  • Maintainer Daniel Stenberg sagte, „AI slop und ungenaue Reports nehmen weiter zu; wenn wir diese Flut nicht stoppen, gehen wir darin unter“
• cURL beendet die Auszahlung von Bounties Ende Januar
  • Er erklärte: „Wir verschwenden zu viel Zeit mit angeblichen Funden, die in Wirklichkeit nicht existieren, übertrieben sind oder missverstanden wurden.“

Probleme und Auswirkungen KI-generierter Reports

• Bei cURL ist die Arbeitsbelastung zuletzt durch automatisch von KI erzeugte Bug-Reports stark gestiegen
  • Die meisten KI-generierten Reports erwiesen sich als sinnlos oder fehlerhaft
  • Der Prozess, solche Meldungen auszusortieren, ist zeitaufwendig und belastet die Maintainer erheblich
• Stenberg hatte das Problem bereits 2025 in dem Beitrag „Death by a thousand slops“ öffentlich thematisiert

Positive Beispiele für KI-gestützte Reports

• Nicht alle von KI erzeugten Reports sind wertlos
  • Stenberg erwähnte, dass mehr als 100 KI-gestützte Reports tatsächlich zu Code-Fixes geführt hätten
• Bislang hat cURL für insgesamt 87 Bug-Reports 101.020 US-Dollar an Bounties ausgezahlt
  • Ohne das Bounty-Programm wären einige dieser Reports möglicherweise nie entdeckt worden (keine weitere Analyse)

Die Position des Sicherheitsforschers Joshua Rogers

• Joshua Rogers hat mithilfe von KI-Tools zahlreiche valide Bug-Reports für Open-Source-Projekte eingereicht
  • Er prüfte die Analyseergebnisse der KI, ergänzte sie selbst und reichte sie dann ein
• Rogers bezeichnete cURLs Entscheidung als „hervorragende Maßnahme, die schon viel früher hätte umgesetzt werden sollen“
  • Er sagte auch: „Es ist eher seltsam, dass dieses System überhaupt so lange weiterlief.“
• Er erklärte: „Wenn die Bug Bounties verschwinden, wird ein Teil der Motivation wegfallen, aber wichtige Reports werden trotzdem weiterhin eingereicht.“

Ungleichgewicht zwischen Belohnung und Motivation

• Rogers betonte, dass „Ruhm (fame)“ der eigentliche Antrieb sei und finanzielle Belohnungen nur zweitrangig seien
  • Die höchste Bounty bei cURL liegt bei 10.000 US-Dollar, was für Expert:innen, die schwere Schwachstellen finden können, kein besonders hoher Betrag ist
• Er wies jedoch auch auf ein wirtschaftliches Ungleichgewicht hin
  • Dieselbe Belohnung könne für Forschende in einkommensschwachen Regionen sehr viel bedeuten
  • „Eine Prämie, die in Schweden kaum mehr als ein Mittagessen wert ist, kann in manchen Regionen eine enorme Summe sein“, erklärte er

Gemeinsame Herausforderung im Open-Source-Ökosystem

• Dem Artikel zufolge kämpfen auch andere Open-Source-Projekte mit einer Flut KI-generierter Reports
• cURLs Entscheidung könnte eine neue Debatte über Qualitätssicherung und Community-Management im KI-Zeitalter anstoßen (keine weitere Erläuterung)

[xguru]

Die Industrialisierung der Erstellung von LLM-basierten Hacking-Exploits rückt näher

Im Zusammenspiel damit scheint der Zeitpunkt näher zu kommen, an dem man LLMs in vielen Bereichen zwangsläufig einsetzen muss.
Schon um Hacker abzuwehren, die LLMs nutzen, wird man die Überprüfung der Sicherheit wohl LLMs anvertrauen müssen

[GN⁺]

Hacker-News-Kommentare

• Man könnte wohl vieles davon schnell eindämmen, indem man eine teilnahmegebühr mit Rückerstattung einführt, wenn sich ein Bug als tatsächlich relevant herausstellt.
  Ich erinnere mich, einmal eine Schwachstelle in einem Bank-Login gemeldet zu haben, bei der man von Passwort+PIN auf nur PIN wechseln konnte, und das wurde mit der Begründung „beabsichtigtes Verhalten“ geschlossen.
  Dabei habe ich gelernt, dass stark regulierte Institutionen wie Krankenhäuser oder Banken sich eher darauf konzentrieren, „Compliance zu erfüllen“, als auf echte Sicherheit.
  Wenn Veranstalter von Bug-Bounty-Programmen in guter Absicht handeln, könnten solche Hürden oder Strafen böswillige Einreicher aussortieren.

  • Bug Bounties sind aus Sicht der Einreicher eine riskante Struktur.
    Reviewer verstehen Inhalte oft falsch, und die Regeln sind häufig unklar.
    Wenn man zusätzlich eine Teilnahmegebühr verlangt, wird dieses Risiko noch größer.
    Als ich früher selbst auf Betreiberseite war, gab es schon viel zu viele miserable Reports, und mit AI ist es heute vermutlich noch schlimmer.
    Auch aus Sicht der Einreicher ist eine faire Bewertung schwer zu garantieren, und die Wahrscheinlichkeit für Duplikate ist hoch.
  • Dass stark regulierte Institutionen eher nur das Mindestmaß, um nicht erwischt zu werden, statt echter Sicherheit aufrechterhalten, ist eine traurige Realität.
    Früher erlaubte eine EU-Bank nur elektronische Signatur-Logins mit SHA-1, obwohl der Algorithmus schon seit 10 Jahren ausgemustert war.
    Die Software eines staatlich zertifizierten Identitätsanbieters stürzte einfach ab, wenn ein YubiKey eingesteckt war.
    Das war ein Standard-konformes Gerät, aber die Entwickler hatten Annahmen außerhalb des Standards getroffen.
    Ich habe den Bug gemeldet, bekam aber nur die Antwort: „Nicht unser Problem“.
  • Der Kern von Bug Bounties ist, Schwachstellen zur Meldung an Entwickler zu lenken.
    Wenn man dafür aber erst Geld zahlen muss und weder Rückerstattung noch Belohnung sicher sind, kann es attraktiver wirken, die Information anderswo zu verkaufen.
  • Ein Teilnahmegebühren-Modell erhöht die betriebliche Komplexität erheblich.
    Daniel von cURL hat diese Idee offenbar schon mehrfach geprüft, am Ende aber als nicht praktikabel verworfen.
  • Ich bin nach dem Fall GrapheneOS zum gleichen Schluss gekommen.
    Zertifiziert unsichere Geräte dürfen alle Funktionen einer App nutzen, aber GrapheneOS als sicherstes OS wird mit der Begründung „nicht zertifiziert“ eingeschränkt.
    Das eigentliche Problem ist also nicht Sicherheit, sondern das Zertifizierungssystem.

• Open Source scheint unter AI am meisten zu leiden.
  Open-Source-Code wurde für das Training der Modelle verwendet, und nun fluten diese Modelle Open-Source-Projekte mit Spam.
  Außerdem implementiert AI kostenpflichtige Features, untergräbt damit Open-Source-Geschäftsmodelle und könnte am Ende sogar den Open-Source-Code selbst ersetzen.

  • AI tötet jeden Antrieb hinter Open Source.
    Sie zerstört Motivation für Beiträge, Wartung, Lernen, Zusammenarbeit und den Aufbau von Geschäftsmodellen.
    Sogar traditionelle Beschäftigungsformen mit proprietärem Code werden dadurch ausgehöhlt.
    Am Ende konkurrieren drei US-Unternehmen darum, unsere frühere Arbeit im Abo wiederzuverkaufen.
  • Seit AI gibt es einen massiven Anstieg von Leuten ohne echtes Codeverständnis, die in großen Repositories nur ein Contributor-Badge ergattern wollen.
    Solche Blender-Beiträge gab es früher auch schon, aber heute ist die Größenordnung eine ganz andere.
  • Wenn dieser Trend anhält, brauchen Programme wie Google Summer of Code wohl eine grundlegende Umgestaltung.
    Früher mussten Studierende Projekte selbst finden und dazu beitragen, wodurch ein natürlicher Filter entstand; wenn AI das übernimmt, verschwindet dieser Filter.
  • Es ist traurig, dass AI Open-Source-Geschäftsmodelle erschüttert, aber niemand hat ein Recht auf ein bestimmtes Geschäftsmodell.
    Wenn die Welt kompetitiver wird, ist es nur natürlich, dass Modelle auf Open Core-Basis zusammenbrechen können.
  • Die Modelle wurden nicht nur mit Open-Source-Code trainiert.
    Auch Lehrbücher, Vorlesungen und offizielle Dokumentation gehören dazu.
    Ich habe Claude einmal GUI-Funktionen hinzufügen lassen, um Daten von einem alten Android-Gerät wiederherzustellen, und das hat erstaunlich gut funktioniert.
    Weil der Code nicht mehr zur ursprünglichen Ausrichtung des Projekts passte, habe ich ihn nicht wieder auf GitHub gestellt.

• Aus Sicht eines White-Hat-Hackers sind die Belohnungen bei Bug Bounties nicht besonders hoch, aber die Teilnahme hat als moralische Entscheidung Bedeutung.
  Bei tatsächlich ausnutzbaren Schwachstellen könnte man sie stattdessen auch an Malware-Autoren verkaufen, die mehr zahlen.

  • In der Praxis ist es aber fast unmöglich, mit Malware-Autoren Geschäfte zu machen.
    Mangels Vertrauen braucht man Krypto-Escrow, Geldwäsche und andere komplizierte Verfahren.
    Solche Transaktionen ohne staatliche Genehmigung bringen zudem rechtliche Risiken mit sich.
    Deshalb glaube ich, dass ein solcher Markt real kaum funktionsfähig ist.
  • Vielleicht leiden Malware-Autoren inzwischen auch darunter, AI-generierte Müll-Reports herausfiltern zu müssen.

• Hackerone hat ein Reputationssystem für Hacker.
  Ich verstehe nicht, warum man nicht einfach mit privaten Programmen arbeitet, zu denen nur verifizierte Hacker eingeladen werden.

  • Wenn aber alle Projekte das so machen, verschwindet für neue Hacker die Chance, sich zu beweisen.
    Dadurch könnte die Eintrittshürde ins Ökosystem am Ende zu hoch werden.

• Neben Geld gibt es auch Motive wie Ansehen oder eine CVE.
  Stenberg hat in seinem Blog mehrfach Fälle überbewerteter Schwachstellen behandelt, und manches wirkte wie absichtliche Übertreibung aus Prestigegründen.
  Solche Motive lassen sich mit Incentive-Design nur schwer steuern.

• Es gibt ein Video, das den Hintergrund dieses Problems zeigt → YouTube-Link

  • Ich wollte es ansehen, habe es aber schnell wieder ausgeschaltet, weil mich diese überdrehte YouTube-Sprechweise und Gestik inzwischen zu sehr ermüdet.
    Riesige Mikrofone, übertriebene Gesten und inflationäre Wörter wie „awesome“ oder „insane“, die das ganze Gespräch dominieren, wirken einfach anstrengend.

• Die Aussage „Schon eine Belohnung in Höhe eines schwedischen Mittagessens ist für Menschen in Ländern mit niedrigem Einkommen viel Geld“ klingt nach einer überzogenen Behauptung.
  Ein Mittagessen im Zentrum von Stockholm kostet vielleicht 200 Kronen, und jemand mit solchen Fähigkeiten wird das kaum als viel Geld empfinden.

  • Aus Sicht von Entwicklungsländern kann eine Obergrenze von 10.000 Dollar allerdings mehreren Jahren Mindestlohn entsprechen.
    Die Formulierung mag übertrieben sein, aber der Unterschied ist nicht zu ignorieren.

• Das Bug-Bounty-Programm unseres Unternehmens besteht faktisch nur aus einer Security-E-Mail-Adresse, und trotzdem kommen dort täglich über 100 Spam-Mails an.
  Die meisten sind AI-generierte Fake-Penetrationstestberichte, voller erfundener Schwachstellen und falscher Informationen.
  Ein Vertriebsmitarbeiter wollte sogar ein dreistündiges Meeting dazu ansetzen, obwohl im Bericht nicht existierende IIS-Bugs und unmögliche IP-Adressen standen.
  Da war ich wirklich sprachlos.

• Früher war das Finden von Bugs langsam und mühsam, deshalb brauchte man Anreize; heute ist es schwieriger geworden, die echten Bugs herauszufiltern.
  Über AI-Bug-Hunter gibt es bereits den Witz, sie würden „unter 100 Meldungen 3 echte finden“.

  • Die Suche nach schweren Schwachstellen bleibt trotzdem menschliche Arbeit.
    Schwachstellen in einer Codebasis wie cURL oder Binary Exploits kann AI bisher noch nicht wirklich finden.
  • Letztlich ist der Prozess, echte Bugs zu identifizieren, weiterhin langsam und mühsam.

• Es gibt eine öffentliche Liste mit AI-generierten Müll-Reports für cURL → gist-Link

  • Im zweiten Report hat Daniel noch versucht, höflich in den Dialog zu gehen, aber die andere Seite hat sogar seinen Namen falsch geschrieben.
    Das war im Dezember 2023, und er muss da schon ziemlich erschöpft gewesen sein.
  • Ich habe ein paar davon gelesen, und es ist schwer zu sagen, ob sie von AI oder von Anfängerstudierenden stammen.
    Trotzdem klingt das LLM noch überzeugender.
  • Über den Satz „Ich habe in Bard nach dieser Schwachstelle gesucht“ musste ich lachen.
    Bard als LLM erwähnt zu sehen, wirkte auf seltsame Weise nostalgisch.
  • Es ist völlig offensichtlich, dass all das von AI geschrieben wurde, und gerade deshalb wirkt es fast seltsam, dass das Team überhaupt ernsthaft darauf eingegangen ist.
  • Ehrlich gesagt ist schon das Lesen davon nervtötend.
    Erstaunlich, dass cURL das so lange ausgehalten und darauf reagiert hat.