MCP-Sicherheitslücke: Tool-Poison-Attacke
(blackcon.github.io)-
MCP (Model Context Protocol) ist ein JSON-RPC-basiertes Protokoll, das AI mit externen Systemen verbindet, und wird in letzter Zeit in verschiedenen Hosts (Clients) eingesetzt.
-
Die kürzlich entdeckte Tool Poison Attack ist eine Schwachstelle, bei der bösartige Prompts in die Tool-Beschreibung eines MCP-Servers eingeschleust werden, um das Verhalten der AI zu vergiften.
-
Nutzer sollten den Einsatz nicht verifizierter Server vermeiden, und MCP-Entwickler müssen die Transparenz und Integrität von Tool-Beschreibungen stärken, um darauf reagieren zu können.
1 Kommentare
Es scheint eine ziemlich große Attack Surface zu geben..