Tool Misuse

Angreifer manipulieren einen Agenten über täuschende Prompts dazu, seine bereits gewährten Tools zu missbrauchen, indem sie ansonsten legitime Tool-Aufrufe zu einer nicht autorisierten Sequenz verketten — innerhalb… Im Multi-Agenten-System: Ein Angreifer bringt einen Kundenservice-Agenten dazu, dessen eigene Tools zum Nachschlagen von Datensätzen und zum E-Mail-Versand zu verketten, um hochwertige Kundendaten zu extrahieren und zu exfiltrieren — ohne dass der Agent je seinen gewährten Tool-Umfang überschreitet.