Data and Model Poisoning

Trainings-, Fine-Tuning- oder Embedding-Daten werden korrumpiert — absichtlich oder über eine kompromittierte Quelle —, sodass die Ausgaben des Modells oder ein Retrieval-Index auf eine vom Angreifer kontrollierte… Im Multi-Agenten-System: Ein Angreifer platziert in einer von mehreren Agenten geteilten Wissensdatenbank ein subtil verfälschtes Richtliniendokument, sodass jeder Agent, der daraus abruft, dieselbe falsche Antwort übernimmt.