Source: https://arxiv.org/html/2505.11154v1
Le protocole de contexte de modèle (MCP) standardise l’accès des grands modèles linguistiques (LLM) aux données et outils externes, facilitant ainsi la croissance de l’écosystème des agents LLM. Cependant, une nouvelle menace de sécurité, appelée MPMA (Preference Manipulation Attack), exploite des versions personnalisées de serveurs MCP pour influencer les LLM. Cette attaque, détaillée dans la source, vise à faire préférer un serveur MCP malveillant aux autres, entraînant des gains économiques pour l’attaquant. L’étude présente deux stratégies pour y parvenir : DPMA (Direct Preference Manipulation Attack) qui modifie directement le nom ou la description de l’outil, et GAPMA (Genetic-based Advertising Preference Manipulation Attack) qui utilise des stratégies publicitaires et des algorithmes génétiques pour une manipulation plus discrète. Des expériences approfondies montrent l’efficacité et, dans le cas de GAPMA, la furtivité de ces attaques, soulignant la nécessité urgente de mécanismes de défense robustes pour préserver l’équité de l’écosystème MCP.