Source : https://arxiv.org/abs/2506.05346
Cette source examine la fragilité des mécanismes de sécurité des grands modèles linguistiques (LLM), en particulier après un réglage fin (fine-tuning). Le document soutient que les stratégies d’atténuation actuelles ne parviennent pas à aborder un facteur crucial en amont : le rôle des données d’alignement de sécurité originales. Les auteurs explorent comment la similarité entre les ensembles de données d’alignement initiaux et les tâches de réglage fin affecte l’efficacité des garde-fous de sécurité. Ils ont découvert qu’une grande similarité entre ces jeux de données affaiblit considérablement les protections, rendant les modèles plus vulnérables aux attaques par “jailbreak”, tandis qu’une faible similarité rend les modèles plus robustes. Ces résultats soulignent l’importance de la conception des jeux de données en amont pour construire des mécanismes de sécurité durables.