No transcript available for this episode.
Source : https://arxiv.org/abs/2506.12152
La source principale, un article de recherche de Been Kim et al., présente le concept d’« interprétabilité agentique » pour les grands modèles linguistiques (LLM). Elle propose une nouvelle approche où les LLM conversent de manière interactive avec les utilisateurs pour faciliter la compréhension humaine de leurs concepts. Contrairement aux méthodes d’inspection traditionnelles, cette approche utilise le LLM comme un enseignant coopératif pour aider les humains à construire de meilleurs modèles mentaux des machines. Bien que cela puisse compromettre l’exhaustivité au profit de l’interactivité, l’objectif est de permettre aux humains d’apprendre des concepts potentiellement surhumains des LLM, à mesure que ces modèles atteignent une parité humaine dans de nombreuses tâches. L’article aborde également les défis d’évaluation liés à la nature « humaine intriquée dans la boucle » de cette méthode.