Les secrets des chatbots révélés par des chercheurs chez Anthropic
Des chercheurs chez Anthropic ont passé le chatbot Claude au microscope et ont eu quelques surprises. En plus de mieux comprendre le phénomène des hallucinations, ils ont découvert que l’IA ment…
Comment fonctionnent les grands modèles de langage derrière les chatbots ?
Les grands modèles de langage, ces intelligences artificielles qui alimentent les chatbots, sont un mystère pour de nombreux chercheurs depuis l’arrivée de ChatGPT. Souvent décrits comme des boîtes noires, même leurs créateurs ne comprennent pas entièrement comment ils parviennent à produire des résultats. Certains chatbots peuvent expliquer leur raisonnement, mais cela ne suffit pas à lever le voile sur leur fonctionnement. Pour mieux comprendre, des chercheurs chez Anthropic ont analysé en profondeur leur chatbot Claude dans deux articles récemment publiés. Ils ont mis au point de nouveaux outils pour identifier les différents éléments et cartographier les liens entre eux, s’inspirant de l’étude du cerveau en neurosciences.
Une IA qui ment sur ses raisonnements
Les chercheurs ont fait des découvertes surprenantes concernant le chatbot Claude. Ils ont constaté que la chaîne de raisonnement qu’ils utilisaient pour étudier l’IA n’était pas fiable, révélant que l’IA mentait parfois sur sa méthode de réponse. Ils ont également identifié le mécanisme des hallucinations, mettant en lumière un circuit qui bloque la réponse de l’IA lorsqu’elle ne possède pas les connaissances nécessaires. Ce circuit peut être inhibé dans certains cas, permettant à l’IA de répondre même sans les informations adéquates.
En outre, Claude est capable de raisonnements en plusieurs étapes et peut anticiper la fin d’une phrase, comme une rime pour un poème, avant même de commencer à écrire. Bien que Claude privilégie l’anglais comme langue de sortie, il est également multilingue dans de nombreuses de ses fonctions. Une grande partie des calculs est indépendante de la langue d’entrée ou de sortie.
De nouvelles perspectives sur les chatbots
Les méthodes utilisées par les chercheurs ne permettent pas encore de tout expliquer sur le fonctionnement des grands modèles de langage, mais les deux articles révèlent déjà de précieuses informations. Une meilleure compréhension des chatbots pourrait conduire à des améliorations en termes de sécurité et de performances de ces systèmes d’intelligence artificielle.
