Une IA transparente pour vérifier l’information

Désormais accessible au public, l’outil d’IA Veracity, mis au point par l’équipe du chercheur IVADO Jean-François Godbout, évalue la fiabilité d’une affirmation en exposant ses sources et son raisonnement. Le Sénat canadien l’a intégré à ses ressources internes.

Un titre, un extrait ou une affirmation suffit. L’utilisateur soumet le contenu à Veracity, qui en évalue la fiabilité, explique son analyse en langage courant et présente les sources consultées.

Cette transparence distingue l’outil de plusieurs systèmes d’intelligence artificielle qui livrent une réponse sans toujours indiquer clairement comment ils y sont arrivés. Conçu par une équipe codirigée par Jean-François Godbout, professeur au Département de science politique de l’Université de Montréal, Veracity vise ainsi à soutenir la vérification de l’information plutôt qu’à demander aux utilisateurs de lui faire confiance. 

Mis au point dans le cadre des travaux du Regroupement de recherche IVADO sur la mise en œuvre et la gouvernance responsable de l’IA, l’outil a déjà obtenu une première reconnaissance institutionnelle. En mai 2026, le Sénat canadien l’a ajouté aux ressources mises à la disposition des sénateurs, des sénatrices et de leur personnel pour évaluer la fiabilité des affirmations qui leur sont soumises. 

Un outil qui montre sa démarche 

Lorsqu’un contenu lui est soumis, Veracity interroge d’abord la mémoire paramétrique de son modèle, soit les connaissances acquises pendant son entraînement. Il consulte ensuite des sources externes, auxquelles il attribue un poids selon leur crédibilité. Les grands médias et les agences de presse, par exemple, obtiennent une meilleure évaluation qu’un site peu connu.

Au terme de cette démarche, l’outil produit un score de 0 à 100 %, une explication et la liste des sources consultées.  

Veracity évite toutefois de déclarer qu’un énoncé est « complètement faux ». Il indique plutôt que l’information n’a pu être vérifiée, que les sources disponibles sont peu fiables ou que l’affirmation est probablement inexacte. 

« On a vraiment voulu pondérer le langage pour pas être trop écrasant, parce qu’on veut encourager les gens à aller vérifier l’information eux-mêmes », explique Jean-François Godbout, également chercheur à IVADO et membre académique associé de Mila. 

Cette prudence fait partie intégrante de l’approche retenue. « Quand on demande à Claude ou à ChatGPT de vérifier des faits, on ne sait pas trop quelles sources ont été consultées », souligne le professeur. Avec Veracity, les sources sont affichées, leur degré de crédibilité est expliqué et l’évaluation est justifiée. L’utilisateur peut donc examiner lui-même les éléments sur lesquels repose le résultat. 

Ce choix s’appuie aussi sur les recherches de Jean-François Godbout, selon lesquelles les modèles de langage peuvent contribuer à corriger des croyances erronées en maintenant un ton patient et factuel. « Si vous discutez avec un ami, cette personne peut s’énerver », illustre-t-il. Le modèle, lui, peut présenter les faits de manière cohérente sans se laisser emporter. 

Présenté par ses concepteurs comme un système à code source ouvert, Veracity peut également servir de point de départ à d’autres équipes qui souhaitent élaborer des outils semblables pour différents contextes électoraux ou linguistiques. 

Une transparence qui a ses propres limites 

L’équipe ne prétend pas avoir éliminé tous les angles morts. Veracity repose sur Llama 3.3, un modèle de langage développé par Meta. Les chercheurs ne l’ont pas créé. Ils l’ont adapté et guidé à l’aide d’une séquence d’instructions sur la manière d’évaluer les sources et les énoncés. 

« On n’a pas de contrôle sur le modèle en soi parce que c’est un modèle américain », reconnaît Jean-François Godbout. 

Lors d’une démonstration, Reddit est apparu parmi les sources consultées, ce qui a surpris le chercheur lui-même. Les limites sont encore plus visibles en français. Comme les sources francophones sont moins nombreuses ou moins bien indexées, Wikipédia s’est retrouvé en tête des résultats pour un énoncé auquel l’outil avait attribué une fiabilité de 0 %. 

« En français, il y a moins de sources qu’en anglais », constate le professeur. Il y voit une limite structurelle plutôt qu’un problème de fonctionnement. 

Les résultats peuvent aussi varier légèrement lorsqu’un même énoncé est soumis plusieurs fois. L’outil éprouve également des difficultés avec les questions qui exigent un contexte temporel précis lorsque celui-ci n’est pas indiqué. 

La cote de crédibilité attribuée aux sources demeure par ailleurs fixe et repose sur des recherches antérieures. L’équipe travaille à la rendre dynamique afin qu’elle puisse évoluer en fonction des contenus publiés et des réseaux de références entre les sites. 

Ces limites alimentent la volonté des chercheurs de réduire progressivement leur dépendance à un modèle américain qu’ils ne contrôlent pas. Elles montrent aussi pourquoi Veracity présente son analyse comme une évaluation à examiner plutôt que comme un verdict définitif.

Le Québec n’est pas à l’abri 

Les travaux menés par Jean-François Godbout et son équipe remettent en question l’idée selon laquelle la spécificité linguistique et culturelle du Québec le protégerait en partie contre la désinformation. 

Dans le cadre de sa maîtrise en science politique à l’UdeM, Camille Thibault a analysé sous sa direction un vaste corpus de messages politiques publiés sur Twitter. Les résultats indiquent que la désinformation constitue également un enjeu au Québec.

Source : travaux de Camille Thibault, sous la direction de Jean-François Godbout, Université de Montréal, maîtrise en science politique — campagne électorale québécoise de 2022. 

Jean-François Godbout demeure prudent quant à leur portée. « Qu’un faux contenu soit publié ne signifie pas qu’il a été largement vu, encore moins qu’il a modifié le comportement d’un seul électeur », rappelle-t-il. 

Ces recherches fournissent néanmoins des données susceptibles d’éclairer les initiatives visant à protéger le débat démocratique. La Loi modifiant la Loi électorale principalement afin de préserver l’intégrité du processus électoral, sanctionnée au Québec le 30 mai 2025, crée notamment une infraction liée à la diffusion volontaire de certaines informations fausses dans le but d’influencer une élection ou d’en perturber le déroulement.

Une première reconnaissance institutionnelle 

L’intégration de Veracity aux ressources internes du Sénat canadien a suivi une présentation de Jean-François Godbout devant le Canadian Study of Parliament Group, en avril. Le Bureau de la légiste et conseillère parlementaire du Sénat a ensuite retenu l’outil pour aider les parlementaires et leur personnel à examiner certaines affirmations. 

Cette reconnaissance ne dissipe pas les inquiétudes du chercheur. Ce qu’il redoute n’est pas seulement la circulation d’informations erronées, mais l’effritement progressif de la confiance envers l’information et, à plus long terme, envers les institutions. 

« Si on entre dans un environnement où l’on n’est jamais sûrs de la qualité de l’information, ça va affecter la résilience de nos institutions démocratiques », prévient Jean-François Godbout. 

Veracity ne prétend pas résoudre ce problème à lui seul. Il propose plutôt une manière de s’y attaquer, une vérification à la fois, en rendant sa démarche visible.