Les agents LLM autonomes : risques et défis scientifiques
Introduction
Les inscriptions sont ouvertes! Ce semestre thématique se déroulera à Berkeley, en Californie. Nous encourageons les chercheuses et chercheurs canadiens intéressés à participer à ces ateliers (virtuellement ou en personne) pour établir des collaborations et participer à ces discussions déterminantes. Un nombre limité de bourses de voyage est disponible, faites votre demande de financement dès que possible.
À l’heure où les grands modèles de langage transforment déjà notre quotidien, une nouvelle révolution est en marche dans les laboratoires de recherche et le monde industriel : celle des agents autonomes. IVADO, pôle d’excellence en IA, organise un semestre thématique consacré à cette technologie émergente qui soulève autant d’espoirs que de questions.
D’août à décembre 2025, le campus de l’Université de Montréal deviendra l’épicentre mondial de la réflexion sur ces entités artificielles capables de nous représenter, d’agir de manière indépendante dans le monde et de réaliser des tâches complexes. Une évolution majeure dont les implications dépassent largement le cadre technologique au vu de leurs impacts potentiels sur la société.
Si les grands modèles de langage ont déjà démontré des capacités impressionnantes dans la génération de texte ou de code, le passage à l’autonomie représente un saut qualitatif considérable. Les agents autonomes émergents, créés avec des outils comme Operator et Claude, peuvent aujourd’hui accomplir diverses tâches en ligne : faire des achats, publier sur les réseaux sociaux et utiliser différentes applications (calendrier, email, services bancaires). Ces capacités montrent leur potentiel d’action autonome, tant dans les environnements numériques que physiques. Face aux nombreux défis techniques qui restent à maîtriser, il devient essentiel d’anticiper et de relever les enjeux techniques, éthiques, économiques et sociétaux que soulèvent ces nouvelles technologies.
- Comment créer des agents capables d’opérer dans des environnements complexes sans supervision humaine constante ?
- Comment garantir leur fiabilité et leur sécurité ?
Ce semestre thématique rassemblera chercheuses et chercheurs de disciplines autrefois cloisonnées – traitement du langage naturel, vision par ordinateur, robotique, éthique – désormais appelées à collaborer étroitement face à ce défi scientifique majeur.
- Événement d’ouverture (11 août 2025)
- Bootcamp : État actuel des agents (12 au 15 août)
- 1er atelier : Évaluation des capacités et des obstacles de la recherche sur les agents (13 au 17 octobre 2025)
- 2e atelier : Évaluation de la sécurité, atténuation des risques et création d’agents sûrs (24 au 28 novembre 2025)
Coorganisation scientifique

IVADO
McGill
Mila
Siva Reddy est professeur adjoint à l’École d’informatique et de linguistique de l’Université McGill, titulaire d’une chaire CIFAR d’IA au Canada, membre du corps professoral de l’Institut d’IA Mila Québec et chercheur à ServiceNow Research. Il codirige le McGill NLP Group. Auparavant, il a été chercheur postdoctoral à l’université de Stanford et titulaire d’une bourse de doctorat Google à l’université d’Édimbourg. Ses recherches portent sur l’apprentissage de la représentation du langage et plus particulièrement sur le raisonnement, l’ancrage, la modélisation conversationnelle et la sécurité.

Ohio State University
Yu Su est professeur assistant distingué d’informatique et d’ingénierie à l’Ohio State University, où il codirige le groupe NLP. Il s’intéresse de près à l’intelligence artificielle, et plus particulièrement au rôle du langage en tant que vecteur de raisonnement et de communication. Ses travaux récents couvrent de nombreuses facettes des agents d’intelligence artificielle, notamment la mémoire, la planification, la mise à la terre et la sécurité. Il est titulaire d’une bourse de recherche Sloan 2025 et a reçu plusieurs prix pour ses articles de la CVPR et de l’ACL.

UC Berkeley
Alane Suhr est professeur adjoint d’informatique à l’université de Berkeley, affiliée au laboratoire de recherche en IA de Berkeley (BAIR). Les recherches d’Alane portent sur l’utilisation et l’apprentissage du langage dans les interactions, en particulier les interactions situées et collaboratives, les agents qui utilisent le langage et les systèmes agentiques conditionnés par le langage, et l’ancrage du langage dans la perception et l’action.

University of Waterloo
Vector
Victor Zhong est professeur adjoint à la David R. Cheriton School of Computer Science de l’Université de Waterloo, et titulaire d’une chaire CIFAR d’IA au Canada à l’Institut Vecteur. Ses recherches portent sur des méthodes efficaces d’apprentissage automatique qui interprètent le langage pour le généraliser à de nouveaux problèmes. Son groupe, le Reading to Learn Lab, travaille sur les agents linguistiques ancrés, l’adaptation au temps de test et l’apprentissage à partir du retour d’information linguistique. Victor est titulaire d’un doctorat en informatique de l’université de Washington, d’une maîtrise en informatique de l’université de Stanford et d’une licence en ingénierie informatique de l’université de Toronto.

IVADO
Université de Montréal
Mila
Yoshua Bengio est professeur titulaire au Département d’informatique et de recherche opérationnelle de l’Université de Montréal, ainsi que conseiller spécial et directeur scientifique fondateur d’IVADO et conseiller scientifique et fondateur de Mila . Il est titulaire d’une chaire d’IA du CIFAR Canada et a reçu le prix A.M. Turing 2018, considéré comme le « prix Nobel de l’informatique ».
Il est membre de la Royal Society du Royaume-Uni et de la Société royale du Canada, officier de l’Ordre du Canada, chevalier de la Légion d’honneur de France et membre du Conseil consultatif scientifique des Nations unies chargé de fournir des avis indépendants sur les percées scientifiques et technologiques.

UC Berkeley
Dawn Song est professeur d’informatique à l’UC Berkeley et codirectrice du Berkeley Center for Responsible Decentralized Intelligence. Ses recherches portent sur l’IA et l’apprentissage profond, la sécurité et la protection de la vie privée, et la technologie de décentralisation. Elle a reçu plusieurs prix, notamment la bourse MacArthur, la bourse Guggenheim, le prix CAREER de la NSF, la bourse de recherche Alfred P. Sloan, le prix TR-35 de la MIT Technology Review, le prix de l’innovation exceptionnelle de l’ACM SIGSAC et plus de 10 prix Test-of-Time et prix du meilleur article décernés lors de conférences de premier plan sur la sécurité informatique et l’apprentissage profond. Elle a été reconnue comme l’universitaire le plus influent (AMiner Award), car elle est l’universitaire la plus citée dans le domaine de la sécurité informatique. Elle est membre de l’ACM et de l’IEEE. Elle a obtenu son doctorat à l’université de Berkeley. Elle est également une entrepreneuse en série et a été nommée sur la liste des 100 fondatrices par Inc. et sur la liste des innovateurs de Wired25.

IVADO
Polytechnique Montréal
Université de Montréal
Mila
Chris Pal est un expert de renommée mondiale dans le domaine de l’apprentissage profond, de l’apprentissage automatique probabiliste et de l’IA appliquée. Il a reçu à deux reprises (en 2017 et en 2009) le prix Google focused faculty Research Award. Il apporte à l’équipe une expertise multidisciplinaire unique grâce à son solide bagage théorique (DL, modèles graphiques, causalité, etc.) ainsi qu’à son expertise clé en traitement du langage naturel et en vision par ordinateur appliquée à un large éventail de domaines d’application (imagerie médicale dans les soins de santé, imagerie satellite pour la biodiversité et le changement climatique, conduite autonome dans le domaine des transports).
Ateliers
Bootcamp : État actuel des agents - 12 au 15 août 2025



1er atelier : Évaluation des capacités et des obstacles de la recherche sur les agents - 3 au 6 octobre 2025




2e atelier : Évaluation de la sécurité, atténuation des risques et création d'agents sûrs - 17 au 21 novembre 2025



Inscription
Veuillez remplir le formulaire ci-dessous pour obtenir très prochainement des informations détaillées sur les ateliers et les frais d’inscription.
"(Nécessaire)" indique les champs obligatoires
Logements
Afin de vous aider dans l’organisation de votre voyage, nous avons mis à votre disposition une liste d’hôtels et de résidences qui pourraient vous intéresser.
Nous vous recommandons également de consulter le site https://www.mtl.org/fr pour découvrir les divertissements, événements, logements, et autres informations utiles.
Hôtels et Résidences
Le Square Phillips Hôtel & Suites
1193, Place Phillips
Montréal, QC, H3B 3C9
Téléphone : +1 866-393-1193
info@squarephillips.com
Pour obtenir les tarifs préférentiels d’IVADO, informez l’hôtelier lors de la réservation.
Terrasse Royale
5225, Côte-des-Neiges
Montréal, QC, H3T 1Y1
Téléphone : 514 739-6391
info@terrasse-royale.com
Residence Inn Marriott Montreal Midtown
6785, boulevard Décarie
Montréal, QC, H3W 3E3
Téléphone: 514-303-8888 / 1-888-303-8881
Courtyard Montreal Downtown
380 boul. René-Lévesque Ouest,
Montréal, QC, H2Z 0A6
Téléphone : 1 514-398-9999 / 1 800 678-6323
Residence Inn Montreal Downtown
2045 rue Peel
Montréal, QC, H3A 1T6
Téléphone : 514 982-6064
Château Versailles
1659, rue Sherbrooke Ouest
Montréal, QC, H3H 1E5
Téléphone : 514 933-3611 / 1 888 933-8111
info@versailleshotels.com
La Maison McKenna
5301, rue Mckenna
Montréal, QC, H3T 1T9
Téléphone : 514 738-2053
info@maisonmckenna.ca
Hôtel SENS
1808, rue Sherbrooke Ouest
Montréal, QC, H3H 1E5
Téléphone : 514 933-8111 / 1 888 933-8111
reservations@sensmtlversailles.com
Hôtel Château de l’Argoat
524, rue Sherbrooke Est
Montréal, QC, H2L 1K1
Téléphone : 514 842-2046
chateauargoat@videotron.ca
Le Nouvel Hôtel
1740 boul. René-Lévesque Ouest
Montréal, QC, H3H 1R3
Téléphone : 514 931-8841 / 1 800 363-6063
info@lenouvelhotel.com
Autres suggestions