2^e atelier : Déploiement d’agents autonomes : leçons, risques et impact dans le monde réel

Alors que les agents autonomes passent du stade de prototypes de recherche à celui d’applications réelles, les défis du déploiement prennent le devant de la scène. Cet atelier se concentre sur les dimensions pratiques de la construction, de la mise à l’échelle et de la maintenance des systèmes basés sur des agents dans divers domaines. Les sujets abordés incluront les flux de déploiement, l’intégration avec l’infrastructure logicielle existante, l’interaction humain-agent et les leçons tirées des premiers utilisateurs de l’industrie.

Nous examinerons également l’impact social et organisationnel du déploiement d’agents dans la nature – des défis de sécurité et d’alignement à la facilité d’utilisation et aux cadres d’évaluation. Grâce aux contributions de chercheurs universitaires et de praticiens de l’industrie, cet atelier vise à dresser la carte des frontières actuelles du déploiement d’agents, en mettant en lumière les principales réussites, les points problématiques non résolus et les meilleures pratiques émergentes. Alors que 2025 s’annonce comme « l’année des agents », ce rassemblement offre une occasion opportune de réfléchir à ce qui fonctionne, à ce qui ne fonctionne pas et à ce qui se profile à l’horizon.

Jacob Andreas (MIT), Max Bartolo (Google DeepMind), Yonathan Belinkov (Technion – Israel Institute of Technology), Aaron Courville (IVADO, Université de Montréal, Mila),Verna Dankers (Mila, Mcgill University), Nouha Dziri (Allen Institute for AI (AI2)), Gauthier Gidel (IVADO, Université de Montréal, Mila), Seraphina Goldfarb-Tarrant (Cohere), Peter Henderson (Princeton University), Helen Nissenbaum (Cornell Tech), Vinodkumar Prabhakaran (Google), Siva Reddy (IVADO, McGill Univeristy, Mila), Jieyu Zhao (University of Southern California).

LUNDI 17 NOVEMBRE 2025

9h30 – 9h50 : Accueil et inscriptions

9h50 – 10h : Mots de bienvenue

10h – 10h45 : Evaluating System-Level Reasoning in LLM Agents
Jacob Andreas (MIT)

10h45 – 11h30 : Don’t Forget the User: Balancing the Scales in Agentic Training and Evaluation
Seraphina Goldfarb-Tarrant (Cohere)

11h30 – 12h : Recap. Discussion Public/Conférenciers(ères)

12h – 13h45 : Lunch non fourni

13h45 – 14h30 : Memorization: Myth or Mystery?
Verna Dankers (Mila, McGill University)

14h30 – 15h15 : : Towards Scalable and Actionable Interpretability
Yonatan Belinkov (Technion – Israel Institute of Technology)

15h15 – 15h45 : Recap. Discussion Audience/ G. Speakers

15h45 – 17h : 5 à 7 Réseautage

MARDI 18 NOVEMBRE 2025

9h30 – 10h: Accueil et café

10h – 10h45 : Building Better Rules and Optimization Targets for AI Agents
Peter Henderson (Princeton University)

10h45 – 11h30 : Reality is Adversarial: Towards Robust Real-World Agents
Max Bartolo (Google DeepMind)

11h30 – 12h : Recap. Discussion Public/Conférenciers(ères)

12h – 13h45 : Lunch non fourni

13h45 – 14h30 : AI for the World of Many: Pluralism as a Core Principle
Vinodkumar Prabhakaran (Google)

14h30 – 15h15 : Human Extinction is Not the Worst that Could Happen
Helen Nissenbaum (Cornell Tech)

15h15 – 15h45 : Pause café

15h45 – 17h15 : Panel : AI Agents: Slop or Substance?
Max Bartolo (Google DeepMind), Jacob Andreas (MIT), Vinodkumar Prabhakaran (Google), Helen Nissenbaum (Cornell Tech) & Peter Henderson (Princeton University), 

MERCREDI 19 NOVEMBRE 205

9h30 – 10h: Accueil et café

10h – 10h45 : Cooperation and Collusion of Artificial Agents
Gauthier Gidel (IVADO, Université de Montréal, Mila)

10h45 – 11h30 : LLM to Agent Safety: Emerging Societal and Technical Risks
Nouha Dziri (Allen Institute for AI (AI2))

11h30 – 12h : Recap. Discussion Public/Conférenciers(ères)

12h – 13h45 : Lunch non fourni

13h45 – 14h30 : Value Drifts: Tracing Value Alignment During LLM Post-Training
Siva Reddy (IVADO, McGill University, Mila)

14h30 – 15h15 : Titre à venir
Aaron Courville (IVADO, Université de Montréal, Mila)

15h15 – 15h45 : Pause café

15h45 – 16.30: Building Personalized AI Assistants: From Task Execution to Human Alignment
Jieyu Zhao (University of Southern California)

4.30 – 4.50 p.m.: Recap. Discussion Public/Conférenciers(ères)

4.50 – 5 p.m.: Récapitulatif du semestre et mots de clôture