1^er atelier : Évaluer et améliorer les capacités et la sécurité des agents

Cet atelier réunit deux éléments essentiels du développement des agents autonomes : leurs capacités croissantes et l’impératif d’assurer leur déploiement sûr et harmonisé. Alors que les agents deviennent de plus en plus capables de raisonner à long terme, d’avoir un comportement orienté vers un but et de prendre des décisions autonomes, comprendre comment mesurer et étendre ces capacités reste un défi central pour la recherche. Dans le même temps, ces progrès soulèvent des questions urgentes sur la robustesse, le désalignement, l’atténuation des risques et les comportements imprévus.

L’atelier explorera les goulets d’étranglement actuels dans le développement d’agents – y compris le défi de la collecte de données agentiques significatives (via l’interaction humaine ou la génération synthétique) et la garantie d’une généralisation sans effondrement de mode – ainsi que les approches de pointe pour construire des agents qui sont sûrs par conception. En réunissant des chercheurs travaillant à la fois sur les capacités et la sécurité des agents, cet atelier vise à favoriser la pollinisation croisée entre les communautés et à développer un programme de recherche commun pour la prochaine génération de systèmes autonomes.

Aishwarya Agrawal (Université de Montréal), Prithviraj “Raj” Ammanabrolu (UCSD), Andrea Bajcsy (Carnegie Mellon University), Yoshua Bengio (IVADO, Université de Montréal, Mila), Yonathan Bisk (CMU), Joyce Chai (University of Michigan), Alexandre Drouin (ServiceNow & Université Laval), Krishanmurthy « DJ » Dvijotham (ServiceNow), Daniel Fried (Carnegie Mellon University), Zhijing Jin (University of Toronto), Mirella Lapata (The University of Edinburgh), Bo Li (UIUC), Graham Neubig (Carnegie Mellon University), Ofir Press (Princeton University), Siva Reddy (IVADO, McGill University, Mila), Abhik Roychoudhury (National University of Singapore), Ruslan “Russ” Salakhutdinov (Carnegie Mellon University), Dawn Song  (UC Berkeley), Yu Su (The Ohio State University), Alane Suhr (UC Berkeley), Huan Sun (The Ohio State University), Ivan Titov (University of Edinburgh), Xin Eric Wang (UCSB, Simular), Tao Yu (University of Hong Kong), Victor Zhong (University of Waterloo, Vector Institute).

D’autres noms à venir.