Cet atelier réunit deux éléments essentiels du développement des agents autonomes : leurs capacités croissantes et l’impératif d’assurer leur déploiement sûr et harmonisé. Alors que les agents deviennent de plus en plus capables de raisonner à long terme, d’avoir un comportement orienté vers un but et de prendre des décisions autonomes, comprendre comment mesurer et étendre ces capacités reste un défi central pour la recherche. Dans le même temps, ces progrès soulèvent des questions urgentes sur la robustesse, le désalignement, l’atténuation des risques et les comportements imprévus.
L’atelier explorera les goulets d’étranglement actuels dans le développement d’agents – y compris le défi de la collecte de données agentiques significatives (via l’interaction humaine ou la génération synthétique) et la garantie d’une généralisation sans effondrement de mode – ainsi que les approches de pointe pour construire des agents qui sont sûrs par conception. En réunissant des chercheurs travaillant à la fois sur les capacités et la sécurité des agents, cet atelier vise à favoriser la pollinisation croisée entre les communautés et à développer un programme de recherche commun pour la prochaine génération de systèmes autonomes.
