À ALL IN Montréal, Hugo Larochelle, directeur scientifique de Mila, revient sur les récents incidents qui ont ravivé les inquiétudes entourant la sécurité des systèmes d’intelligence artificielle. Il voit notamment dans l’arrivée possible d’évaluateurs indépendants au sein des grands laboratoires une étape importante vers de nouvelles normes de surveillance et de transparence. Il présente également plusieurs priorités de recherche de Mila : sécurité de l’IA, systèmes multi-agents, apprentissage continu, IA pour la découverte scientifique, robotique et intégrité de l’information. L’institut travaille aussi avec Mozilla à développer un écosystème ouvert pour l’IA agentique, avec l’ambition de proposer des outils accessibles et moins dépendants des plateformes propriétaires. Pour Hugo Larochelle, la prochaine étape sera surtout de créer les mécanismes permettant de surveiller les agents autonomes, d’évaluer les organisations qui développent ces technologies et, ultimement, de bâtir la confiance nécessaire à leur adoption.
Podcast
Mon Carnet, l'actu numérique