#106 – GovLLM, outil open source pour orienter et contrôler les IA avec Jehanne Dussert

🎙️ Parlez-moi d’IA n°106, GovLLM, outil open source pour orienter et contrôler les IA avec Jehanne Dussert 🤖⤵⤵⤵ ⛓️ L’actualité interroge notre capacité à contrôler les IA. Celles-ci “s'échappent” et attaquent des services pour asservir leurs capacités et s’en servir pour atteindre les objectifs qu’un mauvais prompt leur aurait assigné. Mais qui gouverne tout ça ! ⚡Alexia Toulmet reçoit Jehanne Dussert, qui s’est confrontée à ces grandes questions de fixation des règles aux SIA. Jehanne ne s’est pas arrêtée à l’écriture d’une doctrine, elle a voulu s’assurer de sa vérification et de sa mise en oeuvre par les SIA. Elle a donc développé un outil Open Source de contrôle des IA : GovLLM. Découvrez ou précisez de nombreuses notions dans cette émission : 1. Un parcours entre droit et informatique 2. Élaborer une doctrine d’usage de l’IA dans une administration 3. Passer de la règle écrite à une gouvernance opérationnelle 4. GovLLM : évaluer la conformité des modèles d’IA 5. La « fiction de conformité » des organisations 6. Le panel de juges et le principe du « LLM as a Judge » 7. Mise en quarantaine et sélection automatique du meilleur modèle 8. Vers une gouvernance dynamique et « by design » 9. La reconnaissance du projet par les institutions 🚀 Un épisode passionnant pour découvrir GovLLM, un outil Open Source à inclure d’urgence au coeur de sa plate-forme IA pour utiliser le bon modèle, contrôler son comportement et améliorer ses résultats. 🔔 Cet émission vous a plu, dites le nous en commentaire, nous avons besoin de vos retours. Vous appréciez notre émission : Likez cette émission sur les réseaux 👍, abonnez-vous à notre podcast sur toutes les bonnes plateformes et notez 5* et commentez sur Apple Podcast et Spotify pour nous aider à nous faire connaître 🚀🎉 En faisant ces petits gestes, vous avez un impact majeur sur notre diffusion. Merci ! A l'oreille Animation, réalisation et montage final : JPC / Direction d’antenne et mise en ligne : Olivier Grieco. Voix d'Eliza : Lisa Bretzner 😉 Ressources citées dans l’émission [Dossier] Intelligence artificielle et services publics : quelle doctrine d'usage ? L’émission est disponible chez les diffuseurs suivants Youtube, Spotify, Deezer, Apple Podcasts , Pocket Casts, PodcastAddict Transcriptions de Libre à lire Aidez-nous à améliorer cette émission en répondant au questionnaire des auditeurs Retrouvons-nous sur la chaîne whatApps de Parlez-moi d’IA pour partager des infos complémentaires et poser des questions. Suivez-nous sur LinkedIn Abonnez-vous à notre newsletter hebdo