Forum Industriel de l'Intelligence Artificielle

Forum Industriel de l’IA : la Chaire présente ses travaux sur la fiabilité des modèles de langage

Le 28 janvier 2025, l’Association Française pour l’Intelligence Artificielle (AFIA) organisait la neuvième édition de son Forum Industriel de l’IA (FIIA) à Paris, sur le thème « IA responsable et maîtrise des risques ». Cette journée a réuni des chercheurs académiques, des industriels et des représentants institutionnels pour échanger sur les grands défis posés par les nouveaux systèmes d'IA et les méthodes permettant de garantir leur bon usage dans des environnements sensibles.

Le Crédit Agricole y a pris part activement, via le DataLab Groupe et la Chaire « IA de confiance et responsable » portée avec l’École Polytechnique. Sonia Vanier, professeure à l’X et porteuse de la Chaire, a présenté les activités de recherche de l’équipe Orailix, ainsi que les enjeux de formation associés, notamment à travers le lancement du nouveau Master of Science and Technology (MScT) « Trustworthy and Responsible AI ». Cette intervention a permis de souligner l’importance d’un dialogue étroit entre recherche académique, ingénierie et régulation dans un contexte d’adoption rapide des technologies d’IA.

Jérémie Dentan, doctorant au sein de l’équipe, a quant à lui présenté les travaux menés au sein de la Chaire sur la prédiction des risques de mémorisation non désirée dans les LLM. Ces recherches visent à détecter les données vulnérables au sein de l'ensemble d'entraînement d'un modèle, afin de prévenir la fuite d'information sensible via les réponses de modèles déployés en production.

La journée a également été l’occasion d’échanger avec d’autres acteurs engagés dans le développement d’une IA plus sûre et maîtrisée en entreprise. En permettant ces discussions croisées entre recherche et industrie, le FIIA contribue pleinement aux objectifs portés par la Chaire : renforcer la fiabilité des systèmes d’IA, tout en formant une nouvelle génération d’experts capables de naviguer entre exigences techniques, contraintes réglementaires et enjeux éthiques.