Makila AI est une entreprise fondée à Montréal, spécialiste du développement de solutions d’analyse de données et de prédictions basées sur l’intelligence artificielle. Elle a annoncé le 14 octobre dernier un partenariat avec le Groupe SAGE (cabinet conseil présent à Montréal et à l’international) et Manuel Morales, chercheur en mathématiques et statistique de l’Université de Montréal.
Analyser et expliquer le raisonnement des algorithmes
L’objectif de ce projet de recherche, financé par Prompt, est d’analyser et expliquer le raisonnement scientifique des algorithmes d’analyse prédictive des données dans une démarche d’audit des résultats et de respect de la protection des données personnelles.
En d’autres termes, les algorithmes prédictifs manquent encore de transparence et de d’explicabilité, et fonctionnent comme des « boîtes noires » dont il est difficile d’auditer les résultats. En mai dernier, la Commission européenne a d’ailleurs dévoilé sa vision de la prochaine régulation sur l’intelligence artificielle. Elle fait entre autres la distinction entre les algorithmes à risque faible, ceux à risque élevé qui doivent être expliqués et, enfin, ceux, inacceptables, qu’il faut bannir. (détails dans cet article de la scientifique Aurélie Jean, dans Le Point)
Comme le précise Layla Nasr, CEO de Makila AI : « Le processus de validation des résultats des modèles d’apprentissage machine est une étape cruciale, car les décisions basées sur les données peuvent favoriser des biais sociaux qui faussent les prédictions et cela peut engendrer des coûts très élevés. Notre objectif est d’expliquer le raisonnement de ces modèles et détecter les biais potentiels ».
Des explications en langage naturel
Makila AI souhaite en fait développer une solution technologique qui permettra de visualiser et d’expliquer en langage naturel (NLG) les modèles générés en tenant compte du contexte spécifique de l’entreprise. Cette solution permettra au client de disposer d’une interprétation des résultats en identifiant avec précision et en temps réel, les variables de données qui ont influencé le résultat et l’effet cumulatif de différents facteurs sur celui-ci.
D’après Manuel Morales, Professeur agrégé et chercheur à l’Université de Montréal, ces recherches exploreront des questions d’explicabilité des modèles d’apprentissage machine dans le domaine de la finance et des ressources humaines. Le Groupe SAGE validera ces travaux auprès de ses clients et aidera ses partenaires à développer le rationnel derrière les modèles.
