Stage explicabilité de l'IA F/H

L'entreprise

KEREVAL, laboratoire d’ingénierie de tests logiciels, est une référence française incontestable de la qualité logicielle.

Depuis 2002, KEREVAL accompagne ses clients face aux enjeux actuels : l’entreprise numérique, la dématérialisation des échanges, l’interopérabilité des systèmes, l’automatisation des tests dans des démarches d’intégration continue et de DevOps… KEREVAL prépare également des solutions innovantes face aux enjeux du futur grâce à ses activités de R&D dans des domaines tels que la sécurité du contrôle aérien ou les véhicules autonomes.

Kereval participe à de nombreux projets de recherche et développement en Intelligence Artificielle avec des partenaires académiques et industriels. Nous nous intéressons particulièrement au lien entre l’IA et la cybersécurité.

Description du poste

Ayant démontré leur efficacité pour de nombreuses tâches complexes, les algorithmes de Machine Learning sont de plus en plus utilisés pour de l’aide à la décision dans des systèmes critiques (véhicules autonomes, outils de diagnostics médicaux…). Cela soulève néanmoins de nombreuses questions, au niveau du contrôle des résultats et de la compréhension des mécanismes qui ont conduit à ces derniers.

Dans le cadre du test des systèmes basés IA, l’explicabilité et l’interprétabilité des modèles occupent donc une place fondamentale, notamment lors de la vérification de propriétés telles que la robustesse ou la fairness (i.e. la vérification qu’un modèle n’est pas biaisé).

Ainsi, KEREVAL s’intéresse au développement de tels outils pour l’explicabilité des modèles d’IA, en lien avec ses activités sur les véhicules autonomes.

Les objectifs du stage sont :

• Recenser les techniques d’explicabilité et d’interprétabilité de l’IA
• Explorer leur utilisation dans le cadre du test des modèles d’IA :
  • Caractérisation des techniques sélectionnées
  • Mise en place de méthodes pour expliquer des modèles fonctionnant en boite noire
  • Réalisation d’un Proof of Concept (POC) intégrant ces méthodes sur un cas pratique

Source : RISE : Randomized Input Sampling for Explanation of Black-box Models / PETSUIK, DAS, SAENKO / https://arxiv.org/pdf/1806.07421.pdf / Boston University USA

Profil recherché

Bac+4 en ingénierie, vous possédez des connaissances en programmation (Python, …) et en machine learning / data science.

• Niveau d’études : Bac+4/5
• Période et durée : Stage de 6 mois

Réf: 7652a834-4fa4-4c16-1d03-08d87039626a