Présentation de Numalis, Delfox et Synapse Défense

Le projet Heaxplain est porté par trois sociétés aux activités complémentaires : Numalis, Delfox et SYNAPSE Défense.

Numalis est une PME de 12 personnes industrialisant plus de 20 ans de R&D sur les questions de fiabilité de systèmes et plus particulièrement de systèmes d’IA. La société dispose d’un savoir-faire en matière d’analyse statique par interprétation abstraite qui permettent de mesurer formellement la robustesse de réseaux de neurones. Ce sujet est exploré de manière intensive depuis 2016 par ses équipes. Disposant aujourd’hui en interne d’une équipe de chercheurs et d’ingénieurs en IA et en analyse statique de programme, Numalis regroupe une combinaison unique de talents qui développe pour l’industrie les premiers outils de preuves formelles de la robustesse de réseaux de neurones. Ses outils sont aujourd’hui utilisés dans plusieurs industries (Défense, ferroviaire, aérospatiale) pour faire évoluer les pratiques en termes de validation de systèmes embarquant de l’IA. Par ailleurs ses outils sont à la base d’un projet projet de norme internationale relatif à la mesure formelle de robustesse de réseaux de neurones dont Numalis est l’éditeur.

Delfox est une start-up AI-first qui a pour but de concevoir et développer des systèmes autonomes et apprenants (SAA™) qui auront la particularité d’apprendre des situations rencontrées et de s’adapter en conséquence. Notre objectif est de permettre à l’opérateur humain d’interagir de manière qualitative avec ces systèmes en lui permettant d’orienter son apprentissage et donc son efficacité opérationnelle. Pour cela, il nous semble nécessaire que de tels systèmes soient intelligibles pour les opérateurs au travers de leur capacité à expliciter leur décision ou proposition de décision. Cette contrainte forte nous apparaît comme une source profonde d’innovation sur lequel nous axons le développement de nos produits. Delfox se positionne en priorité sur le marché de l’Aéronautique, du Spatial et de la Défense (ASD).

SYNAPSE Défense rassemble une expertise large et contemporaine des opérations aériennes militaires, construite sur plus de 30 années d’expérience opérationnelle. Les leaders de l’Industrie de Défense font appel à ses connaissances métier lors d’études technico-opérationnelles, pour développer de nouveaux produits, ou pour des formations à la carte. En s’appuyant sur une équipe complémentaire, SYNAPSE Défense est capable d’expliquer les tactiques ou les concepts doctrinaux les plus modernes. Le cursus scientifique de ses personnels lui permet aussi de construire des modélisations représentatives de tout ou partie d’une opération aérienne, avec le juste niveau de granularité nécessaire.

Le projet Heaxplain

Les IA utilisant des réseaux de neurones construisent, durant leur phase d’apprentissage, un modèle mathématique très complexe. La très haute dimensionnalité de ces modèles rend leur interprétation directe quasi-impossible pour un humain. Le projet Heaxplain vise à définir une méthode d’explication des choix pris par un réseau de neurones afin de vérifier les connaissances qu’il a inférées. Pour cela le projet utilise une plateforme de jeu qui sert d’entrainement à une IA réalisant une séquence de combat aérien. La complémentarité des trois partenaires permet de proposer une démarche cohérente dans laquelle les expertises très spécifiques de chacun permettront :

  • grâce à la société Delfox, de concevoir des réseaux de neurones performants en utilisant un apprentissage par renforcement basé sur la plateforme qu’elle aura développée en s’appuyant sur les spécifications produites par SYNAPSE Défense ;
  • grâce à la société Numalis, d’analyser finement les réseaux de neurones, afin d’identifier les paramètres les plus influents sur les décisions prises par une IA et de présenter ces résultats de façon à ce qu’ils soient ensuite exploitables ;
  • grâce à SYNAPSE Défense, de donner une « signification » opérationnelle aux informations numériques ainsi recueillies, tout en garantissant la représentativité générale de l’étude, par la définition des caractéristiques de l’environnement de simulation et la création de modèles comportementaux réalistes.

Heaxplain illustration