L’automatisation des tâches de conduite automobile a commencé par les transmissions automatiques, dans lesquelles l’Intelligence Artificielle (IA) a commencé par prendre en charge l’auto-adaptativité des lois de passages au comportement conducteur: il s’agissait de remplacer le raisonnement humain par un algorithme de « fuzzy logic »
capable de décider rapidement du rapport à engager en pronostiquant le besoin immédiat d’un conducteur parfois sportif, mais souvent soucieux de sa consommation…

Une des caractéristiques intéressantes de l’intelligence artificielle est la construction de règles facilement paramétrables par un cerveau humain, passant en revue les situations à prendre en compte : en peu de temps, on obtient un comportement globalement pertinent, notamment avec des approches statistiques comme les « réseaux de neurones ».

Lorsqu’il s’agit d’un engin impactant la sécurité des personnes comme une automobile en mouvement, cet atout est toutefois piégeant à deux niveaux:

1.     La Sureté de Fonctionnement (Functional Safety) doit garantir un fonctionnement « quasi-nominal » à epsilon près, et un algorithme s’appuyant sur une vision statistique a tendance à confondre corrélation et causalité, faisant perdre au contrôle son caractère déterministe, rendant problématique leur validation. 

2.     La sécurité du fonctionnement nominal visé doit être confrontée à la diversité des situations réelles et comportements humain: si cette recommandation ISO (Safety Of The Functional Intent ou SOTIF) s’appuie uniquement sur l’Intelligence Artificielle, la sécurité dépendra des apprentissages réalisés. 

L’illusion de sécurité du système peut être parfaite jusqu’au moment où elle est déçue face à une situation inattendue, où les règles habituelles d’interpolation entre des situations connues conduisent à des erreurs manifestes. Cette technologie doit être mise sous vigilance, car l’homologation d’un produit intelligent sur la base d’essais normalisés n’apporte plus de preuves en sécurité du produit: la construction de benchmarks numériques couvrant au mieux la diversité des situations doit impérativement être encouragée !

Philippe CHRETIEN, D.G. CEESAR