Alors que l’intelligence artificielle prend de plus en plus de place dans notre quotidien et ira même jusqu’à tenir entre ses mains numériques nos existences, dans le cas de la voiture autonome, par exemple, qui sera considéré comme responsable en cas d’accident ?
La question est compliquée car elle doit tenir compte des réactions de l’intelligence artificielle, du rôle des fournisseurs des équipements, du constructeur du produit (voiture autonome, drone, automate…).
En l’état, une victime aurait bien du mal à pointer une responsabilité précise pour obtenir des dommages et c’est une situation que souhaite clarifier l’Union européenne.
L’IA ne doit pas diluer les responsabilités
Un projet de réglementation AI Liability Directive (Responsabilité de l’IA) a été soumise à approbation et cherche à mieux encadrer la responsabilité en cas d’accident.
Elle doit notamment permettre aux victimes d’obtenir réparation sans que les responsabilités ne soient diluées entre des intervenants qui pourraient se renvoyer la balle indéfiniment.
Le texte se place du côté des victimes de préjudice à venir en imputant la responsabilité aux fabricants des produits, logiciels et services incriminés mais aussi en n’obligeant pas le plaignant à démontrer une « présomption de causalité » difficile à mettre en évidence et qui aurait constitué une faille facilement exploitable pour esquiver les responsabilités.
Il lui suffira de démontrer que certains critères et exigences n’ont pas été respectés par le fabricant ou le fournisseur de services et associer ces manquements à l’utilisation de l’intelligence artificielle.
Alléger la charge de la preuve pour les victimes
Didier Reynders, commissaire européen à la justice, explique ainsi que la directive doit apporter un niveau de protection pour les victimes similaire à celui existant pour des technologies plus anciennes.
L’agence Reuters indique que ce cadre légal permettra aux cours de justice de réclamer aux entreprises toutes les informations nécessaires sur l’utilisation des systèmes IA et des acteurs concernés afin d’établir les responsabilités.
Du côté des fournisseurs de produits dotés d’intelligence artificielle, il y aura toujours la possibilité de contester en faisant valoir une utilisation incorrecte du produit et de l’IA associée.
Dans l’exemple de la conduite partiellement autonome, la responsabilité du conducteur restera totalement engagée en cas d’accident s’il est démontré qu’il faisait autre chose que rester attentif au trafic environnant, même avec le système d’assistance avancée (ADAS) activé.