Le fabricant de pistolets Taser Axon revient finalement sur son projet de fabriquer un drone équipé d’un pistolet Taser après la démission de neuf membres de son comité d’éthique de l’IA. Axon, une entreprise américaine connue pour avoir développé des tasers et des produits pour la police et l’armée, souhaitait commercialiser le produit comme un moyen d’arrêter les fusillades de masse qui sévissent dans ce pays.
Dernier épisode tragique de ces fusillades de masse, le 24 mai denier, un lycéen de 18 ans porteur d’un fusil d’assaut tuait 19 écoliers et deux enseignantes dans un établissement scolaire d’Uvalde, une ville à l’ouest de San Antonio.
La réaction du comité d’éthique de l’IA d’Axon à cette idée de drone Taser a été rapide et énergique.
« Nous aurions aimé ne pas en arriver là »
« Nous ressentons tous désespérément le besoin de faire quelque chose pour répondre à notre épidémie de fusillades de masse. Mais la proposition d’Axon de privilégier une réponse technologique et policière alors qu’il existe des alternatives bien moins dangereuses n’est pas la solution », peut-on lire dans une déclaration des membres démissionnaires du conseil.
Il a fallu un an pour en arriver là. Axon a présenté l’idée du drone armé au comité d’éthique et a été confronté à des préoccupations quant à l’utilisation abusive du système. L’idée initiale était de déployer le drone pour cibler les tireurs, mais rien n’empêcherait les agences d’utiliser le drone à d’autres fins. Le comité d’éthique l’a reconnu et a fixé des limites.
« Nous aurions aimé ne pas en arriver là. Chacun d’entre nous a rejoint ce conseil en croyant pouvoir influencer la direction de l’entreprise de manière à atténuer les dommages que les technologies policières peuvent causer et à mieux en tirer parti. Mais nous avons vu cette influence se manifester dans certaines des décisions d’Axon. Qu’il s’agisse de ne pas équiper l’un de ses produits de fonctions de reconnaissance faciale, de retirer un nouvel outil logiciel permettant de collecter des données à partir de sites de médias sociaux ou de promouvoir une législation désespérément nécessaire pour contrôler l’utilisation des lecteurs de plaques d’immatriculation, nous avons observé des preuves tangibles de la différence que nous faisions. Notre insistance auprès d’Axon pour que la communauté, et non la police, soit le client final de l’entreprise a conduit Axon à créer la Community Advisory Coalition, un groupe qui réunit des leaders communautaires pour partager leurs points de vue sur les produits et services d’Axon. »
Les drones armés et la surveillance par drone sont profondément controversés
Mais les membres démissionnaires ont été découragés par la décision de poursuivre le développement du système de drones.
« Il y a quelques semaines à peine, une majorité de ce conseil – par un vote de 8 contre 4 – a recommandé qu’Axon ne procède pas à une étude pilote restreinte visant à vérifier le concept de drones équipés de Taser de la société. Dans cette conception limitée, le drone équipé d’un Taser ne devait être utilisé que dans des situations où il pouvait éviter qu’un policier utilise une arme à feu, et donc potentiellement sauver une vie. Nous avons compris que l’entreprise pourrait aller de l’avant malgré notre recommandation de ne pas le faire, et nous avons donc été fermes quant aux types de contrôles qui seraient nécessaires pour mener un pilote responsable si l’entreprise allait de l’avant. Nous commencions tout juste à produire un rapport public sur la proposition d’Axon et sur nos délibérations. »
Les choses ne se sont pas passées comme prévu.
« Aucun d’entre nous ne s’attendait à l’annonce faite par Axon jeudi dernier, le 2 juin, concernant un cas d’utilisation très différent. Cette annonce – à savoir que l’objectif de la société est de retrancher d’innombrables drones pré-positionnés et équipés de Taser dans des écoles et des lieux publics – nous amène à conclure qu’après plusieurs années de travail, la société a fondamentalement échoué à embrasser les valeurs que nous avons essayé d’inculquer. »
Les drones armés et la surveillance par drone sont profondément controversés. Les préoccupations relatives à l’usage excessif de la force par les policiers ont conduit l’ACLU et d’autres à prendre une position ferme contre les drones armés, tandis que les défenseurs de la vie privée craignent les implications d’une surveillance généralisée des drones par les agences gouvernementales.
Axon a fait marche arrière pour l’instant, mais il est probable que nous verrons d’autres entreprises dans cet espace à l’avenir, mettant en place des épreuves de force similaires.
Source : « ZDNet.com »