L’enqute Gartner montre que les risques lis l’IA connatront la plus forte augmentation de couverture d’audit en 2024. En effet, les responsables de l’audit interne s’attendent ce que la couverture d’audit des risques lis l’IA augmente mesure que les organisations s’empressent d’adopter la technologie.
La croissance et l’adoption rapides de l’IA gnrative (GenAI) ont entran une course la couverture d’audit des risques potentiels dcoulant de l’utilisation de la technologie, selon une enqute de Gartner, Inc.
« Alors que les organisations augmentent leur utilisation des nouvelles technologies d’IA, de nombreux auditeurs internes cherchent tendre leur couverture dans ce domaine « , a dclar Thomas Teravainen, spcialiste de la recherche au sein de la pratique Gartner for Legal, Risk & Compliance Leaders. « Les organisations sont confrontes toute une srie de risques lis l’IA, depuis les dfaillances de contrle et les rsultats non fiables jusqu’aux cybermenaces avances. La moiti des six principaux risques pour lesquels la couverture d’audit a le plus augment sont lis l’IA.«
Gartner a interrog 102 responsables de l’audit interne (CAE) en aot 2023 pour valuer l’importance de fournir une assurance sur 35 risques. Les six risques prsentant les plus fortes augmentations potentielles de la couverture d’audit sont la gestion du changement stratgique, la diversit, l’quit et l’inclusion, la culture organisationnelle, les cybermenaces lies l’IA, les dfaillances de contrle de l’IA et les rsultats non fiables des modles d’IA.
Augmentations potentielles les plus importantes de la couverture d’audit
Des carts de confiance importants pour les risques lis l’IA
« Le rsultat le plus frappant de ces donnes est sans doute le manque de confiance des auditeurs internes dans leur capacit assurer une surveillance efficace des risques lis l’IA « , a dclar M. Teravainen. « Pas plus de 11 % des personnes interroges qui considrent l’un des trois principaux risques lis l’IA comme trs important se disent trs confiantes dans leur capacit fournir une assurance ce sujet.«
Les applications GenAI accessibles au public, ainsi que celles dveloppes en interne, crent des risques nouveaux et accrus pour la scurit des donnes et des informations, la protection de la vie prive, la protection de la proprit intellectuelle et la violation des droits d’auteur, ainsi que pour la confiance et la fiabilit des rsultats. La prolifration de la GenAI fait de l’amlioration de la couverture des rsultats non fiables des modles d’IA (par exemple, les informations biaises ou inexactes et les hallucinations des modles d’IA) une priorit pour protger l’organisation d’une atteinte sa rputation ou d’une action en justice potentielle.
« Avec un tel ventail de risques potentiels provenant de l’ensemble de l’entreprise, il est facile de comprendre pourquoi les auditeurs ne sont pas confiants dans leur capacit appliquer l’assurance« , a dclar Teravainen. « Cependant, comme les PDG et les directeurs financiers considrent l’IA comme la technologie qui aura l’impact le plus important sur leur organisation au cours des trois prochaines annes, les lacunes persistantes en matire de confiance compromettront la capacit des CAE rpondre aux attentes des parties prenantes.«
Source : Gartner
Et vous ?
Pensez-vous que cette enqute est crdible ou pertinente ?
Quel est votre avis sur le sujet ?
Voir aussi :
L’IA gnrative est devenue un risque mergent pour les entreprises selon une enqute Gartner