Une proposition d’exemption au Digital Millennium Copyright Act (DMCA) permettrait aux chercheurs de contourner les conditions d’utilisation des outils d’IA pour examiner les biais, les donnes d’entranement et les rsultats potentiellement nuisibles. Cette exemption, soutenue par le ministre de la Justice amricain, vise permettre des recherches de bonne foi sans crainte de poursuites judiciaires. Les chercheurs, universitaires et hackers impliqus souhaitent rendre plus transparent le fonctionnement des IA, souvent entrav par des conditions de service restrictives.
La section 1201 du DMCA, qui inclut dj des exemptions pour la rparation d’quipements et la recherche en scurit, pourrait tre modifie pour inclure les systmes d’IA. La proposition d’exemption rencontre l’opposition de certaines entreprises et associations, qui estiment que les chercheurs devraient obtenir un consentement pralable pour mener leurs recherches.
Le gouvernement amricain envisage actuellement une drogation la loi amricaine sur le droit d’auteur qui permettrait d’enfreindre les mesures de protection technique et la gestion des droits numriques (DRM) des systmes d’IA afin d’en savoir plus sur leur fonctionnement, de les sonder pour dtecter les biais, la discrimination, les rsultats nuisibles et inexacts, et d’en savoir plus sur les donnes partir desquelles ils ont t forms. L’exemption permettrait de mener de bonne foi des recherches sur la scurit et des recherches universitaires, ainsi que de red-teamer des produits d’IA, mme si le chercheur doit contourner des systmes conus pour empcher cette recherche. Le mtier de Red teamer consiste simuler des attaques en grandeur relle, de manire connatre le degr defficacit des dfenses cyber dune structure donne. Il sagit, principalement, de conduire des tests dintrusion lencontre de la structure elle-mme.
L’exemption propose est soutenue par le ministre de la Justice, qui a dclar que la recherche de « bonne foi » peut aider rvler la collecte ou l’exposition non intentionnelle ou non divulgue de donnes personnelles sensibles, ou identifier les systmes dont les oprations ou les rsultats sont dangereux, inexacts ou inefficaces pour les utilisations auxquelles ils sont destins ou commercialiss par les dveloppeurs, ou employs par les utilisateurs finaux. Ces recherches peuvent tre particulirement importantes lorsque les plateformes d’IA sont utilises des fins particulirement importantes, o les rsultats involontaires, inexacts ou imprvisibles de l’IA peuvent causer de graves prjudices aux individus .
Les enjeux de l’Exemption DMCA pour les chercheurs en scurit informatique
La Computer Crime and Intellectual Property Section (CCIPS) de la division criminelle du ministre amricain de la Justice apprcie cette opportunit. Le ministre de la Justice est charg de l’application pnale de plusieurs lois protgeant la proprit intellectuelle, applicable aux violations dlibres des dispositions anti-contournement de la section 1201 des fins de gain commercial ou financier. Le ministre de la Justice s’intresse galement l’usage de l’intelligence artificielle et son impact sur la vie prive et les droits civils.
Au sein de la division criminelle, la CCIPS conseille d’autres procureurs fdraux sur l’application du DMCA et a engag des poursuites pnales dans diverses affaires de contournement de mesures de protection technologique et de trafic de dispositifs de contournement. La CCIPS est galement responsable de la poursuite des dlits fdraux impliquant l’accs non autoris aux ordinateurs et d’autres infractions en vertu de la loi sur la fraude et l’abus informatiques (CFAA). Lors des prcdentes tapes d’laboration des rgles, la CCIPS a insist sur l’importance de la recherche en scurit pour dtecter les vulnrabilits des systmes informatiques et a soutenu l’extension de l’exemption du DMCA pour la recherche en scurit informatique de bonne foi. La CCIPS recommande nouveau le renouvellement de cette exemption.
Il y a beaucoup d’inquitude concernant ces modles, leur conception, leurs biais, leur utilisation des fins discriminatoires et leur fiabilit gnrale , dclare Shayne Longpre, chercheur au MIT, membre de l’quipe ayant initi l’exemption. L’cosystme des chercheurs travaillant sur ce sujet n’est pas trs sain. Certains font le travail, mais beaucoup voient leur compte suspendu pour des recherches de bonne foi, ou craignent les implications lgales potentielles de la violation des conditions de service , ajoute-t-il.
Il existe de nombreux exemples d’articles acadmiques, de reportages journalistiques et de travaux exploratoires de red teaming utilisant des outils d’IA, ncessitant parfois de contourner ou de tromper ces outils pour rvler les donnes sur lesquelles ils sont entrans, leurs biais ou leur manque de fiabilit. En mars, Longpre et ses collgues ont publi une analyse citant une version antrieure des conditions d’utilisation de Midjourney, stipulant : Si vous violez sciemment la proprit intellectuelle de quelqu’un d’autre et que cela nous cote de l’argent, nous vous rclamerons cet argent. Nous pourrions galement prendre d’autres mesures, comme demander un tribunal de vous faire payer nos frais de justice. Ne le faites pas . L’article de Longpre soutient que les entreprises d’IA ont commenc utiliser leurs conditions de service pour dcourager l’analyse .
Jusqu’ prsent, une grande partie de la recherche sur le contournement des outils d’IA s’est concentre sur la reproduction d’uvres protges par le droit d’auteur pour dmontrer que les modles de langage massif (LLM) sont entrans sur de telles uvres. L’industrie musicale a utilis cette approche pour prouver que les outils d’IA Suno et Udio taient entrans sur de la musique protge par le droit d’auteur, une preuve centrale dans un procs important contre ces socits. On peut donc facilement imaginer un scnario o des chercheurs ou des journalistes utilisent un outil d’IA pour recrer des uvres protges par le droit d’auteur, rvlant ainsi que l’outil a t entran sur ces donnes, ce qui pourrait avoir des consquences ngatives pour l’entreprise d’IA, qui tenterait alors d’accuser les chercheurs ou journalistes de violation des conditions de service.
Lors d’une audition au printemps dernier, dont la transcription vient d’tre publie, Morgan Reed, de l’App Association, un groupe de pression qui reprsente un grand nombre d’entreprises d’IA et d’autres dveloppeurs d’applications, a fait valoir que les chercheurs devraient obtenir le consentement pralable des entreprises d’IA pour effectuer ce type de recherche. Si vous ne contactez pas l’entreprise l’avance pour l’informer que vous faites partie d’une quipe rouge, vous tes essentiellement un pirate informatique potentiellement malveillant , a dclar Reed. C’est donc un chercheur qui agit. Il s’introduit dans l’entreprise. L’entreprise dont ils ont suivi le LLM est mcontente d’une manire ou d’une autre et les poursuit pour violation des droits d’auteur. Ce qu’ils veulent vraiment, ce qu’ils demandent vraiment, c’est une protection de la responsabilit a posteriori .
Dans un document soumis au Bureau des droits d’auteur, Harley Geiger, du Hacking Policy Council, militant pour l’exemption, a dclar que celle-ci tait cruciale pour identifier et corriger les failles algorithmiques afin de prvenir les dommages ou les perturbations , ajoutant que l’absence de protection juridique claire en vertu de l’article 1201 du DMCA affecterait ngativement cette recherche . L’exemption ne stopperait pas les entreprises d’essayer d’empcher ce type de recherche, mais elle protgerait lgalement les chercheurs qui enfreignent les conditions de service des entreprises pour mener leurs travaux.
Cette anne, une ptition soumise par Jonathan Weiss de Chinnu propose une nouvelle exemption pour la recherche sur la scurit concernant les biais de l’IA gnrative . Weiss craint que ces modles ne perptuent ou n’exacerbent les prjugs systmiques et propose une exemption pour le contournement des mesures technologiques pour la recherche de biais et le partage des rsultats de recherche. Le groupe de chercheurs universitaires soutient cette proposition tout en suggrant une exemption largie pour couvrir non seulement l’IA gnrative, mais aussi d’autres formes d’IA. La CCIPS est d’accord, estimant que limiter l’exemption l’IA gnrative pourrait prter confusion et qu’une exemption plus large serait bnfique.
La recherche indpendante sur les systmes d’IA, y compris la dtection de biais et de rsultats nuisibles, est cruciale pour garantir l’intgrit et la scurit des systmes d’IA. La CCIPS reconnat que cette recherche peut tre malveillante si elle n’est pas mene de bonne foi , mais estime qu’une exemption pour la recherche de bonne foi devrait tre considre. Le ministre de la Justice recommande au Bureau du droit d’auteur de clarifier l’exemption existante pour inclure la recherche de bonne foi sur les biais et autres rsultats nuisibles des systmes d’IA.
Exemption DMCA : un coup dur pour la proprit intellectuelle des entreprises d’AI ?
Selon certains analystes, la proposition d’exemption au Digital Millennium Copyright Act pour permettre aux chercheurs de contourner les conditions d’utilisation des outils d’IA est une initiative louable. En favorisant la recherche de bonne foi, cette exemption contribuerait prvenir les discriminations et amliorer la fiabilit des systmes d’IA, un aspect crucial dans une socit de plus en plus dpendante de ces technologies.
Cependant, cette proposition n’est pas sans risques. Permettre de contourner les conditions de service pourrait potentiellement ouvrir la porte des abus et des utilisations malveillantes. Des individus pourraient exploiter cette exemption pour pirater des systmes ou pour des actions non thiques, mettant en danger la scurit des informations et des donnes. Il est donc essentiel d’tablir des garde-fous et des mesures de contrle strictes pour s’assurer que cette exemption soit utilise uniquement dans un cadre de recherche de bonne foi et non des fins malveillantes.
De plus, les entreprises d’IA investissent massivement dans le dveloppement de leurs outils et algorithmes, et cette exemption pourrait compromettre leurs droits de proprit intellectuelle. En permettant aux chercheurs de contourner les conditions de service, on risque de porter atteinte la comptitivit et l’innovation de ces entreprises. Il serait important de trouver un quilibre entre la ncessit de promouvoir la transparence et la scurit, et la protection des droits et des investissements des entreprises d’IA.
L’exemption propose au DMCA reprsente une avance significative pour la transparence et la scurit dans le domaine de l’intelligence artificielle. Toutefois, pour maximiser les bnfices tout en minimisant les risques potentiels, il est crucial de mettre en place un cadre lgal clair et quilibr, accompagn de mcanismes de surveillance et de contrle appropris. Cela permettra de garantir que cette exemption soit utilise de manire thique et responsable, tout en protgeant les droits de proprit intellectuelle des entreprises.
Sources : US Department of Justice, Analysis by Longpre and colleagues, Transcript of proceedings
Et vous ?
Quel est votre avis sur le sujet ?
Selon vous, l’exemption au DMCA reprsente-t-elle une avance vers la transparence ou une menace pour la scurit des IA ?
L’exemption DMCA constitue-t-elle un revers pour la protection de la proprit intellectuelle des entreprises d’IA ?
Voir aussi :