Dans un nouveau rapport, la Maison-Blanche souligne l’importance de l’IA source ouverte pour l’innovation, tout en insistant sur la ncessit d’une surveillance vigilante des risques lis la technologie d’IA. Publi par l’Administration nationale des tlcommunications et de l’information (NTIA), le rapport prconise de continuer soutenir l’ouverture de l’IA et met en garde contre la restriction de la disponibilit des poids des modles ouverts. Cette position s’inscrit dans une stratgie plus large, dcrite dans le rcent dcret du prsident Biden, visant maximiser les avantages des modles d’IA largement disponibles tout en grant et en attnuant les risques qui en dcoulent.
L’intelligence artificielle (IA), dans son sens le plus large, est l’intelligence dont font preuve les machines, en particulier les systmes informatiques. Il s’agit d’un domaine de recherche en informatique qui dveloppe et tudie des mthodes et des logiciels permettant aux machines de percevoir leur environnement et d’utiliser l’apprentissage et l’intelligence pour prendre des mesures qui maximisent leurs chances d’atteindre des objectifs dfinis. Ces machines peuvent tre appeles des IA.
Selon une nouvelle dclaration, la Maison Blanche est consciente que les logiciels libres sont essentiels au dveloppement de l’intelligence artificielle (IA), l’instar de nombreuses entreprises qui utilisent cette technologie. Le mardi 31 juillet, la National Telecommunications and Information Administration (NTIA) a publi un rapport soutenant les modles ouverts et code source ouvert pour promouvoir l’innovation dans le domaine de l’intelligence artificielle, tout en soulignant la ncessit d’une surveillance vigilante des risques. Le rapport recommande aux tats-Unis de continuer soutenir l’ouverture de l’IA tout en travaillant sur de nouvelles capacits de surveillance des risques potentiels lis l’IA, mais en s’abstenant de restreindre la disponibilit des poids des modles ouverts.
Comme l’a dclar le prsident Biden, l’intelligence artificielle (IA) recle un potentiel extraordinaire, la fois prometteur et dangereux . Le dveloppement de modles d’IA de plus en plus avancs, tels que les modles de fondation double usage, a considrablement accru les risques et les avantages potentiels des systmes d’IA. De nombreux dveloppeurs ne donnent qu’un accs limit, voire aucun accs public, au fonctionnement interne de leurs modles avancs, y compris leurs poids. En revanche, certains dveloppeurs, comme Meta, Google, Microsoft, Stability AI, Mistral, l’Allen Institute for AI et EleutherAI, ont publi des modles – mais pas toujours leurs modles les plus avancs – avec des poids largement disponibles (c’est–dire ouverts au public en permettant aux utilisateurs de tlcharger ces poids sur l’internet ou par d’autres mcanismes).
Les modles de base double usage dont les poids sont largement disponibles (appels dans le rapport modles de fondation ouverts ) prsentent un large ventail d’avantages. Ils diversifient et largissent l’ventail des acteurs, y compris des acteurs moins bien dots en ressources, qui participent la recherche et au dveloppement de l’IA. Ils dcentralisent le contrle du march de l’IA par rapport quelques grands dveloppeurs d’IA. Enfin, ils permettent aux utilisateurs d’exploiter les modles sans partager les donnes avec des tiers, ce qui renforce la confidentialit et la protection des donnes.
Cependant, rendre les poids de certains modles de fondation largement disponibles pourrait galement engendrer des prjudices et des risques pour la scurit nationale, l’quit, la scurit, la vie prive ou les droits civils par le biais d’une mauvaise utilisation affirmative, d’checs de surveillance efficace ou de l’absence de mcanismes de responsabilit clairs.
En octobre 2023, le prsident Biden a sign un dcret intitul Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence (dveloppement et utilisation srs, scuriss et dignes de confiance de l’intelligence artificielle). Soulignant l’importance de maximiser les avantages des modles de fondation double usage avec des poids de modle largement disponibles tout en grant et en attnuant les risques qui en dcoulent, la section 4.6 du dcret a charg le secrtaire au commerce, agissant par l’intermdiaire du secrtaire adjoint au commerce pour les communications et l’information et en consultation avec le secrtaire d’tat, de solliciter des commentaires du secteur priv, des universits, de la socit civile et d’autres parties prenantes par le biais d’un processus de consultation publique sur les risques potentiels, les avantages, les autres implications et les approches politiques et rglementaires appropries lies aux modles de fondation double usage pour lesquels les poids de modle sont largement disponibles .
Le dcret sign par le prsident Biden dnotait en outre que le secrtaire au Commerce, par l’intermdiaire du secrtaire adjoint au Commerce pour les communications et l’information et en consultation avec le secrtaire d’tat et les chefs des agences concernes, serait l’auteur d’un rapport au prsident sur les avantages, risques et implications potentiels des modles de fondation double usage pour lesquels les poids des modles sont largement disponibles, ainsi que les recommandations politiques et rglementaires relatives ces modles. Dans le cadre de cette mission, la National Telecommunications and Information Administration (NTIA) a publi un appel commentaires en fvrier 2024 et a reu 332 commentaires en rponse. La NTIA a en outre men une vaste campagne de sensibilisation auprs des parties prenantes, notamment en organisant deux vnements publics pour recueillir les commentaires d’une srie d’experts en politique et en technologie. Le rapport de la Maison-Blanche et ses conclusions s’appuient en grande partie sur ces commentaires.
Ce rapport prsente un examen non exhaustif des risques et des avantages des modles de fondations ouvertes, rpartis dans les grandes catgories suivantes : scurit publique ; risques socitaux et bien-tre ; concurrence, innovation et recherche ; considrations gopolitiques ; et incertitude quant aux risques et avantages futurs. Il est important de comprendre ces risques comme des risques marginaux, c’est–dire des risques propres au dploiement de modles de fondation double usage avec des poids de modle largement disponibles par rapport aux risques lis d’autres technologies existantes, y compris les modles poids ferms et les modles qui ne sont pas considrs comme des modles de fondation double usage selon la dfinition du dcret (tels que les modles de fondation avec moins de 10 milliards de paramtres).
Enfin, le rapport de la Maison-Blanche examine dans quelles circonstances le gouvernement amricain devrait restreindre la large disponibilit des poids de modles pour les modles de fondations double usage. Il value une srie d’approches politiques, leurs risques et leurs avantages. Le rapport conclut que les donnes actuelles ne sont pas suffisantes pour dterminer de manire dfinitive si des restrictions sur ces modles poids libres sont justifies ou si des restrictions ne seront jamais appropries l’avenir.
Au lieu de cela, le rapport de la Maison-Blanche suggre que le gouvernement surveille activement un portefeuille de risques qui pourraient dcouler des modles de fondation double usage avec des poids de modle largement disponibles et prenne des mesures pour s’assurer que le gouvernement est prt agir si des risques accrus apparaissent. Plus prcisment, le rapport recommande que le gouvernement :
- Collecte des lments de preuve :
- a. En encourageant l’adoption de normes et, le cas chant, en imposant des audits, des divulgations et une transparence pour les modles de fondation double usage (y compris ceux pour lesquels les poids des modles ne sont pas largement disponibles) ;
- b. En soutenant et en menant des recherches sur la sret, la scurit et la fiabilit des modles de fondation et des modles haut risque, ainsi que sur leurs utilisations en aval ;
- c. En soutenant la recherche externe sur les capacits et les limites actuelles et futures de certains modles de fondations double usage et sur les mesures d’attnuation des risques ; et
- d. En dveloppant et en maintenant un ensemble de portefeuilles de risques, d’indicateurs et de seuils.
- value les preuves :
- a. En analysant le dlai qui s’coule entre le moment o les dveloppeurs introduisent des fonctionnalits dans les principaux modles propritaires et le moment o ces mmes fonctionnalits sont mises disposition dans les modles ouverts ;
- b. En laborant des points de rfrence et des dfinitions des fins de suivi et d’action potentielle si cela est jug appropri ; et
- c. En maintenant et en renforant les capacits des experts du gouvernement fdral dans les domaines technique, juridique, des sciences sociales et de la politique afin de soutenir l’valuation des preuves.
- Agisse sur les valuations par le biais d’actions telles que :
- a. Des restrictions d’accs aux modles ; ou
- b. D’autres mesures d’attnuation des risques.
- Garde ouverte la possibilit d’une action gouvernementale supplmentaire.
Ces recommandations soutiennent la capacit des dveloppeurs qui choisissent de rendre les poids des modles largement disponibles l’heure actuelle, tout en renforant la capacit du gouvernement contrler si les futurs modles prsentent des risques qui indiquent qu’il pourrait tre appropri de limiter la disponibilit des poids des modles ou d’appliquer d’autres mesures appropries d’attnuation des risques. Le rapport de la Maison-Blanche fournit des orientations et des considrations de haut niveau pour cette recommandation.
Le rapport fournit relativement peu d’informations sur les futures versions des modles de fondations double usage dont les poids sont largement disponibles ; toutefois, l’action recommande pour surveiller les risques aiderait le gouvernement dterminer les capacits des futurs modles de fondations double usage dont les poids sont largement disponibles. En l’absence de changements dans les capacits de recherche et de surveillance, cette dynamique pourrait persister : toute preuve de risques qui justifierait d’ventuelles interventions politiques visant restreindre la disponibilit des poids de modle pourrait n’apparatre qu’aprs que des modles d’IA dots de ces capacits, ferms ou ouverts, aient t dvelopps ou diffuss.
En rsum, le rapport de la Maison-Blanche trace une voie prudente mais optimiste qui suit les politiques de longue date du gouvernement amricain en faveur d’un accs gnralis aux technologies numriques et leurs avantages, tout en se prparant nanmoins au dveloppement potentiel de modles pour lesquels une autre approche pourrait tre justifie.
Source : « Dual-Use Foundation Models with Widely Available Model Weights » (Rapport de la Maison-Blanche)
Et vous ?
Quel est votre avis sur le sujet ?
Trouvez-vous cette initiative de la Maison-Blanche crdible ou pertinente ?
Voir aussi :