Les tats-Unis vont lancer leur propre institut de scurit de l’IA Afin d’valuer les risques mergents des modles d’IA avancs et de traiter les impacts connus

Les textes gnrs par l'IA pourraient accrotre l'exposition aux menaces L'identification des contenus malveillants ou abusifs deviendra plus difficile pour les fournisseurs de plateformes



Les tats-Unis vont lancer un institut de scurit de l’IA pour valuer les risques connus et mergents des modles d’intelligence artificielle dits « pionniers », a dclar le mercredi 1 novembre la secrtaire d’tat au Commerce, Gina Raimondo.

« Je vais trs certainement demander beaucoup d’entre vous qui tes dans l’auditoire et qui travaillez dans les universits et l’industrie de faire partie de ce consortium« , a-t-elle dclar lors d’un discours au Sommet sur la scurit de l’IA en Grande-Bretagne.

« Nous ne pouvons pas le faire seuls, le secteur priv doit s’impliquer.« 

Mme Raimondo a ajout qu’elle s’engagerait galement ce que l’institut amricain tablisse un partenariat formel avec l’institut de scurit du Royaume-Uni.

Ce nouvel institut relvera du National Institute of Standards and Technology (NIST) et dirigera les efforts du gouvernement amricain en matire de scurit de l’IA, en particulier pour l’examen des modles d’IA avancs.

L’institut « facilitera le dveloppement de normes pour la scurit, la sret et les tests des modles d’IA, dveloppera des normes pour l’authentification des contenus gnrs par l’IA, et fournira des environnements de test pour les chercheurs afin d’valuer les risques mergents de l’IA et de traiter les impacts connus« , a dclar le ministre.

Lundi 30 octobre, le prsident Joe Biden a sign un dcret sur l’intelligence artificielle exigeant que les dveloppeurs de systmes d’IA prsentant des risques pour la scurit nationale, l’conomie, la sant publique ou la scurit des tats-Unis partagent les rsultats des tests de scurit avec le gouvernement amricain, conformment au Defense Production Act, avant qu’ils ne soient diffuss au public.

Le dcret ordonne galement aux agences de fixer des normes pour ces tests et de s’attaquer aux risques chimiques, biologiques, radiologiques, nuclaires et de cyberscurit qui y sont lis.

la demande du prsident Biden, le ministre du Commerce cre un institut amricain de scurit de l’intelligence artificielle charg de diriger les efforts en matire de scurit de l’IA

L’administration Biden-Harris a annonc aujourd’hui que le ministre amricain du Commerce, par l’intermdiaire de l’Institut national des normes et de la technologie (NIST), allait crer l’Institut amricain de scurit de l’intelligence artificielle (USAISI) pour diriger les efforts du gouvernement amricain en matire de scurit et de confiance dans l’IA, en particulier pour l’valuation des modles d’IA les plus avancs. L’USAISI soutiendra les responsabilits attribues au ministre du commerce dans le cadre du dcret historique que le prsident Biden a sign en dbut de semaine.

Plus prcisment, l’USAISI facilitera l’laboration de normes pour la sret, la scurit et le test des modles d’IA, dveloppera des normes pour l’authentification des contenus gnrs par l’IA et fournira aux chercheurs des environnements de test pour valuer les risques mergents lis l’IA et traiter les impacts connus. L’USAISI, dirige par le NIST, s’appuiera sur une expertise externe, notamment en travaillant avec des partenaires du monde universitaire, de l’industrie, du gouvernement et de la socit civile pour faire progresser la scurit de l’IA. En outre, l’USAISI travaillera avec des instituts similaires dans des pays allis et partenaires, notamment avec l’AI Safety Institute du Royaume-Uni, afin d’harmoniser et de coordonner les travaux dans ce domaine. L’annonce d’aujourd’hui concide avec la participation de la secrtaire amricaine au commerce, Gina Raimondo, au sommet sur la scurit de l’IA 2023 au Royaume-Uni, aux cts de la vice-prsidente Kamala Harris.

« Grce la cration de l’Institut amricain pour la scurit de l’IA, le ministre du Commerce s’appuiera sur la longue histoire du NIST en matire d’laboration de normes pour clairer le progrs technologique national et international dans l’intrt de tous« , a dclar la secrtaire d’tat Gina Raimondo. « Alors que le prsident Biden prend des mesures rapides pour faire en sorte que les tats-Unis soient un leader mondial en matire d’IA innovante, sre et responsable, le ministre du commerce est impatient de jouer son rle. Ensemble, en coordination avec les agences fdrales de l’ensemble du gouvernement et en accord avec nos partenaires et allis internationaux, nous nous efforcerons de concrtiser la vision du prsident en matire de gestion des risques et d’exploitation des avantages de l’IA.« 

« Je suis ravi que le NIST assume ce rle essentiel pour les tats-Unis, qui s’inscrit dans le prolongement de nos efforts de grande envergure dans le domaine de l’IA. L’Institut amricain de scurit de l’IA exploitera les talents et l’expertise du NIST et de l’ensemble de la communaut de l’IA pour jeter les bases de systmes d’IA fiables« , a dclar Laurie E. Locascio, sous-secrtaire au commerce charg des normes et des technologies et directeur du NIST. « Il runira l’industrie, la socit civile et les agences gouvernementales pour travailler sur la gestion des risques des systmes d’IA et pour laborer des lignes directrices, des outils et des environnements de test pour la scurit et la confiance dans l’IA« .

En juillet, la secrtaire d’tat Raimondo a rejoint le prsident Biden la Maison-Blanche pour annoncer les engagements volontaires des grandes entreprises amricaines en matire de sret et de scurit de l’IA, engagements qu’elle a contribu obtenir. Elle a jou un rle de premier plan dans l’laboration des principes et du code de conduite du G-7, galement annoncs cette semaine, et a rdig en juillet un article d’opinion sur l’IA avec le secrtaire d’tat Blinken pour le Financial Times.

Source : Ministre amricain du Commerce

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Joe Biden signe un dcret visant superviser et investir dans l’IA, ses objectifs vont des droits civils aux rglementations industrielles, en passant par l’embauche de personnel

Les tats-Unis commencent tudier la possibilit de rglementer les systmes d’IA comme ChatGPT, pour garantir que ces technologies soient lgales, efficaces, thiques, sres et dignes de confiance

La Chambre de commerce des tats-Unis demande une rglementation de l’IA, pour que l’IA ne nuise pas la croissance ou ne devienne pas un risque pour la scurit



Source link

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.