Le 15 juin, l’assemblée de l’État de New York a adopté le projet de loi Reliable AI Safety and evaluation (RAISE), la première législation aux États-Unis à exiger des entreprises d’IA qu’elles rendent compte de la sécurité.
Selon TechCrunch, le projet de loi vise à prévenir les catastrophes potentielles liées à l’IA qui pourraient entraîner plus de 100 décès et plus de 100 milliards de dollars de dommages.
Le projet de loi est actuellement sur le bureau du gouverneur Kathy Hochul qui peut soit le signer, le renvoyer pour amendements, soit y mettre son veto.
Jusqu’à 30 millions de dollars d’amende
Le cœur du dispositif législatif est d’exiger des comptes-rendus de sécurité et des rapports d’anomalie pour les modèles d’IA dépassant une certaine taille. En particulier, les entreprises qui fournissent aux New-Yorkais des modèles formés à l’aide de ressources informatiques d’une valeur de 100 millions de dollars ou plus devront : soumettre des rapports techniques sur la sécurité, la fiabilité et les mesures de prévention des abus de l’IA ; et soumettre des rapports d’incidents en cas de risques inattendus ou d’incidents réels.
Les infractions peuvent donner lieu à des amendes civiles allant jusqu’à 30 millions de dollars.
Le projet de loi vise les entreprises qui développent et déploient des modèles d’IA à grande échelle, comme OpenAI, Google et Anthropic, mais il est conçu pour minimiser la charge qui pèse sur les startups et la recherche universitaire.
Un projet de loi en Californie
Le projet RAISE est également comparé au récent projet de loi californien SB 1047, qui a été introduit et amendé à la suite d’une forte réaction. La loi RAISE améliore ce projet de loi en incluant des critères plus clairs et des dispositions visant à minimiser la charge pesant sur les entreprises.
Jeffrey Hinton et Joshua Benzio, deux sommités de l’IA, ont également exprimé leur soutien au projet de loi, qui est susceptible d’influencer d’autres législations étatiques et fédérales à l’avenir.
« La technologie de l’IA évolue rapidement, mais la transparence et la vérification de la sécurité n’ont pas suivi le rythme », a déclaré le représentant démocrate Steven Ronder, à l’origine du projet de loi, « La loi RAISE est un acte d’équilibre visant à prévenir les catastrophes potentielles de l’IA sans nuire à l’innovation industrielle ».