Jusqu’à la dernière minute, les deux camps ont fait campagne dans la Silicon Valley. Dimanche soir 29 septembre, le gouverneur de Californie, Gavin Newsom, a tranché : il a mis son veto à un projet de loi qui visait à imposer les garde-fous les plus stricts aux grands modèles d’intelligence artificielle aux Etats-Unis.
Le texte SB 1047, ou « loi pour une innovation sûre dans les modèles d’IA pionniers », avait divisé le monde des technologies, ainsi que la classe politique californienne. Bien qu’il ne soit pas aussi exigeant que la réglementation européenne, il rendait les entreprises d’intelligence artificielle légalement responsables des dommages causés par leurs modèles.
Il exigeait qu’elles intègrent un « interrupteur d’arrêt » (kill switch) pour désactiver leurs systèmes s’ils devenaient incontrôlables et causaient des dommages majeurs, tels que des pertes massives en vies humaines ou des dégâts matériels dépassant 500 millions de dollars (448 millions d’euros). Elon Musk s’y était déclaré favorable, au contraire de Mark Zuckerberg (Meta), de Sam Altman (OpenAI) ou du capital-risqueur pro-Trump Marc Andreessen.
Crainte d’« un effet dissuasif sur l’industrie »
Comme M. Musk, plusieurs des figures historiques de l’IA, à l’instar de Geoffrey Hinton et de Yoshua Bengio, approuvaient le texte. « Nous pensons que les modèles d’IA les plus puissants pourraient bientôt poser des risques graves, tels que l’accès accru aux armes biologiques et les cyberattaques contre les infrastructures essentielles », avait écrit M. Hinton dans une lettre adressée au gouverneur et cosignée par des dizaines d’anciens et actuels employés du secteur de l’IA.
Lors de la conférence annuelle du géant du logiciel Salesforce, le 24 septembre, à San Francisco, M. Newsom avait laissé poindre son scepticisme. D’ordinaire prompt à vanter les initiatives d’avant-garde prises par la Californie, notamment sur le climat ou la défense des consommateurs, il avait regretté que le projet sur la sécurité de l’IA se substitue au débat fédéral sur la question.
Il avait aussi exprimé la crainte qu’il ait « un effet dissuasif sur l’industrie ». « Nous dominons ce domaine, et je ne veux pas perdre cet avantage, » avait-il déclaré, soulignant que trente-deux des plus grandes entreprises d’intelligence artificielle du monde étaient situées en Californie. En matière de risques posés par l’IA, il avait indiqué essayer de s’en tenir à ceux qui sont démontrables, par opposition à ceux qui sont hypothétiques. Le projet de loi ciblait les systèmes nécessitant plus de 100 millions de dollars pour être construits. Aucun modèle n’est parvenu à ce seuil, mais les pessimistes pensent qu’il pourrait être atteint rapidement.
Il vous reste 44.48% de cet article à lire. La suite est réservée aux abonnés.