La course effrénée vers la superintelligence artificielle inquiète des centaines d’experts, de scientifiques, de figures politiques et de célébrités. Dans une lettre ouverte, ils appellent à suspendre tous les travaux visant à créer une IA surpassant l’humain, tant qu’aucune garantie scientifique ni encadrement démocratique n’en assurent la maîtrise.
L’organisation à but non lucratif Future of Life Institute revient à la charge pour réclamer la suspension des travaux visant à concevoir une superintelligence artificielle. Ce terme, de plus en plus répandu dans l’industrie, décrit une forme d’intelligence artificielle qui dépasse largement les capacités intellectuelles humaines dans tous les domaines. L’IA ferait alors preuve d’une capacité de raisonnement, de planification et d’innovation potentiellement inaccessible à un cerveau humain.
L’organisation américaine demande « l’arrêt du développement d’une superintelligence, tant qu’il n’y a pas un consensus scientifique que cela peut être construit de façon contrôlée et sécurisée et tant qu’il n’existe pas un soutien de la part de la population ». L’appel public a été signé par plus de 800 experts, scientifiques, figures politiques et personnalités célèbres, dont des grands noms comme le prix Nobel de physique Geoffrey Hinton, le cofondateur d’Apple Steve Wozniak ou le professeur d’informatique Stuart Russell.
À lire aussi :
Extinction de l’humanité
Le Future of Life Institute estime qu’il est « inacceptable » de plancher sur une technologie comme la superintelligence « sans aucun cadre réglementaire ». Les signataires demandent qu’il soit illégal de construire une superintelligence, et souhaitent que les géants de la technologie cessent de se précipiter vers des IA surperformantes tant qu’on ne sait pas comment en réduire les risques. Le texte met en garde contre la disparition du travail humain et du pouvoir de décision, la perte des libertés individuelles, les risques pour la sécurité nationale, et même la possibilité d’une extinction de l’humanité si ces systèmes d’IA venaient à échapper à tout contrôle.
Max Tegmark, président du Future of Life Institute assure qu’il est possible d’adopter une position nuancée au sujet de l’évolution de l’IA. En effet, le responsable de l’organisme souligne qu’on « peut être en faveur de la création d’outils d’intelligence artificielle plus puissants, pour guérir le cancer par exemple, tout en étant contre la superintelligence ».
Ce n’est pas la première que le Future of Life Institute tire la sonnette d’alarme au sujet de l’IA. En 2023, quelques mois après le raz de marée provoqué par ChatGPT, l’organisation avait déjà réclamé un moratoire de six mois sur toutes les technologies reposant sur l’IA. La demande de moratoire a été massivement ignorée par les géants de la technologie. Les travaux de recherche et d’entraînement de modèles d’IA puissants ont continué, et se sont même accentués.
Où en est la course à la superintelligence ?
Les rois de la Silicon Valley se sont lancés dans la course à l’intelligence artificielle, à grands renforts d’investissements faramineux. Leader de l’IA générative, OpenAI table sur l’émergence d’une superintelligence artificielle dans un délai de cinq ans. Même son de cloche chez Google et sa filiale DeepMind, qui visent l’émergence d’une IA générale et superintelligente d’ici à 2030. Le groupe de Mountain View a l’intention d’investir environ 75 milliards de dollars au cours de 2025 pour la mettre au point.
Mêmes dépenses stratosphériques chez Meta. Cet été, le géant des réseaux sociaux a fini par se réorganiser dans le but avoué d’aboutir à la « superintelligence » dans les plus brefs délais. Le groupe de Mark Zuckerberg a prévu de dépenser jusqu’à 72 milliards de dollars cette année, surtout pour construire de nouveaux centres de données et pour recruter des chercheurs qualifiés, notamment en débauchant à tour de bras chez Apple. Citons aussi les travaux en cours en Chine. La Chine a officialisé son ambitieux plan AI+, qui prévoit de tripler la puissance de calcul du pays et de viser la superintelligence d’ici à 2030.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google Actualités, abonnez-vous à notre canal WhatsApp ou suivez-nous en vidéo sur TikTok.
Source :
Future of Life Institute