Eric Schmidt, ancien PDG de Google, a tir la sonnette d’alarme concernant les progrs rapides de l’intelligence artificielle (IA), avertissant que les systmes capables de s’amliorer par eux-mmes pourraient prsenter des risques imprvus. M. Schmidt a laiss entendre qu’ mesure que l’IA volue, il pourrait arriver un moment o l’humanit devrait envisager de dbrancher ces systmes avant qu’ils ne deviennent incontrlables. Ses commentaires interviennent alors que la course l’IA s’acclre, les entreprises repoussant les limites de l’innovation en dpit d’une surveillance rglementaire limite.
Ces proccupations de l’ancien PDG de Google sont partages par de nombreux chercheurs en IA qui considrent qu’il y a 5 % de chance que l’IA super intelligente provoque l’extinction de l’humanit. En effet, d’aprs une enqute mene auprs de 2700 chercheurs en IA qui ont rcemment publi leurs travaux dans six des principales confrences sur l’IA, prs de 58 % sont d’avis que cette perspective risque de se raliser.
Dans une rcente interview accorde au rseau ABC, Eric Schmidt a soulign la fois le potentiel impressionnant et les dangers prilleux du dveloppement de l’IA. Tout en clbrant les ralisations dans ce domaine, il a mis en avant les risques que les ordinateurs atteignent un stade o ils fonctionnent de manire autonome et prennent des dcisions sans intervention humaine.
La monte de l’IA autonome
Eric Schmidt a prvenu que la capacit des systmes d’IA s’amliorer eux-mmes pourrait tre plus proche que beaucoup ne le pensent, et qu’elle pourrait arriver dans les prochaines annes. Il a dcrit un avenir o ces systmes ne se contenteront pas de mener leurs propres recherches, mais possderont galement l’intelligence d’tres humains trs instruits.
Les implications de telles avances sont vastes, M. Schmidt comparant l’impact la prsence d’un polymathe dans la poche de chaque individu. Toutefois, il se demande si la socit est prte grer les consquences de l’octroi d’un tel pouvoir tout le monde.
En thorie, a suggr Eric Schmidt, quelqu’un doit toujours avoir la possibilit de dbrancher ces systmes. Toutefois, il a galement reconnu que l’IA pouvait contrer les efforts dploys pour l’arrter, soulignant ainsi la ncessit de mettre en place des mesures de protection au fur et mesure que la technologie volue.
Concurrence mondiale et lacunes rglementaires
La course la domination de l’IA s’intensifie, Eric Schmidt notant que la Chine a fait des progrs remarquables ces derniers mois, rattrapant les capacits amricaines d’une manire qu’il juge surprenante. M. Schmidt a soulign l’importance pour les tats-Unis de conserver une position de leader dans le dveloppement de l’IA, en plaidant pour une augmentation du financement, du matriel et de l’expertise afin de garantir que les nations occidentales restent en tte.
Au niveau national, cependant, la rglementation reste en retrait par rapport l’innovation. Les efforts visant tablir des lignes directrices ont chou, laissant les entreprises technologiques foncer sans un cadre cohrent. Eric Schmidt a prvenu qu’en l’absence d’une surveillance adquate, les risques associs l’IA pourraient s’intensifier, en particulier mesure que les systmes d’IA gnrative deviennent plus avancs.
Un appel pour une police de l’IA
Pour attnuer les risques potentiels, Eric Schmidt a propos une approche deux systmes. Il a suggr de crer un systme d’IA secondaire conu spcifiquement pour surveiller et rguler les actions du premier. Selon lui, les humains ne peuvent eux seuls contrler efficacement l’IA, mais les systmes d’IA pourraient tre capables de se surveiller mutuellement.
Si Eric Schmidt reste optimiste quant au pouvoir de transformation de l’IA, ses avertissements soulignent l’urgence de relever les dfis thiques et rglementaires poss par cette technologie en volution rapide. Alors que la course se poursuit, l’quilibre entre l’innovation et la prudence pourrait dterminer l’avenir du rle de l’IA dans la socit.
En novembre dernier, l’ex-dirigeant de Google a notamment mis en garde contre une nouvelle tendance inquitante : les « petites amies parfaites » cres par des modles d’IA avancs. Eric Schmidt a prvenu que les copines IA parfaites pourraient causer des problmes aux jeunes hommes, soulignant que ces outils, capables de gnrer des interactions motionnelles convaincantes, pourraient avoir des consquences nfastes.
Et vous ?
Quel est votre avis sur le sujet ?
Trouvez-vous que la position de M. Eric Schmidt est cohrente ou pertinente ?
Voir aussi :