La conscience doit être réservée aux être humains, affirme Mustafa Suleyman. Le directeur de l’IA chez Microsoft s’inquiète des travaux chez les acteurs du secteur qui cherchent à mettre au point une « intelligence artificielle consciente ».
« L’IA ne souffre pas, elle ne ressent pas la tristesse », rappelle — à toutes fins utiles — le patron de l’IA de Microsoft. Les bots IA ne font que simuler des comportements conscients, a-t-il rappelé durant une conférence à Houston. Les machines ne possèdent ni « réseau » de douleur, ni de volonté d’éviter la souffrance.
« L’IA ne souffre pas »
Très engagé sur ce terrain, Mustafa Suleyman milite pour des « zones interdites » dans la recherche en IA. Microsoft n’a par exemple pas l’intention de développer de chatbot érotique, contrairement à ce que propose déjà xAI, tandis qu’OpenAI y travaille. « Nous faisons des choix sur les endroits où nous ne voulons pas aller », a-t-il expliqué. L’entreprise veut construire des IA conscientes d’être des outils, toujours « au service des humains ».
Tout en reconnaissant la puissance de ces technologies, il met en garde contre l’« accélérationnisme » aveugle : « Si vous n’avez pas un peu peur de l’IA, c’est que vous ne la comprenez pas. La peur est saine, le scepticisme nécessaire. » Mustafa Suleyman, venu chez Microsoft en 2024 après l’acquisition de sa start-up Inflection AI, est aussi le cofondateur de DeepMind vendu à Google en 2014. Il s’est lancé dans une tournée des popotes pour prévenir des risques que pose le développement d’une « conscience » dans l’IA.
Mustafa Suleyman ne veut empêcher personne de creuser le sujet, mais il estime que les recherches sur la « conscience » de l’IA devraient tout simplement s’arrêter. « [Les IA] ne sont pas conscientes. Il serait donc absurde de mener des recherches sur cette question, car elles ne le sont pas et ne peuvent pas l’être. »
Cette inquiétude reflète la course à l’échalote des acteurs de l’IA qui cherchent à atteindre le stade de l’AGI, l’intelligence artificielle générale au même niveau que l’intelligence humaine. Sam Altman, le patron d’OpenAI, a expliqué le mois dernier que ce terme d’AGI n’était pas « très utile » ; ce qui se passe actuellement, c’est plutôt que les modèles IA avancent rapidement et qu’on va s’en servir pour de plus en plus de choses.
👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google Actualités, abonnez-vous à notre canal WhatsApp ou suivez-nous en vidéo sur TikTok.
Source :
CNBC