La conscience doit être réservée aux être humains, affirme Mustafa Suleyman. Le directeur de l’IA chez Microsoft s’inquiète des travaux chez les acteurs du secteur qui cherchent à mettre au point une « intelligence artificielle consciente ».
« L’IA ne souffre pas, elle ne ressent pas la tristesse », rappelle — à toutes fins utiles — le patron de l’IA de Microsoft. Les bots IA ne font que simuler des comportements conscients, a-t-il rappelé durant une conférence à Houston. Les machines ne possèdent ni « réseau » de douleur, ni de volonté d’éviter la souffrance.
« L’IA ne souffre pas »
Très engagé sur ce terrain, Mustafa Suleyman milite pour des « zones interdites » dans la recherche en IA. Microsoft n’a par exemple pas l’intention de développer de chatbot érotique, contrairement à ce que propose déjà xAI, tandis qu’OpenAI y travaille. « Nous faisons des choix sur les endroits où nous ne voulons pas aller », a-t-il expliqué. L’entreprise veut construire des IA conscientes d’être des outils, toujours « au service des humains ».
Tout en reconnaissant la puissance de ces technologies, il met en garde contre l’« accélérationnisme » aveugle : « Si vous n’avez pas un peu peur de l’IA, c’est que vous ne la comprenez pas. La peur est saine, le scepticisme nécessaire. » Mustafa Suleyman, venu chez Microsoft en 2024 après l’acquisition de sa start-up Inflection AI, est aussi le cofondateur de DeepMind vendu à Google en 2014. Il s’est lancé dans une tournée des popotes pour prévenir des risques que pose le développement d’une « conscience » dans l’IA.
Mustafa Suleyman ne veut empêcher personne de creuser le sujet, mais il estime que les recherches sur la « conscience » de l’IA devraient tout simplement s’arrêter. « [Les IA] ne sont pas conscientes. Il serait donc absurde de mener des recherches sur cette question, car elles ne le sont pas et ne peuvent pas l’être. »
Cette inquiétude reflète la course à l’échalote des acteurs de l’IA qui cherchent à atteindre le stade de l’AGI, l’intelligence artificielle générale au même niveau que l’intelligence humaine. Sam Altman, le patron d’OpenAI, a expliqué le mois dernier que ce terme d’AGI n’était pas « très utile » ; ce qui se passe actuellement, c’est plutôt que les modèles IA avancent rapidement et qu’on va s’en servir pour de plus en plus de choses.
?? Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google Actualités, abonnez-vous à notre canal WhatsApp ou suivez-nous en vidéo sur TikTok.
Source :
CNBC