Le robot conversationnel ChatGPT avait surpris le monde entier fin 2022 par ses capacités à fournir des réponses précises aux requêtes sur le mode de la conversation et à générer des textes à volonté, laissant entrevoir une nouvelle façon d’appréhender le Web mais menaçant aussi de nombreux métiers.
S’il utilisait le modèle de langage GPT 3.5 à son lancement, la bascule vers le modèle GPT-4 a largement renforcé ses performances, le rendant toujours plus pertinent et capable de générer toutes sortes de texte, tout en amplifiant ses défauts en matière de création de fake news et de désinformation massive.
Ce qu’il sait faire en matière de texte, d’autres IA peuvent le faire avec des images, des vidéos ou de l’audio de façon toujours plus subtile et propre à pouvoir manipuler ou tromper l’opinion, déjà très prompte à réagir de façon émotionnelle et immédiate sur un fragment d’information, vraie ou fausse.
Les IA avancées sans contrôle, un risque pour l’humanité
Devant les dangers qui se profilent dès à présent des mésusages des intelligences artificielles, le milliardaire Elon Musk ainsi qu’un groupe d’experts en IA appellent dans une lettre ouverte à une mise en pause pour six mois au moins des développements d’intelligences artificielles plus puissantes que le GPT-4 d’OpenAI.
Considérant que les intelligences en concurrence avec les humains peuvent générer « des risques importants pour la société et l’humanité » et que trop de garde-fous sont posés pour contenir ces risques dans un secteur lancé dans une course aux IA toujours plus puissantes, il est urgent de recadrer ces travaux alors que même leurs créateurs ne peuvent « les comprendre, les anticiper ou les contrôler de façon fiable« .
L’argument fait sans doute référence aux propos de Sam Altman, président d’OpenAI, qui indique lui-même avoir « un peu peur » de l’étendue des possibilités de ChatGPT et de conséquences imprévues dans ses usages criminels comme dans ses effets sur la société.
Une pause pour mieux progresser ensuite
La lettre ouverte est signée par un millier de personnalités du secteur de l’intelligence artificielle et la présence d’Elon Musk parmi les signataires n’est pas étonnante dans la mesure où l’homme d’affaires exprime depuis longtemps des craintes face à l’essor rapide des intelligences artificielles avancées.
Le lancement de ChatGPT a déclenché une frénésie de projets IA émergeant partout dans le monde, parfois de façon précipitée pour ne pas rester en retrait des derniers développements et malgré les alertes sur les dysfonctionnements, comme les hallucinations des IA, ou les utilisations frauduleuses de plus en plus subtiles et difficilement détectables.
La pause de six mois doit permettre de mettre en place un ensemble de règles et de protocoles de sécurité pour la conception d’IA avancées qui permettront la poursuite des projets sans tomber dans une course se focalisant uniquement sur les performances sans prendre en compte les effets indésirables d’intelligences en passe de surpasser les humains sur bien des points.
Les experts en appellent aussi aux politiques pour constituer des autorités et régulateurs dédiés à l’intelligence artificielle capables de réguler le secteur, d’assurer une supervision des avancées mais aussi d’encadrer la gestion des risques que des IA pourraient causer à l’avenir.
Cet appel à une modération sera-t-il entendu ? L’irruption de ChatGPT a ouvert une boîte de Pandore et fait émerger des projets d’IA qui restaient jusque là confinées dans les laboratoires de grands groupes.
Désormais, les projets sont nombreux, personne ne voulant rester en arrière et manquer l’opportunité de financements, même si la plupart sont présentés alors qu’ils sont loin d’être finalisés.
Pourtant, d’importantes questions restent en suspens, à commencer par l’utilisation de l’immense quantité de données récupérées sans droit depuis l’Internet pour entraîner les intelligences artificielles génératives et dont les détenteurs commencent déjà à se manifester.
La question de l’impact environnemental de ces IA avancées va également se poser de façon plus aigue. Il faut des dizaines de milliers de cartes graphiques pour faire fonctionner ChatGPT ou les IA créatrices d’images ou de vidéos et chaque requête est une grosse bouffée de CO2 alimentant le réchauffement climatique. Des solutions devront être trouvées là aussi.