L’intelligence artificielle (IA) suscite beaucoup d’interrogations. L’agence américaine de protection des consommateurs, la FTC, qui fait aussi office d’autorité de la concurrence, a envoyé à OpenAI, créatrice de l’interface ChatGPT, une longue liste d’éléments qu’elle souhaite obtenir de la start-up de San Francisco, selon un document publié par le Washington Post, une procédure classique préalable à d’éventuelles poursuites ou un possible accord amiable.
La FTC s’intéresse notamment à la sécurisation des données personnelles utilisées par la plate-forme. OpenAI a reconnu qu’une faille technique avait entraîné, fin mars, la divulgation d’informations relatives à certains utilisateurs de ses services, principalement leur adresse électronique et une partie de leurs données bancaires.
Par ailleurs, les demandes de la FTC font référence à des plaintes d’usagers, selon lesquels les modèles de langage d’OpenAI, dont fait partie ChatGPT, ont généré des réponses « fausses, trompeuses, méprisantes ou nocives » concernant des individus.
La FTC interroge donc également OpenAI sur les dispositions prises pour prévenir la génération de contenu erroné et fausses informations par l’interface d’IA dite générative, c’est-à-dire capable de produire des réponses complètes à tout type de demande en langage courant.
« Divulgation d’informations sensibles »
L’agence de protection des consommateurs a déjà indiqué suivre de près le développement de l’IA générative, qui passionne et inquiète tout à la fois depuis le lancement de ChatGPT en novembre dernier.
Le patron d’OpenAI, Sam Altman, a dit jeudi regretter que l’ouverture de cette enquête ait été divulguée dans la presse, ce qui « n’instaure pas la confiance ». L’entreprise travaillera « bien entendu » avec la FTC, a-t-il assuré sur Twitter, ajoutant : « Il est très important pour nous que notre technologie soit sûre et en faveur des utilisateurs, et nous sommes convaincus que nous respectons la loi. »
« Nous avons eu vent de signalements relatifs à la divulgation d’informations sensibles concernant une personne alors que la demande a été formulée par quelqu’un d’autre », a déclaré jeudi la présidente de la FTC, Lina Khan, lors d’une audition au Congrès. Elle a également fait état de « déclarations diffamatoires, complètement fausses », qui auraient été produites par des interfaces d’intelligence artificielle générative. « C’est ce type de tromperie qui nous inquiète. »
Côté concurrence, Mme Khan a déjà indiqué que son agence suivait de près la structuration de ce secteur pour éviter que des entreprises déjà établies ne brident la concurrence.