ChatGPT donne des sueurs froides à Amazon. Le géant du commerce en ligne s’est rendu compte que de nombreux employés se servent du chatbot comme assistant… mettant en péril les données internes de la firme.
Amazon se fait un sang d’encre au sujet de ChatGPT. Dans un mémo interne intercepté par nos confrères de Business Insider, un avocat du groupe exhorte les employés à ne surtout pas communiquer des informations confidentielles au chatbot d’OpenAI.
Cet avertissement fait suite à une vague de demandes apparues sur le Slack de l’entreprise. De nombreux salariés se demandaient en effet s’il était autorisé de se servir de ChatGPT pour le travail. Inquiets, ils réclamaient des directives officielles de la part des responsables.
À lire aussi : ChatGPT a réussi un examen de gestion, mais il reste nul en maths
Amazon a peur pour ses données confidentielles
D’après l’avocat, Amazon s’est rendu compte que l’intelligence artificielle a parfois généré des réponses qui imitent certaines de ses données internes. Le géant de Seattle estime que ChatGPT peut représenter un risque pour la confidentialité de ses informations. Le mémo évoque par ailleurs l’éventualité d’un « conflit d’intérêts ».
« C’est important parce que vos entrées peuvent être utilisées comme données de formation pour une nouvelle itération de ChatGPT, et nous ne voudrions pas que ses réponses intègrent ou ressemblent à nos informations confidentielles (et j’ai déjà vu des cas où sa réponse correspond étroitement au matériel existant) ».
En clair, ChatGPT pourrait se servir des requêtes des employés Amazon, contenant des informations internes, pour évoluer et générer des réponses. Les conditions d’utilisation de ChatGPT sont d’ailleurs claires à ce sujet :
« Nous pouvons utiliser les données que vous nous fournissez pour améliorer nos modèles. Non seulement cela aide nos modèles à devenir plus précis et plus efficaces pour résoudre votre problème spécifique, mais cela aide également à améliorer leurs capacités générales et leur sécurité ».
C’est la base même du machine learning, ou apprentissage automatique. L’intelligence artificielle apprend et évolue en fonction des données qu’elle consulte sans l’action d’un programmeur humain. Le modèle de langage évolue constamment en s’enrichissant des requêtes des utilisateurs.
Une aubaine pour la concurrence ?
En d’autres termes, les données internes d’Amazon pourraient tomber entre les mains d’OpenAI, la start-up derrière ChatGPT. Comme l’explique Emily Bender, professeure de linguistique informatique à l’université de Washington, OpenAI est loin d’être transparent sur la façon dont ils utilisent les données :
« Si elles sont intégrées en données de formation, je m’attendrais à ce que les entreprises se demandent : après quelques mois d’utilisation généralisée de ChatGPT, deviendra-t-il possible d’extraire des informations d’entreprises privées, avec des requêtes intelligemment conçues ? ».
On rappellera que la start-up a reçu d’importants financements de la part de Microsoft, l’un des concurrents d’Amazon dans le domaine du logiciel et du cloud computing. Pour mémoire, Microsoft a injecté un milliard de dollars dans OpenAI dès 2019. Plus récemment, la firme fondée par Bill Gates a annoncé un « investissement de plusieurs milliards de dollars sur plusieurs années » pour financer les innovations de la start-up, et ses ambitions colossales en matière d’IA.
Surtout, la firme de Jeff Bezos travaille actuellement sur une intelligence artificielle générative analogue à ChatGPT, révèle le message interne sur Slack. Ce futur chatbot entrera en concurrence directe avec la solution d’OpenAI. C’est pourquoi l’avocat d’Amazon avertit les employés d’un potentiel conflit d’intérêts.
On comprend donc aisément pourquoi Amazon n’apprécie pas que certains de ses développeurs exploitent ChatGPT pour les aider dans leur travail. Sur Slack, des salariés affirment en effet se servir du chatbot comme un « assistant de codage ». Pour dissuader ses employés, Amazon affiche désormais un avertissement sur les ordinateurs de l’entreprise. Si un appareil tente d’accéder à ChatGPT, un message indique que le chatbot est un service tiers qui « peut ne pas être approuvé » par la sécurité du groupe. Malgré ses craintes, Amazon permet à ses employés de contourner l’avertissement en un clic.
Amazon n’est pas le seul géant de la tech à s’inquiéter de l’essor de ChatGPT. Craignant que le chatbot intelligent ne finisse par concurrencer son moteur de recherche, Google a alloué davantage de chercheurs aux projets liés à l’IA. Le géant de Mountain View a même rappelé ses deux cofondateurs, Sergey Brin et Larry Page, à la rescousse pour relancer plus de 20 produits basés sur l’intelligence artificielle.
Source :
Business Insider