après un accord polémique, une dirigeante OpenAI démissionne par « principe »

après un accord polémique, une dirigeante OpenAI démissionne par « principe »



La signature d’un accord entre OpenAI et le Pentagone continue de susciter la controverse. La patronne de la robotique du groupe, Caitlin Kalinowski, a préféré démissionner par « question de principe ».

La semaine dernière, OpenAI a signé un accord avec l’armée américaine. Profitant du divorce d’Anthropic avec l’administration Trump, la start-up a autorisé le département de la Guerre américaine (DoW) à se servir de ChatGPT pour mener des opérations militaires. L’annonce a provoqué une vive polémique, à tel point que de nombreux utilisateurs ont décidé de désinstaller ChatGPT de leurs smartphones.

Face au tollé, Sam Altman, PDG d’OpenAI, a tenu à « apporter quelques modifications » à l’accord signé avec le Pentagone. Pour désamorcer la polémique, la start-up a ajouté des clauses précises destinées à encadrer l’utilisation de ChatGPT par les forces armées. Ces nouvelles clauses interdisent surtout aux agences de renseignements, comme la NSA, d’exploiter l’intelligence artificielle. En parallèle, Sam Altman a reconnu devant ses employés qu’OpenAI n’aura pas son mot à dire sur la façon dont l’IA sera exploitée par l’armée américaine. L’accord avec le Pentagone, et les aveux d’impuissance d’Altman, ont été très mal accueillis par les salariés d’OpenAI. Ceux-ci ont publié une lettre ouverte pour demander à la société de revoir sa position. En vain.

À lire aussi : Le créateur de ChatGPT relativise la consommation de l’IA avec un argument surprenant

C’est « une question de principe »

Dans ce contexte, Caitlin Kalinowski, la directrice générale de la branche robotique du groupe, a préféré claquer la porte. La jeune femme vient de rendre sa démission à la suite du deal avec le gouvernement. Sur X, elle explique que son départ est « une question de principe », et « pas de personnes ».

« L’IA a un rôle important à jouer dans la sécurité nationale. Mais la surveillance des citoyens américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine sont des limites qui méritaient une réflexion plus approfondie », estime Caitlin Kalinowski, soulignant qu’il s’agit d’une « décision difficile ».

L’ingénieure précise qu’elle n’est pas fondamentalement opposée à un accord d’OpenAI avec l’armée, mais elle trouve que « l’annonce a été précipitée, sans cadre préalable défini ». Selon elle, la start-up n’a pas pris le temps de faire les choses correctement. Quelques jours plus tôt, Sam Altman avait lui-même regretté que l’accord, et son annonce publique, aient été un peu précipités. Pour Caitlin Kalinowski, c’est un sujet trop important « pour que les accords ou les annonces soient précipités » de cette façon.

Dans un communiqué adressé à Engadget, OpenAI précise ne pas partager le point de vue de Caitlin Kalinowski, mais se dit conscient que le deal avec l’armée provoque de fortes réactions. La société s’engage à continuer à en discuter avec les acteurs concernés. Le leader de l’IA se dit persuadé que l’accord avec « le Pentagone montre qu’il est possible d’utiliser l’IA de manière responsable au service de la sécurité nationale, tout en fixant clairement » des « lignes rouges », à savoir « aucune surveillance sur le territoire et aucune arme autonome ».

La démission de Caitlin Kalinowski s’ajoute à la longue liste des départs qui ont frappé OpenAI depuis 2024. Avant la cheffe de la robotique, le cofondateur Ilya Sutskever, l’autre cofondateur John Schulman, ou encore la directrice technique Mira Murati, ont abandonné le navire. Ces démissions découlent majoritairement de tensions internes, issues du virage d’OpenAI vers la recherche de profit.

👉🏻 Suivez l’actualité tech en temps réel : ajoutez 01net à vos sources sur Google, et abonnez-vous à notre canal WhatsApp.





Source link

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.