Dans un paysage technologique en volution rapide, l’IA gnrative promet des avances rvolutionnaires, mais ses applications pratiques laissent souvent dsirer. Alors que les gants de la technologie investissent des milliards dans l’infrastructure de l’IA, les inquitudes concernant la confidentialit des donnes persistent. Privacy International souligne que le capitalisme de surveillance, aliment par la collecte incessante de donnes, exerce dj une influence considrable et l’IA serait sur le point d’accentuer cette tendance.
Privacy International (PI) est une organisation caritative enregistre au Royaume-Uni qui dfend et promeut le droit la vie prive dans le monde entier. Cre en 1990, enregistre en tant que socit but non lucratif en 2002 et en tant qu’association caritative en 2012, PI est base Londres. Son directeur excutif actuel, depuis 2012, est le Dr Gus Hosein.
L’engouement pour l’IA est-il en train de s’estomper ? Les produits de consommation dots d’un assistant d’IA sont dcevants dans l’ensemble, les PDG des entreprises technologiques peinent donner des exemples de cas d’utilisation pour justifier l’investissement de milliards dans les units de traitement graphique (GPU) et la formation de modles. Par ailleurs, les proccupations en matire de protection des donnes sont encore loin d’tre rsolues.
Pourtant, les croyants demeurent. La prsentation de ChatGPT par OpenAI rappelait le film Her (la voix de Scarlett Johannsen tant mme reproduite comme dans le film), Google a russi inclure l’IA dans presque toutes les annonces de sa Google I/O 2024 et Apple s’est joint la foule avec Apple Intelligence. Ainsi, les entreprises qui mnent la charge de l’IA continuent d’affirmer que cette technologie sera une rvolution et qu’elle changera tout.
Les citoyens se retrouvent donc avec deux rcits trs diffrents : la promesse ou le gaspillage.
D’un ct, il y a la promesse : l’IA est en passe de remplacer nos emplois et d’augmenter massivement le PIB. Elle s’emparera d’Hollywood et produira des films complets partir de quelques invites, dcuplera notre productivit et nous aidera atteindre les objectifs de dveloppement durable des Nations unies. Dans quelques annes, elle se transformera en agents omniscients qui nous aideront tout faire, tout en traant la voie vers l’intelligence artificielle gnrale (AGI).
De l’autre ct, il y a le gaspillage : ce n’est qu’un autre lment technologique qui a attir un nombre insens de financements sans produire de rsultats. Il s’agit simplement d’une itration de choses que nous avons dj vues (par exemple, « big data ! », « algorithmes ! ») laquelle on ne peut pas faire confiance parce qu’elle hallucine, et elle s’accompagne de cots et d’impacts environnementaux massifs qui la condamnent disparatre jusqu’ ce qu’une nouvelle perce scientifique en matire d’apprentissage automatique apparaisse.
Capture d’cran de Google AI Overview suggrant de manger au moins un petit caillou par jour
Il ne vous reste donc plus qu’ choisir : soit vous vous laissez sduire par le battage mdiatique et esprez tre du bon ct de la rvolution de la GenAI, soit vous attendez qu’elle meure et esprez qu’elle n’aggrave pas la situation.
Mais l’avenir, comme souvent, pourrait s’avrer tre un juste milieu. Compte tenu des sommes d’argent investies dans la GenAI par les investisseurs en capital-risque, les fonds souverains et les grandes entreprises technologiques, il est difficile d’imaginer qu’elle puisse s’effondrer et disparatre sans avoir produit quoi que ce soit de valable. On pourrait dire que cela s’est dj produit avec la blockchain ou la ralit virtuelle (et on n’aurait pas tort), mais il reste des cas d’utilisation de niche trs puissants. Dans le cas de la GenAI, il existe dj des cas d’utilisation pour les personnes : des adolescents ont dj trouv dans cette technologie un compagnon utile, 90 % des dveloppeurs bass aux tats-Unis ont adopt des assistants de codage IA et son utilisation dans la recherche mdicale est trs prometteuse.
Le problme rside dans le fait qu’un produit raisonnablement utile (par opposition un produit rvolutionnaire) dont le cot de livraison est trs lev ne constitue pas un bon modle commercial pour le consommateur. L’abonnement pourrait tre une solution mais, si l’on en croit la sant des journaux en ligne, ce n’est peut-tre pas l’option la plus solide.
L’industrie pourrait abandonner les produits d’IA destins aux consommateurs et adopter des modles d’accs l’API pour le B2B. Mais pour les gants de la consommation comme Google et Meta, ce n’est pas vraiment une option. D’autant plus qu’ils promettent de ne pas entraner leurs modles avec les donnes des entreprises. La taille des modles pourrait diminuer en mme temps que les cots de calcul, mais il restera toujours des cots, ne serait-ce que pour trouver des donnes collecter et entraner les modles.
Que se passera-t-il une fois que les essais gratuits seront termins ? Une fois qu’un modle conomique devient ncessaire pour couvrir ces cots ? Quelle est la solution ?
Ce sera la publicit.
Au cours des dix dernires annes, la publicit a t le modle conomique des grandes entreprises technologiques proposant des services (pensez Google Search plutt qu’ l’iPhone), et il y a peu de raisons de penser que cela changera avec la prochaine gnration de technologies. Facebook tait exempt de publicit, tout comme Google, les boutiques d’applications et nos systmes d’exploitation. Mais les publicits ont fait leur apparition dans tous les produits destins aux consommateurs, avec la promesse de ces entreprises que les annonceurs seraient en mesure de cibler les gens avec une prcision tonnante, toujours au bon moment et pour le bon prix. Les consommateurs pouvaient continuer profiter de ces produits tant qu’ils acceptaient d’tre cibls par des publicits.
Une infraction rcente de Microsoft : Windows 11 affiche des applications « recommandes » dans le menu Dmarrer
La promesse d’un internet libre et ouvert a t reprise par la publicit comportementale. Ce modle avait un cot, notamment pour notre vie prive. Pour que la publicit comportementale puisse voir le jour, il fallait un rseau de surveillance, que nos moindres mouvements et actions en ligne soient suivis, collects et regroups dans des profils visant dcrire le type de personne que nous sommes et ce que nous dsirons. L’examen de ce dossier de renseignements vous concernant est troublant, que vous ayez consult votre historique Google ou, comme PI l’a fait, exerc votre droit d’accs vos donnes en Europe. Ce profilage est effrayant, il a port prjudice des individus et des socits et ne peut tre justifi par la ncessit de nous montrer des publicits.
Tout comme le capitalisme de surveillance s’est empar du web, il s’emparera de la GenAI. Malgr de nombreux dfis, politiques et juridiques, dans le monde entier, le capitalisme de surveillance continue d’tre le modle commercial dominant. Il a ancr le non-respect des donnes personnelles des utilisateurs si profondment dans l’thique des entreprises technologiques que le fondement mme de la GenAI tait l’exploitation de ces donnes par le biais du scraping et du traitement afin de crer des ensembles de donnes qui seraient utiliss pour entraner les modles d’IA.
Youtube affiche une publicit inscable avant une vido de premiers secours
Aujourd’hui, les promesses des produits d’IA de devenir des assistants omniprsents ouvrent la porte une nouvelle richesse de donnes, portant les niveaux de menace pour notre vie prive de nouveaux sommets. Les sites web consacrs la sant mentale partageant vos donnes avec des tiers inconnus taient dj assez effrayants, mais nous devons maintenant faire face l’ide d’un logiciel unique ayant accs toutes nos informations. Ce sera le prix de l’accs aux ressources cls que les grandes entreprises technologiques ont accumules : la puissance de calcul, l’expertise et les connaissances scientifiques, la position sur le march. Les grandes entreprises dominent ces ressources et dcident en fin de compte qui y a accs, y compris les concurrents. Cela signifie que nous devrons faire confiance ces acteurs pour qu’ils agissent dcemment avec les informations auxquelles l’IA accde et qu’elle gnre, une confiance qu’ils ont rompue maintes reprises par le pass.
La GenAI n’a pas besoin de conqurir le monde, les entreprises qui monopolisent son dveloppement l’ont dj fait. Et le capitalisme de surveillance avec. Heureusement, nous n’en sommes qu’au dbut et nous avons tous la possibilit d’intervenir pour faire quelque chose. Qu’il s’agisse de rglementations, d’actions en justice ou d’actes de protestation individuels, la lutte est engage pour un avenir o la technologie est notre service et non celui des grandes entreprises.
Source : Privacy International
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :