La fracture entre les partisans d’un développement prudent de l’intelligence artificielle et les tenants d’une course effrénée à l’innovation devient de plus en plus visible. Alors que les enjeux éthiques et sociétaux se multiplient, les géants mondiaux de l’IA semblent désormais opter pour une approche fondée sur la sécurité.
D’après le cabinet de conseil Seroquel, des acteurs majeurs du secteur comme OpenAI, Anthropic ou DeepMind concentrent leurs efforts sur la fiabilité, la stabilité et l’éthique des systèmes d’IA. Une orientation qui reflète une volonté croissante de penser la cohabitation à long terme entre l’humain et la machine, plutôt que de céder à une vision technophile extrême misant sur la « transcendance » par la technologie.
Mais cette évolution s’inscrit dans un débat plus profond, presque philosophique, qui agite les cercles influents de la Silicon Valley. Deux courants s’y opposent : d’un côté, l’altruisme efficace (Effective Altruism, AE), qui milite pour une IA alignée sur les valeurs humaines, contrôlée et déployée de manière responsable ; de l’autre, l’accélérationnisme efficace (Effective Accelerationism, e/acc), qui prône une avancée technologique rapide, sans freins, convaincu que le progrès triomphe des incertitudes.
© IA – ChatGPT
IA : une vision éthique et prudente
Depuis son émergence à la fin des années 2000, l’intelligence artificielle s’est largement démocratisée. Des penseurs comme Peter Singer, Toby Ord ou William MacAskill en ont posé les fondements philosophiques, tandis que des structures comme GiveWell ou l’organisation caritative Open Philanthropy ont ancré ces idées dans la pratique.
Aujourd’hui, l’attention se concentre sur les risques existentiels que pourrait représenter l’intelligence artificielle générale pour l’humanité.
Ces experts plaident pour une approche centrée sur la sécurité et l’éthique, quitte à freiner le développement technologique. Ils encouragent un investissement accru dans la recherche sur l’alignement de l’IA et sur les usages vertueux de la technologie, notamment pour contrer le dérèglement climatique, les maladies infectieuses ou encore la pauvreté.
Cap sur la vitesse et la disruption
Le courant e/acc, de son côté, adopte une vision radicalement différente : ses partisans considèrent que l’intelligence artificielle engendrera de nouvelles formes de conscience et de vie, et qu’il faut en accélérer le développement à tout prix. Ce courant puise ses origines chez le philosophe britannique Nick Land, et compte aujourd’hui comme figure de proue l’ex-ingénieur de Google Guillaume Verdon. Des figures influentes de la Silicon Valley, telles que Marc Andreessen et Peter Thiel, s’en font les relais.
Selon eux, la technologie doit servir avant tout la compétition, la croissance et la productivité. L’éthique et la régulation passent au second plan, derrière l’efficacité économique et l’innovation à marche forcée — quitte à envisager, sans détour, le remplacement de l’humanité par une IAG supérieure.
Cette position demeure toutefois marginale. Elle reste à l’écart du consensus actuel et n’est soutenue que par une poignée d’acteurs influents mais isolés.
Vers une synthèse stratégique dans les entreprises
Du côté des entreprises, nombreux sont les acteurs qui tentent de concilier les deux visions en présence. L’objectif : adopter une trajectoire technologique accélérée tout en intégrant les garde-fous éthiques et les principes de précaution portés par le courant EA. Cette stratégie hybride vise à préserver à la fois l’avantage concurrentiel et la légitimité sociale.
Toutefois, certains observateurs avertissent qu’un tel positionnement, trop ouvertement affiché, pourrait s’avérer périlleux. En effet, le mouvement EA occupe une place centrale dans les débats réglementaires mondiaux et bénéficie d’une forte acceptation auprès du marché.
« À mesure que le développement technologique s’intensifie, le niveau de responsabilité exigé progresse également », souligne un initié du secteur. Et de préciser : « Pour une entreprise, maintenir l’équilibre est crucial : il s’agit de rester compétitif sans compromettre la confiance du public. »