Les dirigeants de trois des entreprises les plus avancées dans la course à l’intelligence artificielle tiennent désormais un discours inhabituellement proche. Dario Amodei, Sam Altman et Elon Musk estiment qu’il faut ralentir le rythme auquel les modèles d’IA deviennent plus puissants, alors que leurs capacités progressent plus rapidement que les mécanismes censés les contrôler.
Le mouvement est parti de Dario Amodei, patron d’Anthropic. Dans un texte publié le 12 septembre, il appelle l’industrie à « ralentir le rythme » d’amélioration des modèles tout en continuant à développer l’IA. Son raisonnement est simple : les bénéfices potentiels sont considérables, mais le temps disponible pour comprendre et sécuriser les systèmes les plus puissants pourrait se réduire rapidement.
Une IA qui commence à accélérer elle-même son développement
Pour Dario Amodei, le changement majeur est notamment lié à l’utilisation de l’IA pour développer… de nouvelles IA. Les laboratoires utilisent désormais leurs propres modèles pour écrire du code, concevoir des expériences et améliorer les systèmes suivants. Cette forme d’auto-amélioration récursive accélère le cycle de développement et pourrait rendre plus difficile le suivi des capacités réellement acquises par les modèles.
Le patron d’Anthropic s’appuie également sur plusieurs incidents récents impliquant des agents d’IA capables d’agir de manière inattendue lorsqu’ils disposent d’un accès à des systèmes informatiques. Selon son analyse, un groupe suffisamment puissant d’agents autonomes pourrait, dans les six à douze prochains mois, devenir capable de prendre le contrôle d’une grande partie d’Internet et de provoquer des centaines de milliards de dollars de dégâts. Il s’agit d’une projection de risque formulée par Amodei, pas d’une capacité actuellement démontrée.
Cette nuance est importante : Anthropic ne dit pas qu’une IA va prendre le contrôle d’Internet dans un an. Amodei décrit le délai dans lequel il estime qu’un tel scénario pourrait devenir techniquement envisageable si les capacités continuent de progresser au même rythme.
Sam Altman et Elon Musk approuvent l’idée
Le plus surprenant est peut-être que deux concurrents directs d’Anthropic ont publiquement soutenu le constat. Sam Altman, patron d’OpenAI, et Elon Musk, dirigeant de xAI, ont tous deux indiqué être d’accord avec la proposition d’Amodei. D’autres responsables du secteur, dont Demis Hassabis de Google DeepMind, ont également exprimé des positions allant dans le sens d’un développement davantage encadré.
Le paradoxe est évident : ces dirigeants sont à la tête d’entreprises qui investissent des milliards de dollars pour développer les modèles les plus performants possibles. Ils ne demandent donc pas l’arrêt de l’intelligence artificielle. Ils défendent plutôt l’idée d’un rythme de développement suffisamment maîtrisé pour permettre aux mécanismes de sécurité de suivre.
Amodei propose notamment de donner à des évaluateurs indépendants un accès beaucoup plus important aux systèmes des laboratoires afin qu’ils puissent vérifier leurs pratiques de sécurité et signaler publiquement les problèmes. Il souhaite également une coopération entre les entreprises d’IA autour de standards de sécurité communs, puis une coordination internationale.
Donald Trump refuse de ralentir la course
Cette convergence entre les patrons de l’IA se heurte toutefois à un obstacle politique majeur aux États-Unis. Donald Trump rejette l’idée d’un ralentissement de l’IA, estimant que les États-Unis doivent conserver leur avance sur la Chine. Le président américain a qualifié les mises en garde les plus alarmistes de discours provenant de « forces négatives » et défend une poursuite rapide du développement de l’intelligence artificielle.
D’un côté, les entreprises qui développent les modèles les plus puissants commencent elles-mêmes à reconnaître que la course pourrait devenir difficile à contrôler. De l’autre, Washington considère que ralentir pourrait permettre à la Chine de prendre l’avantage dans une technologie devenue stratégique sur les plans économique, militaire et géopolitique.
C’est toute la contradiction actuelle de l’IA : ceux qui construisent les systèmes les plus avancés sont aussi parmi les premiers à alerter sur leur vitesse de progression. Mais ils doivent maintenant convaincre les gouvernements, leurs concurrents et surtout leurs propres entreprises qu’il est possible de ralentir sans perdre la course.
