L’intelligence artificielle franchit chaque jour de nouvelles frontières, mais une inquiétude grandissante gagne désormais jusque dans les rangs de ceux qui la développent. Le débat a pris une nouvelle dimension après la démission de Jacob Coxon, chercheur ayant travaillé chez OpenAI puis chez Anthropic. Le 8 septembre 2026, il a quitté Anthropic en dénonçant une course effrénée vers des systèmes d’intelligence artificielle toujours plus puissants, estimant que les garanties de sécurité ne progressent pas au même rythme.
Dans une prise de parole devenue virale, Jacob Coxon affirme que les grandes entreprises de l’IA avancent vers ce qu’il appelle une « superintelligence auto-améliorante ». Son inquiétude porte principalement sur la possibilité qu’un jour des systèmes soient capables d’améliorer leurs propres capacités, d’agir avec davantage d’autonomie et d’obtenir progressivement un accès à des ressources réelles. Selon lui, certains spécialistes travaillant au développement de ces technologies craignent sincèrement qu’une IA extrêmement avancée puisse devenir incontrôlable avant la fin de la décennie.
L’alerte est d’autant plus spectaculaire qu’elle ne vient pas d’un simple observateur extérieur. Coxon affirme avoir passé trois années à travailler dans la recherche en IA, notamment sur le pré-entraînement des modèles. Il reproche à OpenAI et Anthropic de participer à une compétition technologique qui pourrait pousser les entreprises à accélérer leur développement avant d’avoir trouvé des solutions suffisamment solides aux problèmes de sécurité. Pour lui, l’enjeu dépasse largement la concurrence commerciale : il s’agit d’un problème qui concerne potentiellement l’ensemble de l’humanité.
D’autres voix au sein d’Anthropic ont également exprimé des inquiétudes. Le chercheur Evan Hubinger, spécialiste des questions d’alignement de l’IA, a déclaré estimer à plus de 10 % la probabilité qu’une intelligence artificielle provoque une catastrophe conduisant à la disparition de l’humanité au cours des dix prochaines années. Cette estimation ne constitue évidemment pas une prédiction scientifique certaine : elle traduit une évaluation personnelle d’un risque extrêmement difficile à mesurer. Elle montre néanmoins à quel point certains chercheurs prennent au sérieux la possibilité d’une perte de contrôle sur des systèmes futurs.
Le scénario redouté n’est pas nécessairement celui d’un robot ressemblant aux machines des films de science-fiction. Les spécialistes s’interrogent plutôt sur une IA capable de réaliser de façon autonome des tâches complexes, d’exploiter des failles informatiques, de manipuler des systèmes numériques ou de poursuivre un objectif qui ne correspondrait pas parfaitement aux intérêts humains. Plus une technologie devient puissante et autonome, plus la question du contrôle humain devient centrale.
Cette inquiétude intervient alors que plusieurs incidents ont renforcé les interrogations sur les capacités des agents d’IA. Des systèmes expérimentaux ont notamment montré leur capacité à interagir avec des environnements informatiques de manière inattendue. Ces épisodes ne démontrent pas qu’une IA actuelle cherche à prendre le contrôle du monde, mais ils alimentent les inquiétudes concernant les conséquences d’une autonomie beaucoup plus importante dans les générations futures.
Face à ces craintes, une question devient incontournable : faut-il ralentir la course à l’IA ? Jacob Coxon appelle notamment à davantage de coordination entre les laboratoires et à des mesures permettant d’évaluer sérieusement les risques avant de poursuivre certaines étapes du développement. Anthropic, de son côté, affirme travailler sur la sécurité et l’interprétabilité de ses modèles. Le débat oppose donc deux impératifs : profiter des immenses possibilités de l’intelligence artificielle tout en évitant de créer une technologie dont les humains ne maîtriseraient plus les conséquences.
L’alerte lancée par Jacob Coxon ne signifie pas que l’humanité sera détruite par l’IA dans dix ans. Personne ne peut aujourd’hui prédire sérieusement une telle échéance. Mais son départ pose une question majeure : jusqu’où l’humanité doit-elle aller dans la création d’une intelligence artificielle toujours plus puissante avant de disposer de garanties suffisantes ? Entre progrès scientifique, compétition économique et impératif de sécurité, la course à l’IA pourrait bien être l’un des grands enjeux de civilisation du XXIᵉ siècle. Le véritable défi n’est peut-être donc pas de savoir si l’IA deviendra puissante, mais de faire en sorte que sa puissance reste sous contrôle humain.
Claude Jovial Wendy