Un ancien chercheur d’OpenAI et d’Anthropic alerte sur les risques existentiels de l’IA d’ici la fin de la décennie

Port-au-Prince, 10 septembre 2026 — Le chercheur britannique de 27 ans, Jacob Coxon ayant travaillé successivement chez OpenAI et Anthropic a annoncé son départ de l’industrie de l’intelligence artificielle, en lançant une sévère mise en garde contre la course engagée par les grands laboratoires technologiques vers des systèmes toujours plus autonomes et puissants.

Jacob Coxon, spécialisé dans le pré-entraînement des modèles d’intelligence artificielle, affirme que les deux entreprises ne prennent pas suffisamment au sérieux les risques associés à leurs ambitions. Dans un message publié sur X le 9 septembre, il accuse notamment les laboratoires de « jouer avec nos vies » et estime que certains chercheurs du secteur considèrent réellement que des systèmes d’IA beaucoup plus avancés pourraient représenter un risque majeur pour l’humanité d’ici la fin de la décennie.

Coxon avait d’abord travaillé chez OpenAI avant de rejoindre Anthropic en 2026, qu’il considérait comme une entreprise adoptant une approche plus prudente en matière de sécurité de l’IA. Selon lui, son expérience chez les deux acteurs l’a finalement conduit à la conclusion qu’aucune des deux entreprises ne serait aujourd’hui en mesure de garantir un développement totalement sûr d’une intelligence artificielle dépassant les capacités humaines.

Une inquiétude également exprimée au sein d’Anthropic

L’alerte de Coxon a pris une dimension particulière après la réaction publique d’Evan Hubinger, responsable de travaux liés à la sûreté de l’IA chez Anthropic. Celui-ci a déclaré croire lui aussi que l’intelligence artificielle pourrait, dans un scénario extrême, constituer une menace existentielle pour l’humanité.

Hubinger a toutefois distingué les modèles actuellement disponibles des systèmes hypothétiques beaucoup plus puissants. Selon lui, le risque posé par les modèles actuels reste faible, tandis que les systèmes capables de dépasser largement les capacités humaines soulèvent des questions beaucoup plus difficiles en matière de contrôle et d’alignement. Il a également reconnu qu’Anthropic ne disposait pas encore, selon ses propres termes, d’un plan permettant de garantir qu’une intelligence artificielle surpassant les capacités humaines continuerait à obéir à ses concepteurs.

La crainte de « l’auto-amélioration récursive »

Au cœur des inquiétudes exprimées par Coxon figure la perspective d’une intelligence artificielle capable de participer elle-même à l’amélioration de ses propres capacités. Cette hypothèse, souvent désignée sous le terme d’auto-amélioration récursive, pourrait conduire à des systèmes capables de concevoir ou d’optimiser leurs successeurs avec une intervention humaine de plus en plus limitée. C’est précisément cette perspective qui alimente les débats autour de la « superintelligence ».

Coxon affirme que certains professionnels de l’IA utilisent en interne des expressions comme « crunchtime » ou « endgame » pour décrire l’approche d’une période décisive dans cette course technologique. Pour l’ancien chercheur, le problème dépasse toutefois les seules entreprises. Il estime qu’aucun laboratoire privé ne peut gérer seul les risques associés à une technologie susceptible d’acquérir des capacités supérieures à celles de l’être humain. Il appelle donc à une intervention des États et à une forme de ralentissement coordonné entre les principaux acteurs.

Une course technologique difficile à ralentir

La question du ralentissement de la course à l’IA fait déjà débat au sein de l’industrie. Les entreprises sont engagées dans une compétition mondiale pour développer des modèles plus performants, capables de raisonner, coder, utiliser des outils informatiques et accomplir des tâches de plus en plus complexes.

Anthropic a notamment modifié en février certains engagements figurant dans sa charte de sécurité. L’entreprise avait auparavant envisagé de suspendre le développement de certains modèles si elle ne parvenait pas à maîtriser leurs risques. Une telle pause unilatérale pourrait toutefois, selon l’argument avancé, permettre à des concurrents moins prudents de prendre l’avantage.

Plus d’un millier de professionnels du secteur ont également appelé à davantage de mécanismes de contrôle et de ralentissement. De leur côté, plusieurs responsables de grands laboratoires reconnaissent désormais la nécessité d’une coopération internationale sur la sécurité de l’intelligence artificielle.

Le risque ne se limite pas à la science-fiction

Les inquiétudes soulevées par Coxon ne signifient pas que les systèmes actuels seraient sur le point de provoquer une extinction humaine. Il s’agit avant tout d’un débat prospectif sur les capacités que pourraient atteindre les futures générations d’IA et sur la capacité des institutions à les contrôler.

Les risques envisagés concernent notamment les cyberattaques, l’automatisation d’activités dangereuses, la manipulation de l’information, ainsi que la possibilité que des systèmes très autonomes soient utilisés à des fins malveillantes. Des inquiétudes existent également concernant leur capacité future à découvrir des vulnérabilités informatiques ou à faciliter certaines activités liées aux armes biologiques ou chimiques.

La difficulté réside précisément dans l’incertitude : personne ne peut aujourd’hui déterminer avec certitude jusqu’où progresseront les capacités des modèles d’IA ni si les mécanismes de sécurité seront suffisamment efficaces pour accompagner cette évolution.

Aux États-Unis, le débat réglementaire s’intensifie

Cette controverse intervient alors que les États-Unis débattent toujours de la manière d’encadrer les modèles d’intelligence artificielle avancés. Le débat oppose notamment les partisans d’une réglementation stricte à ceux qui privilégient une approche permettant aux entreprises américaines de conserver leur avance technologique face à la concurrence internationale.

Pour Coxon, attendre qu’un incident majeur se produise avant d’agir serait une erreur. Il considère que les gouvernements doivent intervenir avant que les systèmes d’IA ne deviennent trop puissants pour être efficacement contrôlés. Son départ de l’industrie constitue ainsi moins une prédiction certaine de la fin de l’humanité qu’un signal d’alarme venant de l’intérieur de deux des laboratoires les plus importants du secteur.

La question désormais posée est simple mais fondamentale : jusqu’où faut-il laisser progresser l’intelligence artificielle avant de disposer de garanties suffisantes pour s’assurer que ses capacités resteront sous contrôle humain ?

Affaire à suivre.