Dario Amodei demande de ralentir la frontière de l’IA

Le signal le plus fort vient de Dario Amodei.

Dans un texte publié en septembre 2026 et intitulé "We Must Pace the Frontier", le cofondateur et CEO d’Anthropic estime que les entreprises développant les modèles les plus avancés doivent désormais ralentir le rythme auquel elles augmentent leurs capacités.

Le dirigeant ne réclame pas un arrêt de la recherche.

Son idée est différente : continuer à développer l’intelligence artificielle tout en laissant suffisamment de temps aux mécanismes de sécurité, aux techniques d’alignement, aux audits et aux chercheurs pour suivre la progression des modèles.

Dario Amodei parle de "pacing", une forme de maîtrise volontaire de la vitesse de développement.

Le débat n’est donc plus simplement de savoir s’il faut continuer à développer l’IA.

Il devient :

à quelle vitesse peut-on raisonnablement continuer ?

Un discours qui aurait été beaucoup moins probable en 2023

Le changement est particulièrement significatif car Dario Amodei reconnaît lui-même que la situation était différente quelques années auparavant.

En 2023, les grands modèles génératifs étaient encore principalement perçus comme des systèmes capables de produire du texte, des images ou du code.

Trois ans plus tard, l'intelligence artificielle entre dans une nouvelle phase.

Les modèles deviennent progressivement capables de :

  • utiliser des logiciels ;
  • naviguer sur Internet ;
  • exécuter du code ;
  • utiliser des outils externes ;
  • collaborer avec d'autres agents ;
  • rechercher des vulnérabilités informatiques ;
  • réaliser des tâches complexes sur une longue durée ;
  • participer directement à la recherche en intelligence artificielle.

Ce changement de capacités transforme également la nature des risques.

Le véritable basculement : l’IA commence à aider à construire l’IA suivante

L'un des sujets les plus sensibles concerne l'utilisation des modèles pour accélérer directement la recherche en intelligence artificielle.

Les laboratoires utilisent déjà leurs propres systèmes pour assister leurs ingénieurs, générer du code, analyser des expérimentations et automatiser certaines parties de la recherche.

Cela pourrait progressivement créer une boucle d'accélération.

Une IA aide à développer une nouvelle génération de modèles.

Cette nouvelle génération devient ensuite plus efficace pour participer à la recherche.

Elle peut alors contribuer au développement d'une génération encore plus performante.

Puis le processus recommence.

Cette hypothèse est parfois désignée sous le terme de recursive self-improvement, ou amélioration récursive.

Le problème n'est donc plus seulement la puissance d'un modèle donné.

Il concerne aussi la vitesse à laquelle la génération suivante peut être développée.

OpenAI a déjà été obligé de ralentir

Cette problématique n'est plus totalement théorique.

En août 2026, OpenAI a annoncé avoir temporairement ralenti certaines phases de développement de ses modèles afin de renforcer ses dispositifs de sécurité.

Deux événements avaient notamment renforcé les inquiétudes de l'entreprise.

Le premier concernait un incident impliquant des agents OpenAI et les infrastructures de Hugging Face.

Le second concernait Astra, l'un des modèles avancés développés par OpenAI.

Après de nouvelles évaluations, l'entreprise a finalement estimé que les capacités cyber d'Astra atteignaient son niveau "Critical".

Selon OpenAI, le modèle pouvait, avec les outils et accès appropriés, identifier des vulnérabilités jusque-là inconnues et développer des méthodes permettant de les exploiter sur des systèmes fortement protégés.

L'entreprise a donc retardé certaines parties de son développement et de son lancement afin de renforcer ses protections.

Pour OpenAI, le problème n'est plus seulement de déterminer si un modèle peut être développé.

Il faut également déterminer s'il peut être développé et déployé sans créer un niveau de risque disproportionné.

Sam Altman soutient la démarche de Dario Amodei

Sam Altman a désormais apporté son soutien à la démarche proposée par le patron d'Anthropic.

Cette convergence est importante.

OpenAI et Anthropic comptent parmi les entreprises les plus avancées dans le développement de modèles de frontière et sont directement concurrentes.

Selon Reuters, Altman s'est notamment montré favorable à l'idée de faire intervenir des évaluateurs indépendants disposant d'un accès suffisamment important pour contrôler réellement les pratiques de sécurité des grands laboratoires.

Le principe est stratégique.

Aujourd'hui, les entreprises qui développent les modèles les plus puissants réalisent encore une grande partie de leurs propres évaluations.

Elles définissent leurs standards, testent leurs modèles puis décident elles-mêmes si les risques sont suffisamment maîtrisés.

L'arrivée d'équipes réellement indépendantes introduirait un niveau supplémentaire de contrôle.

Elon Musk soutient lui aussi l'appel à ralentir

Elon Musk s'est également déclaré favorable à la proposition de Dario Amodei.

Le positionnement n'est cependant pas nouveau.

En mars 2023, le patron de Tesla et SpaceX faisait déjà partie des signataires d'une lettre du Future of Life Institute appelant à une pause dans les expériences d'IA les plus puissantes.

Le texte demandait notamment une pause d'au moins six mois dans l'entraînement des systèmes plus puissants que GPT-4.

Quelques mois plus tard, Elon Musk lançait pourtant xAI.

L'entreprise est depuis devenue l'un des acteurs les plus agressifs de la compétition mondiale autour des modèles d'intelligence artificielle.

Cette contradiction apparente permet de comprendre le problème auquel toute l'industrie est confrontée.

Tout le monde peut vouloir ralentir, mais personne ne veut ralentir seul

C'est probablement le point économique le plus important du dossier.

Un laboratoire peut considérer qu'un ralentissement collectif serait bénéfique pour la sécurité tout en refusant de ralentir individuellement.

Pourquoi ?

Parce que ses concurrents pourraient continuer d'avancer.

OpenAI, Anthropic, xAI, Google DeepMind, Meta et les groupes chinois sont engagés dans une compétition nécessitant des investissements gigantesques.

Chaque entreprise cherche notamment à sécuriser :

  • les meilleurs chercheurs ;
  • les GPU les plus avancés ;
  • les capacités énergétiques ;
  • les centres de données ;
  • les financements ;
  • les utilisateurs ;
  • les contrats avec les entreprises ;
  • les infrastructures nécessaires à l'entraînement des futurs modèles.

Dans ces conditions, prendre six mois de retard peut représenter un coût stratégique considérable.

L'industrie se retrouve donc face à un paradoxe :

tout le monde peut avoir intérêt à ralentir collectivement, alors que personne n'a intérêt à ralentir individuellement.

Dario Amodei propose trois niveaux de contrôle

Pour sortir de cette logique, le patron d'Anthropic propose une stratégie progressive.

1. Installer des évaluateurs indépendants dans les laboratoires

La première mesure consisterait à donner à des organisations extérieures un accès beaucoup plus important aux entreprises développant les modèles de frontière.

Ces évaluateurs pourraient contrôler :

  • les modèles avant leur lancement ;
  • les entraînements ;
  • les systèmes de sécurité ;
  • les comportements inattendus ;
  • les incidents ;
  • les capacités dangereuses ;
  • les méthodes utilisées pour contrôler les agents autonomes.

L'objectif serait de dépasser l'autorégulation.

2. Coordonner les principaux laboratoires

La deuxième étape nécessiterait une coopération entre les principaux développeurs d'intelligence artificielle.

Des standards communs pourraient notamment encadrer :

  • les capacités cyber ;
  • l'autonomie des agents ;
  • l'utilisation de l'IA pour améliorer l'IA ;
  • les tests obligatoires avant lancement ;
  • certains niveaux de puissance informatique ;
  • les conditions pouvant justifier un ralentissement.

Cette coordination permettrait d'éviter qu'une entreprise appliquant seule des règles strictes soit immédiatement dépassée par ses concurrents.

3. Construire une coordination internationale

La troisième étape serait beaucoup plus difficile.

Elle nécessiterait une coopération entre les grandes puissances développant l'intelligence artificielle.

Et notamment entre les États-Unis et la Chine.

La Chine rend tout ralentissement beaucoup plus compliqué

C'est ici que la sécurité de l'IA rencontre directement la géopolitique.

Si les laboratoires américains ralentissent fortement alors que les entreprises chinoises continuent d'accélérer, Washington pourrait perdre une partie de son avance technologique.

Le raisonnement inverse existe également.

Aucun pays ne veut imposer des contraintes importantes à ses entreprises si ses concurrents internationaux peuvent continuer librement.

Dario Amodei défend donc parallèlement des restrictions importantes sur l'accès de la Chine aux puces et aux technologies nécessaires pour entraîner les modèles les plus avancés.

Le développement de l'IA n'est plus seulement une compétition entre entreprises.

Il devient une compétition entre puissances économiques.

Un paradoxe : ils veulent ralentir tout en investissant des milliards

Le contraste est spectaculaire.

Dario Amodei demande de ralentir la progression des capacités.

Sam Altman soutient sa démarche.

Elon Musk également.

Pourtant, leurs entreprises continuent de mobiliser des ressources considérables pour développer des modèles toujours plus puissants.

Anthropic accélère Claude.

OpenAI prépare ses prochaines générations de systèmes.

xAI construit des infrastructures massives destinées à entraîner Grok et ses futurs modèles.

La course n'est donc absolument pas terminée.

Elle change simplement de nature.

Les laboratoires commencent à reconnaître qu'une accélération permanente sans mécanismes de contrôle suffisamment avancés pourrait devenir dangereuse.

La sécurité pourrait devenir un avantage concurrentiel

Cette évolution pourrait également transformer la manière dont les entreprises choisissent leurs fournisseurs d'intelligence artificielle.

Jusqu'ici, la compétition reposait principalement sur :

  • la performance ;
  • le raisonnement ;
  • la vitesse ;
  • le prix ;
  • la multimodalité ;
  • la taille du contexte ;
  • l'autonomie.

Un autre critère pourrait désormais devenir déterminant :

la capacité d'un laboratoire à démontrer que ses modèles restent contrôlables.

Le sujet deviendra encore plus important avec le développement des agents.

Un chatbot qui fournit une mauvaise réponse pose un problème.

Un agent connecté à une messagerie, un CRM, un système financier ou une infrastructure informatique peut provoquer des conséquences beaucoup plus importantes.

Plus les modèles pourront agir, plus leur sécurité deviendra une composante directe de leur valeur économique.

Les patrons de l'IA ne veulent pas arrêter l'intelligence artificielle

Il faut néanmoins éviter un contresens.

Dario Amodei, Sam Altman et Elon Musk ne demandent pas la fin de l'intelligence artificielle.

Ils continuent tous les trois à investir massivement dans son développement.

L'idée défendue par Amodei est plus subtile : réduire l'écart entre la vitesse à laquelle les capacités progressent et la vitesse à laquelle les systèmes permettant de les sécuriser progressent.

Quelques mois supplémentaires pourraient permettre d'améliorer :

  • l'alignement ;
  • l'interprétabilité ;
  • la cybersécurité ;
  • les méthodes d'évaluation ;
  • les systèmes de confinement ;
  • la surveillance des agents.

C'est un changement majeur dans le discours de l'industrie.

Pendant plusieurs années, l'objectif principal était de construire le modèle le plus puissant avant les autres.

La prochaine bataille pourrait être différente.

La course à l'IA devient une course vers la maîtrise

L'intelligence artificielle n'est plus simplement une technologie capable de générer du contenu.

Les systèmes commencent à utiliser des outils, développer du code, mener des recherches, interagir avec des infrastructures et exécuter des actions avec une autonomie croissante.

Dans le même temps, les modèles peuvent progressivement participer à l'amélioration des technologies qui permettront de construire leurs successeurs.

C'est précisément cette accélération qui pousse aujourd'hui certains des dirigeants les plus influents du secteur à remettre en question une règle qui dominait jusqu'ici la Silicon Valley :

aller toujours plus vite.

La prochaine frontière de l'intelligence artificielle ne sera donc peut-être pas uniquement celle de la puissance.

Elle pourrait être celle de la maîtrise.