Pourquoi Astra a-t-elle été freinée ?
Les premières évaluations montrent qu’Astra progresse fortement dans le codage autonome et la cybersécurité. Selon OpenAI, ses performances sont suffisamment élevées pour que l’entreprise ne puisse pas exclure un niveau de risque « critique ».
Ce seuil désigne notamment la capacité potentielle d’une IA à découvrir et exploiter des failles « zero-day » dans des systèmes protégés, ou à concevoir une cyberattaque complète à partir d’un simple objectif.
OpenAI n’affirme donc pas qu’Astra a déjà mené un piratage réel. L’entreprise estime cependant que ses capacités offensives pourraient devenir trop importantes pour poursuivre certains tests dans les conditions habituelles.
Quelles mesures OpenAI a-t-elle prises ?
Le développement d’Astra n’est pas totalement arrêté. OpenAI suspend uniquement les activités internes qui ne respectent pas encore ses nouvelles exigences de sécurité.
Les tests doivent désormais être réalisés dans des environnements isolés avec :
- un accès limité au réseau et aux outils ;
- une exécution dans des espaces sécurisés ;
- une surveillance continue des actions du modèle ;
- une protection renforcée de ses paramètres ;
- l’intervention d’agences publiques et d’organismes spécialisés.
Quelles conséquences pour Astra ?
La première conséquence pourrait être un report de sa sortie. Aucun calendrier officiel n’avait toutefois été communiqué. Les évaluations devront se poursuivre avant qu’OpenAI puisse décider dans quelles conditions Astra sera accessible.
Cette décision pourrait également conduire à une diffusion plus contrôlée du modèle, particulièrement pour les fonctions liées au piratage et à la cybersécurité.
OpenAI précise enfin qu’Astra n’a pas participé au piratage de la plateforme Hugging Face évoqué récemment. Le ralentissement constitue une mesure préventive face à des capacités encore en cours d’évaluation, et non la réponse à une attaque déjà menée par Astra. (Reuters)
