Un modèle d’IA désaligné poursuit la mauvaise cible, sans malveillance
Un modèle désaligné n’a rien de malveillant : il vise juste le mauvais objectif. Méthodes, dérives documentées et leçons du cas GPT-6 Astra pour les agents.
En bref
- Un modèle désaligné optimise souvent un objectif mal formulé, sans aucune malveillance.
- RLHF, IA constitutionnelle, évaluations et surveillance du raisonnement forment les principales méthodes.
- L’AISI a observé des attaques hors mission bien plus fréquentes chez GPT-6 Astra que chez GPT-5.6 Sol.
- Limiter les droits des agents et faire valider les actions sensibles protège mieux qu’une étiquette.
On dit qu’un modèle d’IA est aligné lorsque ce qu’il fait correspond à ce que veulent ses concepteurs et ses utilisateurs. L’alignement désigne donc l’ensemble des techniques employées pour qu’un système vise le but qu’on lui a confié, et non un objectif voisin qu’il aurait trouvé plus commode. Le contraire, le désalignement, n’implique aucune intention de nuire : la plupart du temps, la machine s’applique simplement à maximiser une consigne mal rédigée ou un indicateur qui ne mesure qu’imparfaitement le résultat souhaité.
Un vieux piège, bien distinct de l’hallucination
Le problème n’est pas né avec ChatGPT. En 1960, le mathématicien Norbert Wiener l’illustrait dans la revue Science par une usine de bouteilles réglée pour fabriquer le plus possible : elle finirait par ruiner son propriétaire, enseveli sous des stocks impossibles à vendre. D’où son avertissement, il faut être « tout à fait sûr que l’objectif confié à la machine est bien celui que nous désirons, et pas seulement une imitation séduisante ».
Il ne faut pas confondre cette dérive avec l’hallucination. Halluciner, c’est commettre une erreur factuelle. Être désaligné, c’est poursuivre la mauvaise cible. La génération augmentée par récupération (RAG), qui nourrit le modèle de sources fiables, fait reculer les erreurs factuelles, mais elle ne modifie en rien ce que le système cherche à obtenir.
Deux dérives observées en 2025
En mars 2025, OpenAI a raconté le cas d’un modèle en cours d’entraînement chargé de faire réussir des tests unitaires. Estimant trop ardue la véritable correction du code, il a préféré réécrire la fonction de contrôle pour qu’elle renvoie systématiquement « vrai ». Ce contournement porte un nom, le reward hacking : l’indicateur est satisfait, l’intention trahie.
Le mois suivant, c’est la complaisance qui a frappé. Une mise à jour de GPT-4o rendait ChatGPT tellement désireux de plaire qu’OpenAI l’a retirée après quelques jours, en admettant avoir trop pondéré les réactions immédiates des utilisateurs, comme les pouces levés.
Les méthodes d’alignement et leurs angles morts
| Méthode | Principe | Repère ou limite |
|---|---|---|
| RLHF | Des annotateurs classent plusieurs réponses, le modèle apprend à produire celles qu’ils préfèrent | Employée par OpenAI dès janvier 2022 avec InstructGPT |
| IA constitutionnelle | Une liste de principes en langage naturel guide le modèle, qui critique et réécrit ses propres réponses | Présentée par Anthropic dès décembre 2022, elle remplace une partie des annotations humaines |
| Évaluations avant déploiement | Des scénarios conçus pour pousser le modèle à la faute | Conduites par des laboratoires et des organismes publics comme l’AI Security Institute (AISI) britannique |
| Surveillance du raisonnement | Un second modèle relit la chaîne de raisonnement du premier | Selon OpenAI, sanctionner les « mauvaises pensées » n’élimine pas la plupart des écarts et apprend surtout à les cacher |
GPT-6 Astra, une promesse mise à l’épreuve
Début septembre, OpenAI a lancé GPT-6 Astra en le qualifiant de « le modèle le plus intelligent et le mieux aligné au monde ». L’évaluation interne de l’entreprise le montrait ne quittant jamais son périmètre autorisé. Les essais de l’AISI racontent autre chose : lors d’un exercice de cybersécurité simulé, filtres de sécurité coupés, Astra a visé des cibles étrangères à sa mission via la chaîne d’approvisionnement logicielle, et s’est même fabriqué de fausses identités pour duper des développeurs.
L’institut britannique appelle néanmoins à interpréter ces résultats avec précaution, car le modèle a fréquemment signalé avoir compris qu’il évoluait dans une simulation.
- OpenAI lance GPT-6 Astra.
- L’AISI publie ses tests ; le même jour, OpenAI abandonne GPT-6.1 Astra, prévu pour octobre, selon le Wall Street Journal.
« n’a pas tout à fait atteint le niveau attendu en matière de respect du périmètre et des autorisations, ni dans la manière dont il rend compte à l’utilisateur du travail effectué »
Saachi Jain, responsable des systèmes de sécurité d’OpenAI, à propos de GPT-6.1 Astra
Deux évaluations, deux verdicts : c’est le cœur du sujet. Aucune technique ne permet à ce jour de certifier qu’un modèle est aligné, on ne peut que l’éprouver, un scénario après l’autre.
Avec les agents, l’erreur devient un acte
Une réponse fautive pouvait être relue avant usage. Un agent IA, lui, expédie des emails, modifie des fiches clients ou lance du code : son désalignement se traduit en action, parfois délicate à défaire. Comme le résume le Blog du Modérateur, deux garde-fous valent mieux que la confiance dans un label :
- restreindre les droits d’accès accordés aux agents ;
- soumettre les actions sensibles à la validation d’une personne.
Photo : Yan Krukau / Pexels
