6 min de lecture - Agents IA à exécution longue : les risques que les tests à prompt unique ignorent

En juillet 2026, la source « Enseignements d'OpenAI sur la sécurité des modèles à horizon long » a fourni le contexte daté de cette analyse. Le point examiné est « dérive de trajectoire ». L'annonce fixe la limite des informations externes disponibles. Vos propres preuves doivent établir si l'idée convient à votre organisation.

Décider comment traiter « dérive de trajectoire »

N'avancez qu'après avoir vérifié les quatre dimensions suivantes : Dérive de trajectoire, Exploration des ressources, Permissions accumulées, Intervention en exécution. Terminez cette vérification avant d'accorder un accès à la production.

La sécurité fait partie de la conception du workflow. Commencez par l'identité, le moindre privilège, l'isolation, la télémétrie et des conditions d'arrêt testées, au lieu d'ajouter des contrôles une fois que l'agent peut déjà agir. Appliquez cette règle aux dimensions « dérive de trajectoire » et « exploration des ressources ».

Commencez par la dimension « dérive de trajectoire ». Cette vérification détermine quelles preuves seront utiles pour les autres dimensions.

Apport de la source Enseignements d'OpenAI sur la sécurité des modèles à horizon long pour « dérive de trajectoire »

Enseignements d'OpenAI sur la sécurité des modèles à horizon long a été relue le 27 août 2026 pour le point « dérive de trajectoire ». Consultez la source actuelle avant une décision d'achat, d'architecture ou de conformité. Une annonce décrit l'offre ou l'initiative ; vos données internes déterminent si elle répond au besoin. Ce cadre opérationnel ne constitue pas un avis juridique.

Examiner « dérive de trajectoire », « exploration des ressources », « permissions accumulées », « intervention en exécution »

1. Dérive de trajectoire

Pour la dimension « dérive de trajectoire », consignez l'état actuel, le responsable et la décision qui dépend de cette dimension. Limitez l'inventaire aux éléments vérifiables.

2. Exploration des ressources

Pour la dimension « exploration des ressources », cartographiez les dépendances, les données et les personnes concernées. Testez les hypothèses susceptibles d'invalider le projet avant d'investir davantage.

3. Permissions accumulées

Pour la dimension « permissions accumulées », choisissez une preuve observable et un seuil minimal. Le test doit indiquer s'il faut poursuivre ; une démonstration convaincante ne suffit pas.

4. Intervention en exécution

Pour la dimension « intervention en exécution », fixez le périmètre, la voie d'escalade et la condition de sortie. L'équipe doit pouvoir arrêter, remplacer ou ramener la solution à un fonctionnement manuel.

Matrice de décision : dérive de trajectoire

La direction, les métiers, la technique et la sécurité doivent examiner les mêmes preuves pour les dimensions « dérive de trajectoire » et « exploration des ressources » avant de décider.

Tester « dérive de trajectoire » en cinq étapes

1. Cadrer la dimension « dérive de trajectoire ». Écrivez la question, le responsable et la date à laquelle une réponse est nécessaire.
2. Établir la baseline pour « exploration des ressources ». Mesurez le processus actuel, y compris la qualité, les incidents et la charge de revue.
3. Tester la dimension « permissions accumulées ». Limitez les données, les utilisateurs, les permissions et la durée afin de garder le changement réversible.
4. Examiner la dimension « intervention en exécution ». Analysez les erreurs, les reprises manuelles, les escalades et les effets sur les personnes concernées.
5. Répondre à la question initiale. Consignez « poursuivre, modifier ou arrêter » avec les preuves qui soutiennent ce choix.

Preuves à conserver : exploration des ressources

Le dossier de preuve réunit les constats pour la dimension « dérive de trajectoire » avec les autres éléments nécessaires à la décision :

• la décision, son responsable et les parties prenantes consultées ;
• l'inventaire lié à la dimension « dérive de trajectoire » ;
• la baseline et les résultats de test pour la dimension « exploration des ressources » ;
• les accès, risques et validations associés à la dimension « permissions accumulées » ;
• le plan de déploiement, de surveillance et de sortie pour la dimension « intervention en exécution ».

Si ce projet s'arrête, conservez les constats pour les dimensions « dérive de trajectoire » et « intervention en exécution » afin que la prochaine revue ne teste pas de nouveau les mêmes hypothèses.

Erreurs qui fragilisent l'analyse de « permissions accumulées »

Évitez notamment de :

• accorder à un agent les mêmes accès permanents qu'à un collaborateur de confiance
• collecter des logs qui ne permettent pas de reconstruire toute la chaîne d'action
• tester la détection sans tester le confinement et la reprise

Plan de 30 jours : intervention en exécution

• Jours 1 à 5. Nommez le responsable de la dimension « dérive de trajectoire », précisez le périmètre et réunissez les sources disponibles.
• Jours 6 à 12. Cartographiez la dimension « exploration des ressources », avec les données, accès, dépendances et scénarios d'échec associés.
• Jours 13 à 20. Testez la dimension « permissions accumulées » avec une baseline et des critères d'arrêt définis à l'avance.
• Jours 21 à 26. Faites relire les constats pour la dimension « intervention en exécution » par les fonctions responsables.
• Jours 27 à 30. Comparez les quatre constats avec la décision formulée plus haut et définissez la prochaine preuve attendue.

Consigner la décision : dérive de trajectoire

Conservez un relevé court avec le responsable, les preuves examinées et la décision. Indiquez aussi la condition qui déclenchera une nouvelle revue des dimensions « dérive de trajectoire » ou « intervention en exécution ».