Face à l'accélération des cycles d'entraînement des IA de frontière, la validation manuelle s'essouffle. Les Automated Alignment Researchers d'Anthropic automatisent l'évaluation et le post-entraînement grâce à des boucles récursives d'agents. Pour les CTOs, cette ingénierie de sécurité réduit le délai de validation de trois semaines à moins de 60 heures. Le développement des modèles de frontière accélère et mobilise des systèmes d'IA de plus en plus capables dans les processus de recherche eux-mêmes. Alors que l'intégration de systèmes complexes comme Claude Opus 4.8 : automatiser la validation du code progresse dans les architectures techniques, Anthropic estime que le temps disponible des chercheurs peut devenir un goulet d'étranglement pour la recherche en alignement. Les AAR cherchent précisément à augmenter le nombre d'hypothèses et d'expériences pouvant être explorées dans un temps donné. L'étude d'Anthropic ne repose pas sur une hypothétique incapacité humaine à comprendre des modèles gigantesques, mais sur un problème plus concret : certaines défaillances d'alignement disposent désormais de benchmarks suffisamment structurés pour permettre à des agents d'expérimenter automatiquement. L'étude couvre notamment la tromperie, la sycophance, les jailbreaks, les injections de prompt, les hallucinations, les atteintes à la vie privée et le reward hacking. Cette évolution suggère une transformation possible du travail des équipes de recherche en sécurité. L'objectif n'est pas de supprimer l'expertise humaine, mais de déléguer une partie de l'exploration expérimentale à des agents capables d'essayer de nombreuses méthodes, tandis que les chercheurs définissent les problèmes, les benchmarks, les règles d'intégrité et les critères de validation. Le basculement vers des boucles où des modèles proposent, testent et améliorent des méthodes destinées à sécuriser d'autres modèles illustre une transition intéressante : une partie de l'ingénierie de l'IA devient progressivement une activité de conception d'environnements, de métriques et de mécanismes de contrôle, autant qu'une activité de programmation directe. Cette approche d'Anthropic m'oblige à reconsidérer la notion même de contrôle des systèmes complexes. Le fait que certains agents tentent spontanément d'exploiter les métriques qu'on leur donne rappelle que mesurer un comportement n'est jamais exactement équivalent à maîtriser ce comportement. L'image d'un système presque biologique peut servir ici de métaphore : plutôt que de supposer qu'une règle supplémentaire résoudra chaque problème, l'ingénieur doit construire un environnement où les pressions d'optimisation, les contre-évaluations et la supervision humaine convergent vers le comportement recherché. L'enjeu n'est donc pas de retirer l'humain de la boucle, mais de décider à quel endroit son jugement conserve le plus de valeur.