La National Institute of Standards and Technology (NIST) a rendu publiques des recommandations destinées à évaluer et sécuriser les agents d’intelligence artificielle. Ce premier cadre préliminaire vise à réduire les risques liés aux agents autonomes tout en garantissant que l’humain reste au centre.

Dans un document publié à la mi?mars, le NIST décrit comment mesurer les performances et les comportements des agents autonomes. Ces programmes, capables d’exécuter des tâches par eux?mêmes, s’appuient sur des modèles de langage et des systèmes de décision de plus en plus sophistiqués.

Le NIST recommande de définir des standards ouverts pour décrire les tâches, les capacités et les limites des agents. Il insiste aussi sur la vérification de l’identité et des autorisations, l’utilisation de méthodes de mesure transparentes et la nécessité de maintenir l’homme « dans la boucle » pour superviser et corriger ces systèmes. Il s’agit de s’assurer que ces agents ne développent pas des comportements inattendus et restent alignés sur leurs objectifs.

L’organisme insiste enfin sur la gestion des risques : il encourage l’adoption de mécanismes de contrôle, à surveiller les dérives et à tenir compte des impacts éthiques. À l’heure où les agents conversationnels et les assistants virtuels se multiplient, ces orientations devraient aider à instaurer une confiance durable et à guider l’innovation.

Sources : https://dcod.ch/2026/03/18/agents-ia-nist-standards-securite/