Les mots de l’IA agentique, définis et sourcés.
Chaque terme en 40 à 60 mots, avec la source qui l’étaye et la page de Scalt qui le met en œuvre.
Mis à jour le
Agent IA gouverné
Un agent IA est un système fondé sur un grand modèle de langage qui perçoit un contexte, planifie et agit avec des outils pour atteindre un objectif. Il est gouverné quand ses droits d’accès sont bornés, que ses actions sensibles attendent une validation humaine et que chaque exécution laisse une trace vérifiable.
Sources : Wang et al., « A Survey on Large Language Model based Autonomous Agents », 2023 · Règlement (UE) 2024/1689 sur l’intelligence artificielle, EUR-Lex
Dans Scalt : GouvernanceIA souveraine
Une IA est dite souveraine quand l’organisation qui l’utilise garde la maîtrise de ses données, des modèles qu’elle appelle, de l’hébergement et du droit qui s’applique. En France, l’ANSSI délivre la qualification SecNumCloud aux services cloud qui offrent ce niveau de confiance ; l’IA souveraine s’appuie sur ces garanties ou sur une installation chez l’organisation.
Source : ANSSI, « SecNumCloud »
Dans Scalt : Sécurité et souverainetéShadow AI
Le shadow AI désigne l’usage d’outils d’IA par les salariés sans l’accord ni le contrôle de leur organisation : un assistant grand public ouvert dans un navigateur, des documents internes collés dans une invite. Selon le Work Trend Index 2024 de Microsoft et LinkedIn, 78 % des utilisateurs d’IA au travail apportent leurs propres outils.
Dans Scalt : Sécurité et souverainetéValidation humaine
La validation humaine est l’étape où une personne autorisée approuve, corrige ou refuse une action proposée par un agent avant qu’elle ne soit exécutée : envoyer un courriel, modifier un dossier, engager une dépense. Le règlement européen sur l’IA en fait une exigence de contrôle humain pour les systèmes à haut risque (article 14).
Source : Règlement (UE) 2024/1689 sur l’intelligence artificielle, EUR-Lex
Dans Scalt : Inbox & CasesJournal d’audit
Le journal d’audit est l’enregistrement horodaté de ce qu’un agent a fait : sources consultées, outils appelés, décisions prises, validations reçues, résultats produits. Il permet de reconstituer un incident, de répondre à un contrôle et de prouver qui a autorisé quoi. Le règlement européen sur l’IA impose cette journalisation automatique aux systèmes à haut risque (article 12).
Source : Règlement (UE) 2024/1689 sur l’intelligence artificielle, EUR-Lex
Dans Scalt : GouvernanceRegistre des agents
Le registre des agents est l’inventaire tenu à jour des agents IA déployés dans l’organisation : objectif, responsable, données et outils accessibles, niveau de risque, validations prévues, date de revue. Le cadre de gestion des risques du NIST en fait un mécanisme de gouvernance de base (GOVERN 1.6).
Source : NIST, « AI Risk Management Framework (AI RMF 1.0) », janvier 2023
Dans Scalt : Kit AI Act : le registre des agentsOrchestration d’agents
L’orchestration d’agents consiste à faire coopérer plusieurs agents IA spécialisés sur une même tâche : un orchestrateur découpe le travail, distribue les sous-tâches, fait circuler les résultats et décide quand s’arrêter ou demander une validation. Les systèmes multi-agents fondés sur les grands modèles de langage sont décrits dans l’étude de synthèse de Guo et ses coauteurs (IJCAI 2024).
Dans Scalt : Agents & ApplicationsRAG (génération augmentée par la recherche)
Le RAG, pour retrieval-augmented generation, consiste à faire chercher au modèle les passages pertinents dans une base documentaire avant qu’il ne rédige sa réponse, au lieu de s’en remettre à sa seule mémoire d’entraînement. La réponse cite ses sources et s’appuie sur l’état courant des documents. La méthode est décrite par Lewis et ses coauteurs en 2020.
Source : Lewis et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », 2020
Dans Scalt : Knowledge Hub