Cases : pourquoi tracer chaque action d’un agent

Dans Scalt, chaque exécution d’un agent ouvre un dossier, un « case ». Il rassemble ce que l’agent a reçu, ce qu’il a lu, ce qu’il a fait, ce qu’il a demandé à un humain et ce qu’il a produit. Rien ne se passe en dehors. Ce choix de conception est au cœur du produit, et il mérite d’être expliqué. Il a des conséquences pour vos équipes, pour vos coûts et pour vos audits.

Pourquoi tracer

Quand une personne se trompe, on peut lui demander ce qu’elle a fait et pourquoi. Un agent ne se souvient de rien : si son travail n’est pas tracé au moment où il le fait, une erreur reste une énigme. Et une erreur qu’on ne comprend pas détruit la confiance plus sûrement que dix erreurs expliquées.

La trace n’est pas un journal technique de plus, lu seulement par les développeurs. C’est ce qui permet à la personne qui valide de le faire en connaissance de cause, à l’équipe de corriger un agent sur une base concrète, et à l’entreprise de répondre quand on lui demande comment une décision a été préparée.

Ce que contient un dossier

• Le déclencheur : un message, une commande, un événement ou une tâche planifiée.
• La chronologie des étapes, avec pour chacune son coût et sa durée.
• Les documents produits, approuvés ou rejetés, et les relecteurs assignés.
• Les décisions et les validations : qui a approuvé ou refusé, et quand.
• La version de l’agent qui a produit l’exécution.
• Les sous-dossiers et les dossiers liés, quand un travail en entraîne un autre.

Les dossiers se consultent en vue kanban ou en liste, avec des filtres et des regroupements. Chacun garde sa chronologie complète, et s’exporte.

Les validations, au bon endroit

Tracer ne suffit pas si les validations se font ailleurs, par email, avec du retard. Dans Scalt, quand une règle demande l’intervention d’un humain, une carte arrive dans l’Inbox, avec une notification Slack si vous le souhaitez. L’Inbox regroupe ce qui attend quelqu’un : à valider, échoué, terminé.

Une action soumise à validation s’arrête et attend. Vous approuvez ou vous refusez dans l’app, et l’exécution reprend aussitôt, ou s’arrête là. Dans les deux cas, la décision est inscrite dans le dossier, avec son auteur et son moment.

Pour les documents que l’agent produit, comme une réponse à un client, un rapport ou un projet de contrat, des relecteurs peuvent être assignés. Chacun approuve ou rejette le document, et sa décision rejoint le dossier. On sait ainsi, pour chaque document sorti, qui l’a relu et dans quelle version.

Coûts et coupe-circuit

Le coût de l’IA ne devrait pas se découvrir sur la facture. Chaque étape d’exécution a son coût, visible dans le dossier, et chaque application affiche ses indicateurs de résultat, ses exécutions et la répartition de ses coûts. Les tâches planifiées, qui tournent sans personne devant l’écran, ont un budget et un coupe-circuit : si elles dépassent, elles s’arrêtent. Vous savez ainsi ce que coûte réellement un usage, et pas seulement ce que coûte l’IA en général.

Un exemple : un avoir client

Un client signale une facturation en double. Le ticket déclenche l’agent de support, qui ouvre un dossier. L’agent lit le contrat et les deux factures, constate le doublon, et prépare un avoir ainsi qu’une réponse au client. L’émission de l’avoir est soumise à validation : la carte arrive dans l’Inbox de la comptabilité, avec les pièces lues par l’agent.

La comptable vérifie, approuve, et l’exécution reprend : l’avoir est émis, la réponse part. Trois mois plus tard, lors d’un contrôle, la question « qui a décidé cet avoir, et sur quelle base ? » trouve sa réponse en ouvrant le dossier. Personne n’a eu à reconstituer l’histoire à partir d’emails et de souvenirs.

Corriger un agent sur une base concrète

Quand un agent se trompe, le dossier montre à quelle étape : une source mal choisie, une instruction mal comprise, un outil qui a renvoyé une erreur. On corrige l’instruction, la source ou la règle de validation, puis on publie une nouvelle version de l’agent. Comme chaque exécution garde la version qui l’a produite, on compare les dossiers d’avant et d’après, et l’on revient en arrière si la correction n’apporte rien.

Ce que ça change pour l’audit

Quand un auditeur, un client ou un régulateur demande comment un agent a été supervisé, la réponse n’est pas un document écrit après coup : c’est l’historique des dossiers, avec leurs validations, exportable. Pour les usages que l’AI Act classe à haut risque, la supervision humaine et la conservation des journaux sont des obligations du déployeur ; les dossiers sont des éléments utiles pour y répondre, pas une conformité automatique. Le même historique sert aussi en interne : comprendre pourquoi un agent a été modifié, et ce que la modification a changé.

Questions fréquentes