Problème

L’étiquette de l’agent est appliquée à la fois aux automatismes déterministes et aux systèmes ouverts. Sans distinction architecturale, les équipes peuvent accorder une autonomie inutile ou construire des boucles coûteuses pour les tâches qu’un workflow résoudrait de façon plus fiable.

Présentation

Le terme agent d’IA est maintenant appliqué à des systèmes aussi différents qu’un chatbot scénarisé, un modèle qui peut appeler un outil de recherche, un système de codage qui modifie les dépôts pendant des heures et un réseau de services autonomes. Cette largeur rend l’étiquette commercialement utile et techniquement faible. L’architecture exige une distinction plus nette.

Un workflow d’IA utilise des chemins de code prédéfinis pour orchestrer des modèles et des outils. Un modèle peut classer une entrée, produire une ébauche ou évaluer un résultat, mais l’application détermine en grande partie ce qui se passe ensuite. Un agent d’IA donne à un modèle plus de contrôle sur la séquence des actions. Le modèle peut inspecter une situation, choisir des outils, observer les résultats, réviser un plan et continuer jusqu’à ce que l’objectif soit atteint ou qu’une règle d’arrêt intervienne.

Aucun des deux modèles n’est universellement meilleur. Les flux de travail fournissent prévisibilité, testabilité et contrôle des coûts. Les agents offrent une souplesse lorsque le bon chemin ne peut être connu à l’avance. Les systèmes les plus sérieux devraient être hybrides : les logiciels déterministes définissent l’autorité et les invariants, tandis que les modèles gèrent l’interprétation et les décisions ouvertes à l’intérieur de ces limites.

Le flux de travail de base

Un simple flux de travail d’IA pourrait recevoir un document, classifier son type, sélectionner un modèle rapide, générer des métadonnées, valider les champs requis et envoyer des cas incertains à un humain. La séquence est explicite. Chaque étape a des entrées et des sorties connues. Les échecs peuvent être associés à une étape, et le système peut réessayer ou arrêter selon la politique.

La chaîne rapide est un modèle commun. Un appel crée un contour, un autre le vérifie par rapport aux critères, et un troisième écrit l’article. L’acheminement envoie différentes entrées vers des chemins spécialisés. La parallélisation effectue des analyses indépendantes et les combine. Les boucles d’optimisation des évaluateurs génèrent, critiquent et révisent sous une structure de contrôle fixe. Ces flux de travail peuvent inclure un comportement de modèle sophistiqué sans accorder le contrôle du modèle de tout le processus.

La force d’un workflow est limitée. Les ingénieurs peuvent estimer le nombre maximum d’appels, définir des schémas, tester le comportement de la branche et examiner les journaux. La faiblesse est la rigidité. Si une tâche nécessite une enquête imprévue ou une séquence d’outils, le chemin prédéfini peut échouer même lorsqu’un modèle capable pourrait s’adapter.

La boucle d’agent de base

Un agent combine généralement un objectif, un modèle, des outils, un état et un environnement. Le modèle reçoit l’objectif actuel et les observations. Il choisit une action, comme la recherche, la lecture d’un fichier, la requête d’une base de données ou le code d’exécution. L’environnement renvoie un résultat. Le modèle intègre ce résultat et choisit la prochaine action.

Cette boucle se poursuit jusqu’à une condition d’achèvement, un point de contrôle humain, une erreur, une limite budgétaire ou un plafond d’itération. La principale différence architecturale est que la séquence d’action émerge à l’exécution. Le développeur définit les actions et les contraintes disponibles, mais pas toutes les transitions.

Les agents sont précieux pour les tâches où le nombre et le type d’étapes dépendent de ce qui est découvert. La recherche d’investigation, les changements de code à l’échelle du dépôt, le diagnostic d’incident et la collecte d’information complexe correspondent à ce modèle. L’environnement fournit des commentaires qui permettent au système de se corriger.

La même flexibilité crée des risques. Une mauvaise hypothèse précoce peut influencer les décisions ultérieures. Les appels répétés augmentent la latence et les coûts. Les résultats de l’outil peuvent être mal compris. L’achèvement peut être difficile à vérifier lorsque les objectifs sont vagues.

Architecture

Une architecture d’agent combine objectif, modèle, outils, état, environnement, permissions, boucle d’observation et règles d’arrêt. Une architecture de workflow corrige plus de transitions en code. Les systèmes hybrides placent les choix dirigés par le modèle dans les limites de contrôle déterministe.

L’agentivité appartient au système

Un modèle linguistique seul n’est pas un agent. Il produit la production à partir du contexte. L’agentivité apparaît lorsque l’architecture de la demande traite certains extrants comme des décisions qui modifient l’environnement ou déterminent des étapes ultérieures.

Le système complet comprend les schémas d’outils, les références, la mémoire, les journaux, les portes d’approbation, les budgets, les évaluateurs et l’interface utilisateur. Un modèle avec accès en lecture seule a une agence différente du même modèle avec la permission de publier, acheter, déployer ou supprimer. Un modèle à haute capacité à l’intérieur d’un bac à sable étroit peut être moins risqué qu’un modèle plus faible avec de larges pouvoirs.

Cette distinction empêche la confusion anthropomorphe. La question opérationnelle n’est pas de savoir si le modèle « veut » quelque chose. C’est les actions que le système permet, les observations qu’il fournit, comment l’état persiste et qui reste responsable des conséquences.

Conception des outils

Les outils sont l’interface agent-ordinateur. Un outil devrait exposer une action claire avec des paramètres explicites, une sortie limitée et des informations utiles sur les erreurs. Les outils de chevauchement créent de l’ambiguïté. Les effets secondaires cachés rendent la planification peu fiable. L’absence de paramètres en langage naturel augmente le risque qu’un modèle produise une demande non valide ou dangereuse.

Des outils puissants utilisent des schémas, des enums, des identifiants et une validation. Ils distinguent la lecture de l’écriture. Ils supportent les simulations à blanc si possible. Les actions de conséquence peuvent nécessiter une confirmation ou une approbation humaine. Les clés d’idempotence empêchent les répétitions accidentelles. Les résultats devraient indiquer ce qui a changé plutôt que de ne renvoyer qu’un message de réussite.

Les descriptions d’outils comptent parce que le modèle sélectionne les actions de ces descriptions. La documentation devrait comprendre l’objet, les limites, le contexte requis et les cas courants d’échec. L’évaluation des outils mérite autant d’attention que l’évaluation rapide.

Mémoire et état

La mémoire des agents est souvent décrite comme une seule faculté. Dans la pratique, il comprend plusieurs magasins. Le contexte actuel contient des instructions et des observations récentes. Un état des tâches suit les objectifs, les étapes achevées et les travaux en cours. La mémoire à long terme peut stocker des résumés, des préférences ou des documents récupérés. L’état de l’environnement vit dans des fichiers, des bases de données et des services externes.

Chaque magasin a des propriétés de vérité et de rétention différentes. Un résumé généré n’est pas équivalent à un enregistrement de base de données faisant autorité. Une mémoire de conversation peut contenir la préférence de l’utilisateur mais ne doit pas surcharger silencieusement les permissions actuelles. Un résultat d’outil peut devenir inexistant.

Pour Electronic Artefacts, l’identité graphique fournit un modèle de mémoire plus fort que les seules notes non structurées. Un agent peut se référer aux ID d’entité canonique, aux relations typées, à l’état de publication et à la provenance. Le contexte peut être assemblé à partir du graphique en fonction de la tâche et de la permission plutôt que copié sans discrimination dans un prompt.

Autorisations contextuelles

Le contrôle d’accès traditionnel demande si un utilisateur ou un service peut appeler une opération. Les systèmes d’agents ont besoin de plus de contexte. L’autorisation peut dépendre de la personne qui a entrepris la tâche, de l’entité visée, du fait que le dossier est public ou restreint, de la preuve à l’appui du changement et de la mesure réversible.

C’est la connexion à Exécution contextuelle. VASTE peut modéliser un agent de publication qui peut rédiger des métadonnées pour des concepts publics mais ne peut publier un dossier de recherche spéculatif. Un agent d’archives peut lire des métadonnées de préservation interne, mais seulement exposer une projection curée. Un agent d’analyse ORETH peut inspecter des fichiers audio privés tout en publiant seulement des observations dérivées approuvées par un humain.

L’agent devrait recevoir des capacités étendues à la tâche actuelle, et non des pouvoirs généraux permanents. Une autorisation de courte durée, des espaces de travail isolés et des limites explicites de l’entité réduisent le rayon d’impact.

Modèles de fiabilité

Le premier modèle de fiabilité est de préférer un workflow lorsque le chemin est connu. La classification, l’extraction, le formatage et les transformations simples nécessitent rarement une autonomie ouverte.

La seconde est de rendre les actions d’agent observables. Les journaux doivent comprendre l’identité des tâches, la configuration du modèle, les appels d’outils, les résultats, les transitions d’état, les approbations et le résultat final. Le raisonnement caché ne doit pas être stocké comme preuve faisant autorité, mais les décisions opérationnelles doivent être reconstructibles.

La troisième consiste à séparer la proposition de l’exécution. Un modèle peut proposer un plan ou un patch; le code déterministe et les humains peuvent le valider avant de changer l’état de production.

La quatrième consiste à définir les conditions d’arrêt. Les critères de succès, les itérations maximales, les budgets-temps et les règles d’escalade empêchent les boucles qui se poursuivent sans progrès mesurables.

Le cinquième est de tester la récupération des défaillances. Les outils doivent renvoyer les erreurs actionnables. Les agents doivent savoir quand réessayer, choisir une alternative, demander de l’aide ou arrêter. La réessayer sans limite n’est pas de la résilience.

Évaluation

L’évaluation des flux de travail peut mesurer chaque étape de façon indépendante. Le routage a-t-il choisi la bonne branche ? L’extraction a-t-elle satisfait le schéma? L’évaluateur a-t-il saisi des demandes non étayées? Cette modularité rend les tests de régression simples.

L’évaluation des agents doit inclure des trajectoires et non seulement des réponses finales. Deux agents peuvent atteindre la même production avec des coûts et des risques très différents. Les mesures peuvent comprendre l’achèvement des tâches, le décompte des actions, le taux d’erreur des outils, les violations des politiques, les interventions humaines, la latence et la réversibilité.

Des environnements représentatifs sont essentiels. Un agent testé uniquement sur des exemples propres peut échouer lorsque les fichiers sont manquants, l’API expire ou sortie d’outil contient des instructions contradictoires. Les tests en boîte à sable devraient comprendre des preuves trompeuses, des objectifs ambigus, des permissions partielles et un état conflictuel.

Pour le travail sur les connaissances, l’attribution des sources est une mesure primaire. Un agent de recherche ne devrait pas se contenter de produire un rapport plausible; il devrait exposer quelles sont les sources qui soutiennent les allégations et où l’incertitude subsiste.

Contrôle humain

L’homme dans la boucle ne signifie pas placer un bouton de confirmation à la fin d’un processus opaque. Une surveillance utile exige un état lisible, des choix significatifs et suffisamment de temps pour intervenir. L’interface doit montrer l’action proposée, la cible, les preuves, les conséquences et le chemin de recul.

L’approbation devrait être concentrée aux limites qui en découlent. Exiger une confirmation pour chaque opération de lecture crée de la fatigue. Permettre à un agent de lotir des actions irréversibles derrière une approbation vague crée un faux contrôle.

Les humains définissent également la qualité. Les tâches créatives, éditoriales et culturelles ne peuvent pas toujours être réduites à des partitions automatisées. Un agent peut recueillir des sources, générer des alternatives ou vérifier la structure, mais la publication demeure une décision éditoriale responsable.

Choisir l’architecture

Utilisez un seul appel de modèle lorsque la tâche est étroite et que le contexte est suffisant. Utilisez un workflow lorsque les étapes et la validation peuvent être définies à l’avance. Utiliser un agent lorsque la découverte détermine le chemin et la rétroaction environnementale peut guider la correction. Utilisez un hybride lorsque la planification ouverte est utile, mais les mesures nécessitent des contrôles déterministes.

Un test de décision utile est: le système peut-il énumérer le chemin valide avant de voir l’entrée? Si oui, un flux de travail est probablement suffisant. Si non, demandez si l’objectif a des critères d’achèvement mesurables et si l’environnement peut fournir une rétroaction fiable. Sans ces conditions, un agent peut générer de l’activité plutôt que du progrès.

Le coût est important. Les boucles d’agents peuvent multiplier les appels de modèles et les opérations d’outils. Un flux de travail plus simple peut offrir une meilleure fiabilité à une latence moindre. La sophistication architecturale n’est pas un résultat.

Mise en œuvre

Commencez par un flux de travail limité et exposez un petit ensemble d’outils avec des schémas typés. Ajouter la planification dirigée par le modèle uniquement lorsque le bon chemin dépend des découvertes. Loger les trajectoires d’action, appliquer les budgets et exiger l’approbation avant les effets irréversibles.

Éléments de preuve

Le guide d’ingénierie d’Anthropic distingue les workflows avec orchestration prédéfinie des agents dont les modèles utilisent dynamiquement l’outil direct. Le AI RMF du NIST fournit un cadre plus large pour la cartographie du contexte, la mesure des risques et la gestion des systèmes d’IA.

Implications pour Electronic Artefacts

Le Knowledge Hub peut utiliser des flux de travail pour la validation de la matière première, la vérification des liens, les propositions de génération de relations et les vérifications SEO. Les agents conviennent mieux à l’étude d’un sujet sur de nombreux types de sources, à la recherche de relations de graphe manquantes ou à la mise à jour d’un ensemble de pages connectées dont la portée ne peut être connue au préalable.

VASTE fournit le contexte de recherche plus profond. Un agent opérant sur un graphique peut utiliser l’identité et la sémantique relation comme contraintes. Vestiges pourrait soutenir les agents de contribution qui proposent des liens entre les personnes, les techniques et les institutions tout en préservant la validation humaine. L’ORETH pourrait prendre en charge les agents d’analyse audio exploratoire qui choisissent des mesures basées sur la structure du signal observée.

Dans tous les cas, l’agent devrait renforcer la compréhension humaine plutôt que de dissimuler le système derrière une surface conversationnelle.

Avenir des systèmes d’agents

Les systèmes futurs combineront probablement des modèles spécialisés plus petits, des services déterministes, des activités de recherche, des flux d’événements et des examens humains. La communication de l’agent à l’agent peut devenir utile, mais la multiplication des agents ne supprime pas le besoin de contrats. Elle accroît l’importance de l’identité, de l’autorité et de la traçabilité.

Les questions de recherche durable ne sont pas combien d’agents un système contient. Ce sont la façon dont les objectifs sont représentés, la portée de l’autorité, la façon dont la vérité environnementale est obtenue, la façon dont les actions sont évaluées et la façon dont les humains conservent un contrôle significatif.

Limites

La terminologie demeure incohérente entre les produits et la recherche. Certains systèmes combinent les propriétés de workflow et d’agent, de sorte que la classification devrait décrire le contrôle réel, les permissions et le comportement d’exécution plutôt que de compter sur une étiquette de fournisseur.

Concepts connexes

Le protocole Agent2Agent étend la distinction au-delà d’un runtime : un workflow peut déléguer des tâches bornées à des agents indépendants tout en gardant gouvernance, identité et conditions d’arrêt explicites. Poursuivre avec Interopérabilité A2A et délégation gouvernée.

Lire Agent d’IA, Grand modèle de langage, Système autonome, Exécution contextuelle et Runtime de graphe.

Programmes connexes

Voir VASTE pour l’exécution graphique, l’identité et l’exécution contextuelle.

Glossaire

Flux de travail : une séquence ou un graphique prédéfini des étapes de traitement.

Agent : un système dans lequel un modèle sélectionne les actions dynamiquement.

Outil : une capacité externe limitée exposée à un modèle.

Trajectoire : séquence d’observations, de décisions et de mesures prises au cours d’une tâche.

Garde-corps: un contrôle qui limite ou contrôle le comportement du système.

Références

  • Anthropic. Bâtir des agents efficaces. 2024.
  • NIST. Cadre de gestion des risques d’IA. 2023.