Comment fonctionnent vraiment les grands modèles de langage

Problème

Les LLM sont largement utilisés mais mal expliqués. Le langage produit s’effondre souvent l’architecture du modèle, l’entraînement, la recherche documentaire, les outils et le comportement d’interface en une seule idée de “AI”, rendant la capacité et l’échec difficiles à évaluer.

Présentation

Les grands modèles de langage sont souvent décrits par des métaphores : autocomplet, mémoire synthétique, perroquet probabiliste, moteur de raisonnement, Internet comprimé ou interface universelle. Chaque métaphore illumine une caractéristique et en cache plusieurs autres. Une explication plus utile commence par l’opération réelle. Un LLM reçoit une séquence représentée comme tokens, transforme ces tokens à travers de nombreuses couches numériques apprises, et estime une distribution de probabilité pour ce que token devrait venir ensuite. Il répète cette opération jusqu’à ce qu’elle atteigne une condition d’arrêt.

Cette description semble simple parce que la boucle d’inférence de base est simple. Le pouvoir vient de l’échelle, de l’entraînement, de la représentation et de l’architecture. Des milliards de paramètres appris encodent les régularités statistiques trouvées dans la langue, le code et parfois d’autres médias. Les couches de Transformers laissent l’information de différentes positions s’influencer mutuellement. Le réglage de l’instruction et l’optimisation des préférences façonnent la façon dont un modèle préformé répond aux demandes. Les outils, le code d’extraction et le code d’application élargissent ce que le modèle peut observer et faire.

Comprendre ces couches importe parce qu’une LLM n’est ni une base de données ni une source indépendante de vérité. Il peut reproduire des connaissances, combiner des modèles et effectuer des transformations utiles, mais le même mécanisme peut générer des erreurs courantes. L’unité d’analyse correcte est donc l’ensemble du système: modèle, contexte, outils, interface, sources, contrôles et évaluateur.

Du texte aux tokens

Les modèles ne reçoivent pas de mots au sens humain. Un tokenizer segmente l’entrée dans des unités tirées d’un vocabulaire fixe. Un token peut représenter un mot commun complet, une partie d’un mot plus long, une ponctuation, un espace blanc ou un fragment de code. La tokenisation rend le langage ouvert computingable : au lieu de prédire directement toute chaîne de caractères possible, le modèle prédit à partir d’un vocabulaire fini.

La segmentation a des conséquences. Les noms rares peuvent nécessiter plusieurs tokens. Les langues moins représentées dans un tokenizer peuvent consommer plus de contexte pour la même quantité de sens. Le comptage des caractères, l’orthographe et les opérations de chaînes exactes peuvent être inopinément difficiles parce que le modèle fonctionne à partir d’unités symboliques et de modèles appris plutôt qu’une vue symbolique native de chaque personnage.

Chaque token est cartographié à un encastrement, un vecteur de valeurs numériques. Les assemblages permettent au réseau de représenter des modèles de similitude et de différence dans un espace haute dimension. Le modèle a également besoin d’informations sur la position, car les mêmes tokens dans un ordre différent signifient quelque chose de différent. Les informations positionnelles et les représentations symboliques entrent dans la pile du transformateur.

Transformer les couches et l’attention

Le document de 2017 « L’attention est tout ce dont vous avez besoin » présente l’architecture du transformateur comme une alternative aux modèles séquentiels basés principalement sur la récurrence ou la convolution. Son mécanisme central, l’auto-attention, permet à chaque position de calculer avec quelle force elle doit utiliser l’information d’autres positions dans la séquence disponible.

En termes simplifiés, le modèle produit des requêtes, des clés et des représentations de valeur. Une requête d’un token est comparée aux clés d’autres tokens. Ces comparaisons produisent des poids, et les valeurs pondérées contribuent à une représentation actualisée. Plusieurs têtes d’attention peuvent apprendre différents modèles de relation. Les couches d’alimentation vers l’avant transforment ensuite chaque position. Les connexions résiduelles et la normalisation aident l’information et les gradients à traverser des réseaux profonds.

L’attention n’est pas une preuve lisible par l’homme de pourquoi le modèle a répondu. C’est un mécanisme de calcul pour mélanger l’information contextuelle. Sur de nombreuses couches, le modèle peut construire des représentations sensibles à la syntaxe, la référence, le style, la structure de code et les instructions de tâches. L’organisation interne exacte est distribuée : un concept est rarement stocké dans un paramètre ou un emplacement.

Préformation

Pendant la préformation, le modèle traite d’énormes collections d’exemples et ajuste les paramètres pour réduire l’erreur de prédiction. Pour un modèle de langage autorégressif, l’objectif de base est la prédiction à suivre. Compte tenu des tokens précédents, le réseau attribue les probabilités à d’éventuelles continuations. Le système d’entraînement compare la prédiction avec le token suivant réel et propage l’erreur en arrière pour mettre à jour les poids.

Répété à travers de grands ensembles de données, cet objectif oblige le modèle à apprendre de nombreuses régularités utiles pour la prédiction. Grammaire aide à prédire le langage. Les faits et les associations aident à prédire les énoncés. Les modèles de code aident à prédire les fonctions. La structure générale et rhétorique aide à prédire les documents. Certaines capacités n’apparaissent qu’après une échelle ou une diversité de formation suffisante, bien que les affirmations d’émergence soudaine nécessitent une mesure soigneuse parce que les seuils d’évaluation peuvent faire des améliorations progressives semblent discontinues.

Les données de formation ne sont pas un miroir neutre de la culture. La collecte, le filtrage, la duplication, la distribution linguistique, l’octroi de licences, la modération et l’annotation affectent tous le modèle qui en résulte. Une carte modèle ou un rapport technique peut documenter une partie de ce processus, mais de nombreux systèmes demeurent difficiles à vérifier. La provenance appartient donc à toute explication sérieuse du comportement du modèle.

Réglage et alignement des instructions

Un modèle brut préformé est optimisé pour continuer les séquences, pas nécessairement pour suivre l’intention de l’utilisateur. Le réglage d’instruction utilise des exemples d’invites et de réponses souhaitées pour façonner un comportement plus utile. L’optimisation des préférences utilise des comparaisons humaines ou générées par des modèles pour favoriser les extrants jugés plus utiles, sûrs ou alignés sur une politique.

Ces étapes ne remplacent pas le modèle sous-jacent. Ils modifient les tendances de réponse. Les instructions du système, les rôles conversationnels, les politiques de refus et les formats de sortie sont des couches d’application et de formation placées autour de la prédiction du prochain token. Un modèle peut sembler avoir une personnalité stable parce que ces couches biaisent systématiquement ses réponses.

Le mot alignement doit être utilisé avec soin. Il peut s’agir du respect des règles relatives aux produits, des préférences humaines, des principes constitutionnels, des exigences de sécurité ou de valeurs sociales plus larges. Ce ne sont pas des objectifs identiques, et aucun processus d’accord ne résout tous les conflits entre eux.

Inférence et décodage

L’inférence est le processus d’exécution d’un modèle formé sur de nouvelles entrées. L’application assemble un contexte qui peut inclure des instructions système, des messages utilisateurs, des passages récupérés, des résultats d’outils et des conversations antérieures. Le modèle calcule les probabilités pour le token suivant. Une stratégie de décodage en choisit une.

Le décodage de la graisse choisit le token le plus élevé à chaque fois. L’échantillonnage introduit des variations contrôlées. La température remodele la distribution des probabilités : les valeurs inférieures concentrent les choix, tandis que les valeurs supérieures augmentent la diversité. L’échantillonnage top-k ou noyau limite la sélection à un sous-ensemble de tokens probables. Ces paramètres influencent le style et la répétabilité, mais ils ne créent pas ou ne suppriment pas les connaissances.

Après avoir sélectionné un token, le système l’ajoute à la séquence et le répète. Le modèle ne rédige normalement pas un paragraphe caché complet et le révèle mot par mot. Il prédit continuellement dans le contexte produit jusqu’à présent, bien que les systèmes modernes puissent ajouter des étapes de planification, de raisonnement ou de vérification autour de cette boucle.

Fenêtres contextuelles et mémoire

La fenêtre contextuelle est la quantité d’information tokenisée qu’un modèle peut traiter en une seule opération d’inférence. C’est le contexte de travail, pas la mémoire permanente. Lorsqu’une conversation dépasse la fenêtre disponible, les applications peuvent tronquer, résumer ou récupérer des documents antérieurs. Chaque stratégie peut perdre de l’information.

Un contexte plus long est utile mais pas équivalent à un rappel parfait. Des preuves pertinentes peuvent être enterrées parmi les distractions. La position peut affecter l’attention. Des instructions contradictoires peuvent réduire la fiabilité. Les bons systèmes sélectionnent et structurent le contexte au lieu de remplir chaque token disponible.

La mémoire persistante est une fonctionnalité d’application. Il peut stocker les préférences de l’utilisateur, les résumés, les documents, les embeddings ou les enregistrements du graphe en dehors du modèle et les récupérer plus tard. Le système de mémoire a besoin de permissions, de politique de rétention, de provenance et de comportement de suppression. Appeler tout cela “le modèle se souvient” cache une architecture importante.

Pourquoi les hallucinations se produisent

Un LLM est formé pour produire des continuations probables, non pour garantir que chaque phrase est soutenue. Lorsque le contexte est incomplet, le modèle peut encore générer un modèle plausible. Une citation fabriquée peut ressembler à un langage bibliographique réel parce que le système a appris la forme des citations. Une réponse confiante peut poursuivre l’attente conversationnelle même lorsque l’information sous-jacente est incertaine.

L’hallucination n’est pas un défaut avec une seule correction. Les erreurs peuvent découler de connaissances manquantes, d’invites ambiguës, d’une recherche erronée, d’une synthèse non étayée, de choix de décodage, de contextes conflictuels ou de lacunes en matière d’évaluation. La génération de récupération-augmentée peut fournir des preuves, mais le modèle peut l’utiliser à mauvais escient. Les outils peuvent calculer ou interroger des données faisant autorité, mais le modèle peut appeler le mauvais outil ou mal lire le résultat.

Dans la mesure du possible, les systèmes devraient exposer l’incertitude et séparer les revendications des sources. Pour la publication factuelle, la prose générée doit être vérifiée par rapport au matériel primaire. La fluence est une propriété de présentation, et non un niveau de preuve.

Ce que les modèles peuvent et ne peuvent pas faire

Les LLM peuvent résumer, classer, traduire, réécrire, extraire des structures, générer du code, proposer des alternatives et utiliser des outils. Ils sont particulièrement précieux là où le langage est à la fois interface et matériel. Leur formation générale permet à un modèle d’appuyer de nombreuses tâches sans programme distinct pour chaque phrase.

Ils restent sensibles à la formulation rapide et au changement de distribution. Ils peuvent échouer sur l’arithmétique exacte, l’état caché, les contraintes de domaine inconnues ou les tâches exigeant des faits externes actuels. Ils peuvent reproduire des stéréotypes ou des modèles de données confidentiels. Les capacités mesurées sur des repères peuvent ne pas être transférées vers un environnement de production avec des intrants et des conséquences différents.

La question « est-ce que le modèle comprend ? » devient souvent philosophique avant qu’il ne devienne opérationnel. Pour la conception du système, des questions plus précises sont disponibles: peut-elle compléter la tâche, dans quelles conditions, avec quel taux d’erreur, en utilisant quels éléments de preuve, et peut-on détecter une défaillance avant que des dommages se produisent?

Outils, récupération et agents

Un modèle devient plus utile lorsqu’il est connecté à des capacités externes. Récupération peut fournir des documents à jour ou privés. Une calculatrice peut produire l’arithmétique exacte. L’exécution de code peut tester une hypothèse. Une base de données peut renvoyer un état faisant autorité. Une boucle d’agent peut laisser le modèle sélectionner les actions et inspecter les résultats.

Ces augmentations augmentent également le risque. Les autorisations d’outils déterminent ce qui peut être lu ou modifié. Les documents récupérés peuvent contenir des instructions malveillantes. Les longues boucles peuvent créer de petites erreurs. Le modèle devrait recevoir l’autorité minimale requise et les mesures qui en découlent devraient faire appel à la validation déterministe ou à l’approbation humaine.

Pour Electronic Artefacts, VASTE propose une question architecturale utile : les actions de modèle peuvent-elles être limitées par l’identité de l’entité, le type de relation, le statut d’enregistrement et la visibilité ? C’est plus robuste que d’accorder un accès générique à un espace de travail indifférencié.

Architecture

L’architecture complète comprend le tokenizer, l’intégration, les couches de Transformer, les paramètres appris, l’assemblage contextuel, le décodage, la recherche documentaire optionnelle et les outils, ainsi que les autorisations et l’évaluation au niveau de l’application.

Mise en œuvre

Les mises en œuvre devraient commencer par une tâche limitée, un ensemble d’évaluations représentatives et une politique de source explicite. La sélection des modèles, la construction du contexte, le décodage et l’accès aux outils doivent être mis en forme afin que le comportement puisse être testé et reproduit.

Éléments de preuve

L’architecture du transformateur est documentée par Vaswani et al. La recherche sur les modèles de fondation décrit comment les modèles préformés de grande envergure peuvent soutenir de nombreuses tâches en aval tout en concentrant les risques techniques et sociaux.

Évaluation

L’évaluation doit correspondre à la tâche prévue. Un résumé peut être testé pour la couverture, la fidélité et l’omission. Un modèle de codage peut être testé au moyen d’essais et d’examens automatisés. Un système RAG a besoin d’un rappel, d’une précision de citation et d’une réponse fidèle. Un système créatif peut avoir besoin de diversité, de contrôle, d’édition et de provenance plutôt que d’une sortie correcte.

Les manifestations uniques sont de faibles preuves. L’évaluation de la production nécessite des exemples représentatifs, des catégories de défaillance, des ensembles de régression et un suivi. L’examen humain est particulièrement important lorsque la qualité est contextuelle ou culturelle. Les évaluateurs automatisés peuvent évaluer à l’échelle, mais ils peuvent partager des biais avec le système évalué.

Implications pour Electronic Artefacts

Electronic Artefacts devraient discuter des LLM comme composantes des connaissances et des infrastructures créatives. Le centre de connaissances fournit des pages stables, des sources et des relations de graphe qui peuvent améliorer la recherche. ORETH fournit un contexte pour l’analyse audio et la recherche multimodale. VASTE fournit un contexte pour les permissions, les outils et l’exécution contextuelle.

La position éditoriale devrait rester durable : expliquer les architectures et l’évaluation plutôt que de poursuivre chaque version de modèle. Les noms de produits changent rapidement. La tokenisation, l’attention, la mémoire externe, la provenance, l’autorité des outils et le jugement humain demeurent fondamentaux.

Limites

Cet article explique le modèle dominant basé sur les transformateurs plutôt que toute architecture de modèle de langue. Les modèles spécifiques diffèrent dans les données de formation, la conception du contexte, les composants multimodal, les interfaces d’outils et les mécanismes de sécurité.

Concepts connexes

Lire Grand modèle de langage, IA générative, Intelligence augmentée, Provenance et Génération augmentée par récupération.

Articles connexes

Continuer avec L’IA, l’espace latent et les flux de travail créatifs et Systèmes de production et de connaissances enrichis par récupération.

Glossaire

Token: une unité du vocabulaire modèle.

Embedding : représentation numérique d’un token ou d’un autre objet.

Paramètre : une valeur numérique apprise dans le modèle.

Attention : un mécanisme qui mélange l’information entre les positions.

Inférence : exécuter un modèle formé pour produire une sortie.

Décodage : la stratégie utilisée pour sélectionner les tokens de sortie.

Références

• Vaswani et al. L’attention est tout ce dont vous avez besoin. 2017.
• Bommasani et al. Sur les possibilités et les risques des modèles de fondation. 2021.