Attention
mécanisme d'attentionMécanisme qui permet à un modèle de pondérer l'importance relative des différents éléments d'une séquence. C'est le cœur de l'architecture Transformer, introduite par l'article « Attention Is All You Need » (2017).
Transformer, embedding, RAG, hallucination, token… Le vocabulaire de l'IA peut intimider. Cet abécédaire en explique les termes essentiels — de A à Z, sobrement et honnêtement, sans jargon de vendeur.
Définitions neutres et vérifiables · Aucune statistique inventée.
Objectif, situation, format : cernez la voie adaptée dans le domaine de l'IA et recevez vos points de vérification par email.
« mécanisme d'attention »
Mécanisme qui permet à un modèle de pondérer l'importance relative des différents éléments d'une séquence. C'est le cœur de l'architecture Transformer, introduite par l'article « Attention Is All You Need » (2017).
Avant les acronymes, le terme-mère. Voici sa définition, récupérée en direct depuis l'encyclopédie libre — avec sa source et l'heure de chargement.
L'intelligence artificielle (IA) est un ensemble de théories et de techniques visant à réaliser des machines capables de simuler certaines facultés associées à l'intelligence humaine, comme apprendre à partir de données, reconnaître des formes ou produire du langage. Le terme recouvre des approches très diverses, des systèmes à base de règles aux réseaux de neurones profonds.
Source : Wikipédia — Intelligence artificielle (licence CC BY-SA). Affichage du texte de secours intégré, l'API n'a pas répondu.
Cherchez un mot, un sigle ou une notion. La liste se filtre instantanément.
Mécanisme qui permet à un modèle de pondérer l'importance relative des différents éléments d'une séquence. C'est le cœur de l'architecture Transformer, introduite par l'article « Attention Is All You Need » (2017).
Un modèle reflète les régularités — et les préjugés — présents dans ses données d'entraînement. Le biais désigne ces distorsions systématiques, qu'elles soient statistiques ou sociétales.
La fenêtre de contexte est la quantité de texte, mesurée en tokens, qu'un modèle peut prendre en compte d'un seul tenant. Au-delà, l'information sort de sa mémoire de travail.
Famille de modèles génératifs d'images qui apprennent à inverser un processus d'ajout progressif de bruit pour reconstruire une image. Stable Diffusion et DALL·E en relèvent.
Représentation d'un mot, d'une image ou d'un document sous forme de vecteur de nombres. Des contenus proches par le sens se retrouvent proches dans cet espace vectoriel.
Réentraîner un modèle pré-existant sur un jeu de données spécialisé pour l'adapter à une tâche ou un domaine précis, sans repartir de zéro.
Se dit d'un modèle capable de produire un nouveau contenu — texte, image, son, code — plutôt que de seulement classer ou prédire une étiquette.
Quand un modèle génère une affirmation fausse mais formulée avec assurance. Ce n'est pas un mensonge : le modèle prédit des mots plausibles, sans garantie de vérité.
La phase d'utilisation d'un modèle déjà entraîné : on lui fournit une entrée, il produit une sortie. À distinguer de l'entraînement, bien plus coûteux en calcul.
Unité de base que manipule un modèle de langage : un fragment de mot, un mot entier ou un signe. Le texte est découpé en tokens avant tout traitement.
Méthode simple qui classe ou recommande un élément d'après les k exemples les plus proches de lui. Très utilisée pour la recherche dans les espaces d'embeddings.
Modèle entraîné sur d'immenses quantités de texte pour prédire le mot suivant. De cette tâche simple émergent traduction, résumé et raisonnement apparent.
Se dit d'un modèle capable de traiter plusieurs types d'entrées — texte, image, audio — au sein d'une même représentation.
Modèle composé de couches d'unités de calcul, les « neurones », reliées par des poids ajustés pendant l'entraînement. C'est la base de l'apprentissage profond.
Quand un modèle apprend par cœur ses données d'entraînement au lieu de généraliser. Il excelle sur l'examen connu mais échoue sur des cas nouveaux.
L'instruction ou le texte fourni en entrée à un modèle. Sa formulation influence fortement la qualité de la réponse — d'où l'art du « prompting ».
Technique qui réduit la précision numérique des poids d'un modèle, par exemple de 16 à 4 bits, pour l'alléger et l'accélérer, au prix d'une légère perte de qualité.
Approche qui couple un modèle de langage à une base documentaire : on récupère d'abord des passages pertinents, puis le modèle répond en s'appuyant dessus.
Entraînement à partir d'exemples étiquetés (entrée → bonne réponse). Le modèle apprend à reproduire l'association. S'oppose à l'apprentissage non supervisé.
Architecture de réseau de neurones introduite en 2017, fondée sur le mécanisme d'attention. Elle est à la base de la quasi-totalité des grands modèles actuels.
L'inverse du surapprentissage : un modèle trop simple ou trop peu entraîné, qui ne parvient même pas à capter les régularités de ses données.
Liste ordonnée de nombres. En IA, presque tout — mot, image, son — finit converti en vecteurs, que l'on compare et combine mathématiquement.
Les paramètres ajustables d'un réseau de neurones. Entraîner un modèle, c'est chercher les valeurs de poids qui minimisent ses erreurs sur les données.
Ensemble de méthodes visant à rendre compréhensibles les décisions d'un modèle souvent perçu comme une boîte noire, afin d'en gagner la confiance.
Famille de modèles de détection d'objets en temps réel, capables de localiser et d'identifier plusieurs objets dans une image en une seule passe.
Capacité d'un modèle à accomplir une tâche sans en avoir vu d'exemple explicite, en s'appuyant sur ses connaissances générales et la seule instruction donnée.
Tu connais le vocabulaire — maintenant applique-le. Remplis les 4 champs, l'outil assemble instantanément un prompt structuré prêt à coller dans ChatGPT, Claude ou Gemini.
Remplis au moins un champ ci-dessus pour voir ton prompt apparaître ici…
Comprendre le vocabulaire, c'est bien. Garder un regard critique, c'est mieux.
Un modèle de langage prédit des mots probables. Il peut formuler une erreur avec une parfaite assurance : vérifiez les faits importants à la source.
Lacunes, biais et angles morts des données d'entraînement se retrouvent dans les réponses. La qualité de sortie dépend de la qualité d'entrée.
Vecteurs, poids, probabilités : aucune conscience, aucune compréhension au sens humain. Des outils puissants, à utiliser en connaissance de cause.
Les définitions sont volontairement courtes, neutres et factuelles. La fiche d'introduction est tirée en direct de Wikipédia (source et horodatage affichés). Aucune statistique n'est inventée.
Le domaine de l'IA s'est construit en anglais. On donne le terme courant et, quand il existe, son équivalent français (jeton, plongement, affinage…).
L'entraînement ajuste les poids du modèle à partir de données — c'est long et coûteux. L'inférence, c'est l'usage quotidien : on pose une question, le modèle répond.
Non, pas au sens humain. Il calcule la suite de mots la plus probable d'après ses données. Le résultat peut être bluffant, mais il reste statistique.
Suggérez un mot, signalez une imprécision ou posez votre question. L'abécédaire est vivant : il s'enrichit de vos retours.