Embedding

Un embedding est un vecteur, une liste de nombres, produit par un modèle de machine learning pour représenter le sens d'un contenu : texte, image, audio ou code. Deux contenus au sens proche obtiennent des vecteurs proches dans cet espace numérique, même s'ils ne partagent aucun mot commun. C'est ce qui permet à un logiciel de comparer le sens plutôt que de faire correspondre des mots-clés exacts, et c'est le mécanisme derrière la recherche sémantique, les moteurs de recommandation et le retrieval-augmented generation (RAG). Les embeddings transforment un contenu non structuré (articles, fiches produit, tickets support) en quelque chose qu'une machine peut chercher, regrouper et classer mathématiquement. Avant leur généralisation, les systèmes s'appuyaient sur la correspondance exacte de mots-clés ou des taxonomies construites à la main, une approche qui échouait dès que la formulation différait légèrement de ce qui était indexé.

‍

Comment fonctionne un embedding

Un modèle d'embedding lit un contenu et produit un vecteur de longueur fixe, généralement entre 256 et 3072 nombres selon le modèle. Le contenu n'a besoin d'être converti qu'une fois : les vecteurs obtenus sont stockés dans une base de données vectorielle, puis comparés à un vecteur de requête au moment de la recherche à l'aide d'une métrique de distance. Plus les vecteurs sont proches, plus le sens est proche, indépendamment des mots exacts utilisés.

const vector = await embed("qu'est-ce qu'un embedding ?");
// vector => [0.0123, -0.0456, 0.0891, ...] (1536 nombres pour de nombreux modèles)
const score = cosineSimilarity(vector, storedVector);

La dimensionnalité est un arbitrage direct entre précision et coût : un vecteur à 3072 dimensions capture plus de nuances qu'un vecteur à 256 dimensions, mais il demande plus de stockage et plus de calcul à la comparaison. La plupart des systèmes en production choisissent un modèle entre 768 et 1536 dimensions, un bon équilibre entre qualité de recherche, taille d'index et latence.

Les métriques de distance utilisées en pratique :

• Similarité cosinus : mesure l'angle entre deux vecteurs, le choix standard pour le texte.
• Produit scalaire : rapide à calculer, utilisé quand les vecteurs sont déjà normalisés.
• Distance euclidienne : distance à vol d'oiseau, plus courante pour les embeddings d'image ou d'audio.

‍

Types d'embeddings

Tous les embeddings ne représentent pas le même type de contenu, et le modèle doit correspondre à l'usage visé :

• Embeddings de mots (Word2Vec, GloVe) : un vecteur par mot, aujourd'hui largement remplacés par des modèles au niveau de la phrase.
• Embeddings de phrase ou de document : un vecteur par paragraphe, page ou chunk, le standard pour la recherche et le RAG.
• Embeddings d'image (CLIP et équivalents) : placent une image et une description textuelle dans le même espace, pour les comparer directement.
• Embeddings de code : utilisés par les assistants d'IDE et la recherche de code pour trouver des fonctions ou extraits similaires.
• Embeddings multimodaux : combinent texte, image et audio dans un seul espace vectoriel partagé.

Choisir le mauvais type est une source fréquente de mauvais résultats : un modèle au niveau du mot ne capture pas le sens d'un ticket support complet, et un modèle texte généraliste sera moins performant qu'un modèle spécialisé code sur une fonctionnalité de recherche dans une base de code. Faire correspondre le type d'embedding au contenu et à la requête compte autant que le choix de la base vectorielle.

‍

Recherche par embedding vs recherche par mots-clés

La recherche par mots-clés et la recherche par embedding résolvent le même problème, trouver du contenu pertinent, avec une mécanique très différente :

‍

Bonnes pratiques et pièges courants

• Découper les longs documents avant l'embedding : un seul vecteur pour un PDF de 20 pages perd trop de détail pour être utile en recherche.
• Ne jamais mélanger des embeddings issus de modèles différents : chaque modèle a son propre espace vectoriel, les distances ne sont pas comparables entre eux.
• Réindexer tout le corpus à chaque changement de modèle d'embedding : anciens et nouveaux vecteurs ne peuvent pas être comparés de façon fiable.
• Normaliser les vecteurs avant de calculer une similarité cosinus pour garder des scores cohérents entre types de contenu.
• Associer la recherche par embedding à un reranker pour la liste finale quand la précision compte plus que le rappel.
• Surveiller le contenu obsolète : un index vectoriel qui n'est pas rafraîchi quand la source change continuera de renvoyer des résultats périmés.

‍

Embeddings, RAG et moteurs de recherche IA

Le retrieval-augmented generation utilise les embeddings pour retrouver les passages les plus pertinents par rapport à la question d'un utilisateur avant qu'un modèle de langage ne rédige une réponse, ce qui ancre la réponse dans du contenu réel plutôt que dans les seules données d'entraînement du modèle. La même logique guide de plus en plus les moteurs de réponse IA et les AI overviews : une page clairement structurée en sections bien délimitées (titres, paragraphes courts, définitions explicites) s'embedde plus précisément et est plus facile à retrouver et à citer correctement pour un système d'IA. C'est pourquoi la qualité de l'embedding est devenue un enjeu de GEO, pas seulement un détail technique côté développeur, et pourquoi une page écrite pour répondre clairement à une question à la fois surpasse souvent un contenu marketing vague dans les réponses générées par IA.

‍

Embedding chez BeBranded

Chez BeBranded, nous construisons des pipelines d'embedding pour les clients qui ont besoin d'une recherche sémantique sur leur propre contenu, d'un chatbot IA ancré dans leur documentation, ou d'un workflow RAG connecté à leurs outils existants. Ce travail s'inscrit dans notre service Automation.