Full definition
BERT (Bidirectional Encoder Representations from Transformers), publié par Google en 2018, a révolutionné le NLP avant l'arrivée des LLMs génératifs. Utilise uniquement la partie encodeur du Transformer. Excellent pour classification, NER, sentiment analysis, question answering. Toujours utilisé en 2026 pour des tâches légères et rapides.
Related terms
Transformer
Architecture de réseau de neurones basée sur le mécanisme d'attention, fondation des LLMs modernes.
NLP (Natural Language Processing)
Traitement automatique du langage naturel par des machines.
LLM (Large Language Model)
Grand modèle de langage entraîné sur de vastes corpus textuels pour comprendre et générer du texte naturel.
Other NLP / LLM terms
LLM (Large Language Model) — Grand modèle de langage entraîné sur de vastes corpus textue...Prompt engineering — Art et science de rédiger des instructions efficaces pour ob...RAG (Retrieval Augmented Generation) — Technique qui enrichit les réponses d'un LLM par récupératio...Fine-tuning — Adaptation d'un modèle pré-entraîné à une tâche ou domaine s...Embedding — Représentation numérique (vecteur) d'un objet (mot, phrase, ...Hallucination — Production par un LLM d'informations factuellement fausses m...
Want to go beyond the definition?
AI2 trains in AI and data with RNCP-certified programs.