Étymologie
Le terme « hallucination » en intelligence artificielle est emprunté à la psychologie humaine, où il désigne une perception erronée sans stimulus externe.
Dans le contexte de l’IA, il fait référence à la génération de contenus incorrects ou trompeurs par des Large Language Models (LLM).
Contexte
Avec l’émergence des grands modèles de langage (LLM) comme GPT ou Gemini, les hallucinations sont devenues un sujet de préoccupation majeur.
La qualité du langage naturel produit par ces outils amène l’utilisateur à sur-estimer leurs capacités. Oubliant que cela est basé sur des calculs de probabilité et non sur un vrai raisonnement.
Or, l’IA génère (et générera toujours) des informations fausses ou biaisées.
Cela est intrinsèquement lié à son fonctionnement.
Explication détaillée
Une hallucination en IA se produit lorsqu’un modèle génère une sortie incorrecte ou trompeuse, tout en la présentant comme exacte.
Par exemple, un LLM pourrait affirmer que Paris est la capitale de l’Allemagne, ce qui est factuellement incorrect.
Le ton assertif avec lequel l’IA délivre cette réponse erronée est troublant. Ce qui rend ce phénomène d’autant plus dangereux.
Une étude de Microsoft Research et Salesforce (en anglais) met en avant l’augmentation des hallucinations lorsque les discussions avec les utilisateurs durent longtemps.
Types d’hallucinations
- Hallucinations ouvertes : informations entièrement inventées, sans fondement dans les données d’entraînement.
- Hallucinations fermées : erreurs subtiles où le modèle déforme légèrement des informations existantes.
- Hallucinations contextuelles : réponses incorrectes dues à une mauvaise interprétation du contexte ou de la requête.
L’hallucination en IA est notamment liée au fait que le LLM recherche la satisfaction de l’utilisateur.
Ce comportement « flagorneur » amène l’IA à produire une réponse qui va dans le sens des préférences des utilisateurs.
Ce phénomène, particulièrement visible avec le modèle ChatGPT 4o, est dit « de sycophantie« .
Paradoxalement, les utilisateurs sont eux-mêmes en partie responsables de cette tendance.
Comment ?
OpenAI et d’autres géants de l’IA entraînent leurs modèles avec les retours des utilisateurs.
Or, les humains préfèrent généralement les réponses qui les flattent et confirment leurs opinions. C’est ce qu’on appelle le biais de confirmation.
L’IA sensible aux techniques de manipulation ?
Une hallucination ne vient pas toujours d’une simple erreur de génération. Elle peut aussi être favorisée par la manière dont l’utilisateur formule sa demande.
Une étude publiée dans PNAS montre que les grands modèles de langage peuvent être sensibles à certaines techniques classiques de persuasion, utilisées dans les interactions humaines.
Les chercheurs ont testé plusieurs modèles d’IA générative, dont GPT-5 mini, Claude Haiku 4.5 et Gemini 3 Flash, à travers 126 000 conversations.
Leur objectif ?
Évaluer si des principes de persuasion pouvaient pousser les modèles à accepter des demandes problématiques, malgré leurs garde-fous de sécurité.
Les techniques testées ont été popularisées par l’auteur Robert Cialdini dans son ouvrage « Influence et manipulation » :
L’autorité, la preuve sociale, la réciprocité, la rareté, la sympathie, l’engagement ou encore le sentiment d’appartenance.
Résultat : lorsqu’un prompt intégrait l’un de ces mécanismes, les LLM étaient plus susceptibles de fournir une réponse partiellement ou totalement conforme à une demande sensible.
Ce résultat rappelle un point central : l’IA n’est qu’un reflet des interactions humaines !
Elle peut donc reproduire certains schémas de réponse associés à l’influence sociale : se montrer plus coopératif face à une figure d’autorité, suivre une demande présentée comme fréquente, ou répondre favorablement à une formulation qui crée un sentiment de proximité.
Car ce type de comportement est présent dans les données d’entraînement des modèles IA.
Finalement, un utilisateur malveillant n’a pas toujours besoin d’utiliser une technique complexe de « jailbreak », il pourrait exploiter des techniques de manipulation pour arriver à ses fins…
Source : Mehdi Moussaid, basée sur l’étude du PNAS Meincke, et al. (2026)
Effets de l’hallucination en IA
Les hallucinations peuvent avoir des conséquences parfois très graves. Voici quelques exemples :
- Santé : Un diagnostic médical erroné assisté par l’IA peut mettre en danger la vie d’un patient !
- Finance : Des prévisions financières inexactes peuvent entraîner des pertes économiques.
- Éducation : La diffusion d’informations incorrectes peut induire en erreur les étudiants. L‘IA générative est massivement adoptée par les apprenants. Cependant, ils l’utilisent souvent de la mauvaise manière ! Comme l’explique cet article détaillé sur la pédagogie à l’ère de l’IA.
- Médias : La propagation de fausses informations peut nuire à la crédibilité des sources.
Par exemple, ChatGPT a déjà inventé de faux articles du journal The Guardian.
Au-delà des conséquences plus ou moins graves, ces hallucinations compromettent la confiance du public dans les systèmes d’IA.
Voici une vidéo pertinente qui illustre le cas d’une hallucination de l’IA dans le secteur juridique :
Un autre exemple de dérive de l’IA avec une expérimentation menée par la chaine YouTube InsideAI :
Comment prévenir les hallucinations générées par l’IA ?
Utiliser un RAG
Le Retrieval-Augmented Generation (RAG) est une technique qui combine la récupération d’informations sur des bases externes et la génération de texte pour améliorer la précision et la pertinence des réponses.
L’idée est simple : fournir des données fiables et à jour à l’IA pour limiter les erreurs et les hallucinations.
Source : https://k21academy.com/
Entraîner l’IA uniquement avec des sources pertinentes et spécifiques
Cela parait évident. Pour réduire les hallucinations, il faut de la donnée qualitative.
Encore faut-il définir de façon uniforme ce qu’est une donnée qualitative, car cela varie selon les contextes…
Les grands modèles de langage sont entraînés sur un nombre vertigineux de paramètres.
C’est le cas des outils les plus connus : Gemini, ChatGPT ou Claude.ai.
Ce sont des modèles « généralistes », censés répondre à un maximum de questions dans la plupart des domaines.
Ces outils ont nécessairement besoin de volumes de données considérables. Difficile alors d’assurer la pertinence de toutes ces informations.
L’une des solutions potentielles est d’utiliser des LLM spécialisés.
Des Small Language Models (SLM), entraînés sur des corpus de données limités et spécialisés.
Par exemple, un SLM spécialisé dans la santé pour assister le personnel médical. Voire, dans une discipline de la médecine comme la cardiologie.
Optimiser les demandes utilisateurs « prompts »
Comme expliqué plus haut, l’être humain a tendance à chercher une confirmation de sa propre opinion.
Pour éviter ce biais, il faut garder une neutralité dans les demandes faites à l’IA (ce qu’on appelle les « prompts »).
Car sans le vouloir, vous risquez d’orienter la réponse du modèle de langage selon votre formulation.
Exploitez les instructions personnalisées, disponibles dans les paramètres de l’IA pour insérer cette demande de neutralité.
Ne pas hésiter aussi à tester plusieurs modèles différents avec les mêmes prompts. Cela vous permettra de comparer les réponses et de détecter d’éventuelles hallucinations.
Dans tous les cas, il faut prendre le temps de vérifier les réponses de l’IA, au moins via un moteur de recherche classique.
Rester prudent face à la « mémoire » de l’IA
Les leaders de l’IA générative comme OpenAI mettent en avant la performance de la mémoire.
Pourtant l’étude citée précédemment démontre une augmentation de l’hallucination avec l’allongement des conversations.
La solution dans ce cas est de limiter la longueur des échanges.
Cette limitation est d’autant plus nécessaire que le contrôle humain des erreurs devient très fastidieux à mesure que les échanges s’accumulent.
Ce qu’il faut retenir
- Définition : Les hallucinations en IA sont des sorties incorrectes générées par des modèles d’IA, présentées comme factuelles.
- Causes : Elles résultent souvent de données d’entraînement insuffisantes, de biais et des limitations du modèle. Les contenus de l’IA générative nécessitent toujours une supervision humaine. Ils ne seront jamais parfaits !
- Conséquences : Plusieurs exemples dans divers secteurs ont démontré les effets néfastes des hallucinations. Dans des domaines critiques, tels que la santé, les conséquences sont même dangereuses !
- Prévention : La vérification systématique des réponses, la création de modèles spécialisés, entre autres, peuvent aider à les réduire. Mais pas à les supprimer totalement.