Lexique des agents IA
HallucinationHallucination d’une IA
Définition. On parle d’hallucination quand une IA générative produit une information fausse ou inventée tout en la présentant avec assurance, comme si elle était exacte. Une date, un chiffre, une référence de loi ou une citation peuvent ainsi être entièrement fabriqués.
Le phénomène découle du fonctionnement même des modèles : ils produisent la suite la plus probable, pas la plus vraie. La CNIL note que ces résultats inexacts mais plausibles surviennent notamment quand le système est interrogé sur des informations absentes de ses données d’entraînement, par exemple des événements récents.
Pour une entreprise, le risque est concret : un prix erroné dans un devis, une règle fiscale inventée dans une réponse client, une référence juridique qui n’existe pas. Plus le texte est bien rédigé, plus l’erreur passe inaperçue.
Anthropic recommande plusieurs parades : autoriser explicitement le modèle à répondre « je ne sais pas », lui demander de citer ses sources et le limiter aux documents fournis. Le RAG, qui fait travailler l’IA à partir de vos documents, réduit aussi le risque.
Anthropic précise que ces techniques réduisent le problème sans le supprimer. Un agent IA sérieux montre d’où vient chaque information et vous laisse valider avant tout envoi important.
Un exemple en entreprise
Interrogé sur le taux de TVA d’une prestation, un assistant généraliste peut répondre avec assurance un taux erroné ; limité à la fiche fiscale de l’entreprise et invité à la citer, il est au contraire conduit à signaler qu’il n’a pas l’information quand elle manque.