LLM09 : quand votre IA invente des réponses convaincantes.

LLM09:2025 Misinformation : quand votre IA invente des réponses convaincantes

En 2024, Air Canada a été condamnée par un tribunal canadien à rembourser un client — parce que son chatbot IA lui avait communiqué une politique tarifaire qui n'existait pas. Le chatbot avait tout simplement inventé l'information, avec assurance, dans un français parfait. La compagnie a tenté d'argumenter que le chatbot était une "entité distincte" non responsable de ses propos. Le tribunal n'a pas suivi ce raisonnement.

Ce cas n'est pas anecdotique. C'est le premier signal d'une tendance de fond que l'OWASP a jugée suffisamment sérieuse pour en faire la 9e vulnérabilité mondiale des applications IA : LLM09:2025 – Misinformation. Votre IA peut se tromper. Elle peut inventer. Et si vous la déployez sans garde-fous, c'est vous qui en répondez.

Cet article fait partie de notre série sur le Top 10 OWASP LLM 2025. Retrouvez les épisodes précédents : LLM01 – Prompt Injection, LLM05 – Improper Output Handling, LLM06 – Excessive Agency et LLM08 – Vector & Embedding Weaknesses.

Misinformation IA et hallucinations : de quoi parle-t-on exactement ?

Qu'est-ce que la misinformation dans le contexte des LLM ?
C'est la production par un modèle de langage d'informations fausses, inexactes ou trompeuses — présentées avec le même niveau de confiance et de fluidité que des informations exactes. La source principale est ce qu'on appelle l'hallucination : le modèle "comble" les lacunes de ses données d'entraînement par des réponses statistiquement plausibles, sans vérifier leur véracité. Il ne ment pas — il ne sait pas qu'il se trompe.

Qu'est-ce qu'une hallucination d'IA ?
Une hallucination survient quand un modèle de langage génère du contenu qui paraît correct, sourcé, précis — mais qui est en réalité fabriqué. Une date qui n'existe pas. Une loi abrogée citée comme en vigueur. Un article scientifique avec un titre plausible mais une référence inexistante. Un nom de bibliothèque logicielle inventé de toutes pièces. Le modèle ne "sait" pas qu'il hallucine : il fait ce pour quoi il a été entraîné, générer la suite la plus probable.

Pourquoi votre IA invente des choses — et pourquoi elle y croit

Pour comprendre le risque, il faut comprendre comment fonctionnent ces modèles. Un LLM n'a pas accès à une base de faits vérifiés. Il a été entraîné sur des milliards de textes, et il a appris à prédire quelle suite de mots est statistiquement la plus probable dans un contexte donné. C'est un moteur de probabilité, pas un moteur de vérité.

Quand vous lui posez une question sur un sujet qu'il connaît bien et qui a beaucoup été documenté, ses réponses sont généralement fiables. Quand vous lui posez une question sur un sujet rare, récent, ou à la frontière de ses données d'entraînement, il continue à répondre avec la même assurance — mais le risque d'erreur augmente considérablement.

Il y a trois causes à ces erreurs, identifiées par l'OWASP :

• Les hallucinations : le modèle génère du contenu plausible mais faux, parce qu'il n'a pas les données nécessaires pour répondre correctement,
• Les biais d'entraînement : si les données d'entraînement contenaient des informations incorrectes ou déséquilibrées, le modèle les reproduit et les amplifie. C'est le terrain direct du data poisoning (LLM04), qui peut introduire des biais délibérés dans le comportement du modèle,
• La sur-confiance des utilisateurs : les personnes qui utilisent l'IA ont tendance à lui faire confiance sans vérifier — surtout quand la réponse est bien formulée et convaincante. C'est ce que l'OWASP appelle l'overreliance (sur-confiance), et c'est souvent le vrai facteur aggravant.

Quatre types de désinformation qui menacent concrètement les PME

Votre chatbot client donne des informations commerciales erronées — qui vous engagent ?

C'est le scénario Air Canada, applicable à n'importe quelle PME. Votre chatbot répond à des questions sur vos tarifs, vos conditions de retour, vos délais de livraison. Si ces réponses sont incorrectes — parce que le modèle n'a pas les données à jour, parce qu'il extrapole, parce qu'il hallucine — un client peut légitimement se retourner contre vous. Il a demandé. Votre système a répondu. Vous êtes responsable.

Le droit de la consommation français ne distingue pas les erreurs humaines des erreurs algorithmiques. Ce que votre outil dit engage votre entreprise, au même titre qu'un conseiller commercial.

Votre assistant juridique ou réglementaire cite des textes qui n'existent pas ?

Un usage très courant en PME : utiliser l'IA pour obtenir des informations sur des obligations légales, fiscales ou réglementaires. La tentation est grande. Mais les modèles de langage hallucinent régulièrement dans ce domaine — ils citent des articles de loi avec la mauvaise numérotation, des décrets abrogés, des jurisprudences inventées.

Un cas documenté aux États-Unis en 2023 : un avocat a soumis à un tribunal un mémoire rédigé avec ChatGPT, citant plusieurs arrêts de la Cour suprême qui n'existaient pas. Le tribunal l'a sanctionné. L'IA lui avait fourni les références avec une confiance totale. Il n'avait pas vérifié.

Pour une PME, prendre une décision fiscale, contractuelle ou sociale sur la base d'une information IA non vérifiée, c'est un risque réel et sous-estimé.

Votre équipe technique intègre une bibliothèque logicielle que l'IA a inventée ?

Celui-là surprend toujours — et pourtant, il est documenté par les chercheurs en sécurité depuis 2023. Les assistants IA de développement (Copilot, ChatGPT, Claude…) suggèrent parfois des bibliothèques logicielles qui n'existent pas. Des noms plausibles, dans le bon langage de programmation, avec la bonne syntaxe d'installation. Des hallucinations.

Le danger : des attaquants ont identifié ces noms inventés récurrents, créé de vraies bibliothèques malveillantes sous ces noms, et les ont publiées sur les dépôts officiels. Un développeur qui fait confiance à la suggestion de son assistant IA, copie la commande d'installation et l'exécute, peut se retrouver à déployer du code malveillant dans son environnement de production. C'est une forme d'attaque par compromission de la chaîne d'approvisionnement logicielle, amplifiée par les hallucinations de l'IA.

Votre IA médicale, RH ou juridique donne des conseils qui nuisent à quelqu'un ?

Des assistants IA sont de plus en plus utilisés dans des contextes à fort enjeu humain : orientation médicale, accompagnement RH, conseil juridique de premier niveau. Si le modèle produit une information fausse dans ces contextes — une contre-indication ignorée, un droit salarié mal interprété, une procédure incorrecte — les conséquences peuvent être graves.

L'OWASP documente des cas de chatbots médicaux qui ont présenté comme "encore débattus" des consensus scientifiques bien établis, induisant des utilisateurs en erreur sur des décisions de santé. Ce n'est pas une cyberattaque. Personne n'a piraté quoi que ce soit. L'IA a simplement produit une mauvaise réponse, avec assurance, et personne n'a vérifié. Ce type d'exposition est aussi documenté dans notre article sur les nouveaux vecteurs d'attaque liés à l'IA générative.

Usages IA courants en PME et risques de misinformation associés

Le facteur aggravant que personne ne voit : la sur-confiance

Voici ce qui rend LLM09:2025 particulièrement difficile à contenir : la désinformation IA ne ressemble pas à une erreur. Elle ressemble à une réponse d'expert. La formulation est fluide, le ton est assuré, la mise en page est propre. Il n'y a pas de "je ne suis pas sûr" qui alerterait l'utilisateur. Juste une réponse qui semble solide.

C'est là que la sur-confiance entre en jeu. Quand un collaborateur obtient une réponse bien formulée, il a tendance à l'intégrer directement dans son travail sans vérifier. Plus la réponse est longue et détaillée, plus la tendance à la valider sans contrôle est forte — paradoxalement, un texte riche en détails donne une impression de fiabilité qui n'a aucun rapport avec son exactitude réelle.

Ce problème est aggravé dans les environnements où l'IA est présentée comme un outil de productivité. Quand l'objectif explicite est d'aller plus vite, la vérification systématique devient une friction perçue comme un frein. C'est exactement le mécanisme qui a conduit aux cas documentés — pas de malveillance, juste une confiance mal placée dans un outil mal compris.

La sur-confiance est aussi un risque organisationnel : dans une PME, si le dirigeant utilise l'IA sans vérification, les équipes s'alignent naturellement sur ce comportement. Une seule décision de gouvernance — "on vérifie toujours les sorties IA sur les sujets à enjeu" — peut changer la culture en quelques semaines. C'est précisément l'objet de nos programmes de sensibilisation à la cybersécurité.

Ce qu'on met en place pour limiter les erreurs de votre IA

1. Ancrer votre IA dans des sources vérifiées (RAG). Plutôt que de laisser le modèle répondre depuis ses données d'entraînement, connectez-le à vos propres documents vérifiés — votre base tarifaire à jour, votre règlement intérieur, vos procédures validées. Un système RAG bien configuré, comme documenté dans notre article sur les bases vectorielles et embeddings, réduit significativement le risque d'hallucination sur les sujets qui vous concernent directement.
2. Définir des zones à vérification obligatoire. Toutes les informations ne présentent pas le même risque. Un brouillon de mail interne relu par son auteur n'a pas les mêmes enjeux qu'une réponse à un client sur ses droits. Définissez des catégories d'usage IA dans votre PME, et imposez une vérification humaine systématique pour les catégories à fort impact : informations légales, tarifaires, contractuelles, médicales ou financières.
3. Indiquer clairement à vos clients que les réponses viennent d'une IA. C'est une exigence du règlement européen sur l'IA (EU AI Act) pour les systèmes interagissant avec des humains, et c'est aussi une protection pour vous : un utilisateur informé qu'il parle à une IA prend naturellement plus de recul. Ce n'est pas une marque de faiblesse — c'est une posture de transparence qui réduit votre exposition légale.
4. Mettre en place des mécanismes de validation automatique. Pour les sorties IA qui alimentent des processus critiques — génération de contrats, de code, de rapports financiers — des outils de validation peuvent détecter des anomalies statistiques ou des références douteuses avant utilisation. Ces garde-fous techniques (guardrails) font partie d'une architecture sécurisée, au même titre que la supervision des sorties IA documentée dans notre article sur LLM05 – Improper Output Handling.
5. Former vos équipes à l'esprit critique sur les sorties IA. La sensibilisation ne signifie pas "méfiez-vous de l'IA". Elle signifie "comprenez ce qu'elle peut et ne peut pas faire". Un collaborateur qui sait qu'un LLM peut halluciner vérifiera naturellement les informations à enjeu. Cette formation est courte, concrète, et mesurable — et elle change durablement les comportements.
6. Surveiller et auditer régulièrement les réponses de vos outils IA. Les erreurs de l'IA ne surviennent pas toujours au premier jour du déploiement. Elles peuvent émerger à mesure que les questions posées s'éloignent du périmètre initial, ou quand le modèle sous-jacent est mis à jour. Un suivi continu de vos outils IA permet de détecter des dérives avant qu'elles ne causent des dommages.

Êtes-vous légalement responsable des erreurs de votre IA ?

Qui est responsable quand une IA donne une mauvaise information à un client ?
Vous. En tant que responsable de traitement et opérateur du système, vous êtes juridiquement responsable des informations communiquées par vos outils numériques — IA ou non. La "faute" du modèle ne vous exonère pas. Le tribunal canadien l'a confirmé dans l'affaire Air Canada : le chatbot fait partie de votre service, ses erreurs sont vos erreurs.

Ce que dit le RGPD

Si votre IA traite des données personnelles pour générer ses réponses — et c'est souvent le cas dans les contextes RH, client ou médical — vous êtes soumis aux obligations du RGPD. Une information incorrecte produite sur la base de données personnelles mal traitées peut constituer une violation. La CNIL a précisé que les décisions automatisées produites par des systèmes d'IA doivent être exactes et vérifiables, et que les personnes concernées ont le droit d'en contester le résultat.

Ce que dit l'EU AI Act

Le règlement européen sur l'IA impose aux systèmes à risque des obligations de robustesse, d'exactitude et de transparence. Un chatbot client qui communique des informations commerciales, ou un outil IA utilisé dans un contexte RH, entre dans le périmètre des systèmes à surveiller. L'obligation de signaler clairement la nature IA d'un système interactif est en vigueur depuis 2024.

Ce que dit l'ANSSI

L'ANSSI recommande aux organisations d'évaluer systématiquement la fiabilité des sorties IA avant intégration dans leurs processus critiques, et de documenter les mesures de supervision mises en place. Cette documentation peut s'avérer précieuse en cas de litige ou de contrôle.

Ce que dit NIS2

Dans le cadre de NIS2, les outils IA intégrés à votre système d'information sont des composants soumis aux mêmes exigences de gestion des risques que vos autres actifs numériques. Une erreur produite par votre IA qui provoque un incident — une décision erronée, une fuite de données, une compromission — peut entrer dans le périmètre des incidents à notifier. Cybermalveillance.gouv.fr accompagne les PME dans l'évaluation de leur exposition à ce type de risque.

Ce qu'il faut retenir

• LLM09:2025 couvre les risques de misinformation produite par les IA — fausses informations, hallucinations, contenus inexacts présentés avec assurance,
• La principale cause est l'hallucination : le modèle génère des réponses statistiquement plausibles, sans accès à une vérité vérifiable,
• Les PME sont exposées dans quatre domaines majeurs : chatbot client, usage juridique ou fiscal, assistance au développement logiciel, et conseil dans des contextes à enjeu humain,
• La sur-confiance des utilisateurs est le facteur aggravant le plus fréquent et le plus sous-estimé,
• Vous êtes juridiquement responsable des informations communiquées par vos outils IA — la faute du modèle ne vous exonère pas,
• Les protections passent par le RAG sur données vérifiées, les zones à vérification obligatoire, la transparence envers les utilisateurs, et la formation des équipes.

Conclusion : l'IA a toujours raison — jusqu'au jour où elle a tort

Le problème avec les hallucinations, c'est qu'on ne les voit pas venir. L'IA ne baisse pas les yeux. Elle ne dit pas "je suppose". Elle répond, avec la même fluidité que quand elle a raison. Et c'est précisément ce qui rend ce risque difficile à gérer sans un cadre clair.

La bonne nouvelle : LLM09:2025 est l'un des risques IA les plus accessibles à maîtriser. Il ne nécessite pas de compétences techniques avancées. Il nécessite de la gouvernance — définir qui vérifie quoi, dans quel contexte, avec quels outils. C'est un sujet de management autant que de cybersécurité.

Vous utilisez des outils IA dans votre PME et vous souhaitez évaluer vos pratiques actuelles face à ce risque ? Nos équipes vous accompagnent dans cet audit de conformité de vos usages IA. Prenez contact — le premier échange est gratuit et sans engagement.