Types d'erreurs
1. Invention de sources
Le modèle peut citer un article, une circulaire, une recommandation ou une étude
qui n'existe pas, ou mélanger plusieurs références réelles. C'est fréquent lorsque
l'utilisateur demande des citations sans fournir de corpus fiable.
Types d'erreurs
2. Faux raisonnement juridique
Le modèle peut appliquer une règle vraie dans un autre contexte : droit commun au
lieu du Code du travail, médecine de soins au lieu de médecine du travail, droit
étranger au lieu du droit français, ancienne version d'un texte.
Types d'erreurs
3. Surconfiance clinique
Le modèle peut formuler une conduite à tenir trop directive, alors qu'il manque le
poste réel, les expositions, les antécédents, les contraintes de l'entreprise ou les
éléments du dossier médical. La réponse devient alors plus précise que les données
disponibles ne le permettent.
Facteurs favorisants
4. Questions rares ou spécialisées
Les hallucinations augmentent lorsque la question porte sur un domaine peu présent
dans les données d'entraînement : tableaux de maladies professionnelles, VLEP,
inaptitude, secret médical, suivi individuel renforcé, jurisprudence récente.
Facteurs favorisants
5. Prompts trop longs ou ambigus
Un prompt très long, contradictoire ou mal hiérarchisé peut dégrader le raisonnement.
Le modèle peut perdre de vue l'objectif principal, négliger une contrainte ou répondre
à une partie seulement de la demande.
Prévention
6. Vérification organisée
La réduction du risque repose sur un corpus source fiable, une demande explicite de
citation, une vérification humaine, une traçabilité des versions, des tests sur cas
réels anonymisés et une règle simple : pas d'usage autonome pour une décision sensible.