Les Hallucinations 

​L’un des risques les plus connus dans l’usage des modèles de langage est celui des hallucinations, c’est-à-dire la production d’informations fausses mais exprimées avec une grande assurance. Les premières générations de modèles affichaient des taux d’erreur particulièrement élevés : une étude publiée en 2024 montrait que, pour des recherches de références bibliographiques, les hallucinations atteignaient 39,6 % pour GPT-3.5, 28,6 % pour GPT-4 et jusqu’à 91,4 % pour Bard.

 

Ces erreurs s’expliquent par la nature même de ces systèmes: ils ne “savent” pas au sens humain du terme, mais prédisent la suite la plus probable d’une phrase à partir de leurs données d’entraînement. Lorsqu’une information manque, ils ont tendance à combler le vide par une réponse cohérente mais erronée.

​​​​

Les modèles de nouvelle génération montrent toutefois une amélioration nette.

 

Selon le Hallucination Leaderboard publié par Vectara, GPT-5 afficherait un taux d’hallucination d’environ 1,4 % sur des tâches de résumé documentaire, contre 4,2 % pour Claude Opus 4.1, 4,5 % pour Claude Sonnet 4 et 4,8 % pour Grok 4.

​

Selon OpenAI, GPT-5 présente une nette réduction des hallucinations par rapport aux générations précédentes. Ses réponses contiennent 45 % d’erreurs factuelles en moins que GPT-4o lorsque la recherche Web est activée, et 80 % de moins qu’OpenAI o3 lorsque le mode “réflexion” est utilisé.

Les évaluations menées sur des jeux de tests publics comme LongFact et FActScore confirment ces progrès: GPT-5 thinking génère environ six fois moins d’hallucinations qu’OpenAI o3, marquant une amélioration majeure dans la fiabilité du raisonnement et la production de contenus factuels longs.

 

Autrement dit, les modèles récents se trompent beaucoup moins souvent que leurs prédécesseurs, mais ils restent vulnérables, surtout lorsqu’ils sont sortis de leur domaine d’entraînement ou confrontés à des questions ambiguës.

​