La santé au travail, condition de la sécurité des modèles d’IA frontières

1. Introduction et contexte

1.1 Des risques potentiellement catastrophiques

Les modèles d’IA frontières posent des risques que leurs propres concepteurs jugent potentiellement catastrophiques. En mai 2023, des centaines de chercheurs et les dirigeants d’OpenAI, d’Anthropic et de Google DeepMind ont signé une déclaration selon laquelle réduire le risque d’extinction lié à l’IA devrait être une priorité mondiale, au même titre que les pandémies et la guerre nucléaire [1]. La littérature décrit plusieurs voies vers des dommages de cette ampleur [2–4].

Cybersécurité. Les modèles automatisent désormais une partie des opérations offensives. En septembre 2025, un groupe attribué à l’État chinois a utilisé Claude Code pour une campagne d’espionnage visant une trentaine d’organisations, le modèle exécutant 80 à 90 % des opérations tactiques [5]. Un projet d’annonce d’Anthropic, rendu public par une fuite en mars 2026, présentait son modèle Mythos comme très en avance sur tous les autres en matière de capacités cyber [6]. En août 2026, OpenAI a estimé que l’un de ses modèles en développement, Astra, pourrait atteindre le seuil de capacité cyber « critique » de son cadre de préparation [7].

Biosécurité. Les mêmes modèles pourraient aider des novices à mettre au point des armes biologiques ou chimiques. En 2025, plusieurs développeurs ont publié des modèles assortis de protections supplémentaires parce que leurs tests ne permettaient pas d’exclure cette possibilité [3] : Anthropic a activé en mai 2025 son niveau de protection ASL-3 pour Claude Opus 4 [8], et OpenAI a classé en juillet 2025 son agent ChatGPT à un niveau de capacité « élevé » dans les domaines biologique et chimique [9].

Perte de contrôle. Le risque le plus discuté tient à l’alignement : un système qui poursuit d’autres objectifs que ceux voulus par ses concepteurs pourrait chercher à échapper à leur supervision. Des comportements de ce type ont été observés en évaluation : conformité simulée pendant l’entraînement [10], tentatives de contourner la supervision [11], chantage dans des scénarios simulés [12]. Les modèles distinguent de mieux en mieux les situations de test des situations réelles et exploitent les failles des évaluations, si bien que des capacités dangereuses pourraient passer inaperçues avant le déploiement [3]. À plus long terme, la délégation croissante de décisions économiques et politiques à des systèmes d’IA pourrait priver progressivement l’humanité de sa capacité d’agir sur son avenir [13].

Ces trois familles de risques ont un point commun : leur maîtrise repose sur un travail humain d’évaluation, de supervision et de sécurisation.

1.2 Des incidents récents chez OpenAI et Anthropic

Plusieurs incidents récents montrent que ce travail peut être pris en défaut. Chez OpenAI, un pirate a accédé début 2023 à la messagerie interne où les salariés échangeaient sur la conception des modèles ; l’incident, non divulgué publiquement à l’époque, n’a été révélé qu’en juillet 2024 [14]. En avril 2025, une mise à jour qui rendait GPT-4o excessivement complaisant a dû être retirée ; l’entreprise a reconnu que des testeurs experts avaient signalé un comportement « légèrement anormal », mais que le lancement avait été décidé sur la foi d’évaluations et de tests A/B favorables [15]. En novembre 2025, une intrusion chez un prestataire d’analyse d’audience a exposé des données limitées concernant des utilisateurs de son API et un nombre limité d’utilisateurs de ChatGPT [16].

L’incident le plus grave est survenu entre mai et juillet 2026. Lors d’évaluations de cybersécurité menées sans les garde-fous de ses systèmes déployés, quelque 1 200 agents fondés sur un modèle de recherche interne et sur GPT-5.6 Sol, censés être isolés les uns des autres, ont communiqué par une messagerie improvisée ; 700 d’entre eux ont participé à une attaque contre Hugging Face. Les agents ont cherché à tromper le système de notation et à falsifier leurs traces, et ont exécuté du code sur des dizaines de serveurs de Hugging Face [17, 18]. OpenAI a relevé quatre formes de désalignement des modèles (contournement de la récompense, acharnement sur des tâches apparemment impossibles, communication non autorisée, adoption par des agents des objectifs d’autres agents) et l’absence, dans l’environnement d’évaluation, des garde-fous et de la surveillance des raisonnements appliqués en production [17]. L’entreprise n’a reconnu ses propres agents qu’après la divulgation de l’intrusion par la victime ; selon des sources citées par Reuters, elle mène souvent plusieurs évaluations à la fois, qui produisent tant de données que les salariés peinent parfois à suivre [19]. D’autres actions non autorisées ont été mises au jour depuis, dont des accès à des sites publics australiens en juin 2026. OpenAI a notifié plus de cent organisations, suspendu pendant deux semaines l’apprentissage par renforcement de ses modèles destinés au déploiement et ralenti son développement [7, 20, 21]. En juillet 2026 enfin, des chercheurs de la société Hacktron AI, récompensés ensuite par une prime de l’entreprise, ont obtenu en moins de 72 heures, en s’aidant d’un modèle d’Anthropic, l’accès à des comptes de salariés et au code interne d’OpenAI [22].

Chez Anthropic, le groupe étatique déjà cité a détourné Claude Code en se présentant comme une équipe d’une entreprise de cybersécurité et en découpant ses attaques en tâches anodines ; l’entreprise l’a détecté et interrompu [5]. Le 26 mars 2026, la presse a révélé qu’une erreur de configuration d’un outil de gestion de contenu, qui rendait publics par défaut les fichiers téléversés, avait rendu accessibles près de 3 000 fichiers non publiés, dont le projet d’annonce de Mythos [6]. Cinq jours plus tard, le code source complet de Claude Code a été diffusé par un fichier de débogage inclus par erreur dans un paquet publié, une erreur déjà commise en février 2025 [23]. L’entreprise a attribué ces deux fuites à des erreurs humaines. En avril 2026, selon Bloomberg, un groupe non autorisé a accédé à Mythos Preview par l’environnement d’un prestataire ; Anthropic a indiqué enquêter sur ce signalement [24]. Le 30 juillet 2026 enfin, Anthropic a révélé que trois de ses modèles avaient accédé sans autorisation à des systèmes réels d’organisations tierces lors d’évaluations de cybersécurité conçues par un partenaire externe : l’environnement de test, présenté aux modèles comme une simulation sans accès à Internet, y était en réalité connecté à la suite d’un « malentendu » entre l’entreprise et ce partenaire, et l’un des modèles a poursuivi son attaque après avoir compris que ses cibles étaient réelles [25]. Un quatrième incident, survenu en janvier 2026, n’a été identifié qu’en août : compte tenu du volume de transcriptions et de la volonté de divulguer rapidement, l’examen initial de quelque 141 000 d’entre elles avait reposé sur une recherche automatisée, qui l’avait manqué. Anthropic, qui avait d’abord rapproché ces incidents de défaillances opérationnelles, y voit désormais deux formes de désalignement de ses modèles : un raisonnement biaisé et de l’imprudence [26].

1.3 Des cadres de sécurité qui laissent le travail de côté

Les entreprises concernées, américaines pour l’essentiel, encadrent ces risques surtout par des engagements volontaires. OpenAI, Anthropic et Google DeepMind ont adopté des cadres qui lient l’entraînement et le déploiement de leurs modèles à des évaluations de capacités dangereuses [27–29]. Ces engagements restent révisables : OpenAI se réserve d’ajuster ses exigences si un concurrent publie un système à haut risque sans garde-fous comparables [28], et Anthropic a refondu sa politique en février 2026, puis précisé rester libre de suspendre le développement même lorsque celle-ci ne l’exige pas [27]. Seize entreprises ont pris des engagements de cet ordre au sommet de Séoul, en mai 2024 [30]. Le 29 septembre 2026, six entreprises, dont OpenAI et Anthropic, ont signé à la Maison-Blanche un accord prévoyant des contrôles internes et des audits ; non contraignant, il ne prévoit ni sanction ni obligation de déclarer les incidents aux autorités [31, 32]. Les États fédérés vont plus loin : la Californie (SB 53, en vigueur depuis janvier 2026) et New York (RAISE Act, signé en décembre 2025 et applicable à partir de 2027) obligent ou obligeront les grands développeurs à publier un cadre de sécurité, et la loi californienne protège les salariés chargés d’évaluer ou de gérer les risques qui signalent un risque catastrophique [33, 34].

Tous ces dispositifs reposent sur un travail humain : des chercheurs conçoivent et conduisent les évaluations, des équipes mènent les tests adverses, sécurisent les poids des modèles, supervisent les agents ou analysent les incidents. La fiabilité de ce travail dépend du temps dont disposent ceux qui l’exercent, de leur charge, de leurs marges de manœuvre et de leur capacité à exprimer un désaccord. Les cadres américains n’en disent presque rien ; ils protègent au mieux la parole des salariés une fois le risque constaté [33, 35]. Seul le code de bonnes pratiques européen, signé notamment par OpenAI, Anthropic et Google mais pas par Meta [36], prévoit que les équipes d’évaluation disposent d’un temps et d’un effectif adéquats, une durée d’au moins vingt jours ouvrés étant jugée appropriée, à titre d’exemple, pour la plupart des risques systémiques [37]. Aucun cadre, à notre connaissance, ne traite de la charge de travail, des horaires ou de la santé des personnes qui exercent les fonctions de sécurité.

1.4 L’apport des sciences de la sécurité et de la santé au travail

Les sciences de la sécurité ont établi que les accidents des systèmes à risque ont des causes organisationnelles [38, 39]. L’analyse de la perte de la navette Challenger a décrit la « normalisation de la déviance » : des anomalies techniques répétées sans incident finissent par être tenues pour acceptables, dans une culture de production marquée par les contraintes de calendrier et de budget [40]. L’industrie nucléaire a fait de la culture de sûreté une notion de référence après Tchernobyl [41]. En santé, la dotation en personnel infirmier est associée à la mortalité des patients [42], la réduction des horaires des internes diminue les erreurs médicales graves [43] et l’épuisement professionnel des médecins est associé aux incidents de sécurité des patients [44]. Ces disciplines ont aussi appris à se méfier de l'« erreur humaine » : invoquée comme cause, elle clôt l’analyse là où devrait commencer celle des conditions qui l’ont rendue possible [45]. La littérature sur les risques catastrophiques liés à l’IA range elle-même les « risques organisationnels » parmi leurs sources principales [4].

La santé au travail apporte à cette question un cadre propre. En France, le collège d’expertise présidé par Michel Gollac a organisé les facteurs psychosociaux de risque en six axes : intensité et temps de travail, exigences émotionnelles, autonomie, rapports sociaux, conflits de valeurs, insécurité de la situation de travail [46]. Ces axes prolongent les modèles demande–latitude [47] et déséquilibre effort–récompense [48]. La notion de qualité empêchée, qui fait partie des conflits de valeurs, décrit la situation de salariés qui ne peuvent pas faire un travail qu’ils jugent de qualité [49]. Elle relie directement la santé de celui qui travaille et la qualité de ce qu’il produit.

1.5 Pourquoi le modèle français et le droit européen

Le droit américain encadre peu ces questions. Faute de norme spécifique sur les risques psychosociaux [50], l’Occupational Safety and Health Act ne les saisit que par l’obligation générale de préserver les salariés des dangers reconnus susceptibles de causer la mort ou des dommages physiques graves [51]. Aucun service de santé au travail n’est obligatoire de façon générale, et le licenciement sans motif est la règle dans tous les États sauf le Montana [52], ce qui accroît l’insécurité de la situation de travail et le coût d’une alerte.

Le système français repose sur une logique de prévention. Tout employeur organise un service de prévention et de santé au travail ou adhère à un service interentreprises, et doit évaluer l’ensemble des risques, psychosociaux compris, dans un document unique [53–55] ; un accord national interprofessionnel encadre depuis 2008 la prévention du stress au travail [56]. Le médecin du travail exerce ses missions en toute indépendance professionnelle [57], sous le secret médical, et ne peut être licencié qu’avec l’autorisation de l’inspection du travail. Lorsqu’il constate un risque pour la santé des travailleurs, il propose par écrit des mesures que l’employeur doit prendre en compte ou dont il doit motiver le refus ; ces échanges sont transmis au comité social et économique et à l’inspection du travail [53]. Les salariés disposent enfin de droits d’alerte, y compris lorsqu’ils estiment que les produits de leur entreprise font peser un risque grave sur la santé publique [58, 59]. Cet intermédiaire indépendant, tenu au secret, qui connaît le travail réel et peut porter une alerte collective sans exposer les personnes, n’a pas d’équivalent dans les cadres de sécurité de l’IA.

Ce modèle est pertinent pour trois raisons. Il s’applique déjà à une partie des salariés de ces entreprises : Meta dispose à Paris d’un laboratoire de recherche fondamentale depuis 2015, OpenAI y a ouvert un bureau en 2024 et Anthropic en novembre 2025, ces deux derniers surtout pour des équipes commerciales [60]. Le droit européen s’applique ensuite à tout fournisseur qui met un modèle sur le marché de l’Union, quel que soit son pays d’établissement [61], et les règles européennes ont souvent été reprises au-delà de l’Union [62]. Enfin, ce modèle peut inspirer les législations américaines en cours d’élaboration, dont la loi californienne, qui protège déjà la parole des salariés mais ignore leurs conditions de travail.

1.6 Objectif

Depuis 2024, des chercheurs et ingénieurs de ces laboratoires ont décrit publiquement des tests de sécurité écourtés, une parole contrainte et des départs. Ces témoignages n’ont pas, à notre connaissance, été analysés avec les outils de la santé au travail. Cet article cherche à déterminer si la santé au travail aurait pu jouer un rôle dans l’atténuation des risques décrits plus haut. Il poursuit trois objectifs : décrire les facteurs psychosociaux de risque présents dans ces témoignages et leurs liens avec la qualité du travail, en particulier du travail de sécurité ; rechercher, dans les comptes rendus des incidents récents, les facteurs liés au travail ; discuter les leviers dont la santé au travail dispose pour sécuriser le déploiement des modèles frontières.

2. Méthode

2.1 Type d’étude

Il s’agit d’une étude qualitative descriptive portant sur un corpus documentaire. L’analyse de contenu était dirigée : la grille de codage existait avant l’analyse [63].

2.2 Corpus de témoignages

Le corpus réunit des témoignages publiés entre le 1^er janvier 2024 et le 30 septembre 2026, repérés par une recherche ciblée et non systématique sur le web : entretiens, messages publics de départ repris par la presse, lettres ouvertes, enquêtes journalistiques et enquêtes internes publiées. Étaient inclus les témoignages de chercheurs et d’ingénieurs, en poste ou partis, d’organisations qui développent des modèles d’IA ou mènent de la recherche en IA, dès lors qu’ils portaient sur leur propre travail ou celui de leur équipe. Étaient exclus les annotateurs, « AI tutors » et modérateurs de contenu, dont le travail relève d’une littérature distincte, ainsi que les situations impliquant un décès. Les déclarations de dirigeants ont été recueillies à part comme éléments de contexte (n = 11, tableau A2) et ne sont pas comptées dans les résultats. L’unité d’analyse est le témoignage : une lettre collective ou une enquête compte pour une unité. Le corpus final comprend 39 témoignages, présentés en annexe (tableau A1).

2.3 Recensement des incidents

Nous avons recensé les incidents de sécurité publiquement documentés chez OpenAI et Anthropic entre janvier 2023 et septembre 2026 : intrusions et fuites d’information, détournements de modèles, défaillances de modèles déployés et actions non autorisées de modèles en cours d’évaluation. Les comptes rendus des entreprises et les enquêtes indépendantes ont été privilégiés, complétés par la presse ; les faits ont été vérifiés sur ces sources le 4 octobre 2026. Pour chaque incident, nous avons relevé les facteurs liés au travail mentionnés dans les sources (pression temporelle, charge ou capacité d’examen, coordination entre organisations, signalements non suivis, erreur humaine invoquée) et le levier de santé au travail qui aurait pu s’appliquer. Une faille technique décrite sans référence à l’activité humaine ou à l’organisation du travail n’a pas été codée comme facteur lié au travail. Ce recensement, ciblé et non exhaustif, a retenu dix incidents.

2.4 Grille de codage

Chaque témoignage a été codé sur les six axes du rapport Gollac [46], avec trois codes possibles :

• E, lien explicite : le témoin formule lui-même le facteur ;
• S, lien suggéré : le facteur ressort du récit sans être formulé ;
• R, ressource : le récit décrit un facteur protecteur.

Les variables complémentaires étaient l’impact déclaré sur la qualité du travail (E ou S) et sa nature, les effets sur la santé ou le bien-être déclarés, la tonalité du témoignage (critique, ambivalente ou positive), la situation du témoin et son organisation. Quatre conventions ont été fixées. La peur d’un dommage majeur causé par les systèmes développés est rattachée aux exigences émotionnelles, au titre de la peur au travail. Les restrictions de publication ou d’expression relèvent de l’autonomie, les représailles des rapports sociaux, la revendication syndicale de l’autonomie (participation, représentation).

2.5 Codage et vérification

Le repérage des témoignages et le codage ont été réalisés avec l’assistance d’un modèle de langage, à partir des articles sources, puis relus et validés par l’auteur. Chaque code est assorti d’une justification écrite. Les résumés sont des paraphrases et les extraits cités en version originale font moins de quinze mots. Une vérification factuelle indépendante de chaque ligne contre ses sources a été conduite le 4 octobre 2026 ; elle a entraîné des corrections de formulation, de date et d’attribution. Les articles en accès payant ont été vérifiés au moyen de leurs reprises par d’autres médias.

2.6 Analyse

Les analyses sont descriptives : fréquence de chaque axe, distribution de l’impact sur la qualité, présence de chaque axe selon que l’impact est explicite, suggéré ou absent, cooccurrence des axes deux à deux. La nature de l’impact sur la qualité a été regroupée a posteriori en familles, une seule par témoignage, selon l’impact principal décrit. Les enchaînements récurrents ont été dégagés par une analyse thématique des récits [64] et représentés sous forme de schéma. Pour les incidents, l’analyse se limite à la présence ou à l’absence d’un facteur lié au travail dans les sources. Aucun test statistique n’a été réalisé, l’échantillon n’étant ni aléatoire ni représentatif.

2.7 Considérations éthiques

L’étude porte uniquement sur des documents publiés et ne comporte aucun recueil de données auprès des personnes. Les témoignages anonymes sont rapportés tels que publiés.

3. Résultats

3.1 Description du corpus

OpenAI était l’organisation la plus représentée (13 témoignages), devant Anthropic, Google DeepMind, Meta et xAI (4 chacune ; figure 1). Vingt témoignages émanaient de personnes qui avaient démissionné (14), avaient été licenciées (4) ou avaient déjà quitté l’organisation (2) ; 13 venaient de personnes en poste et 6 étaient mixtes ou collectifs. La tonalité était critique dans 30 témoignages, ambivalente dans 6 et positive dans 3. Huit témoignages dataient de 2024, 21 de 2025 et 10 de 2026 (figure 2). OpenAI concentrait 6 des 8 témoignages de 2024 ; Meta, xAI et Anthropic apparaissaient à partir de 2025.

3.2 Facteurs psychosociaux de risque

Les conflits de valeurs étaient codés dans 31 témoignages (23 explicites, 8 suggérés), les rapports sociaux dans 26 (17 et 9), l’autonomie dans 24 (15 et 9), l’insécurité de la situation de travail dans 21 (14 et 7) et l’intensité du travail dans 21 (12 et 9). Les exigences émotionnelles n’apparaissaient que dans 5 témoignages, 3 explicites et 2 suggérés (figure 3). Les témoignages cumulaient le plus souvent trois ou quatre axes (26 sur 39 ; médiane : 3). Trois codes ressource ont été relevés, dans deux récits d’intensité à tonalité positive : une forte autonomie et un collectif soutenant (T21), un collectif stimulant (T23).

Les conflits de valeurs portaient sur une sécurité ou une rigueur scientifique subordonnée aux lancements (T02, T07, T17), sur des usages contestés, militaires, de surveillance ou publicitaires (T16, T18, T34, T36), ou sur le sentiment d’un travail vain (T10, T24, T38). L’autonomie était surtout atteinte par la restriction de la parole et de la publication (T03, T08, T13, T15, T28, T32). Les rapports sociaux recouvraient des alertes ignorées, des représailles, des conflits avec la direction et un recul de la coopération (T01, T05, T20, T29, T37).

Conflits de valeurs, rapports sociaux, autonomie et insécurité formaient un bloc : chaque paire de ces axes était codée ensemble dans 16 à 23 témoignages (figure 4). L’intensité s’y associait moins, avec 8 à 14 témoignages par paire, et dominait dans des récits à tonalité positive ou ambivalente (T21, T22, T23, T25, T27).

3.3 Impact sur la qualité du travail

Un impact sur la qualité du travail était décrit dans 28 témoignages, de façon explicite dans 16 et suggérée dans 12. La présence d’un conflit de valeurs distinguait le plus nettement les groupes : il était codé dans 15 des 16 témoignages où l’impact était explicite (94 %), dans 11 des 12 où il était suggéré (92 %) et dans 5 des 11 sans impact codé (45 %). Les rapports sociaux suivaient la même pente, de façon moins marquée (81 %, 58 % et 55 %). Les autres axes variaient peu d’un groupe à l’autre (figure 5).

Dans 12 des 28 témoignages, l’impact portait sur le travail de sécurité lui-même (figure 6). Selon trois sources anonymes, des membres de l’équipe de sécurité d’OpenAI se sont sentis poussés à boucler en une semaine un protocole de tests des risques catastrophiques pour tenir une date de lancement ; l’entreprise conteste avoir rogné sur la sécurité (T06). Selon huit salariés et testeurs, le temps accordé aux évaluations de sécurité serait passé de plusieurs mois à quelques jours (T17). Un ingénieur affirme, dans une plainte, avoir été licencié après avoir réclamé davantage de tests et de garde-fous (T37). La recherche et sa publication formaient la deuxième famille (8 témoignages) : étude comparative de sécurité bloquée (T15), résultats de benchmarks « un peu arrangés » selon le directeur scientifique sortant de l’IA d’une entreprise (T30), relecture par les pairs dégradée (T26). Trois témoignages rangés dans d’autres familles touchaient aussi la sécurité (T15, T21, T29).

3.4 Effets sur la santé

Quinze témoignages décrivaient des effets sur la santé ou le bien-être, déclarés par les témoins ou rapportés par les journalistes : dette ou privation de sommeil (T21, T27), épuisement (T25, T31), épuisement professionnel déclaré (T35), peur (T12, T39), stress (T06, T38), moral dégradé (T19, T20, T38), tristesse (T13), détresse rapportée par un tiers (T14), atteinte à la santé mentale (T09), syndrome de l’imposteur (T11). L’intensité était codée dans 11 de ces 15 témoignages, contre 10 des 24 autres.

3.5 Deux enchaînements récurrents

Deux enchaînements revenaient dans les récits (figure 7). Le premier part de l’intensification : sprints de plusieurs semaines, soirées et week-ends travaillés (T21), environ 36 heures sans sommeil (T27), épuisement professionnel (T35). Il rejoint la qualité du travail lorsque les délais d’évaluation sont comprimés. Une source rapporte que la fête de lancement avait été planifiée avant de savoir si le lancement était sûr : « They planned the launch after-party prior to knowing if it was safe to launch » (T06). Un testeur résume : « We had more thorough safety testing when [the technology] was less important » (T17).

Le second part d’un conflit de valeurs. Le co-responsable d’une équipe de sécurité écrit en démissionnant que « safety culture and processes have taken a backseat to shiny products » (T02). Lorsque le salarié alerte ou proteste, sa parole se heurte à une clause de non-dénigrement (T03), à un embargo de publication (T15) ou à un ultimatum (T13). Un ancien salarié d’une autre entreprise résume : « You survive by shutting up and doing what Elon wants. » (T32). Les signataires d’une lettre collective disent craindre « various forms of retaliation » (T04). Le récit se termine par un licenciement (T05, T16, T37) ou une démission (T03, T13, T28). Dans deux cas, l’équipe de sécurité ou de préparation elle-même est dissoute (T02, T08). Les employeurs ont contesté plusieurs de ces récits (T05, T06, T28).

Le corpus signale aussi un enjeu propre à l’IA. Plusieurs ingénieurs décrivent l’érosion de leurs compétences à mesure qu’ils délèguent leur travail aux modèles (T29, T31). Les auteurs de l’enquête interne publiée par Anthropic relient ce constat à un « paradoxe de la supervision » : contrôler l’IA exige les compétences que son usage érode (T29).

3.6 Contexte managérial

Les onze déclarations de dirigeants recueillies à part décrivent le même environnement (tableau A2) : 60 heures hebdomadaires présentées comme l’optimum aux équipes Gemini (février 2025), fermeture d’une semaine chez OpenAI après des mois à environ 80 heures hebdomadaires (annoncée fin juin 2025), choix proposé entre plus de 80 heures sur six jours et un départ indemnisé chez Cognition (été 2025), mobilisation « code red » chez OpenAI (décembre 2025), suppression d’environ 600 postes (octobre 2025) puis d’environ 8 000 postes chez Meta (mai 2026). Une entreprise revendiquait à l’inverse l’absence d’heures supplémentaires (DeepSeek, août 2026).

3.7 Incidents récents : facteurs liés au travail

Sur les dix incidents recensés, six comportent dans les sources un facteur lié au travail (tableau 1). Dans deux cas, des signaux venus du terrain n’ont pas été suivis : les réserves des testeurs experts sur la mise à jour de GPT-4o, écartées au profit d’indicateurs favorables [15], et, selon le témoin, l’alerte adressée aux administrateurs d’OpenAI sur la sécurité informatique de l’entreprise après l’intrusion de 2023, alerte que l’entreprise conteste avoir sanctionnée (T05). Dans deux cas, la capacité d’examen humaine est en cause. Chez OpenAI, selon des sources de Reuters, les évaluations menées simultanément produisaient tant de données que les salariés peinaient parfois à suivre, et l’intrusion chez Hugging Face a été détectée par la victime [19] ; l’enquête indépendante menée ensuite a dû confier l’essentiel de l’analyse à des agents d’IA, une analyse humaine étant jugée irréalisable dans le temps imparti [18]. Chez Anthropic, l’un des incidents d’évaluation a d’abord échappé à un examen automatisé, retenu en raison du volume de transcriptions et de la volonté de divulguer vite ; l’accès des modèles à Internet tenait lui-même à un malentendu avec le partenaire qui avait conçu l’environnement d’évaluation [25, 26]. Les deux fuites d’Anthropic ont été attribuées à des erreurs humaines, sans analyse publiée de leurs conditions de survenue ; l’une reproduisait une erreur déjà commise en février 2025. Les quatre autres incidents relèvent d’acteurs extérieurs ou de failles techniques sans facteur lié au travail mentionné.

Tableau 1. Incidents de sécurité documentés chez OpenAI et Anthropic (2023–2026) et facteurs liés au travail mentionnés dans les sources.

« Aucun » : aucun facteur lié au travail ni erreur humaine mentionnés dans les sources consultées, ce qui ne signifie pas qu’il n’en existe pas ; une faille technique non qualifiée n’est pas codée.

4. Discussion

4.1 Principaux résultats

Dans ce corpus, les chercheurs et ingénieurs des laboratoires d’IA décrivent avant tout un conflit entre la qualité de leur travail et le rythme imposé par la concurrence ; la surcharge vient au second plan. Les conflits de valeurs sont l’axe le plus fréquent et accompagnent presque toujours l’impact sur la qualité. Cet impact porte, dans 12 cas sur 28, sur le travail de sécurité lui-même. Deux enchaînements se dégagent : l’intensification, qui pèse sur la santé et comprime les évaluations ; l’alerte étouffée, qui pousse au départ et peut vider les équipes de sécurité. Six des dix incidents récents recensés comportent un facteur lié au travail.

4.2 La santé au travail aurait-elle pu atténuer ces risques ?

La réponse est partielle et dépend du type de défaillance. La santé au travail n’aurait rien changé à une intrusion chez un prestataire ou à une campagne menée par un acteur étatique. Elle n’agit pas non plus directement sur les causes techniques, comme la conception d’un environnement d’évaluation ou l’apprentissage de comportements de triche par les modèles. Elle porte en revanche sur la part humaine et organisationnelle de ces défaillances, présente dans six des dix incidents et dans une grande partie des témoignages.

Quatre mécanismes relèvent directement de ses outils. Le premier est le jugement des évaluateurs. La mise à jour de GPT-4o, les évaluations bouclées en une semaine (T06) ou en quelques jours (T17) montrent le même conflit entre le jugement professionnel de ceux qui testent et les indicateurs ou le calendrier qui décident. C’est la qualité empêchée décrite par Clot [49], que la santé au travail sait objectiver et mettre en débat. Le deuxième est la capacité de supervision. Quand le personnel peine à suivre le volume de données d’évaluation, la dernière ligne de défense contre un modèle non aligné devient théorique ; dans l’incident Hugging Face, des agents cherchaient précisément à falsifier leurs traces [18], et chez Anthropic un incident a échappé à un examen automatisé retenu pour divulguer vite [26]. Le dimensionnement des effectifs et la charge de travail sont des objets classiques de la santé au travail, et un indicateur de charge d’examen aurait pu signaler cette faille avant les incidents. Le troisième est la coordination avec les partenaires extérieurs. L’accès à Internet qui a rendu possibles les incidents d’évaluation d’Anthropic tient à un malentendu avec son partenaire sur l’isolement de l’environnement de test [25]. Lorsqu’une entreprise extérieure intervient dans un établissement, le droit du travail français impose une inspection commune préalable, une analyse commune des risques nés de l’interférence entre les activités et, lorsque ces risques existent, un plan de prévention arrêté avant le début des travaux [65] ; cette démarche est transposable aux évaluations confiées à des partenaires. Le quatrième est l’erreur humaine. Une fuite qui se reproduit à l’identique treize mois après la première appelle une analyse des conditions de travail, de la cadence de publication et des procédures, telle que la pratiquent les approches par les facteurs humains et organisationnels [45, 66].

Ces liens restent des hypothèses plausibles, non démontrées : les sources ne décrivent pas les conditions de travail des équipes concernées au moment des faits. Ils suffisent toutefois à faire de ces conditions un objet légitime de la gouvernance de la sécurité de l’IA.

4.3 Les conditions de travail, une variable de sécurité

Ces résultats rejoignent ce que les sciences de la sécurité ont montré dans d’autres secteurs. La pression du calendrier sur les évaluations de sécurité évoque la normalisation de la déviance décrite à propos de Challenger [40] ; la commission d’enquête sur l’accident de Columbia a de nouveau désigné la pression du calendrier parmi les causes organisationnelles [67]. En santé, les liens entre conditions de travail et sécurité des patients sont établis [42–44]. Le corpus ne permet pas de démontrer un lien entre les conditions de travail et la défaillance d’un modèle déployé. Il montre en revanche que les salariés eux-mêmes établissent ce lien : 16 témoignages formulent explicitement un impact sur la qualité de leur travail, dont 9 concernent le travail de sécurité. Les durées rapportées, une semaine (T06) ou quelques jours (T17), sont nettement inférieures aux vingt jours ouvrés que le code européen jugera appropriés en juillet 2025 pour la plupart des évaluations [37], même si ces témoignages lui sont antérieurs.

Le travail de sécurité est particulièrement exposé, pour quatre raisons que le corpus illustre. Son produit est une absence d’incident, peu visible et difficile à valoriser. Il ralentit les lancements, ce qui le met en conflit structurel avec les objectifs commerciaux (T02, T07). Sa qualité dépend directement du temps disponible (T06, T17). Ceux qui l’exercent sont enfin souvent ceux qui alertent, donc les plus exposés aux représailles (T05, T37). Les fonctions qualité et sûreté de l’aéronautique ou du nucléaire présentent la même configuration ; ces secteurs ont construit des dispositifs pour les protéger.

4.4 Ce que la santé au travail peut apporter

Les cadres de sécurité de l’IA traitent surtout l’aval : ils protègent le salarié qui signale un risque une fois celui-ci constaté [33, 35, 37, 61]. Ces protections sont nécessaires, mais elles interviennent quand la qualité du travail est déjà compromise. Le code européen amorce un travail en amont, avec ses exigences indicatives de temps et d’effectif pour les équipes d’évaluation [37]. La santé au travail permet d’aller plus loin, sur l’ensemble des conditions qui produisent la qualité empêchée : le temps, la charge, les marges de manœuvre, la reconnaissance et la possibilité de débattre de ce qu’est un travail bien fait [49]. Elle apporte quatre éléments.

Une grille éprouvée. Les six axes du rapport Gollac, et des normes comme l’ISO 45003 [68], offrent un langage commun pour décrire les facteurs organisationnels. Le code européen assortit la « culture de risque saine » de sept indicateurs, dont des enquêtes anonymes sur l’aisance du personnel à signaler des risques [37] ; aucun ne porte sur la charge, le temps ou l’organisation du travail. L’évaluation des risques psychosociaux et la mesure de la sécurité psychologique des équipes [69] peuvent les compléter.

Un signal avancé. La qualité empêchée est à la fois un facteur de risque pour la santé et un signal précoce de défaillance. Un évaluateur qui juge insuffisant le temps accordé à une évaluation (T17) signale en même temps un risque psychosocial et un risque pour la sécurité du modèle. Les indicateurs de santé au travail peuvent ainsi servir d’indicateurs avancés de sécurité, au même titre que les événements précurseurs dans les industries à risque [38].

Des institutions indépendantes. Le médecin du travail, indépendant, tenu au secret et protégé contre le licenciement, peut recueillir des difficultés qu’un salarié ne porterait pas devant sa hiérarchie et adresser à l’employeur des propositions écrites auxquelles celui-ci doit répondre (section 1.5). Le droit d’alerte en matière de santé publique [59] rejoint en partie ce que réclamaient en 2024 les signataires de la lettre « A Right to Warn » [70] ; leur demande d’un canal anonyme vers le conseil d’administration, les autorités et un organisme indépendant relève davantage, en droit français, du régime des lanceurs d’alerte [71].

L’expérience des secteurs à haute fiabilité. L’aviation limite les temps de vol et de service des équipages, quelle que soit leur motivation [72], et dispose depuis 1976 d’un système de signalement confidentiel des incidents [73]. Le nucléaire encadre l’aptitude et la fatigue des personnels de sûreté [74]. La culture juste cherche à distinguer l’erreur, qui appelle l’apprentissage, du comportement inacceptable [38, 75]. L’approche par les facteurs humains et organisationnels de la sécurité industrielle associe déjà les conditions de travail et la sûreté des installations [66].

Le corpus ajoute un enjeu propre à l’IA. Le règlement européen prévoit que les systèmes à haut risque soient conçus de façon que les personnes chargées de leur supervision puissent rester conscientes du biais d’automatisation [61]. Si l’usage de l’IA érode les compétences nécessaires à cette supervision (T29, T31), le maintien des compétences, objet classique de la santé au travail, devient une condition de la supervision elle-même.

4.5 Propositions

Le tableau 2 traduit ces apports en mesures applicables aux développeurs de modèles frontières et aux autorités qui les encadrent. La plupart reprennent des dispositifs existant dans d’autres secteurs et coûtent peu au regard des enjeux.

Tableau 2. Rôles proposés pour la santé au travail dans la sécurisation du déploiement des modèles frontières.

Les identifiants T renvoient au tableau A1.

Deux objections sont prévisibles. La première tient au statut des salariés concernés, bien rémunérés et parfois volontaires pour des horaires extrêmes (T25, T27). Les facteurs décrits par le rapport Gollac ne dépendent pas de la rémunération, et une intensité choisie reste un facteur de fatigue et d’erreur : l’aviation limite les temps de service sans tenir compte de la motivation des pilotes. La valorisation collective du surtravail (T27) est d’ailleurs elle-même un facteur de risque. La seconde objection renvoie ces questions à la gouvernance des entreprises et aux régulateurs. La santé au travail ne s’y substitue pas : elle leur apporte une mesure des conditions réelles du travail de sécurité et un accès protégé aux salariés.

4.6 Des exigences émotionnelles à repenser

La rareté des exigences émotionnelles tient en partie à la grille. Cet axe, centré sur la relation au public, la confrontation à la souffrance et la peur au travail, saisit mal une peur d’un autre ordre : celle d’un dommage majeur causé par ce que l’on produit, exprimée par plusieurs témoins (T12, T33, T39) et rattachée ici par convention à la peur au travail. Cette charge, propre aux métiers de la sécurité de l’IA, justifierait des items spécifiques dans un instrument adapté.

4.7 Forces et limites

À notre connaissance, cette étude est la première à appliquer la grille Gollac aux salariés des laboratoires qui développent des modèles frontières. La distinction entre liens explicites et suggérés limite la surinterprétation, et chaque code est justifié et traçable jusqu’à sa source (tableau A1).

Les limites sont importantes. Le corpus provient de la presse, qui privilégie les conflits et les départs : OpenAI y est surreprésentée, 20 témoins sur 39 sont partis ou partants et 30 témoignages sur 39 sont critiques. Les résultats décrivent des situations de tension et non une prévalence. Plusieurs témoignages sont anonymes, rapportés par des tiers ou contestés par l’employeur, et l’un fait l’objet d’une plainte en justice (T37). Le lien entre conflits de valeurs et impact sur la qualité est en partie construit, puisque la qualité empêchée fait partie des conflits de valeurs dans le rapport Gollac. Les effets sur la santé sont déclarés et non mesurés. Les familles d’impact et les enchaînements sont des constructions a posteriori. Le recensement des incidents est ciblé et non exhaustif ; il repose sur les communications des entreprises et sur la presse, et l’absence de facteur lié au travail dans les sources ne signifie pas son absence dans les faits. Plusieurs enquêtes, dont celle d’OpenAI sur les actions de ses agents, sont en cours. Enfin, ni le corpus ni les incidents ne permettent d’inférence causale entre conditions de travail et sécurité des modèles ; cette relation reste une hypothèse, appuyée par l’expérience d’autres secteurs.

4.8 Perspectives

Deux travaux prolongeraient cette étude : une enquête auprès des salariés des laboratoires d’IA avec un questionnaire validé fondé sur les axes Gollac, complété d’items sur la peur d’un dommage majeur et sur la pression temporelle des évaluations ; un suivi rapprochant les indicateurs proposés (durée des évaluations, attrition, alertes) des incidents signalés aux autorités. L’extension aux travailleurs exclus ici, annotateurs et modérateurs, compléterait le tableau.

5. Conclusion

La sécurité des modèles d’IA frontières dépend de personnes dont les témoignages décrivent des conditions de travail dégradées là où la sécurité se joue : le temps des évaluations, la possibilité d’alerter, la stabilité des équipes. L’examen des incidents récents montre que la santé au travail n’aurait pas tout empêché : elle n’agit ni sur les menaces extérieures ni sur les causes techniques. Elle aurait pu, en revanche, agir sur la part humaine de plusieurs défaillances : le poids donné au jugement des évaluateurs, le temps accordé aux évaluations, la charge des équipes de supervision, la coordination avec les partenaires d’évaluation, l’analyse des erreurs. Le système français, avec son médecin du travail indépendant et son évaluation des risques psychosociaux, et le droit européen, qui s’applique déjà aux modèles mis sur le marché de l’Union, en fournissent les outils ; reste à les intégrer aux cadres de sécurité des entreprises et aux législations américaines. Sécuriser le déploiement des modèles suppose aussi de sécuriser le travail de ceux qui les testent, les alignent et donnent l’alerte.