Une autorité distribuée
Le management algorithmique ne remplace pas toujours un responsable par une machine identifiable. Il répartit souvent l’autorité entre un modèle, une interface, des objectifs paramétrés, des données historiques et les personnes qui doivent appliquer ou contester la recommandation.
Cette distribution peut accélérer la coordination. Elle peut aussi rendre difficile l’identification de celui qui fixe réellement la norme, explique une décision ou assume une erreur.
Préserver une capacité de discussion
Une décision assistée doit rester intelligible pour les personnes concernées. Elles doivent savoir quelles données ont compté, qui peut corriger le système et comment faire valoir une situation que le modèle ne représente pas.
L’enjeu de prévention est moins de désigner l’algorithme comme manager que de vérifier si l’organisation maintient une autorité humaine joignable, compétente et responsable.