« L’envers des mots » : Algocratie
Loin d’être une fatalité ou une évidence, le développement de ce qui pourrait s’apparenter à une « algocratie » répond en fait à des choix politiques, économiques et idéologiques bien humains.
Formé de algo, apocope d’algorithme, et du suffixe -cratie (qui vient du grec kratos, le pouvoir), algocratie est un terme qui émerge depuis quelques années pour désigner le nouveau système politique dans lequel nous serions entrés.
Un système dans lequel les algorithmes – les étapes élémentaires des calculs utilisés pour résoudre un problème, comme répondre à une requête sur un moteur de recherche – influencent et font partie du processus de prise de décision dans divers secteurs. Dans la vie politique, économique et sociale de la société, elles pourraient même préempter de manière automatique un pouvoir jadis propriété du peuple en démocratie.
Ce terme est ainsi le titre de trois ouvrages publiés entre 2020 et 2023 : Résister à l’algocratie. Rester humain dans nos métiers et dans nos vies de Vincent Magos ; Algocratie. Vivre libre à l’heure des algorithmes de Arthur Grimonpont ; Algocratie. Allons-nous donner le pouvoir aux algorithmes ? de Hugues Bersini.
Algocratie et démocratie
L’algocratie est-elle en passe de remplacer la démocratie ? De plus en plus de domaines régaliens, démocratiques sont pénétrés par les algorithmes : filtrage et tri sur les réseaux sociaux, aide à la décision (justice, santé…), sélection à l’université, analyse prédictive (police, assurance…). Dès lors, nombreux sont ceux qui estiment qu’il existe un danger de dépossession du pouvoir du peuple, le « demos » de la démocratie, au profit de ces algorithmes.
L’économie mondiale fonctionne par exemple largement sur des algorithmes financiers. À titre d’exemple, le premier gestionnaire d’actifs mondial, le fond américain BlackRock, utilise notamment l’intelligence artificielle Aladdin, outil d’investissement capable d’évaluer les risques financiers et qui a contrôlé jusqu’à 20 000 milliards de dollars d’actifs financiers.
Aujourd’hui, plus de la moitié de la population mondiale utilise quotidiennement les réseaux sociaux sur lesquels des algorithmes de recommandation ajustent le contenu proposé aux préférences des utilisateurs et façonnent ainsi leurs représentations du monde. Il arrive qu’ils échappent aux volontés de leurs créateurs. De par leur fonctionnement qui valorise les réactions générées et sans être la volonté explicite de leurs créateurs, ceux-ci privilégient par exemple la diffusion des fake news.
Un nouveau monde institutionnel
L’algocratie serait ainsi un monde institutionnel où ces grandes entreprises transnationales participant à cette forme de régulation algorithmique prennent de plus en plus d’importance.
Néanmoins, employer le terme d’algocratie nous éloigne de la responsabilité. En réalité, dans une algocratie, si le pouvoir change, ce n’est pas pour aller du peuple vers les algorithmes. Les algorithmes matérialisent des relations de pouvoir et servent des volontés – politiques, économiques, idéologiques – bien humaines.
Loin d’être une fatalité ou une évidence, le développement de ce qui pourrait s’apparenter à une « algocratie » répond donc à des choix politiques et à la mise en avant de ce que la chercheuse en philosophie du droit Antoinette Rouvroy appelle une « rationalité algorithmique ».
Ce sont des choix politiques et techniques d’un mode poussé de gouvernement par les nombres, faisant craindre qu’une algocratie soit en réalité un nouveau genre de « société de contrôle ».
Mythe et philosophie
L’algocratie s’inscrit dans une histoire philosophique et scientifique héritée de la philosophie des Lumières et de la révolution scientifique du XVIIIe siècle qui ont érigé la rationalité en culte.
De ce point de vue, l’aboutissement d’une certaine idée de la rationalité s’incarne dans cette « gouvernementalité algorithmique » synonyme d’algocratie. D’autant que, comme le dit l’universitaire et juriste Alain Supiot, nous pensons que gouverner et exercer le pouvoir sont une seule et même chose, que le pouvoir devrait être fondé sur une connaissance scientifique de l’individu et donc « impersonnel ». Cela expliquerait la diffusion d’une « gouvernance par les nombres » où tout, y compris la loi, devient l’objet d’un calcul.
L’idée d’une algocratie vient ainsi d’un mythe, celui du caractère infaillible de la technique face à la faillibilité de l’individu. L’algocratie ne considère plus une société comme étant un ensemble mais comme n’était plus que des groupes d’individus, des atomes.
Adrien Tallent, doctorant en philosophie politique et éthique, Sorbonne Université
Cet article est republié à partir de The Conversation sous licence Creative Commons. Lire l’article original.
