Dans cette contribution, nous entendons réfléchir à l’idée de liberté au sein de la « société algorithmique », expression qui renvoie à la fois aux échanges sur les réseaux numériques et à l’activité sociale assistée par les technologies de calcul. Pour ce faire, nous caractérisons les dispositifs qui, au sein de ce type de société, sont susceptibles d’affaiblir la liberté, entendue du point de vue philosophique, notamment à l’aide du concept de servitude volontaire formulé par Étienne de La Boétie. En regard de cette situation, en quoi peut consister une existence libre ?1
Le projet de mener une existence libre constitue, au sein du programme que se sont donné les modernes, le plus grand défi qu’il est possible d’imaginer. En philosophie, les auteurs proches de la tradition existentialiste l’ont amplement montré2. Néanmoins, des esprits sages ont souligné la difficulté de cette notion en tant que concept utile qui serait doté d’une valeur descriptive ou suffisamment efficiente : « je ne vois […] point de « Problème de la liberté » ; mais je vois un problème de l’action humaine, lequel ne me semble point avoir été scrupuleusement et rigoureusement énoncé et étudié jusqu’ici, même dans les cas les plus simples » estimait Paul Valéry3. Or, le bien nommé « problème de l’action humaine » se pose plus que jamais dans le contexte de la société algorithmique.
La société algorithmique dans la dynamique de l’innovation
L’expression « société algorithmique » fait référence à l’émergence conjuguée, au sein des sociétés développées, des outils de l’informatique et du numérique, de l’intelligence artificielle, des réseaux et du Big data. Elle renvoie à la mise en forme des informations et de la communication par le biais des informations captées et sous l’effet du « pouvoir social » des algorithmes4. Aussi, cette expression désigne plusieurs dimensions reliées les unes aux autres bien que fort différentes : d’une part, l’activité numérique des usagers, des firmes et des institutions sur les plateformes et, de l’autre, l’action humaine telle qu’elle se trouve aujourd’hui ordinairement assistée par les algorithmes, soit de manière de plus en plus explicite (comme dans le cas du pilotage assisté d’un véhicule quel qu’il soit), soit de manière largement invisible, par exemple via les objets « intelligents » et connectés, reliés entre eux sur le mode de l’Internet of Things (« Internet des objets » ou IoT)5.
Ce type de pratiques invite à inscrire les organisations contemporaines assistées par l’informatique et le numérique dans le contexte de l’économie capitaliste globalisée. Que les technologies de calcul se trouvent désormais inscrites dans le quotidien des individus, cela correspond à l’héritage du projet scientifique moderne, compte tenu aussi de l’émergence des formes avancées d’administration et de gestion6. De telles transformations gagnent à être entendues dans le cadre de l’innovation, terme qui, tel que nous l’entendons, traduit le paradigme dans lequel l’existence humaine se déploie aujourd’hui. Ce modèle a succédé à celui du progrès ; par certains aspects, il s’emboîte dans ce dernier (notamment eu égard au rôle ici et là dévolu à la science et à la technique dans le projet de société), mais, par d’autres, il apparaît irrémédiablement post-progressiste. Issu de la vision du monde développée au siècle dernier par Joseph Aloïs Schumpeter, il repose en effet sur l’économie capitaliste de la haute technologie (ou, plus généralement, de l’économie telle qu’elle se trouve stimulée par cette dernière), adressée tant aux responsables des institutions qu’aux usagers-clients via une diffusion industrielle de masse des produits et des services informatiques et numériques. Systémique, l’innovation conçue comme paradigme articule les dimensions du social, de l’économie et de la finance, de la technique et de la gouvernance des organisations privées et publiques : elle éclaire la condition éco-socio-technique des individus dans les pays soumis à l’économie globalisée, et résume la situation que connaissent aussi bien les États que les citoyens, nés dans le type de société imaginé par les Lumières, mais insensiblement devenus clients des GAFAM7.
En un sens, la notion de société algorithmique, apparue au sein du paradigme de l’innovation, tend à en devenir synonyme, puisque, au sein d’un tel système, le rôle des algorithmes apparaît désormais prépondérant.
La puissance de calcul de ceux-ci en fait à la fois des accélérateurs de l’information et des perturbateurs des clivages sociaux et mentaux traditionnels. En tant que tels, ils contribuent à « l’économie de la connaissance », elle-même forme éminente du capitalisme contemporain. Une société innovante, du point de vue économique, l’est en effet à partir du moment où le capital n’est plus simplement lié à l’activité physique et à la production industrielle ancienne manière, et où le design ne connaît plus de limite pour transformer toute activité en « projet » programmable, chiffrable et potentiellement rentable.
D’où la forme structurelle d’ambigüités qui traverse ce genre de société, entre émancipation et domination.
D’un côté, dans une société qui se conçoit comme innovante, les organisations sont poussées à se renouveler sous l’effet des émergences techno-économico-financières, les start-up, créées par des individus distingués par leur créativité, « nouveaux princes nouveaux » eux-mêmes animés par leur virtù et aidés par les faveurs de la fortuna8. De l’autre, la valeur économique et financière effectivement produite dans un tel contexte l’est au prix de phénomènes d’exploitation et de domination qui régissent ces rapports de production nouvelle manière. André Gorz9 et Yann Moulier-Boutang10 ont pour rendre compte de ces phénomènes proposé la notion de « capitalisme cognitif ».
De nouvelles formes d’affaiblissement des libertés
La société algorithmique fournit aux usagers des technologies des moyens d’action renouvelés ainsi qu’un confort matériel et mental peut-être sans équivalent dans l’histoire des civilisations.
Toutefois, elle vit également sous la menace d’un potentiel affaiblissement des libertés publiques et privées.
Aussi, plusieurs commentateurs s’approchent tendanciellement de l’idée d’une servitude numérique11, d’autres – en se rapprochant du concept inventé au XVIe siècle par Étienne de La Boétie – ont explicitement formulé l’expression d’une servitude volontaire liée au mode de vie numérique, dans le contexte de « l’âge du capitalisme de surveillance »12. Toutefois, l’idée n’en est pas entièrement stabilisée, puisque, d’une part, la phénoménologie des nouvelles formes du pouvoir numérique est seulement en train de se constituer et que, de l’autre, le concept de liberté apparaît lui-même en transformation.
Concernant le premier aspect, plusieurs points méritent l’attention qui concernent aussi bien le système technique qui sous-tend la société algorithmique que les conditions sociales de son déploiement. D’abord, les algorithmes sont susceptibles d’introduire, dans une société pourtant davantage « ouverte » du fait du régime contemporain de l’information et de la communication, de nouvelles formes de contrôle13. Celles-ci, de par leur originalité, conduisent à concevoir des conceptualités elles-mêmes nouvelles, qui déplacent les lignes de la phénoménologie du pouvoir14.
Ensuite, une des conditions fondamentales de la possibilité de nouvelles formes d’asservissement est l’effet « boîte noire », résultant du caractère non transparent, voire franchement opaque des nouvelles conditions technologiques, concernant tant la conception que l’usage des outils numériques15. De plus, en ce qui regarde plus particulièrement la condition des usagers du numérique, se déployant dans le cadre de l’« économie de l’attention »16, les programmes promus par les acteurs d’internet tendent à enfermer à leur insu les personnes dans des « bulles attentionnelles » (Filter Bubble)17. Les réseaux sont basés sur la recherche systématique et conjuguée d’un double maximum chez l’usager-consommateur : le maximum d’attention et le maximum de confort possibles. Concernant ce second aspect, les réseaux veillent en effet à ne pas exposer leurs usagers à ce qui choquerait leurs opinions ou démentirait leurs valeurs. De tels dispositifs, parce qu’ils tendent à standardiser et à normaliser de manière invisible les contenus, répandent une sorte d’opium numérique et, sous des formes originales, font courir à la démocratie le danger mortel du conformisme qui fut autrefois analysé par Tocqueville. Les analyses critiques des « coups de pouce » (Nudge) et des systèmes implicites de recommandations vont dans le même sens pour révéler une mise sous influence à la fois discrète et générale des usagers18.
Parallèlement, il convient de prendre en compte la seconde dimension évoquée plus haut, à savoir, le développement massif des algorithmes dans l’activité humaine ordinaire via les objets « intelligents » connectés.
L’activité assistée ou augmentée pose des problèmes considérables en matière de respect de la vie privée et d’autonomie des personnes.
On pourrait dire que la société algorithmique inaugure également une nouvelle forme potentielle de despotisme, la « datacratie », le danger venant du fait que l’expertise des algorithmes producteurs des données confine à la gestion automatique des humains. Nous avons souligné ailleurs le risque encouru par une société qui, du fait de la confiance accordée à l’IA sous l’effet de son incontestable efficacité, non seulement reconnaît l’expertise des machines calculatrices mais leur confère également, via l’insertion réussie de cette expertise dans le fonctionnement de ses institutions, une forme d’autorité. En effet, dans la société algorithmique, une confusion s’installe subrepticement du fait que l’IA a valeur d’experte en matière de calcul des risques et de conseil à la juste décision (concernant les recrutements professionnels, les dilemmes de mobilité, ou encore la « justice décentralisée »)19. Ce type de société peut à certains égards être considéré comme une société « totalisée » par l’IA. Est-elle pour autant totalitaire, étant donné qu’elle repose largement sur le consentement des usagers des technologies informatiques et numériques ?
Hypothèses sur la servitude volontaire dans la société algorithmique
La société algorithmique recèle, relativement à la liberté des individus, une ambiguïté majeure. Elle repose d’une part sur des conditions économiques qui offrent à nombre d’entre eux l’accès aux technologies informatiques et numériques ainsi que sur des conditions juridiques qui leur garantissent un certain nombre de droits. Mais, de l’autre, elle repose également sur des conditions techniques et sociales qui, dans les faits, ne permettent l’effectivité de cette liberté que de manière formelle ou minimale. D’abord, ainsi qu’on l’a dit plus haut, la société algorithmique s’inscrit dans le paradigme de l’innovation caractérisé par de nouvelles formes d’exploitation capitalistique et par la transformation permanente rendant caduques les formes sociales traditionnelles (notamment l’emploi salarié et les cultures stabilisées des « métiers »). Ensuite, le système technique des plateformes et de l’IA est couramment employé dans des formules opaques au lieu d’en permettre pour les usagers une utilisation transparente et critique.
Selon le diagnostic autrefois établi par La Boétie20, les causes de la perte de liberté et de l’entrée dans la servitude volontaire sont au nombre de cinq : l’habitude ou accoutumance à la domination ; le manque d’habitude du sens critique, renforcé par le fait qu’il n’existe pas d’espace commun de discussion pour « s’entendre », et que chacun se trouvant isolé perd une partie de son humanité ; le goût pour le divertissement et les plaisirs qui provoque un amollissement contribuant à faire oublier la primauté de la liberté comme bien ; la crédulité des hommes qui, amplifiée par le travail du tyran qui œuvre à sa propre réputation, les conduit à cultiver la dévotion envers lui ; enfin l’asservissement à la chaine sociale qui, partant du tyran, s’étend vers la société par l’intermédiaire de l’action d’abord des « tyranneaux », ensuite de tout individu adoptant une attitude concupiscente et désireux d’être reconnu comme un proche du pouvoir.
Rapporté à la société algorithmique, le diagnostic la boétien peut s’avérer judicieux de plusieurs manières. Le type de socialité développée en régime numérique et sous assistance calculatoire est en effet susceptible de connaître, pour les particuliers usagers des technologies, des phénomènes socialement perturbants basés sur la puissance de très fortes rumeurs et sur de fausses informations (fake news), sur de la « e-réputation » illusoire et sur de la violence verbale engendrant des effets bien physiques ; ou bien l’émergence d’un conformisme nouvelle manière car conjugué au consumérisme désinhibé. Le conformisme est lui-même favorisé par la société des réseaux, qui repose sur des phénomènes qui ont été qualifiés de « surveillance librement consentie »21 et de « surveillance participative » (Participatory Surveillance)22, tout en promouvant, via l’anonymat toujours possible et permis, une « culture de l’irresponsabilité »23.
En d’autres termes, la pensée La Boétie, relue à la lumière des réalités qui sont les nôtres, fournit un programme d’étude sur les troubles du comportement, les pathologies de l’obéissance et les métamorphoses du désir dans la société algorithmique. Le terme de « mal encontre » désignait pour le penseur humaniste le type d’événement qui fait pivoter la tendance naturelle des humains à vouloir la liberté en un asservissement consenti24. Cette idée invite à développer l’hypothèse que les dispositifs de la société algorithmique sont susceptibles de favoriser un tel renversement. Or, la malencontre d’aujourd’hui peut effectivement être socio-technique : l’émergence de conduites à la fois pulsionnelles et machinisées se trouve en effet potentiellement amplifiée dans ce type de société, qui connaît donc un double asservissement, à la machine et au désir régressif.
La société algorithmique est fondamentalement hédoniste, ce qui implique qu’il convient, pour comprendre les dispositions particulières dans lesquels elle place ses membres, de penser le rapport entre information, plaisir et désir, c’est-à-dire de réunir la gestion du niveau cognitif et celle des affects collectifs25.
Échapper au piège de l’hédonisme
Au final, la société algorithmique reconduit l’idée de servitude volontaire à un de ses mystères structurants : les moyens de s’émanciper ne garantissent jamais une autonomie effective, mais peuvent au contraire favoriser des formes d’émancipation illusoire, qui recouvrent en réalité un asservissement fondé sur des formes obscures de complicité de la part de ceux qui se soumettent. Pourtant héritière du projet des Lumières, ce type de société est susceptible de constituer le cadre d’une nouvelle version de la servitude volontaire.
Troublante ambiguïté, le désir exprimé en faveur de la liberté peut muter en servitude consentie. Une telle confusion habite de fait la société algorithmique, société d’innovation et de consommation d’outils et de services technologiques, où les usagers sont disposés à utiliser ces derniers sans avoir nulle connaissance scientifique de leur fonctionnement ni d’information quant à leurs coûts (social, environnemental) de production. La « culture du narcissisme »26 se trouve rendue possible par l’assistance informatique et numérique, qui engendre une véritable illusion d’augmentation des subjectivités pourtant impuissantes faute d’une réelle maîtrise effective des outils et des services. Cette assistance, lorsqu’elle tend à devenir générale, favorise les formes de désir non ou mal construites ainsi qu’un fantasme de jouissance. Elle stimule des affects dans lesquels l’objet du désir est le moi non autonome, et où le désir n’est pas adressé à un autre, extérieur et distant, toujours si difficile à approcher qu’il implique de négocier avec ses propres pulsions. Pour le dire en termes machiavéliens, pour les individus de la société algorithmique, ceux qui n’ont pas assez de virtù, cette force conquérante adressée au monde et par suite capable d’entrer en dialogue avec lui, se trouvent infiniment soumis au « mécontentement » (mala contentezza), cette autre disposition certes activement désirante, mais également souffrante, qui, en l’humain, réunit en un seul affect l’ambition, la frustration et le ressentiment27.
Thierry Ménissier
Professeur de philosophie politique
Membre de l’Institut de Philosophie de Grenoble (IPhiG)
Responsable de la chaire de recherche « éthique & IA » de l’Université Grenoble Alpes
Auteur de Innovations. Une enquête philosophique, Hermann, 2021
- Ce texte est le fruit du travail scientifique qui est mené dans le cadre de la chaire « éthique & IA » soutenue par l’institut pluridisciplinaire en intelligence artificielle MIAI@Grenoble Alpes (ANR-19-P3IA-0003). ↩
- Voir par exemple Paul-Louis Landsberg, Réflexions sur l’engagement personnel (1937), Paris, Éditions Allia, 2018 ; Jean-Paul Sartre, L’Être et le néant, Paris, Gallimard, 1944 ; Jean Grenier, Entretiens sur le bon usage de la liberté, Paris, Gallimard, 1948. ↩
- Paul Valéry, « Fluctuations sur la liberté » in Regards sur le monde actuel (1945), Paris, Gallimard, 1983, p. 55. ↩
- Voir David Beer, « The social power of algorithms », Information, Communication & Society, 2017, 20/1, p. 1-13. ↩
- Sur la nature de ce dispositif technique et sur ses enjeux en termes ontologiques, sociaux, éthiques et politiques, voir par exemple Philip N. Howard, Pax Technica : How the Internet of Things May Set Us Free or Lock Us Up, Londres, Yale University Press, 2015. ↩
- Alain Desrosières, La Politique des grands nombres : Histoire de la raison statistique, Paris, La Découverte, 1993 ; Alain Supiot, La gouvernance par les nombres. Cours au Collège de France (2012-2014), Paris, Fayard, 2015. ↩
- Pour cette interprétation de l’innovation comme paradigme contemporain, voir Thierry Ménissier, Innovations. Une enquête philosophique, Paris, Hermann, 2021. ↩
- Cf. Machiavel, Le Prince/De Principatibus, chapitres VI-VIII. ↩
- André Gorz, L’Immatériel. Connaissance, valeur et capital, Paris, Éditions Galilée, 2003. ↩
- Yann Moulier-Boutang, Le Capitalisme cognitif. La nouvelle grande transformation, Paris, Éditions Amsterdam, 2007. ↩
- Voir Olivier Ertzscheid, « Usages de l’information numérique : comprendre les nouvelles enclosures algorithmiques pour mieux s’en libérer », Revue française des sciences de l’information et de la communication (En ligne), 6/2015, consulté le 10 décembre 2021. URL : http://journals.openedition.org/rfsic/1425 ; Bruno Lavillate « La servitude algorithmique », Médium, 2018/2 (n°55), p. 173-186. ↩
- Philippe Vion-Dury, La Nouvelle servitude volontaire. Enquête sur le projet politique de la Silicon Valley, Limoges, FYP Éditions, 2016 ; Shoshana Zuboff, The Age of Surveillance Capitalism, New York, PublicAffairs, 2019. ↩
- Voir Dominique Cardon, « Dans l’esprit du PageRank. Une enquête sur l’algorithme de Google », Réseaux, 2013/1, n°177, p. 63-95. ↩
- Voir par exemple la notion de « gouvernementalité algorithmique » in Thomas Berns et Antoinette Rouvroy, « Gouvernementalité algorithmique et perspectives d’émancipation. Le disparate comme condition d’individuation par la relation ? », Réseaux, 2013/1, n°177, p. 163-196 ; et celles, très éclairantes du point de vue heuristique, de « catopticon » et de « sous-veillance » in Jean-Gabriel Ganascia, Voir et pouvoir : qui nous surveille ?, Paris, Éditions Le Pommier, 2009. ↩
- Franck Pasquale, The black box society: The secret algorithms that control money and information, Harvard, Harvard University Press, 2015. ↩
- Yves Citton, (dir.), L’Économie de l’attention, nouvel horizon du capitalisme ?, Paris, Éditions La Découverte, 2014. ↩
- Eli Pariser, The Filter Bubble: How the New Personalized Web is Changing What We Read and How We Think, New York, Penguin Press, 2011. ↩
- Voir Richard H. Thaler et Cass R. Sunstein, Nudge. La méthode douce pour inspirer la bonne décision (2008), Paris, Vuibert, 2010. ↩
- Voir Thierry Ménissier, « Confiance en l’intelligence artificielle et autorité des machines », Storia e politica, tome XIII-2, 2021, p. 264-287. ↩
- Étienne de La Boétie, Le discours de la servitude volontaire, Paris, Payot, 1993. ↩
- Fabienne Martin-Juchat et Julien Pierre, « Facebook et les sites de socialisation : une surveillance librement consentie », in Béatrice Galinon-Mélénec (dir.), L’Homme trace. Perspectives anthropologiques des traces contemporaines, Paris, CNRS Éditions, 2011, p. 105-125. ↩
- Anders Albrechtslund, « Online Social Networking as Participatory Surveillance », First Monday, Volume 13, n°3, mars 2008, accessible à l’URL https://firstmonday.org/ojs/index.php/fm/article/view/2142/1949, consulté le 11 décembre 2021. ↩
- Paul Nemitz, « Constitutional democracy and technology in the age of artificial intelligence », Phil. Trans. R. Soc. A, 2018, 376: 20180089, accessible à l’URL https://royalsocietypublishing.org/doi/10.1098/rsta.2018.0089, consulté le 13 décembre 2021, p. 4 : « The Internet and its failures have thrived on a culture of lawlessness and irresponsibility ». ↩
- Étienne de La Boétie, Discours sur la servitude volontaire, op. cit., p. 122 : « (…) quel mal encontre a esté cela, qui peu tant dénaturer l’homme, seul né de vrai pour vivre franchement… ». ↩
- Voir Eva Illouz, Les Sentiments du capitalisme, trad. J.-P. Ricard, Paris, Éditions du Seuil, 2006 ; Fabienne Martin-Juchat et Adrian Staii (dir.), L’industrialisation des émotions. Vers une radicalisation de la modernité ?, Paris, L’Harmattan, 2016. ↩
- Voir Christopher Lasch, La Culture du narcissisme : la vie américaine à un âge de déclin des espérances (1979), trad. M. Landa, Paris, Flammarion, 2008 ; Anselm Jappe, La Société autophage. Capitalisme, démesure et autodestruction, Paris, Éditions La Découverte, 2017. ↩
- Nicolas Machiavel, Discours sur la première décade de Tite-Live, livre I, chap. 37, et II, avant-propos. ↩