Pour une éthique de la raison numérique / INA Global / 17/04/15
Pour une éthique de la raison numérique, Elsa Trujillo, INA Global, 17 avril 2015. A propos de La Vie algorithmique.
Conversations téléphoniques, navigation Internet, achats en ligne, caméras de vidéosurveillance, capteurs biométriques, objets connectés… À partir des flux exponentiels de données que nous disséminons, de manière consciente ou non, une véritable « intelligence de la technique » entend optimiser, fluidifier et sécuriser notre quotidien individuel et collectif. Mais à quel prix ?
Confronté à cette interrogation, Éric Sadin, que l’on pourrait qualifier de « Morozov à la française », constate l’entrée dans une nouvelle ère de la numérisation : celle d’un monde régi par les données, marqué par un glissement de pouvoir des institutions étatiques vers une myriade d’organisations publiques ou privées, pour un changement de civilisation amorcé sans véritable signataire. Ces organisations, à l’instar de Google, spécialiste de l’indexation de l’information, la NSA, figure de proue de la surveillance massive, ou encore Walmart, pour ne citer qu’un géant de la grande distribution, s’adonneraient selon lui à une collecte massive de données, suivant une vision sécuritaire et commerciale du monde.
Face à ce changement de paradigme, Éric Sadin propose une prise de recul par rapport aux avancées technologiques actuellement à l’œuvre. En réponse à l’une des exigences formulées par Hans Jonas dans le Principe responsabilité, il signe en faveur de l’élaboration d’une théorie éthique de la technique et de la mise en place de cadres juridiques et institutionnels à son encontre… Pour en délimiter le pouvoir et en faire un outil au service d’une augmentation de la capacité d’agir.
En cette ère de capteurs, d’Internet des objets et d’ « économie de la connaissance », l’informatique est avant tout considérée comme une formidable occasion historique d’émancipation, d’assouplissement de la hiérarchie et d’horizontalisation des échanges. Éric Sadin note que ce mythe a accompagné l’essor d’Internet dès le milieu des années 1990. Il voit pointer un horizon nanométrique, prometteur de la réalisation de la vocation initiale du projet numérique : rationaliser l’ensemble des secteurs de la société, dans une perspective d’optimisation et de maîtrise du cours des choses.
Abolir progressivement la marge d’incertitude par la connaissance de données de plus en plus précises et nombreuses : tel serait l’un des pendants de la numérisation du monde actuellement à l’œuvre. Une entreprise qui passe notamment par une quantification intégrale de la vie, dont l’analyse porte sur des fragments de plus en plus restreints. Ce que dénonce Éric Sadin, c’est la course à la performance qu’elle induit et les velléités de marchandisation auxquelles elle répond. Nourrie par la puissance grandissante des algorithmes et par une technicisation avancée de la nature, elle instaure un nouveau mode de connaissance et prête une signification à tout fragment du monde, sous le joug d’un « panthéisme symbolique ». Le tout au détriment du sensible, petit à petit délaissé.
Le Big Data, cet océan de données générées par l’activité humaine, trouve un champ d’action dans un spectre de domaines de plus en plus large. Il répond en premier lieu au rêve marketing des offres totalement personnalisées, synonyme d’une plus forte probabilité d’achat. La société américaine Axciom, qui a noué un partenariat avec Facebook, possède par exemple en moyenne 1 500 types d’indications sur chacun des 700 000 individus qu’elle a répertoriés sur les 5 continents. De précieuses données enregistrées par le biais de techniques computationnelles, qui sont généralement revendues à prix d’or.
Collecté par les capteurs disposés au sein de l’espace urbain, le big data trouve également une application dans le cadre des « smart cities », ces villes au filtre algorithmique conçues comme propices à l’autorégulation et à une plus grande horizontalité des échanges entre instances décisionnelles et citoyens. Ces deux aspects des villes intelligentes, considérés comme bénéfiques, répondent à des logiques sous-jacentes dénoncées par Éric Sadin : le profit économique réalisé par des protocoles techniques homogénéisés, et une privatisation progressive de l’espace urbain.
Dans son ensemble, le big data sert l’émergence d’une délégation de systèmes conçus pour accompagner les existences et répondre aux besoins singuliers, parfois en les devançant. Par le biais des recommandations et des suggestions qu’il permet de constituer, notamment sur les sites d’achats en ligne ou les différentes plateformes culturelles, il propose la prise en charge du phénomène apparemment indomptable de l’individualisation. Une façon, en somme, de ne plus se fier qu’à ce à quoi les robots nous suggèreront de prêter attention.
Bien plus que les institutions étatiques, ce sont désormais les entreprises des technologies numériques et du traitement des données qui déterminent la forme de nos sociétés, ainsi qu’une large part de la cognition et de l’activité humaine. Qu’il s’agisse de Google, Apple, Facebook ou encore Amazon, le monde numérico-industriel s’est arrogé un pouvoir de gouvernementalité par sa capacité à interférer sur nos actions au prisme de ses productions.
Or, ce qui caractérise ces productions, c’est qu’elles autorisent une maîtrise en temps réel du cours des choses, ce face à quoi l’État manque de prise. Pour faire face à l’accroissement de la puissance détenue par le technopouvoir, l’État doit, d’après Éric Sadin, apprendre à se concevoir comme immanent. Le problème ? Une compression nécessaire de la temporalité de l’action politique, qui pourrait s’avérer néfaste à la qualité de la prise de décision.
En se conformant à la transition numérique, les États démocratiques mettent progressivement en place des outils basés sur l’open data, à l’image de l’Open Gov Initiative, lancée aux États-Unis. Censées jouer en faveur d’une plus grande transparence, les plateformes créées pour l’occasion récupéreraient en réalité de façon systématique la totalité des informations publiées par les organismes et les individus dans une perspective de monétisation. Elles n’accorderaient pas le même niveau de visibilité aux data, en fonction des acteurs publics à l’origine de leur formatage. De quoi ne faire de la transparence démocratique proclamée qu’une simple illusion selon l’auteur.
Face à la puissance grandissante des nouvelles technologies, et à leurs répercussions dans des cercles aussi intimes que la vie privée, Éric Sadin en appelle à la constitution d’un « Parlement transnational » des données, ainsi qu’à l’élaboration d’une charte homogène transnationale pour réglementer le cadre d’action des géants de l’Internet. Si les grandes institutions internationales commencent à prendre la mesure des enjeux représentés par la numérisation du monde, à la manière de l’ONU qui s’est récemment doté d’un rapporteur spécial sur la vie privée, le politique pâtit encore d’un retard face à la technoscience.
Alors que des valeurs démocratiques élémentaires telles que le respect de l’intégrité de la personne humaine, le bien commun ou le libre arbitre sont en jeu, il revient au pouvoir de mettre en place des cadres d’évaluation non soumis à la séduction des innovations et d’un techno-discours ambiant, qui semble ne laisser aucune place à la critique.
« C’est une aventure plurielle de recherche portant sur l’algorithmisation de la vie qui doit être entreprise, ouverte en outre à l’expérimentation de stratégies possibles et désirables ». Sans véritablement proposer de remède, le philosophe invite à une prise de conscience des acteurs publics et la mise en place de véritables « digital studies », pour évaluer l’impact effectif de ces technologies.
Le tout non seulement pour se constituer en contrepoids face à l’action de ces fameux GAFA – pour Google, Apple, Facebook et Amazon – mais aussi pour anticiper deux phénomènes qui risquent à la longue de s’imposer à nous : la généralisation d’un régime d’efficacité et la marginalisation de l'activité humaine.
Son décryptage aura servi une noble cause : celle d’éviter que le monde ne prenne l’allure d’une large salle de contrôle et que les technologies ne deviennent un outil d’asservissement.