dimanche, juillet 02, 2017

Quand Zuckerberg veut faire le bonheur de l'humanité

La semaine dernière, Marc Zuckerberg a dévoilé les modifications apportées à Facebook pour remplir la nouvelle « mission » et la nouvelle stratégie de l'entreprise. Une mission qu'il précise à petites touches depuis la publication de son long manifeste en février dernier. Une mission qu'il résume lui-même en quelques mots : « développer l’infrastructure sociale qui permettra de créer une communauté globale ».  Une communauté qui devra être :
- « sûre » (capable d’apporter de l’aide en temps de crise - Facebook revendique 500 activations du Safety check ces deux dernières années) ; 
- « informée » (donnant une voix à chacun) ; 
- « engagée » (stimulant l’implication politique - Facebook revendique avoir ramené 2 millions d’Américains aux urnes  
- et « inclusive » (reflétant les valeurs collectives).

« Quand vous regardez les grands défis qui se posent à notre génération – mettre fin à la pauvreté, guérir la maladie, arrêter le changement climatique –, aucune personne ou aucun groupe de personnes ne peut les résoudre seul. » La solution viendra de « groupes significatifs », à savoir « les groupes qui deviennent, lorsque nous les rejoignons, la partie la plus importante de notre expérience sociale et forment une partie cruciale de nos soutiens dans la vie quotidienne ». Des groupes que Facebook aidera à constituer, même si cela doit éroder la souveraineté des Etats nation ou nécessiter une forme de lissage culturel entre les communautés.

Comment ? Grâce aux paramétrages des subtils algorithmes qui décident quels amis nous seront présentés, quels sont ceux de leurs messages qui nous seront affichés, quelles publicités, quels services et quelles ressources nous seront proposés. Des algorithmes éduqués avec des méthodes simples et robustes, de grandes quantités de données et, prochainement, un peu d’intelligence artificielle pour mieux reconnaître les images, détecter les émotions dans les conversations, etc. Des algorithmes, aussi, qui seront mis au service d'une philosophie de la régulation propre au réseau social. Ainsi, pour lutter contre les "fake news" (une responsabilité politique que Facebook a initialement refusé d'assumer), l'algorithme analysera le comportement des utilisateurs et recommandera moins les vidéos qui auront été partagées avant sans avoir été visionnées au préalable.
Au delà de l'inquiétant fantasme de toute-puissance, et de la naïveté (feinte ?) de ce néopositivisme, ou même de notre inquiétude devant ce désir de façonner l' "Homme nouveau", il faut prendre ces annonces comme le signe de quelque chose de sérieux. D'ailleurs, certains le prennent parfaitement au sérieux, comme le magazine Infochrétienne qui semble espérer que Facebook pourra prendre la place qu'occupaient jusqu'alors "les églises et les clubs de sport"... Que Mark Zuckerberg soit capable ou non de refaçonner ainsi les cadres sociaux de nos engagements politiques, il y songe, et il y songe après avoir contemplé la puissance gigantesque des grandes plateformes numériques.

Smartphones, drones, réseaux sociaux, vidéosurveillance, satellites, véhicules connectés, villes intelligentes, CRM, grands systèmes administratifs… crachent à jet continu des données numériques qui décrivent nos villes, nos corps et même nos émotions. Tout se passe comme si nous construisions une copie digitale du monde. Une carte au 1 /1e, dynamique, maniable, activable, sur laquelle s’appuie une part croissante des activités humaines. 

Ce dernier point est sans doute l'un des plus importants. Il devient chaque jour un peu plus difficile d'envisager de créer quoi que ce soit, ou de communiquer avec qui que ce soit, sans solliciter les données de cette nouvelle matrice, qui devient petit à petit le terreau, l'humus de notre économie. Et par tant, il devient difficile de créer quelque valeur que ce soit, ou d'échanger quoi que ce soit, sans donner un petit peu de valeur à cette matrice, comme nous l'avons montré, avec Nicolas Colin, dans L'Age de la Multitude

Situation embarrassante pour notre souveraineté économique, mais situation embarrassante aussi, et surtout, pour notre capacité à définir collectivement, et démocratiquement, les cadres sociaux de nos activités.

Nous devons analyser les conséquences politiques de cette situation. Cette « copie digitale du monde » n’est pas une empreinte neutre. Elle est produite en fonction d’intérêts précis, par des acteurs qui choisissent ce qu’ils recueillent et ce qu’ils diffusent. Elle est travaillée par ces enjeux, et de ce fait biaisée. Et pourtant, elle devient l’infrastructure de grands systèmes de transport, de santé, de surveillance, de grands systèmes administratifs ou commerciaux, qui organisent nos existences.
Les usages qui s’y déploient, fondés sur la donnée, l’algorithme, le code, et ce qu’il est convenu d’appeler « intelligence artificielle », structurent notre monde social, dans le silence du débat public.

Et pourtant, c'est une affaire politique. Dès son tout premier commencement, le numérique est une affaire politique.
Les pionniers, enfants des années 60 dans cette Silicon Valley qui lançait la conquête des étoiles, avaient compris que calcul et communication étaient deux leviers de pouvoir, que l’ordinateur était une machine de pouvoir, et que la répartition de ce pouvoir allait devenir la grande affaire de notre époque.
L’informatique individuelle, dans sa première version, est un rêve utopique visant à « rendre le pouvoir au peuple ». Rapidement, cette utopie s’affrontera à d’autres forces : un mouvement libertarien (d’où naîtra le mouvement du logiciel libre en réaction aux tentatives d’enclosure des grandes entreprises) ; un mouvement sécuritaire (cyberguerre et surveillance de masse) ; un capitalisme mutant californien, ambitionnant de « changer le monde » ; le crime organisé et certains Etats « voyous », que nous devrions peut-être apprendre à considérer comme des acteurs politiques ou a minima, géopolitiques... L’internet que nous connaissons résulte de ces affrontements.

Peut-être doutez-vous de l'impact réel des réseaux sociaux sur nos représentations du monde ? Effectivement, les premières recherches tendent à relativiser grandement cette supposée influence. Peut être pensez-vous que nous restons libres de ne pas aller sur Facebook ?
Mais le numérique et ses algorithmes sont depuis bien longtemps sorti des ordinateurs. Les algorithmes décident des contrôles fiscaux, des tirs de drones en Irak ou en Corée, du rythme des feux rouges, des cours de bourse, ou de l’admission des Français à l’université. Ils prennent des décisions politiques.
La voiture autonome, par exemple, détermine si elle freine brutalement, mettant en danger la vie de l’enfant mal attaché sur la banquette arrière, ou si elle ne freine pas, renversant l’adulte qui traverse hors du passage piéton.

Chaque fois la même difficulté : quels intérêts ont dicté ce choix ? Qui peut le vérifier ? Quel débat ouvert le légitime ? Qui assumera la responsabilité ?
"Qui custodiet ipsos custodes ?" Toujours la même question, depuis l'aube de la démocratie.

Si les GAFA ont du mal à lutter contre les Fake news, ce n'est pas par attachement à la liberté d'expression, c'est que leur modèle profond, fondé sur la publicité, est structurellement bienveillant envers le sensationnalisme. On se souvient également de l'expérience de psychologie massive de Facebook, qui avait modifié le fil d'actualité de 600.000 personnes pour étudier les mécanisme de la contagion émotionnelle (la bonne humeur pousse à cliquer et à acheter). La somme des intérêts, des enjeux, des organisations internes des entreprises qui développement la nouvelle matrice n'est pas, et ne peut pas être démocratique. C'est à peine si elle est consciente.

La biopolitique est déjà derrière nous. Le pouvoir est encore plus euphémisé, encore plus disséminé, encore plus difficile à contrôler démocratiquement. 
La biopolitique est derrière nous, et ce qui lui succède est encore plus problématique. La démocratie doit reconstruire ses propres processus.
Si nous croyons à l’importance essentielle de garantir l’autonomie des individus, et de leur permettre de décider librement de leur destin collectif, le contrôle démocratique de cette carte au 1 :1 et des usages qui s’y déploient devient l’enjeu central.

Pour cela, il nous faut une nouvelle politique, qui ne peut plus se contenter des concepts et des techniques de pouvoir forgés à la fin des Lumières. 
Il faut désormais se battre sans relâche pour préserver un espace du Commun : une infrastructure nous permettant d’agir et d’innover sans être déterminés par les plateformes et les algorithmes de tiers. L'Etat, en devenant Etat plateforme peut contribuer à desserrer l'étau des plateformes privées.
Il faudra intégrer au débat public de nouveaux concepts, comme le droit de reprendre possession de ses données personnelles (la « dataportabilité »), le droit à demander l'effacement de ses données, le droit au silence des puces et à celui des algorithmes.
Il faudra organiser la transparence sur l’existence et le fonctionnement de ces algorithmes, la nécessité de pouvoir en vérifier le fonctionnement effectif, la possibilité de leur demander des comptes, comme s'y emploie desormais l'Etat pour ses propres algorithmes.
Il faudra apprendre à concevoir des algorithmes qui augmentent les degrés de liberté des individus et à repousser ceux qui se contentent de restreindre leurs choix.
Il faudra apprendre à débattre collectivement de leurs visées et de leurs impacts, à faire naître une intelligence collective qui nous rende à nouveau responsables de notre destin politique.


4 commentaires:

  1. Bonjour,

    en effet! Dans le même ordre d'idée, sur nos chers GAFA, il y a ceci : "Apple, Google, Amazon, Facebook sont-ils devenus des partis politiques ?" https://lab.davan.ac/google-amazon-facebook-sont-ils-des-partis-politiques-1fabf9aa395c

    Peut-être une remarque : il semble que le principal obstacle à la voiture autonome soit justement que personne ne veut trancher sur son comportement (cf. Le dilemme éthique des véhicules autonomes, Jean-François Bonnefon @jfbonnefon in http://lesrencontres.decryptageo.fr/wp-content/uploads/sites/2/2017/01/DG2017-Bonnefon.pdf).
    Car, bien entendu, les algorithmes ne font rien que les programmeurs n'aient décidés (hors bogues :-))

    RépondreSupprimer
  2. Oui, ben tiens, c'est exactement pour cela que je viens d'écrire un poste sur les réseaux sociaux décentralisés sur http://Crea.Coffee

    Facebook a un pouvoit énorme. Si il l'utilise pour faire le bien c'est parfait mais c'est aussi inquiétant de savoir que tout ce pouvoir est concentré dans les mains d'une seule société.

    Tout serait plus simple si les réseaux sociaux étaient à l'âge du Web, une construction commune de plusieurs individus et sociétés.

    Ce qui n'exclue pas bien sûr la mise en place d'algorithmes poursuivant les mêmes buts. Mais ceux ci seraient open source donc transparents et contrôlés par la communauté.

    RépondreSupprimer
  3. C'est un beau billet, et une nouvelle pierre à un édifice qui, espérons-le, ne finira pas en simple tas de cailloux. Nous sommes probablement très nombreux (hypothèse à valider) à penser que les fondations actuelles de la politique ne font plus sens dans un monde massivement en réseau.

    L'écueil, en commençant par Facebook et en concluant par l'état, c'est de s'enfermer sur un axe public - privé alors qu'il en existe bien d'autres, par exemple simplement topologiques comme "ouvert - fermé" (Facebook et l'état sont deux "boîtes" fermées, avec des frontières physiques pour les états, tandis qu'un réseau pair à pair est ouvert) et "hiérarchique - réseau" (pas de commentaire en ce qui concerne l'état, mais pour Facebook, il y a hiérarchie, ne serait-ce que par soumission à la volonté du créateur).

    J'aurais tendance à parier que la "politique des réseaux" se donnera d'abord des résultats visibles en créant des comportements organisés dans les domaines où les strates politiques sont absentes (typiquement au delà des états - par exemple pour les défis planétaires, ou en deçà des bornages habituels, avec des communautés autonomes). Dans ce cadre là, le modèle du "monde parallèle à l'échelle 1" me parait moins pertinent que celui de "système nerveux" d'un corps politique qui s'innerve à une échelle pertinente pour traiter le problème.

    Pour être plus précis, le modèle de monde parallèle tendrait à décrire un "shadow cabinet" en parallèle du gouvernement réel (par parenthèse, quel plaisir ce serait de pouvoir créer un shadow gouvernement de jurys citoyens) tandis que d'autres modèles favoriseraient une vision qui voit un état pertinent à des échelles très précises (et même de plus en plus réduites) alors que le réseau peut s'adapter à toute échelle.

    Il me semble, pour finir, que ce qui manque n'est pas tant des "plateformes de gouvernement" (solution à un problème encore mal défini - comme l'évoque votre billet... donc mouroir à idées) que des espaces de réflexion en amont sur le sujet.

    RépondreSupprimer
  4. N'ai pas votre expertise, Messieurs, et n'ai non plus aucun optimisme sur la suite du mouvement impulsé par les GAFA !
    Tout au plus la conviction profonde que l'obscurantisme (religieux ou publicitaire) ne peut se combattre que par l'éducation. Jules Ferry a eu raison de la pensée confessionnelle, prions pour que Jean-Michel Blanquer soit l'architecte de cette nouvelle muraille à construire.
    André Anglade.

    RépondreSupprimer