Lundi soir, j’ai pris la décision de désinstaller Twitter de mon téléphone. Et puis, comme j’avais un peu de temps à tuer cette semaine, j’ai décidé de regardé The Social Dilemma sur Netflix, que j’avais mis dans ma liste de truc à regarder. Et d’un coup, ma décision de lundi, et ma tendance à réduire et rationnaliser de plus en plus ma vie en ligne, me semblent terriblement justifiée. Autant dire d’emblée, ce reportage est édifiant.

Je ne suis pas un béotien total concernant les réseaux sociaux. Formé en com, je suis également un internaute suffisamment vieux pour savoir que si c’est gratuit, c’est vous le produit, l’audience ciblée qu’un annonceur achète pour lui faire subir une pub, un discours marketing et que plus un outil vous permet de faire un ciblage précis plus votre stratégie d’influence sera efficace, plus votre adhésion à la marque pourra être forte, jusqu’à l’addiction. Une de clés du marketing classique. Un des meilleurs exemple en la matière, dans le marketing traditionnel, est certainement la seconde ère Steve Jobs d’Apple. Encore aujourd’hui, alors que la magie est largement retombée, les Apple addicts restent nombreux : prêt à payer nettement plus cher des produits qui sont de moins en moins avant-garde par rapport à la concurrence. 1200€, l’iPhone 12, sérieusement ?

Le reportage de Netflix fait intervenir des anciens de Facebook, de Google, des sociologues, des psychologues, des médecins addictologues, et démonte point par point le fonctionnement des réseaux sociaux. les anciens des GAFA expliquent comment les firmes technologiques de la Silicon Valley ne vendent plus leur technologie en elle-même, mais les certitudes qu’elles apportent en matière d’influence, de prédictibilité des comportements, de manipulation. A quel point pour que tout cela marche il faut des données, beaucoup de données et comment pour obtenir ces donner, la technologie va jouer sur les ressorts psychologiques humains.

Les autres inervenants embrayent la dessus pour expliquer à quel point ces technologies jouent sur le fait que nous sommes un animal social, en recherche d’approbation et de communauté, pour rapidement nous entraîner dans une spirale comportementale de type addictive, à travers la stimulation positive intermittente, les micro-satisfactions et micro-distraction, aléatoires et régulières, entre notification, mise en page/mise en scène des interaction sociales, suggestion d’actions, tels des mini-buts sociaux à atteindre et les mécanismes créant l’attente d’un feedback, de la plateforme ou des autres users. « Like slots machines, in a casino », comme les bandits-manchot dans un casino.

La première conséquence, de tout cela, c’est l’addiction. Tout est fait pour vous pousser à des comportement qui vont vous faire attendre quelque chose de la plateforme, nouveau contenu, nouvelle notification, ou des autres utilisateurs, nouvelle opportunité d’interaction, nouvelle marque d’appréciation. Depuis 10 ans, ces intervenants constatent une augmentation sans précédent des syndromes dépressifs et des suicides dans les classes d’âges les plus exposées aux réseaux sociaux et en creusant plus avant des comportements habituellement observés chez les usagers de drogues : capacité d’attention réduite, humeur extrêmement volatile, incapacité à différer sa satisfaction, image de soi en ruine, sentiment de perte de soi et de ses repères, et incapacité à laisser de côté les réseaux sociaux pour une période limitée de temps (encore moins pour une période indéterminée) au profit d’une socialisation en face à face, jusqu’au déni de l’importance du temps consacré aux réseaux au quotidien… Avec des conséquences biologiques identiques à la consommation de drogues dures, en particulier une perturbation significative des circuits liés à la dopamine et à l’ocytocine, qui sont les hormones responsables du plaisir et de la sensation d’affection…

La deuxième conséquence est plus spécifiquement liée à la recherche d’approbation et de communauté, est que l’on va privilégier les contacts et contenus qui nous ressemblent, vont dans notre sens de façon positive, s’enfermer petit à petit dans une bulle de biais cognitif, et ressentir de plus en plus violemment tous propos et contenus allant à l’opposé de ce que l’on pense comme acquis, au sein de notre bulle. Les algorithmes accentuant le trait au fil du temps, nous rendant de plus en plus prédictibles, et de plus en plus susceptibles à l’énervement, la colère face à toute forme d’opposition. L’archipélisation des opinions, comme l’évoquait quelqu’un il y a peu dans un quotidien de presse.

Les algorithmes n’ayant en outre aucune notion de fake-news ni aucune sorte de scrupule à propager les contenus autrement qu’en fonction de l’engagement, positif ou négatifs, qu’il génèrent. Deux amis même très proches en termes d’opinions, ne verront pas passer exactement la même chose dans leur flux, parce que les algorithmes auront personnalisé au maximum ce qui aura été poussé vers l’un ou l’autre. En parlant des Facebook users, un des intervenants parle de 2.7 millions de Truman Shows quotidiens, où chacun vit dans un monde taillé pour lui, avec des faits différents, une réalité différente.

L’un des intervenants explique que Facebook, avec son incapacité à fact-checker la quantité de contenus postés chaque minute, et son algorithme qui base la pertinence d’un contenu sur l’engagement parmis les contacts et personnes avec un profil similaire au votre, est clairement l’outil de manipulation le plus puissant jamais conçu. Le rêve de tout dictateur. L’intervenant suivante venant appuyer son propos avec l’exemple Birman. Au Myanmar, lorsque l’on achète un smartphone, Facebook est systématiquement installé, avec un compte pré-associé au téléphone, prêt à être personnalisé. Du coup pour la majorité des birmans, leur premier et unique contact avec Internet, au quotidien, c’est Facebook. Alors lorsque les postes anti-musulmans se sont propagés sur le réseau et que la junte militaire a repris publiquement ce discours, le harcèlement des Rohingyas, les agressions, les viols, les exécutions de masse ont explosé, poussant à l’exode plus de 700 000 personnes de cette ethnie.

Tout ça confié à des IA de plus en plus intelligentes, sans contrôle humain, programmées pour prédire les comportements des personnes. Et plus elle peuvent le faire, plus elle sont susceptibles de prédire le futur dans ses grandes lignes. Et dans ses petites. Le reportage parle de la singularité : ce moment ou les machines surpasseront les hommes à tous point de vue, posant la question de la pertinence de la vie humaine et biologique par rapport à la vie artificielle. Mais il y a un point avant celui-là qui est celui de l’IA prenant le contrôle de nos points faibles, et faisant de nous une commodité. Et il semble que nous en soyons dangereusement proche, si nous n’y sommes pas déjà. Et il est urgent de réagir.

Le reportage ne m’apprend réellement rien que je ne savais déjà, personnellement. J’ai quitté Facebook il y a deux ans déjà, après y avoir songé pendant deux ans au préalable et comme je le disais dans mon billet précédent, je ne suis pas encore prêt à quitter Twitter, mais je songe de plus en plus à sauter le pas. J’ai une chance, c’est que je n’ai jamais totalement perdu de vue que la vie en ligne, ce n’est qu’une version humainement créée de la Matrice, avec des algorithmes auto-apprenant, sans aucune éthique autre que l’engagement généré comme mécanique de base. En sachant cela, il m’est possible de refuser de continuer à me perdre dans les rabbit-holes de fake-news ou de contenus sélectionné pour moi par l’algorithme. Il suffit de déconnecter de la Matrice. Définitivement. La pillule rouge.

Refaire de l’Internet un outil, dont se sert pour tester et vérifier des contenus et leur pertinence, et non un flux, le « feed » comme disent justement les anglo-saxons, dont on avale les contenus en continu tels qu’ils nous arrivent, tous cuits, en bouche. Refaire de son téléphone un numb phone, à défaut de pouvoir/vouloir totalement en refaire un dumbphone. Rééduquer, si c’est possible, les circuits cérébraux et hormonaux de la récompense, instantanée et différée, en soi, pour arrêter de vivre en lotophage, tributaire de sa ration de loto quotidienne, ou des hochets de la satisfaction instantanée. Interdire totalement à sa progéniture tout accès aux réseaux sociaux, jusqu’à la fin de l’adolescence, ou tout au moins en limiter au maximum l’accès et trouver le temps d’éduquer ladite progéniture à la réalité des réseaux… se ré-ancrer dans la vie IRL, au maximum.

Le problème est déjà massif, quand on en a conscience, quand on a décidé de déconnecter de la Matrice. Mais comment réveille-t-on ceux qui y sont, endormis, anesthésiés, soumis et qui ne se rendent pas compte qu’ils y sont. Le laisser-faire vis à vis des GAFAm s’est fait au nom du sacro-saint capitalisme, mais, ni le capitalisme, ni la façon dont nous utilisons les technologies ne sont des lois immuables de la physique, ce sont des choix, politiques et sociétaux, et si on ne les remets pas en question, toute volonté individuelle et collective pour notre avenir, à l’instar d’un sujet comme la lutte contre le réchauffement climatique, serait morte dans l’œuf, parce que manipuler par un algorithme avec un référentiel dont le motto est discriminer, diviser, pour mieux cibler et mieux manipuler.

Si vous ne commencez pas à organiser votre retrait totale de Facebook, à chercher des alternatives à Google, et à anesthésier l’hyperconnectivité de votre smartphone après avoir vu ce reportage, je ne sais pas ce qui vous fera avaler la première pillule rouge. Perso, j’ai bien l’intention d’en prendre une par jour jusqu’à avoir fini le flacon. Dans le prochain billet, je vous parlerais de The Great Hack, sur l’affaire Cambridge Analytica, que j’ai aussi regardé cette semaine, avant d’avoir vu celui-ci. Il était déjà, assez inquiétant en lui-même, mais il l’est encore plus à la lumière de The Social Dilemma.