Documentaire : “Derrière nos écrans de fumée”, un réquisitoire contre « l’algorithmisation » de nos vies

Derrière nos écrans de fumée (The Social Dilemma) , (documentaire sorti sur Netflix le 9 septembre, met en garde contre les dérives de ces algorithmes qui cherchent, avec chaque jour un peu plus d’efficacité, à nous maintenir « engagés » sur Facebook, YouTube, Instagram ou Twitter. Polarisation des débats, bulles de filtres qui nous mettent uniquement en relation avec des gens qui pensent comme nous, addiction, prime à la désinformation, dépression, le documentaire balaye largement les problèmes causés, plus ou moins directement, par « l’algorithmisation » croissante de nos vies.

Les données collectées ne posent pas de problème

Nous brandissons souvent le spectre des données, ces données personnelles que toutes collectent auprès de ces entreprises pour les vendre à un prix plus élevé. Derrière nos écrans de fumée pousse l’analyse beaucoup plus loin. Le problème n’est pas seulement les données, mais le comportement de l’utilisateur. Il est rappelé que si nous ne payons pas pour un produit, alors, c’est que nous sommes le produit. Et si nous constatons une «dérive» de l’usage sur quelques années, c’est parce que cela fait partie intégrante des stratégies de ces entreprises.

Hypocrisie du processus

Un joli paradoxe est Derrière nos écrans de fumée projetés sur Netflix, qui utilise exactement cela pour faire des recommandations aux abonnés. Le comble de la tartuferie apparaît à la fin du documentaire, lorsque le réalisateur invite le public à visiter son site Internet. Parmi les actions recommandées à éviter, les téléspectateurs sont encouragés à faire de la publicité pour des documentaires… sur les réseaux sociaux. On sera sensible à l’ironie, ou l’hypocrisie, du procédé.

Des révélations qui sont à relativiser

Que ce soit la polarisation du débat chez nous sur l’augmentation exponentielle des hospitalisations pour automutilation, ou chez les adolescentes américaines, tout est de la faute des réseaux sociaux? La réalité est un peu plus compliquée et manque de point de référence et de contexte historique.

Réponse de Facebook

Facebook décompose point par point les sept domaines qu’il estime que le film déforme : la soi-disant dépendance aux réseaux sociaux, la présentation des utilisateurs comme étant le produit ultime, la manière dont Facebook déploie ses algorithmes, la collecte de données, la polarisation politique, l’intégrité des élections et la désinformation.

What ‘The Social Dilemma’ Gets Wrong

Brexit : comment le référendum européen a été gagné grâce à la science des données

« Tout le monde sait qui a gagné, mais peu de gens savent comment »

Brexit La Guerre incivile nous a montré comment le référendum européen a été gagné grâce à la science des données

QUI SE CACHE DERRIÈRE LE VOTE « NON » DU BREXIT ?

Été 2016. Le Royaume-Uni est en pleine campagne électorale. Les camps du « Leave » (quitter l’Europe) ou du « Remain » (rester dans l’Europe) s’affrontent. Dominic Cummings (Benedict Cumberbatch), directeur de la campagne en faveur du Brexit, use d’une stratégie inédite. Basé sur les données d’algorithmes sophistiqués explorant les recoins les plus sombres d’Internet, le but est de rechercher les électeurs cachés. Cette tactique ne fait pas l’unanimité auprès des partisans du Leave. Les coups bas et les trahisons commencent…

Brexit La Guerre incivile

Dans Brexit La Guerre incivile, on peut voir comment Dominic a fait enfermer une équipe de Data Scientists de AggregateIQ dans une pièce ombragée, comme une sorte de projet séparé du reste de la campagne de Leave.

La première chose qu’on les voit faire est de créer une campagne pour savoir ce que les différents groupes d’électeurs pensent des différentes questions concernant l’UE. Pour ce faire, ils ont donné aux gens la possibilité de gagner un pari global, qui serait statistiquement presque impossible à gagner (une chance sur 5 000 000 000 000 000 000 000 000). Ils ont ensuite utilisé les résultats de cette recherche pour créer des messages comportementaux microciblés à l’intention de différents segments de l’électorat.

 

Il a été constaté que pendant le référendum, ils ont diffusé plus d’un milliard de publicités sur Facebook, avec divers messages en faveur du congé. Par exemple, des segments d’électeurs moins “racistes” ont pu recevoir des photos de Boris Johnson déclarant : “Je suis pro-immigration, mais surtout, je suis pour l’immigration contrôlée”. Alors que d’autres ont reçu des messages tels que “La TURQUIE A UNE POPULATION DE 76 MILLIONS. LA TURQUIE REJOINT L’UE. BONNE IDÉE ?”.

 

S’ils cliquaient sur l’annonce correspondante, ils recevraient alors une horde d’annonces en continu sur le même sujet, ce qui renforcerait ce point de vue. M. Cummings a déjà expliqué comment ils ont retenu la majorité de leur budget et l’ont consacré à ce type de publicité dans les dix derniers jours précédant le référendum européen. Il affirme qu’environ 7 millions de personnes ont été visées pendant cette période.

 

Dans Brexit La Guerre incivile, on voit même l’équipe de la campagne “Leave” demander pourquoi les publicités ne sont pas diffusées à la télévision et dans les journaux télévisés, alors qu’elle pensait que l’autre camp n’avait aucune idée de ce qui se passait.

Pourquoi la science des données modifie-t-elle le paysage politique ?

Bien sûr, quiconque suit même légèrement le cycle des nouvelles en Occident aura probablement entendu parler du scandale de Cambridge Analytica. Cambridge Analytica a été créé et dirigé par Robert Mercer (un expert milliardaire de l’IA) et Steve Bannon, le financier et directeur de campagne de Donald Trump. Christopher Wyle, dénonciateur de Cambridge Analytica, a souligné les liens étroits entre AggregateIQ et Cambridge Analytica.

Ce scandale nous a montré que, grâce à l’utilisation abusive des données des utilisateurs de Facebook, ils pouvaient établir le profil psychométrique de l’ensemble de l’électorat. En utilisant une application de personnalité virale appelée myPersonality, ils ont pu croiser les types de personnalité avec ce que les gens avaient aimé sur Facebook pour profiler les gens avec un haut degré d’exactitude.

Les données recueillies et utilisées pour alimenter les algorithmes de profilage de l’électorat sont devenues une arme essentielle lors du référendum européen et des élections américaines. Wyle a même décrit comment Steve Bannon a qualifié ces outils d’armes dans sa “guerre psychologique”, avec pour objectif de susciter des mouvements populistes nationalistes dans le monde entier.

Si certains peuvent s’opposer à cette forme de manipulation politique et la considèrent comme effrayante. Sur une note positive, Cambridge Analytica a maintenant fermé ses portes en raison de la pression politique intense qui a suivi les retombées de l’élection de Donald Trump, Facebook a pris des mesures pour lutter contre la fuite de données de tiers qui a permis la création de ces outils scientifiques, et la protection des citoyens européens par RGPD signifie que vous avez désormais plus de contrôle sur l’utilisation de vos données personnelles. La prochaine fois que cela se produira, ce ne sera probablement pas aussi facile ni aussi inaperçu.

Malheureusement, d’autres entreprises comme Cambridge Analytica existent toujours et continueront à le faire tant qu’il y aura une demande suffisante. Les politiciens dépensent beaucoup d’argent dans des campagnes, bien sûr, ils vont utiliser les dernières techniques et technologies pour essayer de gagner.

Attendez-vous à ce que ce soit la nouvelle norme

Vous pouvez vous en défaire si vous n’êtes pas satisfait du résultat du référendum européen ou de l’élection de Donald Trump. C’est simplement parce que les mouvements populistes nationaux sont arrivés les premiers.

Depuis que nous sommes entrés dans l’ère numérique, nous partageons de plus en plus de données sur nous-mêmes et nous créons de nouvelles voies pour que l’information nous atteigne. Le marketing et la publicité modernes consistent de plus en plus à créer des messages pertinents et personnalisés à l’intention de segments cibles de plus en plus granuleux, la politique n’étant qu’un client parmi d’autres sur ce marché.

La science des données trouvera des moyens d’assembler nos informations pour créer des profils de nous afin de s’assurer que les bons messages nous parviennent. Les campagnes politiques trouveront des moyens de rechercher nos états émotionnels sur des questions particulières et de créer des messages qui suscitent en nous une réaction de vote particulière. Des plateformes continueront d’exister pour permettre à ces messages de campagne ciblés de nous atteindre.

Si Brexit La Guerre incivile m’a montré quelque chose, c’est l’échec de la campagne Remain à adopter les derniers outils et technologies disponibles grâce à l’explosion de la science des données. Ils auraient pu eux aussi cibler les électeurs que la campagne “Leave” visait et ceux qui ne se sont pas donné la peine d’aller voter. Comme les sondeurs traditionnels, ils ont utilisé les mêmes vieilles techniques qui ont été utilisées pendant des décennies et n’ont pas réussi à les appliquer correctement.

Il est temps que la politique entre dans le 21ème siècle

Nous vivons maintenant dans ce que l’on appelle l’ère de l’après-vérité, il s’agit moins d’argumenter le pour et le contre dans un débat rationnel, mais de lancer des “grenades” d’informations (qu’elles soient vraies ou fausses) qui résonnent avec l’électorat de manière émotionnelle, ce qui oblige ensuite l’opposition à “éteindre les feux”.

Cela peut être une voie à double sens, je ne propose certainement pas que le mensonge soit acceptable, il serait parfaitement possible de construire de meilleurs outils de vérification des faits qui permettraient de vérifier en temps réel les fausses informations à l’avenir pour aider à faire face à cela. Mais je dis que les campagnes, quel que soit le côté de l’argument, doivent apprendre de Cambridge Analytica et d’AggregateIQ que l’ancienne façon de faire de la politique est révolue, la science des données est là pour rester. Le gagnant est celui qui reste en tête du jeu.

Brexit La Guerre incivile

Pour aller plus loin

Algorithme et politique

Été 2016. Le Royaume-Uni est en pleine campagne électorale. Les camps du « Leave » (quitter l’Europe) ou du « Remain » (rester dans l’Europe) s’affrontent. Dominic Cummings (Benedict Cumberbatch), directeur de la campagne en faveur du Brexit, use d’une stratégie inédite. Basé sur les données d’algorithmes sophistiqués explorant les recoins les plus sombres d’Internet, le but est de rechercher les électeurs cachés. Cette tactique ne fait pas l’unanimité auprès des partisans du Leave. Les coups bas et les trahisons commencent…

QUI SE CACHE DERRIÈRE LE VOTE « NON » DU BREXIT ?

« Tout le monde sait qui a gagné, mais peu de gens savent comment » Voilà un slogan qui résume parfaitement BREXIT, le brillant thriller qui fait la lumière sur le plus grand tremblement de terre politique depuis la chute du Mur de Berlin. CE film dévoile les dessous du vote qui a non seulement changé l’avenir du Royaume-Uni et de l’Europe, mais aussi changé à jamais la politique internationale.

« Le portrait atroce et à peine exagéré d’une nation gouvernée par des charlatans et manipulée par des algorithmes »

Brexit La Guerre incivile

Le film Brexit La Guerre incivile raconte l’émergence d’un nouveau combat politique, sur les réseaux sociaux. Il reprend brillamment les dernières révélations sur l’utilisation des données personnelles.

“Sans Cambridge Analytica, le Brexit n’aurait pas eu lieu”:  comment les réseaux sociaux influencent les comportements

L’une des leçons du Brexit est que nos démocraties sont désormais fragilisées par des opérations de manipulation de l’électorat. “Sans Cambridge Analytica, le Brexit n’aurait pas eu lieu”, déclarait en 2018 Christopher Wylie, un ancien employé de cette firme britannique qui a siphonné les informations contenues dans 87 millions de comptes Facebook. Armée d’une telle quantité de données, la firme avait ciblé les électeurs, développé des algorithmes jouant sur leurs émotions et boosté le camp du Leave EU.

 

Dopamine (8/8) – Twitter

Tu ne rates aucun tweet et tu checkes ton smartphone constamment ? C’est irrésistible et tu fais tout pour ne rater aucune info. C’est normal car l’appli est basée sur un mécanisme essentiel et primitif de ton cerveau, l’ANXIÉTÉ qui se manifeste par la peur de passer à côté de ce qui se passe online, te poussant à rester continuellement connecté.

Source : Dopamine (8/8) – Twitter | ARTE

Dopamine (7/8) – Uber

Ça y est ! Tu t’es enfin décidé(e) à devenir chauffeur Uber. Tu penses être libre et indépendant(e) mais c’est plus compliqué. L’appli va tout faire pour te donner des ordres sans que tu t’en aperçoives en utilisant la technique du NUDGE, des petits coups de coude pour te pousser vers ce qu’Uber considère comme une meilleure décision pour toi… ou pour ses actionnaires !

Source : Dopamine (7/8) – Uber | ARTE

Dopamine (6/8) – Snapchat

Snapchat est super fun et tu ne peux pas t’emêcher de checker les derniers filtres pour envoyer des snaps à tes amis. c’est normal, car l’appli est basée sur le DON, une interaction universelle, ayant un caractère obligatoire. Ainsi tu te sens toujours obligé(e) de répondre par un contre-don, envoyant des snaps à tes amis, même si tu n’as rien à dire.

Source : Dopamine (6/8) – Snapchat | ARTE

Pour aller plus loin

Pour approfondir vos connaissances, et développer vos compétences, je vous propose cette sélection de livre.

Dopamine (5/8) – YouTube

Tu passes tes nuits sur Youtube. L’appli te propose sans cesse des vidéos toujours plus excitantes et tu ne peux pas t’arrêter. C’est normal car l’algorithme de recommandation te concocte une sélection irrésistible grâce au DEEP LEARNING, qui va amplifier automatiquement des vidéos qui divisent, sont sensationnelles, voire même conspirationnistes.

 

Source : Dopamine (5/8) – YouTube | ARTE

Dopamine (4/8) – Instagram

Instagram est irrésistible ! Tu ne peux pas te retenir de checker ton fil d’actualités et c’est normal car l’appli est basée sur la comparaison sociale, un processus automatique et inconscient qui fait que quand tu consultes Instagram, d’un côté tu rejettes des comportements et de l’autre tu imites inconsciemment des comportements, te poussant dans les bras des influenceurs.

Source : Dopamine (4/8) – Instagram | ARTE

Invisibles – Traumas sans modération 3/4

Déchaînement de haine et de violence, actes terroristes, décapitations, harcèlements et agressions sexuelles en tout genre…Une infime partie des contenus chargés par les réseaux sociaux nous font voir le pire.Heureusement, des filtres automatiques et autres systèmes de modération ont été mis en place pour préserver nos yeux de ces quelques esprits malades. Automatiques, vrai-ment ?

Source : Invisibles saison 1 – épisode 3 en streaming sur France tv slash

Qu’est-ce que le digital labor ?: Les enjeux de la production de valeur sur Internet et la qualification des usages numériques ordinaires comme travail. (Etudes & controverses)

Dopamine (3/8) – Candy Crush

Tu adores Candy Crush, tu te sens super fort(e) et ça te fait trop plaisir. C’est normal, car l’appli est basée sur la technique de l’ILLUSION DE LA COMPÉTENCE, où chaque action produit un compliment visuel ou sonore. Ce n’est pas juste pour flatter ton ego, car cela active mécaniquement une zone précise de ton cerveau, le striatum, qui fait partie du système dopaminergique.

Source : Dopamine (3/8) – Candy Crush | ARTE