';
side-area-logo

Le Capitalisme de la Surveillance

Accueil › Les Risques › Le Capitalisme de la Surveillance

L’industrie numérique prospère grâce à un principe presque enfantin : extraire les données personnelles et vendre aux annonceurs des prédictions sur le comportement des utilisateurs. Mais, pour que les profits croissent, le pronostic doit se changer en certitude. Pour cela, il ne suffit plus de prévoir : il s’agit désormais de modifier à grande échelle les conduites humaines.

- Shoshana Zuboff, Professeur émérite, Harvard Business School, auteur de l'ouvrage ``The Age of Surveillance Capitalism``.

Une
définition:

Capitalisme de la surveillance, n. :
Nouvel ordre économique dans lequel l’expérience humaine est considérée comme une matière brute, extraite, collectée et exploitée de manière dissimulée par un opérateur économique à des fins commerciales, en anticipant et en influençant à grande échelle les comportements des futurs acheteurs (ou votants #brexit #trump).

1/ Nouvelle ère capitalistique.

Plusieurs facteurs ont permis l’émergence du Capitalisme de la Surveillance :

– Le manque de compétences techniques des autorités publiques sur ces thématiques de collecte de données.

– Un puissant lobbying exercé par les opérateurs économiques pour refuser toute forme de régulation.

– L’exonération de responsabilité légale des plateformes sur le contenu qu’elles proposent.

– La doctrine de l’inéluctabilité technologique chère à la Silicon Valley ou tout changement technologique est inévitable : Internet des Objets, Intelligence Artificielle, réalité augmentée…

2/ Une asymétrie de savoir et de pouvoir.

Google et Facebook, les deux principaux acteurs et bénéficiaires du Capitalisme de la Surveillance ne se contentent plus d’extraire des données comportementales afin d’améliorer leurs services.

Les données comportementales analysées  — exclusivement détenues par ces deux acteurs tech –  permettent dorénavant de déduire les pensées, les sentiments, les intentions et les intérêts des individus et des groupes au moyen d’architectures d’extraction automatisées.

Le tout sans la conscience ni le consentement des principaux concernés : les utilisateurs.

3/ La fin de la vie privée et de l’intimité?

L’excédent de données comportementales doit être non seulement abondant, mais également varié.

Obtenir cette variété implique d’étendre les opérations d’extraction des données du monde virtuel au monde réel. Les objets connectés destinés à interpréter, suivre, enregistrer et communiquer des données prolifèrent et permettent cette extraction. La frontière entre identité réelle et identité numérique s’efface, au risque de supprimer toute notion de vie privée et d’intimité.

Comment en
est-on arrivés là?

Shoshana Zuboff dans son ouvrage ``The Age of Surveillance Capitalism`` définit 16 raisons ayant permis l'émergence du Capitalisme de la Surveillance. Les voici :

Sans aucun
précédent

Image module

De par son originalité, l’avènement du Capitalisme de la Surveillance n’a pas été anticipé par les individus (la surveillance étant traditionnellement le fait des États), laissant les entreprises libres d’innover et d’opérer de nouveaux mécanismes, sans contrôle.

L’invasion
comme déclaration

Image module

Google a été la première entreprise à se saisir de nos expériences pour les transformer en données exploitables : en se déclarant propriétaire des données collectées et en en définissant l’usage tout en dissimulant le but recherché (exemple: l’appropriation de nos rues via Google Street View, des ouvrages scolaires via Google Scholar, des actualités via Google News…)

La fortification

Image module

Une protection agressive des opérations par Google a permis de maintenir une influence décisive sur la faible régulation du secteur. Notamment au travers d’un lobbying intense et par la pratique des revolving doors : des officiels, qu’ils soient régulateurs ou législateurs, alternent les postes entre Washington et la Silicon Valley .

D’autorité
et visionnaires

Image module

Nombreuses sont les personnes qui regardent ces entreprises et ces leaders comme visionnaires. Des génies pouvant anticiper et prévoir le futur. Après tout, leurs entreprises étant très profitables, ils ne peuvent avoir tord… nous sommes alors impatients de participer à leurs innovations.

Créer
la dépendance

Image module

L’utilisation de services gratuits de Google, Facebook et les autres par les utilisateurs à la recherche d’une vie sociale effective a constitué le péché originel. La majorité des personnes pensent difficile voir impossible l’abandon de ces outils.

Le cycle
de dépossession

Image module

Le cycle commence par d’audacieuses incursions qui sont conduites jusqu’à l’apparition de résistances (i.e. spoliation du travail de journaliste via Google News…). Puis mise en place de stratégies de communications grand public et judiciarisation dans le but de gagner du temps et favoriser l’adoption du nouvel usage (“Google refuse de rémunérer les éditeurs de presse car ne diffuse que des extraits”). Enfin, mise en place de justifications publiques et nouvelle rhétorique pour pérenniser la pratique (“Google News ne fait que référencer les articles de presse”).

L’intérêt
propre

Image module

Certains secteurs d’activités dont la nature des affaires est directement liée à la qualité de la prédiction (les compagnies d’assurances faisant varier les primes d’assurances au travers de boitiers intelligents dans les voitures des assurés, le restaurateur achetant la présence de Pokemon Go pour apporter du trafic à son restaurant) ont contribué à l’émergence de revenus de la surveillance.

L’inclusion

Image module

De nombreuses personnes pensent que ne pas être présent sur Facebook ou Twitter est signe d’absence de vie sociale. Des millions de joueurs à travers le monde se sont rués sur l’application Pokemon Go pour envahir les espaces publics et privés. Ces phénomènes peuvent générer un sentiment d’exclusion pour ceux qui n’y participent pas.

L’identification

Image module

Les capitalistes de la Surveillance travaillent particulièrement leur image (i.e personal branding) pour apparaitre comme d’héroïques entrepreneurs. Nombreuses sont les personnes qui s’identifient et admirent la réussite économique et la popularité de ces leaders.

La persuasion
sociale

Image module

Ces acteurs du numérique utilisent une rhétorique séduisante visant à nous convaincre du bienfait des innovations issues du Capitalisme de la Surveillance: publicité ciblée, personnalisation, assistants digitaux…

Aucune autre
alternative

Image module

Les données captées par la tech, officiellement justifiées par un besoin d’amélioration continue des produits et services (“nous récoltons vos données pour améliorer nos produits”) semble aujourd’hui servir en priorité le besoin de générer des données toujours plus nombreuses pour servir la surveillance. Des applications aux objets connectés en passant par les assistants vocaux, il devient quasiment impossible d’échapper à cette collecte massive de données privées.

L’idéologie de la
fragilité humaine

Image module

En lien avec le concept d’inévitabilité, les acteurs du Capitalisme de la Surveillance s’appuient sur l’idéologie qui positionne l’individu comme irrationnel, incapable de prendre les bonnes décisions et d’apprendre par lui-même. La technologie ainsi légitimé permet de conditionner l’humain et les populations en modifiant leurs comportements sans qu’ils en aient pleine conscience.

La
vélocité

Image module

Le Capitalisme de la Surveillance est passé en un temps record de l’invention à la domination. La vélocité s’est matérialisée non seulement par l’afflux de capitaux vers cette nouvelle économie, mais également par la nécessité stratégique d’avancer vite pour paralyser la prise de conscience et annihiler les résistances potentielles.

Inévitable
et sans alternative

Image module

L’innovation est inévitable et l’impératif d’extraction et de prédiction des données rend la résistance des utilisateurs veine. Applications, assistants vocaux, objets connectés, il nait un sentiment qu’il est trop tard pour échapper à la surveillance.

Le contexte historique

Image module

Les différents gouvernements ont privilégié l’essor du Capitalisme de la Surveillance, séduits par les possibilités de contrôle offertes par les innovations technologiques de Google & co, au détriment de la régulation et de la protection des données individuelles.

L’ignorance

Image module

L’information c’est le pouvoir. L’immense asymétrie d’information entre les acteurs qui collectent massivement les données et les exploitent face à des utilisateurs qui n’ont pas conscience des stratégies mises en place offrent un avantage incommensurable aux acteurs tech.

Le saviez-vous ?

«If you have something that you don’t want anyone to know, maybe you should not be doing it in the first place ». Eric Schmidt, patron de Google, en 2009, lors d’une interview à CNBC.

En 2008, deux professeurs de Carnegie Mellon ont calculé qu’une lecture raisonnable de l’ensemble des politiques de confidentialité que nous rencontrons au cours d’une année nécessiterait 76 jours entiers.

Un article publié dans le magazine Nature en 2012 nous apprend que les équipes de Facebook ont mené une expérimentation 2 ans auparavant visant à influencer le comportement de 61M de votants aux Etats-Unis lors des mid-terms de 2010.

L’expérience visait à manipuler le fil d’actualité des votants pour influencer le nombre de personnes se déplaçant pour aller voter. Les chercheurs ont conclu que l’expérience avait permis d’augmenter par 340 000 le nombre de votants et ainsi valider l’impact de l’influence des messages du réseau social dans la modification des comportements dans la vie réelle.

Google a admis qu’un microphone non actif était présent depuis 2 ans dans le système d’alarme Nest Secure, alors qu’il n’était pas indiqué dans la description technique de l’appareil. Pris la main dans le sac, la firme a indiqué que le micro était resté inactif. Il faudra donc les croire sur parole.

Les assistants des enceintes intelligentes comme Alexa, Google Home et Siri s’activent accidentellement jusqu’à 19 fois par jour selon une étude menée par des chercheurs américains de l’université de Northeastern.

De plus, les grands fabricants ont également admis enregistrer de manière non sollicitée certaines conversations d’utilisateurs, afin d’améliorer l’expérience utilisateur.  Ces extraits étant analysés par des oreilles bien humaines… Et ne comptez pas sur l’anonymisation supposée de vos conversations, de nombreux chercheurs ayant démontré la facilité pour ré-identifier des personnes enregistrées.

Facebook possède des dossiers appelés “Profils Fantômes” qui contiennent des informations sur des internautes mêmes s’ils ne se sont jamais inscrits sur Facebook.

Ce serait «  pour des raisons de sécurité » que Facebook collecte des données sur les internautes qui n’ont pas créé de profil sur sa plateforme, a affirmé Mark Zuckerberg devant les élus américains ce 11 avril 2018.

Ironie de l’histoire, il vous faudra fournir votre email et nom à Facebook afin d’obtenir toutes les données personnelles conservées par le réseau social.