PROFILING THE PROFILERS

Profiling the Profilers (en ligne)
Profiling the Profilers (exposition)
Profiling the Profilers (contexte)

Voir le projet en direct > Profiling the Profilers online





Les grandes plateformes d’internet sont massivement financées par la publicité et structurées par l’extraction de données. En réponse à cette asymétrie informationnelle, DISNOVATION.ORG s’empare des outils d’analyse de données pour produire une série de profils psychologiques, culturels et politiques des entreprises les plus extractivistes du numérique : GAFAM, NATU, BATX…

L’algorithme du projet exploite des techniques de big data analysis appliquées à des ensembles publics comme Wikipédia afin d’inférer des corrélations cachées entre entreprises, pratiques sociales, techniques de propagande, biais et formes de pouvoir. Les résultats sont diffusés comme notifications partageables, retournant contre les géants du numérique leurs propres logiques de profilage et de ciblage.

Conception : DISNOVATION.ORG (2018-2019)
Programmation : Jérôme Saint-Clair
Scénographie : avec Lucie Gautrain
Accéder au projet
Documentation
Images de presse

---

From Surveillance Capitalism to Glitch Capitalism
Micro-publication autour de l’œuvre, disponible en PDF et en impression à la demande.
Essai d’Alessandro Ludovico | Déclaration d’artiste par DISNOVATION.ORG | Entretien par Inga Seidler
Commande : EMAP/EMARE & M-Cult

Télécharger le PDF | Plus d’informations






Les grandes plateformes d’internet sont massivement financées par la publicité. En concentrant une part considérable des données personnelles mondiales qu’elles revendent ou exploitent sous des régimes peu régulés, les principaux acteurs du numérique sont devenus centraux dans l’avènement de l’ère de la post-vérité et de l’industrie de l’influence : micro-profilage, campagnes de désinformation, bots, captation illégale de données, fermes à trolls, design persuasif.

Ce basculement, contemporain de l’émergence du web 2.0, a notamment été analysé par Shoshana Zuboff. Le capitalisme de surveillance y apparaît comme une variante extractiviste du capitalisme informationnel, fondée sur la captation du réel et sa transformation en données comportementales destinées à l’analyse, à la prédiction et à la vente.

L’ampleur de cette automatisation et de cette surveillance fait de notre société un véritable laboratoire à ciel ouvert pour l’optimisation capitaliste. En 2018, Malcolm Harris proposait le concept de « glitch capitalism » pour décrire un régime où l’éthique de la Silicon Valley, son mot d’ordre implicite de « move fast and break things », fait du bug, de la casse et de l’instabilité un mode normal de production. Les infrastructures numériques, supposées rendre le monde plus efficace, propagent au contraire biais, opacité, ciblage et manipulation à grande échelle.


Le profilage numérique consiste à collecter et analyser les informations qu’un individu laisse en ligne. Il mobilise des algorithmes et des méthodes mathématiques capables de faire émerger des motifs, corrélations ou proximités dans de vastes bases de données. Un profil numérique peut inclure des caractéristiques personnelles, des comportements, des appartenances, des connexions et des interactions.

Des traces de comportement apparemment anodines et facilement accessibles, comme des likes sur des plateformes sociales, peuvent ainsi servir à prédire automatiquement avec une précision étonnante des attributs hautement sensibles : orientation sexuelle, origine ethnique, convictions religieuses et politiques, traits de personnalité, niveau d’intelligence, bonheur, consommation de substances addictives, séparation parentale, âge ou genre.

L’environnement informationnel est devenu un nouveau champ de bataille où acteurs étatiques et non étatiques déploient des techniques sophistiquées de ciblage, de propagande et de désinformation : dark ads, nudging, biais algorithmiques, social bots, sockpuppets, propagande noire, click farms…


En réponse à cette asymétrie informationnelle, nous nous emparons des outils d’analyse de données pour produire une série de profils psychologiques, culturels et politiques des entreprises technologiques les plus extractivistes de notre époque : GAFAM, NATU, BATX, et d’autres encore.

Pour cela, nous avons travaillé pendant un an avec le Dr José Lages et son équipe de recherche à l’Institut UTINAM, à Besançon. Afin d’inférer des relations causales cachées entre les Big Tech et des enjeux sociaux et politiques spécifiques, nous utilisons une méthode algorithmique dérivée du PageRank, dite « reduced Google matrix analysis », pour analyser la matrice de tous les liens possibles entre les articles de Wikipédia.

Des méthodes similaires sont couramment utilisées en data science, en data journalism ou pour le profilage probabiliste des usagers. Elles permettent d’estimer l’intensité de relations cachées entre différents membres d’un réseau étudié, par exemple entre un usager et un objet dans une logique de recommandation.

Ces actions automatisées produisent ainsi une série de profils numériques très détaillés, et volontairement biaisés, des Big Tech, comparables à ceux que ces mêmes entreprises génèrent en permanence à propos de leurs propres usagers.


GAFAM (Google, Apple, Facebook, Amazon, Microsoft), NATU (Netflix, Airbnb, Tesla, Uber), BATX (Baidu, Alibaba, Tencent, Xiaomi)…

Plutôt que de reprendre uniquement les catégories habituellement mobilisées pour le profilage et la prédiction des comportements des usagers, âge, données démographiques, comportement de consommation, localisation, niveau de revenus, etc., nous les augmentons par des catégories critiques spécifiquement pertinentes pour les Big Tech : orientation politique, orientation éthique, techniques de propagande, types d’addictions induites, formes de biais, et autres indicateurs de pouvoir.

Ces données de contre-profilage sont diffusées en continu sur une plateforme dédiée, sous forme de notifications optimisées pour le partage sur les réseaux sociaux par chaque visiteur. Il en résulte une campagne distribuée de contre-propagande, destinée à venir polluer les flux sociaux mêmes des entreprises qui déploient ces logiques à grande échelle.

---

Launch @ HASH Awards, ZKM, Karlsruhe, 2020 [DE]
BIO26, Ljubljana, 2020 [SI]
Network Effects, Oodi, Helsinki, 2019 [FI]
MUTEK-SF, San Francisco, 2019 [USA]
Institut UTINAM, CNRS, Besançon, 2018 [FR]
The New Newsroom, MU Artspace, Eindhoven, 2018 [NL]
Im Zweifel für den Zweifel, NRW-Forum, Düsseldorf, 2018 [DE]

Press kit & images HD : Flickr