L'intelligence n'est pas seulement la faculté d'expliquer le monde, mais la faculté de s'expliquer avec lui (Jean Lacroix, Marxisme, existentialisme,personnalisme, 1949)
Nous sommes, à la CGT, un syndicat engagé sur toutes les grandes questions sociales qui traversent notre temps. Loin d’être anecdotique, l’intelligence artificielle est un enjeu central pour comprendre le lien entre travail et société, savoir et pouvoir, émancipation et asservissement par la technique. C’est dans ce cadre qu’elle entre au cœur de la réflexion syndicale. La Fédération CGT des Sociétés d’Études apporte ici quelques réponses aux grandes questions que nous pose l’IA.
Cette page est réalisée en marge du Colloque de la CGT « Intelligence artificielle: menace ou perspective ? » du 22 novembre 2023
Faut-il avoir peur des robots?
Plus d’un siècle avant l’apparition de l’IA et de l’apprentissage automatique, Mary Shelley anticipe ce à quoi pourrait donner naissance la science et prévient l’humanité des risques d’une nouvelle « race de démons » qui sèmerait la terreur en se propageant dans le monde. Frankenstein naît ainsi dans les tourments de la révolution industrielle anglaise et interroge notre conscience vis-à-vis de la place envahissante des technologies qui pourraient bien se retourner contre nous. Crédits: ©Guilhem Vellut/Wikimedia
Des robots qui deviennent conscients et prennent le pouvoir, des cyborgs tourmentés en quête d’identité… la science-fiction a mis en place dans des romans, des films et des séries un nouvel imaginaire basé sur la peur des nouvelles technologies. Cet imaginaire est pourtant plus qu’un scénario dystopique puisqu’il influence notre perception de l’intelligence artificielle y compris parmi les chercheurs, ingénieurs et entrepreneurs de l’IA.
Le concept de singularité technologique qui réalise une relecture de l’évolution humaine en anticipant le moment où les machines deviendront conscientes et prendront le contrôle de l’humanité fait de plus en plus d’adeptes et oriente désormais la recherche. Alors qu’en est-il ?
Qu’est-ce que l’intelligence artificielle?
Ce que l’IA cherche à imiter, ce n’est pas le fonctionnement de l’intelligence biologique mais uniquement les résultats auxquels elle parvient — le rapport est un peu le même que celui de l’avion avec le vol des oiseaux ou celui de la voiture avec la course à pied (Boris Barraud, L’intelligence artificielle dans toutes ses dimensions, 2020)
Le numérique, en développant des algorithmes – à savoir des séries de consignes et d’opérations chiffrées en vue d’obtenir un résultat particulier- a permis la mise en place de programmes dits intelligents dans le sens où le traitement de bases de données de plus en plus complexes et volumineuses permet d’améliorer en permanence les tâches dévolues à ces programmes.
On parle ainsi d’intelligence artificielle à partir du moment où les systèmes informatiques sont en mesure d’imiter des facultés cognitives biologiques et de simuler des comportements humains tout en prenant des décisions de manière autonome.
On distingue deux formes d’IA. L’IA faible concerne des programmes mobilisant des algorithmes qui peuvent s’améliorer en permanence en « apprenant », ils sont cantonnés à la résolution de tâches techniques spécifiques pour traiter des données dans un but précis. L’IA forte va plus loin puisqu’elle cherche à faire émerger des formes de pensée complexe artificielle pour créer des machines capables de ressentir des sentiments et d’avoir une conscience. Pour le moment cet axe de recherche n’a pas abouti à des résultats concrets.
Connaître l’IA en deux minutes avec Neodigital
Au niveau pratique, deux principes caractérisent l’IA. Le principe d’apprentissage concerne la mise en place d’algorithmes apprenants de manière autonome. Concrètement à partir de paramétrages préalables, l’algorithme doit s’entrainer à obtenir les résultats espérés avec un minimum d’interactions humaines en aval du processus pour mieux dépasser la programmation initiale : c’est l’apprentissage machine (machine learning). L’apprentissage profond (deep learning) dépasse l’apprentissage machine par des dispositifs qui vont au-delà du calcul algorithmique en établissant, grâce à des réseaux de neurones artificiels reproduisant le fonctionnement cérébral, des modèles de représentations pour catégoriser des données (comme des images, des sons, des textes etc.).
Le principe de mise en connexion est lui-aussi fondamental puisque pour apprendre, il faut d’énormes bases de données extraites du Big data, de l’ensemble des données en circulation. Pour cela, l’IA mobilise des programmes et des logiciels qui captent les données d’Internet et des objets connectés dans une mise en connexion générale entre machines, humains producteurs de données et algorithmes.
Comprendre l’IA par son histoire avec le CEA
Loin d’être seulement une expérience de laboratoire, l’IA possède de nombreuses applications que ce soit par le traitement naturel du langage qui permet les traductions automatiques, le traitement des données qui peut servir en science ou dans des métiers mobilisant des tâches analytiques sur des bases de données importantes (métiers juridiques, médecine, banques et assurances etc.), ou encore pour les offres publicitaires, le commerce en ligne, pour l’élaboration de programmes d’apprentissage ou de partage des données sur Internet etc…
L’IA générative qui est la dernière génération d’IA déploie des agents conversationnels automatiques (les chatbots) pour assurer du service client, du traitement de texte et même pour des productions créatives de contenus textuels, visuels et audio-visuels.
Enfin l’IA révolutionne la robotique grâce à des robots coopératifs (des cobots) qui peuvent faire équipe avec des humains notamment dans le cadre de l’Industrie 4.0.
Intelligence artificielle: que peut-elle vraiment? Un débat de l’émission Science Friction de Mediapart animé par Nicolas Chevassus-au-Louis, avec le physicien Hervé Krivine et l’informaticien Guillaume Wisniewski.
En conclusion l’IA est une combination entre l’action algorithmique et le traitement des données pour développer des machines apprenantes autonomes et obtenir des résultats statistiques ou prédictifs.
L’IA est-elle pour autant intelligente ? Réponse avec Jean-Gabriel Ganascia sur France Culture
De nombreux théoriciens voient le numérique comme une quatrième révolution industrielle qui, comme les précédentes, révolutionnerait la structure de l’emploi en détruisant de larges secteurs de la production pour les remplacer par d’autres, c’est le principe de la destruction créatrice.
L’IA, comme dernière génération de la révolution numérique, produirait de tels gains de productivité qu’elle permettrait même de penser une société sans travail. Alors qu’en est-il?
Il est aujourd’hui trop tôt pour évaluer les impacts réels de l’IA sur l’emploi, elle vient pour le moment renforcer un phénomène plus ancien d’automatisation.
En outre, la nouveauté de l’IA est la mise en place d’une gestion algorithmique du travail par un secteur émergent : celui des plateformes comme Uber ou Deliveroo.
Ces dernières produisent des effets contraires à l’idée de fin du travail en créant un nouveau type de travailleur officiellement indépendant mais de fait subordonné à la volonté d’un employeur unique sans qu’il y ait de droits associés, ce qui s’apparente à un nouveau prolétariat dans le sens où l’asymétrie de pouvoir est total.
Sous couvert d’un horizon heureux libéré du travail, on assiste plutôt à une attaque permanente pour déréguler le travail et mettre fin au travail salarié avec toutes les garanties qui vont avec : droit des travailleurs, devoirs et responsabilité de l’employeur notamment en cas d’accidents, droit au chômage, cotisations sociales et pour les retraites…
Enfin, les gains de productivités se font attendre. Contrairement aux pronostics la productivité ne cesse de baisser malgré l’essor du numérique. Le lien n’est en effet pas mécanique entre innovations et productivité, d’autres facteurs entrent en compte comme les décisions patronales. Les entreprises préfèrent bien souvent délocaliser, alléger les couts de productions en se servant du recours aux innovations comme d’un chantage ou encore, redistribuer les profits aux actionnaires que réaliser des investissements couteux.
Intelligence artificielle : Va-t-elle nous mettre au chômage ? Une émission de Sens Public sur Public Sénat
Un débat France Culture avec Daniel Susskind et Laure Soulier
Quel monde du travail dans le futur ? Réponses d'Alain Supiot et Philippe Martinez sur TV5 Monde
Il faut d’abord distinguer ce qui relève de l’automatisation et de l’IA. L’IA s’insère dans un processus général d’automatisation qui comprend aussi les usages productifs de la robotique et du numérique. Du fait de l’interdépendance des technologies entre elles, il est difficile de dissocier les effets spécifiques de ces trois éléments.
Des études prospectives annoncent que l’automatisation devrait provoquer des vagues de destructions d’emplois mais la plupart des prévisions sont déjà datées, se contredisent sur l’ampleur des destructions et n’ont pas produit les effets escomptés. En 2013, Carl Benedikt Frey et Michael A. Osborne annonçaient que 47% des emplois pourraient être détruit aux Etats-Unis. Depuis la plupart des études oscillent entre 10 et 15% d’emplois menacés.
L’arrivée de l’IA générative comme Chat GPT pourrait avoir des conséquences concrètes en remplaçant une partie du travail humain relationnel (au niveau du service client et du travail de bureau notamment). Une récente étude de l’OIT chiffre à 5,5% de l'emploi total, le volume d’emplois exposés au remplacement par l’IA (dans les pays à revenus élevés). Le pourcentage serait de 0.4% dans les pays à faibles revenus.
L’emploi ne va donc pas disparaitre mais très probablement se transformer
Chat GPT on en parle ! Avec Jean-Baptiste Kempf sur Le Média et un article de blog de « Mais où va le web ? »
De nouveaux secteurs d’emplois
On assiste à l’essor d’un secteur d’activité qui a pris son envol à partir des années 90 : le numérique. En 2018, selon Numeum, 151 000 emplois ont été créé en 10 ans. En Europe, le domaine global des TIC représentait 9 millions d’emplois en 2018 dans l’Union Européenne, dont près de 1 million en France. Des applications en IA sont de plus en plus utilisées en particulier dans les start-ups. Selon l’OCDE, les start-ups spécialisées dans l’IA attiraient en 2018 environ 12 % de l’ensemble du capital investissement mondial.
De nouveaux métiers apparaissent comme les data scientist, les scientifiques des données chargés du traitement des données issues du Big data et de leur gestion algorithmique notamment par le maniement des statistiques.
L’économie de plateforme est l’autre front de l’IA au travail qui permet de créer, grâce à la gestion algorithmique, un processus de désintermédiation-réintermédiation. Concrètement, les plateformes utilisent des nouvelles technologies comme un nouvel intermédiaire pour capturer une partie de la chaîne de valeur au détriment des intermédiaires traditionnels. Les exemples sont connus : Deliveroo, Uber, Airbnb etc… D’autres plateformes comme les entreprises de vente en ligne (Amazon), qui reposent sur un système différent, viennent aussi faire concurrence à la vente physique de livres ou au commerce en général.
L’action de ces entreprises qui se veulent « disruptives » s’apparente à une concurrence déloyale contre des secteurs plus institutionnalisés (les taxis face à Uber par exemple). Le travail de plateforme s’assimile en effet à du salariat déguisé puisque la plupart des travailleurs autoentrepreneurs n’ont qu’un seul donneur d’ordre. Ces derniers s’inscrivent dans une relation de dépendance lors qu’ils ne bénéficient d’aucuns droits (congés maladie ou maternité, indemnités de licenciement ou de chômage, représentation du personnel…). La stratégie de ce nouveau capitalisme revient à mettre en concurrence le salariat classique avec des professions déréglementées par la constitution de secteurs déloyaux.
Big Data et Data Science : quelles sont les différences ? Ferdaous Somrani nous l’explique pour D4 Data
Par polarisation, il faut comprendre selon l’OCE le phénomène de diminution des emplois associés à des niveaux de qualifications intermédiaires allant de pair avec une augmentation du poids des emplois à haut et à bas niveaux de qualification.
Les secteurs du numériques demandent en effet de plus en plus d’ingénieurs mais en parallèle les emplois sous-qualifiés se maintiennent ou se déplacent ailleurs. Le travail de plateforme favorise le contournement de la norme salarial et crée du travail précaire. On parle aussi de travailleurs invisibles ou fantômes pour désigner le micro-travail sur les données en ligne. Ces micro-tâches numériques, dont le plus important est le Mechanical Turk d’Amazon, consistent à rémunérer quelques centimes d’euros ou de dollars des usagers pour pallier aux lacunes de l’intelligence artificielle (traduction, modération, enquête en ligne, requête sur les moteurs de recherche etc.). Selon un rapport, la France compterait 260 000 micro-travailleurs dont la moitié sont des femmes (85) et dont la moyenne des revenus mensuels serait de 21 euros...
La polarisation de l’emploi s’effectue aussi vis-à-vis des territoires (l’Ile de France compte la moitié des emplois numériques), des classes sociales (le travail précaire de plateforme s’épanouit parmi les catégories les plus précaires de la population), du genre (les femmes peuvent moins réagir à l’injonction de l’autonomie au travail quand elles ont à charge le travail ménager et la garde des enfants). Enfin, la polarisation s’effectue dans une division entre pays riches qui développent des sociétés de service informatiques et pays pauvres chargés de l’extraction des ressources minières pour le numérique, de l’assemblage des produits électroniques, des déchetteries informatiques ou encore des « fermes à clic » pour le micro-travail.
On parle aussi de l’émergence d’un nouveau prolétariat à la périphérie de l’économie numérique. La logistique, par exemple, connait un renouveau avec la vente en ligne. Amazon en est le symbole et de nombreuses études décrivent l’univers carcéral et la dégradation des conditions de travail dans les entrepôts.
Pour comprendre les conditions de travail dans les manufactures de l’électronique ou les entrepôts d’Amazone, deux témoignages édifiants : l’enfer des usines asiatiques avec « La machine est ton seigneur et ton maître » et une infiltration « en Amazonie » du côté de Montélimar.
Les formes actuelles d’intelligence artificielle ne sont ni artificielles ni intelligentes. Nous devrions plutôt parler du dur labeur physique des mineurs, des tâches répétitives des ouvriers sur les chaînes de montage, du travail cybernétique sous - traité des programmeurs dans les ateliers de misère, du crowdsourcing mal payé de Mechanical Turk, et du travail immatériel non rémunéré des utilisateurs quotidiens. Ce sont les lieux où on voit que la computation planétaire dépend de l’exploitation de la main - d’œuvre humaine, tout le long de la chaîne logistique d’extraction. (Kate Crawford, Contre-Atlas de l’intelligence artificielle 2020
Les études globales sur l’impact de l’automatisation sur l’emploi se sont progressivement réorientées vers des études plus fines qui distinguent les métiers et les tâches. En effet, l’automatisation en général et l’IA en particulier réorientent le travail vers de nouvelles tâches.
L’IA est présente dans les logiciels d’ERP (Entreprise Ressource Planning, des progiciels de Gestion Intégrés) qui permettent, à partir d’une base de données unique, d’intégrer plusieurs fonctions de gestion (au niveau des commandes, des stocks, des fiches de paie, de la comptabilité, du commerce etc.). Les nouveaux agents conversationnels de type chatbot révolutionnent quant à eux la relation client mais aussi les temps dévolus à la recherche et à la prospection d’informations ainsi qu’à la rédaction. Au niveau de la robotique, les progrès s’effectuent surtout sur le pilotage machine en vue de contrôler son efficacité en termes de vitesse, de coordination dans la chaîne de production ou de consommation d’énergie.
L’IA est présentée comme une opportunité de réduire les tâches pénibles (en particulier dans l’industrie avec des robots intelligents) ou encore les tâches répétitives ou routinières dans l’économie de service par exemple celles d’organisation de planning, de traitement de base de données ou de réponses aux clients… Cependant, le fonctionnement de l’IA est encore imparfait et elle a besoin d’interventions humaines pour s’améliorer, ce qui crée de nouvelles formes de travail à la tâche en particulier avec le micro-travail.
Enfin, la perception du travail routinier est variable selon les métiers et les perceptions individuelles. Globalement, si l’IA peut améliorer la productivité et l’efficacité en déchargeant certaines tâches et en gagnant du temps notamment pour le travail intellectuel, elle peut aussi affecter des métiers dans leur totalité quand il s’agit d’emplois comprenant des tâches automatisables (comme le travail de bureau qui selon l’OIT a un taux d’exposition élevé de 24%).
L’impact de l’IA sur les métiers
L’OCDE considère l’IA comme une technologie générique (comme l’informatique, l’électricité, les moteurs à vapeur), « Ce qui signifie qu’elle est à même de conduire à des gains de productivité notables dans un éventail plus large de secteurs ».
La même étude cite les secteurs du transport (avec la voiture autonome), de l’agriculture (robots agricoles et indicateurs de surveillance des sols et des cultures), de la publicité et du marketing (notamment le traitement du langage, les probabilités de succès d’une campagne, la personnalisation et profilage des offres), de la science (accélération de la recherche et des échanges de savoirs) ou encore de la médecine, de la justice et de la sécurité.
Dans le domaine juridique et dans le notariat, des logiciels mobilisant l’IA permettent de scanner et rédiger des contrats et des actes, d’analyser d’énormes bases de données. La justice prédictive ou jurimétrie par algorithmes, bien que très largement décriée pour les biais qu’elle pourrait impliquer, peut être mobilisée en amont pour permettre notamment à des clients de savoir quelles chances ils ont de gagner des litiges ou pour accélérer les traitements de dossiers.
Industrie 4.0 et réalité augmentée en Allemagne © SmartFactory-KL/A.Sell
Le secteur bancaire et des assurances a quant à lui été le premier à mettre en œuvre des systèmes experts. On retrouve un développement similaire d’applications IA pour générer automatiquement des contrats ou calculer les indemnités versées aux assurés. Des algorithmes aident les banques à établir des modèles statistiques pour les demandes de prêts et pour évaluer les risques d’investissements, de crédits et l’optimisation des capitaux. Enfin l’IA aide à la détection des fraudes en pouvant recouper des informations de transactions financières et fiscales à grande échelle.
En médecine, l’IA aide aux diagnostiques avec des taux d’erreurs parfois moindres que ceux des médecins. En comparant les données extraites des dossiers médicaux (ce qui pose toutefois des problèmes sur la confidentialité des données médicales) ou en analysant des scanners, les programmes d’IA réalisent aujourd’hui d’importantes performances expérimentales sur les dépistages et diagnostiques de maladies et autres risques de santé (entre autres projets, des maladies des yeux, des risques cardiaques et des cancers). La prédiction algorithmique permet enfin dans le domaine thérapeutique de prévoir la réaction de patients à des traitements médicaux ou de servir à la prévention de pathologies.
Dans l’industrie, des dispositifs visant à créer des usines intelligentes ou 4.0 (smart factory) sont mis en place. La multiplication de l’Internet des objets permet désormais une meilleure intégration du numérique dans les processus de production en cherchant d’abord à mettre en réseau des machines plus réactives et collaboratives notamment à travers des systèmes de logiciels et de capteurs SCADA qui permettent le traitement de mesures et l’adoption de décisions en temps réel. La gestion des données permet une production dite « agile », aidée en cela par l’IA et les systèmes de conception assistée par ordinateur (CAO) qui peuvent simuler et modéliser la demande de produits tout en modifiant les formes de production suivant l’évolution de cette demande. Enfin l’IA aide aussi par ses systèmes de maintenance prédictive à gérer et réparer la chaîne de production de manière autonome par des calculs prédictifs en anticipant et planifiant les rythmes des machines, les problèmes de maintenance ou les arrêts potentiels de la chaîne.
Qu’est-ce que l’industrie 4.0 ? Une présentation de l’ITMI Québec.
Une nouvelle organisation du travail algorithmique
L’IA ne représente pas seulement une opportunité pour créer des tâches d’assistance, elle sert aussi à la prise de décision. Rappelons que les algorithmes peuvent formuler des prédictions, c’est-à-dire utiliser une base de données pour établir un modèle d’interprétation qui, par statistiques ou par recommandations, donne un résultat à un problème initial. Si l’algorithme est programmé pour découvrir quels sont les facteurs non-rentables d’une entreprise, il peut par exemple désigner des postes ou des coûts de travail à « rationnaliser ». L’algorithme n’est pas neutre mais dépend de l’orientation et de la programmation humaine qui conditionne son utilisation.
Cette gestion algorithmique intéresse de plus en plus le management qui voit un moyen d’aider à l’organisation du travail suivant des principes déjà éprouvés d’optimisation, de rentabilité et flexibilité du travail. Dans ce sens l’algorithme est mis au service d’un management inspiré par la cybernétique qui cherche à programmer et à contrôler complétement les travailleurs autour du projet de l’entreprise. Les algorithmes sont alors « enrôlés » pour évaluer les travailleurs, pour surveiller leurs comportements ou leurs publications personnelles sur les réseaux sociaux et pour les mettre sous pression soit par la menace de licenciement, soit par des dispositifs de manipulation psychologique comme les nudges.
La gestion algorithmique est ici une manière d’automatiser les prises de décisions, ce qui crée un problème quant à la responsabilité de l’employeur d’autant plus que l’apprentissage profond des algorithmes ne peut pas être explicité puisque les algorithmes créent leurs propres modèles d’analyse et de prédiction de manière autonome, ce qui favorise les biais discriminatoires.
Si ces dispositifs ne sont pas encore généralisés à l’ensemble des organisations du travail, ils sont pleinement expérimentés dans les secteurs numériques (start-ups et plateformes) qui théorisent la disruption comme un modèle de travail (et de société) qui doit être exporté partout. Le management public appliqué dans les hôpitaux ou à la poste s’inspire largement de ces méthodes. Aux États-Unis l’éducation est déjà soumise à des évaluations algorithmiques qui décident du licenciement des professeurs les moins bien notés sans pour autant expliquer les raisons de la notation.
Il se pourrait bien que votre patron soit un algorithme. Antonio Aloisi et Valerio De Stefano nous en disent plus.
Retrouvez notre brochure sur les effets de la déstructuration des collectifs de travail par le numérique
Comprendre le nouvel esprit du capitalisme par le management avec Danièle Linhart sur Mediapart
Carte d’Internet représentant les adresses IP en 2005 ©Matt Britt/Wikimedia
Comment l’intelligence artificielle crée une nouvelle valeur ?
Les big data réaniment le projet d’objectivité instrumentale des sciences de la nature, mais cette fois sans le laboratoire : c’est le monde qui devient directement mesurable et calculable. Leur ambition est de mesurer au plus près le « réel », de façon exhaustive, discrète et à grain très fin (Dominique Cardon, A quoi rêvent les algorithmes ? 2015)
L’information, un capital économique
L’information a toujours été un facteur essentiel de gestion du pouvoir. Avec l’émergence des technologies de l’information et de la communication renforcée par le développement d’internet, elle est au centre d’une nouvelle économie qui lie étroitement techniques, savoirs et pouvoirs.
Alain Supiot : La gouvernance par les nombres - De quoi la gouvernance est-elle le nom ? Une vidéo de la Fondation Hugo du Collège de France
Les données sont les informations numériques en circulation sur l’ensemble des appareils connectés : des codes, des chiffres, des contenus textuels ou audio-visuels, des images et des photos etc… Tout ce qui est produit sur Internet ou enregistré sur des appareils connectés constitue des données brutes qu’il faut traiter pour les rendre exploitables c’est-à-dire pour les intégrer dans des bases qui puissent être traitées par algorithmes. Le Big data (les mégadonnées) est l’ensemble de cet immense système des données.
On parle aujourd’hui de datafication de la société pour désigner l’emprise du Big Data qui transforme des éléments du social en données marchandables permettant ainsi la création d'une nouvelle forme de valeur. Dans ce sens, Internet n’a été qu’une première étape. Le cloud, l’Internet des objets (IoT) et la 5g rêvent d’aller encore plus loin et de pouvoir capter l’intégralité de la société sous forme de données.
On ne peut comprendre l’IA sans lier son destin à celui du Big data. Les algorithmes de l’IA ont besoin de données structurées pour apprendre mais, pour extraire, traiter et rendre exploitables des données brutes, il faut également des algorithmes chaque fois plus perfectionnés. Les données s’apparentent dès lors à un capital qui organise la production de la valeur informationnelle.
Suivre à la trace les usagers
La création de valeur est éparpillée, massive et en apparence participative mais pourtant elle est loin d’être neutre. Du plus insignifiant contenu au plus élaboré, d’un clic à la réalisation de vidéos et autres créations audio-visuelles, de blogs, d’articles, d’albums photos virtuels, toutes les traces et les contenus sont captés, hiérarchisés pour identifier de nouveaux publics cibles pour des publicités mais aussi pour alimenter l’apprentissage de l’IA. La nouvelle valeur est alors captée par des plateformes comme Google ou Amazon qui transforment le libre-accès à l’origine d’Internet en gains.
C’est sur les mesures prédictives, focalisées sur les traces que l’on laisse sur internet, que se concentre cette nouvelle économie. Ces traces sont multiples : commentaires, requêtes, historiques de navigation... Les techniques de traitement statistique de ces usages individuels enregistrés ne sont pourtant jamais explicitées, elles restent dans les coulisses de Google, sans aucune visibilité pour l’usager qui pourtant les produit. Ce sont ces traces qui vont être utilisées suivant des processus de captation par les cookies, par le scanne de contenus des courriels, par la géolocalisation des connexions faite sur les smartphones et les puces RFID ou par les historiques indexées sur les bornes Wifi. Il s’agira ensuite pour les algorithmes des plateformes de recouper les données par mots clés et d’établir des profils types de consommateurs à partir des données personnelles pour ensuite les revendre aux publicitaires ce qui revient à une mise en enchère des utilisateurs.
Au-delà du commerce de données, il faut aussi prendre en compte l’autre aspect de la valeur qui est celui du travail. Une nouvelle chaîne de production se crée, marquée par une répartition de la valeur profondément inégalitaire et un surplus de travail non rémunéré. C’est le digital labor qui selon le sociologue Antonio Casilli, s’assimile à un travail tâcheronnisé et datafié enrôlé au service des systèmes d’apprentissage automatiques. Le digital labor pousse à l’extrême l’externalisation et la fragmentation du travail déjà à l’œuvre dans l’économie néolibérale en consacrant la place privilégiée des plateformes dont le fonctionnement se base sur l’intermédiation informationnelle. Les plateformes, en louant un hébergement et une capacité de mise en relation algorithmique, ne produisent aucune valeur mais la captent par intermédiation, que ce soit à travers le travail des usagers qui vont noter ou commenter une prestation, par les commissions perçues pour bénéficier de l’intermédiation, ou grâce à l’utilisation des données pour entraîner des intelligences artificielles.
Illustration du Turc Mécanique (©Wikimedia). Il s’agissait d’un automate apparu en 1770 qui reposait sur un canular : préfigurant l’idée d’intelligence artificielle son inventeur souytenait que l’automate pouvait jouer aux échecs sans interventions extérieures. En réalité un autre joueur était caché dans le compartiment inférieur. Le nom a été repris par Amazon (Amazon Mechanical Turk-AMT) pour désigner son système de crowdsourcing visant à effectuer des micro-tâches aux usagers du web contre rémunération pour pallier aux lacunes de l’intelligence artificielle (traduction, modération, enquête en ligne, requête sur les moteurs de recherche etc.).
Tout savoir sur le travail du clic avec Antonio Casilli par France Culture.
La partie la plus visible du travail numérique est le micro-travail basé sur la parcellisation des tâches à l’image de l’Amazon Mechanical Turk. Les plateformes parlent de crowdsourcing ou de travail collaboratif, ce qui laisserait planer l’idée d’une mise en commun de l’espace internet quand il s’agit au contraire d’une nouvelle forme d’exploitation. Plus grave, c’est l’ensemble des usagers qui sont enrôlés dans ce travail invisible qui consiste à réaliser des micro-tâches sans même y prêter attention. Le système recaptcha est emblématique : sous couvert de s’identifier comme humain, Google utilise les usagers pour reconnaitre des mots ou des images qui serviront ensuite à entrainer ses algorithmes pour la numérisation de livres ou la reconnaissance automatique de formes. Malgré le fait que les actions réalisées sur le net paraissent anodines, non spécialisées et à faible niveau d'implication, elles n’en constituent pas moins une nouvelle chaîne de production internationale complétement atomisée et d’une ampleur inégalée.
Pour en savoir plus : En attendant les robots d’Antonio Casilli et un débat entre Casilli et Dominique Cardon.
Des enjeux éthiques et sociétaux
La production massive des données et leur extraction illimitée par un petit groupe de plateformes contribuent à brouiller les frontières entre consommateurs et producteurs, travail et loisir, vie publique et vie privée.
Un immense débat a également lieu sur les questions de droits et d’éthiques autour de la propriété intellectuelle des contenus en ligne et du respect de l’identité personnelle à travers les données. De plus en plus les individus font valoir leurs droits contre la libre-circulation et l’appropriation des données. Face à la défense de droits exclusifs attaqués de toute part, certains actent la mort de la privacité, d’autres appellent à une réorientation des données comme biens communs ou évoquent la nécessité de trouver de nouvelles formes de financement pour les auteurs et les contenus créatifs comme la taxation des diffuseurs de contenus. Une question fondamentale se pose pourtant sans trouver de réponses pertinentes : comment organiser la rareté à l’heure du Big data, quand tout contenu devient réplicable et accessible ?
L’Europe a instauré un Règlement général sur la protection des données (RGPD) en application depuis 2018, qui encadre l’utilisation des données à caractères personnels (comme les données biométriques). Avec la RGPD, il a été acté que chaque citoyen pourrait avoir un contrôle minimal sur ces dernières (portant sur la portabilité de ses données et contenus, sur le droit d’autoriser leur mise en circulation, leur mise à disposition et leur libre utilisation) toutefois cette mesure manque de visibilité et de publicité et l’application d’un tel dispositif demande un rapport de force avec les plateformes qui est inexistant.
Le fond du problème est paradoxal : à l’heure du Big data où une masse impressionnante de données est disponible, l’information est contrôlée par une infime minorité de groupes économiques qui n’ont de comptes à rendre à personne. Les plateformes comme les GAFAM ou les réseaux sociaux comme Facebook participent d’une monopolisation intellectuelle dans la mondialisation qui revient à privatiser la connaissance au sein d’une division internationale du savoir inédite.
Deux vidéos des analystes du pouvoir des GAFAM : Cédric Durand chez Mediapart et Joëlle Toledano chez Xerfi Canal
L’IA a-t-elle les moyens de contrôler la société ?
Le cauchemar du panoptique va-t-il enfin devenir réalité en raison de la visibilité permanente des individus, elle-même rendue possible par l’enregistrement, l’extraction, l’agrégation et la manipulation de leurs données personnelles, par le scannage de toutes leurs transactions sur les réseaux ? (Jannis Kallinikos, D'un soi émietté, 2009)
Action des employés des entrepôts Amazon pour la reconnaissance syndicale devant le National Labor Relations Board à New York en octobre 2021 ©Joe Piette/Wikimedia
Les algorithmes prédictifs comment ça marche ? Réponse sur France Culture avec Avec Cédric Gouy-Pailler
L’instauration d’une société de contrôle et de calcul
Le juriste Alain Supiot a montré comment il y a eu une contagion d’un modèle d’organisation du travail basé sur la cybernétique à un modèle de gouvernance politique des sociétés où la force des nombres a remplacé celle des lois. En effet, on assiste à une généralisation de la calculabilité et à une systématisation de la politique des indicateurs à l’ensemble des activités humaines, deux phénomènes caractérisés par le règne des sondages au détriment de l’analyse, par l’imposition d’obligations de résultats chiffrés et par une volonté plus générale de « chiffrer le monde » pour mieux influer sur les comportements sociaux et individuels. On assiste à un renversement du cadre démocratique puisque la procédure managériale et la gestion algorithmique se constituent comme une vérité inattaquable des chiffres, des chiffres qui sont entièrement orientés vers l’efficacité, la productivité et la rentabilité.
La technique s’est finalement transformée en technopouvoir, un terme qui désigne ce règne de « l’objectivité scientifique » des machines et particulièrement des algorithmes. Cette nouvelle gouvernance est incarnée par les secteurs les plus « disruptifs » de l’économie. Au sommet, on trouve les GAFAM désignant les géants de l’économie numérique puis les autres plateformes et enfin, par « ruissellement » les start-ups et les modèles dérivés de management qui s’appliquent jusque dans les administrations publiques.
Les données du Big Data ne sont pas seulement massives, elles sont malléables. Et c’est le traitement par intelligence artificielle qui permet cette flexibilité, que ce soit au sein de la machine pour extraire et traiter les données ou au sein des réseaux pour les diffuser. Comme le rappelle l’économiste Cédric Durand, le Big Data se caractérise par « le fait d’être générées en continu, de viser simultanément à l’exhaustivité et à la granularité, et d’être produites de façon flexible afin de pouvoir toujours s’annexer des sources de données supplémentaires ».
Des auteurs comme Bernard Stiegler ou Dominique Cardon parlent de l’émergence d’une société automatique ou de calcul puisque les pratiques sociales et individuelles doivent être ramenées à des automatismes comportementaux quantifiables grâce à l’action algorithmique. Sous prétexte de personnaliser, maximiser, fluidifier ou simplifier la vie, les tâches et les pratiques sociales, on aboutit à ce que Sadin nomme une totalisation numérique.
Pour aller plus loin : l’automatisation sociale selon Bernard Stiegler
Dominique Cardon : « Les humains ont peut-être envie d'être calculés autrement ». Une vidéo de la CNIL
Du traitement des données à la manipulation des comportements
L’objectif du traitement des données par les plateformes n’est pas seulement de faire de la publicité mais de transformer l’ensemble du réel en données exploitables. L’idée est simple : avec Internet, le cloud et les objets connectés tout peut être mis en réseau. On vit déjà à l’heure de l’omniprésence des capteurs numériques dans l’espace public et privé, des puces peuvent être intégrées au vivant, des collecteurs automatisés d’informations sous forme de capteurs, de caméras, de microphones ou de logiciels d’évaluation sont destinés à accompagner les individus au quotidien que ce soit avec la domotique et l’Internet des objets, la « smart city », les véhicules autonomes, les applications du « quantified self »…
Les données servent à objectiver le réel au sein de modèles prédictifs qui permettent de personnaliser l’offre publicitaire sur Internet suivant les goûts de chacun, ce qui s’apparente à une manipulation des désirs et à un enfermement dans des bulles filtrantes où les suggestions d’amis des réseaux sociaux, d’achats ou de centres d’intérêts renvoient sans cesse l’usager à ce que l’algorithme croit bon pour lui.
Une fois extraites et traitées par algorithmes pour en tirer des prédictions, les données sont prêtes à l’usage. Le profilage sert à personnaliser les offres algorithmiques que l’on rencontre au cours des navigations internet mais implique par contre coup des usages de plus en plus individualistes qui incluent des mesures de réputation et des dispositifs d’évaluation permanente. L’existence individuelle par les réseaux sociaux se mesure désormais en likes, en commentaires, en notation pour des prestations airbnb ou pour des achats en ligne. Ce profilage algorithmique « pour notre bien » est donc moins anodin qu’il n’y parait, il sert à filtrer et programmer le social en même temps qu’il vise à tout connaitre de chaque personne pour mieux influencer et orienter ses comportements.
Le traitement des données par la gestion algorithmique acte la fin de la vie privée puisque tout doit être visible et projette le monde social dans un système panoptique où l’hyper-personnalisation revient paradoxalement à enlever toutes formes de subjectivité aux usagers puisque ces derniers sont transformés en données que l’on peut commercialiser.
Une intelligence artificielle au service de la bêtise humaine et du contrôle politique ?
De nombreux chercheurs dont Soshana Zuboff, Eric Sadin, Antoinette Rouvroy ou Thomas Berns dénoncent cette emprise des algorithmes qui fait naitre un nouveau système de gouvernance algorithmique ou de capitalisme de contrôle qui cherche à faire de l’expérience humaine une matière première pour servir des fins commerciales qui finalement transforment radicalement les modes sociaux de relation et de communication. Il ne s’agit plus de comprendre les comportements mais de les transformer.
Qu’est-ce que la gouvernementalité algorithmique pour Antoinette Rouvroy. Entretien par Regards Connectés.
Le capitalisme de surveilance selon Soshana Zuboff
Les conséquences sociales du numérique sont multiples. La personnalisation qui faciliterait la vie s’apparente à un prêt à penser qui n’encourage finalement que la recherche de la facilité et le renoncement à la complexité des choses. Les réseaux sociaux s’apparentent à des bulles affinitaires qui détruisent toute curiosité ou capacité de débat. L’intelligence artificielle générative s’inscrit dans la même logique de production d’un savoir automatique qui menace les capacités d’analyse critique ou de créativité.
Dominique Cardon : « Les réseaux sociaux ne sont que le reflet de notre société ». Entretien par Brut
L’IA par sa capacité de traitement, d’analyse et de prédiction donne un pouvoir démesuré à une petite élite économique située tout particulièrement dans la Silicon Valley et dont les ressorts sont d’abord idéologiques. Cette idéologie se base sur le refus de tout type de régulations, sur la négation de la complexité sociale au nom d’un individualisme triomphant, sur l’idée d’un solutionnisme et d’un déterminisme technologique qui permettrait à l’IA de pouvoir tout résoudre et corriger les déficiences humaines dans une fuite en avant qui mène à la singularité technologique.
Pour aller plus loin : deux articles pour comprendre l’idéologie de la Silicon Valley
Dans la disruption : quand la technologie déstabilise la société. Entretien avec Bernard Stiegler par Xerfi Canal TV
La Silicolonisation du monde : L'irrésistible expansion du libéralisme économique. Entretien avec Eric Sadin par TV5 Monde
Enfin cette « siliconisation » du monde se base sur la diffusion d’un modèle disruptif qui prend de vitesse les institutions et menace la démocratie. Le problème de la gestion algorithmique, de son manque de transparence et de la privatisation des données n’est pas éthique mais politique. En court-circuitant les lois, les normes et les décisions humaines, la problématique centrale est celle de la souveraineté des peuples à décider des usages technologiques et de la responsabilité politique quand les prises de décision deviennent automatiques. D’autant plus que l’usage des données n’est pas seulement économique, il peut être détourné à des fins politiques comme on l’a vu avec la multiplication des scandales dénoncés par des lanceurs d’alerte. Parmi les illustrations les plus criantes de ces dérives on trouve le programme PRISM de surveillance générale par la NSA, celui de Cambridge Analytica qui a créé un programme de manipulation de masse en faveur de la réélection de Trump ou encore les usages liberticides de la surveillance en Chine avec le système de crédit social qui évalue en permanence les citoyens chinois sur leur bonne conduite.
Vers des sociétés de surveillance généralisée ? Un exemple et une inquiétude en vidéos : « La Chine sous l'emprise de l'intelligence artificielle » de France 24 et « JO 2024 : Vers une dangereuse normalisation de la surveillance de masse » par Blast
Alors que faire ? Le débat est ouvert entre régulations nationales, organisation de la société civile à une échelle mondiale, ou encore alternatives sociales avec les communs, l’émergence d’un cyberespace démocratique ou l’instauration d’un revenu de base qui redistribuerait les richesses du Big data.
Comment se libérer des GAFAM ! avec framasoft. Un documentaire de Blast
Les Communs selon Jacques François Marchandise
La neutralité des réseaux selon la Quadrature du Net