TECHNOLOGIE : LES RISQUES HUMAINS FACE AU POUVOIR DU NUMÉRIQUE
- Les milliardaires de la tech s’alignent de plus en plus sur les politiques de droite et l’autoritarisme, abandonnant leurs engagements en matière d’objectifs sociaux pour privilégier le profit et le pouvoir.
- Les technologies de l’IA suscitent des préoccupations croissantes, notamment en raison de leur impact sur le climat et l’environnement, leur utilisation à des fins de surveillance, et leurs résultats biaisés. Néanmoins, les grandes puissances s’opposent à la mise en place de garde-fous à l’échelle mondiale.
- La société civile peine à demander des comptes aux plateformes technologiques, car les entreprises de réseaux sociaux privilégient l’engagement des utilisateurs à la véracité de l’information ; cependant, certaines contre-mesures, comme la pression exercée sur les annonceurs et les actions en justice, offrent des leviers d’action.
L’impact de l’IA sur le climat et l’environnement est de plus en plus inquiétant. Les immenses centres de données nécessaires à son fonctionnement consomment d’énormes quantités d’électricité et d’eau, et l’ampleur du problème ne fait que croître avec son développement. Une simple question posée à un chatbot d’IA peut consommer dix fois plus d’énergie qu’une recherche classique. Par conséquent, la demande croissante en IA entraîne un boom de la construction de centrales électriques au gaz, alors même que ces infrastructures devraient être progressivement supprimées pour atteindre les objectifs climatiques. L’expansion des centres de données de Google a entraîné une augmentation de 48 % de ses émissions de gaz à effet de serre entre 2019 et 2023, ce qui contredit largement son objectif déclaré d’atteindre la neutralité carbone d’ici 2030.
La récente innovation DeepSeek pourrait atténuer certaines de ces préoccupations, car elle semble nécessiter moins de ressources en centres de données. Mais d’autres questions se posent autour de cette application chinoise qui a fait sensation en janvier 2025, devenant instantanément l’application la plus téléchargée dans plus de 150 pays. Lorsqu’on l’interroge sur Hong Kong, Taïwan ou la place Tiananmen, DeepSeek se tait ou relaie la propagande d’État chinoise. Cela ne fait rien pour dissiper les craintes que l’IA soit utilisée pour manipuler l’opinion en propageant des récits basés sur des mensonges.
Des agents de la patrouille frontalière capturent des données biométriques à des fins de suivi dans un centre de traitement des migrants en Arizona, États-Unis, le 7 décembre 2023. Photo par John Moore/Getty Images.
Le pouvoir de la désinformation, tel qu’il a été observé dans de nombreuses élections en 2024, s’est accentué avec les développements de l’IA générative – ces technologies qui produisent du texte, des images et des vidéos à partir de « prompts » ou instructions. Ces outils reflètent les biais de leurs créateurs et des données qui leur ont été fournies, et facilitent la création d’images et de vidéos fausses particulièrement convaincantes. Même lorsque la désinformation n’est pas délibérée, l’IA générative a tendance à inventer des réponses plausibles mais factuellement incorrectes. Une étude récente a révélé qu’environ un cinquième des informations de la BBC restituées par des chatbots d’IA contenait des erreurs factuelles.
L’IA générative et la quête de l’intelligence artificielle générale – une IA capable de reproduire et de surpasser les capacités humaines d’apprentissage et de compréhension – suscitent à la fois enthousiasme et appréhension. Certaines inquiétudes peuvent sembler alarmistes, mais en décembre 2024, le lauréat du prix Nobel Geoffrey Hinton, scientifique souvent considéré comme le « parrain » de l’IA, a lancé un avertissement glaçant : il existe une probabilité de 10 à 20 % que l’IA anéantisse l’humanité d’ici quelques décennies.
Les modèles d’IA actuellement déployés suscitent déjà des inquiétudes concernant leur impact sur l’emploi, les droits d’auteur et la propriété intellectuelle – étant donné le contenu créé par l’homme sur lequel ils sont entrainés – ainsi que les résultats biaisés qui renforcent l’exclusion.
L’IA est également de plus en plus utilisée dans les technologies de surveillance, notamment dans le domaine en pleine expansion de la reconnaissance faciale, émotionnelle et biométrique. Ici se posent des problèmes de partialité, de dépassement des fonctions et de détournement de la finalité, car des technologies initialement développées pour lutter contre le terrorisme, par exemple, sont déployées plus largement pour porter atteinte aux libertés, simplement parce qu’elles sont disponibles. L’utilisation militaire croissante de l’IA est un autre sujet de préoccupation ; en février 2025, Alphabet, la société mère de Google, a renoncé à son engagement de ne pas utiliser l’IA pour le développement d’armes ou la surveillance, s’éloignant ainsi de la devise de Google, « Ne soyez pas malveillants ».
Il est clair que les avancées de l’IA dépassent largement le rythme de la réglementation. Mais lors du Sommet d’action sur l’IA, qui s’est tenu à Paris en février 2025, une soixantaine d’États ont approuvé une déclaration en faveur d’une IA durable, ouverte, transparente, éthique et sûre. Cependant, les États-Unis et le Royaume-Uni ont refusé de signer ce texte, les États-Unis invoquant une « réglementation excessive ». L’une des premières mesures prises par M. Trump a été d’annuler un décret qui établissait des garde-fous en matière d’IA, laissant entrevoir le risque d’un fossé réglementaire grandissant.
Les logiciels espions constituent une autre menace majeure pour la société civile. De nombreux États ont déjà fait usage de Pegasus, un logiciel espion fourni par le groupe israélien NSO, pour espionner la société civile, les médias et l’opposition politique. Le gouvernement jordanien est le dernier en date à avoir révélé son utilisation de Pegasus, ciblant au moins 35 personnes dans le cadre d’une répression soutenue de l’espace civique.
Face à ces dérives, il est urgent d’interdire les logiciels espions, que le groupe NSO vend exclusivement aux États, et d’instaurer un moratoire mondial sur le développement et la vente de technologies de surveillance numérique jusqu’à ce que des garanties solides en matière de droits humains soient mises en place.
Si seulement on pouvait faire confiance aux leaders de la technologie. Mais ils démontrent de plus en plus le contraire. Les entrepreneurs milliardaires de la Silicon Valley, qui se présentaient autrefois comme socialement responsables, peinent désormais à maintenir cette façade.
Un signe troublant est la façon dont ils se sont rapidement ralliés à l’administration Trump, en versant des millions de dollars à son fonds d’inauguration. Amazon, Google, Meta, Microsoft et Uber ont chacun donné un million de dollars américains, et des directeurs généraux de sociétés technologiques comme Tim Cook d’Apple et Sam Altman d’OpenAI y ont également contribué.
Des leaders de la technologie, dont Mark Zuckerberg de Meta, Jeff Bezos d’Amazon, Sundar Pichai de Google et Elon Musk de Twitter/X, assistent à l’investiture de Donald Trump à Washington DC, le 20 janvier 2025. Photo par Julia Demaree Nikhinson/Pool via Reuters/Gallo Images.
Ces dons d’une ampleur inhabituelle signalent, à tout le moins, une volonté de rester dans les bonnes grâces d’un président capricieux. Ils pourraient aussi traduire un désir de limiter la potentielle régulation de l’IA et des crypto-monnaies, et d’accaparer une plus grande part des dépenses de défense.
Mais pour Meta, propriétaire de Facebook, Instagram, Threads et WhatsApp, ce don n’a été qu’un premier pas vers une posture plus favorable à Trump. En janvier 2025, l’entreprise a annoncé l’abandon de son programme indépendant de vérification des faits aux États-Unis. Mark Zuckerberg a justifié cette décision en affirmant que la vérification des faits avait conduit à une censure excessive et que ce changement favoriserait la liberté d’expression. À la place, Meta adoptera un système similaire aux Notes de la Communauté de Twitter/X.
L’amalgame fait par Zuckerberg entre la vérification des faits et la censure est inquiétant, et l’alternative proposée par Twitter/X soulève de nombreux problèmes. Notamment, la plupart des désinformations se propagent bien avant que ces notes de la communauté ne puissent les corriger. Meta a déjà été accusé de ne pas avoir empêché la diffusion de discours de haine sur ses plateformes, contribuant à la violence en Inde, au Myanmar et, plus récemment, en Éthiopie. Parallèlement, les messages en faveur de la Palestine ont été systématiquement censurés. Avec ses nouvelles politiques, il est désormais acceptable d’accuser les personnes LGBTQI+ d’être des malades mentaux ou de qualifier les femmes de propriété. M. Trump a salué ces changements.
Meta a également accepté de verser 25 millions de dollars à Trump pour régler un procès intenté après la suspension de ses comptes à la suite de l’insurrection de janvier 2021. De plus, l’entreprise a supprimé ses initiatives DEI dans la foulée des attaques de l’administration Trump contre ces programmes. La fondation caritative de Zuckerberg, la Chan Zuckerberg Initiative, a suivi en dissolvant son équipe DEI. D’autres entreprises technologiques ont emboîté le pas : Google a abandonné ses objectifs de recrutement axé sur la diversité et a annoncé qu’il ne célébrerait plus des événements comme le Mois de l’histoire des Noirs ou le Mois des Fiertés. Amazon a supprimé la section sur diversité et inclusion de son rapport annuel.
Pour certains dirigeants du secteur technologique, l’alignement avec le populisme de droite s’est fait naturellement. Ils se perçoivent comme des personnes exceptionnelles, au-dessus des règles communes. Ils aiment « aller vite et casser des choses », pour reprendre l’ancienne devise de Facebook. Ils se méfient de l’État – sauf, peut-être, s’ils en tiennent les rênes. En ce sens, beaucoup voient en Trump une âme sœur. Aucun plus qu’Elon Musk.
Généralement considéré comme l’homme le plus riche du monde, Musk a mis sa fortune au service de l’élection de Trump. Il a participé à ses rassemblements, fait un don de 288 millions de dollars, et offert aux électeurs des états clés la possibilité de gagner 1 million de dollars en signant une pétition pro-Trump.
Musk partage régulièrement des contenus extrémistes. Il détient le plus grand nombre d’abonnés et, en 2023, il a même insisté pour que des modifications soient apportés à l’algorithme afin de rendre ses publications plus visibles. Tout ce qu’il publie a donc une portée considérable, en particulier aux États-Unis, où la plateforme compte le plus grand nombre d’utilisateurs, et parmi les jeunes hommes, qui l’utilisent de manière disproportionnée. L’achat de Twitter/X a peut-être été une mauvaise affaire financière – l’entreprise ne vaudrait qu’une fraction des 44 milliards de dollars qu’il a déboursés – mais c’était une manœuvre politique réussie. Une plateforme autrefois relativement progressiste est devenue un bastion de la droite. De nombreuses voix de gauche l’ont quittée, des extrémistes auparavant bannis ont été réintégrés, et Musk intervient constamment pour orienter le débat.
Le milliardaire, élu par personne, s’est solidement intégré à l’appareil oligarchique de Trump, prenant la tête de la pseudo-agence publique nommée Département de l’efficacité gouvernementale (DOGE). Officiellement, sa mission est d’imposer des coupes drastiques dans les dépenses publiques, mais l’agenda est clairement plus politique que budgétaire. Parmi les agences fédérales visées figurent celles perçues par le camp Trump comme ayant un penchant progressiste, notamment le ministère de l’Éducation, l’Administration nationale des océans et de l’atmosphère, qui fournit des données climatiques, et l’Agence américaine pour le développement international (USAID), la plus grande agence d’aide humanitaire au monde.
En janvier 2025, un gel des dépenses de l’USAID, effectué à la demande de Musk, a provoqué un chaos immédiat. Les programmes fournissant aux populations les plus pauvres et vulnérables du monde des services vitaux comme les soins de santé ont été interrompus. Les réfugiés de la minorité Rohingya persécutée au Myanmar, par exemple, ont été privés de l’aide la plus élémentaire dans des camps au Bangladesh.
La société civile a été ébranlée. De nombreuses OSC et médias indépendants travaillant dans des espaces civiques restreints et des contextes de conflit où les ressources nationales font défaut dépendent du soutien de l’USAID. Tel est le cas de nombreux médias indépendants ukrainiens et russes en exil, désormais en grande difficulté.
Si ces coupes budgétaires deviennent permanentes, la conséquence sera un affaiblissement profond de la société civile, qui sera bien moins capable de défendre les droits fondamentaux et de demander des comptes aux puissants. Le fait que certains des dirigeants les plus autoritaires du monde aient célébré cette décision en dit long. Aucune personne attachée à la démocratie et aux droits humains, y compris à la liberté d’expression, n’aurait pris une telle mesure.
Ce n’est pas seulement avec le gel de l’USAID que Musk a eu un impact au-delà des frontières des États-Unis. Il est intervenu à plusieurs reprises dans la vie politique britannique, attaquant le Premier ministre Keir Starmer et publiant et amplifiant des contenus d’extrême droite. À la suite d’une série d’émeutes déclenchées par une désinformation anti-migrants et anti-musulmans après une horrible attaque au couteau, il a posté que « la guerre civile est inévitable » au Royaume-Uni, partagé des informations erronées provenant du chef d’un groupe haineux d’extrême droite, et promu la fausse affirmation selon laquelle le système de justice pénale britannique traiterait les musulmans avec plus d’indulgence.
Musk s’est également immiscé dans la politique allemande. Avant les élections de février 2025, il a mené une interview non critique de 75 minutes avec la codirigeante de l’AfD, Alice Weidel, et a affirmé que « seule l’AfD peut sauver l’Allemagne ».
Les réseaux sociaux tirent leur pouvoir de leur utilisation massive, et les utilisateurs peuvent choisir les plateformes qu’ils fréquentent. Suite à la réélection de Trump, des centaines de milliers de personnes, ainsi que plusieurs OSC et entreprises, ont quitté Twitter/X. Pourtant, ce phénomène a révélé un défi plus large : nombre de ces utilisateurs ont migré vers Threads, avant de se retrouver face à un autre dilemme lorsque Zuckerberg a mis en place des politiques favorables à Trump.
Affiche installée par le collectif militant Tout le monde déteste Elon Musk sur un abribus à Londres, Royaume-Uni, 12 mars 2025. Photo par Leon Neal/Getty Images.
À mesure que de nouvelles plateformes émergent, les politiciens populistes et nationalistes continuent d’en tirer profit. En 2024, Trump a adopté TikTok pour toucher une population plus jeune, une stratégie également déployée par Subianto en Indonésie et Georgescu en Roumanie. Dans de nombreuses élections, comme en Allemagne et aux États-Unis, les jeunes hommes en particulier soutiennent de manière disproportionnée les populistes de droite – une tendance en partie alimentée par leur exposition constante aux réseaux sociaux.
Une grande partie du débat politique se déroule désormais sur des plateformes dont la finalité principale est d’attirer l’attention des utilisateurs sur la publicité. Les algorithmes privilégient donc les contenus accrocheurs et sensationnalistes qui maintiennent l’engagement. Ils récompensent ainsi les récits simplistes et populistes au détriment de la nuance et du débat raisonné.
Mais à mesure que les utilisateurs deviennent plus sélectifs quant aux plateformes qu’ils fréquentent, l’idée d’une place publique mondiale s’efface, remplacée par un cloisonnement dans des cercles de confirmation des biais. Mais pour certaines entreprises et créateurs, il n’est pas viable de quitter les grandes plateformes pour passer à d’autres moins engageantes. Les voix progressistes, quant à elles, hésitent à céder le terrain aux forces régressives. Ainsi, il est difficile d’échapper complètement aux réseaux sociaux, étant donné qu’ils sont conçus pour être addictifs.
Compte tenu de l’importance des revenus publicitaires, la pression sur les annonceurs s’impose comme une stratégie efficace. Lorsqu’une étude de la société civile a révélé que les discours de haine contre les citoyens américains noirs sur Twitter/X avaient triplé après la prise de contrôle par Musk, la médiatisation de ces résultats a conduit à une baisse d’environ 100 millions de dollars des revenus publicitaires de la plateforme. La chute brutale des ventes de voitures Tesla en Europe témoigne également d’une réaction négative contre Musk.
Des progrès significatifs semblent difficiles en l’absence d’une réglementation adéquate fondée sur des principes. Cependant, les dangers sont importants. Les interdictions des médias sociaux imposées par les États servent souvent à étouffer la critique et échapper au contrôle public. En 2024, de telles restrictions au Bangladesh, au Pakistan et aux Îles Salomon ont précisément servi cette fonction. Aux États-Unis, Trump a suspendu l’interdiction de TikTok mise en place par Biden au motif de la propriété chinoise de l’application. Toutefois, cette décision pourrait être conditionnée à la vente de la branche américaine de TikTok à l’un de ses partisans, ce qui remplacerait les inquiétudes concernant l’influence de l’État chinois par celles d’une partialité pro-Trump.
Le Brésil a toutefois démontré qu’il est possible de tenir les entreprises de réseaux sociaux redevables. Sa Cour suprême a interdit Twitter/X d’opérer après son refus répété de modérer les contenus de plusieurs comptes liés à une tentative d’insurrection d’extrême droite en janvier 2023. Face aux lourdes amendes imposées pour non-respect des lois, Twitter/X a fermé ses bureaux au Brésil. L’entreprise n’ayant pas désigné de représentant légal dans le délai imparti, le tribunal a ordonné la suspension de la plateforme.
Cette décision a été controversée, notamment en raison de l’ordre donné aux services VPN de bloquer l’accès à Twitter/X, qui a suscité des critiques de la société civile. Toutefois, quelles que soient les réserves, le résultat montre qu’en dépit de son attitude provocatrice, Musk peut être contraint de reculer. Il est donc possible de trouver un équilibre entre la liberté d’expression et la redevabilité des plateformes de réseaux sociaux.
La nature globale du défi exige une réponse internationale. Pourtant, peu de progrès ont été réalisés au Sommet de l’avenir 2024 de l’ONU sur le renforcement de la coopération internationale, lors duquel le Pacte numérique mondial a été adopté. Bien que la société civile ait largement participé au processus, ses contributions sur des enjeux clés de droits humains n’ont pas nécessairement été reflétées dans le texte final. Si le pacte condamne la surveillance et prône la protection de la vie privée, il reste silencieux sur les abus en ligne basés sur le genre et évite toute prise de position sur les fermetures d’Internet.
Le Forum sur la gouvernance de l’Internet 2024, censé aborder les opportunités et les risques posés par l’intelligence artificielle et d’autres technologies, s’est tenu en Arabie saoudite, où l’État criminalise fréquemment l’expression en ligne. Photo par ONU/Département des affaires économiques et sociales.
De plus, la réglementation de l’Internet n’est pas toujours synonyme de progrès. En août, les Nations unies ont adopté une convention sur la cybercriminalité. La nécessité de protéger les citoyens contre ce type de criminalité, qui devrait coûter plus de 10 000 milliards de dollars américains cette année, ne fait aucun doute. Mais il est également vrai que de nombreux États qualifient arbitrairement de « cybercriminels » des personnes qui ne font que s’exprimer. En 2024, les autorités de pays comme l’Indonésie, la Jordanie, le Nigéria et la Serbie ont arrêté et détenu des personnes en s’appuyant sur des lois draconiennes, notamment pour avoir soulevé des questions relatives à l’environnement, dénoncé la corruption ou exprimé leur solidarité avec la Palestine. Aujourd’hui, de telles actions pourraient être justifiées au nom d’un traité international.
De nombreux acteurs de la société civile ont remis en question la nécessité de ce traité parrainé par la Russie : les accords existants, en particulier la Convention de Budapest du Conseil de l’Europe, qui n’est que partiellement opérationnelle, suffiraient s’ils étaient mis en œuvre. La société civile a tenté de limiter les dégâts, se mobilisant pour exiger des garanties en matière de droits humains et plaider pour une définition stricte de la cybercriminalité qui exclue toute criminalisation de l’expression en ligne.
Le traité final, bien qu’amélioré par rapport à sa première version, manque toujours de protections claires, spécifiques et applicables en matière de droits humains, laissant ces aspects à la discrétion des législations nationales. Il ouvre également la porte à une coopération internationale étendue en matière de collecte et de partage de données, offrant ainsi un potentiel inquiétant pour l’expansion des pouvoirs de surveillance. La société civile appelle les États à se concerter avant de ratifier le texte et à veiller à ce que leur réponse à la cybercriminalité soit compatible avec le respect des droits humains.
Le dernier Forum des Nations unies sur la gouvernance de l’internet, tenu en décembre, n’a pas offert d’opportunités réelles à la société civile pour débattre à propos de ce traité. Plus choquant encore, l’Arabie saoudite, un régime autoritaire, a été choisie comme hôte de l’événement. Lorsque la société civile a tenté de souligner que le gouvernement hôte est l’un des plus grands répresseurs de l’expression en ligne, le personnel de l’ONU est apparemment intervenu pour supprimer tout contenu critique. L’ONU doit au moins garantir des espaces internationaux sûrs pour discuter des droits humains et des enjeux technologiques.
En ce qui concerne l’IA, l’évolution réglementaire la plus marquante de 2024 a été l’entrée en vigueur de la loi de l’UE sur l’IA. Là encore, la société civile a joué un rôle actif dans le processus, obtenant certaines améliorations, notamment des limites à l’identification biométrique et l’inclusion d’évaluations d’impact sur les droits fondamentaux. Cependant, cette législation suscite de vives inquiétudes quant à l’insuffisance des garanties en matière de droits humains. Les systèmes d’IA utilisés pour des raisons de sécurité nationale échappent à ces protections, certaines formes de surveillance demeurent possibles, et les droits des migrants sont bien moins garantis que ceux des citoyens de l’UE. Les États les plus répressifs de l’UE, comme la Hongrie et la Slovaquie, pourront encore utiliser l’IA contre la société civile et l’employer dans le cadre d’une course vers le bas pour réduire davantage les droits des migrants.
Il est désormais évident que l’autorégulation des géants de la tech – qu’il s’agisse de Musk, Zuckerberg ou d’autres figures plus discrètes – est une illusion. Mais confier entièrement la réglementation aux États ne constitue pas non plus une garantie. En ces temps difficiles, il est essentiel d’affirmer la primauté des droits humains et d’exiger que les normes internationales soient alignées sur ces principes. Les voix de la société civile doivent de toute urgence occuper le devant de la scène dans ce débat crucial.