L’intelligence artificielle (IA) est sur toutes les lèvres. Promesse d’innovation, d’efficacité accrue et de nouvelles opportunités, elle fascine autant qu’elle interroge. Chez Scopen, en tant que SCOP engagée dans un numérique éthique et open-source, nous pensons qu’il est essentiel de ne pas se laisser aveugler par l’enthousiasme technologique. Une analyse critique des impacts de l’IA est indispensable pour en maîtriser les développements et les usages. Nous vous proposons d’éclairer les faces cachées, de comprendre les enjeux de l’Intelligence Artificielle, ces problématiques qui souvent passées sous silence, mais qui ont des conséquences bien réelles.
Notre objectif est de vous fournir les clés pour comprendre ces enjeux complexes liés à l’Intelligence Artificielle et vous encourager, en tant qu’acteurs du monde de l’entreprise, à vous en saisir.
Les « petites mains » de l’IA, des problèmes humains souvent invisibles
Derrière la magie apparente de l’IA se cachent des réalités humaines parfois sombres, indispensables à son fonctionnement actuel.
Les Travailleurs du Clic
Chaque fois que ChatGPT vous répond poliment, qu’un algorithme de recommandation vous propose un contenu pertinent ou qu’une voiture autonome évite un obstacle, c’est grâce au travail invisible de millions de « travailleurs du clic ». Ces derniers sont généralement basés aux Philippines, en Inde ou au Kenya. Ils passent leurs journées à effectuer des micro-tâches répétitives : étiqueter des objets sur des milliers d’images, transcrire des heures d’audio, ou pire encore, modérer des contenus violents et traumatisants pour « nettoyer » les données d’entraînement. En effet, pour qu’un contenu soit automatiquement détecté comme problématique, il est nécessaire d’en étiqueter à la main un certain nombre, pour que la machine « apprenne » à les reconnaître.
Car voilà le paradoxe de notre ère numérique : pour qu’une machine apprenne à être « humaine », il faut d’abord déshumaniser le travail humain. Derrière chaque prouesse technologique se cachent des conditions de travail dignes du XIXe siècle industriel. On note cependant une différence de taille : l’exploitation s’effectue désormais à distance, rendue invisible par l’écran et banalisée par le terme édulcoré de « crowdsourcing ».
Pour aller plus loin, « Invisibles, les travailleurs du clic », diffusé en 2022 par France Télévisions, lève le voile sur le travail invisible des milliers de personnes qui font fonctionner les plateformes que nous utilisons au quotidien. Le documentaire explore comment ces plateformes, perçues comme « magiques » par leur rapidité et leur efficacité, reposent en réalité sur une main d’œuvre humaine souvent exploitée et rendue invisible par les algorithmes et l’automatisation.
La réalité physique de l’IA
l’IA repose sur une infrastructure vorace : des unités de calcul spécialisées qui demandent une précision et une puissance jusque là inégalés. Pour les fabriquer, un certain nombre de minerais, les fameuses « terres rares » sont indispensables.
Cette dépendance dessine une nouvelle carte de la domination mondiale. En République Démocratique du Congo, des enfants descendent dans des mines artisanales pour extraire du cobalt. Dans les déserts d’Atacama, l’extraction du lithium assèche les nappes phréatiques dont dépendent les communautés locales depuis des millénaires. En Chine, le raffinage des terres rares transforme des régions entières en paysages lunaires, irradiés pour des décennies.
Le paradoxe est saisissant, la révolution numérique nous promet toujours plus de dématérialisation, alors qu’elle intensifie comme jamais l’exploitation des corps et des territoires. Chaque « progrès » de l’IA amplifie cette ponction planétaire. Le tout créant une dépendance géopolitique nouvelle où quelques pays sacrifient leur environnement et leur population pour alimenter l’innovation technologique mondiale.
L’IA n’est pas immatérielle, elle est une réalité tangible pour des millions de personnes à travers le monde.
Le Pérou incarne parfaitement ce paradoxe moderne : deuxième producteur mondial d’argent et de cuivre, ses richesses minières alimentent nos smartphones, nos ordinateurs et nos infrastructures numériques. L’industrie extractive représente 15% du PIB national, un véritable miracle économique au sens financier du terme.
Mais ce miracle repose sur une géographie de l’exploitation soigneusement dissimulée. Pendant que les capitales célèbrent la croissance, les populations d’Ayaviri voient leurs rivières empoisonnées par les déchets miniers. L’eau potable devient un luxe vendu 25 fois son prix par des camions-citernes. Et ce pendant que les métaux extraits de leur territoire alimentent nos révolutions technologiques.
Cette configuration n’est pas un accident : elle est le produit d’accords gouvernementaux qui légitiment l’implantation d’entreprises étrangères sur des territoires autochtones, transformant des communautés entières en variables d’ajustement du progrès mondial.
L’empreinte de l’IA
L’IA est une technologie énergivore et gourmande en ressources, avec un impact environnemental significatif.
Le problème de la consommation de l’eau
Derrière chaque datacenter se cache une réalité hydraulique brutale : les serveurs génèrent une chaleur infernale qui nécessite un refroidissement constant. Et plutôt que d’investir dans des solutions coûteuses, mais durables (refroidissement à l’air, circuits fermés, datacenters sous-marins…), les géants de la tech ont fait un choix cynique. Pomper massivement dans les nappes phréatiques, loin des regards, souvent dans des territoires déjà assoiffés.
Les chiffres donnent le vertige. Aux États-Unis, 66% des nouveaux datacenters s’implantent délibérément en zones de stress hydrique. L’IA engloutit déjà 560 milliards de litres par an – un chiffre qui doublera d’ici à 2030. Pour contextualiser : l’entraînement de GPT-3 a nécessité 700 000 litres d’eau, soit la consommation annuelle d’un français pendant 13 ans.
L’absurdité atteint son comble quand on réalise que Google ou Microsoft peuvent consommer des millions de litres par jour dans des régions où les habitants attendent des semaines des camions-citernes au prix fort. Cette eau, une fois évaporée pour refroidir les serveurs, ne reviendra jamais alimenter les nappes fossiles qu’elle a quittée.
Le paradoxe est total : nous utilisons l’IA pour « optimiser » nos ressources, pendant qu’elle contribue à épuiser la plus précieuse d’entre elles. Chaque requête à ChatGPT participe, goutte après goutte, à cette ponction planétaire invisible. Pour aller plus loin, nous vous recommandons l’excellente vidéo de Léo Duff sur le sujet.
Véritable solution à nos défis climatiques, ou acteur du réchauffement ?
Car derrière la promesse d’optimisation énergétique se cache une réalité implacable. Chaque requête faite à une IA générative demande d’importants calculs, et consomme donc de grandes quantités d’énergie. L’entraînement d’un seul modèle comme GPT-3 a entraîné le relâchement dans l’atmosphère de 552 tonnes de CO2. C’est l’équivalent de 1 100 vols Paris-New York ou des émissions annuelles de 120 Français.
Et ce n’est que le début. Chaque nouveau modèle « révolutionnaire » multiplie par 10 les besoins en calcul de son prédécesseur. Pendant ce temps, les datacenters qui hébergent ces géants numériques s’implantent massivement là où l’électricité coûte le moins cher. C’est souvent là où elle est aussi la plus sale. En Chine, aux États-Unis, dans des pays où le charbon et le pétrole alimente encore massivement le réseau électrique.
L’ironie est parfaite : nous développons des IA pour « décarboner » l’économie pendant qu’elles consomment l’équivalent énergétique de pays entiers. L’Agence internationale de l’énergie nous indique qu’en 2030, les centres de données consommeront près de 3% de l’électricité mondiale. L’équivalent du Japon aujourd’hui.
L’Intelligence Artificielle et les problèmes éthiques
Le « chalutage du web »
En quelques années, les géants de la tech ont « aspiré » l’intégralité du patrimoine créatif accessible en ligne. On parle de millions d’œuvres d’art, codes sources, compositions musicales, textes littéraires, photographies, etc. Le tout sans demander l’autorisation, sans verser un centime aux créateurs. Un hold-up numérique d’une ampleur inédite, maquillé en « innovation ».
Les victimes découvrent la mise à sac après coup. Des artistes reconnaissent leur style dans les productions de Midjourney, des photographes voient leurs signatures fantômes apparaître dans les créations de Stable Diffusion. Plus insidieux encore : GitHub Copilot régurgite du code open-source en violant allègrement les licences qui l’encadrent, transformant des années de travail collaboratif en propriété privée.
OpenAI a récemment annoncé une fonctionnalité permettant de générer des visuels inspirés de l’univers graphique du Studio Ghibli. Le tout en l’absence de tout accord de licence avec le studio nippon. Si les internautes se sont amusés de cette fonctionnalité, elle vient questionner la provenance des données d’entraînement du modèle.
Face aux procès qui s’accumulent (Getty Images, artistes contre Stability AI), les entreprises brandissent l’étendard du « fair use ». Cette exception permet théoriquement d’utiliser des œuvres protégées à des fins de recherche. Sauf qu’ici, il ne s’agit plus de recherche, mais de commerce. Ces IA génèrent des milliards de revenus en exploitant gratuitement le travail d’autrui.
La perversion du système est totale : plus une œuvre est populaire et talentueuse, plus elle sera « aspirée » et répliquée par l’IA. Les créateurs se retrouvent ainsi dépossédés de leur travail pour alimenter les outils qui vont les remplacer. L’IA transforme la création en une gigantesque lessiveuse où les œuvres entrent protégées et ressortent anonymisées. Le tout au profit d’algorithmes qui ne créent rien, mais s’approprient tout.
L’IA dans le monde du travail
La difficile relation entre l’IA et l’art
Comme à l’époque de Photoshop, l’émergence d’une nouvelle technologie créative bouleverse les pratiques établies. Et comme alors, le débat ne devrait pas opposer « pour » ou « contre », mais interroger la pertinence de chaque usage. Nombreux sont les artistes qui intègrent l’IA de manière réfléchie, l’utilisant comme un outil au service d’une vision créative cohérente.
Mais quand la technologie devient une fin en soi, les dérives apparaissent. L’exemple récent d’une vidéo générée par IA publiée par le gouvernement illustre parfaitement le problème. Pour célébrer la Libération, on y voit un soldat allemand tout sourire, erreur grotesque que n’aurait jamais commise un réalisateur ou un historien consultant. Au-delà de l’approximation historique, cette vidéo pose une question fondamentale : quelle valeur ajoutée apporte ici l’IA, si ce n’est de surfer sur l’effet de mode des reconstitutions « réalistes » ? (Qui en général ne le sont pas d’ailleurs).
Car c’est bien là le piège : utiliser l’IA « parce qu’elle existe » plutôt que parce qu’elle répond à un besoin créatif spécifique. Dans ce cas précis, employer un artiste traditionnel ou tourner de véritables images d’archives aurait non seulement évité l’erreur historique, mais aussi respecté la mémoire des événements commémorés. L’IA devient problématique quand elle remplace la réflexion par l’automatisation, transformant la création en production de contenu.
Données personnelles et secrets d’affaires en danger
Nous confions à l’IA nos secrets les plus sensibles pour gagner en productivité, mais nous perdons en retour tout contrôle sur ces informations. Chaque prompt envoyé à un modèle grand public (en particulier ceux proposés gratuitement), chaque document « résumé » par une IA, chaque conversation « optimisée » par un assistant virtuel vient alimenter les entreprises faisant commerce de ces données.
On observe des salariés qui copient-collent des contrats confidentiels dans des chatbots publics, des équipes RH analysent des CV via des IA externes, des développeurs partagent du code propriétaire avec des assistants de programmation. L’entreprise moderne navigue dans un paradoxe impossible : rester compétitive impose d’adopter l’IA, mais l’adopter expose à des risques de sécurité et de confidentialité inédits. Chaque gain d’efficacité se paie en vulnérabilité potentielle.
Se saisir de la question : un impératif stratégique pour les entreprises
Face aux enjeux soulevés par l’intelligence artificielle, les entreprises ne peuvent plus se contenter d’une posture d’attente. La question n’est plus de savoir si l’IA transformera nos organisations. Elle est de savoir comment nous pouvons prendre le contrôle de cette transformation.
Transformer les contraintes en opportunités
Cette prise de conscience peut devenir un véritable avantage concurrentiel. En questionnant les solutions « clés en main » et en développant une approche réfléchie, les entreprises peuvent :
- Renforcer la confiance de leurs clients et partenaires
- Attirer des talents sensibles à ces questions
- Construire des solutions plus durables et adaptées à leurs besoins réels
La responsabilité des entreprises consiste donc à ne pas déléguer aveuglément ces choix technologiques, mais à se réapproprier ces enjeux pour construire un futur numérique qui leur ressemble.
Anticiper plutôt que subir
Les entreprises qui intègrent dès aujourd’hui une réflexion critique sur l’IA dans leur stratégie se donnent les moyens de :
- Identifier les risques spécifiques à leur secteur et leurs activités
- Développer des garde-fous adaptés à leur contexte
- Former leurs équipes aux enjeux éthiques et techniques
- Construire une approche différenciante qui respecte leurs valeurs
À venir : l’IA open-source et la vision de Scopen sur le sujet…