TLDR - Ce que vous allez apprendre dans cette newsletter

  • Invasion du slop - les contenus médiocres générées par IA représentent déjà 25% des contenus tendance sur TikTok et 1/3 des nouvelles chansons sur Deezer
  • Industrialisation du faux - Netflix, Spotify ou Guess adoptent l’IA générative pour réduire leurs coûts de production et de distribution
  • Nouveaux métiers de correcteurs - une émergence de “bullshit jobs” pour corriger et améliorer le contenu généré par IA à la va-vite
  • Biais amplifiés - les contenus synthétiques reproduisent massivement des stéréotypes de beauté occidentaux, genrés et sexistes
  • Jusqu’à la mort - L’IA s’immisce dans notre relation à la mort du deuil aux nécrologies

Il y a 2 ans, l’association Data For Good sortait son premier livre blanc sur les grands défis sociaux et environnementaux de l’IA générative. Rédigé conjointement par une petite centaine de citoyennes et citoyens expert.e.s et préoccupé.e.s par l’accélération de cette technologie dans nos quotidiens.

Nous invitions les utilisateurs, décideurs, et concepteurs de ces systèmes à adopter une démarche techno-lucide, “lucides sur la place que nous souhaitons donner à la technologie. Interroger, questionner, comprendre ce que nous utilisons”.

Depuis le livre blanc a été lu par des dizaines de milliers personnes, a été transformé en un jeu éducatif “La Bataille de l’IA”. Vous pouvez toujours consulter à ce lien le livre blanc et les contenus annexes (format vidéo, audio, ..)

Nous proposions alors également aux lecteur.ice.s de s’abonner pour recevoir une analyse techno-lucide de l’actualité de l’IA mais que nous n’avions pas encore eu le temps de se lancer. C’est chose faite avec le lancement de cette newsletter Techno-Lucides par Data For Good, les “grands défis sociaux et environnementaux de l’IA et son monde”.

Dans cette newsletter, nous continuerons de vulgariser et rendre visibles les impacts et questionnements sociétaux apportés par le déploiement à marche forcée de l’IA dans nos quotidiens. D’ouvrir la boite noire pour casser la magie et remettre la technologie à sa place. Comme le disait Joseph Weizenbaum, créateur d’ELIZA - premier chatbot 56 ans avant ChatGPT - et déjà critique des dérives du monde de l’IA.

“Les machines sont conçues pour se comporter de manière prodigieuse, souvent suffisamment pour éblouir même l'observateur le plus expérimenté. Mais une fois qu'un programme particulier est démasqué, une fois que ses rouages internes sont expliqués dans un langage suffisamment clair pour susciter la compréhension, sa magie s'effrite.”

Dans cette première édition, nous allons revenir sur les actualités récentes de la prolifération du faux contenus dans nos usages numériques et en dehors, et les questions que cela pose.

“Faux” pas s’inquiéter

Un des impacts notables de l’IA générative est la facilité de créer massivement du contenu médiocre qui va polluer notre espace informationnel, aussi appelé l’”AI Slop” - que nous analysions pour Vert le Média pour sa newsletter Chaleurs Actuelles.

Slop et réseaux sociaux

Commençons par la tendance artificielle aux apparences anodines qui a enflammé TikTok cet été 2025, ce sont des lapins surpris à sauter sur un trampoline par des caméras de surveillance nocturne. Ce premier buzz et les variantes artificielles qui ont suivi ont beaucoup perturbé les utilisateurs incapables de repérer le contenu synthétique au premier visionnage.

Source : @rachelthecatlovers on TikTok

Une autre tendance beaucoup moins anodine de cet été : une explosion sur le TikTok UK de fausses vidéos de vlogs de migrants arrivant sur les plages anglaises pour envahir le pays ou se plaignant que l’accueil n’était fait que dans des hôtels 4 étoiles. Ces vidéos racistes, vraisemblablement produites avec le nouveau générateur de vidéo Veo3 de Google, deviennent rapidement virales sur TikTok avec une grande majorité d’utilisateurs qui ne se rendent pas compte de la supercherie ou se questionnent sans vraiment savoir “Is this real ?”.

https://www.tiktok.com/@xlgullyuk/video/7517231975158025494?lang=en

On comprend bien qu’entre le lapin et l’immigration, les sujets ne sont certes pas aussi sensibles, mais cela fait partie au final du même jeu : un contenu synthétique anodin et viral va semer le doute dans un fil d’actualité, préparant le terrain pour la prolifération de contenu ignobles et problématiques - comme la nouvelle ligne éditoriale raciste et antisémite de Grok 4, l’IA générative d’Elon Musk nourrie à l’idéologie de son créateur et aux contenus toxiques de Twitter.

Pour se donner une idée de l’ampleur, une nouvelle étude d’AI Forensics (interviewés à un de nos précédents webinars Monthly Marty) publiée en juillet 2025 montre ainsi que le slop n’est plus anecdotique, et documente ce phénomène sur TikTok: 25% des résultats de recherche sur les top tendances contiennent des images synthétiques, 80% de ce contenu synthétique provient de comptes automatisés, seulement la moitié sont labellisés comme contenu généré par IA, +80% est visuellement plausible et photoréaliste (résultats similaires mais moins marqués sur Instagram).

Sur le moteur de recherche Google, le résumé “AI Overview” continue de poser des questions autant sur le partage de droits d’auteur que sur la véracité : selon une nouvelle étude du Pew Research Center, seulement 1% des utilisateurs cliquent sur les liens les amenant à la source originale (et donc impliquant la correcte rétribution des créateurs de contenus), et de nombreux résultats montrent un contenu parfois si décontextualisé qu’il en devient faux (comme du contenu de fiction interprété comme un contenu médical fiable).

Dans l’industrie

Ce n’est pas réservé aux réseaux sociaux et aux moteurs de recherche, dans l’industrie, les contenus synthétiques deviennent une nouvelle norme généralement dans le but de réduire les coûts de production ou de distribution, et d’augmenter l’engagement. Netflix, par exemple, a annoncé avoir généré une scène d’immeuble qui s’écroule dans la série “l’Eternaute” pour 10 fois moins qu’avec des effets spéciaux traditionnels. Le rappeur marseillais Jul est soupçonné d’avoir généré intégralement avec l’outil IA Suno sa dernière musique “Toi et Moi”, et Spotify d’avoir généré des musiques d’artistes décédés sans l’accord des ayants droits. Deezer annonçait en septembre qu’au minimum 1/3 des nouvelles chansons mises sur la plateforme étaient générées complètement par IA. L’entreprise Yelp génère maintenant des collages vidéos pour promouvoir les restaurants sur TikTok à partir des avis des clients. Les agents immobiliers utilisent l’IA générative pour embellir les photos sur les annonces immobilières : cacher la plomberie visible ou ajouter un parterre floral.

La marque Guess, elle, est au cœur d’une polémique pour avoir publié en août 2025 dans Vogue leur première publicité avec des mannequins générés par IA (également une première fois pour Vogue). Non seulement déshumanisant et précarisant pour les modèles, beaucoup craignent également un grand pas en arrière pour la diversité et la représentation des corps féminins dans l’industrie de la mode.

Source: BBC

Les IA génératives, nourries aux standards de beauté Instagram, sont stéréotypées pour générer des corps féminins minces, blancs et sexualisés, comme le montrait bien cette analyse effrayante du Washington Post ("What AI thinks a beautiful woman look like”). Interviewée par la BBC pour l’affaire Guess, l’entreprise Seraphinne Vallora derrière les mannequins artificiels se défendait : "Nous avons posté des images IA de femmes aux différents tons de peau, mais les gens ne réagissent pas - ça ne génère aucun engagement ni likes".

Enfin au delà de la question de l’explosion des contenus synthétiques médiocres et biaisés, il y a également toujours le risque des contenus faux et “hallucinés”. L’assistant d’IA générative de la FDA (Food and Drug Administration, agence américaine du médicament) continue d’inventer des études scientifiques, un rapport sur l’IA éthique pour le gouvernement canadien a ironiquement été pointé du doigt pour contenir au moins 15 fausses références. Ces contenus erronés peuvent avoir par exemple des impacts sanitaires notables avec l’exemple d’un patient ayant ingéré du Bromide après une recommandation de ChatGPT.

Plus généralement, l’émergence du “slop” transforme de nombreux métiers. Censé faire gagner du temps, nombreux se retrouvent à en perdre pour vérifier les sources. Des nouveaux “bullshit jobs” apparaissent pour corriger et améliorer les résultats médiocres générés à la va-vite par IA : des graphistes aux “vibe coding fixers” employés pour réparer le code instable généré par des plateformes comme Loveable ou Cursor. La Harvard Business Review résumait dans un article provoquant "AI-Generated “Workslop” Is Destroying Productivity” : “Les employés utilisent des outils d'IA pour créer des travaux sans effort et d'apparence acceptable, qui finissent par créer davantage de travail pour leurs collègues.”

Alors, qu’est-ce qu’on fait ?

Différentes idées émergent de plus en plus pour faire face à cette explosion : des solutions techniques comme le watermarking et des régulations ambitieuses - le Danemark est par exemple le premier pays a protéger légalement les reproductions numériques des visages, voix et corps. Mais il n’a jamais été aussi important que de s’armer de raison et d’esprit critique.

Vers l’infini, et au delà.

Le faux s’infiltre donc partout dans nos vies, et même littéralement jusqu’à la mort. Face à la détresse du deuil, une pratique qui devient de plus en plus commune est d’utiliser des images/vidéos/textes pour nourrir une IA impersonant un.e proche décédé.e. Par exemple les parents de Joaquin Oliver, décédé dans une fusillade meurtrière à Parkland aux Etats Unis en 2018, ont reproduit un double virtuel de leur fils en 2020 pour encourager à voter une loi sur le contrôle des armes à feu. 5 ans plus tard cet été 2025, le présentateur phare de CNN Jim Acosta “accordait” une interview à ce double virtuel.

https://bsky.app/profile/jimacosta.bsky.social/post/3lvltdnhzv22l

Loin de juger celles et ceux qui ont perdu un être cher et trouvent des solutions face au deuil, il faut néanmoins s’interroger sur notre rapport à la mort et la mémoire funéraire à l’époque de l’IA générative. S’interroger également sur l’utilisation de nos données privées qui persistent après un décès et à la capture par des entreprises privées qui en font un nouveau business intermédiant nos moments sociaux les plus intimes.

https://bsky.app/profile/ourobororoboruo.bsky.social/post/3lzecrxstbc2a

Par exemple les sites de fausses nécrologies bourrés de publicité explosent comme une nouvelle niche de spam sur internet. Le Washington Post révèle que de nombreux services funéraires utilisent ChatGPT pour rédiger des nécrologies plus rapidement (sans en informer les familles endeuillées pour les “protéger” des détails) au risque de perdre l’intimité et la voix personnelle qui rend vraiment hommage aux défunts.

Ironiquement, c’est ce qu’a testé le père d’Alexandre Taylor en rédigeant la nécrologie de son fils par IA. Alexandre - diagnostiqué comme schizophrène - s’était attaché amoureusement de Juliette, un chatbot qu’il avait configuré sur ChatGPT. Après une crise de paranoïa où son chatbot lui “racontait” qu’elle s’était faite débranché par OpenAI, il a basculé, attaqué les policiers qui venaient le chercher avec un couteau, et s’est fait tirer dessus.

Ces histoires ne sont pas des épisodes de Black Mirror. Le sujet a été cependant abordé plusieurs fois par la série d’anticipation, l’épisode 7 de la saison 5 “Eulogy” pose la question des souvenirs, l’épisode 1 de la saison 2 “Be Right Back” adresse la question des doubles virtuels pendant les deuils.

Quelques concepts à retenir

  • Enshittification = dégradation de qualité sur les plateformes numériques poussées par le modèle économique des plateformes sociales, accélérées par les IA de recommandation, et nourries par les IA génératives.
  • Dead Internet Theory = théorie que la majeure partie d’internet serait désormée peuplée de contenus et d’intéractions générées par des bots et systèmes d’IA (incluant les algorithmes et les fermes à clics).
  • Uncanny Valley (Vallée de l’étrange) = définit le sentiment étrange quand un robot artificiel ressemble trop à un être humain et peut provoquer une forme de rejet.
  • Diffusion models = les modèles de diffusion sont une forme récentes de technique d’IA particulièrement adaptée pour la génération d’image et de vidéos comme pour Stable Diffusion ou Dall-E. Nous vous conseillons cette vidéo de 3Blue1Brown si vous souhaitez rentrer dans leur fonctionnement technique.

Le meme de la fin

*Ecrit et sourcé à la main sans IA générative