De faux artisans porteurs de trisomie 21, des messages de harcèlement inventés et des appels à la solidarité : sur les réseaux sociaux, une nouvelle forme de marketing trompeur se développe grâce à l’intelligence artificielle. Des vidéos générées artificiellement, diffusées massivement sur TikTok, Instagram ou YouTube, utilisent l’image de personnes atteintes du syndrome de Down pour susciter l’émotion et inciter les internautes à acheter des produits.
Dans ces séquences, les personnages présentés comme des créateurs de poteries, de sacs ou d’objets artisanaux racontent être victimes de moqueries ou de discrimination. Les publications affichent parfois de prétendus messages insultants afin de renforcer l’effet émotionnel et d’encourager les achats. Derrière ces récits se cachent pourtant souvent des contenus entièrement fabriqués par l’intelligence artificielle.
Pour les associations spécialisées, cette pratique soulève de sérieuses questions éthiques. Selon Nathan Rowe, responsable de programme au sein de l’Down Syndrome International, ces contenus exploitent la compassion du public en véhiculant une image réductrice des personnes porteuses de trisomie. En les présentant systématiquement comme des victimes nécessitant la pitié ou l’assistance des autres, ces vidéos contribuent à entretenir des stéréotypes déjà profondément ancrés dans la société.
L’impact est également économique. Certaines créations présentées dans ces vidéos sont inspirées, voire directement copiées, à partir de véritables publications réalisées par des artisans atteints de trisomie. Une situation qui risque d’invisibiliser leur travail et de détourner une partie de leur clientèle potentielle. Pour les défenseurs des personnes concernées, ces détournements nuisent à la reconnaissance de leurs compétences et de leur autonomie.
Cette stratégie s’inscrit dans une tendance plus large observée ces derniers mois sur les réseaux sociaux. L’intelligence artificielle est de plus en plus utilisée pour fabriquer de faux témoignages mettant en scène des personnes considérées comme vulnérables, qu’il s’agisse de personnes âgées, en situation de handicap ou confrontées à des difficultés sociales. L’objectif est généralement le même : provoquer une réaction émotionnelle afin de générer des ventes ou des revenus publicitaires.
Les plateformes concernées disposent pourtant de règles censées interdire les contenus trompeurs ou manipulatoires. TikTok et YouTube prévoient notamment des dispositifs contre les pratiques frauduleuses. Malgré cela, la suppression de ces vidéos reste complexe. De nombreux comptes réapparaissent rapidement après avoir été signalés ou supprimés.
Pour Jeremy Carrasco, cofondateur du cabinet spécialisé en intelligence artificielle Riddance, le phénomène repose sur un modèle économique bien établi. Les outils de génération vidéo sont désormais accessibles à faible coût et permettent de produire en quelques minutes des contenus capables de toucher des millions d’utilisateurs. Face à cette production massive, les systèmes de modération peinent à suivre le rythme.
Les associations réclament donc un renforcement des contrôles. L’Down Syndrome International avait déjà alerté les plateformes au sujet de contenus générés par IA mettant en scène des personnes trisomiques dans des situations dégradantes ou à caractère sexuel. Plusieurs publications avaient alors été retirées, mais les défenseurs des droits des personnes handicapées jugent les mesures actuelles insuffisantes.
L’essor de ces vidéos illustre les nouveaux défis posés par l’intelligence artificielle générative. Si la technologie offre de nombreuses opportunités créatives, elle facilite également la fabrication de contenus trompeurs capables d’exploiter les émotions humaines à grande échelle. Une dérive qui interroge autant la responsabilité des créateurs que celle des plateformes chargées de diffuser ces contenus auprès de millions d’utilisateurs.