Boomer Traps : l’IA génère des images trompeuses ciblant les seniors

Sur Facebook, un phénomène inquiétant prend de l’ampleur : la prolifération d’images générées par intelligence artificielle visant à tromper les internautes, en particulier les seniors. Ces publications trompeuses, appelées « pièges à babyboomers » ou « Boomer Traps », exploitent la crédulité et l’émotion des utilisateurs plus âgés. Nous avons mené l’enquête pour comprendre les mécanismes de cette nouvelle forme de manipulation en ligne et ses conséquences sur les utilisateurs du réseau social.

L’essor des images artificielles sur Facebook

Depuis l’été 2023, nous assistons à une multiplication de publications douteuses sur Facebook. Ces posts mettent en scène des personnages fictifs, souvent des personnes âgées ou des enfants, dans des situations attendrissantes. Par exemple, une grand-mère centenaire présentant fièrement son dernier ouvrage au crochet, ou un jeune garçon posant avec sa mamie devant une table garnie de pâtisseries.

Ces images, bien que parfois maladroites, parviennent à susciter l’engagement des internautes. Beaucoup d’utilisateurs ignorent – ou feignent d’ignorer – que ces personnes n’existent pas et que les photos ont été générées par une IA. Pourtant, certains détails trahissent leur nature artificielle :

• Des mains tricoteuses à six doigts
• Des visages aux proportions irréalistes
• Des seniors ressemblant à des personnages de dessin animé

Étant passionnée d’intelligence artificielle, je suis fascinée par les progrès réalisés dans ce domaine. En revanche, je ne peux m’empêcher de m’inquiéter de l’utilisation détournée de cette technologie à des fins trompeuses.

Voir cette publication sur Instagram

Une publication partagée par Boomers en roue libre (@avec_mon_comm_de_boomer)

Les mécanismes des « pièges à seniors »

Ces publications s’appuient sur des ressorts psychologiques bien identifiés pour attirer l’attention des internautes plus âgés. Nolwenn, fondatrice du compte Instagram humoristique @avecmoncommdeboomer, explique que ces posts « jouent sur la crédulité et l’émotion, cherchent à toucher la corde sensible » des utilisateurs.

Les créateurs de ces contenus misent sur plusieurs stratégies :

1. La nostalgie et le sentiment que « c’était mieux avant »
2. L’utilisation de fausses photos anciennes
3. Des montages comparant de faux couples à leur mariage puis 50 ans après
4. Des images fictives de fêtes d’anniversaire ou de travaux manuels

Ces tactiques émotionnelles visent à générer un maximum d’engagement sous forme de likes, commentaires et partages. Les seniors, moins habitués à détecter les contenus générés par IA, sont particulièrement vulnérables à ces manipulations.

Voir cette publication sur Instagram

Une publication partagée par Boomers en roue libre (@avec_mon_comm_de_boomer)

L’ampleur du phénomène et ses conséquences

L’impact de ces publications trompeuses est loin d’être négligeable. Certaines pages Facebook spécialisées dans ce type de contenu parviennent à attirer des dizaines, voire des centaines de milliers d’abonnés. Les groupes de discussion associés peuvent même rassembler plus d’un million d’inscrits.

Voici un aperçu des chiffres alarmants liés à ce phénomène :

Ces chiffres impressionnants soulèvent des questions sur la responsabilité des plateformes comme Facebook dans la diffusion de ces contenus trompeurs. Nous nous interrogeons sur les mesures mises en place pour protéger les utilisateurs les plus vulnérables face à cette nouvelle forme de désinformation.

Vers une prise de conscience collective

Face à cette problématique émergente, il est fondamental de sensibiliser les internautes, en particulier les seniors, aux risques liés aux contenus générés par IA. Plusieurs pistes peuvent être envisagées :

• Renforcer l’éducation aux médias numériques pour tous les âges
• Encourager la vérification systématique des sources
• Développer des outils de détection automatique des images générées par IA
• Responsabiliser les plateformes dans la modération de ces contenus

Étant rédactrice spécialisée dans l’IA, je suis convaincue que cette technologie peut apporter de nombreux bienfaits à notre société. Pourtant, il est de notre devoir de rester vigilants face à ses potentiels détournements. La lutte contre la désinformation en ligne est un enjeu majeur pour préserver la confiance des utilisateurs et garantir un environnement numérique sain pour tous.

Nous devons collectivement œuvrer pour que l’intelligence artificielle reste un outil d’innovation et de progrès, plutôt qu’un instrument de manipulation. C’est en restant informés et critiques que nous pourrons tirer le meilleur parti de ces avancées technologiques tout en nous protégeant de leurs dérives potentielles.

Simone

Simone, rédactrice principale du blog, est une passionnée de l’intelligence artificielle. Originaire de la Silicon Valley, elle est dévouée à partager sa passion pour l’IA à travers ses articles. Sa conviction en l’innovation et son optimisme sur l’impact positif de l’IA l’animent dans sa mission de sensibilisation.