Sur les réseaux sociaux, toutes sortes de photos, de vidéos et même d’enregistrements audios sont publiés. Et de plus en plus, on y trouve du contenu généré ou modifié par l’intelligence artificielle. Comme c’est parfois très réaliste, ce type de publication peut devenir viral… et avoir de gros impacts. Mais alors, que faire? 

Le rôle de l’IA dans la désinformation

Du contenu trompeur peut être produit pour différentes raisons: faire rire, choquer, manipuler ou même nuire volontairement à une personne ou à un groupe. 

L’objectif est souvent de produire du contenu viral, qui suscite de fortes émotions afin de gagner de l’argent ou d’influencer l’opinion des gens. 

L’IA rend ce processus beaucoup plus simple, rapide et accessible. Résultat: les fausses informations sont plus faciles à produire, plus réalistes, et se propagent plus rapidement.

Tu te rappelles peut-être, par exemple, de cette image des mythiques lettres HOLLYWOOD en feu, à Los Angeles. Elle avait beaucoup circulé alors que des feux faisaient rage dans la ville américaine. Beaucoup de gens y ont cru, alors qu’elle a été générée par l’intelligence artificielle:

Plus récemment, ce sont de fausses images de la gigatempête de neige en Russie qui ont été énormément partagées! En voici un exemple:

À la vitesse de l’IA ⚡

Avant, truquer une photo ou une vidéo demandait du temps et des compétences techniques. Aujourd’hui, quelques clics suffisent pour fabriquer ou modifier une voix, une image ou une vidéo. Cette facilité augmente le risque que des millions de personnes soient trompées.

Des conséquences graves

En politique, le faux contenu peut nuire à un parti ou à un politicien. Par exemple, lors des élections aux États-Unis en 2024, des citoyens ont reçu des faux appels imitant la voix du candidat Joe Biden pour les inciter à ne pas aller voter.

L’IA est aussi utilisée pour créer du contenu dégradant. L’apparition de fausses images sexuelles est un vrai problème. On t’expliquait dans cet article qu’une image truquée de Taylor Swift avait été vue plus de 45 millions de fois sur le réseau social X. 

L’IA contre l’IA: choisir le bon côté de la force!

Bonne nouvelle: l’IA peut aussi être utilisée pour lutter contre la désinformation. Par exemple, une équipe de chercheurs de l’Université Concordia a développé un outil de détection des fausses nouvelles.

Le souci, c’est que ce type d’outil n’est pas toujours 100% fiable. Par exemple, les détecteurs d’images créés par l’IA repèrent certains indices (dents ou doigts en trop, écriture mélangée, physique peu réaliste…), mais les générateurs d’images sont régulièrement mis à jour par les entreprises pour corriger ces erreurs. Résultat: le détecteur doit lui aussi être constamment mis à jour pour repérer les nouvelles images plus réalistes.

Toi aussi, tu as un rôle à jouer!

Ce que tu peux faire pour être un «détective du vrai et du faux», voici de bons réflexes que tu peux adopter:

• Prends une pause. Donne-toi du temps pour évaluer le contenu avant de le partager ou de croire tout ce que tu vois. 
• Vérifie la source. Qui a publié cette image? Est-ce que c’est une source fiable, comme un journal, ou pas? 
• Que me dit cette information? Est-ce qu’elle suscite une forte émotion chez moi? Pourquoi quelqu’un voudrait-il que je la partage?
• Porte attention aux détails. Exerce-toi comme un pro avec ce quiz sur les fausses images!

Quels indices déclenchent chez toi un doute quant à l’authenticité d’une publication?