La page @Alexx Stagg sur Facebook est parfois qualifiée de « la plus grande page de désinformation au Québec. » En regardant de plus près, VérifRadar a découvert qu’une part importante de ses 40,000 abonnés sont inauthentiques.
Google Lentille et Google Gemini amplifient la désinformation en citant une page Facebook comme s’il s’agissait d’une source fiable alors qu’elle a pourtant fait l’objet de nombreuses vérifications des faits par des journalistes. Malgré les comportements inauthentiques répétés de la page sur Facebook, elle demeure monétisée. Ce n’est pas un cas isolé.
Gemini considère des publications sur Facebook comme des sources d’autorité, alors même que Facebook a des lacunes en matière de sécurité et d’authenticité sur sa plateforme. VérifRadar décortique des failles interplateformes.
Sur un échantillon de 5005 abonnés d’Alexx Stagg, environ 80% des noms complets ne sont pas à consonance québécoise, mais bengalie, même si la page de Stagg dissémine fréquemment de la désinformation anti-migratoire, et ces profils abonnés présentent de nombreuses traces de comportements inauthentiques coordonnés.
Deux publications (archivées ici) téléversées à l’origine sur la page @Alexx Stagg ont ensuite été partagées (archivée ici) comme si elles étaient authentiques par un autre utilisateur. En effectuant une recherche par image inversée avec Google Lentille, Google Gemini assure qu’il s’agit d’un événement ayant réellement été capturé sur caméra à Saint-Calixte, en citant la publication Facebook faite sur @Alexx Stagg :

(Source : google.com.)
Il est couramment recommandé d’effectuer une recherche par image inversée pour vérifier l’origine de contenus douteux. Or, une recherche par image inversée accompagnée d’un résumé IA ne suffisent pas pour authentifier une image. Puisque bien des gens font confiance à l’IA pour leur donner de bonnes informations, le classement de la fiabilité des sources de Gemini est troublant.
Toutefois, les images au centre de cette désinformation, qui montrent un homme racisé faire un dépotoir illicite allégué, contiennent chacune un filigrane SynthID indiquant qu’elles ont été créées par les outils d’OpenAI :


(Source : openai.com.)
Des pièces de métal et le logo sur la jante de la roue ne correspondent pas à la réalité, quoique le design de la jante correspond à peu près à celui d’une Toyota Camry par défaut. Certains morceaux ne suivent pas le motif habituel, dont des plus petits et une symétrie manquante, il est censé s’y trouver 5 boulons et non 6 :

(Source : publication par @Alexx Stagg sur facebook.com.)
La recherche par image inversée n’offrait pas plus de résultats crédibles.
Meta a laissé notre demande médiatique sans réponse.
Google a transmis à VérifRadar ne pas être en mesure de fournir une réponse avant notre échéance.
La réponse de Gemini suggère même en l’occurrence de contacter les autorités locales à propos de l’incident. Ces fausses publications d’actes illégaux sur les réseaux sociaux nuisent aux ressources policières du Québec, a précédemment partagé le Service de police de la ville de Montréal à VérifRadar, en lien avec des contenus similaires montrant de faux crimes s’étant prétendument déroulés au Québec.
Des abonnés robots
Un échantillonnage de 5005 abonnés montre que la quasi-totalité de ses abonnés sont en fait des robots avec des profils inactifs et sans indication qu’ils parlent français ou se situent en Amérique du nord, entre autres issus de l’Inde, du Bangladesh ou de l’Asie du sud, bien que la page dissémine beaucoup de faussetés qui attisent des sentiments anti-immigration.
Le choix de cesser la collecte à 5005 s’explique du fait que la collecte devenait trop lente passée ce stade, puisque les profils ne chargeaient plus efficacement.
De prime abord, une analyse manuelle de 1000 abonnés affichés sur la page @Alexx Stagg démontre que la majorité des comptes portent des noms sud asiatiques, des photos et des noms complets utilisés à de multiples reprises. En second lieu, une collecte de 5005 abonnés a permis d’identifier des comportements inauthentiques plus largement. VérifRadar a ensuite analysé cet échantillon manuellement et en utilisant ChatGPT pour analyser les noms qui ne sont pas à consonance québécoise.
Dans cet échantillon, 78,3% des noms recueillis ne sont pas à consonance franco-canadienne, soit près de 4000, en excluant les noms incomplets ou qui ne sont pas catégorisables à une consonance culturelle particulière. De plus, l’analyse manuelle démontre que la vaste majorité de ces comptes n’interagissent pas plus qu’un simple abonnement.
Bon nombre de ces profils utilisent des biographies en copier-coller avec de très légères variations d’un compte à l’autre. Ces pages ne comptent pas ou très peu d’abonnés, et sont listées comme créatrices de contenu bien qu’elles soient inactives et suivent pour la plupart les mêmes pages :

(Source : abonnés de @Alexx Stagg sur facebook.com.)
À partir de recherches par image inversée de ces profils de couples, qui ont typiquement de zéro à deux abonnés, les photos semblent montrer de vraies personnes, mais auraient possiblement été moissonnées de Pinterest ou ailleurs sur le web, si l’on se fie aux résultats de correspondances exactes de Google Lentille.
Voici des exemples de biographies en copier-coller :








(Source : facebook.com.)
Voici une comparaison de pages suivies identiques, quoique dans un ordre légèrement différent, par deux abonnés de la page @Alexx Stagg portant la même photo de profil, mais des noms différents :


(Source : facebook.com.)
L’une de ces pages, WHITE DNA (soit ADN BLANC) se moque notamment de Jane Doe dans l’affaire Cornell 7 et n’obtient virtuellement aucune interaction sur ses publications même si elle dispose de 3200 abonnés.
Un coup d’oeil à ses abonnés montre toujours des profils similaires qui n’interagissent pas du tout avec ses publications non plus, même s’il propage des contenus qui font ouvertement la promotion du suprémacisme blanc, ce qui est contradictoire avec le fait d’avoir des abonnés en masse qui ne sont pas blancs.
Il est ainsi possible de trouver encore plus de pages suspectes qui achètent probablement leurs abonnés, quoique l’attribution absolue n’est pas garantie, puisque n’importe qui peut acheter ces fausses interactions pour le compte de quelqu’un d’autre. Différents groupes de ces robots suivent des pages différentes qui se recoupent.
En observant les interactions avec les publications faites sur la page @Alexx Stagg, nous n’avons pas trouvé que ces robots qui ne sont pas à consonance québécoise appuient sur j’aime ou commentent les pages. Une hypothèse pouvant expliquer ce choix est qu’acheter des robots sud asiatiques pour s’abonner à la page est plus économe que d’acheter des profils québécois ayant l’air plus authentiques, et si une grande quantité de comptes non-québécois interagissaient, ce serait évident que ce ne sont pas de vraies personnes.
En effet, il n’est pas difficile d’acheter des interactions inauthentiques pour de modiques sommes sur les réseaux sociaux.
Le site Shofic offre par exemple ce service d’interactions et d’abonnés robots spécifiquement pour le Québec, « avec une vraie audience franco-canadienne ». Shofic explique entre autres que d’avoir beaucoup d’abonnés accorde plus de crédibilité, et ce qui fait du Québec et d’autres régions des cibles fructueuses. Shofic évoque même ses méthodes employées pour que ses robots paraissent plus organique. Il existe un tas d’autres sites offrant des services pareils.
VérifRadar n’a pas pu analyser si les interactions à consonances québécoises sur la page de Stagg puissent être inauthentiques avant qu’elle ne soit supprimée.
