Un abonnement mensuel de 10$, 20$ ou 35$ peut faire une grande différence.

Vous apercevez quelque chose que nous devrions vérifier ? Écrivez-nous.

Analyse : Google échoue à protéger le public contre la désinformation issue de Facebook 

La page @Alexx Stagg sur Facebook est parfois qualifiée de « la plus grande page de désinformation au Québec. » En regardant de plus près, VérifRadar a découvert qu’une part importante de ses 40,000 abonnés sont inauthentiques.

Lecture de cet article par synthèse vocale IA, validée par la rédac­tion.

Google Lentille et Google Gemini ampli­fient la désin­for­ma­tion en citant une page Facebook comme s’il s’agis­sait d’une source fiable alors qu’elle a pourtant fait l’objet de nombreuses vérifi­ca­tions des faits par des journa­listes. Malgré les compor­te­ments inauthen­tiques répétés de la page sur Facebook, elle demeure monéti­sée. Ce n’est pas un cas isolé.

Gemini consi­dère des publi­ca­tions sur Facebook comme des sources d’auto­rité, alors même que Facebook a des lacunes en matière de sécurité et d’authen­ti­cité sur sa plate­forme. VérifRa­dar décor­tique des failles inter­pla­te­formes.

Sur un échan­tillon de 5005 abonnés d’Alexx Stagg, environ 80% des noms complets ne sont pas à conso­nance québé­coise, mais benga­lie, même si la page de Stagg dissé­mine fréquem­ment de la désin­for­ma­tion anti-migra­toire, et ces profils abonnés présentent de nombreuses traces de compor­te­ments inauthen­tiques coordon­nés.

Deux publi­ca­tions (archi­vées ici) téléver­sées à l’ori­gine sur la page @Alexx Stagg ont ensuite été parta­gées (archi­vée ici) comme si elles étaient authen­tiques par un autre utili­sa­teur. En effec­tuant une recherche par image inver­sée avec Google Lentille, Google Gemini assure qu’il s’agit d’un événe­ment ayant réelle­ment été capturé sur caméra à Saint-Calixte, en citant la publi­ca­tion Facebook faite sur @Alexx Stagg : 

(Source : google.com.)

Il est couram­ment recom­mandé d’effectuer une recherche par image inver­sée pour vérifier l’origine de conte­nus douteux. Or, une recherche par image inver­sée accom­pa­gnée d’un résumé IA ne suffisent pas pour authen­ti­fier une image. Puisque bien des gens font confiance à l’IA pour leur donner de bonnes infor­ma­tions, le classe­ment de la fiabi­lité des sources de Gemini est troublant.

Toute­fois, les images au centre de cette désin­for­ma­tion, qui montrent un homme racisé faire un dépotoir illicite allégué, contiennent chacune un filigrane SynthID indiquant qu’elles ont été créées par les outils d’Ope­nAI :

(Source : openai.com.)

Des pièces de métal et le logo sur la jante de la roue ne corres­pondent pas à la réalité, quoique le design de la jante corres­pond à peu près à celui d’une Toyota Camry par défaut. Certains morceaux ne suivent pas le motif habituel, dont des plus petits et une symétrie manquante, il est censé s’y trouver 5 boulons et non 6 :

(Source : publi­ca­tion par @Alexx Stagg sur facebook.com.) 

La recherche par image inver­sée n’offrait pas plus de résul­tats crédibles.  

Meta a laissé notre demande média­tique sans réponse. 

Google a trans­mis à VérifRa­dar ne pas être en mesure de fournir une réponse avant notre échéance.

La réponse de Gemini suggère même en l’occur­rence de contac­ter les autori­tés locales à propos de l’incident. Ces fausses publi­ca­tions d’actes illégaux sur les réseaux sociaux nuisent aux ressources policières du Québec, a précé­dem­ment partagé le Service de police de la ville de Montréal à VérifRa­dar, en lien avec des conte­nus similaires montrant de faux crimes s’étant préten­du­ment dérou­lés au Québec.

Des abonnés robots

Un échan­tillon­nage de 5005 abonnés montre que la quasi-totalité de ses abonnés sont en fait des robots avec des profils inactifs et sans indica­tion qu’ils parlent français ou se situent en Amérique du nord, entre autres issus de l’Inde, du Bangla­desh ou de l’Asie du sud, bien que la page dissé­mine beaucoup de fausse­tés qui attisent des senti­ments anti-immigra­tion. 

Le choix de cesser la collecte à 5005 s’explique du fait que la collecte devenait trop lente passée ce stade, puisque les profils ne chargeaient plus effica­ce­ment.

De prime abord, une analyse manuelle de 1000 abonnés affichés sur la page @Alexx Stagg démontre que la majorité des comptes portent des noms sud asiatiques, des photos et des noms complets utili­sés à de multiples reprises. En second lieu, une collecte de 5005 abonnés a permis d’iden­ti­fier des compor­te­ments inauthen­tiques plus large­ment. VérifRa­dar a ensuite analysé cet échan­tillon manuel­le­ment et en utili­sant ChatGPT pour analy­ser les noms qui ne sont pas à conso­nance québé­coise.

Dans cet échan­tillon, 78,3% des noms recueillis ne sont pas à conso­nance franco-canadienne, soit près de 4000, en excluant les noms incom­plets ou qui ne sont pas catégo­ri­sables à une conso­nance cultu­relle parti­cu­lière. De plus, l’analyse manuelle démontre que la vaste majorité de ces comptes n’inte­ra­gissent pas plus qu’un simple abonne­ment.

Bon nombre de ces profils utilisent des biogra­phies en copier-coller avec de très légères varia­tions d’un compte à l’autre. Ces pages ne comptent pas ou très peu d’abon­nés, et sont listées comme créatrices de contenu bien qu’elles soient inactives et suivent pour la plupart les mêmes pages :

(Source : abonnés de @Alexx Stagg sur facebook.com.)

À partir de recherches par image inver­sée de ces profils de couples, qui ont typique­ment de zéro à deux abonnés, les photos semblent montrer de vraies personnes, mais auraient possi­ble­ment été moisson­nées de Pinte­rest ou ailleurs sur le web, si l’on se fie aux résul­tats de corres­pon­dances exactes de Google Lentille.

Voici des exemples de biogra­phies en copier-coller :

(Source : facebook.com.)

Voici une compa­rai­son de pages suivies identiques, quoique dans un ordre légère­ment diffé­rent, par deux abonnés de la page @Alexx Stagg portant la même photo de profil, mais des noms diffé­rents :

(Source : facebook.com.)

L’une de ces pages, WHITE DNA (soit ADN BLANC) se moque notam­ment de Jane Doe dans l’affaire Cornell 7 et n’obtient virtuel­le­ment aucune inter­ac­tion sur ses publi­ca­tions même si elle dispose de 3200 abonnés.

Un coup d’oeil à ses abonnés montre toujours des profils similaires qui n’inte­ra­gissent pas du tout avec ses publi­ca­tions non plus, même s’il propage des conte­nus qui font ouver­te­ment la promo­tion du supré­ma­cisme blanc, ce qui est contra­dic­toire avec le fait d’avoir des abonnés en masse qui ne sont pas blancs. 

Il est ainsi possible de trouver encore plus de pages suspectes qui achètent proba­ble­ment leurs abonnés, quoique l’attribution absolue n’est pas garan­tie, puisque n’importe qui peut acheter ces fausses inter­ac­tions pour le compte de quelqu’un d’autre. Diffé­rents groupes de ces robots suivent des pages diffé­rentes qui se recoupent.

En obser­vant les inter­ac­tions avec les publi­ca­tions faites sur la page @Alexx Stagg, nous n’avons pas trouvé que ces robots qui ne sont pas à conso­nance québé­coise appuient sur j’aime ou commentent les pages. Une hypothèse pouvant expli­quer ce choix est qu’ache­ter des robots sud asiatiques pour s’abon­ner à la page est plus économe que d’ache­ter des profils québé­cois ayant l’air plus authen­tiques, et si une grande quantité de comptes non-québé­cois inter­agis­saient, ce serait évident que ce ne sont pas de vraies personnes.

En effet, il n’est pas diffi­cile d’ache­ter des inter­ac­tions inauthen­tiques pour de modiques sommes sur les réseaux sociaux. 

Le site Shofic offre par exemple ce service d’interactions et d’abonnés robots spéci­fi­que­ment pour le Québec, « avec une vraie audience franco-canadienne ». Shofic explique entre autres que d’avoir beaucoup d’abonnés accorde plus de crédi­bi­lité, et ce qui fait du Québec et d’autres régions des cibles fructueuses. Shofic évoque même ses méthodes employées pour que ses robots paraissent plus organique. Il existe un tas d’autres sites offrant des services pareils. 

VérifRa­dar n’a pas pu analy­ser si les inter­ac­tions à conso­nances québé­coises sur la page de Stagg puissent être inauthen­tiques avant qu’elle ne soit suppri­mée.