Catégories
Uncategorized

Facebook découvre des faux qui montrent l’évolution de la désinformation


Facebook a déclaré vendredi qu’il avait supprimé des centaines de comptes liés à Epoch Media Group, société mère de la publication relative au Falun Gong et journal conservateur The Epoch Times.

Les comptes, y compris les pages, les groupes et les flux Instagram destinés à être vus à la fois aux États-Unis et au Vietnam, ont présenté une nouvelle ride aux chercheurs: de fausses photos de profil générées à l’aide de l’intelligence artificielle.

L’idée que l’intelligence artificielle pourrait être utilisée pour créer des campagnes de désinformation à grande échelle a longtemps été une crainte des informaticiens. Et ils ont dit qu’il était inquiétant de le voir déjà utilisé dans un effort coordonné sur Facebook.

Alors que la technologie utilisée pour créer les fausses photos de profil était très probablement très éloignée de la sophistiquée A.I. En cours de création dans les laboratoires de grandes entreprises technologiques comme Google, le réseau de faux comptes a montré «un avenir étrange et technologique de la désinformation», a déclaré Graham Brookie, directeur du Digital Forensic Research Lab de l’Atlantic Council.

Les personnes derrière le réseau de 610 comptes Facebook, 89 pages Facebook, 156 groupes et 72 comptes Instagram ont publié des articles sur l’actualité et les problèmes politiques aux États-Unis, y compris la destitution du président Trump, l’idéologie conservatrice, les candidats politiques, le commerce et la religion.

«C’était un grand réseau effronté qui avait plusieurs couches de faux comptes et d’automatisation qui publiaient systématiquement du contenu avec deux objectifs idéologiques: le soutien de Donald Trump et l’opposition au gouvernement chinois», a déclaré M. Brookie dans une interview.

Le laboratoire du Conseil de l’Atlantique et une autre société, Graphika, qui étudie également la désinformation, a publié un rapport conjoint analysant le retrait de Facebook.

Le groupe Epoch Media a nié dans un e-mail envoyé au New York Times qu’il était lié au réseau ciblé par Facebook, et a déclaré que Facebook n’avait pas contacté la société avant de publier ses conclusions.

Les personnes derrière le réseau ont utilisé l’intelligence artificielle pour générer des photos de profil, a déclaré Facebook. Ils s’appuyaient sur un type d’intelligence artificielle appelé réseaux antagonistes génératifs. Ces réseaux peuvent, grâce à un processus appelé apprentissage automatique, apprendre à créer des images réalistes de visages, même s’ils n’appartiennent pas à une personne réelle.

Nathaniel Gleicher, responsable de la politique de sécurité de Facebook, a déclaré dans une interview que «l’utilisation de photos générées par l’IA pour les profils» était évoquée depuis plusieurs mois, mais pour Facebook, c’est «la première fois que nous voyons une utilisation systémique de cela. par des acteurs ou un groupe d’acteurs pour rendre les comptes plus authentiques. »

Il a ajouté que cette A.I. Cette technique n’a pas rendu la tâche plus difficile pour les systèmes automatisés de la société de détecter les faux, car les systèmes se concentrent sur les modèles de comportement entre les comptes.

Ben Nimmo, directeur des enquêtes chez Graphika, a déclaré que «nous avons besoin de plus de recherche sur les images générées par IA comme celle-ci, mais il en faut beaucoup plus pour cacher un faux réseau que de simples photos de profil.

Facebook a déclaré que les comptes masquaient leurs activités en utilisant une combinaison de comptes américains faux et authentiques pour gérer des pages et des groupes sur les plateformes. L’activité coordonnée et inauthentique, a déclaré Facebook, tournait autour du média The BL – abréviation de «The Beauty of Life» – qui, selon le média de vérification des faits Snopes en novembre, «construisait un faux empire sur Facebook et s’en tirait.  »

M. Gleicher a déclaré que Facebook avait commencé son enquête sur le BL en juillet et avait accéléré ses efforts lorsque le réseau est devenu plus agressif en publiant cet automne. Il continue d’enquêter sur «d’autres liens et réseaux» liés au BL, a-t-il déclaré.

Facebook a déclaré que le réseau avait dépensé moins de 9,5 millions de dollars en publicités Facebook et Instagram. Vendredi, Facebook a déclaré que le BL serait banni du réseau social.

Epoch Times et The BL ont nié avoir été liés, mais Facebook a déclaré avoir constaté un comportement coordonné et inauthentique du réseau envers le groupe Epoch Media et des personnes au Vietnam travaillant en son nom.

Le groupe Epoch Media a déclaré dans son courrier électronique que le BL a été fondé par un ancien employé et emploie certains de ses anciens employés. « Cependant, le fait que certains de nos anciens employés travaillent pour BL ne prouve aucun lien entre les deux organisations », a déclaré la société.

Une porte-parole de Facebook a déclaré que les dirigeants du BL étaient des administrateurs actifs sur les pages du groupe Epoch Media aussi récemment que vendredi matin.

En août, Facebook a interdit la publicité dans The Epoch Times après que NBC News a publié un rapport selon lequel The Epoch Times avait obscurci sa connexion aux publicités Facebook faisant la promotion du président Trump et du contenu de conspiration.

Twitter a déclaré vendredi que le réseau social était également au courant du réseau BL, et avait déjà «identifié et suspendu environ 700 comptes provenant du Vietnam pour avoir enfreint nos règles sur la manipulation de la plateforme». Une porte-parole de l’entreprise a ajouté que son enquête était toujours ouverte, mais Twitter n’a pas identifié de liens entre les comptes et les acteurs soutenus par l’État.

Facebook a également déclaré vendredi qu’il avait supprimé un réseau de plus de 300 pages et 39 comptes Facebook et leurs activités coordonnées et inauthentiques sur l’actualité politique intérieure en Géorgie.

Facebook a déclaré que le réseau avait tenté de dissimuler sa coordination, mais il a constaté que les comptes responsables étaient gérés par le gouvernement dirigé par Georgian Dream et Panda, une agence de publicité locale du pays. Les propriétaires des pages Facebook se faisaient passer pour des organes de presse et se faisaient passer pour des personnalités publiques, des partis politiques et des groupes d’activistes.

Dans un mouvement connexe, Twitter a dit il a également supprimé 32 millions de tweets provenant de près de 6000 comptes liés à une société de marketing des médias sociaux saoudienne appelée Smaat, qui dirigeait des opérations d’influence politique et commerciale.

Smaat était dirigé en partie par Ahmed Almutairi, un Saoudien recherché par le F.B.I. pour avoir recruté deux employés de Twitter pour rechercher des informations sur les critiques du gouvernement saoudien dans les bases de données internes de l’entreprise, a déclaré Renee DiResta, chercheuse en désinformation à l’observatoire Internet de Stanford, qui a analysé séparément le retrait de Twitter.

L’opération était «d’un volume extrêmement élevé», et automatiquement générée par «des applications Twitter qui publiaient des messages religieux, des messages sur la météo» et d’autres sujets, a déclaré Mme DiResta.

Parfois, les comptes ont été utilisés à «des fins plus personnalisées», y compris plus de 17 000 tweets liés à Jamal Khashoggi, un dissident saoudien et chroniqueur au Washington Post, qui a été tué alors qu’il visitait un consulat saoudien en octobre de l’année dernière.

De nombreux tweets ont affirmé que ceux qui critiquaient le gouvernement saoudien pour leur implication le faisaient à leurs propres fins politiques.





Source link