Certaines marques populaires ont suspendu leurs campagnes de marketing sur Twitter après avoir découvert que leurs publicités étaient apparues à côté de comptes de pédopornographie.
Marques concernées. Plus de 30 marques seraient apparues sur les pages de profil des comptes Twitter colportant des liens vers le matériel d’exploitation. Parmi ces marques figurent un hôpital pour enfants et PBS Kids. Les autres marques vérifiées incluent :
- Dyson
- Mazda
- Forbes
- Walt Disney
- NBC Universel
- Coca Cola
- Cole Haan
Qu’est-il arrivé. Twitter n’a donné aucune réponse quant à ce qui aurait pu causer le problème. Mais une étude de Reuters a révélé que certains tweets incluaient des mots-clés liés au «viol» et aux «adolescents», qui apparaissaient à côté des tweets promus d’annonceurs d’entreprise. Dans un exemple, un tweet promu pour la marque de chaussures et d’accessoires Cole Haan est apparu à côté d’un tweet dans lequel un utilisateur a déclaré qu’il « échangeait du contenu pour adolescents/enfants ».
Dans un autre exemple, un utilisateur a tweeté en recherchant le contenu de « Yung girls ONLY, NO Boys », qui a été immédiatement suivi d’un tweet promu pour le Scottish Rite Children’s Hospital basé au Texas.
Comment les marques réagissent. « Nous sommes horrifiés. Soit Twitter va résoudre ce problème, soit nous le ferons par tous les moyens possibles, y compris en n’achetant pas de publicités Twitter. David Maddocks, président de la marque chez Cole Haan, a déclaré à Reuters.
« Twitter doit résoudre ce problème dès que possible, et jusqu’à ce qu’ils le fassent, nous allons cesser toute activité payante sur Twitter », a déclaré un porte-parole de Forbes.
« Il n’y a pas de place pour ce type de contenu en ligne », a déclaré un porte-parole du constructeur automobile Mazda USA dans un communiqué à Reuters, ajoutant qu’en réponse, la société interdisait désormais à ses publicités d’apparaître sur les pages de profil Twitter.
Un porte-parole de Disney a qualifié le contenu de « répréhensible » et a déclaré qu’ils « redoublent d’efforts pour garantir que les plateformes numériques sur lesquelles nous faisons de la publicité et les acheteurs de médias que nous utilisons renforcent leurs efforts pour empêcher que de telles erreurs ne se reproduisent ».
La réponse de Twitter. Dans un communiqué, la porte-parole de Twitter, Celeste Carswell, a déclaré que la société « a une tolérance zéro pour l’exploitation sexuelle des enfants » et investit davantage de ressources dédiées à la sécurité des enfants, notamment en embauchant de nouveaux postes pour rédiger des politiques et mettre en œuvre des solutions. Elle a ajouté que l’affaire faisait l’objet d’une enquête.
Un problème en cours. Un groupe de cybersécurité appelé Ghost Data a identifié plus de 500 comptes qui ont ouvertement partagé ou demandé du matériel pédopornographique sur une période de 20 jours. Twitter n’a pas réussi à supprimer 70% d’entre eux. Après que Reuters a partagé un échantillon de comptes explicites avec Twitter. Twitter a ensuite supprimé 300 comptes supplémentaires mais en a laissé plus de 100 actifs.
Les rapports de transparence de Twitter sur son site Web montrent qu’il a suspendu plus d’un million de comptes l’année dernière pour exploitation sexuelle d’enfants.
Ce que Twitter est et ne fait pas. Une équipe d’employés de Twitter a conclu dans un rapport l’année dernière que l’entreprise avait besoin de plus de temps pour identifier et supprimer le matériel d’exploitation des enfants à grande échelle. Le rapport a noté que la société avait un arriéré de cas à examiner pour un éventuel signalement aux forces de l’ordre.
Les trafiquants utilisent souvent des mots de code tels que « cp » pour la pornographie juvénile et sont « intentionnellement aussi vagues que possible » pour éviter d’être détectés. Plus Twitter réprime certains mots-clés, plus les utilisateurs sont poussés à utiliser du texte obscurci, qui « a tendance à être plus difficile à automatiser pour Twitter », indique le rapport.
Ghost Data a déclaré que de telles astuces compliqueraient les efforts pour traquer les matériaux, mais a noté que sa petite équipe de cinq chercheurs et aucun accès aux ressources internes de Twitter ont pu trouver des centaines de comptes en 20 jours.
Pas seulement un problème Twitter. Le problème ne se limite pas à Twitter. Les défenseurs de la sécurité des enfants affirment que les prédateurs utilisent Facebook et Instagram pour préparer les victimes et échanger des images explicites. Les prédateurs demandent aux victimes de les contacter sur Telegram et Discord pour effectuer le paiement et recevoir du matériel. Les fichiers sont ensuite généralement stockés sur des services cloud comme Dropbox.
Pourquoi nous nous soucions. La pornographie juvénile et les comptes explicites sur les réseaux sociaux sont le problème de tout le monde. Étant donné que les contrevenants tentent continuellement de tromper les algorithmes à l’aide de mots de code ou d’argot, nous ne pouvons jamais être sûrs à 100 % que nos publicités n’apparaissent pas là où elles ne devraient pas l’être. Si vous faites de la publicité sur Twitter, assurez-vous d’examiner vos placements aussi soigneusement que possible.
Mais la réponse de Twitter semble faire défaut. Si un groupe de surveillance comme Ghost Data peut trouver ces comptes sans accéder aux données internes de Twitter, il semble assez raisonnable de supposer qu’un enfant le peut également. Pourquoi Twitter ne supprime-t-il pas tous ces comptes ? Quelles données supplémentaires recherchent-ils pour justifier une suspension ?
Comme un jeu de Whac-A-Mole, pour chaque compte supprimé, plusieurs autres utilisateurs contextuels et suspendus continueront probablement à créer de nouveaux comptes, masquant leurs adresses IP. Alors est-ce un problème d’automatisation ? Y a-t-il un problème à faire réagir les forces de l’ordre locales ? Le porte-parole de Twitter, Carswell, a déclaré que les informations contenues dans les rapports récents « … ne reflètent pas exactement où nous en sommes aujourd’hui ». Il s’agit probablement d’une déclaration exacte, car le problème semble s’être aggravé.
