Votre nouveau crush sur Tinder vous pose des questions stimulantes et vous discutez avec lui jusqu’au bout de la nuit ? Et lorsque vous le rencontrez, c’est la douche froide, il ne dit pas un mot. Pas de doute, vous avez été chatfishée !

Dans la revue Data & Policy, les juristes Karen Yeung et Wenlong Li ont observé les résultats de quatre expérimentations de reconnaissance faciale en temps réel menées à Londres, aux Pays de Galles, à Berlin et à Nice. En Grande-Bretagne par exemple, aucune information n’a été recueillie sur les faux négatifs générés par les systèmes, comme les personnes fichées mais non identifiées par le logiciel. Nulle part, l’impact négatif des systèmes n’a été observé. Pour les chercheuses, les expérimentations de ce type manquent de rigueur et ne produisent d’ailleurs aucune connaissance nouvelle. Quand on ne cherche pas les défauts, assurément, on ne les trouve pas. Via Algorithm Watch.

« Dans un avenir proche, nous souhaitons que chaque entreprise puisse nous indiquer son objectif, comme vendre quelque chose ou acquérir un nouveau client, le montant qu’elle est prête à payer pour chaque résultat, et connecter son compte bancaire ; nous nous occuperons du reste », déclarait Zuckerberg lors de l’assemblée générale annuelle des actionnaires de l’entreprise (voir notre article, « L’IA, un nouvel internet… sans condition »). Nous y sommes, explique Jason Koebler pour 404media en montrant l’usage de l’IA générative par Ticketmaster pour personnaliser ses campagnes publicitaires, où l’IA est utilisée à la fois pour le ciblage et la génération des publicités. « Moins d’argent investi dans la création signifie plus de budget publicitaire et donc une plus grande variété de publicités », rappelle Koebler. « Les entreprises peuvent ainsi inonder les réseaux sociaux de millions de variantes de publicités IA faciles à créer, investir leur budget publicitaire dans les versions les plus performantes et laisser les algorithmes de ciblage faire le reste. Dans ce cas précis, l’IA est une stratégie de mise à l’échelle. Inutile de consacrer des sommes considérables en temps, en argent et en ressources humaines à peaufiner les textes publicitaires et à concevoir des publicités pertinentes, astucieuses, drôles, charmantes ou accrocheuses. Il suffit de publier des tonnes de versions bâclées, et la plupart des gens ne verront que celles qui fonctionnent bien ».

Un rapport de Reuters, vient de révéler que « 10 % du chiffre d’affaires brut de Meta provient de publicités pour des produits frauduleux et des arnaques ». « 15 milliards de publicités frauduleuses sont diffusées chaque jour, générant 7 milliards de dollars de revenus par an ». Mais, plutôt que refuser ces publicités frauduleuses, Meta ne ferme pas les comptes qui les proposent et leur inflige des frais supplémentaires, les rendant plus rentables encore qu’elles ne sont. Un tiers des arnaques aux États-Unis transiteraient par Facebook (au Royaume-Uni, ce chiffre atteindrait 54 % des pertes liées aux arnaques aux paiements). Si Meta a mis en place des mesures pour réduire la fraude sur sa plateforme, l’entreprise estime que le montant maximal des amendes qu’elle devra finalement payer dans le monde s’élèvera à 1 milliard de dollars, alors qu’elle en encaisse 7… On comprend que Meta ne soit pas incité à la diligence, comme l’explique très clairement une note interne citée par Reuters, ironise Cory Doctorow. Mais surtout, on y apprend que l’équipe antifraude est tributaire d’un quota interne : « elle n’est autorisée à prendre que des mesures susceptibles de réduire les revenus publicitaires de 0,15 % (soit 135 millions de dollars) ». Les services de modération ou de lutte contre la fraude ressemblent désormais aux services clients qu’on évoquait récemment : une ligne budgétaire avec des objectifs et des contraintes !

Pire, explique encore Doctorow dans sa lecture de Reuters : alors que les équipes de sécurité recevaient environ 10 000 signalements de fraudes valides par semaine, celles-ci, en ignoraient ou en rejetaient à tort 96 %. Le problème, c’est que lorsque Meta classe un signalement sans suite ou refuse de corriger des signalements de fraudes valides, non seulement les utilisateurs perdent beaucoup, mais l’usurpation d’identité permet également de faire les poches des relations des victimes en leur extorquant de l’argent, voire beaucoup d’argent.

Meta qualifie ce type d’escroquerie, où les escrocs usurpent l’identité d’utilisateurs, d’« organique », la distinguant ainsi des publicités frauduleuses, où les escrocs paient pour atteindre leurs victimes potentielles. Meta estime héberger 22 milliards de messages frauduleux « organiques » par jour. Ces escroqueries organiques sont en réalité souvent autorisées par les conditions d’utilisation de Meta : lorsque la police de Singapour a porté plainte auprès de Meta concernant 146 publications frauduleuses, l’entreprise a conclu que seulement 23 % d’entre elles violaient ses conditions d’utilisation. Les autres étaient toutes autorisées. Ces fraudes tolérées incluaient des offres alléchantes promettant des réductions de 80 % sur de grandes marques de mode, des offres de faux billets de concert et de fausses offres d’emploi – le tout autorisé par les propres politiques de Meta. Des notes internes consultées par Reuters révèlent que les équipes antifraude de Meta étaient de plus en plus exaspérées de constater que ces escroqueries n’étaient pas interdites sur la plateforme. Un employé de Meta l’a même écrit a sa direction en dénonçant des escroqueries visibles : « Les politiques actuelles ne permettraient pas de signaler ce compte ! » Mais même si un fraudeur enfreint les conditions d’utilisation de Meta, l’entreprise reste inactive. Selon les propres politiques de Meta, un « Compte à forte valeur ajoutée » (un compte dépensant des sommes importantes en publicités frauduleuses) doit accumuler plus de 500 « avertissements » (c’est-à-dire des violations avérées des politiques de Meta) avant d’être suspendu. Reuters a constaté que 40 % des escrocs les plus notoires étaient toujours actifs sur la plateforme six mois après avoir été signalés comme les fraudeurs les plus prolifiques de l’entreprise. 

Ce mépris flagrant pour les utilisateurs de Meta n’est pas dû à une nouvelle tendance sadique de la part de la direction. Comme le démontre en détail le livre de Sarah Wynn-Williams, Careless People (Flatiron Books, 2025 ; Des gens peu recommandables, Buchet-Chastel, 2025), l’entreprise a toujours été dirigée par des individus sans scrupules. Ce qui a changé en quelques années, assène Doctorow, c’est qu’ils ont assimilé qu’ils pouvaient gagner de l’argent en vous escroquant. 

Oui, réduire la fraude a un coût ! « Tant que nous aurons un environnement législatif si complaisant qui ne leur inflige qu’un milliard de dollars d’amende alors qu’ils en ont engrangé 7 sur nos malheurs », nous n’irons pas très loin.