Fausse artiste verrière et arnaque aux « boutiques fantômes » pilotées par l'IA : les consommateurs âgés d'Australie dans le viseur

Le souffleur de verre de la petite ville côtière de Port Fairy, dans le sud de l'État de Victoria, est unique et se nomme Robert Gatt. Pourtant, depuis environ une semaine, il doit gérer chaque jour des appels et des courriels d'inconnus qui s'enquièrent en réalité d'une autre personne — une artiste nommée « Eleanor Whitmore ».

Selon ABC News, parmi les appelants, certains affirmaient avoir acheté un ensemble de verres faits main auprès d'« Eleanor Whitmore » sans avoir reçu de reçu ; d'autres, la voix étranglée par l'émotion, racontaient que le mari de cette artiste venait de décéder et demandaient à Gatt de les aider à entrer en contact avec elle. Souffleur de verre à Port Fairy depuis plus de trente ans, Gatt a déclaré à ABC News : « Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife. » (« Je suis le seul souffleur de verre de Port Fairy, je ne suis pas mort, et ma femme non plus. »)

« Eleanor Whitmore » est introuvable dans la réalité. ABC News a contacté des artistes locaux, l'organisation de défense des artistes Regional Arts Victoria ainsi que l'administration du comté auquel appartient Port Fairy ; tous ont déclaré n'avoir jamais entendu ce nom, et aucune trace n'a été retrouvée dans plusieurs listes électorales.

À l'origine de tout cela se trouve un site web frauduleux de « boutique fantôme » (ghost store) construit à l'aide de l'IA. Ce site prétend vendre un ensemble de huit verres soufflés à la main sur le thème nautique, au prix de 250 dollars australiens. La page présente des images générées par l'IA et joue sur l'émotion en s'appuyant sur l'histoire inventée du décès du mari de l'artiste fictive.

Meg Dalling, directrice adjointe des politiques au Consumer Action Law Centre, a déclaré à l'émission matinale d'ABC que ce type d'arnaque « a l'air tout à fait légitime, est généralement construit avec l'IA, mais son seul objectif est d'extorquer de l'argent aux consommateurs sans livrer aucun produit ». « It has a very compelling, emotionally heart-rending story, but it's actually all just fake » (« Cette histoire est extrêmement convaincante, déchirante, mais en réalité tout est faux »), a-t-elle ajouté.

L'infrastructure technique de l'arnaque pointe vers l'étranger. Selon ABC News, l'opérateur enregistré de ce site frauduleux est une société dont le siège est à Hong Kong et qui, selon les informations disponibles, se livrerait au développement de logiciels d'IA. Ses publicités promotionnelles sont apparues sur des sites d'information australiens, côte à côte avec des annonces pour des robots de trading boursier dopés à l'IA, des planches à découper artisanales et des produits amincissants — la plupart des miniatures portent une mention indiquant qu'elles ont été générées par l'IA, sauf celle de la planche à découper.

Gatt a indiqué à ABC News que les appelants étaient manifestement âgés et profondément convaincus du malheur de « Mme Whitmore ». L'ensemble de l'arnaque « semble viser les personnes âgées », a-t-il estimé.

La Commission australienne de la concurrence et de la consommation (ACCC) a refusé de divulguer le nombre de plaintes liées aux « boutiques fantômes » reçues cette année, mais a confirmé que l'organisme avait lancé publiquement l'an dernier une alerte sur ce problème et demandé à la plateforme de commerce électronique Shopify ainsi qu'au géant des réseaux sociaux Meta d'examiner les opérateurs suspectés et de prendre des mesures. L'ACCC affirme que cette démarche a entraîné la fermeture de plus d'une dizaine de « boutiques fantômes » présumées.

Dalling estime que cette force de frappe réglementaire est largement insuffisante. Elle a déclaré à ABC News : « Individuals will never be able to tackle this. » (« Les particuliers ne pourront jamais régler ce problème seuls. ») Elle souligne que les plateformes numériques doivent assumer davantage de responsabilités pour endiguer la diffusion de ces publicités, mais qu'il n'existe pour l'heure aucune solution « miracle » ; seule la mise en place de nouvelles lois et de cadres systématiques de protection contre la fraude permettrait de protéger les consommateurs à la racine.

Elle a également rappelé aux acheteurs en ligne quelques signaux d'alarme : le site affiche-t-il un numéro d'entreprise australien (ABN) ? Les images portent-elles des traces de génération par l'IA ?

Cette arnaque met également en lumière les dommages collatéraux que la fraude par l'IA inflige aux véritables créateurs. Kate Gerritsen, directrice de la communication et de l'engagement à Regional Arts Victoria, a déclaré à ABC News qu'une mauvaise expérience d'achat en ligne pouvait décourager les consommateurs d'acheter de véritables œuvres d'art, tandis que les récits marketing inventés paraissent, comparés aux véritables parcours de vie des créateurs, mesquins et vides de sens.

« It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale » (« Cela efface les récits réels et magnifiques, en particulier dans les régions rurales de Victoria, ceux d'artistes liés à leur terre et créant de belles œuvres qu'ils mettent en vente »), a déclaré Gerritsen. Elle a ajouté que l'essor de l'IA avait déjà posé de nombreux problèmes en matière de consentement, d'attribution et de transparence pour les artistes, et que « cette fabrication frauduleuse d'identités d'artistes n'est qu'un exemple supplémentaire des pratiques néfastes de l'IA ».

Gatt n'autorise les achats en ligne qu'aux clients ayant déjà visité son atelier. Il a confié à ABC News que cette expérience l'avait lui-même rendu prudent lors d'achats en ligne : « It does start making you wary of buying online » (« Cela vous rend effectivement méfiants à l'égard des achats en ligne »), a-t-il dit. Il a toutefois indiqué ne pas craindre que cette affaire nuise à son activité : « I don't think I'm implicated at all, but you always worry » (« Je ne pense pas du tout être impliqué, mais on s'inquiète toujours »), a-t-il déclaré à ABC News.

La ville de Port Fairy ne compte qu'environ 3 000 habitants. Gatt souligne que le lien authentique entre le client et l'artiste est quelque chose qu'aucun site de vente en ligne ne peut reproduire. « We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done » (« Nous avons toujours travaillé sur la philosophie selon laquelle les gens veulent acheter un morceau de l'artiste, c'est pourquoi nous aimons discuter avec nos clients et leur expliquer ce que nous avons fait »), a-t-il déclaré.

Plusieurs détails clés de cette arnaque restent à élucider : le nombre de consommateurs victimes et le montant total des pertes n'ont pas été rendus publics ; aucune information supplémentaire n'a été communiquée sur la suite des mesures réglementaires après l'avertissement de l'ACCC à Shopify et Meta ; on ignore si la société hongkongaise, qui serait spécialisée dans le développement de logiciels d'IA, exploite encore d'autres sites frauduleux similaires, et le rôle précis joué par l'IA à chaque étape de la chaîne de fraude reste flou.