L'inventata artista del vetro e la truffa del "negozio fantasma" basato sull'IA: gli anziani consumatori australiani nel mirino

Nella piccola cittadina costiera di Port Fairy, nel sud dello Stato di Victoria, esiste un unico soffiatore di vetro, il cui nome è Robert Gatt. Tuttavia, da circa una settimana, ogni giorno si trova a dover gestire telefonate ed e-mail da parte di sconosciuti che chiedono informazioni su un'altra persona, ovvero una'artista di nome "Eleanor Whitmore".

Secondo quanto riportato dall'Australian Broadcasting Corporation (ABC News), tra coloro che hanno chiamato c'è chi sosteneva di aver acquistato un set di bicchieri in vetro soffiato a mano da "Eleanor Whitmore" senza aver ricevuto alcuna ricevuta; altri ancora, con voce rotta dall'emozione, hanno raccontato che il marito della donna artista sarebbe appena deceduto, chiedendo a Gatt di aiutarli a mettersi in contatto con lei. Gatt lavora come soffiatore di vetro a Port Fairy da oltre trent'anni e ha dichiarato ad ABC News: "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." ("Sono l'unico soffiatore di vetro di Port Fairy, non sono morto, e non lo è nemmeno mia moglie.")

"Eleanor Whitmore" non risulta esistere nella realtà. ABC News ha contattato artisti locali, l'organizzazione di advocacy Regional Arts Victoria e l'amministrazione comunale di cui fa parte Port Fairy: tutti hanno dichiarato di non aver mai sentito parlare di quel nome, che non compare in alcun registro elettorale consultato.

All'origine di tutto ciò vi è un sito web fraudolento, un "negozio fantasma" (ghost store) costruito con l'intelligenza artificiale. Il sito dichiara di vendere un set di otto bicchieri in vetro soffiato a mano a tema nautico al prezzo di 250 dollari australiani, presenta immagini generate dall'IA e fa leva emotivamente sulla storia inventata della morte del marito dell'artista.

Meg Dalling, vicedirettrice delle politiche del Consumer Action Law Centre, ha dichiarato al programma mattutino statale di ABC che questo tipo di truffe "appare del tutto legittima, solitamente costruita con l'IA, ma il suo unico scopo è sottrarre denaro ai consumatori senza consegnare alcun prodotto". "It has a very compelling, emotionally heart-rendering story, but it's actually all just fake," ("Presenta una storia estremamente convincente e commovente, ma in realtà è tutto falso"), ha aggiunto.

L'infrastruttura tecnologica della truffa rimanda all'estero. Secondo quanto rivelato da ABC News, il soggetto registrato che gestisce il sito fraudolento è una società con sede a Hong Kong che, a quanto si ritiene, si occupa di sviluppo di software basati sull'IA. I suoi annunci pubblicitari sono apparsi su siti web di notizie locali australiani, affiancati a pubblicità di robot di trading azionario basati sull'IA, taglieri artigianali, prodotti dimagranti e simili: la maggior parte delle miniature riportava un contrassegno di generazione tramite IA, ma l'annuncio dei taglieri non era contrassegnato.

Gatt ha riferito ad ABC News che le persone che hanno chiamato erano evidentemente molto anziane e profondamente convinte delle disgrazie accadute alla "signora Whitmore"; l'intera truffa "sembra prendere di mira gli anziani".

L'Australian Competition and Consumer Commission (ACCC) ha rifiutato di divulgare il numero di denunce relative ai "negozi fantasma" ricevute quest'anno, ma ha confermato che lo scorso anno l'ente aveva già emesso un avviso pubblico sul problema, chiedendo alla piattaforma di e-commerce Shopify e al colosso dei social media Meta di esaminare i presunti operatori e di intervenire. Secondo l'ACCC, ciò ha portato alla chiusura di oltre dieci presunti "negozi fantasma".

Dalling ritiene che questo livello di enforcement sia di gran lunga insufficiente. Ha dichiarato ad ABC News: "Individuals will never be able to tackle this." ("I singoli individui non saranno mai in grado di affrontare questo problema da soli.") Ha sottolineato che le piattaforme digitali devono assumersi maggiori responsabilità per arginare la diffusione di questo tipo di pubblicità, ma che al momento non esiste una "pallottola d'argento"; solo la creazione di nuove leggi e di un quadro sistematico di protezione dalle frodi potrà tutelare i consumatori in modo strutturale.

Ha inoltre invitato gli acquirenti online a prestare attenzione ad alcuni segnali d'allarme: il sito riporta un codice commerciale australiano (ABN)? Le immagini presentano tracce di generazione tramite IA?

Questa truffa ha inoltre evidenziato il danno collaterale arrecato dalle frodi basate sull'IA ai veri creatori. Kate Gerritsen, direttrice della comunicazione e del coinvolgimento di Regional Arts Victoria, ha dichiarato ad ABC News che una brutta esperienza di acquisto online può dissuadere i consumatori dall'acquistare opere d'arte autentiche, mentre le narrazioni di marketing inventate appaiono banali e vuote rispetto alle storie di vita reali dei creatori.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," ("Questo oscura le storie vere e bellissime, in particolare nelle aree regionali del Victoria, di artisti che si connettono al loro Paese e di artisti che creano prodotti belli da mettere in vendita"), ha affermato Gerritsen. Ha aggiunto che l'ascesa dell'IA ha già sollevato molte problematiche in termini di consenso degli artisti, attribuzione e trasparenza, e che "a ciò si aggiunge questa fabbricazione fraudolenta di identità artistiche, che non è che un ulteriore esempio delle pratiche dannose dell'IA".

Gatt vende online solo ai clienti che si sono recati di persona nel suo studio. Ha raccontato ad ABC News che questa esperienza lo ha reso a sua volta più cauto negli acquisti online: "It does start making you wary of buying online," ("Questo ti induce davvero a diffidare degli acquisti online"), ha detto. Ha però precisato di non temere ripercussioni sul proprio lavoro: "I don't think I'm implicated at all, but you always worry," ("Non credo di essere minimamente coinvolto, ma c'è sempre un po' di preoccupazione"), ha dichiarato ad ABC News.

Port Fairy ha una popolazione di appena 3.000 abitanti. Gatt sottolinea che il legame autentico tra cliente e artista è qualcosa che un negozio online non può replicare. "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," ("Lavoriamo sulla base della filosofia che le persone vogliono acquistare un pezzo dell'artista, quindi ci piace chiacchierare con i nostri clienti e spiegare loro ciò che abbiamo fatto"), ha detto.

Diversi dettagli chiave della truffa devono ancora essere chiariti: il numero di consumatori truffati e l'importo totale delle perdite non sono stati resi pubblici; non sono state diffuse ulteriori informazioni sull'azione di enforcement successiva all'avvertimento dell'ACCC a Shopify e Meta; non è noto se la società di Hong Kong, che a quanto si ritiene si occupa di sviluppo di software basati sull'IA, gestisca ancora altri siti fraudolenti simili, né quale sia il ruolo specifico della tecnologia IA nell'intera catena della frode.