Fictieve glaskunstenares en AI-'spookwinkel'-fraude: Australische ouderen worden als doelwit uitgekozen

In het zuidelijke kustplaatsje Port Fairy in de deelstaat Victoria is er slechts één glasblazer, en zijn naam is Robert Gatt. Maar sinds ongeveer een week wordt hij dagelijks bestookt met telefoontjes en e-mails van onbekenden, die echter vragen naar iemand anders — een kunstenares die 'Eleanor Whitmore' zou heten.

Volgens de Australian Broadcasting Corporation (ABC News) beweerden sommige bellers een set handgemaakte glazen van 'Eleanor Whitmore' te hebben gekocht zonder een bon te hebben ontvangen; anderen vertelden met tranen in de stem dat de echtgenoot van de kunstenares onlangs was overleden en vroegen Gatt of hij contact met haar wilde opnemen. Gatt, die al ruim dertig jaar glas blaast in Port Fairy, verklaarde tegenover ABC News: "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." (Ik ben de enige glasblazer in Port Fairy, ik ben niet dood, en mijn vrouw ook niet.)

'Eleanor Whitmore' bestaat in werkelijkheid niet. ABC News nam contact op met lokale kunstenaars, de belangenorganisatie voor kunstenaars Regional Arts Victoria en het lokale districtsbestuur waartoe Port Fairy behoort; geen van hen had de naam ooit gehoord, en in meerdere kiezersregisters was geen enkel spoor van haar te vinden.

De bron van dit alles is een met AI opgezette 'spookwinkel'-fraudewebsite. De website beweert een set van acht handgeblazen glazen met een zeevaartthema te verkopen voor 250 Australische dollar, toont door AI gegenereerde afbeeldingen en verpakt het geheel emotioneel met het verzonnen verhaal van de overleden echtgenoot van de kunstenares.

Meg Dalling, adjunct-directeur beleid van het Consumer Action Law Centre, vertelde het ochtendprogramma van de deelstaat op ABC dat dit soort oplichtingen 'er volkomen legitiem uitzien, meestal door AI zijn opgezet, maar als enige doel hebben om consumenten geld afhandig te maken zonder enig product te leveren'. "It has a very compelling, emotionally heart-rending story, but it's actually all just fake," (Het verhaal is buitengewoon meeslepend en emotioneel aangrijpend, maar het is allemaal nep,) voegde zij eraan toe.

De technische infrastructuur van de zwendel wijst naar het buitenland. Volgens ABC News is de geregistreerde exploitant van de nepsite een bedrijf dat in Hongkong is gevestigd en naar verluidt AI-software ontwikkelt. De promotieadvertenties verschenen op Australische lokale nieuwssites, naast advertenties voor AI-aandelenhandelsrobots, handgemaakte snijplanken en afslankproducten — bij de meeste miniaturen stond een AI-label, maar bij de advertentie voor de snijplanken ontbrak een dergelijke aanduiding.

Gatt verklaarde tegenover ABC News dat de bellers duidelijk op leeftijd waren en rotsvast geloofden in het lot van 'mevrouw Whitmore', en dat de hele zwendel 'ouderen lijkt te viseren'.

De Australische Competition and Consumer Commission (ACCC) weigerde te onthullen hoeveel klachten over 'spookwinkels' dit jaar zijn binnengekomen, maar bevestigde dat de toezichthouder vorig jaar al openlijk voor dit probleem heeft gewaarschuwd en het e-commerceplatform Shopify en socialemediagigant Meta heeft verzocht vermeende exploitanten te onderzoeken en actie te ondernemen. Volgens de ACCC heeft dit ertoe geleid dat meer dan tien vermoedelijke 'spookwinkels' hun activiteiten hebben gestaakt.

Dalling vindt dat handhavingsinspanningen als deze bij lange na niet voldoende zijn. Zij verklaarde tegenover ABC News: "Individuals will never be able to tackle this." (Individuen zullen dit nooit alleen kunnen aanpakken.) Zij wees erop dat digitale platforms meer verantwoordelijkheid moeten dragen om dit soort advertenties een halt toe te roepen, maar dat er op dit moment geen 'silver bullet' bestaat; alleen via nieuwe wetgeving en systematische kaders voor fraudebescherming kunnen consumenten fundamenteel worden beschermd.

Zij waarschuwde online shoppers ook om op een aantal waarschuwingssignalen te letten: staat op de website een Australisch bedrijfsnummer (ABN)? Zijn er AI-sporen zichtbaar in de afbeeldingen?

Deze zwendel legt ook de collaterale schade bloot die AI-oplichting aanricht bij echte makers. Kate Gerritsen, directeur communicatie en participatie van Regional Arts Victoria, verklaarde tegenover ABC News dat een slechte online winkelervaring consumenten ervan kan weerhouden om echte kunstwerken te kopen, en dat verzonnen marketingverhalen goedkoop en hol ogen vergeleken met de levensverhalen achter echte makers.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," (Het ondermijnt de echte en mooie verhalen, met name in regionaal Victoria, over kunstenaars die verbonden zijn met hun land en prachtige producten maken om te verkopen,) aldus Gerritsen. Zij voegde eraan toe dat de opkomst van AI al veel problemen heeft veroorzaakt op het gebied van toestemming van kunstenaars, naamsvermelding en transparantie, en dat 'daarbovenop deze frauduleuze verzinsels van kunstenaarsidentiteiten slechts weer een voorbeeld zijn van schadelijk AI-gebruik'.

Gatt zelf biedt online aankopen alleen aan klanten aan die ooit in zijn atelier zijn geweest. Hij vertelde ABC News dat deze ervaring hem zelf ook behoedzamer heeft gemaakt met online winkelen: "It does start making you wary of buying online," (Het maakt je inderdaad huiverig om online te kopen,) zei hij. Hij liet echter weten niet bang te zijn dat dit zijn zaak zal schaden: "I don't think I'm implicated at all, but you always worry," (Ik denk niet dat ik er op enige manier bij betrokken ben, maar je maakt je toch zorgen,) vertelde hij aan ABC News.

Port Fairy telt slechts ongeveer 3.000 inwoners. Gatt benadrukt dat de echte band tussen klant en kunstenaar iets is dat geen webwinkel kan nabootsen. "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," (Onze filosofie is dat mensen een stukje van de kunstenaar willen kopen, dus praten we graag met onze klanten en leggen we uit wat we hebben gemaakt,) zei hij.

Een aantal cruciale details van deze zwendel moet nog worden opgehelderd: het aantal gedupeerde consumenten en het totale schadebedrag zijn niet openbaar gemaakt; over verdere handhaving nadat de ACCC Shopify en Meta had gewaarschuwd is niets naders bekendgemaakt; of het in Hongkong gevestigde bedrijf dat naar verluidt AI-software ontwikkelt nog andere soortgelijke fraudewebsites exploiteert, en welke precieze rol AI-technologie in de gehele fraudeketen speelt, blijft onduidelijk.