Wymyślona artystka szklarska i oszustwo "ghost store" z AI: starsi australijscy konsumenci na celowniku

Wiktoria — Robert Gatt jest jedynym dmuchaczem szkła w nadmorskim miasteczku Port Fairy na południu stanu Wiktoria. Jednak od około tygodnia każdego dnia musi odpowiadać na telefony i maile od nieznajomych, którzy pytają o kogoś innego — o artystkę o imieniu "Eleanor Whitmore".

Według doniesień australijskiego nadawcy publicznego (ABC News) wśród dzwoniących znalazły się osoby twierdzące, że kupiły od "Eleanor Whitmore" zestaw ręcznie robionych szklanek, ale nie otrzymały paragonu; inne, ze wzruszeniem, opowiadały, że mąż tej artystki właśnie zmarł, i prosiły Gatt o pomoc w skontaktowaniu się z nią. Gatt, który zajmuje się dmuchaniem szkła w Port Fairy od ponad trzydziestu lat, powiedział ABC News: "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." (Jestem jedynym dmuchaczem szkła w Port Fairy, nie umarłem, ani moja żona.)

"Eleanor Whitmore" nie istnieje w rzeczywistości. ABC News skontaktowało się z lokalnymi artystami, organizacją rzeczniczą Regional Arts Victoria oraz władzami lokalnego samorządu hrabstwa, do którego należy Port Fairy — wszyscy oświadczyli, że nigdy nie słyszeli tego nazwiska, a w wielu spisach wyborców nie ma po nim żadnego śladu.

Źródłem tego wszystkiego jest fałszywa strona-oszustwo, tzw. "ghost store" (sklep-widmo), zbudowana przy pomocy AI. Strona ta podaje, że sprzedaje zestaw ośmiu ręcznie dmuchanych szklanek w motywie morskim za 250 dolarów australijskich; zawiera obrazy wygenerowane przez AI i wykorzystuje jako emocjonalną otoczkę wymyśloną historię o śmierci męża fikcyjnej artystki.

Meg Dalling, zastępczyni dyrektora ds. polityki w Consumer Action Law Centre, powiedziała w porannym programie stanowym ABC, że tego typu oszustwa "wyglądają całkowicie legalnie, zwykle są zbudowane przy pomocy AI, ale ich jedynym celem jest wyłudzenie pieniędzy od konsumentów bez dostarczania jakiegokolwiek produktu". "It has a very compelling, emotionally heart-rending story, but it's actually all just fake," (Ta historia jest niezwykle wciągająca, rozdzierająca serce, ale w rzeczywistości jest całkowicie fałszywa,) dodała.

Infrastruktura techniczna oszustwa wskazuje na zagranicę. Według ustaleń ABC News zarejestrowanym operatorem fałszywej strony jest firma z siedzibą w Hongkongu, która według ustaleń zajmuje się tworzeniem oprogramowania AI. Jej reklamy promocyjne pojawiały się na australijskich lokalnych portalach informacyjnych, obok reklam botów do handlu akcjami opartych na AI, ręcznie robionych desek do krojenia oraz produktów odchudzających — większość miniatur nosiła oznaczenia generowania przez AI, ale reklama desek do krojenia nie była oznaczona.

Gatt powiedział ABC News, że dzwoniący byli wyraźnie w podeszłym wieku i głęboko wierzyli w historię "pani Whitmore", a całe oszustwo "wydaje się wymierzone w osoby starsze".

Australijska Komisja ds. Konkurencji i Konsumentów (ACCC) odmówiła ujawnienia liczby skarg związanych ze "sklepami-widmo", które wpłynęły w tym roku, ale potwierdziła, że w zeszłym roku publicznie ostrzegała przed tym problemem i zwróciła się do platformy e-commerce Shopify oraz giganta mediów społecznościowych Meta z żądaniem zbadania i podjęcia działań wobec podejrzanych operatorów. ACCC podała, że w wyniku tego ponad dziesięć podejrzanych "sklepów-widmo" zaprzestało działalności.

Dalling uważa, że takie działania egzekucyjne są dalece niewystarczające. Powiedziała ABC News: "Individuals will never be able to tackle this." (Jednostki nigdy nie będą w stanie samodzielnie poradzić sobie z tym problemem.) Zauważyła, że platformy cyfrowe muszą wziąć na siebie większą odpowiedzialność za powstrzymywanie takich reklam, ale obecnie nie istnieje żadne rozwiązanie w postaci "srebrnej kuli" ("magic bullet"); dopiero stworzenie nowych ram prawnych i systemowej ochrony przed oszustwami może u podstaw ochronić konsumentów.

Przypomniała również kupującym on-line o kilku sygnałach ostrzegawczych: czy strona podaje australijski numer firmowy (ABN)? Czy obrazy noszą ślady generowania przez AI?

To oszustwo ujawnia również szkody, jakie oszustwa z użyciem AI wyrządzają prawdziwym twórcom. Kate Gerritsen, dyrektorka ds. komunikacji i zaangażowania w Regional Arts Victoria, powiedziała ABC News, że jedno złe doświadczenie zakupowe on-line może zniechęcić konsumentów do kupowania prawdziwej sztuki, a wymyślone historie marketingowe wydają się tanie i puste w porównaniu z życiorysami stojącymi za prawdziwymi twórcami.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," (To umniejsza prawdziwe i piękne historie, szczególnie w regionalnej Wiktorii — o artystach łączących się ze swoją ziemią i tworzących piękne produkty na sprzedaż,) powiedziała Gerritsen. Dodała, że rozwój AI spowodował już wiele problemów w zakresie zgody twórców, autorstwa i przejrzystości, "a ten rodzaj oszukańczego wymyślania tożsamości artystów to tylko kolejny przykład szkodliwych praktyk AI".

Sam Gatt umożliwia zakupy on-line wyłącznie klientom, którzy wcześniej odwiedzili jego pracownię. Powiedział ABC News, że to doświadczenie sprawiło, że i on stał się ostrożniejszy przy zakupach on-line: "It does start making you wary of buying online," (To rzeczywiście zaczyna budzić niepokój przy zakupach on-line,) powiedział. Dodał jednak, że nie obawia się wpływu na swój biznes, "I don't think I'm implicated at all, but you always worry," (Nie uważam, żebym był w jakikolwiek sposób zamieszany, ale zawsze trochę się martwisz,) powiedział ABC News.

Port Fairy liczy zaledwie około 3000 mieszkańców. Gatt podkreślił, że prawdziwy kontakt między klientem a artystą jest czymś, czego sklep on-line nie jest w stanie odtworzyć. "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," (Naszą filozofią jest to, że ludzie chcą kupić cząstkę artysty, więc lubimy rozmawiać z klientami i wyjaśniać im, co stworzyliśmy,) powiedział.

Wiele kluczowych szczegółów tego oszustwa pozostaje do wyjaśnienia: liczba poszkodowanych konsumentów i łączna kwota strat nie zostały upublicznione; nie ujawniono dalszych działań egzekucyjnych po tym, jak ACCC zwróciła się do Shopify i Meta; nie wiadomo, czy firma z Hongkongu, która według ustaleń zajmuje się tworzeniem oprogramowania AI, nadal prowadzi inne podobne fałszywe strony, ani jaka dokładnie jest rola technologii AI w całym łańcuchu oszustwa.