Вигаданий склодув і шахрайство з AI-«примарою-магазином»: австралійські пенсіонери стають мішенями

У маленькому прибережному містечку Порт-Фері на півдні штату Вікторія працює лише один склодув — його звати Роберт Гатт. Однак приблизно тиждень тому він щодня почав отримувати дзвінки й листи від незнайомців, які шукали контактів зовсім іншої людини — жінки-художниці на ім'я "Елеанор Вітмор".

За даними Австралійської радіомовної корпорації (ABC News), серед тих, хто телефонував, були люди, які стверджували, що придбали у "Елеанор Вітмор" набір ручної роботи склянок, але не отримали чека; інші ж зі сльозами в голосі розповідали, що чоловік цієї художниці щойно трагічно помер, і просили Гатта допомогти зв'язатися з нею. Гатт займається склодувством у Порт-Фері вже понад тридцять років. Він заявив ABC News: "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." ("Я єдиний склодув у Порт-Фері, я не помер, і моя дружина також.")

"Елеанор Вітмор" не існує в реальності. ABC News звернулася до місцевих митців, до організації Regional Arts Victoria, яка представляє інтереси художників, а також до місцевої окружної ради, до якої належить Порт-Фері — жоден із них не чув цього імені, і в жодному з численних списків виборців також не було жодних записів.

Джерелом усього цього є шахрайський сайт-«примара-магазин» (ghost store), створений за допомогою ШІ. На сайті стверджується, що продається набір із восьми склянок ручної роботи на морську тематику за 250 австралійських доларів; сторінка містить зображення, згенеровані штучним інтелектом, та використовує як емоційну приманку вигадану історію про смерть чоловіка художниці.

Помічниця директора з політики Юридичного центру захисту прав споживачів Мег Доллінг в ефірі ранкової програми ABC заявила, що такі шахрайства "виглядають цілком легітимними, зазвичай створені за допомогою ШІ, але їхня єдина мета — виманити у споживачів гроші без поставки будь-якого товару". "It has a very compelling, emotionally heart-rending story, but it's actually all just fake," ("Ця історія надзвичайно переконлива, б'є по емоціях, але насправді все це — фальшивка"), — додала вона.

Технічна інфраструктура шахрайства виводить за кордон. За даними ABC News, зареєстрованим оператором фейкового сайту є гонконзька компанія, яка, ймовірно, займається розробкою програмного забезпечення на основі ШІ. Її рекламні оголошення з'являлися на австралійських місцевих новинних сайтах поряд з рекламою ШІ-ботів для торгівлі акціями, ручної роботи обробних дошок, засобів для схуднення та іншого — більшість мініатюр мали позначку про генерацію за допомогою ШІ, але реклама обробної дошки не містила такого маркування.

Гатт розповів ABC News, що люди, які телефонували, явно були похилого віку та щиро вірили в історію "пані Вітмор", і вся ця схема, схоже, "націлена на літніх людей".

Австралійська комісія з конкуренції та захисту прав споживачів (ACCC) відмовилася розголошувати кількість скарг, пов'язаних з «примаро-магазинами», отриманих цього року, але підтвердила, що минулого року вже публічно попереджала про цю проблему та вимагала від платформи електронної комерції Shopify та технологічного гіганта Meta провести перевірку підозрюваних операторів і вжити заходів. За даними ACCC, у результаті цього понад десять підозрюваних «примаро-магазинів» припинили роботу.

Доллінг вважає, що таких правоохоронних зусиль далеко недостатньо. Вона заявила ABC News: "Individuals will never be able to tackle this." ("Окремі люди ніколи не зможуть впоратися з цим самотужки.") Вона зазначила, що цифрові платформи повинні взяти на себе більшу відповідальність у стримуванні подібної реклами, але наразі не існує рішення у вигляді "срібної кулі"; лише створення нових правових рамок та системних механізмів захисту від шахрайства може забезпечити справжній захист споживачів.

Вона також радить інтернет-покупцям звертати увагу на кілька тривожних ознак: чи зазначено на сайті австралійський номер компанії (ABN)? чи є на зображеннях сліди генерації за допомогою ШІ?

Це шахрайство також виявило побічну шкоду, яку ШІ-фальсифікації завдають реальним творцям. Директорка з комунікацій та залучення Regional Arts Victoria Кейт Геррітсен заявила ABC News, що один негативний досвід покупки в інтернеті може відлякати споживачів від придбання справжніх творів мистецтва, а вигадані маркетингові історії порівняно з реальними життєвими шляхами справжніх митців виглядають дешево й порожньо.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," ("Це применшує справжні та прекрасні історії, особливо у віддалених районах Вікторії, — історії про зв'язок митців зі своєю землею та про те, як вони створюють чудові вироби й реалізують їх"), — сказала Геррітсен. Вона додала, що поширення ШІ вже створило чимало проблем щодо згоди авторів, авторства та прозорості, "а вигадування фальшивих особистостей митців у шахрайських цілях — лише ще один приклад шкідливого використання ШІ".

Сам Гатт відкриває онлайн-продаж лише для тих, хто раніше відвідував його майстерню. Він розповів ABC News, що цей випадок зробив його й самого обережнішим під час покупок в інтернеті: "It does start making you wary of buying online," ("Це справді змушує тебе насторожено ставитися до покупок в інтернеті"), — сказав він. Водночас він заявив, що не переймається за вплив інциденту на власний бізнес: "I don't think I'm implicated at all, but you always worry," ("Я не думаю, що мене взагалі зачепило, але завжди є певне занепокоєння"), — сказав він ABC News.

У містечку Порт-Фері проживає лише близько 3 тисяч осіб. Гатт наголошує, що справжній зв'язок між клієнтом і художником — це те, чого інтернет-магазин не здатний відтворити. "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," ("Ми керуємося філософією, що люди хочуть придбати часточку самого митця, тому ми любимо поспілкуватися з нашими клієнтами та пояснити, що саме ми зробили"), — сказав він.

Чимало ключових деталей цієї шахрайської схеми залишаються нез'ясованими: кількість постраждалих споживачів і загальна сума збитків публічно не оприлюднені; подальші правоохоронні заходи після звернення ACCC до Shopify та Meta не розголошуються; невідомо, чи ця гонконзька компанія, яка, ймовірно, займається розробкою програмного забезпечення на основі ШІ, надалі продовжує діяльність інших подібних шахрайських сайтів, а також яка саме роль ШІ в усьому ланцюгу шахрайства.