Вымышленный стеклодув и мошенничество с ИИ-«призрачными магазинами»: пожилые австралийские потребители под прицелом

В южном прибрежном городке Порт-Фэри в штате Виктория есть лишь один мастер-стеклодув, и его зовут Роберт Гатт. Однако примерно неделю назад он ежедневно начал получать звонки и письма от незнакомцев, которые искали совершенно другого человека — художницу по имени «Элеанор Уитмор».

Как сообщает Австралийская радиовещательная корпорация (ABC News), среди звонивших были те, кто утверждал, что купил у «Элеанор Уитмор» набор изделий из ручного стекла, но не получил чека; другие со звоними в голосе рассказывали, что муж этой художницы якобы только что скончался, и просили Гатта помочь связаться с ней. Гатт занимается выдуванием стекла в Порт-Фэри более тридцати лет, и он заявил ABC News: «Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife.» (Я — единственный мастер-стеклодув в Порт-Фэри, я не умер, и моя жена тоже.)

«Элеанор Уитмор» не существует в реальности. ABC News обратилась к местным художникам, в отстаивающую их интересы организацию Regional Arts Victoria, а также в местный окружной совет, к которому относится Порт-Фэри: ни в одной из этих инстанций о таком имени никогда не слышали, и в многочисленных списках избирателей никаких упоминаний обнаружить не удалось.

Источником всего этого стал мошеннический сайт — «призрачный магазин» (ghost store), созданный с помощью ИИ. Сайт предлагает к продаже комплект из восьми изделий ручной выдувки на морскую тематику по цене 250 австралийских долларов; страница снабжена изображениями, сгенерированными ИИ, и в качестве эмоциональной обёртки используется выдуманная история о смерти мужа художницы.

Помощник директора по политике Центра правовой помощи потребителям (Consumer Action Law Centre) Мег Доллинг (Meg Dalling) в эфире утренней программы штата на ABC заявила, что подобные мошеннические схемы «выглядят совершенно легитимно, обычно создаются с помощью ИИ, но их единственная цель — обмануть потребителей и получить деньги без какой-либо поставки товара». «It has a very compelling, emotionally heart-rending story, but it's actually all just fake,» (У этой истории очень убедительный, эмоционально щемящий сюжет, но на самом деле всё целиком выдумка,) — добавила она.

Техническая инфраструктура мошенничества ведёт за рубеж. По данным ABC News, зарегистрированным оператором фальшивого сайта является компания со штаб-квартирой в Гонконге, предположительно занимающаяся разработкой программного обеспечения в сфере ИИ. Её рекламные объявления размещались на австралийских локальных новостных сайтах, где они соседствовали с рекламой ИИ-роботов для торговли акциями, разделочных досок ручной работы и средств для похудения — большинство миниатюр содержали маркировку о генерации изображений ИИ, однако объявление с разделочными досками такой маркировки не имело.

Гатт заявил ABC News, что звонившие явно были в преклонном возрасте и безоговорочно верили в злоключения «мисс Уитмор», а вся схема «выглядит нацеленной на пожилых людей».

Австралийская комиссия по конкуренции и защите прав потребителей (ACCC) отказалась раскрыть число жалоб, связанных с «призрачными магазинами», полученных в текущем году, однако подтвердила, что в прошлом году ведомство уже публично предупреждало об этой проблеме и потребовало от платформы электронной коммерции Shopify и медиагиганта Meta провести проверку подозреваемых операторов и принять меры. По данным ACCC, в результате этого более десяти предполагаемых «призрачных магазинов» прекратили работу.

Доллинг считает, что таких мер правоприменения совершенно недостаточно. Она заявила ABC News: «Individuals will never be able to tackle this.» (Отдельные люди никогда не смогут справиться с этим самостоятельно.) По её словам, цифровые платформы должны взять на себя больше ответственности за пресечение подобной рекламы, однако в настоящее время не существует «серебряной пули»; лишь создание новых законов и системных рамок защиты от мошенничества способно обеспечить коренную защиту потребителей.

Она также рекомендовала онлайн-покупателям обращать внимание на несколько тревожных признаков: указан ли на сайте австралийский бизнес-номер (ABN)? Содержат ли изображения следы генерации с помощью ИИ?

Эта схема также обнажила побочный ущерб, который мошенничество с применением ИИ наносит реальным творцам. Директор по коммуникациям и взаимодействию с аудиторией Regional Arts Victoria Кейт Герритсен (Kate Gerritsen) заявила ABC News, что неудачный опыт онлайн-покупки способен отвратить потребителей от приобретения подлинных произведений искусства, а вымышленные маркетинговые сюжеты выглядят дешёвыми и пустыми по сравнению с реальными жизненными историями, стоящими за подлинными мастерами.

«It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale,» (Это обесценивает настоящие и прекрасные истории, особенно в региональной Виктории, — истории о том, как художники связаны со своей землёй и как они создают прекрасные изделия на продажу,) — сказала Герритсен. Она добавила, что распространение ИИ уже породило множество проблем в сфере согласия художников, авторства и прозрачности, «и в дополнение к этому подобное мошенническое выдумывание личностей художников — лишь ещё один пример вредоносного применения ИИ».

Сам Гатт открывает онлайн-продажи только для тех покупателей, которые ранее побывали у него в мастерской. Он рассказал ABC News, что этот случай заставил его самого стать осторожнее при покупках через интернет: «It does start making you wary of buying online,» (Это действительно заставляет задумываться, прежде чем что-либо покупать онлайн,) — сказал он. Вместе с тем он выразил уверенность, что эта история не ударит по его бизнесу: «I don't think I'm implicated at all, but you always worry,» (Не думаю, что меня как-то затронуло, но всегда немного тревожишься,) — сказал он ABC News.

Население городка Порт-Фэри составляет всего около 3000 человек. Гатт подчеркнул, что подлинная связь между покупателем и художником — это то, что невозможно воспроизвести через интернет-магазин. «We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done,» (Мы исходим из принципа, что люди хотят приобрести частичку самого художника, поэтому нам нравится общаться с покупателями и рассказывать о нашей работе,) — пояснил он.

Ряд ключевых деталей этой мошеннической схемы по-прежнему остаётся невыясненным: число пострадавших потребителей и общий размер убытков не разглашаются; дальнейшие меры правоприменения после того, как ACCC предупредила Shopify и Meta, не были преданы огласке; неизвестно, управляет ли указанная гонконгская компания, предположительно занимающаяся разработкой ИИ-программ, другими аналогичными мошенническими сайтами, и какова конкретная роль технологий ИИ во всей цепочке мошенничества.