A fictícia artista vidreira e o golpe da "loja fantasma" com IA: idosos australianos estão sendo caçados

Port Fairy, uma pequena cidade costeira no sul do estado de Vitória, tem apenas um soprador de vidro, cujo nome é Robert Gatt. Porém, há cerca de uma semana, ele tem recebido diariamente ligações e e-mails de estranhos perguntando sobre outra pessoa — uma artista chamada "Eleanor Whitmore".

De acordo com a Australian Broadcasting Corporation (ABC News), entre os autores das ligações havia quem dissesse ter comprado um conjunto de copos de vidro artesanais de "Eleanor Whitmore" sem ter recebido o recibo; outros, com a voz embargada, descreviam que o marido da artista havia acabado de falecer e pediam a Gatt que a ajudasse a localizá-la. Gatt trabalha como soprador de vidro em Port Fairy há mais de três décadas e disse à ABC News: "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." (Eu sou o único soprador de vidro de Port Fairy, não estou morto, e minha esposa também não.)

"Eleanor Whitmore" não existe na vida real. A ABC News contatou artistas locais, a organização de defesa de artistas Regional Arts Victoria e o governo do condado ao qual Port Fairy pertence, e todos afirmaram nunca ter ouvido esse nome, sem qualquer registro em diversas listas eleitorais.

A origem de tudo é um site de fraude conhecido como "loja fantasma" (ghost store), montado com inteligência artificial. O site alega vender um conjunto de oito copos de vidro soprados artesanalmente com tema náutico por 250 dólares australianos, apresenta imagens geradas por IA e usa como embalagem emocional a história inventada da morte do marido da artista.

A diretora assistente de políticas do Consumer Action Law Centre, Meg Dalling, disse ao programa matinal estadual da ABC que esse tipo de golpe "parece totalmente legítimo e geralmente é montado com inteligência artificial, mas seu único objetivo é tirar dinheiro dos consumidores sem entregar qualquer produto".

"It has a very compelling, emotionally heart-rending story, but it's actually all just fake," (É uma história muito convincente, comovente, mas na verdade é tudo falso), acrescentou ela.

A infraestrutura técnica do golpe aponta para o exterior. Segundo revelou a ABC News, o operador registrado do site falso é uma empresa sediada em Hong Kong, supostamente dedicada ao desenvolvimento de software de IA. Seus anúncios promocionais apareceram em sites de notícias locais australianos, veiculados lado a lado com propagandas de robôs de negociação de ações com IA, tábuas de corte artesanais e produtos emagrecedores — a maioria das miniaturas trazia marcação de geração por IA, mas o anúncio da tábua de corte não apresentava tal indicação.

Gatt disse à ABC News que os autores das ligações eram claramente de idade avançada e acreditavam firmemente na história da "senhora Whitmore", e que todo o golpe "parece mirar nos idosos".

A Comissão Australiana de Concorrência e Consumidores (ACCC) se recusou a divulgar o número de reclamações relacionadas a "lojas fantasmas" recebidas este ano, mas confirmou que a agência emitiu publicamente um alerta sobre o problema no ano passado e exigiu que a plataforma de comércio eletrônico Shopify e a gigante das redes sociais Meta revisassem e tomassem medidas contra os operadores suspeitos. Segundo a ACCC, essa medida levou mais de dez supostas "lojas fantasmas" a suspenderem suas operações.

Dalling considera que esse esforço de fiscalização está longe de ser suficiente. Ela disse à ABC News: "Individuals will never be able to tackle this." (Os indivíduos nunca serão capazes de enfrentar isso sozinhos.) Ela apontou que as plataformas digitais precisam assumir mais responsabilidade e conter a veiculação desse tipo de anúncio, mas que atualmente não existe uma solução do tipo "bala de prata"; somente a criação de novas leis e de uma estrutura sistêmica de proteção contra fraudes poderá proteger os consumidores de forma fundamental.

Ela também alertou os compradores on-line para ficarem atentos a alguns sinais de perigo: o site informa o número comercial australiano (ABN)? As imagens apresentam traços de geração por IA?

O golpe também expôs os danos colaterais que as fraudes com IA causam aos criadores reais. A diretora de comunicação e engajamento da Regional Arts Victoria, Kate Gerritsen, disse à ABC News que uma experiência ruim de compra on-line pode desestimular os consumidores a adquirir obras de arte genuínas, e que o discurso de marketing fictício, comparado às histórias de vida reais dos criadores, parece barato e vazio.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," (Isso apaga histórias reais e belas, especialmente nas regiões do interior de Vitória, sobre artistas se conectando com sua terra e criando belas obras à venda), disse Gerritsen.

Ela acrescentou que o avanço da IA já causou muitos problemas relacionados ao consentimento dos artistas, à atribuição de autoria e à transparência, e que "somada a essa invenção fraudulenta de identidades de artistas, é mais um exemplo das práticas prejudiciais da IA".

Gatt só permite compras on-line para clientes que já visitaram seu ateliê pessoalmente. Ele contou à ABC News que essa experiência o tornou também mais cauteloso ao comprar on-line: "It does start making you wary of buying online," (Isso realmente faz você ficar com receio de comprar on-line), disse ele.

Mas afirmou não se preocupar que o caso prejudique seu próprio negócio: "I don't think I'm implicated at all, but you always worry," (Não acho que eu esteja envolvido de forma alguma, mas você sempre se preocupa), disse ele à ABC News.

Port Fairy tem apenas cerca de 3.000 habitantes. Gatt enfatizou que a conexão real entre cliente e artista é algo que nenhuma loja on-line pode reproduzir.

"We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," (Trabalhamos com a filosofia de que as pessoas querem comprar um pedaço do artista, por isso gostamos de conversar com nossos clientes e explicar o que fizemos), disse ele.

Vários detalhes-chave do golpe ainda aguardam esclarecimento: o número de consumidores lesados e o valor total dos prejuízos não foram divulgados; não houve divulgação adicional sobre o grau de fiscalização posterior após a ACCC alertar Shopify e Meta; não está claro se a empresa de Hong Kong supostamente dedicada ao desenvolvimento de software de IA ainda opera outros sites de fraude semelhantes, nem qual é o papel específico da tecnologia de IA em toda a cadeia da fraude.