Erfundene Glaskünstlerin und KI-‚Geisterladen'-Betrug: Australiens ältere Verbraucher werden gezielt ins Visier genommen

Im südaustralischen Küstenort Port Fairy im Bundesstaat Victoria gibt es nur einen Glasbläser, und der heißt Robert Gatt. Doch seit etwa einer Woche muss er täglich Anrufe und E-Mails von Fremden beantworten, die sich nach einer ganz anderen Person erkundigen – einer Künstlerin namens „Eleanor Whitmore".

Wie der australische Sender ABC News berichtet, gaben einige Anrufer an, bei „Eleanor Whitmore" ein Set handgefertigter Trinkgläser gekauft zu haben, ohne eine Quittung erhalten zu haben; andere schluchzten am Telefon und erklärten, der Ehemann der Künstlerin sei soeben verstorben, und baten Gatt, ihr dabei zu helfen, Kontakt zu ihr herzustellen. Gatt, der in Port Fairy seit mehr als dreißig Jahren Glasbläserei betreibt, sagte gegenüber ABC News: „Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." (Ich bin der einzige Glasbläser in Port Fairy, ich bin nicht tot, und meine Frau auch nicht.)

„Eleanor Whitmore" lässt sich in der Realität nicht ausfindig machen. ABC News wandte sich an ortsansässige Künstler, die Künstlervertretung Regional Arts Victoria sowie die Bezirksverwaltung, zu der Port Fairy gehört – alle erklärten, den Namen nie gehört zu haben, und auch in mehreren Wählerverzeichnissen findet sich keinerlei Eintrag.

All dies hat seinen Ursprung in einer mit KI erstellten Betrugswebsite, einem sogenannten „Geisterladen" (ghost store). Die Website behauptet, ein achteiliges Set handgeblasener Gläser mit maritimem Motiv für 250 australische Dollar zu verkaufen, zeigt KI-generierte Bilder und verpackt die erfundene Geschichte vom Tod des Ehemanns der Künstlerin als emotionale Aufmachung.

Meg Dalling, stellvertretende politische Direktorin des Consumer Action Law Centre, erklärte im Frühstücksprogramm des ABC auf Bundesstaatsebene, derartige Betrügereien „sehen völlig legal aus, werden meist mit KI erstellt, dienen aber einzig und allein dazu, Verbrauchern Geld aus der Tasche zu ziehen, ohne jemals eine Ware zu liefern". „It has a very compelling, emotionally heart-rending story, but it's actually all just fake," (Die Geschichte klingt äußerst mitreißend und emotional herzzerreißend, aber in Wirklichkeit ist alles nur erfunden,) fügte sie hinzu.

Die technische Infrastruktur des Betrugs verweist ins Ausland. Wie ABC News enthüllte, wird die betrügerische Website von einem in Hongkong ansässigen Unternehmen betrieben, das vermutlich im Bereich KI-Softwareentwicklung tätig ist. Die Werbeanzeigen waren auf australischen Lokalnachrichten-Websites zu sehen, eingebettet zwischen Anzeigen für KI-Aktienhandelsroboter, handgefertigte Schneidebretter und Abnehmprodukte – die meisten Vorschaubilder trugen einen „KI-generiert"-Hinweis, die Anzeige für das Schneidebrett allerdings nicht.

Gatt sagte gegenüber ABC News, die Anrufer seien offensichtlich schon betagt und glaubten fest an „Mrs. Whitmores" Schicksal; die gesamte Masche „scheine auf ältere Menschen abzuzielen".

Die australische Wettbewerbs- und Verbraucherkommission (ACCC) weigerte sich, die Zahl der in diesem Jahr eingegangenen Beschwerden im Zusammenhang mit „Geisterläden" offenzulegen, bestätigte jedoch, dass die Behörde im vergangenen Jahr eine öffentliche Warnung zu diesem Thema herausgegeben und die E-Commerce-Plattform Shopify sowie den Social-Media-Riesen Meta aufgefordert hatte, mutmaßliche Betreiber zu überprüfen und Maßnahmen zu ergreifen. Der ACCC zufolge führte dies dazu, dass mehr als zehn mutmaßliche „Geisterläden" ihren Betrieb einstellten.

Dalling hält diese Durchsetzungsintensität für bei Weitem unzureichend. Sie sagte gegenüber ABC News: „Individuals will never be able to tackle this." (Einzelpersonen werden dieses Problem nie allein in den Griff bekommen.) Sie wies darauf hin, dass digitale Plattformen mehr Verantwortung übernehmen müssten, um derartige Werbung einzudämmen, es aber derzeit keine „Patentlösung" gebe; nur die Schaffung neuer gesetzlicher Rahmenbedingungen und eines systematischen Betrugsschutzes könne Verbraucher grundlegend schützen.

Sie wies Online-Käufer zudem auf einige Warnzeichen hin: Ist auf der Website eine australische Firmennummer (ABN) angegeben? Weisen die Bilder Merkmale KI-generierter Inhalte auf?

Der Betrug wirft auch ein Schlaglicht auf die Kollateralschäden, die KI-Betrug bei echten Kunstschaffenden anrichtet. Kate Gerritsen, Direktorin für Kommunikation und Engagement bei Regional Arts Victoria, sagte gegenüber ABC News, eine einzige schlechte Online-Kauferfahrung könne Verbraucher davon abhalten, echte Kunst zu erwerben, während die erfundenen Marketinggeschichten im Vergleich zu den Lebensgeschichten echter Kunstschaffender billig und hohl wirkten.

„It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," (Das raubt den wahren und wunderschönen Geschichten ihre Wirkung, besonders im ländlichen Victoria – Geschichten über Künstler, die mit ihrem Land verbunden sind, und Künstler, die wunderschöne Werke schaffen und verkaufen,) sagte Gerritsen. Sie ergänzte, der Aufstieg der KI habe in Bezug auf die Einwilligung von Künstlern, die Urheberschaft und die Transparenz bereits zahlreiche Probleme verursacht; „und diese betrügerische Erfindung einer Künstleridentität ist lediglich ein weiteres Beispiel für die schädlichen Praktiken der KI".

Gatt selbst bietet Online-Käufe nur für Kunden an, die zuvor persönlich in seinem Atelier waren. Er sagte gegenüber ABC News, diese Erfahrung habe auch ihn selbst beim Online-Shopping vorsichtiger werden lassen: „It does start making you wary of buying online," (Das macht einen beim Online-Kauf tatsächlich misstrauisch,) sagte er. Er erklärte jedoch, er befürchte nicht, dass die Sache seinem Geschäft schaden werde: „I don't think I'm implicated at all, but you always worry," (Ich glaube nicht, dass ich in irgendeiner Weise betroffen bin, aber man macht sich natürlich trotzdem Sorgen,) sagte er gegenüber ABC News.

Port Fairy hat nur etwa 3.000 Einwohner. Gatt betonte, die echte Verbindung zwischen Kunden und Künstler sei etwas, das kein Online-Shop replizieren könne. „We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," (Wir folgen der Philosophie, dass die Menschen ein Stück vom Künstler selbst erwerben wollen, deshalb unterhalten wir uns gerne mit unseren Kunden und erklären ihnen, was wir gemacht haben,) sagte er.

Mehrere zentrale Details des Betrugs sind nach wie vor ungeklärt: Weder die Zahl der geschädigten Verbraucher noch die Gesamthöhe des Schadens wurden veröffentlicht; über weitere Durchsetzungsmaßnahmen nach der ACCC-Warnung an Shopify und Meta wurde nichts bekannt; ob das vermutlich im Bereich KI-Softwareentwicklung tätige Unternehmen aus Hongkong derzeit noch andere ähnliche Betrugswebsites betreibt und welche genaue Rolle die KI-Technologie in der gesamten Betrugskette spielt, bleibt ebenfalls unklar.