Artis Kaca Fiksyen dan Penipuan 'Kedai Hantu' AI: Pengguna Tua Australia Sedang Diburu

Di bandar kecil Port Fairy di pantai selatan Victoria, hanya terdapat seorang peniup kaca, iaitu Robert Gatt. Namun, sejak kira-kira seminggu yang lalu, beliau terpaksa menangani panggilan telefon dan e-mel daripada orang yang tidak dikenali setiap hari, sedangkan yang mereka tanya ialah orang lain — seorang artis wanita bernama 'Eleanor Whitmore'.

Menurut laporan ABC News, antara mereka yang menelefon, ada yang mendakwa telah membeli satu set gelas buatan tangan daripada 'Eleanor Whitmore' tetapi tidak menerima resit; ada juga yang menceritakan dengan sebak bahawa suami artis wanita itu baru sahaja meninggal dunia dan berharap Gatt dapat membantu menghubunginya. Gatt, yang telah bekerja sebagai peniup kaca di Port Fairy selama lebih tiga puluh tahun, berkata kepada ABC News: 'Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife.' ('Saya adalah satu-satunya peniup kaca di Port Fairy, saya tidak mati, begitu juga isteri saya.')

'Eleanor Whitmore' tidak wujud dalam dunia nyata. ABC News menghubungi artis tempatan, organisasi advokasi artis Regional Arts Victoria, dan kerajaan tempatan tempat Port Fairy berada, dan semua mereka menyatakan tidak pernah mendengar nama itu, begitu juga tidak ada sebarang rekod dalam beberapa daftar pemilih.

Semua ini berpunca daripada sebuah laman web penipuan 'kedai hantu' (ghost store) yang dibina menggunakan AI. Laman web itu mendakwa menjual satu set 8 gelas buatan tangan bertemakan nautika pada harga 250 dolar Australia, halaman itu dilengkapi dengan imej yang dijana AI, dan menggunakan cerita kematian suami artis rekaan itu sebagai pembalut emosi.

Pengarah Dasar Penolong di Pusat Tindakan Undang-Undang Pengguna, Meg Dalling, memberitahu program pagi ABC bahawa penipuan sebegini 'kelihatan sepenuhnya sah, biasanya dibina dengan AI, tetapi satu-satunya tujuannya adalah untuk menipu wang pengguna tanpa menghantar sebarang produk'. 'It has a very compelling, emotionally heart-rending story, but it's actually all just fake,' (Cerita ini sangat menyentuh hati, menyayat hati, tetapi sebenarnya semuanya palsu,) beliau menambah.

Asas teknikal penipuan itu berakar umbi di luar negara. Menurut pendedahan ABC News, pengendali berdaftar bagi laman web palsu itu ialah sebuah syarikat yang berpangkalan di Hong Kong dan dipercayai terlibat dalam pembangunan perisian AI. Iklan promosinya pernah muncul di laman web berita tempatan Australia, diletakkan sebelah-senarai dengan iklan robot dagangan saham AI, papan pemotong buatan tangan, produk penurunan berat badan — kebanyakan gambar kecil menunjukkan tanda dijana AI, tetapi iklan papan pemotong tidak ditandakan.

Gatt berkata kepada ABC News bahawa mereka yang menelefon itu jelas sudah lanjut usia dan sangat percaya dengan apa yang menimpa 'Puan Whitmore', dan keseluruhan penipuan itu 'kelihatan menyasarkan orang tua'.

Suruhanjaya Persaingan dan Pengguna Australia (ACCC) enggan mendedahkan bilangan aduan berkaitan 'kedai hantu' yang diterima tahun ini, tetapi mengesahkan bahawa agensi itu telah mengeluarkan amaran terbuka tentang isu ini tahun lepas dan meminta platform e-dagang Shopify serta gergasi media sosial Meta menyemak dan mengambil tindakan terhadap pengendali yang disyaki. ACCC berkata, langkah itu menyebabkan lebih sedozen 'kedai hantu' yang disyaki berhenti beroperasi.

Dalling menganggap bahawa tahap penguatkuasaan sebegini jauh daripada mencukupi. Beliau berkata kepada ABC News: 'Individuals will never be able to tackle this.' (Individu tidak akan pernah dapat menangani masalah ini sendirian.) Beliau menegaskan bahawa platform digital perlu memikul lebih banyak tanggungjawab untuk membendung penempatan iklan sebegini, tetapi pada masa ini tiada penyelesaian 'peluru perak'; hanya dengan menubuhkan undang-undang baru dan rangka kerja perlindungan penipuan secara sistematik barulah pengguna dapat dilindungi pada dasarnya.

Beliau juga mengingatkan pembeli dalam talian untuk memerhatikan beberapa tanda bahaya: adakah laman web itu mencatatkan Nombor Perniagaan Australia (ABN)? Adakah imej menunjukkan tanda dijana AI?

Penipuan ini juga mendedahkan kemudaratan sampingan penipuan AI terhadap pencipta karya sebenar. Pengarah Komunikasi dan Penglibatan Regional Arts Victoria, Kate Gerritsen, berkata kepada ABC News bahawa satu pengalaman membeli-belah dalam talian yang teruk boleh membuat pengguna ragu-ragu untuk membeli karya seni sebenar, manakala bahasa pemasaran rekaan kelihatan murah dan kosong berbanding kisah hidup di sebalik pencipta karya sebenar.

'It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale,' (Ini menghapuskan cerita yang nyata dan indah, terutamanya di kawasan luar bandar Victoria, tentang artis yang berhubung dengan tanah mereka, dan artis yang menghasilkan produk indah untuk dijual,) kata Gerritsen. Beliau menambah bahawa kemunculan AI telah menimbulkan banyak isu dalam hak persetujuan artis, atribusi dan ketelusan, 'dan ditambah dengan penciptaan identiti artis secara penipuan ini, ia hanyalah satu lagi contoh amalan berbahaya AI'.

Gatt sendiri hanya membuka pembelian dalam talian kepada pelanggan yang pernah hadir ke studionya. Beliau memberitahu ABC News bahawa pengalaman ini membuatkannya sendiri lebih berhati-hati apabila membeli-belah dalam talian: 'It does start making you wary of buying online,' (Ini memang membuat anda ragu-ragu untuk membeli dalam talian,) katanya. Namun beliau menyatakan tidak bimbang perkara ini akan menjejaskan perniagaannya, 'I don't think I'm implicated at all, but you always worry,' (Saya tidak menganggap saya terlibat sama sekali, tetapi anda sentiasa bimbang,) katanya kepada ABC News.

Penduduk bandar Port Fairy hanya kira-kira 3,000 orang. Gatt menekankan bahawa hubungan sebenar antara pelanggan dan artis tidak dapat ditiru oleh kedai dalam talian. 'We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done,' (Falsafah kami ialah orang ingin membeli sebahagian daripada artis, jadi kami gemar berbual dengan pelanggan kami dan menjelaskan apa yang kami lakukan,) katanya.

Beberapa butiran utama tentang penipuan ini masih perlu dijelaskan: bilangan pengguna yang tertipu dan jumlah kerugian masih belum didedahkan; tahap penguatkuasaan susulan selepas ACCC memberi amaran kepada Shopify dan Meta tidak diumumkan selanjutnya; sama ada syarikat Hong Kong yang dipercayai membangunkan perisian AI itu masih mengendalikan laman web penipuan lain yang serupa, dan peranan khusus teknologi AI dalam keseluruhan rantaian penipuan, masih tidak jelas.