ศิลปินเป่าแก้วตัวปลอมกับกลโกง "ร้านผี" ด้วย AI: ผู้บริโภคสูงอายุชาวออสเตรเลียกำลังถูกล้อมล่า

เมืองชายฝั่งทางตอนใต้ของรัฐวิกตอเรียเมือง Port Fairy มีช่างเป่าแก้วเพียงคนเดียว นามว่า Robert Gatt แต่ประมาณหนึ่งสัปดาห์ที่แล้วเป็นต้นมา เขาต้องรับโทรศัพท์และอีเมลจากคนแปลกหน้าทุกวัน โดยสิ่งที่พวกเขาถามหากลับเป็นบุคคลอีกคนหนึ่ง—ศิลปินหญิงนาม "Eleanor Whitmore"

จากการรายงานของสำนักข่าวเอบีซีนิวส์ (ABC News) ในจำนวนผู้ที่โทรมา บางรายอ้างว่าได้ซื้อชุดแก้วทำมือจาก "Eleanor Whitmore" แต่ไม่ได้รับใบเสร็จ ขณะที่บางรายร่ำไห้บรรยายว่า สามีของศิลปินหญิงรายนี้เพิ่งเสียชีวิตอย่างไม่คาดคิด และหวังให้ Gatt ช่วยติดต่อเธอ Gatt ซึ่งประกอบอาชีพเป่าแก้วใน Port Fairy มานานกว่าสามทศวรรษ กล่าวกับ ABC News ว่า "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." ("ผมเป็นช่างเป่าแก้วเพียงคนเดียวใน Port Fairy และผมก็ไม่ตาย ภรรยาผมก็ไม่ตาย")

"Eleanor Whitmore" ไม่ปรากฏตัวตนในความเป็นจริง ABC News ติดต่อไปยังศิลปินท้องถิ่น องค์กรสนับสนุนศิลปิน Regional Arts Victoria รวมถึงหน่วยงานเขตเทศบาลที่ Port Fairy สังกัด ทุกฝ่ายระบุว่าไม่เคยได้ยินชื่อนี้มาก่อน และไม่ปรากฏบันทึกในทะเบียนผู้มีสิทธิเลือกตั้งหลายฉบับ

ต้นตอของเรื่องทั้งหมดคือเว็บไซต์หลอกลวง "ร้านผี" (ghost store) ที่สร้างด้วย AI เว็บไซต์ดังกล่าวอ้างว่าจำหน่ายชุดแก้วเป่าด้วยมือลายทะเล 8 ชิ้น ในราคา 250 ดอลลาร์ออสเตรเลีย โดยมีภาพที่สร้างด้วย AI ประกอบ และใช้เรื่องราวอันเศร้าโศกเกี่ยวกับการเสียชีวิตของสามีศิลปินตัวปลอมเป็นเครื่องมือทางอารมณ์

Meg Dalling ผู้อำนวยการฝ่ายนโยบายผู้ช่วยของศูนย์กฎหมายเพื่อการดำเนินการของผู้บริโภค กล่าวกับรายการข่าวเช้าของสถานีในเครือ ABC ว่า กลโกงนี้ "ดูถูกต้องตามกฎหมายอย่างสมบูรณ์ โดยทั่วไปสร้างด้วย AI แต่มีจุดประสงค์เพียงอย่างเดียวคือหลอกเอาเงินผู้บริโภคโดยไม่ส่งมอบสินค้าใดๆ" "It has a very compelling, emotionally heart-rending story, but it's actually all just fake," ("เรื่องราวนี้มีพลังดึงดูดใจและสะเทือนอารมณ์อย่างมาก แต่ที่จริงแล้วทุกอย่างเป็นเรื่องหลอกลวงทั้งสิ้น") เธอกล่าวเสริม

โครงสร้างพื้นฐานทางเทคนิคของกลโกงชี้ไปยังต่างประเทศ จากการเปิดเผยของ ABC News ผู้ดำเนินการจดทะเบียนเว็บไซต์หลอกลวงนี้คือบริษัทแห่งหนึ่งที่มีสำนักงานใหญ่ในฮ่องกง ซึ่งเชื่อกันว่าทำธุรกิจพัฒนาซอฟต์แวร์ AI โฆษณาส่งเสริมเคยปรากฏบนเว็บไซต์ข่าวท้องถิ่นของออสเตรเลีย วางคู่กับโฆษณาหุ่นยนต์ซื้อขายหุ้น AI เขียงไม้ทำมือ ผลิตภัณฑ์ลดน้ำหนัก ฯลฯ—ภาพย่อส่วนใหญ่มีสัญลักษณ์บ่งชี้ว่าสร้างด้วย AI แต่โฆษณาเขียงไม้ไม่มีการระบุ

Gatt กล่าวกับ ABC News ว่า ผู้ที่โทรมาเหล่านี้มีอายุมากอย่างเห็นได้ชัด และเชื่อในเรื่องราวที่เกิดขึ้นกับ "คุณ Whitmore" อย่างสนิทใจ โดยกลโกงทั้งหมด "ดูเหมือนเล็งเหยื่อเป็นผู้สูงอายุ"

คณะกรรมการแข่งขันและผู้บริโภคแห่งออสเตรเลีย (ACCC) ปฏิเสธที่จะเปิดเผยจำนวนเรื่องร้องเรียนที่เกี่ยวกับ "ร้านผี" ที่ได้รับในปีนี้ แต่ยืนยันว่าหน่วยงานได้ออกคำเตือนเรื่องนี้ต่อสาธารณะเมื่อปีที่แล้ว และได้ขอให้แพลตฟอร์มอีคอมเมิร์ซ Shopify และยักษ์ใหญ่โซเชียลมีเดีย Meta ตรวจสอบผู้ดำเนินการที่ต้องสงสัยและดำเนินการ ACCC ระบุว่า การดำเนินการนี้ทำให้ "ร้านผี" ที่ต้องสงสัยกว่าสิบแห่งหยุดกิจการ

Dalling เห็นว่าการบังคับใช้กฎหมายในระดับนี้ยังไม่เพียงพออย่างมาก เธอกล่าวกับ ABC News ว่า "Individuals will never be able to tackle this." ("ปัจเจกบุคคลไม่มีทางรับมือปัญหานี้ได้ด้วยตัวเอง") เธอชี้ว่าแพลตฟอร์มดิจิทัลจำเป็นต้องรับผิดชอบมากขึ้นในการยับยั้งการโฆษณาเหล่านี้ แต่ขณะนี้ไม่มี "กระสุนเงิน" (วิธีแก้ปัญหาที่ได้ผลในทันที); เธอระบุว่า ต้องมีการสร้างกฎหมายใหม่และกรอบการป้องกันการฉ้อโกงเชิงระบบ จึงจะสามารถปกป้องผู้บริโภคได้อย่างถึงราก

เธอยังเตือนผู้ซื้อสินค้าออนไลน์ให้สังเกตสัญญาณอันตรายหลายประการ ได้แก่ เว็บไซต์ระบุหมายเลขธุรกิจออสเตรเลีย (ABN) หรือไม่? ภาพมีร่องรอยของการสร้างด้วย AI หรือไม่?

กลโกงนี้ยังเปิดเผยผลกระทบทางอ้อมของการฉ้อโกงด้วย AI ต่อผู้สร้างสรรค์ผลงานตัวจริง Kate Gerritsen ผู้อำนวยการฝ่ายสื่อสารและการมีส่วนร่วมของ Regional Arts Victoria กล่าวกับ ABC News ว่า ประสบการณ์การซื้อของออนไลน์ที่ไม่ดีเพียงครั้งเดียวอาจทำให้ผู้บริโภคไม่กล้าซื้องานศิลปะของจริง ส่วนถ้อยคำทางการตลาดที่เป็นเรื่องแต่งนั้น เมื่อเทียบกับเรื่องราวชีวิตจริงเบื้องหลังผู้สร้างสรรค์ตัวจริง ย่อมดูถูกและว่างเปล่า

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," ("สิ่งนี้ทำลายเรื่องราวที่แท้จริงและงดงาม โดยเฉพาะอย่างยิ่งในเขตชนบทของรัฐวิกตอเรีย เกี่ยวกับศิลปินที่มีความผูกพันกับดินแดนของตน และศิลปินที่สร้างสรรค์ผลงานอันงดงามเพื่อจำหน่าย") Gerritsen กล่าว เธอเสริมว่า การเติบโตของ AI ได้ก่อปัญหามากมายในเรื่องการให้ความยินยอมของศิลปิน การระบุชื่อผู้สร้างสรรค์ และความโปร่งใส "ประกอบกับการปั้นแต่งตัวตนของศิลปินเพื่อการฉ้อโกงเช่นนี้ ก็เป็นอีกตัวอย่างหนึ่งของแนวทางปฏิบัติที่เป็นอันตรายของ AI"

Gatt เปิดให้ซื้อออนไลน์เฉพาะลูกค้าที่เคยมาเยือนสตูดิโอด้วยตัวเองเท่านั้น เขาบอก ABC News ว่า ประสบการณ์นี้ทำให้เขาเองก็เริ่มระมัดระวังในการซื้อของออนไลน์ "It does start making you wary of buying online," ("มันทำให้คุณเริ่มระวังการซื้อของออนไลน์") เขากล่าว แต่เขาระบุว่าไม่กังวลว่าเรื่องนี้จะกระทบธุรกิจของตัวเอง "I don't think I'm implicated at all, but you always worry," ("ผมไม่คิดว่าตัวเองถูกพัวพันเลย แต่คุณก็มักจะกังวลอยู่บ้าง") เขากล่าวกับ ABC News

เมือง Port Fairy มีประชากรเพียงประมาณ 3,000 คน Gatt เน้นย้ำว่า ความผูกพันที่แท้จริงระหว่างลูกค้ากับศิลปินเป็นสิ่งที่ร้านค้าออนไลน์ไม่สามารถลอกเลียนแบบได้ "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," ("เราทำงานด้วยปรัชญาที่ว่า ผู้คนต้องการซื้อส่วนหนึ่งของศิลปิน ดังนั้นเราจึงชอบพูดคุยกับลูกค้าและอธิบายว่าเราทำอะไรลงไป") เขากล่าว

รายละเอียดสำคัญหลายประการของกลโกงนี้ยังคงรอการชี้แจง จำนวนผู้บริโภคที่ตกเป็นเหยื่อและยอดความเสียหายรวมยังไม่เปิดเผยต่อสาธารณะ ความคืบหน้าในการบังคับใช้กฎหมายหลังจากที่ ACCC เตือน Shopify และ Meta ยังไม่มีการเปิดเผยเพิ่มเติม บริษัทในฮ่องกงที่เชื่อกันว่าทำธุรกิจพัฒนาซอฟต์แวร์ AI รายนี้ยังคงดำเนินการเว็บไซต์หลอกลวงอื่นๆ ที่คล้ายคลึงกันหรือไม่ รวมถึงบทบาทเฉพาะของเทคโนโลยี AI ในห่วงโซ่การฉ้อโกงทั้งหมด ยังไม่เป็นที่กระจ่าง