Nghệ nhân thủy tinh hư cấu và trò lừa đảo "cửa hàng ma" bằng AI: Người tiêu dùng lớn tuổi tại Australia đang bị săn mồi

Thị trấn ven biển phía nam bang Victoria, Port Fairy, chỉ có một thợ thổi thủy tinh, và tên ông là Robert Gatt. Nhưng bắt đầu từ khoảng một tuần trước, hằng ngày ông phải ứng phó với các cuộc gọi và email từ người lạ, mà đối tượng họ hỏi lại là một người khác — một nữ nghệ sĩ tên "Eleanor Whitmore".

Theo Đài phát thanh Truyền hình Australia (ABC News) đưa tin, trong số những người gọi đến, có người nói rằng đã mua một bộ cốc thủy tinh thủ công từ "Eleanor Whitmore" nhưng không nhận được hóa đơn; cũng có người nghẹn ngào kể rằng chồng của nữ nghệ sĩ này vừa không may qua đời, và hy vọng Gatt giúp liên lạc với bà ấy. Gatt đã làm nghề thổi thủy tinh tại Port Fairy hơn ba mươi năm, ông chia sẻ với ABC News: "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." (Tôi là thợ thổi thủy tinh duy nhất ở Port Fairy, tôi không chết, và vợ tôi cũng không.)

"Eleanor Whitmore" không tồn tại trên thực tế. ABC News đã liên hệ với các nghệ sĩ địa phương, tổ chức vận động nghệ sĩ Regional Arts Victoria cùng hội đồng quận mà Port Fairy trực thuộc, và tất cả đều cho biết chưa bao giờ nghe đến cái tên này; trong nhiều danh sách cử tri cũng không có bất kỳ dấu vết nào.

Nguồn cơn của tất cả là một trang web lừa đảo "cửa hàng ma" (ghost store) được dựng lên bằng AI. Trang web này quảng cáo bán một bộ 8 cốc thủy tinh thổi thủ công chủ đề hàng hải với giá 250 đô la Australia, trang sử dụng hình ảnh do AI tạo ra, và lấy câu chuyện hư cấu về việc chồng nữ nghệ sĩ qua đời làm bao bì cảm xúc.

Trợ lý Giám đốc Chính sách của Trung tâm Luật Hành động vì Người tiêu dùng, Meg Dalling, nói với chương trình buổi sáng của ABC rằng kiểu lừa đảo này "trông hoàn toàn hợp pháp, thường được dựng bằng AI, nhưng mục đích duy nhất là lừa tiền người tiêu dùng mà không giao bất kỳ sản phẩm nào". "It has a very compelling, emotionally heart-rendering story, but it's actually all just fake," (Câu chuyện này vô cùng cuốn hút, đầy xúc động, nhưng thực ra tất cả chỉ là giả,) bà bổ sung.

Hạ tầng kỹ thuật của vụ lừa đảo hướng ra nước ngoài. Theo ABC News tiết lộ, đơn vị đăng ký vận hành trang web giả mạo này là một công ty có trụ sở tại Hồng Kông, được cho là hoạt động trong lĩnh vực phát triển phần mềm AI. Các quảng cáo của trang này từng xuất hiện trên các trang tin tức địa phương Australia, được đặt cạnh những quảng cáo về robot giao dịch chứng khoán bằng AI, thớt gỗ thủ công, sản phẩm giảm cân — hầu hết ảnh thu nhỏ đều có dấu hiệu do AI tạo ra, nhưng quảng cáo thớt gỗ thì không ghi chú.

Gatt cho ABC News biết, những người gọi đến rõ ràng đã lớn tuổi và tin một cách tuyệt đối vào hoàn cảnh của "bà Whitmore"; cả vụ lừa đảo này "dường như nhắm vào người già".

Ủy ban Cạnh tranh và Người tiêu dùng Australia (ACCC) từ chối tiết lộ số lượng khiếu nại liên quan đến "cửa hàng ma" mà cơ quan này nhận được trong năm nay, nhưng xác nhận rằng năm ngoái họ đã công khai cảnh báo về vấn đề này, và yêu cầu nền tảng thương mại điện tử Shopify cùng gã khổng lồ truyền thông xã hội Meta rà soát các đơn vị vận hành bị tình nghi và có hành động. ACCC cho biết, động thái này đã khiến hơn mười "cửa hàng ma" nghi vấn ngừng hoạt động.

Dalling cho rằng, mức độ thực thi pháp luật như vậy là chưa đủ. Bà nói với ABC News: "Individuals will never be able to tackle this." (Người dân cá nhân sẽ không bao giờ có thể tự mình giải quyết vấn đề này.) Bà chỉ ra rằng các nền tảng số cần phải chịu trách nhiệm nhiều hơn, nhằm kiềm chế việc đăng tải những quảng cáo như vậy, nhưng hiện chưa có giải pháp "viên đạn bạc" nào; chỉ có thể xây dựng khung pháp luật mới cùng hệ thống phòng chống lừa đảo mang tính hệ thống, mới có thể bảo vệ người tiêu dùng từ gốc rễ.

Bà còn nhắc nhở người mua sắm trực tuyến để ý một số dấu hiệu nguy hiểm: trang web có ghi Số đăng ký kinh doanh Australia (ABN) hay không? Hình ảnh có dấu vết do AI tạo ra không?

Vụ lừa đảo này còn phơi bày thiệt hại liên đới mà nạn lừa đảo bằng AI gây ra đối với những người sáng tạo thực sự. Giám đốc Truyền thông và Tham gia của Regional Arts Victoria, Kate Gerritsen, nói với ABC News rằng một trải nghiệm mua sắm trực tuyến tồi tệ có thể khiến người tiêu dùng e ngại việc mua sắm tác phẩm nghệ thuật thực sự, trong khi những câu chuyện tiếp thị hư cấu trở nên rẻ mạt và rỗng tuếch so với những câu chuyện đời thật đằng sau người sáng tạo.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," (Điều đó xóa mờ đi những câu chuyện thực sự và đẹp đẽ, đặc biệt ở vùng nông thôn bang Victoria, về sự gắn kết của nghệ sĩ với mảnh đất của họ, và về việc họ tạo ra những sản phẩm đẹp để bán,) Gerritsen nói. Bà bổ sung rằng, sự trỗi dậy của AI đã gây ra nhiều vấn đề về quyền đồng ý, ghi danh và tính minh bạch của nghệ sĩ, "cộng thêm việc dựng lên danh tính nghệ sĩ lừa đảo kiểu này, chỉ là thêm một ví dụ nữa về những cách làm có hại của AI".

Bản thân Gatt chỉ mở bán trực tuyến cho những khách hàng đã từng đến xưởng. Ông nói với ABC News rằng, trải nghiệm này khiến bản thân ông cũng trở nên thận trọng hơn khi mua sắm trực tuyến: "It does start making you wary of buying online," (Đúng là khiến bạn phải đề phòng khi mua sắm trực tuyến,) ông nói. Nhưng ông cho biết không lo ngại chuyện này ảnh hưởng đến việc kinh doanh của mình, "I don't think I'm implicated at all, but you always worry," (Tôi không nghĩ mình bị liên lụy chút nào, nhưng bạn luôn có chút lo lắng,) ông nói với ABC News.

Thị trấn Port Fairy chỉ có khoảng 3.000 dân. Gatt nhấn mạnh, sự kết nối thực sự giữa khách hàng và nghệ sĩ là điều mà các cửa hàng trực tuyến không thể sao chép. "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," (Chúng tôi theo đuổi triết lý rằng người ta muốn mua một phần của nghệ sĩ, nên chúng tôi thích trò chuyện với khách hàng và giải thích những gì chúng tôi đã làm,) ông nói.

Nhiều chi tiết quan trọng của vụ lừa đảo này vẫn cần được làm sáng tỏ: số lượng người tiêu dùng bị lừa và tổng số tiền thiệt hại vẫn chưa được công khai; mức độ thực thi pháp luật tiếp theo sau khi ACCC cảnh báo Shopify và Meta vẫn chưa có thông tin công bố thêm; công ty được cho là hoạt động trong lĩnh vực phát triển phần mềm AI tại Hồng Kông hiện nay còn vận hành các trang lừa đảo tương tự khác hay không, cùng vai trò cụ thể của công nghệ AI trong toàn bộ chuỗi lừa đảo, vẫn chưa rõ ràng.