허구의 유리 예술가와 AI '고스트 스토어' 사기: 호주 고령 소비자들이 표적이 되고 있다

빅토리아주 남부 해안의 소도시 포트 페이리(Port Fairy)에는 유리 세공장이 단 한 곳뿐이며, 그 주인은 로버트 가트(Robert Gatt)다. 그러나 약 일주일 전부터 그는 매일 모르는 사람들의 전화와 이메일을 감당해야 했다. 문의 대상은 전혀 다른 사람——"엘리노어 휘트모어(Eleanor Whitmore)"라는 이름의 여성 예술가였다.

호주 방송 ABC(ABC News)의 보도에 따르면, 전화한 사람들 중에는 "엘리노어 휘트모어"로부터 수제 유리잔 세트를 구매했지만 영수증을 받지 못했다고 주장하는 사람도 있었고, 이 여성 예술가의 남편이 방금 세상을 떠났다며 울먹으며 가트에게 그녀와의 연락을 도와달라고 호소하는 사람도 있었다. 포트 페이리에서 30년 이상 유리 세공을 해온 가트는 ABC News에 대해 이렇게 말했다. "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." (저는 포트 페이리의 유일한 유리 세공장입니다. 저는 죽지 않았고, 제 아내도 살아 있습니다.)

"엘리노어 휘트모어"는 현실에 존재하지 않는 인물이다. ABC News는 현지 예술가들, 예술가 옹호 단체인 리저널 아츠 빅토리아(Regional Arts Victoria), 그리고 포트 페이리가 속한 지방 자치 단체에 연락했으나, 이들 모두 해당 이름을 한 번도 들어본 적이 없다고 답했으며, 여러 유권자 명부에서도 흔적이 발견되지 않았다.

이 모든 일의 근원은 AI로 구축된 '고스트 스토어(ghost store)' 사기 웹사이트였다. 해당 웹사이트는 8개로 구성된 해양 테마의 수제 블론 유리잔 세트를 250호주 달러에 판매한다고 주장하며, AI로 생성된 이미지를 게재하고, 허구인 예술가의 남편 사망 이야기를 감성적 포장에 사용했다.

소비자 행동 법률센터(Consumer Action Law Centre)의 보조 정책이사 메그 돌링(Meg Dalling)은 ABC의 주(州) 아침 방송 프로그램에 대해, 이러한 사기는 "완전히 합법적으로 보이지만, 보통 AI로 구축되었으며, 그 유일한 목적은 제품을 배달하지 않고도 소비자의 돈을 편취하는 것"이라고 말했다. "It has a very compelling, emotionally heart-rending story, but it's actually all just fake," 그녀는 덧붙였다. (이야기는 매우 설득력 있고 감정적으로 가슴을 아프게 하지만, 실제로는 전부 가짜입니다.)

사기의 기술적 기반은 해외를 향하고 있다. ABC News가 폭로한 바에 따르면, 해당 허위 웹사이트의 등록 운영 주체는 홍콩에 본사를 두고 AI 소프트웨어 개발로 추정되는 회사였다. 그 홍보 광고는 호주 지역 뉴스 웹사이트에 게재된 적 있으며, AI 주식 거래 로봇, 수제 도마, 다이어트 제품 등의 광고와 나란히 노출되었다. 대부분의 썸네일에는 AI 생성 표시가 있었으나, 도마 광고에는 표시가 없었다.

가트는 ABC News에 대해, 이들 전화인들은 분명히 나이가 많아 "휘트모어씨"의 처지에 깊이 속아 있었으며, 이번 사기 전체가 "노령층을 표적으로 삼고 있는 것 같다"고 말했다.

호주 경쟁 및 소비자 위원회(ACCC)는 올해 접수된 '고스트 스토어' 관련 민원 건수를 공개하지 않겠다고 거절했으나, 해당 기관이 작년에 이미 이 문제에 대해 공식적으로 경고를 발령했으며, 전자상거래 플랫폼 쇼피파이(Shopify)와 소셜 미디어 거대 기업 메타(Meta)에 혐의가 있는 운영자에 대한 검토와 조치를 요구했다고 확인했다. ACCC에 따르면, 이 조치로 10여 곳 이상의 의심 '고스트 스토어'들이 운영을 중단했다고 한다.

돌링은 이러한 집행 강도가 훨씬 부족하다고 평가했다. 그녀는 ABC News에 대해 "Individuals will never be able to tackle this."라고 말했다. (개인은 영원히 이 문제를 혼자 해결할 수 없을 것입니다.) 그녀는 디지털 플랫폼들이 이러한 광고의 게재를 억제하는 데 더 많은 책임을 져야 한다고 지적했으나, 현재 '만능탄(silver bullet)' 같은 해결책은 없다고 덧붙였다. 새로운 법률과 체계적인 사기 방지 프레임워크가 구축되어야만 근본적으로 소비자를 보호할 수 있다고 그녀는 강조했다.

그녀는 또한 온라인 쇼핑자들에게 다음 몇 가지 위험 신호를 주시할 것을 알렸다: 웹사이트에 호주 사업 번호(ABN)가 표시되어 있는가? 이미지에 AI 생성 흔적이 있는가?

이번 사기는 AI 사기가 실제 창작자에게 주는 연쇄적 피해 또한 드러냈다. 리저널 아츠 빅토리아의 소통 및 참여 담당 이사 케이트 게릿슨(Kate Gerritsen)은 ABC News에 대해, 한 번의 불쾌한 온라인 쇼핑 경험이 소비자들이 진짜 예술 작품을 구매하는 것을 망설이게 만들 수 있다고 말하며, 허구 마케팅 메시지는 실제 창작자들 뒤에 있는 인생 이야기에 비해 싸고 공허해 보인다고 덧붙였다.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," 게릿슨은 말했다. (특히 빅토리아주 지방에서 예술가들이 그들의 땅과 연결되고, 아름다운 작품을 만들어 판매하는 진짜이고 아름다운 이야기들을 훼손합니다.) 그녀는 AI의 부상이 예술가의 동의권, 저작 표시 및 투명성 측면에서 이미 많은 문제를 야기해왔다고 덧붙였다. "게다가 이러한 사기성 있는 예술가 신분 위조는 AI의 유해한 관행의 또 다른 사례에 불과하다."

가트 본인은 직접 작업실을 방문한 고객에게만 온라인 구매를 허용한다. 그는 ABC News에 대해 이번 경험이 자신으로 하여금 온라인 쇼핑 시에도 신중해지게 만들었다고 말했다. "It does start making you wary of buying online," (이것은 정말로 당신을 온라인 구매에 신중하게 만듭니다.)라고 말했다. 그러나 그는 이번 일이 자신의 사업에 타격을 줄 것에 대해 우려하지 않는다고 말했다. "I don't think I'm implicated at all, but you always worry," (전혀 연루되었다고 생각하지 않지만, 언제나 약간 걱정합니다.)라고 그는 ABC News에 말했다.

포트 페이리 타운의 인구는 약 3,000명에 불과하다. 가트는 고객과 예술가 사이의 진정한 연결이 온라인 스토어가 복제할 수 없다고 강조했다. "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," (우리는 사람들이 예술가의 일부분을 사고 싶어한다는 철학으로 일해 왔으며, 그래서 우리는 고객들과 이야기를 나누고 우리가 한 작업을 설명하는 것을 좋아합니다.)라고 그는 말했다.

이번 사기의 여러 핵심 세부 사항은 아직 명확히 밝혀지지 않았다: 피해를 입은 소비자 수와 총 손해액은 아직 공개되지 않았으며, ACCC가 쇼피파이와 메타에 경고를 보낸 후의 후속 집행 강도에 대한 추가 정보는 공개되지 않았다. AI 소프트웨어 개발로 추정되는 이 홍콩 회사가 현재도 기타 유사 사기 웹사이트를 운영하고 있는지, 그리고 AI 기술이 전체 사기 사슬에서 구체적으로 어떤 역할을 하는지에 대해서도 여전히 명확하지 않다.