הזכוכיתן הבדוי ותרמית "חנות הרפאים" של הבינה המלאכותית: צרכנים מבוגרים באוטרליה נתונים למתקפה

בעיירה החופית פורט פיירי שבדרום ויקטוריה יש רק זכוכיתן אחד, ושמו רוברט גאט. אולם החל מלפני כשבוע, הוא נדרש מדי יום לטפל בשיחות ובמיילים מזרים, השואלים על אדם אחר – זכוכיתנית בשם "אלינור ויטמור".

על פי דיוו רשת השידור האוסטרלית (ABC News), בין המתקשרים היו כאלה שטענו כי רכשו סט של כוסות זכוכית בעבודת יד מ"אלינור ויטמור" אך לא קיבלו קבלה; אחרים תיארו בקול נחנק כי בעלה של הזכויתנית נפטר זה עתה, וביקשו מגאט לעזור להם ליצור עמה קשר. גאט, העוסק בנפחות זכוכית בפורט פיירי למעלה משלושים שנה, אמר ל-ABC News: "Well, I'm the only glassblower in Port Fairy and I'm not dead, and neither is my wife." ("אני הזכוכיתן היחי בפורט פיירי ואני לא מת, וגם אשתי לא.")

"אלינור ויטמור" אינה קיימת במציאות. ABC News פנתה לאמנים מקומיים, לארגון הסנגוריה לאמנים Regional Arts Victoria, ולמועצת המחוז המקומית שאליה שייכת פורט פיירי – כולם מסרו כי מעולם לא שמעו את השם הזה, וכי אין לו כל זכר במספר רשימות בוחרים.

מקור הדברים הוא אתר הונאה מסוג "חנות רפאים" (ghost store) שהוקם באמצעות בינה מלאכותית. האתר טען כי הוא מור סט של שמונה כוסות זכוכית בנפח יד בנושא ימי, מורת 250 דולר אוסטרלי, והדף כלל תמונות שנוצרו על ידי בינה מלאכותית, וך שיוש בסיפור הבדוי על מות בעלה של האמנית כעטיפה רגשית.

מג דאלינג, מנהלת מדיניות משנה במרכז המשפטי לפעות צרכנים, אמרה לתוכנית הבוקר של ABC במדינה כי הונאות מסו זה "נראות לגיטייות לחלוטין, בדר כלל מוקמות באמצעות בינה מלאכותית, אך מטרתן היחידה היא לסחוט כסף מצרכנים מבלי לספק כל מוצר". "It has a very compelling, emotionally heart-rending story, but it's actually all just fake," ("לסיפור יש משיכה רגשית מצמררת ביותר, אבל למעשה הכל פייק,") הוסיה.

התשתית הטכנית של ההונאה מצביעה על חו"ל. על פי ABC News, הגוף הרשום המפעיל את האתר המזויף הוא חברה שבסיסה בהונג קונג, העוסקת לפי ההערכות בפיתוח וכנה של בינה מלאכותית. פרסומות הקידו שלה הופיעו באתרי חדשות מקומיים באוסטרליה, זו לצד זו עם פרסומות לרובוטים למסחר במניות מבוססי בינה מלאכותית, לקרשי חיתוך בעבודת יד, ולמוצרי הרזיה – ברוב התמונות הממוזערות הויע סימון של יצירה באמצעות בינה מלאכותית, אך לא בפרסות לקרש החיתו.

גאט אמר ל-ABC News כי המתקשרים היו ברור שמבוגרים מאוד, וכי האמינו באופן עיוור לסיפורה של "גב' ויטמור", וכי כל ההונאה "נראית כמכוונת לקשישים".

הוועדה האוסטרלית לתחרות וצרכנות (ACCC) סירבה לחשוף את מספר התלוות הקשורות ל"חנויות רפאים" שהתקבלו השנה, א אישרה כי הגוף פרסם אשתקד אזהרה פומבית בנושא, ודרש מפלטפורמת המסחר האלקטרוני Shopify ומענקית הרשתות החברתיות Meta לבחון את המפעיים החשודים ולפעול נגדם. לדברי ACCC, צעד ה הוביל להפסקת פעילותן של למעלה מעשר חנויות רפאים חשודות.

דאלינג סבורה כי עוצמת האכיפה רחוה מלהספיק. היא אמרה ל-ABC News: "Individuals will never be able to tackle this." ("יחידים לעולם לא יוכלו להתמודד עם זה.") היא הצביעה על כך שהפלטפורמות הדיגיליות נדרשות לשאת באחריות רבה יותר לצמצום הצבת פרסומות מסוג זה, אך כי אין כרגע פתרון של "כדור כסף"; רק הקמת חוקים חדשים ומסגרת הגנה שיתית מפני הונאות תוכל להגן ביסודיות על הצרכנים.

היא גם הזהירה את הקונים ברשת לשים לב לכמה דגלי אזהרה: האם האתר מציין מספר עסקי אוסטרלי (ABN)? האם יימים סימנים לכך שהתמוות נוצרו באמצעות בינה מלאכותית?

ההונאה הזו חושפת ם את הנזק הנלווה שגורמת הונאת בינה מלאכותית ליוצרים אמיתיים. קייט גריצן, מנהלת התקשורת והמעורבות ב-Regional Arts Victoria, אמרה ל-ABC News כי חוויית קנייה גרוה אחת עלולה להרתי צרכנים מלרכוש אמנות אמיתית, וכי הנרטיב השיווקי הבדוי נראה זו וחלו לעומת סיפורי החיים שמאחורי יוצרים אמיתיים.

"It takes away from the real and beautiful stories, particularly in regional Victoria, about artists connecting to their country, and artists creating beautiful products for sale," ("זה ורע מהסיפורים האמיתיים והיפים, במיוחד בוויקטוריה האזורית, על אמנים המתחברים לארצם, ועל אמנים היוצרים מוצרים יפים למכירה,") אמרה גריצן. היא הוסיפה כי עליית הבינה המלאכותית יצרה כבר בעיות רבות בכל הנוגע להסכמת אמנים, ייחוס ושקיפות, "ובנוסף לכך, המצאת זהות אמנים במרמה הי רק דוגמה נוספת לפרקטיקות המזיקות של הבינה המלאכותית".

גאט עצמו פותח כישה מקוונת רק ללקוחות שביקרו פיזית בסטודיו. הו סיפר ל-ABC News כי החוויה הזו גרמה לו גם להיות היר יותר בעת קניות ברשת: "It does start making you wary of buying online," ("זה באמת גורם לך לחשוש מקניות ברשת,") אמר. אולם הוא ציין כי אינו חושש שהדבר יפגע בעסק שלו, "I don't think I'm implicated at all, but you always worry," ("אני לא חושב שאני מעורב בזה כלל, אבל תמיד יש דאגה,") אמר ל-ABC News.

אוכלוסיית העיירה פורט פיירי מונה כ-3,000 ושבים בלבד. גאט הדגיש כי הקשר האמיתי בין הלקוחות לאמן הוא דבר שאתר קניות אינו יכול לשכפל. "We've worked on the philosophy that people want to buy a piece of the artist, so we like to chat with our customers and explain what we've done," ("עבדנו על הפילוסויה שאנשים רוצים לקנות חלק מהאמן, לכן אנחנו אוהבים לשוחח עם הלקוות שלנו ולהסביר להם מה עשינו,") אמר.

מספר פרטים מרכזיים בהונאה ו עדיין דורשים הבהרה: מספר הצרכנים שנפלו קורבן וסכום הנזק הכולל רם פורסמו; לא נמסרו עדכונים על עוצמת האכיפה שלאחר אזהרת ACCC ל-Shopify ול-Meta; האם חברת ההונג קונג המוערכת כעוסקת בפיתו תוכנה של בינה מלאכותית עדיין מפעילה אתרי הונאה דומים אחרים, ומהו תפקידה המדוי של טכנולוגיית הבינה המלאכותית בכל שרשרת ההונאה – כל אלה עדיין אינם ברורים.