אוסטרליה לוקחת בחזרה את הבחירה מידי פלטפורמות הטכנולוגיה – רק תחילתה של האחריות האלגוריתמית

פלטפורמות טכנולוגיה גדולות החזיקו זמן רב בכוח להפיץ מידע ולעצב מוצרים, אך הותירו את הסיכונים הצפויים של המלצות אלגוריתמיות על כתפי ילדים, הורים ומשתמשים רגילים; 'חובת הזהירות הדיגיטלית' שממשלת אוסטרליה מתכננת לקדם נועדה לתקן חוסר איזון זה, ולא לשלול את בחירת המשתמשים.

הצעת החוק, הנמצאת בשלב התייעצות, דורשת מפלטפורמות כמו TikTok, אינסטגרם ופייסבוק לשאול באופן פעיל את המשתמשים אם הם מסכימים לקבל תוכן מומלץ, ולאפשר להם לבחור להציג רק את העדכונים של החשבונות שהם עוקבים אחריהם. עבור משתמשים מתחת לגיל 16, הפלטפורמות נדרשות גם לכבות אלגוריתמים מותאמים אישית ופונקציות גלילה אינסופית. הרפורמה מכירה בעובדה שהוסתרה זמן רב על ידי הלוגיקה המוצרית של חברות הטכנולוגיה: אלגוריתמי המלצה אינם סביבה טבעית שהמשתמשים אינם יכולים לדחות, אלא מערכות שהפלטפורמות פורסות ביוזמתן, שניתן לכבותן, ושחייבות לשאת בהשלכות.

לפלטפורמות יש כוח טכני לקבוע כיצד תוכן מגיע למשתמשים, אך לאנשים רגילים קשה לראות סידור זה, ועוד יותר קשה להשתחרר מהמלצות מתמשכות. הסיכונים לילדים המפורטים בהצעה כוללים בריונות, תוכן פורנוגרפי, תוכן שנאת נשים, תוכן המהלל פשע וחומרים המעודדים הפרעות אכילה; החובות כלפי מבוגרים מתמקדות בתכנים המהווים כבר עבירות פליליות – התעללות, אלימות מינית, איומים חמורים, תמיכה בארגוני טרור ועידוד התאבדות. ארגון הסיוע להפרעות אכילה Butterfly Foundation האוסטרלי מסר כי הם נתקלים ללא הרף במשתמשים שפיד המידע שלהם מוצף בתוכן מעוות, לא מציאותי וממוקד משקל, ורואים בתוכן מסוג זה גורם משמעותי להפרעות אכילה. הורים שחוו אובדן ילדים ופעילים להגנת ילדים תומכים בחקיקה, מה שמעיד שמה שהפלטפורמות מכנות 'פונקציות מוצר' כבר נכנס לתחום הבטיחות המשפחתית.

הצעת החוק שואפת להטיל על פלטפורמות שלא יעמדו בחובותיהן קנסות של יותר ממאה מיליון דולר אוסטרלי – נקודה חיונית. ללא ענישה המספיקה כדי להשפיע על החלטות עסקיות, 'אוטונומיית המשתמש' עלולה להפוך בקלות לקישוט הטמון בתפריט ההגדרות. אם הפלטפורמות יכולות לעצב המלצות מותאמות אישית וגלילה אינסופית, הן לא יכולות להטיל את כל האחריות בחזרה על ילדים והורים חסרי יכולת טכנית כאשר נגרם נזק.

מתנגדים חוששים שהממשלה תנצל חובות בטיחות כדי להתערב בתוכן המידע; סיכון זה חייב להיות מוגבל על ידי גבולות משפטיים; הצעת החוק מגבילה כעת את ההגנה על מבוגרים לעבירות פליליות קיימות, והחלטת השר להוסיף קטגוריות נזק יכולה להיחסם על ידי הסנאט. מאמר זה מבוסס על דיווח יחיד של תאגיד השידור האוסטרלי (ABC) על ההצעה ועל הצהרות קשורות, ואין תגובות פלטפורמה או טקסט חוקי סופי לאימות.

מה שבאמת צריך לשבור הוא את הסדר שבו פלטפורמות הטכנולוגיה רואות בשליטה האלגוריתמית זכות ברירת מחדל. התוכנית האוסטרלית לפחות מבססת עיקרון ברור: האדם שבוחר את התוכן המומלץ צריך להיות המשתמש; החברות שמעצבות ומפעילות את המערכות חייבות לשאת בחובה למנוע נזק; משפחות לא צריכות להמשיך לשלם את מחיר הבטיחות עבור חברות טכנולוגיה גלובליות.