استرالیا حق انتخاب را از پلتفرمهای فناوری پس گرفت؛ این تنها آغاز پاسخگویی الگوریتمی است
استرالیا قصد دارد پلتفرمهای اجتماعی را ملزم کند به کاربران اجازه دهند الگوریتم توصیهگر را خاموش کنند و با جریمهای بیش از ۱۰۰ میلیون دلار استرالیا، آنان را وادار به پیشگیری از آسیبهای قابل پیشبینی کند. اصلاحات به مسئله اصلی حمله میکند: شرکتهای فناوری نباید با توسل به حق طراحی محصول، محیط اطلاعاتی کاربران را تعیین کنند و هزینه آسیب آن را بر دوش خانوادهها بگذارند.
پلتفرمهای بزرگ فناوری سالها کنترل توزیع اطلاعات و طراحی محصول را در اختیار داشتهاند، اما ریسکهای قابل پیشبینی ناشی از توصیههای الگوریتمی را به کودکان، والدین و کاربران عادی واگذار کردهاند؛ «تکلیف مراقبت دیجیتالی» که دولت استرالیا قصد دارد آن را اجرا کند، در صدد اصلاح این عدم تعادل است، نه سلب حق انتخاب از کاربران.
این پیشنویس که در مرحله مشاوره عمومی قرار دارد، پلتفرمهایی مانند تیکتاک، اینستاگرام و فیسبوک را ملزم میکند به طور فعال از کاربران بپرسند آیا مایل به دریافت محتوای توصیهشده هستند و به آنان اجازه دهند گزینهای را انتخاب کنند که در آن فقط فعالیتهای حسابهای دنبالشده نمایش داده شود. برای کاربران زیر ۱۶ سال، پلتفرمها همچنین باید الگوریتم شخصیسازیشده و قابلیت پیمایش بینهایت را خاموش کنند. این اصلاحات حقیقتی را به رسمیت میشناسد که مدتهای طولانی با منطق محصول شرکتهای فناوری پنهان مانده بود: الگوریتم توصیهگر یک محیط طبیعی غیرقابلاجتناب برای کاربر نیست، بلکه سامانهای است که پلتفرم آگاهانه به کار گرفته و میتواند آن را خاموش کند و موظف است پیامدهایش را بپذیرد.
پلتفرمها قدرت فنی تعیین نحوه رسیدن محتوا به کاربران را در اختیار دارند، اما افراد عادی بهسختی میتوانند این سازوکار را درک کنند و از توصیههای مداوم رهایی یابند. ریسکهای کودکان که در پیشنویس فهرست شدهاند شامل قلدری، محتوای پورنوگرافی، محتوای زنستیزانه، محتوایی که جرم را میستاید و مواد تشویقکننده اختلالات خوردن است؛ تعهدات مربوط به بزرگسالان نیز بر مواردی متمرکز است که پیشتر جرم محسوب میشوند، از جمله آزار و اذیت، خشونت جنسی، تهدیدهای جدی، حمایت از سازمانهای تروریستی و تشویق به خودکشی. موسسه کمکرسانی به افراد مبتلا به اختلالات خوردن در استرالیا، بنیاد بترفلای، میگوید همواره با کاربرانی روبهرو بوده است که فیدهای آنان پر از محتوای آرمانیشده، تحریفشده و متمرکز بر وزن است و معتقد است این محتوا یکی از عوامل مهم بروز اختلالات خوردن به شمار میرود. حمایت والدین داغدار و مدافعان حمایت از کودکان از این قانونگذاری نیز نشان میدهد آنچه پلتفرمها قابلیت محصول مینامند عملاً به حوزه ایمنی خانوادهها وارد شده است.
پیشنویس برای پلتفرمهایی که به این تعهدات عمل نکنند جریمهای بیش از ۱۰۰ میلیون دلار استرالیا در نظر گرفته است و این نکته اهمیت حیاتی دارد. بدون جریمهای که بتواند بر تصمیمگیری شرکتها اثر بگذارد، «خودمختاری کاربر» بهراحتی به تزئینی پنهان در منوی تنظیمات تبدیل میشود. پلتفرمهایی که میتوانند توصیههای شخصیسازیشده و پیمایش بینهایت را طراحی کنند، نمیتوانند پس از وقوع آسیب، تمام مسئولیت را به کودکان و والدینی واگذار کنند که از توان فنی لازم برخوردار نیستند.
مخالفان نگرانند دولت به بهانه تعهدات ایمنی در محتوای اطلاعاتی مداخله کند و این خطر باید با مرزهای حقوقی مهار شود؛ در حال حاضر، پیشنویس دامنه حمایت از بزرگسالان را به جرایم موجود محدود میکند و تصمیم وزیر برای افزودن دستههای جدید آسیب را میتوان با وتوی مجلس سنا رد کرد. این مقاله بر اساس یک گزارش واحد از شبکه سراسری استرالیا درباره پیشنویس و اظهارات مربوط به آن تهیه شده است و هنوز واکنش پلتفرمها و متن نهایی قانون برای بررسی در دسترس نیست.
آنچه واقعاً باید شکسته شود، نظمی است که در آن پلتفرمهای فناوری کنترل الگوریتمی را امتیازی پیشفرض میدانند. طرح استرالیا دستکم یک اصل روشن را تثبیت میکند: کسی که باید درباره محتوای توصیهشده تصمیم بگیرد، کاربر است؛ شرکتی که سامانه را طراحی و اجرا میکند موظف است از آسیب پیشگیری کند و خانوادهها نباید همچنان هزینه ایمنی شرکتهای جهانی فناوری را بپردازند.
هنوز دیدگاهی نیست. گفتوگو را آغاز کنید.