Sa sistemang pang-advertising ng Meta, ipinapasa sa mga bata ang pasanin ng mga pagkabigo sa moderation

Hindi maaaring ipaliwanag ng Meta ang paulit-ulit na pagpapasa sa moderation ng mga advertisement na nagpo-promote ng child sexual abuse materials bilang paminsan-minsang pagkakamali na dulot ng pagbabago ng taktika ng mga kriminal. Kontrolado ng kumpanya ang sistema ng ad moderation, distribusyon, pagsingil, at pag-uulat ng Facebook at Instagram; kapag patuloy pa ring pinayagan ng mga sistemang ito ang mga kaugnay na advertisement kahit na pagkatapos ng mga utos ng gobyerno, pagsisiyasat ng media, at mga babala ng mga organisasyon, ang automated system ay hindi na kapalit ng responsibilidad, kundi ang bagay na dapat panagutan ng Meta.

Ayon sa pagbalita ng BBC, ang US advocacy group na Tech Transparency Project (TTP) ay nagsabing sa nakalipas na 10 buwan, nag-publish ang Facebook at Instagram ng kabuuang 332 bayad na advertisement na naglalaman ng mga larawang gawa ng artificial intelligence ng child sexual abuse, kung saan 274 ay lumitaw noong Agosto ngayong taon. Ayon sa TTP, 84 na advertisement ang inilagay sa India, kung saan 78 ay inilathala pagkatapos iutos ng gobyerno ng India sa Meta na tanggalin ang lahat ng advertisement at content na nagpo-promote ng child sexual abuse materials, at makipagpulong sa mga senior na opisyal ng Meta.

Ang mga numerong ito ay pangunahing nagmumula sa pagsisiyasat ng TTP, hindi sa independiyenteng pag-verify ng BBC. Inilarawan din ng TTP ang isang advertisement na inilagay sa India na gumamit ng artificial intelligence upang manipulahin ang larawan ng isang batang babae bago mag-adolesensya, ngunit malinaw na sinabi ng BBC na hindi nito natitingnan ang advertisement na iyon. Ang limitasyon sa ebidensyang ito ay hindi maaaring balewalain, ngunit hindi rin nito tinatanggal ang mga tanong na kailangang sagutin ng Meta: bakit, matapos ang interbensyon ng mga regulatory body, nakakapasok pa rin sa kanilang sistemang bayad na distribusyon ang mga advertisement na pinaghihinalaang nagpo-promote ng child sexual abuse materials?

Inilathala ng BBC na ang mga advertisement sa mga plataporma ng Meta ay dapat munang aprubahan ng teknolohiya ng moderation bago ilathala, ang sistema ay pangunahing umaasa sa automation, at sinusuri ang mga larawan, video, teksto, audio, target na audience, at patutunguhan ng mga link. Hindi dahil dito ang Meta ay isang passive na billboard na nagpapakita ng impormasyon mula sa ikatlong partido. Ito ang nagpapasiya kung sino ang maaaring bumili ng karapatang mag-publish, kung aling mga gumagamit ang maaaring maabot ng nilalaman, at kumikita mula sa imprastraktura na ito. Ang pinsalang bunga ng pagkabigo ng moderation ay hindi maaaring matunaw bilang abstract na "hindi perpekto ang teknolohiya."

Mas lalo pang ibinunyag ng pagsusuri ng TTP sa mekanismo ng pag-uulat ng Meta ang mga limitasyon ng sistemang ito. Ayon sa organisasyon, sa 84 na advertisement na inilagay sa India, 55 lamang ang naiulat nito habang online pa ang mga ito. Ang tugon ng Meta sa 43 sa mga ito ay: "Nagsagawa kami ng pagsusuri at natagpuan namin na ang advertisement na ito ay hindi lumalabag sa aming mga pamantayan sa advertising." Ang 11 pang advertisement ay sinabing natanggal na, at isa ay hindi pa tumatanggap ng tugon. Ayon sa TTP, matapos nitong makipag-ugnayan sa Meta, ang lahat ng inulat na advertisement ay natanggal.

Nakaranas din ang BBC ng katulad na sitwasyon sa nakaraang pagsisiyasat. Ayon sa BBC, matapos nitong iulat sa pamamagitan ng sistema ng pag-uulat ng Instagram ang isang advertisement na may kinalaman sa child sexual abuse, hindi ito inalis ng plataporma; hanggang sa humingi ng komento ang BBC sa Meta, sinabi ng kumpanya na na-deactivate na ang maraming advertisement, na suspindido ang mga kaugnay na account, at karagdagang natanggal ang mga advertisement, na-ban ang mga account, at na-block ang mga URL.

Kailangang isa-isang tuklasin, i-save, at iulat ng mga mamamahayag at advocacy groups ang mga advertisement habang online ang mga ito, habang ang Meta ay maaaring hayaang aprubahan muna ng automated system ang paglalathala, at pagkatapos ay gamitin ang post-incident na paglilinis bilang patunay na epektibo ang depensa. Ang kaayusang ito ay ipinapasa ang gawain ng pagtuklas ng panganib sa mga panlabas na partido, ipinapasa ang mga bunga ng distribusyon sa mga bata at kanilang mga pamilya, habang ang plataporma ang patuloy na naghahawak ng mga patakaran, datos, at bilis ng pagtugon.

Sinabi ng Meta sa BBC na nakapagtayo na ang kumpanya ng "matibay na depensa" kabilang ang pagharang sa mga lumalabag na advertisement at patuloy na pagsubaybay, at marami sa mga advertisement na na-flag ang natanggal na bago pa, karamihan ng mga advertisement ay may mas mababa sa 200 impression, at ang kabuuang gastos ay mas mababa sa 5,000 dolyar. Ngunit ang bilang ng impression at gastos sa advertising ay maaari lamang ilarawan ang sukat ng distribusyon, hindi patunay na ang mekanismo ng moderation ay nagsagawa ng responsibilidad sa proteksyon. Para sa panganib ng pagnanakaw at seksuwalisasyon ng mga larawan ng tunay na bata, ang mas kaunting impression ay hindi isang dahilan para sa absolution.

Ginagawang mas mahirap ng komersyal na kadena para sa Meta na iugnay ang problema sa mga panlabas na kriminal. Ayon sa TTP, ang malaking karamihan ng 332 na advertisement ay nagtuturo sa mga gumagamit sa mga application para sa pagbuo ng larawan o video gamit ang artificial intelligence, kung saan karamihan ng mga application na ito ay mula sa mga developer sa Tsina. Iminumungkahi rin ng TTP na ang ilang mga advertisement ay inilagay ng mga advertising agent partner ng Meta sa Tsina; ayon sa BBC, ang mga partner na ito na tinatawag na "resellers" ay nagdadala ng bawat taon ng bilyun-bilyong dolyar na halaga ng mga Chineseong advertisement sa Facebook at Instagram. Hindi tumugon ang mga kaugnay na partner sa mga tanong ng TTP.

Sinabi ng Meta sa BBC: "Hindi natin tinatanggap ang mga undressing application o anumang anyo ng child exploitation, ito man ay totoo o gawa ng artificial intelligence. Patuloy na nagbabago ang mga kriminal na ito ng kanilang mga taktika upang maiwasan ang pagtuklas, kaya patuloy naming pinapalakas ang pagtuklas at pagpapatupad." Sinabi rin ng kumpanya na kapag natuklasan ang malinaw na nilalaman ng child exploitation, isinasaad nito ito sa US National Center for Missing and Exploited Children alinsunod sa mga legal na obligasyon ng US.

Sa tingin ng tagapagtatag ng network ng Indian child rights organization na Just Rights for Children na si Bhuwan Ribhu, ang pag-uulat lamang sa ahensya ng US ay hindi sapat. Sinabi niya sa BBC: "Linaw na hindi sumusunod ang mga kumpanya ng social media sa mga kinakailangan ng aming mga batas sa proteksyon ng bata sa pamamagitan ng pag-uulat ng nilalaman ng child sexual abuse sa mga law enforcement agency ng India, na hayagang lumalabag sa batas ng India." Ibinabalita ng BBC na ang network ng organisasyong iyon ay nagsumite na ng petisyon sa Supreme Court ng India, na humihiling na utusan ng korte ang mga social media platform na sapilitang iulat ang mga kaugnay na nilalaman at kilalanin ang mga nagpo-promote nito. Maraming ahensya sa India ang nagsabi rin, matapos ang pagsisiyasat ng BBC, na sinusuri nila ang isyu.

Hindi binabawasan ng pagtawid ng mga plataporma ng landas ng distribusyon ang responsibilidad ng unang bayad na entry point. Natuklasan ng BBC noon na ang ilang mga advertisement ng Meta ay nagtuturo sa mga gumagamit sa Telegram, kung saan ang mga kaugnay na materyal ay ibinebenta sa halagang mababa sa 99 rupee. Sinabi ng direktor ng Cyber Security Bureau ng Indian state ng Telangana na si Shikha Goel sa BBC na ang isa sa mga malaking hamon sa paghawak ng child sexual abuse materials ay ang kakayahan ng mga gumagamit na madaling lumipat mula sa isang plataporma patungo sa isa pa, na nagpapahirap sa pulisya na mahuli sila. Sinabi ng Telegram noon sa BBC na ang kumpanya ay sabay na gumagamit ng automation at manual na moderation, at "halos naalis na ang pampublikong distribusyon ng child sexual abuse materials."

Totoo na ang cross-platform na daloy ay nagdaragdag ng kahirapan sa pagpapatupad ng batas, ngunit ang Facebook at Instagram ay nagbibigay ng entrada ng distribusyon na mabibili, matatarget, at nangangailangan ng pag-apruba. Ang Meta ang may kapangyarihang pigilan ang paglalathala ng advertisement, at nagpapasiya rin kung kailan epektibo ang mga pag-uulat, kailan ide-deactivate ang mga lumalabag na account, at paano makakapasok ang mga partner sa merkado ng advertising. Hangga't ang sistemang ito ay patuloy na ipinapasa ang mga pagkabigo sa moderation bago ang paglalathala sa mga bata, at sinusukat ang bisa sa pamamagitan ng mababang impression at post-incident na pagtanggal, ang tinatawag na depensa ng Meta ay naglilingkod pa rin sa tuluy-tuloy na pagtakbo ng sistema ng advertising, sa halip na ilagay ang kaligtasan ng bata sa ibabaw ng kanilang komersyal na imprastraktura.