Mkuu wa Ulinganifu wa Anthropic anakiri hadharani hatari ya superinteligence 'isiyo na suluhisho', wataalam wa tasnia wanatoa onyo la 'kubetia maisha ya binadamu'

Mkuu wa Sayansi ya Ulinganifu wa Anthropic, Evan Hubinger, wiki hii amekiri hadharani kwa nadra, akisema ndani ya kampuni wanaamini kwa dhati kwamba superinteligence inaweza "kuua binadamu wote" ndani ya muongo huu, na kwamba bado hakuna suluhisho wazi kwa tatizo linaloitwa "tatizo la ulinganifu". Hii ni mshtuko mpya kutoka ndani ya kampuni baada ya mtafiti wa Anthropic, Jacob Coxon, kutangaza kujiuzulu.

Kulingana na ripoti ya ABC News Australia, Coxon alisema moja kwa moja kwenye mtandao wa kijamii X kwamba, baada ya kufanya kazi ya utafiti wa pre-training kwa miaka mitatu kwa jumla katika Anthropic na OpenAI, alichagua kuondoka kwa sababu "makampuni yote mawili hayakufanya mambo kwa uwajibikaji". Maneno yake halisi yalikuwa: "Wanakaribia moja kwa moja kuelekea superinteligence inayojiboresha yenyewe, wakiweka bahati ya maisha yetu."

Hubinger baadaye alijibu kwenye X akisema maneno ya Coxon yalikuwa "sahihi". Aliandika: "Kweli tunaamini kwa dhati kwamba AI inaweza kuua binadamu wote! Mimi binafsi nafikiri uwezekano wa kutokea ndani ya muongo mmoja ujao ni zaidi ya 10%." Kuhusu suala la mwelekeo wa kiufundi linalohusu uhai wa kampuni na hatma ya binadamu, wakati huo huo alikiri: "Ninaamini Anthropic inafanya jitihada zake bora, lakini bado hatuna suluhisho la tatizo la ulinganifu wa superinteligence, wala hatuko waziwazi kwenye njia inayoelekea kwenye suluhisho hilo."

Coxon hakuwa peke yake. Mwezi Julai mwaka huu, zaidi ya wafanyakazi 1,300 kutoka Anthropic, OpenAI, na kampuni nyingine za AI za mbele walisaini tamko la umma, wakiwaonya kwamba "maendeleo ya uwezo yanaweza kupita haraka uwezo wetu wa kuelewa au kudhibiti mifumo tunayozalisha", na wakaomba serikali ya Marekani kuunga mkono juhudi za kimataifa kuanzisha zana zinazoweza "kudhibiti kwa makusudi kasi ya maendeleo ya AI ya mbele". Mpango huo ulipewa jina la "Pacing the Frontier".

Hata hivyo, majibu ya makampuni yote mawili kwa tamko hilo yalibaki katika ngazi ya kanuni, badala ya ahadi za vitendo maalum. Kulingana na taarifa za ABC News Australia zikirejelea taarifa za makampuni hayo kwenye jukwaa la X, Anthropic ilikiri kwamba utafiti wake uliotolewa mwezi uliopita kuhusu "kujiboresha kwa kurudia" "unaelekeza kwenye hitaji la zana za kudhibiti kwa makusudi kasi ya maendeleo ya AI ya mbele, ili jamii iweze kujiandaa"; OpenAI kwa upande wake ilisema kwa maneno yasiyo wazi, "Tunaamini, wakati fulani siku za usoni, kasi ya maendeleo ya AI ya mifano ya mbele inaweza kuwa juu sana, hata dunia inahitaji kudhibiti kasi ya maendeleo ya AI". Makampuni yote mawili hayakutoa ahadi ya kusimamisha utafiti au kukubali udhibiti wa nje wenye nguvu za kisheria.

Kukosekana kwa udhibiti katika ngazi ya kimataifa sasa kunatajwa kwa uwazi zaidi katika mikutano ya kimataifa. Kulingana na ripoti ya ABC News Australia, Kamishna Mkuu wa Mambo ya Haki za Binadamu wa Umoja wa Mataifa, Volker Turk, Jumatano huko Geneva alionya kwamba AI ya hali ya juu inaweza kuwa "hatari ya kuwepo" kwa binadamu, na akaapa kuwasukuma kampuni husika ili kupunguza hatari zilizoorodheshwa katika ofisi yake - ikiwemo athari kwa huduma za umma, mawasiliano, na mifumo ya kidemokrasia. Turk aliomba "kujenga dhamana za chuma" kwa usalama wa AI "kabla haijawa mwisho". "Ninawasiwasi kama watu wa ndani ya tasnia kwamba AI ya hali ya juu inaweza kuwa hatari ya kuwepo kwa binadamu," alisema akizungumza katika taasisi ya Umoja wa Mataifa.

Tabia ya "tatizo la ulinganifu" ni kwamba: mfumo wa AI unaozidi uwezo wa binadamu unaweza kutoshiriki maadili ya binadamu. Katika muktadha ambapo ngazi ya shirikisho ya Marekani bado haijanzisha mfumo wa udhibiti wenye nguvu za kisheria kuhusu AI ya mbele, sasa ndani ya tasnia wanakiri kwa njia ya waziwazi zaidi: mgawanyo wa hatari na tuzo katika mbio hii hauna usawa - tuzo zinazuiwa na makampuni, gharama inaweza kuanguka kwa kila mtu.