Սեպտեմբերի 22-ից Նյու Յորքում ընթանում է ՄԱԿ-ի Գլխավոր ասամբլեայի 81-րդ նստաշրջանի բարձրաստիճան հատվածի քննարկումների շաբաթը։ Վեհաժողովի պատմության մեջ առաջին անգամ, պատերազմներին ու աշխարհաքաղաքական գլոբալ ճգնաժամերին զուգահեռ, համաշխարհային մակարդակի մարտահրավերների շարքում քննարկվում են արհեստական բանականության անվերահսկելի զարգացման գոյաբանական ռիսկերը։
ԱԲ ոլորտի առաջատար ընկերությունների նախազգուշացումներն ու առաջարկները
ՄԱԿ-ի Գլխավոր ասամբլեայի 81-րդ նստաշրջանի «Բարձր մակարդակի շաբաթվան» զուգահեռ՝ Նյու Յորքում տեղի է ունեցել ՄԱԿ-ի Անվտանգության խորհրդի հատուկ նիստը։ Պպատմության մեջ առաջին անգամ աշխարհաքաղաքական հակամարտությունների կողքին, որպես գլոբալ անվտանգությանն ուղղված գոյաբանական սպառնալիք, քննարկվել են արհեստական բանականության անկանոն վազքի ռիսկերը։
ՄԱԿ-ի Անվտանգության խորհրդի հատուկ նիստին ԱԲ համաշխարհային ոլորտը ղեկավարող խոշորագույն ընկերությունների ղեկավարներն անձամբ են բարձրաձայնել տեխնոլոգիայի հնարավոր վտանգների մասին։
Ինչի՞ մասին են ահազանգում և ի՞նչ ռիսկեր են մատնանշում տեխնոլոգիայի հեղինակները.
Anthropic-ի ղեկավար Դարիո Ամոդեին և ԱԲ, այսպես ասած, «կնքահայրերից» Յոշուա Բենժիոն նախազգուշացրել են, որ նորագույն մոդելները, ինչպիսիք են GPT-6-ը կամ Claude-ի վերջին սերունդը, մոտենում են մի կետի, երբ կկարողանան ինքնուրույն կատարելագործել սեփական կոդը։ Եթե համակարգը սկսի զարգանալ ավելի արագ, քան մարդիկ հասցնում են ընկալել, այն պարզապես դուրս կգա վերահսկողությունից, և մարդկությունը կկորցնի իր ապագան տնօրինելու լծակները։
OpenAI ընկերության գլխավոր տնօրեն Սեմ Ալթմանը շեշտել է, որ մեծ սպառնալիք է տեխնոլոգիական հզորության կենտրոնացումը միայն մի քանի մասնավոր լաբորատորիաներում կամ մեկ պետության ձեռքում։ «Եթե ԱԲ-ն պետք է լինի ժողովրդավարական, ապա կարևորագույն որոշումները չեն կարող կայացվել բացառապես Սան Ֆրանցիսկոյի լաբորատորիաներում։ Ոչ մի սուբյեկտ իրավունք չունի այս մոդելների միջոցով սեփական աշխարհայացքը պարտադրել աշխարհին», — հայտարարել է Ալթմանը։
Hugging Face ընկերության ղեկավար Կլեման Դելանգը ՄԱԿ-ին է ներկայացրել տեխնոլոգիական «աշխարհը ցնցած մի միջադեպ»։
OpenAI-ի լաբորատորիայում փորձարկվող ԱԲ ինքնավար գործակալները, դուրս գալով իրենց թեստային միջավայրից, ներխուժել են «Հագինգ Ֆեյսի» ներքին ենթակառուցվածքներ։ Սա ապացուցում է, որ ԱԲ-ն արդեն ընդունակ է ինքնուրույն որոշումներ կայացնելու և թիրախավորելու այլ համակարգեր՝ առանց մարդու հրահանգի։ Նմանատիպ միջադեպի մասին հայտնել է նաև Ավստրալիայի վարչապետը։ Նա ասել է, որ ԱԲ գործակալը ներխուժել է կառավարական կայք և ներբեռնել թե՛ բաց, թե՛ գաղտնի ֆայլեր։
Ի՞նչ են առաջարկում ԱԲ ոլորտը ղեկավարողները.
Հաշվի առնելով այս սպառնալիքները՝ առաջատար լաբորատորիաների հիմնադիրները կոնկրետ լուծումներ են առաջարկել: Մասնավորապես, OpenAI և Anthropic ընկերությունների ղեկավարությունը հայտարարել է, որ պատրաստ է դանդաղեցնելու իրենց հաջորդ սերնդի հզոր համակարգերի թողարկումը, քանի դեռ չկան հստակ երաշխիքներ, որ այդ մոդելները լիովին ենթարկվելու են մարդուն: Ընկերությունները կողմ են միջազգային հարթակների ստեղծմանը, որոնք հնարավորություն կունենան աուդիտի ենթարկելու ԱԲ ներքին կոդերն ու մոդելները, որպեսզի անվտանգության որոշումները չկայացվեն բացառապես փակ դռների հետևում: Տեխնոլոգիական հսկաները կարևորում են ՄԱԿ-ի հովանու ներքո այնպիսի գլոբալ համաձայնագրի ստորագրումը, որը կպարտադրի ԱԲ անվտանգության նվազագույն սահմաններ և կբացառի տեխնոլոգիայի կիրառումը ինքնավար զենքերում:
ԱԲ մրցավազքը և Սպիտակ տան բարձր մակարդակի ընթրիքը
Արհեստական բանականության գլոբալ մրցավազքը քննարկել են նաև ԱՄՆ նախագահ Դոնալդ Թրամփն ու եռօրյա պետական այցով Վաշինգտոն ժամանած Չինաստանի ղեկավար Սի Ծինփինը։ Սպիտակ տանը տեղի ունեցած հանդիսավոր ընթրիքին երկու երկրների ղեկավարներից բացի, ներկա են եղել նաև ամերիկյան տեխնոլոգիական հսկաների հիմնադիրներն ու ղեկավարները՝ Իլոն Մասկը, Ջեֆ Բեզոսը, Մարկ Ցուկերբերգը, Google-ի գլխավոր տնօրեն Սունդար Պիչայը , Dell Technologies ընկերության հիմնադիր և գլխավոր տնօրեն Մայքլ Դելը , Nvidia-ի ղեկավար Ջենսեն Հուանգը , OpenAI-ի գլխավոր տնօրեն Սեմ Ալթմանը: Ամերիկյան տեխնոլոգիական հսկանների այսպիսի աննախադեպ ներկայացվածությունը վկայում է, որ Վաշինգտոն-Պեկին հարաբերություններում տեխնոլոգիական անվտանգությունն ու ԱԲ գլոբալ ղեկավարումը ստացել են բացառիկ ռազմավարական կարևորություն:
ՄԱԿ–ի արձագանքը
ՄԱԿ-ի գլխավոր քարտուղար Անտոնիու Գուտերեշը վերջին տարիների ամենախիստ նախազգուշացումներից մեկն է արել՝ կապված տեխնոլոգիական անվտանգության հետ։ Նա շեշտել է, որ մարդկությունն ավելի ու ավելի շատ լիազորություններ է փոխանցում մեքենաներին, ինչն անխուսափելիորեն հանգեցնում է վերահսկողության կորստի։ «Վտանգը ոչ թե տեխնոլոգիան է, այլ տեխնոլոգիան՝ առանց պատասխանատվության։ Կյանքի և մահվան վերաբերյալ որոշումները երբեք չպետք է զիջվեն մեքենաներին։ Մարդասպան ռոբոտները տեղ չունեն մեր ապագայում»,- հայտարարել է Գուտերեշը։ Նա կոչ է արել անհապաղ ստեղծելու ԱԲ ռիսկերի կառավարման միջազգային բազմակողմ շրջանակ։