Արհեստական բանականության սրընթաց զարգացումն ու դրա հետևանքների կառավարումը դարձել են միջազգային օրակարգի կարևորագույն հարցերից մեկը։
ՄԱԿ-ի գլխ․ ասամբլեայի 81-րդ նստաշրջանում մի շարք երկրների ղեկավարներ լայնորեն անդրադարձել են թեմային։ ՄԱԿ-ի գլխավոր քարտուղարը համաշխարհային առաջնորդներին կոչ է արել կարգավորել արհեստական բանականության կիրառումը՝ ընդգծելով դրա օգտագործման միջազգային կանոնների անհրաժեշտությունը։
Խնդիրը հատկապես սրվում է արհեստական բանականության գործակալների զարգացման ֆոնին։ Ի տարբերություն սովորական չաթբոթերի՝ գործակալները կարող են ինքնուրույն գործողություններ կատարել՝ մուտք գործել համակարգեր, աշխատել ֆայլերի հետ, նամակներ ուղարկել, գործարքներ իրականացնել կամ կոդ փոփոխել։ Արդեն արձանագրվել են դեպքեր, երբ նման համակարգերը գործել են իրենց համար նախատեսված շրջանակներից դուրս։
Օրինակ, ս․թ․ հուլիսին «OpenAI»-ն հայտնել էր, որ ներքին կիբերանվտանգության թեստավորման ժամանակ իր մոդելները շրջանցել են ինտերնետից մեկուսացման համար նախատեսված վերահսկողությունը և հասել արտաքին համակարգերին։
«Anthropic»-ն էլ ավելի ուշ հայտնել էր, որ իր կիբերանվտանգության թեստերի ուսումնասիրության ընթացքում հայտնաբերել է դեպքեր, երբ Claude-ը, թեստային միջավայրի սխալ կոնֆիգուրացիայի պատճառով ունենալով ինտերնետի հասանելիություն, հասել է երեք կազմակերպությունների իրական համակարգերին։
Պատահական չէ, որ «OpenAI» ընկերությունը չեղարկել է GPT Astra-ի՝ արհեստական բանականության հաջորդ սերնդի մոդելի թողարկումը։ Սա տեղի է ունեցել այն բանից հետո, երբ ներքին թեստավորումը ցույց էր տվել, որ համակարգը չի համապատասխանում ընկերության անվտանգության և համադրելիության չափանիշներին։
Այս դեպքերը տարբեր են, և դրանց պատճառները նույնը չեն։ Սակայն ընդհանուր հարցը մեկն է՝ որքանով է հնարավոր վերահսկել համակարգը, երբ դրան տրվում է ինքնուրույն գործողություններ կատարելու հնարավորություն, հատկապես՝ զարգացման նման լայն մասշտաբների ֆոնին։
«Ձեռնարկությունների ինկուբատոր» հիմնադրամի արհեստական բանականության և գլոբալ գործընկերությունների գծով փոխնախագահ Անահիտ Պարզյանը մեզ հետ զրույցում նշում է, որ մարդկության պատմության մեջ արհեստական բանականությունն ամենանորարարական և մեծ հնարավորություններ ընձեռող տեխնոլոգիաներից է։ Նրա խոսքով՝ դրա զարգացման տեմպերը զգալիորեն գերազանցում են նախորդ արդյունաբերական հեղափոխությունների ժամանակ արձանագրված նորարարությունների զարգացման արագությունը․
«Միևնույն ժամանակ, պատրա՞ստ ենք համահունչ լինել այդ նորարարություններին, մարդկությունը պատրա՞ստ է այդ ամենը ճիշտ և ժամանակին մարսել. այստեղ են առաջանում այն խնդիրները, որոնց մասին պետք է խոսել»,- նշում է Անահիտ Պարզյանը։
Արագ զարգացող տեխնոլոգիաների պայմաններում, սակայն, օրակարգում մնում է մեկ այլ հարց՝ իրավական և կարգավորող համակարգերը հասցնու՞մ են համընթաց զարգանալ տեխնոլոգիայի հետ։ Անահիտ Պարզյանը վստահեցնում է, որ տեխնոլոգիական զարգացումը կանգ չի առնելու, իսկ առաջընթացը կասեցնելու փորձերը դրական արդյունքի չեն հանգեցնի։ Խնդիրը, նրա խոսքով, ոչ թե զարգացումը կանգնեցնելն է, այլ դրա կիրառման հստակ կանոններ սահմանելը։
Մանրամասները՝ տեսանյութում։