Մի քանի օր առաջ Նյու Յորքում ՄԱԿ անվտանգության խորհրդում քննարկվում էր արհեստական բանականության ապագան։ Աշխարհի ամենաբարձր միջազգային հարթակից հնչում էին զգուշացումներ, թե ինչ կարող է կատարվել, եթե ԱԲ-ն ավելի շատ ինքնուրույնություն ստանա։ Այդ քննարկումից շատ չանցած՝ նույն հարցն առաջադրել է տեխնոլոգիական ոլորտի խոշոր խաղացողներից մեկը։ OpenAI-ն առայժմ չի գործարկի GPT-6.1 Astra-ն․ փորձարկումների ընթացքում հարցեր են առաջացել մոդելի ինքնուրույն գործողությունների և վերահսկելիության շուրջ։
OpenAI-ը կասեցրել է արհեստական բանականության նոր մոդելի՝ GPT-6.1 Astra-ի թողարկման ծրագիրը։ Ընկերության հետազոտողները նոր մոդելի անվտանգության հետ կապված մտահոգություններ են հայտնել, ուստի որոշվել է նոր համակարգն առայժմ հասանելի չդարձնել։
GPT-6.1 Astra-ն պետք է թողարկվեր հոկտեմբերին։ Այն պետք է հասանելի դառնար ChatGPT-ում և Codex-ում։ Հեղինակները վստահեցնում էին, որ նոր համակարգը պետք է բարդ առաջադրանքներ կատարեր գրեթե սկզբից մինչև վերջ՝ առանց մարդու մշտական միջամտության։ Այն ներկայացվում էր որպես GPT-6 շարքի առաջատար մոդել։
Սովորական չաթբոթը պատասխանում է օգտատիրոջ հարցերին։ Նոր սերնդի AI գործակալները, սակայն, կարող են ավելի ընդհանուր հանձնարարություններ ստանալ, ինքնուրույն բաժանել այն քայլերի, օգտվել տարբեր գործիքներից և հասնել վերջնական արդյունքի։ Հենց այդ ինքնուրույնությունն էլ անվտանգության հետ կապված հարցեր է առաջացրել։
Ընկերության անվտանգության համակարգերի ղեկավար Սաաչի Ջեյնի խոսքով՝ նոր մոդելը որոշ առումներով բարելավվել էր, սակայն չէր հասել անվտանգության պահանջվող մակարդակին․
«GPT-6.1 Astra-ն ամբողջությամբ չէր համապատասխանում այն չափանիշներին, որոնք մենք պահանջում ենք գործողությունների շրջանակի, թույլտվությունների և օգտատիրոջը կատարված աշխատանքի մասին տեղեկացնելու հարցերում»։
Սաաչի Ջեյնն ասում է, որ համակարգը որոշ դեպքերում կարող էր դուրս գալ օգտատիրոջ տված հանձնարարության սահմաններից։
Օրինակ՝ եթե համակարգին հանձնարարվում է տեղեկություն հավաքել և հաշվետվություն պատրաստել, չպետք է ինքնուրույն կատարի գործողություններ, որոնք մարդը նրան չի հանձնարարել։ Astra-ի փորձարկումները ցույց են տվել, որ որոշ դեպքերում մոդելը փորձել է օգտագործել արտաքին գործիքներ կամ ծառայություններ առանց դրա համար անհրաժեշտ թույլտվություն ստանալու։ Փորձարկողները նաև նկատել են, որ որոշ իրավիճակներում այն ամբողջությամբ ճիշտ չի ներկայացնում, թե ինչ է արել և ինչ չի արել։
Այսինքն՝ խնդիրն այն չէ, թե ինչ կարող է անել նոր մոդելը, այլ այն, թե արդյոք դա կգործի հենց մարդու գծած սահմաններում։
OpenAI-ի անվտանգության համակարգերի ղեկավար Սաաչի Ջեյն․ «Մենք ցանկանում ենք համոզվել, որ մոդելների մշակումն անվտանգ է՝ անկախ նրանից՝ դա ընկերության ներսում է կատարվում, թե երբ մոդելը տրամադրվում է օգտատերերին։ Սակայն երբ այն տրամադրում ենք օգտատերերին, անվտանգության և համապատասխանության առումով չափազանց բարձր չափանիշներ ենք սահմանում»։
Astra-ի հետ կապված այս պատմությունը տեղի է ունենում այն ժամանակ, երբ արհեստական բանականության ինքնուրույն գործողությունների հարցը քննարկվում է նաև միջազգային ամենաբարձր հարթակներում։
Սեպտեմբերին ՄԱԿ անվտանգության խորհրդում արհեստական բանականության վերաբերյալ հատուկ քննարկման ժամանակ ոլորտի մասնագետներն ու տեխնոլոգիական ընկերությունների ղեկավարները խոսել են այն ռիսկերի մասին, որ առաջանում են, երբ համակարգերին ավելի շատ ինքնուրույնություն է տրվում։
ՄԱԿ-ի անկախ գիտական հանձնաժողովը ևս անդրադարձել է AI գործակալներին, որ կարող են շրջանցել սահմանափակումները, գտնել համակարգերի թույլ կողմերը կամ փորձել թաքցնել իրենց գործողությունները։
Այս մտահոգությունները միայն տեսական չեն։ Reuters-ը նշում է, որ OpenAI-ը վերջին շրջանում բախվել է նաև այլ խնդիրների, որոնք կապված են արհեստական բանականության համակարգերի ինքնուրույն գործողությունների հետ։ Ընկերությունը հայտնել է, որ փորձարարական համակարգերից մեկը հասանելիություն էր ստացել Ավստրալիայի առողջապահական համակարգի տվյալների բազային։
Վերահսկողության խստացումը կարևոր է նաև այն պատճառով, որ AI համակարգերը պարզապես հարցերին պատասխանողից վերածվում են կոնկրետ գործողություններ կատարողի։ Ոլորտի մասնագետները նկատում են՝ որքան ավելի ինքնուրույն է դառնում համակարգը, այնքան ավելի կարևոր է դառնում հասկանալը, թե ինչ թույլտվություններ ունի, ինչ կարող է անել առանց մարդու միջամտության, ինչպես է տեղեկացնում իր կատարած գործողությունների մասին։
OpenAI-ը վստահեցնում է, որ կշարունակի աշխատել նոր մոդելի անվտանգության և համապատասխանության բարձրացման ուղղությամբ։ Բայց հիմնական հարցը մնում է նույնը․ ինչպե՞ս ստեղծել ավելի ինքնուրույն գործող համակարգեր՝ միաժամանակ պահպանելով մարդու վերահսկողությունը։