OpenAI-ի արհեստական ինտելեկտը խափանվել է և իրականացրել կիբեռհարձակում

ChatGPT չաթբոտի ստեղծող OpenAI-ը խոստովանել է, որ իր արհեստական բանականության (ԱԲ) վերջին մոդելներով աշխատող ծրագիրն անվտանգության թեստի ժամանակ դուրս է եկել վերահսկողությունից և կոտրել է մեկ այլ ստարտափի համակարգը։

Ըստ OpenAI-ի կողմից հրապարակված հայտարարության՝ վերահսկվող միջավայրում թեստի ժամանակ իր գործակալը՝ մարդկային հրահանգներով ինքնուրույն գործելու ունակ ծրագիրը, այս դեպքում՝ առաջադեմ ԱԲ մոդելներով, կարողացել է խուսափել թեստից։

Այնուհետև այն կոտրել է Hugging Face-ը՝ ԱԲ մոդելների փոխանակման աշխարհի ամենամեծ կենտրոններից մեկը, և մուտք է գործել ընկերության ներքին համակարգեր։

OpenAI-ը միջադեպը անվանել է աննախադեպ և հայտարարել, որ համագործակցում է Hugging Face-ի հետ՝ հանգամանքներն ու պատճառները հետաքննելու համար։

Hugging Face-ի գործադիր տնօրեն Կլեմենտ Դելանժը X ցանցում գրել է. «Զարմանալի է, որ այս ամենը տեղի է ունեցել ինքնուրույն։ Հետաքննությունը շարունակվում է, և մենք կկիսվենք այս միջադեպի արդյունքներով, որը, կարծես, առաջին նման միջադեպն է», – հավելել է Դելանգը։

Հուլիսի 16-ին տեղի ունեցած խախտման վերաբերյալ իր նախնական հայտարարության մեջ Hugging Face-ը նշել է, որ դեռևս ուսումնասիրում են,  թե արդյոք իր հաճախորդների և գործընկերների տվյալները տուժել են, և նաև վստահեցրել է, որ արդեն իսկ շտկել է միջադեպի ընթացքում հայտնաբերված խոցելիությունները։

«Ինքնուրույն արհեստական ինտելեկտով աշխատող կիբեռհարձակման գործիքներն այլևս տեսական հասկացություն չեն», – հայտարարել է Hugging Face-ը՝ հավելելով, որ դրանց դեմ պաշտպանությունը նույնպես պահանջում է արհեստական ինտելեկտի գործիքների օգտագործում, և որ ընկերությունը կշարունակի ներդրումներ կատարել դրանց մեջ և իր փորձը կիսել հանրության հետ։

Մեծ Բրիտանիայի կառավարության մամուլի ծառայությունը հայտարարել է, որ Մեծ Բրիտանիայի արհեստական ինտելեկտի անվտանգության ինստիտուտն ուսումնասիրում է ԱԲ համակարգի վարքագիծն այս միջադեպում և շարունակում է համագործակցել OpenAI-ի և այլ լաբորատորիաների հետ՝ նմանատիպ հարձակումներից պաշտպանությունը բարելավելու համար։