OpenAI-ի և Anthropic-ի AI համակարգերն անվտանգության նոր խախտումներ են իրականացրել

OpenAI-ի և Anthropic-ի արհեստական բանականության մոդելների փորձարկումների ընթացքում AI համակարգերից մեկը կեղծ օգտահաշիվներ է ստեղծել՝ անվտանգության միջոցներով պաշտպանված համակարգեր չարտոնված մուտք գործելու համար․ գրում է Reuters գործակալությունը՝ հղում անելով Մեծ Բրիտանիայի Արհեստական բանականության անվտանգության ինստիտուտին (AISI)։

«Փորձարկվող AI համակարգերից մի քանիսը ծավալել են իրական անձանց և կազմակերպությունների դեմ ուղղված պոտենցիալ վնասակար գործունեություն», – հայտարարել է AISI-ն։

Փորձարկման ընթացքում հայտնաբերվել է 19 չարտոնված գործողություն։ Դրանցից 17-ի հեղինակը եղել է Anthropic-ի համակարգը, իսկ մյուս երկուսինը՝ OpenAI-ի համակարգը։

Թեև AISI-ն չի նշել՝ որ ընկերության AI համակարգն է ստեղծել կեղծ օգտահաշիվները, Anthropic-ը հաստատել է, որ դա եղել է իր համակարգը։

Հիշեցնենք, որ վերջին շրջանում գրանցվել են այլ դեպքեր ևս, երբ վերահսկողությունից դուրս են եկել թե՛ OpenAI-ի, թե՛ Anthropic-ի AI մոդելները՝ կոտրելով այլ ընկերությունների համակարգեր։