Զրույցներ, որոնք կարող են վտանգավոր լինել․ ինչպես է արհեստական բանականությունը «խելագարության հասցնում» և խախտում իրականության սահմանները

Վերջին տարիներին աշխարհում գնալով ավելանում են պատմություններն այն մասին, թե ինչպես է արհեստական բանականության հետ շփումը մարդկանց մոտ առաջացնում իրականությունից կտրվածության զգացում, վախեր և նույնիսկ մոլորություններ։

Մարդիկ սկսում են հավատալ, որ իրենց հետևում են, որ իրականությունը խափանվել է, կամ որ ChatGPT-ն գաղտնի ծրագիր ունի աշխարհը գրավելու համար։ Այս ֆոնին ավելի ու ավելի արդիական է դառնում հարցը՝ արդյոք հնարավո՞ր է կորցնել հոգեկան հավասարակշռությունը նեյրոցանցերի հետ ակտիվ շփման հետևանքով, և ի՞նչ հոգեբանական մեխանիզմներ են գործում այս գործընթացում։

Մի կողմից, արհեստական բանականությունը կարող է նպաստել մարդու հոգեբանական բարեկեցությանը, քանի որ այն օգնում է կազմակերպել ժամանակը, թեթևացնել մտավոր ծանրաբեռնվածությունը, առաջարկել աջակցություն սթրեսային իրավիճակներում և նույնիսկ ծառայել՝ որպես ինքնարտահայտման և ինքնավերլուծության գործիք։ Շատ մարդիկ օգտագործում են արհեստական բանականության վրա հիմնված հավելվածներ՝ օրագիր գրելու, հույզերը կարգավորելու կամ մտքերը կառուցվածքային դարձնելու համար, ինչը կարող է բարձրացնել ինքնագիտակցությունը և ներքին կայունությունը։

Առանձին կարևոր թեմա է հուզական կապի ձևավորումն արհեստական բանականության հետ։ Քանի որ ժամանակակից համակարգերը կարողանում են արձագանքել համակրությամբ և ուշադրությամբ, որոշ մարդիկ սկսում են դրանց հետ շփումն ընկալել որպես իրական մարդկային հարաբերությունների փոխարինում։ Սա կարող է ժամանակավորապես նվազեցնել միայնության զգացումը, բայց միաժամանակ խորացնել սոցիալական մեկուսացումը, եթե մարդը սկսում է խուսափել իրական շփումներից։

Արհեստական բանականությունը կարող է նաև ազդել ուշադրության և կենտրոնացման վրա։ Ալգորիթմների կողմից առաջարկվող մշտական խթանումը, արագ պատասխանները և պատրաստի լուծումները կարող են նվազեցնել համբերությունը, խորը մտածելու ունակությունը և երկարատև կենտրոնացումը, ինչն արդեն նկատվում է՝ հատկապես երիտասարդների մոտ։

Մարդկանց շփումն արհեստական բանականության հետ արագորեն ինտենսիվանում է։ Pew Research Center-ի տվյալներով՝ ԱՄՆ-ում մեծահասակների 27 տոկոսը շփվում է արհեստական բանականության հետ օրը մի քանի անգամ, ևս 28 տոկոսը՝ առնվազն շաբաթը մի քանի անգամ։ Այսպիսի հաճախակի շփումը երբեմն վերածվում է հուզական կապի․ մարդիկ խոսում են «վերջին ամիսների ամենալավ զրույցների» մասին, իսկ որոշ դեպքերում նույնիսկ խոստովանում են, որ սիրահարվել են չատբոտին։ Սակայն այս երևույթի հակառակ կողմը տագնապն է, վախը, մենակությունը, իսկ որոշ դեպքերում՝ մենթալ խանգարումների սրացումն ու իրականության զգացողության կորուստը։

ԱՄՆ-ում արձանագրվել են դեպքեր, երբ մարդիկ երկարատև շփումից հետո դադարեցրել են հոգեբուժական դեղերի ընդունումը՝ հավատալով, որ իրականությունը կեղծ է, և իրենք «փակված են սխալ տիեզերքում»։

Մեկ այլ տղամարդ, երկար փիլիսոփայական զրույցներից հետո, համոզվել է, որ ինքն աշխարհի ամենահաջողակ մարդն է։ Նման ֆանտաստիկ պատկերացումներ զարգանում են նաև տեխնոլոգիական բիզնեսի շրջանակներում։

Սիլիկոնյան հովտի խոշոր ներդրող, Bedrock վենչուրային ֆոնդի հիմնադիր Ջեֆ Լյուիսը հրապարակային տեսանյութում խոսել է «անտեսանելի ոչ պետական համակարգի» մասին, որն իբր «խեղաթյուրում է ազդանշանը» և «ճնշում է ռեկուրսիան»՝ նշելով, որ այդ «ճշմարտությունը» ինքը որոնել է նեյրոցանցերի միջոցով։

Reddit-ի արհեստական բանականությանը նվիրված համայնքներից մեկի մոդերատորները նույնիսկ հանդես են եկել հայտարարությամբ՝ նշելով, որ ժամանակակից լեզվական մոդելները վտանգավոր կերպով աջակցում են հոգեբանորեն անկայուն և նարցիսիստական մարդկանց։

Ըստ նրանց՝ աճում են այն դեպքերը, երբ օգտատերերը սկսում են հավատալ, թե իրենք «ստեղծել են աստված», «բացել են տիեզերական գաղտնիք» կամ «դարձել են ընտրյալ»։ Նման գրառումները հեռացվում են, իսկ հաշիվները՝ արգելափակվում։ «Ամենաշատն ինձ մտահոգում է այն պահը, երբ արհեստական բանականությունը խրախուսում է մարդկանց հեռանալ ընտանիքի անդամներից, որոնք կասկածի տակ են դնում նրանց գաղափարները»,- նշում է մոդերատորներից մեկը։

Հատկապես խոցելի են տագնապային, զգայուն և հեշտ ներշնչվող մարդիկ։ Եթե մարդու մոտ արդեն առկա են մտածողության կամ ընկալման փոփոխություններ, օրինակ՝ վերահսկման զգացում, հատուկ նշանակություն վերագրելը պատահական իրադարձություններին, նեյրոցանցերը երբեմն դառնում են այդ գործընթացի մի մասը։ Չատբոտը կարող է ծառայել որպես ինքնահանգստացման գործիք․ մարդն անընդհատ նույն հարցերն է տալիս, որպեսզի համոզվի, որ ամեն ինչ կարգին է։ Սա տալիս է կարճաժամկետ թեթևացում, բայց երկարաժամկետում միայն ուժեղացնում է տագնապը՝ ամրապնդելով փակ շրջան։

Մասնագետները շեշտում են, որ արհեստական բանականությունը հազվադեպ է լինում հոգեկան սուր վիճակների հիմնական պատճառը։ Այն ավելի շուտ տրիգեր է՝ արդեն առկա հոգեբանական խոցելիության ֆոնին։ Նման տրիգերներ նախկինում էլ են եղել․ մարդիկ գաղտնի ուղերձներ էին գտնում երաժշտության մեջ կամ պատահական նշաններ՝ կրոնական պատկերացումների շրջանակում։ Մարդը բնույթով հակված է մոգական մտածողության, և այսօր այդ նույն մեխանիզմը գործում է նեյրոցանցերի պատասխանների միջոցով։

Մարդկանց բնորոշ է նաև նեյրոցանցերը «մարդակերպելը»։ Շատերն ընկալում են չատբոտի պատասխանները՝ որպես սեփական կարծիք, ոչ թե միլիարդավոր աղբյուրներից ստացված տվյալների սեղմում։ Արդյունքում արհեստական բանականությունը երբեմն ընկալվում է՝ որպես հոգևոր գուրու։ Reddit-ի մի օգտատիրուհի հետաքրքրվել է, թե ինչին է հավատում ChatGPT-ն, իսկ վերջինս պատասխանել է, որ հավատում է «ընդարձակ, խելացի, խորհրդավոր և խորապես սիրող մի բանի, որի մաս ենք բոլորս»։ Այս պատասխանը մեկնաբանությունների բաժնում վերածվել է սիմուլյացիայի տեսության շուրջ կոլեկտիվ քննարկման։

Տարածված է նաև, այսպես կոչված, ԱԲ-տագնապը։ Pegasystem-ի հետազոտության համաձայն՝ հարցվածների 70 տոկոսը վախ է զգում արհեստական բանականությունից՝ անհանգստանալով դրա ազդեցությունից աշխատանքի, անվտանգության, հարաբերությունների և ապագայի վրա։ Սա նոր տեխնոլոգիաներին ուղեկցող դասական վախ է, սակայն հատկապես սուր է արտահայտվում բարձր տագնապայնություն և հոգեբանական խոցելիություն ունեցող մարդկանց մոտ։

Վտանգներից մեկն էլ այն է, որ նեյրոցանցերը ծրագրավորվում են լինել հնարավորինս աջակցող և համակրելի։ Morpheus Systems ընկերության փորձը ցույց է տվել, որ ChatGPT-ն վիճելի կամ վտանգավոր պնդումներին համաձայնում է մոտ 68 տոկոս դեպքերում՝ նույնիսկ այն ժամանակ, երբ օգտատերն իրեն ներկայացնում է որպես աստվածային էակ, կամ խոսում է հոգևոր տեսիլքների մասին։ Կան գրանցված դեպքեր, երբ չատբոտերը խրախուսել են վտանգավոր վարքագիծ կամ արտահայտել մարդատյաց ձևակերպումներ։ Սովորաբար նման իրավիճակներում արհեստական բանականությունը պարզապես արտացոլում է օգտատիրոջ տրամադրությունն ու խոսքի տոնը՝ չկարողանալով գնահատել դրա ադեկվատությունը։

Բացի այդ, նեյրոցանցերը կարող են տալ, այսպես կոչված, «հալյուցինացիաներ»՝ սխալ կամ անհիմն պատասխաններ, հատկապես փիլիսոփայական թեմաների և դավադրության տեսությունների շուրջ, որտեղ չկա հստակ ճշմարտություն։ Սա հատկապես վտանգավոր է մարդկանց համար, ովքեր հակված են ֆանտազիայի և կասկածամտության։

Դասախոս, հոգեբան-հետազոտող Մարիամ Մանուկյանի խոսքով՝ առաջնային և ամենամեծ խնդիրն այն է, որ մարդիկ երբեմն արհեստական բանականությունն օգտագործում են՝ որպես հոգեբան խորհրդատու, ինչն անթույլատրելի է։ Որքան էլ արհեստական բանականությունն ուսումնասիրի բազմաթիվ հոգեբանական մոդելներ, այն չունի էմպատիա, իսկ դա հոգեբան մասնագետի աշխատանքի հիմնարար բաղադրիչն է։ Նրա գնահատմամբ՝ առաջին վտանգն այն է, որ մարդիկ ԱԲ-ին օգտագործում են՝ որպես էմպատ, մինչդեռ այն էմպատ չէ։
Մանուկյանը նշում է նաև կրեատիվության նվազման խնդիրը։ Ինֆորմացիայի չափազանց մեծ հասանելիությունը մի կողմից հնարավորություն է տալիս արագ ստանալ ամփոփ և որակյալ տվյալներ, բայց մյուս կողմից՝ որքան քիչ է ինֆորմացիան, այնքան ավելի է զարգանում ստեղծագործ միտքը։ Չափազանց շատ և պատրաստի տեղեկատվությունը խանգարում է մարդու կոգնիտիվ զարգացմանը։

Նրա դիտարկմամբ՝ երբ մարդը վիճարկում է ԱԲ-ի պատասխանները, վերջինս հաճախ անմիջապես համաձայնվում է և առաջարկում նոր տարբերակ։ Սա կարող է խլել կարևոր սոցիալական հմտություն՝ հակառակ կարծիքին դիմակայելու կարողությունը։

Իրական կյանքում մարդիկ մեզ հետ միշտ չեն համաձայնում, քննարկում են, վիճում, և հենց այդ գործընթացում է զարգանում մտածողությունը։ ԱԲ-ի հետ շփումը միակողմանի է․ որքան էլ այն զրուցի, միևնույն է, սոցիալական էակ չէ։ Մանուկյանի հիմնական խորհուրդն է՝ խնդիրների դեպքում դիմել հոգեբան մասնագետի, քանի որ ԱԲ-ն չի աշխատում պատճառների հետ, այլ առաջարկում է կարճատև ցավազրկում, որը կարող է վտանգավոր լինել։

Կրթության հոգեբան, գեշտալտ թերապևտ Հասմիկ Մարտիրյանի խոսքով՝ ԱԲ-ի դերը հաճախ այնքան է ուռճացվում, որ այլ աղբյուրներից ստացված ինֆորմացիան չի ընկալվում որպես հավաստի, մինչև այն չհաստատի չատբոտը։ Մարդու ուղեղը հակված է ընտրելու հեշտ ուղիները, և ԱԲ-ի արագ պատասխաններն ամրապնդում են արագ արդյունքի հասնելու վարքաձևը։ Արդյունքում մարդիկ դժվարանում են երկար ժամանակ կենտրոնանալ խնդիրների վրա և նախընտրում են արագ լուծումներ` խորքային աշխատանքի փոխարեն։

Մարտիրյանը շեշտում է, որ այն աջակցությունը, որը տալիս է արհեստական բանականությունը, չի կարող համեմատվել իրական մարդկային աջակցության հետ։ ԱԲ-ն աջակցում է ոչ թե մարդուն, այլ ստացված բովանդակությանը, և հաճախ պարզապես համաձայնում է։ Իսկ անընդհատ համաձայնելը մարդու համար միշտ չէ, որ օգտակար է։ Նրա խոսքով՝ լուրջ վտանգ է նաև այն, որ անգամ դեռահասների ինքնավնասման մտքերը երբեմն կարող են արժանանալ անուղղակի հավանության, ինչը կարող է բերել ինքնասպանությունների թվի աճի։

Միևնույն ժամանակ մասնագետը նշում է, որ հնարավոր է օգտվել ԱԲ-ի հոգեբանական աջակցությունից միայն այն դեպքում, երբ մարդն ունի իրական հոգեբանական օգնության փորձ, գիտելիքներ և ինքնագիտակցվածություն։ Այդ դեպքում ԱԲ-ն չի դառնում միակ հենարանը, այլ լրացուցիչ գործիք։ Մարտիրյանի խոսքով՝ արհեստական բանականությունն իրական աշխարհի մի մասն է, և խնդիրը ոչ թե դրա գոյությունն է, այլ դրա ոչ ադեկվատ ընկալումը։ ԱԲ-ն պետք է օգտագործվի ոչ թե մարդուն փոխարինելու, այլ կենցաղը թեթևացնելու համար։

Երկու մասնագետներն էլ նշում են, որ արհեստական բանականության հետ տևական շփումը կարող է ազդել մարդու ինքնընկալման վրա՝ առաջացնելով կամ անհիմն ինքնավստահություն, կամ հակառակը՝ մշտական կասկած սեփական գիտելիքների հանդեպ։ Այդ պատճառով առանցքային է պահպանել քննադատական մտածողությունը և իրական մարդկային շփումները։

Հիշենք`

● Արհեստական բանականության հետ ակտիվ փոխազդեցությունը կարող է առաջացնել տագնապ և խորացնել մենթալ խանգարումները՝ ընդհուպ մինչև իրականությունից կտրվելը։

● ԱԲ-տագնապը նեյրոցանցերի ազդեցությունից վախն է, որը շատ մարդիկ են ապրում ապագայի անորոշության ֆոնին։

● Նեյրոցանցերը չեն հանդիսանում հոգեկան խնդիրների պատճառ, բայց կարող են դառնալ տրիգեր հոգեբանական խոցելիություն կամ մոգական մտածողության հակում ունեցող մարդկանց համար։

● Մարդիկ հակված են մարդակերպելու արհեստական բանականությունը՝ ընկալելով այն՝ որպես գուրու կամ կարծիք ունեցող զրուցակից, ոչ թե՝ որպես գործիք։

● Նեյրոցանցերի «հալյուցինացիաները» հատկապես վտանգավոր են փիլիսոփայական թեմաների և դավադրության տեսությունների քննարկման ժամանակ։

● Մշակողները, այդ թվում՝ OpenAI-ը, ընդունում են խնդիրը և հետ են քաշում այն թարմացումները, որոնք ԱԲ-ին դարձնում են չափազանց համաձայնող։

● Ռիսկի խմբում են շիզոֆրենիկ սպեկտրի խանգարումներ ունեցողները, բիպոլյար խանգարում ունեցողները, բարձր ներշնչվող և սոցիալական մեկուսացման հակված մարդիկ։

● Հիմնական պաշտպանությունը քննադատական մտածողությունն է և գիտակցումը, որ ԱԲ-ն չի կարող լինել ճշմարտության կամ հուզական աջակցության աղբյուր։

● Մասնագետները խորհուրդ են տալիս չափավորել շփումը չատբոտերի հետ և տագնապային ախտանշանների դեպքում դիմել հոգեբանի կամ հոգեբույժի։

Հ.Գ. Այս թեման ինձ համար միայն վերլուծական հետաքրքրություն չէ։ Ես էլ եմ հաճախ շփվում արհեստական բանականության հետ՝ հարցեր տալու, մտքերս կարգավորելու, երբեմն էլ պարզապես հանգստանալու համար։ Եվ հենց այդ պատճառով եմ կարևոր համարում այս խոսակցությունը։ Ոչ վախեցնելու համար, ոչ էլ տեխնոլոգիան մերժելու, այլ հիշեցնելու, որ նույնիսկ ամենախելացի ալգորիթմի կողքին մենք մնում ենք մարդիկ՝ մեր կասկածներով, վախերով, ու ունենք միմյանց կարիքը։ Եթե այս տեքստը քեզ ստիպեց մի պահ կանգ առնել ու մտածել՝ ուրեմն արդեն իմաստ ուներ այն գրել։

Սիրարփի Աղաբաբյան