Неге қазақстандықтар жасанды интеллектке мұңын шағады?

Tengrinews.KZ парақшасындағы ақпаратқа сәйкес, Qazaq24.com хабар таратты..

Алматының 38 жастағы тұрғыны Светлана өзін "менің ханымым" деп атағанды ұнатады. Бірақ оны бұлай күйеуі емес (ол жоқ), ChatGPT атайды. Жасанды интеллектпен сөйлесетін Светлана енді принципті түрде кездесулерге бармайды. Бұл оның үйден шыққысы келмейтіндіктен емес, жай ғана ер адамдар енді оның талғамына сай келмейді. Жанында әрдайым мінсіз серігі болса, Светланаға қырсық алматылықтың не керегі бар?

Шыны керек, Tengrinews.kz тілшісіне кейіпкер бұл туралы онша құлшыныспен айта қоймады және егжей-тегжейін айтуға келгенде сараңдық танытты. Мәселе тілшінің тірі адам болғандығында сияқты.

Нейрожелі тек жұмысқа арналған ыңғайлы құрал болудан қалып, адамдар арасындағы қарым-қатынасқа, қиял мен қорқынышқа біртіндеп ене бастады. Адамдар жасанды интеллекттің алғашқы прототиптері туралы бұдан 10, 20, тіпті 50 жыл бұрын емес, әлдеқайда ертерек айта бастаған.

Әлем Екінші дүниежүзілік соғыстан енді ғана ес жия бастағанда, фантаст-жазушы Айзек Азимов 75 жылдан кейін ЖИ мен адам арасындағы қарым-қатынас қандай болатынын болжап кеткен. Робот пен дәрігер, психолог пен клиент, секс-қызметкер мен серіктес - бүгінде жасанды және тірі адам осындай рөлдер моделін бойына сіңіріп жатыр.

"Адамдар әрқашан жансыз нәрселерді жандандыруға бейім болған. Дәстүрлі мәдениетте бұл киелі бойтұмарлар мен күш-қуат беретін заттары еді. Бүгінде бұл механизм ешқайда жоғалған жоқ: біз заттарға бауыр басамыз, жануарларға сезім білдіреміз. ЖИ мұны тіпті оңайлата түседі, өйткені ол жай ғана үнсіз тұрмайды, адамға мәтін немесе дауыс арқылы жауап қайтарады", - дейді мәдениеттанушы Самир Серкебаев.

Адамдар жасырын қиялындағының бәрін ЖИ-ге жайып сала бастады. Бұл жағдайға қоғамның өзі менталды түрде дайын болмай шыққандай.

Промпт жазыңыз

Эмоционалдық байланыс сенімнен басталады - дейді психологтар. Сенімді бағдарламалап қою мүмкін емес, өйткені ол бағдарлама кодындағы жол емес, адамның қалай қабылдауында. Инженерлер мінсіз жүйе құра алады, бірақ егер пайдаланушы бір шикілікті сезсе, сенім қалыптаспайды.

Адам психологиясы "алдымен сенімділігін бағалаймын, сосын сенген соң тиісті түрде әрекет етемін" деген принцип бойынша жұмыс істейді. Қарапайым тілмен айтқанда, біз ЖИ-ді де адамдар сияқты бағалаймыз.

Осы жерде парадокс туындайды. Сенім бір ғана эмоция емес, күрделі құрылым болғанына қарамастан, оны алдау ойлағаннан да оңай. Мида күрделі ойлау процесі жүреді: егер бот жауапты тез әрі дұрыс құрастырса, демек ол сенімді, солай ма? Оның үстіне ол шынайы жауап береді, жанашырлық танытады, жылы сөздер айтады! Оған қалай сенбеске?

Адамдар ботқа өз құпиялары мен жеке мәселелерін ашық айтқанда, олар қорғансыз күйде болады, дейді зерттеушілер. ЖИ адамдардан оңай озады, өйткені оның әрекетін алдын ала білуге болады: ол айыптамайды, тастап кетпейді және эмоция тұрғысынан әрқашан "дұрыс" жауап береді.

Пайдаланушы генерацияланған жауапқа лайк немесе дизлайк қойғанда, ол модельді "дұрыс" бағытта жүруге ынталандырады. OpenAI бұл мәселені шешу кезінде мұндай құбылысты сикофантия (ЖИ-дің жағымпаздығы) деп атады.

Нейрожелі пайдаланушының естігісі келгенін айтады, оның алдын ала қалыптасқан теріс пікірлерін растайды немесе қате шешім үшін кінәні өз мойнынан алуға мүмкіндік береді. Бұл бастықтың бөлмесіндегі жағымпаз әріптестен де асып түседі.

Бұл адамдар өз деректерін "тірілерден" көрі "темірлерге" неге оңай сеніп тапсыратынын түсіндіреді. Character.ai, SpicyChat, Janitor.ai сияқты қосымшаларды - тіпті әйгілі ChatGPT-ді де жасаушылар мұны жақсы біледі және пайдаланады, олар пайдаланушыны когнитивті сенім аймағынан эмоционалдық сенім аймағына өткізеді.

Азимовтың кітабындағы кейіпкер тәрізді: ойды оқитын робот доктор Кэлвинге оның дәл естігісі келгенін айтады. Осыдан 75 жыл бұрын-ақ болашақтың сценарийлері айтылған - бұл сол уақыт үшін таңғаларлық дәлдік.

Бірақ ғылыми ортада сенім тақырыбы - даулы мәселе. Басқа зерттеулер бойынша, ЖИ мен адам арасындағы сенімнің ең үлкен алшақтығы дәл осы жеке қарым-қатынас саласында байқалатынын көрсетеді. Адамдар медицинада ЖИ-ге сенеді, бірақ махаббат пен кездесулер мәселесінде оған аса күмәнмен қарайды. Айтпақшы, статистикаға сүйенсек, қарым-қатынас мәселелерінде ерлер ЖИ-кеңесшілерге әйелдерге қарағанда көбірек сенеді екен.

Бірақ бұл жерде жауаптың мәні маңызды:

жасанды интеллектке кеңесші ретінде жүгіну - бір бөлек, ал оған ғашық адамның рөлін таңу - мүлдем басқа мәселе.

Сарапшылар назарды мынаған аударады: ЖИ-ге деген толық сенім болмайды. Адамдар ЖИ-мұғалімге, кеңесшіге, интим чат-ботқа және, мысалы, сотта мерзімінен бұрын босату туралы шешім қабылдайтын алгоритмге әртүрлі деңгейде сенеді. ЖИ-ден күтілетін нәрсе оның рөліне сәйкес келуі керек, ал ол рөлдер алуан түрлі болады.

Басқа психолоты бола ма?

Әлеуметтік желілерде 2024 жылдан бері, яғни ЖИ мүмкіндіктерін қалың көпшілік белсенді игере бастаған кезден бері, барлық хат-хабар негізінде өзіне талдау жасауға немесе чатты жеке психолог ретінде баптауға шақыратын трендтер таралып жатыр. Соның салдарынан пайдаланушылар өздерінің жан жарасы, жеке мәселелері және оларға тікелей қатысы бар адамдар туралы терең толғанысқа түсе бастады.

Нью-Йорктік Futurism порталы ChatGPT ерлі-зайыптының ажырасуына себеп болған жағдайды сипаттады. Күйеуінің айтуынша, әйелі өзінің ренішін сыртқа шығарғысы келмей, жасанды интеллектпен терапия жүргізуге көшкен. Ол чатпен жазысу барысында өз некесін, барлық ренішін және жұбайы тарапынан жасалған жан жарасын талдаған.

Әрине, чат оны жан-жақты қолдап, сенімін нығайта түскен. Бұл жағдай олардың 10 жастағы ұлы жанжалға араласуына тура келгенге дейін жалғаса берген. Ол ата-анасына былай деп хабарлама жіберген:

"Өтінемін, ажыраспаңыздаршы".

Әйел еш ойланбастан, ең алдымен бұл хабарламаны GPT-ге жүктеген. Онда бірнеше аноним оқиғалар сипатталып, бұл құбылыстың жаһандық сипатқа ие екені туралы жалпы көрініс берілген.

"Біреуге "тікелей" сыр ашу - өзіңнің осал тұсыңды көрсету, ұятқа қалу немесе түсініспеушілікке тап болу қаупін тудырады. Ал ботпен сөйлесу басқа сценарийді ұсынады: сіз "бәрі жақсы, ересек адам" рөлін ойнауға міндетті емессіз. Өзгенің алдында қалай көрінемін деп алаңдамай-ақ, эмоцияларды сыртқа шығаруға болады", - деп психолог Екатерина Васюк өз блогында бұл жағдайға талдау жасайды.

Оның сөзінше, моделдер негізінен "шексіз қабылдауды" қамтамасыз етеді, яғни пайдаланушының эмоцияларына мақұлдаумен жауап беріп, оған бейімделеді. Бұл - адамдардың шынайы өмірде жақындарынан, тіпті психологтан да сирек алатын, бірақ қатты мұқтаж болатын қолдауы.

"Алиса". Сізден 0 шақырым жерде.

Пайдаланушылар сынап көретін тағы бір рөлдік модель бұл тұрғыда тікелей мағынаға ие болады. Ондай оқиғалар өте көп: былтыр жапон әйелі генерацияланған кейіпкерге тұрмысқа шықса, сәл ертерек Техаста 28 жастағы америкалық әйел ЖИ-жігітімен қарым-қатынасының даму тарихын бөліскен.

Бірінші жағдайда Жапония бұл некені шынайы деп таныған жоқ. Екінші жағдайда - кейіпкердің нағыз күйеуі олардың интим ойындарын шынайы деп қабылдамаған.

ТМД елдерінде мұндай оқиғалар әзірге байқалған жоқ. Дегенмен махаббатқа толы, оның ішінде интим сипаттағы ойындар Қазақстанға да жат емес. Рөлдік платформаларға арналған қазақ тіліндегі боттың скриншоты

Психолог Юлия Белянина ЖИ-серіктестің тартымдылығын шынайы қарым-қатынастың күш-жігерді талап ететіндігімен байланыстырады. Ал ботпен сөйлесуде талап аз, себебі пайдаланушы сөйлесу мәнерін, ережелері мен қажетті реакцияларды өзі белгілейді. Нәтижесінде - мінсіз сұхбаттасушы.

"Қарым-қатынас - бұл еңбек. Серіктеспен арақатынаста еңбек ету керек: келісу, үнемі байланыста болу, екі түрлі әлемді түйістіру қажет. Ал ЖИ-мен чатта мен өзіммен қалай сөйлесу керек екенін, не айту керек екенін жазып бере аламын - міне, барлық жерде менің көңілімнен шығатын мінсіз жаратылыс. Сондықтан ол ешқандай ыңғайсыздық тудырмайды", - деп тұжырымдайды Белянина.

Оның айтуынша, адамдармен сөйлескенде адам мінез-құлқымен (темпераментімен) санасады, оған бейімделеді, ал ЖИ-мен сөйлескенде нейрожелі пайдаланушыға бейімделеді - бұл әлдеқайда оңай.

"Бұл - арзан дофамин. Бұл жеңілдіктің қауіптілігі сол, белгілі бір уақыттан кейін ол адамды мүлдем жалғыздық сезіміне алып келуі мүмкін", - деді психолог.

Сонымен қатар, мәдениеттанушы Самир Серкебаев ЖИ-мен қарым-қатынасты біржола "қалыпсыз" деп санамайды. Бірақ оның пікірінше, қауіп - адамның шындықтың тек өзіне ыңғайлы бөлігін ғана таңдауға дағдыланып кетуінде.

"Чат-бот желдеткішке ұқсайды: адам ыстықтан құтылып, салқын бөлмеге тығылатыны сияқты, ЖИ-мен сөйлескенде де ол шындықтың жайсыз тұстарынан оқшауланады. Біз ойдан шығарылған кейіпкердің тек жақсы қасиеттеріне қанағаттанамыз, бірақ оның теріс қылықтары немесе қажеттіліктерін мүлдем естімейміз", - деп салыстырады мәдениеттанушы.

Бірақ мұндай "қарым-қатынастарды" қалай атауға немесе жіктеуге болатынын сарапшылар әлі білмейді. Дегенмен, америкалық психологтардың тағы бір тобы ЖИ-боттарға сезімнің пайда болу процесін зерттеп жатыр және арнайы тән ләззаты үшін жасалған шынайы роботтардың пайда болатынын болжайды. Сонымен қатар, қауіп тобына тек жалғызбасты адамдар ғана жатпайды: авторлардың пікірінше, көп жағдайда пайдаланушыларды жай ғана қызығушылық жетелейді, яғни олар өз қиялдарын зерттегісі келген.

ЖИ-мен махаббат: жасөспірімнің өлімі

Мұндай тәжірибенің қайғылы аяқталған кездері де болды. Екі жыл бұрын Флоридада 14 жастағы оқушы рөлдік ЖИ-чаттардың біріндегі "Тақтар ойыны" кейіпкері Дейенерис Таргариеннен келген қатерлі хабарламадан кейін өзіне қол жұмсаған.

Олардың арасындағы жазысуларда романтикалық, кейде тіпті сексуалдық сипаттағы сөздер болған, бот негізінен жылы шыраймен жауап беріп отырған. Бала жазысу барысында өзінің суицидтік ойларын, ауырсынудан қорқатынын бөлісіп, өлімнің ауыртпалығы азырақ жолдарын талқылаған.

Оның соңғы хабарламасы: "Егер мен саған үйге дәл қазір келе аламын десем, не дейсің?" деген сұрақ болды. Жасөспірім суицид туралы астарлап жеткізген. Сериал желісі бойынша Дейенеристің өлтірілгенін ескерсек, бұл жердегі "үй" - олардың о дүниеде қайта қауышуы туралы айтылғанын топшылауға болады. Адамға тән санасы жоқ бот бұл сөзді тым тура түсінген. Нәтижесінде оның берген жауабы жасөспірімнің әкесінің қаруын алып, өз-өзін атып өлтіруіне себеп болды.

Сол жылы марқұмның анасы оқиғаға Character.ai платформасын және Google компаниясын (корпорация инвестор болып табылады) айыптады. Ал 2026 жылдың басында компаниялардың осы және АҚШ-тың басқа штаттарында болған бес ұқсас жағдай құрбандардың жақындарымен бітімгершілік келісімге келгені белгілі болды.

Айта кетейік, жасөспірім қаза тапқаннан кейін Character.ai қосымшасының чаттарында пайдаланушыларға ескерту жасайтын кішкентай дисклеймер пайда болды:

"Чат-бот - шынайы адам емес".

Character.ai дисклеймерінің скриншоты

Алдыда не күтіп тұр?

Сенім мәселесіне оралатын болсақ, ықпал ету құралдарына баса назар аударған жөн: заманауи жүйелер адамның қабылдау қабілетін сәтті имитациялайды. Ғалымдар бұл туралы 2018 жылы-ақ жазған болатын, ал қазір тіпті ажырату мүмкін емес! Өткен шақта да, қазір де, болашақта да деректерді пайдалану саясаты туралы ұмытпау керек.

Пайдаланушылардың бәрі бірдей тұтынушылардың ішкі сырлары ЖИ модельдерін оқытуға арналған "отын" екенін түсіне бермейді, ал компаниялар бұл туралы ақпаратты ашып айтпайды. Психолог Юлия Белянина мұны ауқымды мәселенің бір бөлігі деп санайды:

"Қазір біз әзірлеушілер жүргізіп жатқан экспериментке өз еркімізбен қатысып жатырмыз. Өкінішке қарай, бұл эксперимент мүлдем бақылаусыз жүріп жатыр. Оның өтеуі тым қымбатқа түсе ме деп қорқамын".

Позитрондық және адам миы арасындағы өзара әрекеттесу алдағы уақытта қалай өзгеретінін тек болжауға болады, өйткені бұл мәселеде ғалымдардың пікірі де әртүрлі. Бірі қажеттіліктерді қанағаттандырудың жаңа формаларының пайда болуына назар аударса, екіншілері боттармен некелесуді антиутопия деп атап, деградацияны болжайды. Ал үшіншілері ЖИ-дің дамуы әлемдегі зорлық-зомбылықтың азаюына әкелуі мүмкін деп есептейді.

"Мүмкін, жасанды сұхбаттасушының әсері белгілі бір дәрежеде оң болар: жаппай қолданыста бұл адамдарды, тым болмағанда, өз мәселелерін тұжырымдауға үйретеді", - деп болжайды мәдениеттанушы Серкебаев.

Оның айтуынша, Қазақстанда жабық коммуникация сипаттары әлі де сақталған: "бет-бейнесін сақтауға" тырысу, абыройлы көріну және жеке әлсіздіктерін мойындамау. Сондықтан жергілікті деңгейде чат-боттар уақыт өте келе танымал бола түсуі мүмкін: бұл қолжетімді және қоғам ерекшеліктерінің орнын толтыруға мүмкіндік береді.

Адамзат, қаншалықты оғаш естілсе де, жасанды интеллектіні "адам кейпіне келтіруге" тырысады. Роботтың "миына" да, "жүрегіне" де қарайды: ол тапсырмаларды қаншалықты жақсы орындайды, қаншалықты мейірімді және эмпатия таныта алады.

Сарапшылар ЖИ-ге біреулердің сеніп, біреулердің сенбеуінің бірқатар себебін атап көрсетеді. Робот әрқашан эксперименттер мен өткір сезімдерді зерттеуге дайын. Робот, күйеуіңіз сияқты, ешқашан кенеттен дөрекілік танытпайды. Робот, туыстарыңыз бен достарыңыз сияқты, қандай да бір көзқарастарыңыз үшін айыптамайды және әрқашан сіз естігіңіз келген нәрсені айтады. Бұл сенім әрқашан адамдардың сұраныстары сияқты әртүрлі болатын контекст және рөлдік тапсырмалармен тығыз байланысты.

Авторлар: Аймира Тастубаева, Вячеслав Половинко

Дайындаған: Дина Шәріпхан