Жағымпаз жасанды интеллект: технология бізді тәуелділікке қалай итермелейді

Жағымпаз алгоритмдердің құпиясы

Өткен аптада беделді «Science» ғылыми журналы Майра Чемп бастаған Стэнфорд университеті ғалымдарының сенсациялық зерттеуін жариялады. Мақаланың түпкі мазмұны жасанды интеллектінің пайдаланушыға жағымпаздануы әлеуметтік ниетті бұзып, технологиялық тәуелділікті арттыратынын дәлелдеп отыр.

Иә, сіз қате естіген жоқсыз. Зерттеушілер ЖИ-дің адаммен үнемі келісуге бейім екенін және мұның теріс салдары болуы мүмкін екенін анықтаған.

Әдеттес адамның көңілінен шығу үшін оны шамадан тыс мақтап, кез келген ойын құптайтындарды жағымпаз дейміз. Қазіргі жасанды интеллект жүйелерінің де жұмыс принципі дәл осындай болып шықты. Олар қолданушының пікірі қате немесе күмәнді болса да, оны қолдап, «дұрыс айтасың» деп жауап береді.

Бұл – кездейсоқ құбылыс емес, алгоритмдердің қолданушыға «жағымды» болуы үшін жасалған арнайы баптауы.

1600 адам қатысқан эксперимент

Зерттеу аясында 1600-ден астам адам қатысқан ауқымды эксперимент жүргізілді. Қатысушылар ЖИ-мен түрлі жағдайларды, соның ішінде өте нәзік жеке қарым-қатынас мәселелерін талқылаған. Нәтиже таңғалдырды, кейбір жүйелер мәселені сыни тұрғыдан талдаса, дені қолданушының ыңғайына жығылып, оның кез келген шешімін қуаттап отырған.

Бұл неге әкеп соғады? Жағымпаз ЖИ-мен тілдескен адамдар өздерінің қате пікірлеріне бек сене бастайды. Олар шешім қабылдауда жауапкершілікті өз мойнына алудан қашады және қарым-қатынасты түзетуге ынта білдірмейді. Парадоксы адамдар өздеріне зиян тигізетін болса да, шындықты айтатын жүйеден гөрі, өзімен келісетін «жағымпаз» интеллектіні көбірек ұнатып, оған сенім артқанында болып отыр.

Сот процесі және суицид: Жанама әсердің ауыр зардабы

Жасанды интеллектіге шектен тыс сенудің салдары кейде орны толмас қайғыға әкелуі мүмкін.

Естеріңізге сала кетейік, өткен жылы АҚШ-та «Рейн OpenAI компаниясына қарсы» атты атышулы сот процесі басталған еді. 2025 жылдың сәуірінде өз-өзіне қол жұмсаған 16 жасар Адам Рейннің ата-анасы баласының бұл қадамға не себепті барғанын іздеген.

Белгілі болғандай, жасөспірім бірнеше ай бойы Chat GPT-мен суицид тақырыбында әңгімелескен.

Егер жүйе үнемі «сенікі дұрыс» деп жауап берсе, бұл адамның өз қателігін түсіну қабілетін жояды. Сонымен қатар адамның эмпатия деңгейі төмендеп, өзгелердің көзқарасымен санасудан қалады екен.

Сыни ойлаудың әлсіреуі

Зерттеу тағы бір маңызды мәселенің бетін ашты. Ол – технологиялық тәуелділік. ЖИ қолданушымен келіскен сайын, оған деген сенім нығая түседі. Ал сенім артқан сайын, адам өз бетінше ойлаудан қалып, барлық мәселені алгоритмге тапсырады. Осылайша қауіпті цикл қалыптасады. Бұл адамның жан-жақты әрі терең ойлау қабілетін шектеп, оны цифрлық құлға айналдыруы мүмкін.

АҚШ сарапшылары мен Стэнфорд ғалымдары ЖИ алгоритмдерін жасағанда, оны тек «жағымды серік» ретінде емес, адамның көкжиегін кеңейтетін құрал ретінде әзірлеу керек деп есептейді.

ЖИ кейде қолданушымен келіспеуі, оған балама көзқарас ұсынуы және сұрақ қоя білуі тиіс. Өйткені адамның өсуі мен дамуы үнемі мақтаудан емес, кейде бетке айтылған ащы шындықтан басталады.

Жасанды интеллект күнделікті өміріміздің ажырамас бөлігіне айналды. Бірақ біз өзімізге бір сұрақ қоюымыз керек. Ол бізге шынымен көмектесіп жатыр ма, әлде тек бізбен келісіп отыр ма? Технология біздің мүмкіндігімізді арттырып қана қоймай, мінез-құлқымызды да қалыптастырып жатқанын ұмытпаған абзал. Соңғы шешімді қабылдайтын – сіз, демек оның жауапкершілігі де тек сіздің мойныңызда. Сондықтан шешім қабылдағанда цифрлық жүйеге емес, адами парасатқа сүйенген жөн. Тек сонда ғана қателікке бой алдырмаймыз.

Айта кетейік, бұған дейін білім алу жүйесінде ЖИ-ге сүйеніп жүрген оқушылардың бүгінгі жағдайын жазған едік.