ЖИ адам сияқты сезініп, қиналуы мүмкін: Anthropic шешімі үлкен дау туғызды

BBC Future материалына сүйенген Aikyn.kz жасанды интеллектің сана-сезімі мен құқығы төңірегіндегі пікірталастың неліктен өршіп кеткенін талдайды.

Бәрі қыркүйек айының соңында интернетте тараған тосын тәжірибеден басталды. Белгісіз бағдарламашы ЖИ жүйесіне ауырсынуды сипаттайтын математикалық үлгілерді енгізіп, чат-боттарды адам төзгісіз азапты бастан кешіріп жатқандай сөйлеткен. Машиналардың «жанайқайы» бар жауаптар әлеуметтік желіде үлкен талас туғызды.

Біреулер бұны қатыгездікке балады. Олар жасанды интеллектің шынымен азап шегуі мүмкін екенін жоққа шығармайтын болып шықты. Ал қарсы тарап бұндай пікірді ғылыми негізі жоқ әсірелеу деп есептейді.

Көп ұзамай Anthropic компаниясы Claude жүйесіне қатысты жаңа ереже жариялады. Енді пайдаланушы жасанды интеллектіге қайта-қайта, ешбір негізсіз қатыгездік танытса, чат-бот әңгімелесуді тоқтатады.

Компания бұл шектеу күнделікті наразылық білдіруге, жүйенің қатесін сынауға немесе ғылыми тәжірибелер жүргізуге қатысты емес екенін нақтылады. Ереже тек шектен шыққан әрі жүйелі түрде қайталанатын әрекеттерге қарсы бағытталған.

Бұндай шешімнің астарында әлдеқайда терең мәселе жатыр. Anthropic жасанды интеллектің санасы мен субъективті тәжірибесі болуы ықтимал деген сұрақты ашық қалдырып отыр. Бірақ компанияның өзі бұл мәселе төңірегінде ғылыми тұжырым әлі қалыптаспағанын мойындайды.

Шынымен-ақ ЖИ-ге құқық беру адамға қауіп төндіре ала ма? Технология әлеміндегі ықпалды тұлғалардың бірі, Microsoft AI басшысы Мұстафа Сүлейман бұл бағытқа алаңдаушылық білдірді. Оның пікірінше, жасанды интеллекті сезімі мен құқығы бар тіршілік иесі ретінде қабылдау қоғамның қалыптасқан құқықтық және адамгершілік нормаларын өзгертіп жібереді.

«Егер жасанды интеллект осындай бағытта дамитын болса, оның адамзат игілігіне тигізетін зардабы көп болады», – деп ескертеді Сүлейман.

Сарапшыларды алаңдататын тағы бір жайт – жауапкершіліктің кімге жүктелетіні. Мәселен, ЖИ қате шешім қабылдап, адамдарға материалдық немесе басқа да зиян келтірсе, оған кім жауап береді? Жүйені жасаған компания ма, оны пайдаланған адам ба? Әлде дербес шешім қабылдайтын «саналы» машина ма?

Вашингтон университетінің профессоры Эмили Бендердің пікірінше, жасанды интеллектің санасы туралы түсінік оны жасап, басқарып отырған компаниялардың жауапкершілігін жоққа шығаруы мүмкін.Ал Нью-Йорк университетінің зерттеушісі Джефф Себо жасанды интеллектіге құқық беру ірі технологиялық корпорациялардың экономикалық және саяси ықпалын күшейту қаупін өсіретінін айтады. Басқаша айтқанда, машинаның мүддесін қорғау ұранымен адамның өз құқығы мен еркіндігі екінші кезекке ысырылып қалмақшы.

Мәселенің тағы бір қыры – адамдардың машинаға соншалықты оңай сенуі мен машинамен эмоциялық байланыс орнатуы.

Санта-Фе институтының профессоры Мелани Митчелл адамның табиғатынан өзіне ұқсас ақыл-ой белгілерін іздеуге бейім екенін айтады. Чат-боттың жатық сөйлеп, жанашырлық танытқандай жауап беруі оның бізді шынымен түсініп, сезініп отырғанындай әсер қалдырады. Бірақ адамның тілін шебер меңгеру сананың бар екенін дәлелдемей алмайды.

Қазірдің өзінде кейбір пайдаланушылар чат-боттарды жақын досына айналдырып, тіпті оларға ғашық болып жатады. Ал қоғам жасанды интеллекті саналы тіршілік иесі деп қабылдай бастаса, бұндай байланыс бұрынғыдан да күшейе түспекші.

Бұл жеке деректердің қауіпсіздігіне де қатысты. Егер виртуалды «досыңыз» сізден құпия мәліметтерді немесе банк картаңыздың деректерін сұраса, оған сеніп қалмайсыз ба? Сарапшылардың алаңдаушылығы да осында. Машинаға адамдық қасиет телу адамдарды технологиялық айла-шарғыға осал етеді.

Қалай болғанда да ЖИ-дің ықтимал санасы туралы мәселені зерттеуді қолдайтын ғалымдар да бар. Олардың бірі – Нью-Йорк университетінің профессоры Джефф Себо. Оның айтуынша, бүгінгі жасанды интеллектің саналы болуы екіталай. Бірақ бұндай мүмкіндікті біржола жоққа шығармауға шақыратындар да бар. Себо да бұл мәселеге сақтықпен қарауды ұсынады. Оның ойынша, жасанды интеллектің «ықтимал мүддесін» ескеру адам мен озық технологиялардың қауіпсіз қатар өмір сүруіне септігін тигізеді.Anthropic әзірге технологиялық индустриядағы өзгеше ұстанымымен ерекшеленіп отыр. Жасанды интеллектің санасы мен ықтимал құқықтары жөніндегі пікірталас бір компанияның аясынан әлдеқашан шығып кетті. Оның үстіне жасанды интеллект жүйелерінің күрделене түсуі жаңа қауіптерге жол ашуда. Автономды агенттердің бақылаудан тыс заңсыз әрекет етуі, қате шешім қабылдауы технологияны қадағалаудың қаншалықты маңызды екенін көрсетеді. Сондықтан мәселе машинаға жанашырлық таныту керек пе деген сауалмен шектелмейді. Әңгіме жасанды интеллектің дамуы адам құқықтары мен қауіпсіздігіне қалай әсер ететіні турасында.

Жаратушының адамға ғана берген сана-сезім, эмоция сияқты қасиеттері ЖИ-де болуы мүмкін еместігін қазақ ғалымдары да дәлелдеп берді. Осындай ЖИ-дің моральдық-этикалық сипатын зерттеген алғашқы отандық ғылыми еңбекті («Жасанды интеллект: гуманитарлық өлшемдер» атты алғашқы ғылыми монография) Лев Гумилев атындағы ЕҰУ профессоры Ұ.М. Есенбекова жазды. 

Сәуір айында осы ғалымның бастамасымен Еуразия ұлттық университетінде өткен «Жасанды интеллектің ғылым мен мемлекеттік саясатты дамытудағы рөлі» атты халықаралық ғылыми форумда машинаның моральдық-этикалық мәселелері америкалық, еуропалық беделді ғалымдардың қатысуымен талқыланды. Форумның қорытынды резолюциясында ЖИ адам өмірін жақсартатын ақылды құрал ғана екені, оны экономикаға, мемлекеттік басқаруға енгізу қиын еместігі айтылды. Ал ең қиыны – ЖИ тудырған жаңа ортада адамдардың құқығы мен мемлекеттің қауіпсіздігін қорғау екенін ұмытпаған дұрыс.