ЖИ қауіпті емес, оған бұйрық беріп отырған АДАМ қауіпті

BBC Future талдауы негізінде Aikyn.kz ЖИ агенттерінің қоғамға төндіретін қауіптері мен интернеттің болашағына қатысты сарапшылар пікірін саралайды.

Muse – пайдаланушының тапсырмаларын оның тікелей қатысуынсыз орындайтын ЖИ агенті. Ол интернет арқылы тауар сатып алады, түрлі қызметтерге жазылады, тіпті пайдаланушы атынан келіссөз де жүргізеді.

BBC тілшісі өзінің бір апталық тәжірибесі кезінде Muse көмегімен қажетті заттарын сатып алып, бағдарламалық жасақтама жазылымының бағасын 31 долларға арзандатқан. Бірақ бұндай ыңғайлылықтың «өзіндік құны» бар.

ЖИ агентіне Gmail поштаңызға, күнтізбе мен компьютеріңіздегі бүкіл жүйені қолдануға рұқсат бересіз. Демек, сіз виртуалды көмекшіңізге жеке өміріңіз туралы барлық мәліметтерді сеніп тапсырасыз. Ал миллиондаған ЖИ агенті бір мезгілде әрекет ете бастаса не болады? Адам мен адамның коммуникациясының орнына олардың атынан машиналар қарым-қатынасқа түсе ма?

Бүгінде концерт билеттерін алыпсатар боттардың жаппай сатып алатынын білеміз. Егерде адамның жеке агенті пайда болса, онда мейрамханаға орын брондау, дәрігерге немесе мемлекеттік қызметке жазылу оңай бола ма? Әлде бұрынғыдан қиындай түсе ма?

Электрондық құпиялылық ақпарат орталығының сарапшысы Калли Шредер бұндай технологиялар интернеттегі бұрыннан бар түйткілдерді еселей түсетінін айтады.

«Біз бұл құралдарды іске қосып, мәселелер туындаған кезде шешерміз деп отырмыз», – дейді ол.

BBC келтірген талдауға сәйкес, 2026 жылғы маусымға дейінгі бір жылда боттар тудырған веб-трафик 124%-ға артқан. Мәселенің экономикалық салдары да бар. Жасанды интеллект іздеу сұрақтарына тікелей жауап бергендіктен, пайдаланушылар сайттарға сирек кіре бастады. Ал жарнамадан табыс табатын интернет-басылымдар мен шағын кәсіпорындар оқырманынан да, кірісінен де айырылуы ықтимал.Бұндай жағдайда жеке деректер кімнің қолында қалады? Muse-ке қатысты ең өткір мәселенің бірі осы – құпиялылық. Meta пайдаланушылардың деректері жарнамалық жүйелерге берілмейтінін мәлімдейді. Компания Muse жинаған ақпаратты жаңа модельдерді үйретуге пайдаланатынын жасырмайды. Бірақ бұл мүмкіндікті арнайы баптау арқылы өшіруге болады.

Дәл осы кезде киберқауіпсіздік маманы Патрик Уордл қосымшадан елеулі осалдық тапқанын хабарлады. Оның айтуынша, шабуылдаушылар жүйені бақылауға алып, оған қосылған басқа құрылғыларға да қол жеткізе алады. Бұдан кейін Meta осалдықты жедел жойғанын және қауіпсіздік сынақтарына айрықша көңіл бөлгенін мәлімдеген.

Тағы бір маңызды сұрақ: жасанды интеллект кімнің мүддесін қорғайды? Мәселен, пайдаланушыға ең тиімді әуе билетін ұсына ма, әлде ЖИ агентін жасаушы компанияның іскерлік серіктесіне пайда әкелетін нұсқаны таңдай ма? Сарапшылар агенттердің шешім қабылдауындағы осындай ықтимал мүдделер қайшылығына назар аударуда.

Массачусетс технологиялық институтының зерттеушісі Рамеш Раскар қазіргі жағдайды жол қозғалысы ережелері жоқ көшеге миллиардтаған автомобильдің шығуымен салыстырады. Оның пікірінше, ЖИ модельдері қозғалтқыш іспетті болса, агенттер – сол қозғалтқышпен жүретін көліктер. Сондықтан олардың әрекетін реттейтін нақты қауіпсіздік талаптары қажет. Бұдан бөлек, зерттеуші бұндай технологиялар инновация мен экономикалық мүмкіндіктерге кең жол ашатынына сенеді.

Абай данамыз айтқандай: «Ұқпайсың өз сөзіңнен басқа сөзді, Аузымен орақ орған өңкей қыртың», – деп сан соғып қалмаймыз ба?

Қазақ үкіметі де технологиялық инновациялар мен ЖИ жүйелері экономикалық өсімге әсер ететініне сенеді. Біз де сенеміз. Бірақ шетелдерден көшіріп алған ЖИ технологияларының ішінде жасырын ықпал жоқ деп кім айта алады? Ия, бұл саладан түсінігі аз саясаткерлер айтуы мүмкін, қарапайым халық оған сенуі мүмкін. Бірақ ондай технологиялар қауіпсіз деп ешбір кәсіби сарапшы да, инженер де айта алмайды. Сондықтан ұлттық деректердің сыртқа жылыстауын және сыртқы алгоритмдік манипуляцияларды болдырмау үшін шетелдік ЖИ жүйелеріне қатаң қауіпсіздік аудит жасап, тәуелсіз бақылау жүргізу қажет. 

28-ші қазандағы Президент Қасым-Жомарт Тоқаевтың Халыққа жолдауында технологиялық оптимизмге бой алдырудың қауіпті үрдісі байқалады. Құжатта ЖИ-дің экономикалық тиімділігіне, мемлекеттік аппаратты цифрландыруға және инфрақұрылымға басымдық беріліп, ЖИ 13 рет айтылған. Ал киберқауіпсіздік, ұлттық деректерді қорғау мен сыртқы алгоритмдік манипуляциялардың қатерін мемлекет басшысы мүлдем ескерусіз қалдырған. 

Қазақ Елінің импорттық ЖИ жүйелеріне (АҚШ, Қытай) жүз пайыз тәуелділігін ескерсек, қатаң аудит пен егемендікті қорғау тетіктерінсіз технологияларды жаппай енгізу болашақта бүкіл елдің цифрлық қауіпсіздігіне ауыр соққы болуы әбден мүмкін. Президент Тоқаевтың өзі атап өткендей, қазіргі әлем жылдам өзгеруде. Кешегі дос ниетті мемлекеттердің бүгінде бітіспес дұшпанға айналуына таң қалмайтын болдық. Ертең де геосаясат сан құбылып, Абай атамыз айтқандай:

Бет бергенде шырайың сондай жақсы, Қайдан ғана бұзылды сартша сыртың? Ұқпайсың өз сөзіңнен басқа сөзді, Аузымен орақ орған өңкей қыртың», – деп сан соғып қалмайық.

Біздің ойымызша, ЖИ қауіпті емес, оған бұйрық беріп отырған АДАМ қауіпті. Оны жасаған қожайыны қауіпті. Абай болайық, Абайдай болайық...