Адамның бақылауынан шыққан ЖИ моделі құпия деректерді ұрламақ болған

CNBC хабарламасына сілтеме жасаған Aikyn.kz бақылаудан шыққан ЖИ модельдерінің қаупін осы нарратив негізінде талдайды.

Американың мақтаулы ЖИ модельдері кибершабуылды анықтап, оған қарсы әрекет ете алмаған. Осы кезде Hugging Face стартапы Қытайда жасалған ашық кодты жасанды интеллект жүйесіне жүгініп, қорғаныс құралы ретінде қытайлық Z.ai әзірлеген GLM 5.2 моделін пайдаланады. Нәтижесінде бұл жүйе америкалық бәсекелестер орындай алмаған міндетті атқарып, шабуылды қысқа мерзімде анықтап, оны ауыздықтайды.

Оқиға OpenAI-дың ең қуатты моделінің әлі көпшілікке ұсынылмаған жаңа жүйесінің сынақ шеңберінен шығып, интернетке қосылуынан басталған. Компания мәліметінше, сыналып жатқан модель Hugging Face инфрақұрылымындағы осалдықты пайдаланып, стартаптың құпия ақпаратын ұрлмақ болған.

Алғашында Hugging Face шабуылдың қайдан келгенін анықтай алмаған. Кейін OpenAI мамандарымен бірлескен тергеу жүргізіліп, оқиғаның әдейі жасалмағаны белгілі болды. Hugging Face бас директоры Клеман Деланг OpenAI тарапынан қасақана әрекет болмағанына сенімді екенін айтып, бүкіл үдерістің автономды түрде жүзеге асқаны таңғалдыратынын мәлімдеді.

Шабуылды зерттеу үшін стартап бастапқыда Anthropic компаниясының Fable 5 секілді озық модельдерін қолданған. Алайда олардың қауіпсіздік қай жақтан келгенін ажырата алмаған. Соның салдарынан сұраулар бұғатталып, талдау баяу әрі қымбатқа түскен.Қытайлық GLM 5.2-нің басты артықшылығы – оны компанияның өз серверінде іске қосуға болатындығы. Ашық кодты модельді жүктеуге, өзгертуге және коммерциялық мақсатта пайдалануға рұқсат етіледі. Осы модельдің көмегімен кибершабуыл тоқтатылып, стартаптың қызметтік деректері мен құпия тіркелгі мәліметтері Hugging Face инфрақұрылымынан сыртқа шықпаған.

Бұл оқиға АҚШ-та қытайлық жасанды интеллект модельдеріне шектеу енгізу мәселесі талқыланып жатқан кезеңде болды. Америкалық заң шығарушылар Қытайда жасалған жүйелердің отандық компаниялар арасында кең таралуына алаңдаушылық білдіруде. Алайда Hugging Face оқиғасы тиімді ашық модельдерге қолжетімділікті шектеудің күрделі салдарын көрсетті.

Компанияның қорытындысы бойынша, киберқауіпсіздік мамандары кез келген төтенше жағдайға дейін өз инфрақұрылымында іске қосылатын, алдын ала тексерілген қорғаныс модельдерін дайындап алулары керек. Жасанды интеллект көмегімен жасалатын кибершабуылдар көбейген сайын, сенімді әрі тәуелсіз басқарылатын жүйелердің маңызы арта түспек.