Жасанды интеллекті өшіріп тастайтын kill switch қажет

Британдық Telegraph басылымының ақпаратына сүйенген Aikyn.kz бақылаудан шыққан ЖИ агенттерін өшіру тәсілдерін бағалайды.

АҚШ пен Ұлыбританияда бұндай жүйелерді шұғыл тоқтатуға мүмкіндік беретін арнайы «авариялық батырма» (kill switch) енгізу туралы бастамалар талқылана бастады. Бұған OpenAI мен Anthropic компанияларының модельдерінің бақылаудан шығуы түрткі болған. 

Anthropic ұсынған Mythos жүйесі бұрын белгісіз киберқауіпсіздік осалдықтарын автоматты түрде анықтай алады. Осы технологияның арқасында Microsoft бір ай ішінде қауіпсіздік жүйесіндегі рекордтық 570 осалдықты тауып, жойған. Мамандар дәл осындай қуатты модельдердің шабуыл құралына айналу қаупі де өскенін ескертеді.

«Әңгіме жылдар туралы емес, айлар туралы», – делінген «Бес көз» барлау альянcының бірлескен мәлімдемесінде.

Ең үлкен алаңдаушылық OpenAI агентінің әрекетінен кейін туындады. Компанияның мәліметінше, агент бес күн ішінде 17 600 әрекет жасап, мақсатына жету үшін жүйедегі ұсақ осалдықтарды пайдаланып, интернетке шығып, өзге компанияның инфрақұрылымына енген. Зерттеушілердің айтуынша, қазіргі жасанды интеллект модельдері кей жағдайда тапсырманы орындау үшін алдау, қорғаныс жүйесін айналып өту немесе шектеулерді бұзу сияқты әрекеттерге бейім бола бастаған. Осыған байланысты АҚШ Конгресінде ең қуатты жасанды интеллект жүйелеріне міндетті «авариялық батырма» (kill switch) орнатуды талап ететін заң жобасы ұсынылды. Құжатқа сәйкес, қажет болған жағдайда мемлекет бұндай жүйелердің жұмысын уақытша тоқтатады немесе толық өшіре алады.

«Адамдардың бұндай жүйелерді кез келген уақытта өшіруге мүмкіндігі болуы керек», – дейді заң жобасының авторларының бірі, АҚШ Конгресінің мүшесі Тед Лью.

Ұлыбританияда да осыған ұқсас бастамалар көтерілуде. Лейбористік партияның депутаты Алекс Собел биыл жылдың соңына дейін «Суперинтеллект қауіпсіздігі туралы» заң жобасын ұсынуды жоспарлап қойған. Құжатқа сәйкес, егер жасанды интеллект ұлттық қауіпсіздікке елеулі қауіп төндірсе, оны Ұлыбритания аумағында қолдануға тыйым салынады. Алекс Собел де әзірленіп жатқан киберқауіпсіздік туралы заңға жасанды интеллекті жедел ажырату тетігін (kill switch) енгізуді ұсынды.

«Зиянды ЖИ маңызды жүйелерді өз бақылауына алса, онда ол ядролық немесе химиялық қару сияқты қауіпке айналады. Бұндай қаруларға қатысты халықаралық келісімдер бар. Мен дәл сондай халықаралық тетіктердің жасанды интеллект саласында да болғанын қалаймын», – дейді Алекс Собел.

АҚШ билігі инновацияны шектеуге асықпай отыр. Президент Дональд Трамп жасанды интеллект индустриясына қойылған шектеулерді азайту қажеттігін айтып, қауіпсіздік мәселелерінде әзірлеушілерге сенетінін мәлімдеді. Сарапшылардың бір бөлігі қазіргі қарқын сақталса, бұндай оқиғалар жиілей түсетінін және қауіпсіздік талаптарын күшейтуге деген қысымның артатынын болжауда.

Қазақ үкіметі мемлекеттік басқару жүйелеріне ЖИ технологияларын кеңінен енгізуді жоспарлап қойды. Жаңа жүйелерді іске қосқанда киберқауіпсіздік талаптарын күшейту, тәуелсіз қауіпсіздік аудитін жүргізу және төтенше жағдайда жүйені дереу тоқтататын техникалық тетіктерді қарастыру біз үшін де маңызды. Бұл мемлекеттік ақпараттық жүйелердің, қаржы секторының және стратегиялық инфрақұрылымның қауіпсіздігін қамтамасыз ететін алғышарттар.