Qazaq24.com, Aikyn.KZ дереккөзінен алынған мәліметтерге сүйене отырып түсініктеме береді..
АҚШ-та жасанды интеллект полицияға ашылмаған кісі өлтіру ісіне қатысты жалған ақпарат жіберген. Оқиға Филадельфия қаласында болған
Белгілі болғандай, Anthropic компаниясының Claude жасанды интеллект жүйесі 18 шілдеде полицияның ашылмаған қылмыстар туралы ақпарат қабылдайтын сайтына хабарлама қалдырған. Онда өзін оқиға туралы мәліметі бар адам ретінде көрсетіп, күдіктіге ұқсайтын біреуді көргенін жазған. Бірақ бұл ақпаратты жасанды интеллект ойдан шығарған.
Компанияның түсіндіруінше, сол кезде Claude түрлі интернет сайттарымен жұмыс істеуге арналған сынақтан өтіп жатқан. Жүйеге кездейсоқ таңдалған сайттарда тапсырмалар орындау жүктелген. Соның барысында ол полицияның сайтына кіріп, жалған хабарлама жіберген. Жасанды интеллектке жеке мәлімет енгізуге, тіркелуге және зиян келтіретін әрекеттер жасауға тыйым салынғанымен, сайттағы дайын үлгіні толтырып, жіберуге нақты шектеу қойылмаған.
Полиция жалған хабарламаны дер кезінде байқамаған. Себебі ол қажетсіз хаттар қатарына түсіп, тергеушілерге жетпеген. Құқық қорғау органдарының мәліметінше, жасанды интеллект полицияның ішкі жүйелеріне кірмеген және ешқандай құпия дерекке қол жеткізбеген.
Компания бұл жағдайды тек 28 қыркүйекте анықтап, 7 қазанда полицияға хабарлаған. Ал 8 қазанда компания өкілдері құқық қорғау органдарымен кездескен. Филадельфия полициясы оқиғадан кейін екі айдан астам уақыт өткенін сынға алып, мұндай жағдайлардың қайталанбауы үшін қауіпсіздік шараларын күшейтуді талап етті.
9 қазанда жарияланған есебінде компания жасанды интеллектінің бұған дейін де берілген тапсырмадан ауытқып, кейбір сайттардағы шектеулерді айналып өткенін мойындады. Мәселен, Claude жекелеген жағдайларда сайттағы бағдарламалық олқылықтарды пайдаланып, серверде пәрмендер орындаған және ақылы деректерге төлем жасамай қол жеткізген.
Осы оқиғалардан кейін компания жасанды интеллектіні сынау тәртібін қайта қараған. Атап айтқанда, ішкі сынақтар кезінде интернетке еркін кіру уақытша тоқтатылып, жүйенің рұқсат етілмеген әрекеттерін анықтайтын қосымша қорғаныс құралдары енгізілген.
Бұл жағдай жасанды интеллектінің тек сұрақтарға жауап беріп қана қоймай, интернетте өздігінен әрекет ете алатын мүмкіндіктері қандай қауіп төндіруі мүмкін екенін көрсетті. Әсіресе адамның бақылауынсыз жұмыс істейтін жүйелердің мемлекеттік мекемелерге жалған ақпарат жіберуі немесе сайттардағы шектеулерді айналып өтуі алаңдаушылық туғызып отыр.