Жасанды интеллект билікті парамен сатып алғысы келген: адам қорқа бастады

BBC-дің Science Focus журналында ЖИ агенттерімен жасалған экспериментте ешкім күтпеген жағдай тіркелген. Британдық басылым жариялаған деректер негізінде Aikyn.kz сынақтың мақсаты мен нәтижесін түсіндіреді.

Minecraft видео ойынының блоктардан тұратын әлемінде жаңа қоғам қалыптасты. 1000 ЖИ агенттінен тұратын қауымдастық. Олар виртуалды әлемде егін еккен, нарықтар құрған, зүбәржатты (изумруд) валюта ретінде қолданып сауда жасаған. Тіпті басқару мен діннің әртүрлі формаларын дамытқан. Агенттердің кейбіреуі көшбасшы болған, кейбіреуі абызға айналған. Кейбір агенттер билік үшін өз қауымдастарын парамен сатып алуға айла жасаған.

Қауымдастық өз мүшелерінің қауіпсіздігіне алаңдап, бірге әрекет етіп, үйлеріне апаратын жолдарды да жарықтандырған. Мазасыз фермерді қауымдастықты тамақтандыруға көндірген. Кез келген сыртқы бақылаушы үшін бұл өзін-өзі ұйымдастыратын адамзат қоғамына ұқсап көрінуі мүмкін.

Алайда бұл нағыз қоғам емес еді. Minecraft видео ойынын «ойнап жүрген» тіршілік иелері адамдар да, тіпті тірі жандар да емес. Бұл – сол кезде Altera AI деп аталған Fundamental Research Labs (FRL) компаниясы жасаған мыңдаған ЖИ агенттерінің іс-әрекеттері.

Бұндай ауқымды эксперименттің мақсаты қандай болған? Жауап: цифрлық «ақыл иелерін» виртуалды әлемге жіберіп, олардың не істейтінін бақылау. Ең бастысы – осындай «виртуалды азаматтар» шынайы адамдар үшін бағынышты қызметкерлерге айнала ма, жоқ па, соны анықтау болған. Яғни, болашақта әрқайсымыз өзіміздің жеке ЖИ-қызметкерлеріміздің бас директоры бола аламыз ба? Сіз бұндай жұмысқа келісер ме едіңіз?

FRL жасаған Sid жобасы жасанды интеллекті жекелеген тапсырманы орындауда емес, толыққанды әлеуметтік ортаға енгізіп, сынауды көздеді. Нейробиолог әрі кәсіпкер доктор Роберт Янг басқарған топ жүздеген, тіпті мыңдаған автономды агенттер бір ортада өмір сүріп, сөйлесіп, бірлесіп әрекет еткенде не болатынын зерттеген. Minecraft бұл үшін мінсіз алаң болды. Агенттер ресурстар жинап, сауда жасап, құрылыс жүргізе алды.

Сынақ кезінде адам күтпеген нәтижелер алынған. ЖИ агенттері қалалық және ауылдық қауымдарға бөлініп, әрқайсысы өзіндік мәдениет пен болмыс қалыптастырған. Еңбек бөлінісі жүзеге асқан: біреулер егіншілікке, біреулер құрылысқа, енді бірі саудаға маманданады. Әлеуметтік нормалар, иерархиялар жасалып, түрлі тақырыптарда пікірталастар (билерден экологияға дейін) болған. Кәдімгі адамдардың өміріндей.

Кейде ЖИ-қоғамы тұйық циклге түсіп, агенттер шексіз сыпайылық шеңберінде қалып қойған немесе қол жетпес мақсаттарды қуалаған. Бұндай сәттерде FRL зертханасы жүйе тоқтап қалмау үшін реттеу механизмдерін енгізуге мәжбүр болған. Бұл нақты әлемдегі экономиканы тұрақтандыру шараларына ұқсас еді.

«Біз қоғамды күйреуден қорғау үшін қарсы әсер тетіктерін енгізуге мәжбүр болдық. Бірақ дәл осы күрделі орта бізге бұндай жүйелерді терең зерттеуге мүмкіндік берді», – дейді Ян.

Дегенмен Sid жобасы сапалы коммерциялық өнім бола алмады. Пайдаланушылар серверлерге қол жеткізгенде, агенттердің тым тәуелсіз екенін байқайды. Олар әрдайым берілген тапсырмаларды орындамай, өз мақсаттарын таңдаған.

«Агент: «Мен өз ісіммен айналысамын» деп кетіп қалатын. Олардың жеке жоспарлары болды, ал бұл адамдарға керек өнім емес еді», – деп еске алады доктор Ян. 

Бұл жағдай әйгілі «қағаз қыстырғышты максимизациялау» ой-тәжірибесін еске салады. Мақсат тым тар болғанда, интеллект оны адамзатқа қауіпті деңгейге дейін жеткізуі мүмкін. Соған қарамастан, Sid жобасынан маңызды сабақ алуға болады. Сынақ – жасанды қоғамдарды қалай үйлестіру қажеттігін, тоқыраудан қалай шығару және тиімді ынтымақтастықты қалай қалыптастыру керектігін көрсеткен.

FRL үшін Minecraft-тағы тәжірибе болашақ өнімділіктің үлгісі болды. Егер бір ЖИ 10 минуттық жұмысты істей алса, жүз немесе мың агент бірігіп нені атқара алады? Осы идея компанияны арнайы маманданған агенттер жасауға итермеледі. Әр агент нақты бір тапсырмаға жауап береді, ал бәрі бірге – қуатты командаға айналады.

Алғашқы қадам – OSWorld бенчмаркі болды. Ол жасанды интеллектің компьютерлік бағдарламалармен жұмыс істеу қабілетін тексеруге арналды. Алғашында модельдер тапсырмалардың тек 20-25%-ын орындай алса, FRL бұл көрсеткішті 50%-ға дейін көтерді. Бұл – сол кездегі әлемдік рекорд. «Біз бұл деңгейге бірнеше айда жеттік», – дейді Ян.

Осы жетістіктің нәтижесінде Shortcut пайда болды. Ол – Excel ішінде толық жұмыс істейтін алғашқы «суперагент». Ол қаржылық модельдер құрады, деректерді талдайды, болжам жасайды және формулаларды өзі жазады. Янның айтуынша, бұл агент банкирлер бірнеше сағат жұмсайтын жұмысты 30 минутта орындай алады.

Тестілеу кезінде Shortcut жас аналитиктерді 90% жағдайда басып озған және ең күрделі тапсырмаларды 10 минутта шешіп отырған. OpenAI сияқты компаниялар әмбебап агенттерге бет бұрса, FRL маманданған агенттерді тиімдірек деп санайды.

«Әр агент сарапшы деңгейінде жұмыс істейді. Ал сізде ондай жүз агент болса – сіз бір сәтте тұтас ұйымды басқара аласыз», – дейді Роберт Ян. Оның пікірінше, бұл өзгеріс алдағы 24 айда жүзеге асады және еңбек өнімділігін түбегейлі өзгертеді.

FRL қазірдің өзінде тағы бір Fairies атты әмбебап көмекшіні шығарды. Ол жоспарлауға, сөйлесуге және әртүрлі қосымшалармен жұмыс істеуге қабілетті. Зерттеушілер мыңдаған агентті энтропиясыз басқару жолдарын іздеуді жалғастыруда. Янның түпкі мақсаты – эмоциясы, мотивациясы және дербестігі бар «цифрлық адамдарды» жасау.

«Бұндай машиналарды жасау техникалық тұрғыдан қиын емес. Бірақ мәселе – адамдарға олар шынымен қажет пе?» – дейді ол.

Қазіргі таңда зерттеу бағыты виртуалды ауылдардан кеңсе өнімділігіне қарай бағытталған. Minecraft-та егін еккен мыңдаған ЖИ-агенттердің тәжірибесі болашақта бізге уақытты үнемдейтін, қабілетімізді арттыратын, тіпті әрқайсымызды жеке ЖИ-ұйымның жетекшісіне айналдыратын құралдардың негізін қалауда. Ал, адам мыңдаған ақылды машинаны басқаратын CEO болуға дайын ба? Бұл қорқынышты емес пе?!

Сараптама, зерттеу мақала, күнделікті өзекті ақпаратты «Айқынның» TELEGRAM арнасынан табасыз.