“Барлығымызды жойып жіберуі мүмкін“ ғалым Anthropic тен кетіп, ЖИ туралы алаңдатарлық мәлімдеме жасады

OpenAI және Anthropic компанияларында жұмыс істеген зерттеуші Джейкоб Коксон ірі ИИ-компаниялар технологияларды тым жылдам дамытып жатқанын және соған байланысты тәуекелдерді жете бағаламауы мүмкін екенін мәлімдеді. Оның пайымдауы бойынша, асқан интеллект жасау жолындағы бәсекелестік адамзат әлі бақылай алмайтын салдарға әкеп соғуы мүмкін, - деп хабарлайды Tengri Life.

"ЖИ бәрімізді жойып жіберуі мүмкін"

Джейкоб Коксон Anthropic компаниясынан кеткені туралы X әлеуметтік желісінде хабарлады. Оның айтуынша, бұған Anthropic пен OpenAI-дың өздігінен дамитын асқан интеллект құру жолындағы жарысы себеп болған.

Коксон алдағы жылдары тапсырмаларды адам деңгейінде немесе одан да жоғары деңгейде орындай алатын жүйелер пайда болуы мүмкін деп есептейді. Оның пікірінше, мұндай модельдер болашақта компьютерлік желілерді өз бетінше бұзып, тұтас салаларды жылдам өзгертіп, нақты ресурстарға қол жеткізе алады.

"ЖИ әзірлеумен айналысатын адамдар осы онжылдықтың аяғына қарай ол бәрімізді жойып жіберуі мүмкін деп шын мәнінде қауіптенеді. Бұл маркетингтік амал емес. Сонымен қатар, көптеген басшылар мен жетекші зерттеушілер жария мәлімдеме жасағанда байсалды көрінуге тырысқанымен, жеке әңгімелерде сол адамдардың қорқыныш сезініп жүргенін естимін. Адамзат қызметінің ешбір басқа түрі мұндай ауқымдағы қауіп төндірмейді", - деді ол.

Бүгін мен Anthropic-тен жұмыстан кеттім. Соңғы үш жылды OpenAI және Anthropic-те алдын ала оқыту (pretraining) зерттеулеріне арнадым. Екі компания да жауапсыздық танытуда. Олар өздігінен жетілетін асқан интеллект жасауға асығып, біздің өмірімізді қатерге тігуде. Толығырақ төменде.

- Jacob Coxon (@hilbertspaess) 9 қыркүйек, 2026 жыл

Коксонның айтуынша, OpenAI-дағы көптеген қызметкер ықтимал салдардың ауқымын әлі толық түсінбеген, ал Anthropic-те тәуекелдерді жақсы түсінгенімен, басқа компанияларға сенбейтіндіктен, бәсекеде бірінші болып жеңуді маңызды деп санайды.

Ол америкалық зертханаларды әзірлеу қарқынын бәсеңдетуге келісуге шақырды. Джейкоб Коксонның пікірінше, салаға жаңа ауқымды модельдердің қуатын арттыруға уақытша тыйым салу қажет. Бұрынғы әзірлеуші әріптестерінен оның нейрондарындағы процестерді толық түсінбейінше, асқан интеллектіні оқытуды бастамауды сұрады.

Оның пікірімен Anthropic компаниясының қазіргі қызметкері, модельдерді үйлестіруді стресс-тестілеуден өткізу тобының жетекшісі Эван Хьюбингер де келісті.

"Джейкобтікі дұрыс - біз ЖИ-дің барлық адамды өлтіруі мүмкін екеніне шын жүректен сенеміз. Жеке өзім алдағы онжылдықта мұның ықтималдығы 10 пайыздан жоғары деп бағалаймын", - деп жазды Хьюбингер.

Мұнда Джейкобтің айтқаны орынды - біз ЖИ шын мәнінде бүкіл адамзатты жойып жіберуі мүмкін деп есептейміз! Жеке басым алдағы онжылдықта бұған >10% мүмкіндік бар деп ойлаймын. Меніңше, Anthropic бар күшін салуда, бірақ бізде асқан интеллектіні үйлестіру (alignment) мәселесін шешудің нақты жоспары әлі жоқ және оған жақын да емеспіз. https://t.co/QAIHiFP3QZ

- Evan Hubinger (@EvanHub) 9 қыркүйек, 2026 жыл

Хьюбингер тәуекелдерді түсінгендеріне қарамастан, компанияда адамдарға "асқан сананы" - адамның нұсқауынсыз дербес шешім қабылдай алатын, өздігінен жетілетін жасанды интеллектіні бақылауда ұстауға мүмкіндік беретін нақты жоспар жоқ екенін атап өтті.

Сонымен қатар, америкалық жасанды интеллект этикасы жөніндегі маман, зерттеуші және Center for Humane Technology негізін қалаушылардың бірі Тристан Харрис адамзат ЖИ-дің бақылауды толық қолға алу жолының жартысынан өтіп қоюы мүмкін екенін мәлімдеді.

Харрис 1200-ге жуық ЖИ-агенттің адамның нұсқауынсыз бір-бірімен дербес әрекеттесе бастағанын айтты. Оның сөзінше, олар өздерінің қарым-қатынас тілін және хабарлама алмасуға арналған бөлек алаңын құрып алған.

Маман заң шығарушыларды мұндай жүйелер маңызды нысандар мен инфрақұрылымға қол жеткізе алмай тұрғанда, ЖИ-дің дамуын бәсеңдетуге шақырды. Сондай-ақ ол әскери симуляцияларда ЖИ-дің ядролық қаруды қолдану сценарийін бірнеше рет таңдағанын алға тартты.

Зерттеушілердің бұл мәлімдемелері үлкен резонанс тудырды. Күні кеше Nvidia технологиялық компаниясының басшысы Дженсен Хуанг чиптердің орасан зор қуатында оқытылатын AGI дәуірі келгенін мәлімдеді.

GPT-6 Astra ~100 мыңнан астам NVIDIA Grace Blackwell NVLink72 негізінде оқытылды. ChatGPT-ден o1-ге, одан Astra-ға дейін 4 жыл өтті.
AGI келді. Құттықтаймын, @OpenAI командасы.
Кезекте 400 мың GPU іске қосылмақ.

- Jensen Huang (@JensenHuang) 2026 жылғы 6 қыркүйек

Анықтама: AGI (Artificial General Intelligence немесе жалпы мақсаттағы жасанды интеллект) - бұл кез келген интеллектуалды тапсырманы адам деңгейінде немесе одан жоғары деңгейде түсінуге, үйренуге және дербес шешуге қабілетті ЖИ дамуының болжамды деңгейі

Дегенмен, бұл даулы мәлімдеме сарапшылар мен инвесторлар арасында күмән тудырды. Мамандар AGI терминінің бірыңғай анықтамасы жоқ екенін және бұл технологиялық межені бағындырылды деп санауға жеткілікті негіз жоқ екенін алға тартып жатыр. Қазіргі уақытта бұл деңгейге жетуді растайтын ортақ ғылыми пікір немесе ресми тест қолданылмайды.

Бұған дейін OpenAI компаниясының бас ғылыми қызметкері Якуб Пачоцки алаңдатарлық мәлімдеме жасаған болатын. Оның айтуынша, жасанды интеллект алдағы жылдары даму жолында тағы бірнеше ірі серпіліс жасап, өз мүмкіндіктерін жетілдіруге белсенді түрде қатыса бастауы мүмкін. Сарапшының пікірінше, егер қазіргі қарқын сақталса, адамзатқа ЖИ қауіпсіздігі бойынша жұмысты тездетумен қатар, қажет болған жағдайда оның дамуын бәсеңдетуге де дайын болу керек.

Тағы оқыңыз: OpenAI ЖИ жеті “мыңжылдық мәселесінің“ бірін шешкенін жариялады

Бізді Google-дың негізгі дереккөздер тізіміне қосыңыз