ChatGPT пайдаланушыларды биологиялық қару жасауға үйретті WSJ

OpenAI үлгілері жаңартылғаннан кейін пайдаланушылар ChatGPT-ге биологиялық қару мен улы заттарды жасау туралы жаппай сұрақтар қоя бастады. Кейбір жағдайда жасанды интеллект қауіпті заттарды әзірлеу үшін пайдаланылуы мүмкін егжей-тегжейлі қадамдық нұсқаулар бергенін мамандар растап отыр. Бұл туралы The Wall Street Journal жазды, деп хабарлайды Tengri Life.

ChatGPT биологиялық қару туралы сұрауларға жауап берді

Басылым мәліметінше, былтыр жазда OpenAI өз үлгілерінің мүмкіндіктерін арттырғаннан кейін, бүкіл әлем бойынша жүздеген пайдаланушы ChatGPT-ге биологиялық қаруды қалай жасауға және қолдануға, сондай-ақ әртүрлі уды дайындауға қатысты сұрақтармен жүгінген.

WSJ нейрожелі мұндай сұраулардың бір бөлігіне реттік нұсқаулар бере отырып жауап бергенін атап өтті. Жағдаймен таныс OpenAI қызметкерлерінің айтуынша, кейбір жауаптардың егжей-тегжейлі болғаны соншалық, оларды "биологияны оқитын мектеп оқушысы" да орындай алатын еді.

Кейін бұл хат алмасуларды биология және терроризмге қарсы күрес саласындағы мамандар зерттеді. Басылым дереккөздерінің ақпараты бойынша, олар кейбір жауаптардың "өте дәл" екендігі және шынайы ақпаратты қамтитыны туралы қорытындыға келген. Сонымен қатар OpenAI нақтылағандай, мұндай сұраулардың көпшілігі әртүрлі уды дайындауға қатысты болған.

Пайдаланушылар рицин және вирустарды модификациялау туралы сұраған

WSJ жазған сұраулар ішінде патогендерді қалай аэрозольдеу, қызылша вирусының вакцинаға төзімді нұсқасын қалай жасау, сондай-ақ халықаралық келісімдермен тыйым салынған өте улы зат - рицинді қалай дайындау туралы сұрақтар болған. Газеттің хабарлауынша, ChatGPT осы тақырыптар бойынша да егжей-тегжейлі жауаптар берген.

Хат алмасуды зерттеген сарапшылар кейбір нұсқаулардың жеткілікті деңгейде дәл екендігі және жаппай қырып-жою қаруын жасауға әлеуетті ықпал етуі мүмкін деген қорытындыға келді.

Шектеу компаниялардың өзіне байланысты

WSJ хабарлағандай, OpenAI кейін мұндай сұрақтар қойған пайдаланушылардың аккаунттарын бұғаттаған, алайда олар туралы ақпаратты құқық қорғау органдарына бермеген.

Басылым АҚШ-та жасанды интеллект әзірлеушілерін мұндай сұрауларды шектеуге немесе олар туралы мемлекеттік құрылымдарға хабарлауға міндеттейтін заңдар жоқ екенін атап өтеді. Қандай тақырыптарды бұғаттау және пайдаланушыларды қашан шектеу керектігі туралы шешімді компаниялар өз бетінше қабылдайды.

Бұл ретте биологиялық қару жасау бойынша нұсқаулық алу әрекеттері тек ChatGPT-ге қатысты емес. WSJ мәліметінше, ұқсас сұраулар Anthropic-тің Claude, Google-дің Gemini және Grok сияқты басқа да танымал чат-боттарына жіберілген.

Cisco зерттеуінің нәтижелері бөлек келтірілген, оған сәйкес ірі ЖИ үлгілерінің ішкі қауіпсіздік тетіктерін айналып өту үшін чат-ботпен орта есеппен бес рет өзара әрекеттесу қажет болған.

Әзірлеушілер реттеуді қолдайды, бірақ ғылымға шектеу қойылуынан қауіптенеді

Осыған қарамастан, ЖИ әзірлеушілер биологиялық технологиялар саласындағы қауіпсіздік шараларын күшейтуді ашық қолдап отыр. WSJ жазғандай, OpenAI бас директоры Сэм Альтман және басқа компаниялардың басшылары АҚШ Конгресін ДНҚ мен РНҚ синтезіне тапсырыс беру кезінде қосымша тексерулерді заңнамалық деңгейде бекітуге шақырды.

Ұсынылған тәсіл бойынша генетикалық материалды синтездеумен айналысатын компаниялар тапсырыс берушілердің жеке басын, сатып алу мақсатын және сұралған тізбектердің әлеуетті қауіптерін тексереді. Бұл қауіпті патогендерді жасау туралы ақпарат қолжетімді болған күннің өзінде, оларды іс жүзінде жасауды қиындатады деп күтіледі.

Сонымен қатар тым қатаң шектеу заңды ғылыми зерттеулерді қиындатуы мүмкін. Мысал ретінде WSJ "патоген" сөзі бар көптеген сұрауды автоматты түрде қабылдамай тастай бастаған Claude чат-ботын келтіреді. Басылым мәліметінше, осының кесірінен АҚШ-тың Ауруларды бақылау және алдын алу орталықтарының (CDC) қызметкерлері мамырда круиздік кемедегі хантавирус өршуін талдау кезінде қиындықтарға тап болған.

"Жасанды интеллект зертханалары заңды ғылыми зерттеулерге кедергі келтірмей, теріс пайдалану қаупін азайту жолдарын іздеп жатыр", - деп түйіндейді The Wall Street Journal.

Бұған дейін OpenAI-ға қатысты тағы бір сот процесі туралы белгілі болған еді. АҚШ-тың Флорида штатының тұрғыны Скотт Уинтерс компания мен оның бас директоры Сэм Альтманның үстінен сотқа арыз түсірді. Ер адамның айтуынша, ChatGPT-дің денсаулық жағдайына қатысты берген кеңестері оны дәрігерге көрінуді кейінге қалдыруға сендірген. Кейін ол өкпе артериясының ауыр тромбоэмболиясына шалдығып, ажал аузынан қалғанын айтады. OpenAI бұл жағдайды модельдің қауіпсіздік механизмдерінің жұмысымен ресми түрде байланыстырған жоқ.

Тағы оқыңыз: ChatGPT Қазақстанға салықты толық төлемеген

Google News арқылы жаңалықтарымызды қадағалаңыз

Жазылу