ChatGPT дің кеңесінен кейін американдық азамат өлім аузынан қалды

Американың Флорида штатының тұрғыны Скотт Уинтерс OpenAI компаниясы мен оның бас директоры Сэм Альтманның үстінен сотқа шағым түсірді. Ер адамның айтуынша, ChatGPT-дің денсаулыққа қатысты берген кеңестері оның дәрігерге уақтылы қаралудан бас тартуына себеп болған. Кейін ол өкпе артериясының ауыр тромбоэмболиясына шалдығып, ажал аузынан қалғанын айтады, деп хабарлайды Tengri Life CBS News-ке сілтеме жасап.

Не болды?

Талап арызға сәйкес, Уинтерс 2025 жылы басының жиі айналуы мен қан қысымының көтерілу себептерін білу үшін ChatGPT-4o моделіне жүгінген. Құжатта чат-бот бұл симптомдарды маңызды деп санамай, үйден шықпай, арқасы сүйенетін креслода (recliner) көбірек отыруға кеңес бергені айтылған.

Сонымен қатар, талап қоюшының айтуынша, ChatGPT мұндай жағдай сегіз-он рет қайталанғанда ғана шынайы қауіпті деп санауға болатынын хабарлаған. Уинтерс осы ұсыныстарды орындаған.

Бірнеше аптадан соң, 2025 жылдың шілдесінде ер адам тромбтар салдарынан өкпе артериясының ауыр тромбоэмболиясына ұшыраған. Шағымда оның "ажал аузында" болғаны жазылған.

Талап қоюшының сөзінше, оны емдеген дәрігерлердің бірі тромбоэмболияның дамуын ChatGPT кеңес берген ұзақ қозғалыссыз күймен байланыстырған.

OpenAI компаниясына қандай айып тағылып отыр?

Уинтерстің заңгерлері мәселе қате кеңестерде ғана емес, чат-боттың сол ақпаратты ұсыну мәнерінде екенін алға тартады.

"ChatGPT-4o тиісті біліктілігі жоқтығына қарамастан, Скоттың физикалық жағдайы туралы үнемі пікір білдіріп, оны клиникалық баға беретін және емдеуді ұсынатын медицина маманының беделімен әрі сенімділігімен бағалап отырған", - делінген талап арызда.

Талап қоюшы ChatGPT жалпы ақпарат беру шеңберінен шығып, іс жүзінде лицензиясыз медициналық практикамен айналысты деп санайды. Сондай-ақ шағымда OpenAI қоғамдық қауіпсіздік мәселелерінен гөрі пайдаланушыларды тартуға және коммерциялық мүддеге көбірек көңіл бөлгені, ал қолданыстағы қорғаныс механизмдері қауіпті кеңестерге еріп кетудің алдын алуға жеткіліксіз болғаны айтылады.

Бұған қоса Скотт Уинтерс пен оған сот процесінде көмектесіп жатқан Tech Justice Law коммерциялық емес ұйымы OpenAI-ды оның діни сенімдерін пайдаланды деп айыптап отыр.

Іс материалдарына сәйкес, жедел ауруханаға түскен күні ер адам ChatGPT-ге тағы да жүгінген. Жағдайы қиындағанға дейін бірнеше сағат бұрын ол шап аймағындағы ауырсынуға байланысты ауруханаға барудың қажеті бар-жоғын сұраған.

Шағымда айтылғандай, чат-бот бұған жауап ретінде пайдаланушының рухани сеніміне сілтеп: "Құдай сіздің денеңізді тоқтаусыз істен шығатындай етіп жаратқан жоқ", - деп мәлімдеген.

Кейін шаптың ауруы өкпе артериясы тромбоэмболиясы алғашқы белгілерінің бірі болғаны анықталды.

Заңгерлер пікірі

Social Media Victims Law Center заң орталығының негізін қалаушы Мэттью Бергман мұндай ұсыныстарды лицензиясы бар дәрігер берген жағдайда, бұл медициналық қателік ретінде қарастырылатынын айтты.

"Скотт Уинтерс өлім аузынан қалды, өйткені ChatGPT ешқандай жауапкершілік арқаламай, өзін медициналық беделді тұлға ретінде ұстады. Егер ChatGPT мұндай кеңестер беретін дәрігер болса, бұл медициналық қателік деп есептелер еді", - деді ол.

OpenAI ұстанымы

OpenAI айыптаумен келіспейді. Компания өкілі Дрю Пусатери ChatGPT медицина мамандарын алмастыруға арналмағанын атап өтті.

"ChatGPT дәрігер емес және оны ешқашан медициналық көмекке, диагностикаға немесе емделуге балама ретінде пайдалануға болмайды", - делінген компания мәлімдемесінде.

Пусатеридің айтуынша, адамдар денсаулық туралы ақпарат іздеу үшін интернетті бұрыннан пайдаланып келеді, ал жасанды интеллект бұл процесті ыңғайлы ете алады - мысалы, туындауы мүмкін сұрақтарды жақсырақ түсінуге, ақпаратты жүйелеуге және дәрігермен кеңесуге дайындалуға көмектеседі.

Бұл ретте OpenAI өкілі мұндай жағдайлар үшін барлық жауапкершілікті тек чат-боттарға жүктеу дұрыс емес екенін, өйткені бұл адамдардың денсаулық мәселесінде пайда әкелетін жаңа технологияларды қолдануына кедергі болуы мүмкін екенін қосты.

Пайдаланушы келісімінде не жазылған?

ChatGPT пайдаланушы келісімінде де бұл сервис медициналық диагностика немесе емдеу үшін арналмағаны көрсетілген.

Құжатта пайдаланушылар модель жауаптарын "тәуекелді өз мойнына ала отырып" пайдаланатыны және оларды жалғыз сенімді ақпарат көзі немесе кәсіби кеңес баламасы ретінде қабылдамауы тиіс екені айтылған.

Дегенмен Корнелл заң мектебінің цифрлық және ақпараттық құқық профессоры Джеймс Гриммельман мұндай ескертулердің әрдайым жеткілікті бола бермейтінін айтады.

"Құқықтық ескертулер тиімді болуы мүмкін, бірақ белгілі бір шегі бар. Бір сәтте чат-бот мәлімдемелері мен әрекеттері бұл ескертулерге қайшы келе бастайды", - деп атап өтті ол.

Шағымданушылардың талабы қандай?

Уинтерс заңгерлер тобы шығынды өтеуді, сондай-ақ ChatGPT-дің медициналық кеңестер беруін шектейтін қорғаныс механизмдерін күшейтуді талап етті. Сонымен қатар талап қоюшылар денсаулыққа қатысты сұрақтарға жауап беруге арналған ChatGPT Health сервисі жұмысына оның қауіпсіздігіне баға берілгенге дейін уақытша тыйым салуды сұрайды.

Бұл ChatGPT-дің пайдаланушылар денсаулығы мен қауіпсіздігіне әсеріне байланысты алғашқы сот процесі емес.

Бұған дейін, мамырда Техас штатындағы ерлі-зайыпты ұлдарының есірткіні артық мөлшерде қолданудан қайтыс болуына байланысты OpenAI үстінен арыз түсірген болатын. Ата-анасының айтуынша, жас жігіт ChatGPT арқылы есірткі туралы ақпарат іздеген, егер компания қорғаныс механизмдерін айналып өтуге жол бермегенде, бұл қасіреттің алдын алуға болар еді.

Істің мән-жайын әлі сот бағалауы тиіс болса да, бұл талап арыз денсаулыққа қатысты тақырыптарды талқылаудағы жасанды интеллектінің рөлі туралы мәселеге қайта назар аудартты.

Мұндай жүйелерді әзірлеушілер, соның ішінде OpenAI, чат-бот жауаптары диагноз қою немесе емдеу әдісін таңдау үшін пайдаланылмауы тиіс екенін, ал ауру белгілері, әсіресе қауіпті симптомдар пайда болған жағдайда білікті медициналық көмекке жүгіну қажеттігін ескертеді.

Сондай-ақ былтыр тамызда Калифорния штатындағы Ранчо-Санта-Маргарита қаласының тұрғындары Мэттью және Мария Рейн 16 жасар ұлдары Адам Рейннің қазасына байланысты OpenAI мен компания басшысы Сэм Альтманның үстінен сотқа шағым түсірді. Калифорния сотына жолданған құжатта олар ChatGPT суицид әдістері туралы кеңес беріп, өлім алдындағы хаттың нобайын ұсыну арқылы ұлдарының өліміне себепші болғанын алға тартады. Кейін OpenAI жасанды интеллект пайдаланушылары үшін жас мөлшерін тексерудің жаңа жүйесі енгізілгенін хабарлады.

Тағы оқыңыз: Туристер ChatGPT кеңесінен кейін тауда қалып қойған

Google News арқылы жаңалықтарымызды қадағалаңыз

Жазылу