Deepfake дінбұзар технология

Egemen.KZ парақшасынан алынған деректерге сүйене отырып, Qazaq24.com жаңалық жариялайды..

Қазір жасанды интеллект көмегімен жасалған фейк ақпарат кеңінен таралады. Әрине, ЖИ оны өзінен өзі жасап шығармайды, нейрожелінің бұл мүмкіндігін алаяқтар ұтымды пайдаланып отыр. Саясаткерлер, қоғам қайраткерлері, жалпы танымал тұлғалардың «егіздерін» жасап, дауысын келтіріп, атынан жалған ақпарат таратып, қоғам санасына сіңіріп жатыр. Ең сорақысы, бақиға озған адамдардың да бейнесін жасап, желіге таратқан соң, Қазақстан мұсылмандары діни басқармасы (ҚМДБ) бірден ресми мәлімдеме жасады.

Коллажды жасаған – Зәуреш СМАҒҰЛ, «EQ»

Кісі қолынан қаза тапқан талдықорғандық Айзат Жұманова, өз үйінде өлі денелері табылған атыраулық ерлі-зайыптылардың ЖИ арқылы жасалған видео-үндеуі мыңдаған қаралым жинап, әлеуметтік желі арқылы көпшілікке тарап кетті. Мұндай нұсқадағы видео марқұмдар туыстарына үндеу жасап немесе өз жаназасына шақырған сипатта әзірленген. ҚМДБ өз мәлімдемесінде Ислам діні ғылым мен технологияның дамуына, жаңалық ашуға тыйым салмайтынын айтады. Алайда бұл адамзат игілігіне, әділеттілікке, адамгершілікке негізделіп, шариғаттың аясында жүзеге асуға тиіс. Кез келген технология игі мақсатта қолданылса, рұқсат, ал жамандыққа, зиянды мақсатта қолданылса, тыйым салынады, яғни дипфейк жасауға жол жоқ.

Осы орайда дипфейк дегеніміз (ағылшын тілінен deep learning – «терең оқыту», fake – «жалған») жасанды интеллектіні қолдану арқылы жалған бейнежазбалар жасау технологиясы екенін айта кеткеніміз жөн.

«Deepfake» технологиясы арқылы адамның шын мәнінде айтпаған сөздерін айтқандай немесе істемеген іс-әрекеттерін істегендей ету, жалған ақпарат тарату, шариғат бойынша қатаң тыйым салынады. Мұндай жалған ақпарат тарату ел тыныштығын бұзып, қоғам ішінде іріткі тудырады. Алдын алмаса, салдары елдің ынтымақ-бірлігіне сызат түсіріп, қоғамға залалын тигізеді», делінген ҚМДБ ресми мәлімдемесінде.

«Deepfake» әдетте өзгеге зиян келтіру мақсатында пайдаланылады. Сондай-ақ мұндай контент адамдарды қорқытып, өміріне қауіп төндіруі мүмкін. Ал ислам діні адам өмірінің қауіпсіздігін ең маңызды мақсатының бірі ретінде қарастырады. Тіпті қалжыңдап қорқытуға да қатаң тыйым салынған.

Марқұмдардың бейнесін жандандыру мақсатында қолданылатын дипностальгия (Deep Nostalgia – «терең сағыныш») технологиясы бар. Олар нейрожелілік алгоритмдер негізінде статикалық портреттерді анимациялау арқылы жасалады. Мүфтият осы мәселеге қатысты да түсініктеме берді. ҚМДБ ғалымдардың көзқарасына сүйене отырып, аталған технология марқұмдарды қорлап, құрметсіздік көрсетсе, оны қолдануға болмайтынын айтады. Өйткені марқұмның артынан орынсыз сөйлеу, оның бейнесін анимациялап өзгерту құрметсіздік саналады. Сондай-ақ технология арқылы марқұмның күліп немесе қабағын түйіп тұрған бейнесін көрсету ғайыпты болжауға саяды. Бұған қоса марқұмның бейнесін өзгерту этикалық әрі діни тұрғыдан дұрыс емес.

Дипностальгия технологиясын егер бейне марқұмды кемсіту, мазақ ету немесе қорлау мақсатын көздемесе, қолдануға болады. Біреуге зиян келтірмей жасалған бейне туыстарының қайғысын арттырмауы керек. Бейне туыстарының рұқсатымен жасалуы қажет. Жалпы, қайтыс болғандардың фотосуретін пайдаланбас бұрын туыстарынан рұқсат алған жөн.

«Алдамшылық болмауға тиіс. Мұндай бейнелерді ресми құжаттарда немесе шын видео ретінде қоғамға таратуға қатаң тыйым салынады. Психологтердің айтуынша, дипностальгия технологиясы бастапқыда жұбаныш сезімін берсе де, уақыт өте келе эмоционалдық және психологиялық күйзеліс туғызуы мүмкін. Бұл адамды депрессияға, ұйқының бұзылуына, психологиялық тәуелділік, қоғамнан оқшаулану секілді кері әсерлерге алып келуі ықтимал», деп мәлімдеді мүфтият.

Елімізде дипфейк жасағандарды жазалауға қатысты жеке заңнама жоқ, мұндай әрекеттер көбіне ҚК 190-бабы (алаяқтық, айыппұл немесе 7 жылға дейін бас бостандығынан айыру), ҚК 274-бабы (жалған ақпарат тарату: 3 000 АЕК-ке дейін айыппұл немесе 3 жылға дейін бостандығын шектеу), ҚК 147-бабы (жеке өмірге қол сұғу) бойынша жауапкершілікке тартылады.

Осы орайда Сенат төрағасы Мәулен Әшімбаев дипфейк жасайтындарды жауапкершілікке тарту мәселесі пысықтауды қажет ететінін айтты.

«Әлеуметтік желілерде дипфейктердің көбейіп жатқанын көріп отырмыз. Белгісіз адамдар түрлі жалған мәлімдемелер жасап, шындыққа жанаспайтын ақпарат таратып жатыр. Арасында қандай да бір қорға ақша аударуға шақырады. Бұл – алғашқы дабыл белгілері. Алдағы уақытта жасанды интеллект технологиялары дами түскен сайын мұндай жағдайлар өте үлкен мәселеге айналуы мүмкін. Сондықтан да қазір құқық қорғау органдарымен бірлесе отырып, жауапкершілік мәселесін пысықтауымыз қажет», деді М.Әшімбаев.

Сенат төрағасы мұндай контентті жасанды интеллект емес, адамдар жасайтынын айтып, сақтық шараларын күшейту қажет екенін ескерткен еді.

«Осындай жалған ақпарат пен алаяқтық әрекеттердің артында адамдар тұр. Сондықтан оларды алаяқтық, бопсалау немесе заңсыз ақша жинау баптары бойынша жауапқа тарту керек. Әрине, бұл оңай мәселе емес. Бірақ егер болашақта қоғамда тәртіп орнағанын, бәрі заңға сай болғанын қаласақ, онда осындай әрекеттер үшін нақты жауапкершілікті де қарастыруымыз қажет», деді Сенат төрағасы.

Қазақстан мұсылмандары діни басқармасы әлеуметтік желілердегі парақшаға оқырман тарту мақсатында ақылы негізде жүзеге асырылып жатқан іс-әрекеттерге де назар аударды. Өйткені жалған ақпарат арқылы аудитория санын арттыруды көздейтіндер көп. ҚМДБ түсіндірмесіне сәйкес, фолловер (follower) – әлеуметтік желідегі пайдаланушы, ол белгілі бір парақшаны қадағалап, онда жарияланатын посттар, фото және видеоларды бақылайды.

«Қазіргі уақытта көптеген адам мен компания өз парақшаларын насихаттау мақсатында әртүрлі қызметтерге жүгінеді. Бұл қызметтер фолловерлер, лайктар, комментарийлер мен басқа көрсеткіштердің санын арттыруды көздейді. Парақшаның фолловерлер санын көбейтуге оның иелері арнайы қызметтермен келісімшартқа отырып, оларға белгілі бір соманы төлейді», делінген мүфтият хабарламасында.

ҚМДБ әлеуметтік желідегі фолловерлер санын көбейту нағыз (шынайы) жазылушылар арқылы жүзеге асатынын айтады. Қызмет нақты аккаунтты, парақшаны немесе постты насихаттап, ақпаратты пайдаланушылар арасында таратады, осылайша кең аудиторияны қамтып, лайк жинау мүмкіндігін арттырады. Мүфтияттың ақпаратына сәйкес, бұл жағдайда қызмет ақысы басқа адамға көрсеткен еңбегіне төленетін төлемге ұқсас. Дінде басқа адамның еңбегіне ақы төлеуге рұқсат беріледі.

Сондай-ақ оқырман санын арттыруға жалған аккаунттар (бот) пайдаланылады. Бұл – нақты адамдардың тіркеліп, лайк басуы емес, қолдан жасалған шындыққа жанаспайтын әрекет. Шариғатта бұған тыйым салынады. Себебі ол іс-әрекет алдамшылық әрі оған төлемақы алу кісі ақысын жеу болып саналады.

«Егер тапсырыс беруші фолловерлер санын жасанды әрекеттер арқылы арттыруды білсе оған өзі тапсырыс берсе, күнәның ауырлығы артады. Бұл әрекеттер «жалғандаушы, бұрмалайтын, өтірікші» әрекеттерге теңестіріледі, және шариғатқа қарсы. Мұсылман адал болуға және адал еңбекпен табыс табуға міндетті», деп атап өтті ҚМДБ.

Жасанды интеллект өміріміздің ажырамас бөлігіне айналды. Алайда оны елдің дамуына емес, теріс мақсатқа пайдалану опа бермейтіні белгілі. Әсіресе бақиға озғандардың рухын мазалап, марқұмдар бейнесін күнделікті өмірімізде жеке мүддеге қолдану нағыз имансыздық дер едік.

Соңғы жаңалықтар