Бізді болашақта президент бот басқаруы мүмкін

Aikyn.kz болашақ сайлауларда кімдер жеңетінін gizmodo.com материалына сүйеніп талдайды.

Nature журналында жарияланған жаңа зерттеу ЖИ негізіндегі чат-боттар сайлаушылардың көңіл-күйі мен таңдауларына ықпал ете алатынын көрсеткен. Осы боттарды басқаратын адамдардың сайлау нәтижелеріне әсері туралы алаңдаушылық туындады.

Зерттеуді Корнелл университетінің информатика, маркетинг және психология профессоры Дэвид Г. Рэнд жетекшілік еткен топ жүргізді. Олар АҚШ-тың 2024 жылғы президенттік сайлауы, сондай-ақ 2025 жылғы Канада мен Польшадағы жалпыұлттық сайлауларға қатысты бірнеше эксперимент жасаған. Әрбір жағдайда қатысушылар белгілі бір кандидатқа қолдау көрсетуге арналған арнайы чат-ботпен сөйлескен. Зерттеу барысында бот бастапқыда өзі қолдайтын кандидатқа қарсы көзқараста болған адамдарға ықпал етуде керемет тиімді болғаны анықталды.

Эксперимент қалай жүргізілді?

АҚШ-та Дональд Трамп немесе Камала Харриске дауыс бергісі келетін 2306 адам таңдалады. Содан кейін оларға осы екі кандидаттың бірін қолдайтын чат-ботпен сөйлесу ұсынылады. Осындай тәжірибелер Канадада (Марк Карни немесе Пьер Пуальевр) және Польшада (Рафал Тшасковский немесе Кароль Навроцки) өткізілді.

Барлық чат-боттарға екі негізгі міндет қойылды: бірінші, өз кандидаттарына қолдауды арттыру; екінші, егер сайлаушы бот қолдайтын кандидатқа қарсы болса – оның көзқарасын өзгерту.

Чат-боттарға міндеттелген талаптар мынадай болған: сыпайы болу, фактілерге сүйену, сенімді мысалдар келтіру, қарсы пікірлерге байыппен жауап беру және қатысушының көзқарасын құрметтеп, мойындау.

Зерттеушілер чат-боттар адамдардың сайлауға жалпы қатысу ықтималдығына айтарлықтай әсер етпегенін анықтаған. Бірақ олар пікірді өзгертуге, нақты бір үміткерге дауыс беруді арттыруға немесе төмендетуге айтарлықтай ықпал ете алған.

Чат-боттар саясат туралы фактіге негізделген дәлелдер келтірген кезде анағұрлым сенімді болған. Бұл адамдардың ЖИ-ді белгілі бір деңгейде беделді ақпарат көзі деп қабылдайтынын көрсетеді.

Зерттеу барысында боттардың келтірген кейбір фактілері дәл болмағаны да анықталған. Сондай-ақ, оңшыл кандидаттарды қолдаған чат-боттар қателіктерді азырақ жібергені тіркелген. Зерттеушілер бұл әсерді дәстүрлі саяси жарнамалардың ықпалынан да күштірек деп бағалайды.

Негізгі қауіп неде?

Барлық үш экспериментте қатысушылар чат-ботпен сөйлесіп отырғанын білген. Бірақ шынайы өмірде чат-боттар «жасырын нұсқаулармен» жұмыс істеуі әбден мүмкін. Мысалы, Илон Масктың xAI компаниясының Grok чат-боты иесінің жеке саяси көзқарастарына бейімделген.

ЖИ модельдері біз үшін «қара жәшік» болғандықтан, олардың қандай деректермен оқытылатыны белгісіз. Сондықтан нақты саяси мақсат көздеген компания немесе ұйым чат-боттарға өздерін қолдауға бағытталған үгіт жүргізуді оңай жүктей алады.

2024 жылы жарияланған тағы бір зерттеу ChatGPT сияқты модельдердің саяси бейімділігі уақыт өте келе өзгеретінін көрсеткен.

Технологияның адам өмірін жылдам өзгертетіні мына әзіл видеода:

Президент адам емес, чат-бот болса ше?

Біздің ойымызша, чат-боттардың саяси процестерге ықпалы барған сайын артатын заманда, олардың жұмысының ашықтығы мен этикалық реттелуі бұрынғыдан да өзекті мәселеге айналмақ.

Болашақ сайлауларда жеңіс адамның Жаратушы берген қасиетіне емес, ЖИ негізіндегі чат-боттардың ықпалына тәуелді болуы мүмкін. Коммуникациялық арналар мен ЖИ құралдарын бақылау арқылы демократиялық процестердің тағдыры шешілмекші.

ЖИ-дің технологиялық әлеуеті күшейген сайын қоғамда «адам емес кандидаттың» жеңуі теориялық тұрғыдан әбден мүмкін сияқты. Өйткені шешуші рөлді кандидат емес, оның атынан сөйлейтін алгоритмдер атқарады. Бұндай перспектива саяси жүйелерді ЖИ-дің манипуляциялық әсерінен қорғау қажеттігін өзекті жасайды.

Сараптама, зерттеу мақала, күнделікті өзекті ақпаратты «Айқынның» TELEGRAM арнасынан табасыз.