Фейк в эпоху ИИ

Еще несколько лет назад под медиаграмотностью чаще понимали умение отличить достоверную новость от явной выдумки. Сегодня этого мало. Человек может получить голосовое сообщение якобы от руководителя, просмотреть видео «очевидца», прочитать десятки одинаковых комментариев и решить, что перед ним – подтверж­денный факт. Генеративный искусственный интеллект сделал убедительные подделки доступнее, а границу между событием, интерпретацией и манипуляцией – менее заметной. О том, как меняются фейки в эпоху ИИ, почему медиаграмотность нужна не только читателю, но и бизнесу, и чему Казахстан может научиться у международной практики, «Казахстанская правда» поговорила с Жанар САБАЗОВОЙ – MBA in AI, лектором по искусственному интеллекту MBA программы международной школы бизнеса BGA и основательницей стартапа Steppe Tech Lab.

– Жанар, почему о медиа­грамотности сегодня нужно говорить заново, фейки ведь существовали всегда?

– Изменился не только масштаб, но и качество подделок. Раньше грубый фейк часто выдавали ошибки, плохой монтаж или сомнительный сайт. Теперь текст, изображение, голос и видео можно создать быстро и довольно убедительно. При этом опаснее всего не стопроцентная ложь. Намного сложнее распознать материал, где реальные факты смешаны с домыслами, старая фотография выдана за новую, а верная цитата подводит читателя к ложному выводу.

Поэтому медиаграмотность – не способность с первого взгляда угадать, где обман. Это привычка задавать простые вопросы: кто сообщил новость первым, на чем основано утверждение, есть ли независимое подтверждение и почему этот материал появился именно сейчас.

Я бы добавила еще один признак – сильную эмоцию. Если сообщение требует немедленно испугаться, возмутиться, перевес­ти деньги или переслать его всем знакомым, лучше остановиться. Такая пауза занимает минуту, но нередко защищает и деньги, и репутацию.

– Особенно много разговоров о дезинформации возникает во время выборов. Почему эта тема так чувствительна?

– Потому что целью может быть не только конкретный кандидат или партия. Под удар попадает доверие к самой процедуре. Ложная информация о порядке голосования, поддельное видео, вырванная из контекста фраза или искусственно раздутый спор способны создать ощущение хао­са даже у тех, кто не поверил в отдельный фейк.

Показателен опыт Европейского союза перед выборами в Европарламент в 2024 году. В апреле Еврокомиссия провела стресс-тест с участием крупных онлайн-платформ, национальных координаторов и организаций гражданского общества. Участники отрабатывали вымышленные сценарии, основанные на прежних попытках вмешательства: дипфейки, скоординированное неаутентичное поведение, ложные сведения об избирательном процессе, давление на участников дискуссии и другие формы манипуляции.

Мне близка сама логика: не ждать, пока кризис развернется, а заранее проверять, готовы ли институты и платформы действовать согласованно. Информационные риски здесь рассматриваются поч­ти так же, как киберриски. Это уже не только вопрос личной осторожности, а часть общественной устойчивости.

– Но обычный человек не может проверять каждую публикацию. Какой алгоритм действительно работает?

– Проверять все и не нужно. В первую очередь стоит проверять то, что влияет на деньги, безопас­ность, репутацию или важное решение.

Первый шаг – ничего не делать сгоряча: не переводить деньги, не пересылать сообщение и не строить вывод только потому, что материал выглядит правдоподобно. Второй – найти первоисточник. Если речь идет о решении госор­гана, банка, суда или компании, нужен официальный документ или сообщение самой организации, а не чей-то пересказ.

Третий шаг – найти независимое подтверждение. Один и тот же текст в десяти telegram-каналах не становится десятью источниками: часто это одна публикация, которую многократно скопировали. И последнее – отделить факт от мнения. Событие, документ и точную цитату можно проверить. Объяснение причин и прогноз последствий – уже интерпретация автора.

ИИ тоже может помочь: найти первичный документ, разложить текст на проверяемые утверждения, подсказать, какие данные отсутствуют. Но окончательное решение о достоверности нельзя отдавать модели. Она способна ошибиться, перепутать источник или уверенно дополнить пробелы тем, чего в документе нет.

– Вы занимаетесь анализом информационного поля. Может ли технология сама выявлять фейки?

– Я бы не называла систему мониторинга «машиной истины». Автоматически объявлять публикацию фейком рискованно и методологически неверно. Технология полезна в другом: она помогает увидеть не отдельные посты, а движение темы целиком.

В большом массиве заметно, где возник исходный сюжет, как он переходит с одной площадки на другую, какие формулировки повторяются, где растет негатив и какие публикации действительно влияют на обсуждение. После этого аналитик определяет, что требует фактчекинга или официального разъяснения, а что – обычная критика и нормальная общественная дискуссия.

В одном из недавних проектов мы анализировали открытое информационное поле вокруг предвыборных дебатов. Самым показательным оказался именно масштаб: отдельный громкий материал может создать ощущение кризиса, но только в общей картине видно, был ли это единичный эпизод, устойчивый нарратив или начало более широкой волны. Мы развиваем такие инструменты и в Steppe Tech Lab, однако роль технологии здесь – поддержать аналитика, а не заменить его суждение.

– Почему медиаграмотность должна волновать бизнес?

– Потому что для компании это уже прямой финансовый и репутационный риск. Сотруднику приходит голосовое сообщение якобы от руководителя с просьбой срочно провести платеж. В Сети появляется поддельное обращение от имени первого лица. Ложная информация о продукте быстро расходится по социальным сетям. Во всех трех случаях пересекаются кибербезопасность, коммуникации и медиаграмотность.

В ноябре 2024 года полиция Гонконга вместе с финансовым регулятором, банковской ассоциацией и офисом цифровой политики провела семинар по цифровому мошенничеству. В нем участвовали 130 представителей более чем 60 банков и финансовых организаций. Разбирали развитие deepfake-технологий, способы распознавания подделок, реальные случаи и меры защиты для банковского сектора.

Для бизнеса отсюда следует очень практичное правило: не­обычный запрос нужно подтверж­дать через второй канал. Если по видео, аудио или в мессенджере просят срочно перевести деньги, раскрыть данные или дать доступ, сотрудник должен связаться с инициатором заранее известным способом. Чем убедительнее становятся подделки, тем меньше стоит полагаться на впечатление «я же вижу и слышу руководителя» и тем важнее соблюдать процедуру.

– Какой международный подход к медиаграмотности был бы полезен Казахстану?

– Мне интересен подход Финляндии. В мае 2026 года Министерство образования и культуры и Финское агентство по искусству и культуре опубликовали обновленные национальные рекомендации по медиаграмотности и медиаобразованию. В них отдельно учтены искусственный интеллект, алгоритмы и информационное влияние. Медиаграмотность рассматривается как гражданский навык для людей всех возрастов и как часть демократии, безопас­ности и устойчивости общества.

Главный урок – такую работу нельзя свести к одной кампании или школьному уроку. Платформы и способы манипуляции меняются, поэтому навыки тоже нужно обновлять всю жизнь: в школе, университете, на работе и дома.

Для Казахстана я бы выделила три уровня. На личном уровне – умение проверить источник, факт и контекст. На уровне организаций – готовность государства, СМИ и бизнеса быстро давать ясную, проверяемую информацию. На технологическом – инструменты, которые позволяют раньше заметить изменение в информационном поле и не пропустить начало кризиса.

При этом медиаграмотный человек – не тот, кто никому не верит. Тотальное недоверие так же опасно, как наивность. Зрелая позиция выглядит иначе: человек понимает, кому и на каком основании доверяет, и знает, как это проверить. В мире, где ИИ помогает создавать все более убедительный контент, дефицитом становится не информация, а подтверждение. Именно поэтому доверие превращается в один из главных ресурсов и общества, и бизнеса.