Алгоритмы и этические нормы

В форуме, прошедшем в офлайн- и онлайн-форматах, приняли участие депутаты, представители профильных министерств, Южно-Калифорнийского и Амстердамского университетов, МГУ им. М. Ломоносова, университетов Валенсии и Кардиффа, зарубежные и отечественные ученые.

В своих приветственных выступлениях вице-министр науки и высшего образования РК Динара Щеглова, председатель совета директоров НАО «Евразийский национальный университет им. Л. Гумилева» Дархан Мынбай, генеральный директор Центра поддержки цифрового правительства Министерства цифрового развития и искусственного интеллекта Алия Оспанова отметили высокую значимость форума, ставшего открытой площадкой для обсуждения актуальных вопросов в области применения цифровых технологий.

– 2026 год объявлен Президентом Годом цифровизации и искусственного интеллекта. Это важный шаг на пути технологической модернизации страны. Со своей стороны мы ведем систематическую работу в сфере развития отрасли, уделяя особое внимание научно-инновационному потенциалу, интерактивным технологиям, их распространению и направленности на конкретные результаты. Один из ярких примеров поддержки цифровой экосистемы – программа AI Sana, благодаря которой подготовлены специалисты в области ИИ, – сказала Динара Щеглова.

Искусственный интеллект, по словам Дархана Мынбая, не просто цифровой инструмент в его узком понимании. Это целая экосистема, меняющая подготовку кадров, культуру правового мышления и ставящая во главу угла этические нормы. Со спикером были полностью солидарны и другие участники встречи, отметившие значимый принцип: нельзя всесторонне полагаться на ИИ и другие цифровые продукты, поскольку подмена понятий и искажение картины реальности выступают угрозой для пользователей.

Исполняющий обязанности директора Школы креативных индустрий Astana IT University, PhD Богдан Петров привел конкретные примеры того, как легко порой качественно сгенерированные при помощи ИИ продукты могут ввести человека в заблуждение. Казахстанцы, даже мастера своего дела, нередко воспринимают за чистую монету видеоконтент, созданный AI. Поэтому при использовании цифровой информации так важно сейчас проводить фактчекинг, нельзя голословно верить всему, что публикуется на просторах Интернета и в социальных сетях.

– Искусственный интеллект научился пользоваться коллективными стилями, в первую очередь функцио­нальными. И здесь он начинает соперничать с автором-человеком, поскольку может адаптировать сгенерированные тексты под стилистику известных классических произведений. Что получается? Технологичес­кий автор становится конкурентом автору-человеку и способен заменить его в написании новостей, прогнозов погоды и так далее. Все это приводит к тому, что медиапространство перестает быть только человеческим. Оно разделилось на три области: гуманитарную, технологическую и диффузную (гуманитарно-технологическую). В первом случае генератором выступает человек, во втором – искусственный интеллект, а в третьем – человек и ИИ в разных пропорциях, – поделилась своими мыслями профессор МГУ им. М. Ломоносова, доктор филологических наук Наталья Клушина, отметив, что на фоне сложившейся ситуации читателю недоступно понимание того, чей труд он читает или смотрит в данный момент, – генерирующей цифровой машины или живого автора.

По ее словам, в медиапространстве остро дискутируется вопрос о маркировке контента, дабы потребитель наглядно понимал, кем создан медийный продукт. Человеку важно понимать, стоит ли полноценно доверять транслируемой информации.

В рамках форума участники обсудили вопросы обеспечения прозрачности и безопасности систем ИИ, а также меры по утверждению этических норм алгоритмических решений, внедрения международных стандартов правового регулирования в этой сфере.