Ученые выявили способность ИИ внушать людям ложные воспоминания

Сгенерированные искусственным интеллектом изображения и тексты могут успешно искажать реальные воспоминания людей и заставлять их верить в выдуманные события, пишет Gizmodo.

В ходе исследования под руководством Патти Маес из Массачусетского технологического института участникам показывали фотографии, а затем части из них демонстрировали те же снимки, но измененные нейросетью. Позже во время теста на память добровольцы, смотревшие на отредактированные кадры, не только путали оригиналы, но и были полностью уверены в своей правоте.

Память человека легко поддается внушению. Искусственный интеллект лишь усугубляет эту проблему. Другие эксперименты показали, что созданные нейросетями дипфейки и тексты способны внушать людям ложные воспоминания даже о вымышленных политических скандалах, меняя их представления о прошлом.

Проблема опасна и в ситуациях, когда ИИ не используют во зло. Алгоритмы склонны к ошибкам и галлюцинациям, однако люди часто не замечают их. Эксперты, проверяющие работу алгоритмов, также рискуют поддаться искажению собственных воспоминаний под влиянием ложных данных от системы.

Сейчас способность человека распознать созданный нейросетью контент находится на уровне угадывания, хотя ученые пытаются разработать методы обучения. При этом попытки исправить этот уязвимый фактор пока не принесли гарантированного результата.