Кто ответит, когда искусственный интеллект ошибется?

Вспомните, когда вы в последний раз уверенно проехали по незнакомому городу без навигатора — многие уже и не вспомнят: спутниковая стрелка тихо забрала у нас чувство направления, и заметили мы это не сразу; а теперь представьте, что точно так же, незаметно для себя, теряет хватку не водитель, а врач, в чьих руках вы однажды окажетесь. Похоже, это уже происходит: девятнадцать врачей, каждый из которых провёл больше двух тысяч колоноскопий — не стажёры, а мастера с отточенной десятилетиями рукой и глазом, — получили в своих клиниках систему ИИ, подсвечивающую подозрительные полипы, и исследователи из четырёх эндоскопических центров Польши (результат опубликован в августе 2025 года в The Lancet Gastroenterology & Hepatology) проследили, насколько зорки эти врачи остались в дни, когда работают без неё. До прихода алгоритма предраковые аденомы при «ручных» колоноскопиях находили в 28,4% случаев, после — показатель упал до 22,4%, и пятая часть прежней зоркости испарилась; авторы честно оговаривают, что исследование наблюдательное и доказать вину именно ИИ оно не может, но предполагаемый механизм неуютно знаком каждому, кто клал телефон с навигатором на приборную панель — привыкнув, что рядом есть кто-то внимательный, человек смотрит чуть менее пристально и сам этого не замечает. Это называют дескиллингом: навык слабеет, когда его раз за разом выполняет за тебя машина, и коварство утраты в том, что она не болит — у неё нет ни симптома, ни даты, заметна она только в статистике, обычно тогда, когда исправлять уже поздно. У этой тревоги есть честный противовес: Boston Consulting Group в обзорах 2026 года обещает, что ИИ-агенты ускорят диагностику и сократят административные издержки почти на 40%, а метаанализ сорока четырёх рандомизированных испытаний на более чем тридцати шести тысячах пациентов показывает, что с подсказкой ИИ выявляемость аденом растёт примерно с 37 до 45% — хотя выявляемость это суррогат, а не напрямую спасённые жизни, и часть прибавки приходится на мелкие образования с лишними процедурами наблюдения, польза всё равно реальна. Отсюда сильнейшее возражение оптимистов: если ИИ теперь всегда рядом и врач с ним в сумме точнее прежнего одиночки, какая разница, что стало с его навыком наедине с собой — но сложите восемь пунктов прироста с шестью пунктами падения, и проступит сюжет: ИИ добавляет, пока работает, и отнимает, когда выключается, а риск достаётся не сегодняшнему пациенту, а следующему — тому, до кого ИИ не дойдёт, у кого откажет или ошибётся, и в эту секунду остаётся ровно столько медицины, сколько сохранил в себе человек. Сравнение с калькулятором, на которое опирается это возражение, — подмена понятий: в мире ИИ навык означает способность распознать, когда модель вышла за пределы своей надёжности, не поддаться её гладкой уверенности и удержать пограничный случай, а именно эту способность теряют первой, ведь калькулятор никогда не ошибается уверенно, тогда как статистическая модель ошибается уверенно постоянно. Деквалификация плоха не сама по себе, а в связке с молчаливой ошибкой и подброшенной ответственностью — там, где инструмент надёжен, проверяем и за него кто-то отвечает, утрата ручного навыка не беда, а честная автономия. Спор, стало быть, не о том, нужен ли медицине ИИ — нужен, — а о незаметной сделке внутри красивого прогноза: машине рутину, человеку суждение, которое не врождённый дар, а навык, годами не нагружаемый и потому медленно ветшающий; и самая большая опасность не в том, что мы отдадим ИИ слишком много, а в том, что отдадим его ровно наполовину — оставим врача формально главным, забрав у него и навык, и власть. Это уже происходит шире одной специальности: к середине 2020-х регуляторы США одобрили больше тысячи медицинских устройств с искусственным интеллектом, и около трёх четвертей из них приходится на радиологию — распознавание образов на снимках, — а значит именно в перцептивных специальностях, где мастерство и есть натренированный глаз (рентгенология, патоморфология, дерматоскопия, эндоскопия, расшифровка ЭКГ), риск дескиллинга проявится раньше прочего, не потому что эти врачи слабее, а потому что именно их работу ИИ имитирует убедительнее всего; при этом обратима ли потеря, никто толком не измерил — само это незнание показательно: технологию, способную незаметно менять врача, разворачивают всё шире, так и не договорившись, как мерить эту перемену и чинится ли она, тогда как авиация хотя бы исходит из того, что навык держится тренировкой, а медицина и этой ясности себе пока не обеспечила.