ИИ уполномочен полечить
«Активно и без сомнений» внедряет Министерство здравоохранения искусственный интеллект в медицинскую сферу. Однако и у врачей, и у пациентов эта активность вызывает вопросы.
Об этом на всероссийской онлайн-конференции, посвященной актуальным проблемам медицины и права, говорила Антонина Чупрова, доктор юридических наук, профессор кафедры уголовного права и криминологии Всероссийского государственного университета юстиции. «Искусственный интеллект в здравоохранении» — так назывался ее доклад.
Десятки медицинских изделий на базе ИИ уже зарегистрированы в России, анонсировано появление еще пятисот. Большинство предназначено для анализа медицинских изображений и ассистирования в диагностике. Антонина Юрьевна привела обобщенные результаты опросов, проводимых научными организациями и медицинскими сайтами. Они показывают, что в целом наши граждане позитивно смотрят на применение искусственного интеллекта в медицине. Однако полностью доверять искусственному интеллекту как врачу готовы лишь три процента россиян. Частично доверяют 48 процентов, а 38 процентов не доверяют вовсе.
Ожидают улучшения здоровья при использовании искусственного интеллекта 47 процентов мужчин и 40 процентов женщин. Причем молодые люди доверяют искусственному интеллекту значительно больше: среди них 57 процентов считают, что его применение позволит существенно улучшить здоровье пациента, а число врачебных ошибок уменьшится.
Несмотря на то что в целом россияне положительно оценивают внедрение искусственного интеллекта в медицинскую практику, уровень оптимизма становится более сдержанным, когда речь заходит о собственном опыте, говорит Антонина Чупрова. Более половины россиян ответили, что чувствовали себя крайне некомфортно, когда врач полагался на искусственный интеллект в диагностике и подготовке рекомендаций по их персональному лечению.
Среди медицинских работников уровень оптимизма еще ниже. 80 процентов врачей не боятся конкуренции с искусственным интеллектом. Многие считают, что использование нейросетей может привести к увеличению зарплат, поскольку на врачах останутся лишь самые сложные случаи диагностики и лечения. Однако даже самые несложные случаи врачи не готовы полностью передать искусственному интеллекту: 39 процентов не доверяют ему полностью, 31 процент готовы поверить только в том случае, если искусственный интеллект докажет, что чаще, чем врач, ставит правильный диагноз. В тех случаях, когда мнения врача и искусственного интеллекта расходятся, 64 процента склонны обратиться за третьим мнением.
Отвечать за ИИ врачи категорически не готовы. Десять процентов считают, что ответственность должно нести Министерство здравоохранения, которое выдало аккредитацию на это медицинское изделие. 14,5 процента возлагают ответственность на разработчиков, а 12 процентов — на руководство клиники. Ни один из медицинских работников не готов взять ответственность на себя.
«Сейчас среди медицинских работников распространена такая шутка: если вам поставил диагноз Google, второе мнение надо спрашивать у Яндекса, — продолжила Антонина Юрьевна. — В этой шутке есть доля правды. Самая большая опасность и наибольший риск, связанный с применением искусственного интеллекта, заключается в том, что он оказывает потенциальное влияние на принятие клинических решений, а способы этого влияния плохо изучены».
Основная причина сомнений — в отсутствии прозрачности алгоритмов, предлагаемых разработчиками. Многие модели не обладают объяснимой структурой. То, что ни пользователь, ни разработчики не могут в полной мере понять и оценить результаты, полученные с помощью ИИ, создает риски.
Второй спорный момент — качество изделий с искусственным интеллектом. Обучение ИИ должно базироваться на больших выборках. Даже выборка в 500 тысяч конкретных случаев не дает серьезных результатов, считают специалисты. Но создание изделий с ИИ — большой и перспективный бизнес. Разработчики стараются перегнать конкурентов, у них часто не хватает времени на проведение полноценных исследований. Специалисты, в том числе зарубежные, жалуются, что необходимость постоянно представлять новые инструменты с искусственным интеллектом приводит к тому, что многие продукты выпускаются на рынок сырыми. Профессор Чу-прова привела пример: программа анализа снимков компьютерной томографии получила регистрационное удостоверение в 2020 году, а в 2023 году Росздравнадзор отозвал его. По сообщению СМИ, отзыв лицензии был связан с «отсутствием клинического эффекта» и «неоднократно выявленными дефектами функционирования».
Другой пример — сервис для постановки заключительных диагнозов, внедренный в систему здравоохранения столицы. Принцип его работы такой: врач определяет заключительный диагноз, искусственный интеллект анализирует электронную медицинскую карту пациента и формирует свой вариант диагноза. Eсли он совпадает с мнением врача, этот диагноз включается в заключение. Eсли же вывод системы расходится с диагнозом, поставленным врачом, система сигнализирует об этом и предлагает свой вариант. По мнению разработчиков, это обеспечивает врачу дополнительную страховку и предоставляет ему независимое второе мнение, при этом окончательное решение все равно принимает врач.
Но даже если точность сервиса составляет 99 процентов, вероятность ошибок все равно остается слишком высокой, подчеркивает Чупрова. Представьте один процент из 17 миллионов диагнозов — это 170 тысяч ошибочных диагнозов, 170 тысяч пациентов, не получивших адекватного лечения. Конечно, врачи тоже ошибаются. Но ошибки врача в какой-то степени носят статистический характер и не поддаются математической оценке.
Разработчики сообщают, что их сервис обучен на большом объеме данных — свыше 30 миллионов конкретных случаев за два года. При этом для экспертной оценки привлекались 38 специалистов. «Возникает вопрос: как могли 38 экспертов за два года проанализировать 30 миллионов вариантов? Даже если бы они не ели, не спали и не работали, они бы физически не смогли обработать такое количество случаев, — говорит Чупро-ва. — Поэтому и возникают очень серьезные вопросы к качеству и надежности».
Eсли врач должен следовать позиции искусственного интеллекта, то что делать, когда он с ней не согласен? Он должен объяснять, почему его профессиональная позиция расходится с выводом системы. Но имеет ли искусственный интеллект интеллект как таковой? Исследователи обращают внимание на неспособность искусственного интеллекта корректно анализировать данные при внесении в них минимальных изменений. Существует проблема предвзятости алгоритмов. Обучение на данных определенных групп населения ведет к дискриминации по возрастному, национальному или расовому признаку, что оборачивается неточным диагнозом или некачественным лечением для остальных пациентов. Eще один пугающий аспект -генерация ИИ «фейковых специалистов», которые приписывают себе стаж и лицензии, вводя пациентов в заблуждение.
На практике внедрение ИИ порой парадоксально удлиняет время постановки диагноза. Из-за централизации процесса в регионах врачи на местах перестают самостоятельно описывать снимки, отправляя их в центры обработки. Антонина Чупрова привела в пример реальный случай с юношей, который из-за того, что в клинике не было никого, кто мог бы описать рентгеновский снимок (все данные направлялись в центр обработки), на следующий день был на скорой доставлен в больницу. А это уже серьезные уголовно-правовые риски, в частности, предусмотренные статьей 124 УК РФ за неоказание помощи больному.
К тому же массовое применение ИИ нарушает право пациента на информированное добровольное согласие, закрепленное в 323-ФЗ. Ведь пациенты зачастую и не знают, что их анализы трактует искусственный интеллект.
Критически важным остается и вопрос деградации навыков врача. Экспертов тревожит, что привычка доверять машине лишает врача критического мышления. В ситуации, когда система даст сбой или отключится электричество, доктор рискует оказаться беспомощным без цифрового ассистента.