Доверяй, но проверяй. ИИ в медицине – не угроза, а инструмент прогресса

Про искусственный интеллект сейчас говорят на всевозможных форумах и конгрессах, докладчики убеждают насколько это быстро, точно, удобно. Казалось бы – что можно услышать об этом нового?

Вернувшись с очередного мероприятия, посвящённого ИИ, я встретился со своим приятелем – стоматологом в возрасте за пятьдесят с небольшим лет. «Перестанут работать руками и думать головой», – подытожил он. Немного поразмыслив над его аргументами, я посчитал, что, вероятно, он прав. Мне представилось, что в скором будущем студенты просто разучатся думать собственными мозгами и вспомнилась фраза песни из кинофильма про Электроника: «вкалывают роботы, а не человек». Медвузы выпустят из своих дверей толпы посредственных троечников- сыроежкиных, которые в условиях кадрового голода займут в больницах и поликлиниках места уходящих на пенсию сегодняшних врачей.

С такими небравурными мыслями ехал на этот конгресс. Однако результат неожиданно удивил. Ответы на вопросы беспокоящихся врачей с многолетним стажем я услышал и с трибуны докладчиков, и в результате неформального обсуждения с присутствующими на мероприятии экспертами в этой области. Но, обо всём понемногу…

Более 50 спикеров, являющихся лидерами в области медицины, науки и технологий представили свои доклады на XIII Международном конгрессе «ОргЗдрав», проходившем в Москве 9-10 июня 2025 г. Главная тема обсуждений на сессиях первого дня Конгресса - внедрение ИИ в здравоохранении, риски, связанные с ним, и страхи перед ним.

Во вступительном слове ректор Высшей школы организации и управления здравоохранением, доктор медицинских наук Гузель Улумбекова, обозначила важность проводимого конгресса: «Организаторы здравоохранения должны знать технологии, предвидеть их развитие, пользу и связанные с ними риски, должны готовить систему к их внедрению». Она подчеркнула проблему: «Только 50% врачей регулярно пользуются современными источниками информации, предоставляемыми IT-сферой».

Г.Улумбекова предупредила о рисках ИИ: «Главный риск – снижение уровня критического мышления врача». В завершение вступительного слова она отметила необходимость создания общественных организаций, которые могли бы делиться опытом в направлении ИИ.

Заместитель министра здравоохранения РФ Вадим Ваньков рассказал об основных успехах во внедрении ИИ в РФ: «Мы вышли на этап внедрения искусственного интеллекта: создана инфраструктура, внедрён электронный документооборот, централизованные архивы медицинских изображений. На сегодня зарегистрировано 47 медицинских изделий с ИИ, из них 26 – для анализа изображений». В 2023-2024 гг. 85 регионами внедрено более 400 медицинских изделий с использованием ИИ (необходимо подчеркнуть 400 и 47 – это не путаница в цифрах, это разные виды медизделий. После выступления он отдельно остановился на этом в дополнительном вопросе к докладу – ред.).

В качестве основных направлений по развитию и применению технологий ИИ он назвал: разработка и внедрение отечественных систем с ИИ, направленных на решение клинических задач, повышение качества диагностики, обеспечения раннего выявления заболеваний, автоматизацию рутинных операций, повышение эффективности управления; масштабирование лучших практик применения ИИ, разработка типовых сценариев использования; регулярное обучение медицинских работников по теме применения ИИ в своей практике; обеспечение инфраструктуры и управление данными в целях повышения охвата применения ИИ и повышения качества работы изделий с ИИ; мониторинг эффективности применения технологий ИИ при оказании медицинской помощи; мониторинг безопасности применения ИИ: информирование о неблагоприятных событиях, мониторинг статистики применения; обеспечение требований по информационной безопасности; меры по стимулированию отрасли для развития ИИ в сфере здравоохранения.

Внедрение ИИ ускоряется (70 региональных отделений используют централизованные решения), но требует внимания инфраструктурные, регуляторные и образовательные задачи. Ключевой тезис красной нитью прослеживался весь доклад: «Технологии должны помогать врачу, а не усложнять его работу».

В качестве примера В.Ваньков рассказал о враче, которой 94 года, и она активно использует ИИ, однако ещё раз заметил: «Внедрение не должно создавать дополнительную нагрузку. Технологии обязаны вписываться в его реальную практику, а не требовать усилий на освоение».

Генеральный директор ФГБУ «Всероссийский научно-исследовательский и испытательный институт медицинской техники» Росздравнадзора, доктор медицинских наук Игорь Иванов продолжил тему государственного регулирования, рассказав в своём докладе о принципах регистрации, контроля качества и безопасности ИИ-решений в здравоохранении.

Безопасность он отметил, как главный приоритет на всех этапах регистрации. В частности, И.Иванов упомянул, что в ноябре 2023 г. регистрация одного из изделий была приостановлена в связи с низкой эффективностью, отличающейся от заявленной производителем. И лишь после кардинальной доработки, спустя 7 месяцев его использование возобновили.

 «Мало выйти на рынок – начинается «взрослая жизнь» в боевых условиях», – подчеркнул эксперт. Обязателен 3-летний клинический мониторинг после регистрации. В 2024 г. на клинический мониторинг эффективности и безопасности ожидалось получить 25 отчётов, в отношении 6 МИ они были направлены, что нарушает требования приказа Минздрава России № 1113н. Из 19 поступивших – для 16 МИ клиническая эффективность и безопасность не подтверждены клиническими данными, для 1 МИ – требуется уточняющая информация, и лишь для 2 МИ из всех 25 – клиническая эффективность и безопасность подтверждены.

В завершении И.Иванов призвал к совместному сотрудничеству: «Создан специализированный центр ИИ-разработок в нашем институте. Мы аккумулируем экспертов для сопровождения продуктов от идеи до рынка совместно с Минздравом России».

О личном опыте использования ИИ-решений на практике и  действительно ли они облегчают работу врача рассказал в своём докладе президент Российского общества рентгенологов и радиологов, заведующий кафедрой лучевой диагностики и терапии Факультета фундаментальной медицины МГУ им. М.В.Ломоносова, заведующий отделом лучевой диагностики МНОЦ МГУ им. М.В.Ломоносова, доктор медицинских наук, профессор Валентин Синицын.

Не слишком обнадёживающий цифры привёл в пример эксперт: «Мы сделали опрос в нашем профильном чате, спрашивая у врачей, пользуются ли они искусственным интеллектом. 80% участников чата ответили: нет. Крайне важно, чтобы врачи поверили в искусственный интеллект».

Профессор призвал избавиться от скепсиса в тех случаях, где ИИ достаточно давно и успешно применяется, например в КТ грудной клетки или маммографии, где при правильном применении они повышают эффективность работы врача. При этом напомнил, что процент ошибок даже генеративных моделей достаточно велик.

Он отметил, что при правильном применении искусственный интеллект без сомнений улучшит работу врачебной диагностики.

О положительном опыте внедрения ИИ-решений в практику, как надо готовить систему здравоохранения к цифровизации и внедрению ИИ рассказала заместитель министра здравоохранения Республики Башкортостан, кандидат медицинских наук Динара Еникеева. Так же своим опытом в цифровизации здравоохранения и роли регионального Минздрава Республики Чувашии  поделился с участниками конгресса заместитель Председателя Кабинета министров Чувашской Республики – министр здравоохранения Чувашской Республики Владимир Степанов.

«Цифровизация – не замена бумаг электронными документами, а изменение качества работы врача. Клиническое мышление – основа профессии, а ИИ усиливает его точность и скорость», – отметила Д.Еникеева.

Цифровая экосистема здравоохранения Башкирии объединяет 205 медицинских организаций, это около 4,5 млн медкарт. Голосовые помощники для записи к врачу (конверсия обработанных запросов – 85%), значительно снизили нагрузку на регистратуру. В качестве положительного опыта можно отметить, что даже в удалённых фельдшерско-акушерских пунктах, которых в республике более двух тыс., функционирует программный продукт для распознавания электрокардиограмм.

В.Степанов отметил, что все медучреждения работают на единой платформе. Внедрены роботизированная обработка медицинских изображений (анализ КТ, рентгена), автоматизация документооборота.

Вместе с тем, опрос более тысячи врачей в 2024 г. показал, что несмотря на практически общую поддержку использования ИИ, 16% пользовались им при вынесении врачебного решения хотя бы раз, а 8% отрицали любое его использование.

«Доверие пациентов к ИИ растёт параллельно с его принятием врачами. Без погружения медицинских команд в цифровую среду эффективной работы не добиться», – заявил В.Степанов. В Чувашии создана региональная рабочая группа по внедрению ИИ и обучению врачей.

Большой интерес и обсуждение участников конгресса вызвал доклад заместителя министра здравоохранения Российской Федерации Татьяны Семёновой, на тему: «Польза и риски внедрения ИИ в медицинское образование и повышение квалификации медицинских кадров».

В 18 подведомственных организациях Минздрава России были созданы образовательные программы подготовки специалистов в области разработки и применения технологии искусственного интеллекта в сфере охраны здоровья, ещё 7 – ведут работу над созданием собственных образовательных программ.

Сеченовским Университетом разработаны требования к содержанию образовательных мероприятий по обучению врачей, по 18 приоритетным врачебным специальностям по плану размещаются на портале НМО ИОМ для врачей из субъектов РФ применению МИ с ИИ в медицинской практике.

РНИМУ им. Н.И.Пирогова с участием преподавателей из IT компаний и Технологических университетов разработана программа переподготовки «Технологии ИИ в медицинской практике» (280 часов), разрабатывается модуль в основные образовательные программы (до 102 часов).

Также 11 подведомственных организаций ведут и иные инициативы в области образования: создание лабораторий, кафедр и научных центров, направленных на изучение, создание и внедрение технологий ИИ в здравоохранении; организация конференций, форумов и иных мероприятий по тематике ИИ; внедрение планов публикационной деятельности по ИИ в рамках научно-исследовательских инициатив.

«Когда искусственный интеллект будет уже массово внедряться в здравоохранение, нам необходимо будет внести определённые  компетенции в наши образовательные стандарты», – отметила Татьяна Владимировна. – Я за то, чтобы углублённые знания давались именно по тому продукту, который будет использоваться в конкретной, выбранной будущим врачом специальности. Если врач не будет пользоваться продуктом, он просто должен знать о его существовании. Я за прогресс в управляемом человеком формате. Система высшего и среднего специального медицинского образования, как бы ни развивался этот прогресс, в любом случае останется живым источником передачи знаний и опыта от человека к человеку. Не будем забывать и о сократовском принципе – истина рождается в споре человека с человеком. ИИ в обозримом будущем не сможет это заменить».

Следует отметить, что мероприятие проходило с активным участием присутствующих в зале. Задавались вопросы, обсуждение выступлений частенько сдвигало тайминг. Но и спикеры относились к этому с юмором. Именно формат дискуссии позволяет понять, что тема интересна, важна для участников конгресса. Однако и после выхода из конференц-зала эксперты продолжали уже в фойе обсуждать услышанное на сессии.

Комментарий Александра Гусева (Webiomed, ЦНИИОИЗ Минздрава России) на конгрессе «Оргздрав-2025» для «МГ»

О подходах к пациентам:

«Вы знаете, я согласен полностью, что всех нельзя загонять под одну гребёнку... Нужно чётко делить пациентов на группы. Тем, кто настороженно или с негативом относятся к ИИ, на данный момент нельзя, на мой взгляд, навязывать им эти технологии... Могут быть ошибки, могут быть галлюцинации (галлюцинация ИИ – уверенная реакция ИИ, которая не подтверждается данными его обучения, или вымышленные ответы, не имеющие отношения к действительности – ред.), и если человек настороженно относится, а мы ему что-то насаживаем, мы просто укрепляем его неверие. Там, где пациенты готовы использовать цифровых помощников, там нужно расширять их использование. Но на данный момент считается, что очень важно информировать в явном виде, что та или иная рекомендация сделана искусственным интеллектом, он может ошибаться... То есть стратегия должна быть очень-очень продуманной и сегментированной».

Об информационной политике и рисках завышенных ожиданий:
«Ну и это вообще отдельный трек, это всё, что связано с популяризацией технологий... Очень здорово, что на таких форумах о них рассказывают прямо красной нитью, но, вы знаете, всё-таки нельзя говорить только о плюсах, о светлом будущем и так далее, поскольку это формирует завышенное ожидание, а потом купировать разрыв между тем, что мы наобещали и тем, что пациент реально или врач увидел, будет гораздо дороже и, самое главное, это может вообще отрасль оттолкнуть на исходную позицию. Это, на мой взгляд, потенциальная проблема, её нельзя усугублять».

О ключевых профессиональных рисках внедрения ИИ:
«То есть мы говорим о преимуществах технологий, они понятны... Но у любого новшества есть сайд-эффект (термин в программировании – побочный эффект – ред.) Вот, на наш взгляд, в данной сфере – риск деградации навыков врачей, он сейчас недооценён... Широкое применение сервисов может как разгружать врача от рутинных задач на анализ данных, так и приучать его не мыслить в будущем или всё время доверять машине. А это, согласитесь, навык очень опасный. Если врач привык, и он всегда верит в ИИ, он не может сам формировать свой клинический критический взгляд, то, когда, например, с этим ИИ что-то пойдёт не так, элементарно отключат электричество или он будет взломан, мы получим ситуацию, когда врач не сможет без него работать, утратил этот навык или он фактически деградировал. И это риск, который сейчас на наш взгляд обсуждается очень мало, хотя заслуживает обсуждения».

О роли регулятора и профессионального сообщества:
«Ну, я бы не перекладывал всё на регулятора (в данном контексте Минздрав России – ред.) Иногда мы сталкиваемся с какой-то элементарной сложностью или барьером, сразу бежим с некоей критикой, «вот регулятор, он должен и так далее». На самом деле регулятор может регулировать только в той сфере, которая уже профессионально понятна и сформирована. Я бы говорил о том, что нужно сейчас не к регулятору идти, а обращаться внутри профессиональных сообществ – на конференциях собираться, обсуждать, находить какие-то идеи, к регулятору приходить только с проблемами. С консолидированным мнением, что мы, например, собрались на таком-то конгрессе или в такой-то площадке, мы обсудили, мы предлагаем какие-то конкретные инициативы».

О решении проблемы нагрузки и финансового дефицита (цитирует и развивает мысль А.Владзимирского):
«Есть мнение, что повсеместное внедрение ИИ будет усугублять проблему финансового дефицита: что мы выявляем всё больше заболеваний – всё больше пациентов, делаем это на порядок точнее, чем предыдущими методами, тем самым мы мотивируем, что с этими пациентами точно нужно заниматься, но одновременно с этим мы с вами слышим из «пленарки» о кадровом и финансовом дефиците. А вы как собрались тогда лечить дополнительную армию пациентов и «находок», работать в условиях дефицита? Очень меткое замечание... (Владзимирский – ред.)  очень тонко говорит: «Смотрите, мы можем эту проблему решать путём того, что, например, разрешить применение автономного ИИ для скрининга и выявления нормы. Зачем вы тратите ресурсы врачей для формального написания протокола о норме? Переложите это на ИИ, и он это сегодня сделает. Безопасно, намного точнее, чем человек, и это доказано в контролируемых клинических условиях». Да, рутинный труд... И вот ответ на вопрос. Да, мы находим больше пациентов, но врач уже перестат 80% своих ресурсов тратить на норму. Он всё своё время тратит на патологию, которой мы больше выявили. Тогда мы и врача защищаем, и принципы новой организации вводим. И вот это уже действительно готовая инициатива для регуляторов – приходите на площадке с ним обсуждать.

В завершение беседы, хочу сказать слова благодарности вашему профессиональному СМИ, которое подсвечивает, что есть и плюсы, и минусы, что есть такие дискутабельные вопросы».

Денис ГЛАЗКОВ,

обозреватель «МГ».