ИИ разрушает когнитивные навыки врачей

 В проспективном исследовании из Польши, опубликованном в прошлом месяце в журнале The Lancet Gastroenterology and Hepatology, гастроэнтерологи, привыкшие к колоноскопии с использованием ИИ, оказались примерно на 20% хуже выявлять полипы и другие аномалии, когда впоследствии начали работать самостоятельно. Авторы отметили, что всего за 6 месяцев врачи стали "менее мотивированными, менее сосредоточенными и менее ответственными при принятии когнитивных решений без помощи ИИ".

Что происходит с разумом врача, когда между мыслью и действием постоянно находится рекомендательный механизм? Насколько быстро угасают привычки внимания, когда машина выполняет предварительное чтение, сортировку и даже первую попытку поставить диагноз? Это лишь временная задержка, пока мы привыкаем к инструментам, или это начало более глубоких изменений в работе врачей?

На первый взгляд, любое когнитивное ухудшение у врачей из-за использования ИИ вызывает тревогу. Оно предполагает некоторую отстранённость от задач на фундаментальном уровне и даже склонность к автоматизации — чрезмерную зависимость от машинных систем, даже не осознавая этого.

"Данные исследования, похоже, противоречат тому, что мы часто видим, - утверждает Шарлотта Близ, доцент Уппсальского университета (Швеция) и автор книги « Доктор Бот: почему врачи могут нас подвести и как ИИ может спасти жизни". - Большинство исследований показывают, что врачи алгоритмически не склонны к этому. Они склонны игнорировать выводы ИИ, даже если он более точен».

Если врачи не слепо доверяют пациентам, почему их эффективность упала после отказа от ИИ? Возможно, это связано с тем, что взгляды и привычки меняются при постоянном использовании ИИ. «Возможно, мы начнём наблюдать сдвиг в некоторых областях, где врачи действительно начнут полагаться на ИИ, — говорит Близ. - И это может быть неплохо. Если технология стабильно лучше справляется с узкой технической задачей, то её использование может быть целесообразным». Ключ к успеху — разумная золотая середина в критически важном взаимодействии».

Недавний рандомизированный эксперимент с 276 практикующими врачами в Школе бизнеса имени Джонса Хопкинса и Кэри показал, что врачи, которые в основном полагались на генеративный ИИ при принятии решений, подвергались «потере компетентности» в глазах коллег. Их считали менее способными, чем тех, кто не использовал ИИ, и лишь отчасти это смягчалось, когда ИИ преподносился как второе мнение. Принимая ИИ, врачи рискуют статусом, а игнорируя его, рискуют точностью.

Нигам Шах, профессор медицины в Стэнфордском университете (Калифорния) и главный специалист по анализу данных в Stanford Health Care, утверждает, что отправная точка неверна. «Вопрос заключается в том, насколько эффективно инструменты ИИ могут полностью освободить меня от работы, — говорит он. - Например, во времена моего обучения мы вручную подсчитывали лейкоциты под микроскопом с помощью счётчика клеток. Сегодня мы используем сортировщик клеток. Мы не спрашиваем, не атрофировался ли навык врача вручную проводить дифференциальный подсчёт клеток. Существует так много лёгких, но отупляющих и нудных дел, которые нужно решить. Почему мы сразу переходим к самым сложным задачам, таким как точная диагностика и планирование лечения, на которые мы тратим 10 лет обучения врачей?»

Итан Го , доктор медицинских наук, исполнительный директор Стэнфордского центра исследований и оценки ИИ (ARISE), согласен с тем, что переосмысление  задач меняет ставки. Но он также настаивает, что «другой» не обязательно означает «ухудшенный», что, по его словам, «подразумевает ухудшение когнитивных навыков врача». Путь к «другому» начинается с чёткого картирования задач. 

«Например, как только мы начнем выявлять различные способы использования ИИ врачами, мы сможем начать сравнивать его эффективность в отдельности и в сочетании с врачами для каждой из этих задач. Затем вы распределяете внимание целенаправленно. Мы можем принять обоснованное решение о том, на какие задачи направить ограниченные когнитивные усилия врачей, а какие задачи нам обязательно нужно продолжать обучать и тестировать студентов-медиков, ординаторов и врачей, чтобы их когнитивные навыки в этих областях не ухудшались», — продолжает Го. 

Он использует в качестве аналогии авиацию, отмечая, что автопилот сделал полеты безопаснее, но пилоты по-прежнему вручную управляют самолетом на симуляторах, отрабатывают отказы и регулярно проходят проверки квалификации. Дело не в том, что навыки врачей просто исчезают; настоящая проблема заключается в том, чтобы понять, какие из них необходимо защитить. «Роботы и автоматизированные процедуры пока ещё далеки от интеллектуального труда», — говорит Го.

Он отмечает краткосрочный когнитивный риск. «По мере того, как ИИ становится настолько совершенным, достигая точности более 99%, эксперты-люди всё больше полагаются на него и становятся подвержены систематической ошибке и ошибке привязки», — говорит он. - Это повод не останавливаться, а определить, как и когда должна предоставляться помощь". 

Если внедрение опережает подготовку, это разрыв в образовании, который необходимо устранить, считает Берталан Меско, директор Института медицинских футуристов в Будапеште, Венгрия. «ИИ, и особенно те, кто разрабатывает его, не заботятся о навыках врачей, а сосредоточены на замене задач, основанных на данных, и повторяющихся задач, чтобы снизить нагрузку на медицинских работников, — говорит он. - Тем, кто разрабатывает медицинские учебные программы, следует позаботиться о том, чтобы врачи, обучаясь использованию различных технологий на основе ИИ, не теряли своих навыков и знаний».

Результат колоноскопии подчеркивает неотложность ситуации, и это не просто спор о формулировках. 

«Использование стетоскопов значительно повысило уверенность и эффективность медицинских работников в диагностике заболеваний сердца и лёгких, — говорит Меско. -Использование ИИ должно привести к тому же. Уже сейчас очевидно, что простое внедрение ИИ в медицинские рабочие процессы не поможет нам в этом, поскольку ИИ — гораздо более сложная и менее интуитивная технология, чем стетоскоп. Чтобы заставить его работать на нас, требуются совершенно новые знания, навыки и образ мышления».

 Го считает, что эта проблема связано не столько с обучением и образованием, сколько с продуманным проектированием взаимодействия человека с компьютером: «Как разработать продукт на основе ИИ или систему поддержки принятия клинических решений, которая впишется в текущий рабочий процесс врача? Как внедрить визуальные и другие подсказки, которые будут предупреждать врача при необходимости?» 

В более долгосрочной перспективе мы возвращаемся к идентичности. Близ не скрывает своей прямоты. «Я считаю, что со временем определённая степень деквалификации неизбежна, и это не обязательно плохо, — говорит она. - Если ИИ будет постоянно совершенствоваться в определённых технических навыках, то требование, чтобы врачи продолжали выполнять эти задачи только для сохранения профессионализма, может навредить пациентам». 

Она предостерегает от двойных стандартов, которые предъявляют к ИИ гораздо более высокие требования, чем к врачам. И задаёт вопрос, от которого большинство учреждений уклоняется. «Нам нужно начать думать о мире, где не будет врачей. Нам понадобятся самые разные специалисты в области здравоохранения, владеющие знаниями в области ИИ. Появится множество новых ролей, включая обучение, тестирование и этический надзор за этими инструментами, сбор данных и совместную работу с этими инструментами для оказания медицинской помощи и улучшения результатов лечения пациентов». 

Так что же остается практикующему терапевту, хирургу или гастроэнтерологу, которых будут призывать (а может быть, даже заставлять) больше использовать ИИ в течение следующих 5 лет? 

Эксперты не всегда сходятся во мнениях, но их советы указывают в одном направлении. Сначала выберите правильные задачи для машины. Безжалостно используйте ИИ, чтобы уменьшить административную нагрузку, чтобы внимание можно было направить на то, что действительно важно. Измеряйте надежность и производительность; упорядочивайте помощь после первоначальных усилий; защищайте целенаправленную практику без инструмента. Ожидайте перераспределения навыков и учитывайте это в учебных программах и при сертификации. Разрабатывайте продукты, которые позволяют врачам быть в курсе событий в нужные моменты. Научите врачей объяснять пациентам, когда они доверяют машине, а когда нет.

Лучший результат заключается в том, что ИИ целенаправленно меняет медицину: мы выбираем задачи, которые ему следует выполнять, оцениваем, помогает он или вредит, и обучаем врачей оставаться максимально человечными, пока машины выполняют масштабируемую работу. В таком будущем клиническое суждение будет не столько вытесняться, сколько перераспределяться, и врачи будут тратить меньше времени на борьбу с программным обеспечением, и больше - на пациентов.

Игорь НАУМОВ

По материалам Medscape