Врачей заменят машины: Опыт есть – ИИ "убил" 50% пациентов

То, что фантасты когда-то описывали в своих романах, как некие игры ума, сегодня становится реальностью. Искусственный интеллект проник практически во все сферы нашей жизни и, по словам специалистов, пока неплохо справляется со своей ролью помощника. Но что, если машины полностью заменят людей? Готовы ли мы к тому, чтобы нас и наших детей лечили роботы? Поговорим об этом с профессором Владиславом Шафалиновым.

Первым искусственным интеллектом, который сдал экзамен в мединституте, стал GigaChat. Разработчиком этой нейросети является Сбер. Отмечается, что специалисты Центра индустрии здоровья Сбербанка, НМИЦ им. В. А. Алмазова и команды разработчиков полгода обучали ИИ, прежде чем он сдал экзамен в медвузе по направлению подготовки "Лечебное дело". Для этого понадобилось загрузить в машину 42 Гб информации, включая учебно-методические материалы, рекомендованные для подготовки специалистов в медвузах страны.

Во время экзамена ИИ предложили ответить устно на вопросы в билете и пройти тесты. В устной форме необходимо было указать предполагаемый диагноз, составить план лечения, назначить дополнительное обследование в том, что касается терапии, хирургии, акушерства и гинекологии. Само тестирование включало в себя 100 вопросов. И на 82% из них ИИ ответил правильно, получив заслуженную "четвёрку". На экзамене присутствовали профессора терапии, хирургии, акушерства и гинекологии Института медицинского образования НМИЦ им. В. А. Алмазова.

По словам директора Центра индустрии здоровья Сбербанка Сергея Жданова, в перспективе эта модель может стать основой для создания помощника врача и пациента, который станет хорошим подспорьем для клинициста в его повседневной практике. Но при этом все полученные рекомендации должны будут согласовываться с лечащим врачом.

Как присутствие искусственного интеллекта влияет на современную российскую медицину? Этот вопрос ведущая "Первого русского" Диана Сорокина обсудила с профессором, докторм медицинских наук Владиславом Шафалиновым в эфире программы "Вакцина правды".

Диана Сорокина: Владислав Анатольевич, какое значение сегодня искусственный интеллект имеет в медицине?

Владислав Шафалинов: Ну, он всегда имел значение. Но здесь, наверное, правильным ответом будет то, что ему, к сожалению, придаются некие большие возможности и способности, нежели то, на что искусственный интеллект способен. Потому что ИИ – это не интеллект, это машинный алгоритм, разработанный кем-то и загруженный в машину.

– А сами врачи как относятся к внедрению искусственного интеллекта в медицину?

– Все по-разному. В зависимости от уровня образования, воспитания и своей  доверчивости. Да, вау-эффект – он произведён словосочетанием "искусственный интеллект". Вот, скоро вас будет лечить искусственный интеллект и всё такое. А к людям, которые падки на вот эти вау-эффекты, относится, по-моему, подавляющее большинство в составе нашего правительства. Есть ощущение, что их по этому принципу подбирали, критичности мышления там нет вообще. Среди тех, кого я слушаю, включая некоторых министров, там есть падкие на это. Хотелось бы, чтобы они были первыми пассажирами того поезда, в котором направление будет определять искусственный интеллект. Чтобы они на себе испытали, что это такое.

По данным американских врачей, при постановке диагноз "сепсис" их западный искусственный интеллект допустил ошибку в 50% случаев. То есть 50 из 100 пациентов он "похоронил". И тем товарищам, которые хотят лечиться с помощью искусственного интеллекта, я бы порекомендовал обратить на это внимание и подумать, прежде чем обращаться и вести к этому других людей.

– А в нашей стране насколько эффективно искусственный интеллект помогает врачам в постановке диагнозов?

– Пока не особо. Вот, например, компьютерная томография. Это тоже машинный алгоритм. То есть компьютер обрабатывает данные томограммы, полученные гамма-излучением. Концептуально компьютерную томографию все знают. Это когда человека помещают в специальный аппарат, он катается туда-сюда. И это ничем не отличается от рентгенографии. И то и другое – гамма-излучение. Только там 0,2, условно, миллизиверта, а там 2,3. То есть КТ, конечно, мощнее, и она даёт нагрузку в десять раз больше, чем рентгеновский аппарат. Но КТ может обрабатывать. И вот обработка данных – это, по сути дела, тоже искусственный интеллект. И в этом плане интеллект машинного алгоритма, конечно, может помочь врачу с точки зрения интерпретации анализов.

Или ты, к примеру, получаешь из лаборатории анализ крови, а у тебя там повышенные значения красненьким показаны, или стрелочкой, или жирным. Это тоже всё ИИ выделяет на компьютере, на принтере. И мне как врачу это удобно, потому что я сразу вижу, где отклонения от нормы.

Если, например, машина выдаёт антитела, допустим, к описторхозу менее 0,85 или 0,01, а ты не знаешь, что это такое, то внизу написано: менее 0,85 – это, значит, норма. То есть ИИ как бы подсказывает. И когда у врача, особенно в системе ОМС, уважаемой или неуважаемой, всего 15 минут на приём пациента, и больше половины этого времени он должен заполнять документацию, то, конечно, здесь бы ИИ помог и подсказать, на что обратить внимание. Вот тут у пациента в общем анализе отклонения в биохимии, а ещё есть антитела повышенные к тому-то и тому-то. Если пациент сдал, конечно. Вот это помощь. А ставить за врача диагноз и уж тем более назначать лечение – это очень спорная история.

– А если искусственный интеллект допустил ошибку, то кто несёт за это ответственность? Как вот в том примере, который вы рассказали ранее.

– Как по мне, то её должен нести программист-разработчик вместе с Минздравом, который это дело пропустил. Солидарную ответственность. Но вы знаете, ответственность работает, когда она персональная. А когда ответственность общая, то это не работает. Когда, условно, кто-то из чиновников допустил ошибку.

Вот только сегодня  с одним из знакомых разговаривали, что какое-то из министерств допустило ошибку. Они говорят: ну как же так? Или: ну, ошиблись, извините. И ты никому не предъявишь. Вот, тесты. Я помню, как в первый раз столкнулся с тестированием идиотским. Это было в 1998 году, когда Минздрав разразился какими-то тестами по хирургии. Их точно составлял не хирург. И самый продвинутый уважаемый профессор из 100 баллов набрал, по-моему, у нас 63, а я набрал 56. Остальные – 40, 30 и так далее. Мы все смеялись: кто в Минздраве составлял эти тесты? И это тоже своего рода ИИ, который тебя оценивает по твоим ответам. Ну, глупость, смех, достойно!

– А кто вообще контролирует работу нейросетей, связанных с медициной?

– Работу чего-либо контролирует всегда тот, кто это создал. Очень сложно, я думаю, будет найти персональных ответственных. Простите, я почти в каждой передаче вспоминаю ковид. Так вот, там было 16 или 17 изданий методических рекомендаций. И в 9-м издании по лечению ковида уже полностью исключали препараты, которые были в первом. И никто персональную ответственность за это не понёс. Более того, до сих пор неясно, кто их создал, кто это написал вообще.

– А обучают ли сегодня студентов работе с искусственным интеллектом?

– Когда я учился, то обучали. Но только на начальных этапах. Тогда мы учили только языки программирования. Но, конечно, обучают. Здесь самое главное – не обучить работе с машинными алгоритмами, а понять, где они возможны и допустимы, а где нет.

– Но всё равно времена меняются, какие-то новые технологии внедряются. Проходят ли уже состоявшиеся врачи какую-то переподготовку в связи с этим?

– Врачи обязаны проходить переподготовку раз в несколько лет. Раз в три года или в пять лет. Возможно, это надо делать чаще.

Сейчас появилась новая система, по которой врач должен получать непрерывное медицинское образование. Но уважающий себя врач и так учится постоянно. Но такая система должна быть.

– А когда, на ваш взгляд, работа с искусственным интеллектом станет повсеместной, в том числе в медицине?

– Ну, надеюсь, что повсеместно на том уровне, на который они хотят его пропихнуть, никогда. Потому что это будет приводить к ошибкам, за которые опять же никто не будет отвечать. А с точки зрения подсказки врачу в тех же анализах, в тех же лучевых методах исследования, то это есть и сейчас. Но, наверное, будет как-то усовершенствоваться, внедряться. Я надеюсь, что аккуратно.

– А вот не сместит ли искусственный интеллект врачей с их рабочих мест?

– Сместит. И я надеюсь, что многие специалисты, которых он может сместить, это понимают. Но я надеюсь, что этого не произойдёт.

Потому что вердикт всё равно не за искусственным интеллектом, не за машинным алгоритмом, а за врачом. В роли помощника он, безусловно, может быть полезен. Но есть риск того, что кто-то попытается поменять врача на машину.

– А кто это может сделать?

– Разработчики. Тот, кто полезет в это.

– Если, не дай Бог, это произойдёт, то какая общая картина может сложиться?

– Как в те времена после ковидобесия, когда пациенты перестанут доверять медицине. Точно так же они перестанут доверять и этому ИИ. Хотя он, как я уже сказал, может быть применим в определённых областях.

– Ну, будем надеяться, что глобально этого не произойдёт.

– Будем надеяться, что всё будет хорошо.