Врач не эталон: какие проблемы сопровождают внедрение ИИ в здравоохранение
Продукты на базе искусственного интеллекта (ИИ) для здравоохранения предлагают оценивать по тем же критериям, что и медицинские изделия или лекарства. При этом ни медизделия, ни медикаменты с врачом никто не сравнивает, а ИИ сравнивают. Более того, врача предлагают рассматривать как эталон. Но насколько этот подход верен? Вопрос вызвал дискуссию на XI Петербургском Международном юридическом форуме, который проходил с 11 по 13 мая.
Как оценивать ИИ
«Мы должны правильно прописать требования к изучению ИИ, — подчеркнул генеральный директор Центра экспертизы и контроля качества медицинской помощи Минздрава России Виталий Омельяновский. — Приведу пример с таблетками, потому что этот путь уже пройден, практика наработана. Нам не важно, что сидит внутри таблетки. Если после регистрации она проходит стадию фармакоэкономических исследований и доказывает свою состоятельность, то попадает в Перечень ЖНВЛП».
Решения ИИ тоже должны доказать, что они имеют право быть погруженными в систему ОМС, уверен эксперт.
Но таблетку никто не сравнивает с врачом, парировал директор Научно-практического клинического центра диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы Юрий Васильев.
«А какая диагностическая точность доктора? — задал вопрос эксперт. — Все говорят, что у нас врач эталон. А я, простите, скажу вам, что это далеко не так. Мы провели исследование и выяснили, что брать за эталон врача — плохая идея», — считает он.
Кроме того, отметил Васильев, у таблеток и медизделий, в отличие от ИИ, нет функции саморазвития.
Какие существуют риски
Медицина — это ремесло, и оно не всегда может быть стандартизировано, предостерегла председатель комиссии по градостроительству, государственной собственности и землепользованию Мосгордумы Елена Николаева.
«У нас часто рассуждают, что ИИ заменит врача. Мне хочется раз и навсегда положить конец этим абсурдным разговорам, — заявила она. — Не бывает двух одинаковых пациентов, двух одинаковых клинических проявлений. Более того, двух одинаковых условий проживания. Поэтому, простите за жаргон, тупо применять базовые алгоритмы в здравоохранении категорически нельзя».
По ее словам, пределы применения, статистическая погрешность таких алгоритмов настолько велики, что рано говорить об использовании ИИ в медицине.
«Я бы пока ограничилась термином «цифровизация», — предложила эксперт. — Искусственный интеллект будет дальше. Сейчас он на нулевом уровне».
На отсутствие рынка для применения ИИ указал коммерческий директор компании-разработчика «Цельс» Артем Капнинский. «Рынка как такового нет, — заявил он. — Ну, даст данные Минцифры, ну, окажет помощь Минэкономразвития, ну, даст поработать правительство Москвы, а дальше что? Ради чего все это? Развития как такового нет».
Эксперт напомнил, что инновационные технологии делаются за счет собственных средств, которые никем не компенсируются. Если завтра собственники «Цельса» не смогут финансировать разработки, то фирма просто закроется. Многие стартапы умирают, не дойдя до этапа апробации.
«Без открытия рынка, без поддержки государства добросовестным разработчикам трудиться будет невозможно», — констатировал Капнинский.
Минздрав поставил задачу внедрить в здравоохранение в регионах в текущем году хотя бы одно решение на базе ИИ, но «Цельс» столкнулся с ситуациями, когда закупки проводятся в рамках № 44-ФЗ. А основной показатель на аукционах — стоимость, предложенная поставщиком, объяснил эксперт.
«К сожалению, как правило, продукты с использованием технологии ИИ закупают не отдельно, а в составе объединенной закупки по модернизации текущей инфраструктуры, в рамках которой необходимо еще внедрить ИИ, — продолжил Капнинский. — В итоге заказчик даже не знает толком, что конкретно у него потом будут внедрять».
По его мнению, закупка продукта медицинского ИИ должна происходить отдельным лотом. В таком случае можно будет осуществлять мониторинг таких контрактов и профилактировать появление на рынке недобросовестных поставщиков.
Как разделить ответственность
Прежде чем «открывать» рынок, необходимо четко разграничить зоны ответственности, дал понять Васильев.
«Например, автономную флюорографию мы не можем внедрить из-за определенных нормативных барьеров, — сказал эксперт. — Да, в рамках экспериментального правового режима можно запустить работу сервиса с использованием искусственного интеллекта, однако четкое разграничение зон ответственности пока не установлено. И лишь ликвидация этого пробела позволит нам сдвинуться с места».
Эксперты обсудили несколько возможных вариантов. Капнинский предложил обратиться к западному опыту и подумать о страховании ответственности разработчика, врача. По его словам, это хорошая практика.
«Нам представляется, что ответственность должны нести разработчики, и лично мое мнение, которое не разделяют многие коллеги, организация, которая проводила клинические и технические испытания. Если мы не можем измерить качество этого продукта, то фактически покупаем кота в мешке», — отметил Васильев.
Распределение бремени ответственности в случае возникновения ситуаций с причинением вреда здоровью пациентов необходимо разделить между врачом, медорганизацией, разработчиком и компанией-испытателем, убеждена партнер юридического партнерства «АДАЛИ» Виолетта Кузнецова.
Также, по ее словам, необходимо разработать стандарты оказания медицинской помощи с использованием технологии ИИ. Сегодня они отсутствуют; соответственно, контроль за оказанием такой помощи пока осуществляется по общим правилам.