Точка зрения АРМИТ и Новости

Список новостей

Предыдущая

Следующая

Искусственный интеллект. Диагноз или второе мнение?

Искусственный интеллект. Диагноз или второе мнение?

Сейчас о ИИ пишут и наукоподобно говорят все, кому не лень. В результате, слушая врачей на конференциях, СМИ и в прочих местах выражения мнений, все чаще звучат сомнения: а как соотносятся диагноз врача и заключение (рекомендация, подсказка, второе мнение) ИИ? Кто «главнее»? Имеет ли право на самостоятельное существование компьютерный диагноз без подписи врача?

Насколько я понимаю, особых оснований для этих сомнений нет. Я не знаю ни одного нормативного документа, где бы указывалось, что медицинское заключение может быть подписано кем-то кроме медицинского работника.

Если врач при подготовке заключения заглядывает в книгу, стоящую в шкафу, из этого не следует, что автора книги надо указывать в подписи к заключению. В принципе с ИИ та же ситуация.

Более того, не исключено, что многие врачи станут к месту и не к месту упоминать ИИ, чтобы переложить на него ответственность за свои действия. А жаловаться, кстати в случае чего, на кого? На ИИ? На материнскую плату? На мышку?

Но полагаю, что подавляющему большинству пациентов абсолютно безразлично, откуда взялся диагноз. Важно, чтобы он был обоснованным и правильным.

А если заключения, которые выдает система ИИ, не отличаются высоким качеством, то медицинской организации следует самой разбираться с компанией-поставщиком указанной системы, а не пытаться кивать на нее при претензиях пациентов как на источник собственной невнимательности и (или) некомпетентности.

То, что в данном вопросе нет абсолютной ясности, виноват исключительно Минздрав России. Это его зона ответственности, и ни чья-то иная. Отсутствие четких правил игры – тормоз развития ИИ, т.к. многие врачи вполне обосновано опасаются, что за несовершенство конкретных систем отвечать придется в т.ч. и им.

Кстати, не все и в треугольнике Врач – ИИ – Пациент вполне очевидно. Допустим, сидит пациент на приеме у врача. Врач получает некоторое сообщение (рекомендация, второе мнение и т.п.) от системы ИИ. А вдруг, ответ ИИ будет отличаться от того, что раньше пациент слышал от врача? Например, сейчас ему порекомендуют не те лекарства, которые ему прописывал врач раньше, а другие. Естественно, пациент спрашивает: «А что, собственно говоря, изменилось?». И что делать врачу? Если это вполне понятно и объяснимо, то значит, что и никакой ИИ не нужен – и так все понятно. А вот, если решение не на поверхности, а является результатом непростых машинных «рассуждений»? В этом случае врач далеко не всегда сможет с ходу объяснить пациенту ход компьютерной мысли. Но ему же не скажешь: «Не твое дело!» или «Разберусь потом». А как надо? Есть о чем подумать.

Необходимо, чтобы в самое ближайшее время появился официальный документ, расставляющий все точки над «I». Причем такой документ, который не надо было бы разыскивать с собаками на просторах интернета.

Я думаю, что мы еще только входим в зону очень непростых коллизий, возникающих при использовании систем ИИ.

Михаил Эльянов
Президент АРМИТ