Точка зрения АРМИТ и Новости

Список новостей

Предыдущая

Следующая

Не в интеллекте счастье, а в его искусственности!

Не в интеллекте счастье, а в его искусственности!

Последнее время появилось множество публикации о бурных успехах искусственного интеллекта (ИИ). Причем, как мне кажется, пишут об этом как те, кто понимает, о чем идет речь, так и те, кто не очень. Причем местами создается впечатление, что их соотношение 10 к 1 в пользу вторых.

Удивляет то, что крайне редко в публикациях по ИИ приводятся серьезные данные о качестве распознавания (например, процент правильного диагностирования, процент ошибок пропуска и гипердиагностики и т.д.). Не видел сравнения с другими системами распознавания (основанных на логических алгоритмах, статистических методах, нечеткой логике и др.). Мало тех, кто готов демонстрировать свои системы на выставках, а не только на конференциях, где можно говорить все, что угодно о себе любимых. 
На одном из недавних известных мероприятий по цифровому здравоохранению из 18 компаний, выступающих на круглом столе по ИИ, только 2 . представляли свои разработки на проходящей там же выставке. Причем одна из двух ничего в этой сфере не показывала – а только готовилась сделать что-то в этом направлении. Похожая картина на проводимом нами MedSoft: желающих поговорить на конференции намного больше, чем готовых принять участие в выставке (даже на более, чем льготных условиях).

Апофеозом хвалебной ИИ-симфонии, как мне кажется, является сюжет, про то, как ИИ помог ЦРБ Вологодской области найти главврача. Не очень понятно, так что же там делал ИИ. Выявлял критерии? Так это делают специалисты. Анализировал тексты резюме? Надо просто разработать грамотную правильно структурированную анкету. Т.е. до ИИ там не знали, по каким критериям надо назначать главного врача, а прочитав пару популярных статей и, вероятно, заплатив некую сумму специалистам по ИИ, они прозрели и быстренько нашли подходящую кандидатуру. У этого события есть и еще одно неоспоримое достоинство: если выбранный таким чудесным образом главный врач, окажется не столь чудесным, то все можно будет все свалить на ИИ – это все он – дубина искусственная безрогая - непотребство сотворил и хороших людей с пути истинного завернул. Возможно, я чего-то недопонимаю.

К чему это скорее всего приведет?

1. Через год-другой половина систем, выходящих на рынок, будет числиться системами с ИИ. А иначе как-то неудобно: все с интеллектом (искусственным), а они – без. Непорядок!
2. Вскоре выяснится, что надежды на ИИ, как на некую панацею, не вполне оправдались, и подавляющее большинство проблем остались нерешенными. Тут все оглянутся на апологетов ИИ и начнут активно хлопать себя по ляжкам с криками «Ату их уродов! Ату!». Примерно такая же реакция наблюдалась лет 10-15 назад по отношению к активистам первой телемедицинской волны, которые сначала всем все наобещали, а потом выяснилось, что многие из ник как-то незаметно ушли в тень, не выполнив ничего из обещанного. Кстати, реальное состояние телемедицины нынешней не очень сильно продвинулось. 

Очень рекомендую посмотреть небравурную аналитику:

• Сотни систем на основе искусственного интеллекта были созданы для борьбы с КОВИД. Ни одна из них не помогла
• ВОЗ предупреждает о рисках, связанных с использованием искусственного интеллекта в здравоохранении
• HIMSS 2021: 4 большие проблемы на пути внедрения искусственного интеллекта в здравоохранении
•  Почему IBM Watson Health никогда не сможет выполнить свои обещания и в чем должна заключаться эффективная стратегия внедрения таких систем
• Здравоохранение подключает искусственный интеллект???
• Искусственный интеллект в России: отстаём, уже отстали, или ничего страшного

В свое время я много занимался системами поддержки врачебных решений и знаю, каких прекрасных результатов можно добиться, если заниматься этим с мозгами, а не только с очередными лозунгами.
И будет очень обидно, если из-за чьих-то самомнения и некомпетентности будет дискредитировано очень нужное и перспективное направление.

Михаил Эльянов
Президент АРМИТ