Smart Engines 2021: Международная награда в ИТ-инновациях

16.12.2022 г.

Mathematics: врачи рискуют быть обманутыми искусственным интеллектом

Ученые из компании Smart Engines и совместно с коллегами из Сеченовского Университета установили, как нейронные сети могут вводить в заблуждение врачей при диагностировании заболеваний с помощью томографических снимков. В отдельных случаях искусственный интеллект может дорисовывать на снимках несуществующие опухоли, ложные поражения в результате COVID-19 и другие ошибочные признаки заболеваний. Ученые предложили новый метод оценки устойчивости нейросетей к подобному “обману”. Результаты исследования опубликованы в журнале Mathematics.

Рис. 1. Стрелкой показана опухоль, которую необходимо обнаружить врачу для правильной постановки диагноза. На правом изображении из-за шума опухоль становится слабо различимой, соответственно, поставить правильный диагноз по такому изображению будет затруднительно.

Волна нейросетевых инноваций, которые сегодня используются во всевозможных сферах, дошла и до компьютерной томографии. В частности, с помощью нейросетей можно снизить дозу вредоносного излучения, которое получает пациент в ходе КТ-исследования. Алгоритмы искусственного интеллекта способны реконструировать полученные изображения, даже по шумным данным, а это в свою очередь позволяет сократить время регистрации или экспозиции одного рентгеновского снимка.

Этот процесс, выяснили специалисты Smart Engines, сопровождается определенными сложностями.

“На снимках компьютерной томографии некоторые нейросети под воздействием шумов дорисовывают или, напротив, стирают важные для диагностики пациента детали. Вследствие этого врач видит на снимках несуществующие опухоли, ковидные поражения или ошибочные признаки других заболеваний легких, – рассказала научный сотрудник-программист Smart Engines, научный сотрудник института проблем передачи информации (ИППИ РАН) им. Харкевича кандидат физико-математических наук Анастасия Ингачева. – К постановке неправильного диагноза это, конечно, вряд ли приведет. Но это значит, что пациенту придется повторно делать компьютерную томографию легких и, соответственно, получить двойную дозу излучения. А это вредно”.

В своей публикации ученые Smart Engines предложили методику оценки нейросетей, определяющую уровень их устойчивости к помехам и общую надежность алгоритмов. В свою очередь врач-ревматолог Клиники ревматологии, нефрологии и профпатологии им. Е.М. Тареева Университетской клинической больницы №3 Клинического центра Сеченовского Университета кандидат медицинских наук Татьяна Шевцова валидировала полученные результаты, проводила консультации по возможным опасным ошибкам реконструкции нейронной сетью, помогала формировать бинарные изображения опухолей.

“Мы создали инструмент, который перед непосредственным применением нейросетей позволяет их оценить и выбрать наилучшую, наиболее подходящую для реального использования. Это важный шаг на пути к внедрению нейросетей в медицину, которая, будучи весьма консервативной, пока с недоверием и опаской смотрит на инструменты машинного обучения”, – пояснила Анастасия Ингачева.

В России число проведенных КТ-исследований в последние годы увеличивалось. По данным фонда “Здоровье”, изучавшего выкладки Росстата, в 2016 году в РФ было проведено 8,9 млн процедур, а в 2018 году – уже 10 млн исследований.

С увеличением количества КТ-исследований вопрос помехоустойчивости нейросетей становится все более актуальным, полагает Татьяна Шевцова. “При проведении КТ-исследований для врача очень важно соблюсти баланс между величиной дозы облучения пациента и возможностью получения томографических реконструкций высокого качества. Также необходимо иметь всю возможную информацию о том, какие именно алгоритмы искусственного интеллекта наиболее применимы для анализа результатов КТ”, – сообщила Татьяна Шевцова.

Наши клиенты

Тинькофф Банк

Smart Engines поставляет мобильные и серверные решения по распознаванию документов Тинькофф Банку

Альфа-Банк

Альфа-Банк распознает документы клиентов в мобильном приложении с помощью Smart ID Engine

Банк «Открытие»

Банк «Открытие» увеличит продажи кредитных продуктов за счет внедрения технологии распознавания документов Smart Engines на сайте

Газпромбанк

Газпромбанк внедрил решение Smart Engines на основе искусственного интеллекта для распознавания QR-кодов

Получить консультацию

Задайте свой вопрос или уточните нужную информацию,
а мы вернемся к вам с ответом.