Технологии распознавания медицинских изображений уже официально используются в западной медицине, — например, искусственный интеллект (ИИ) может быстро отсканировать изображения маммограммы и помочь рентгенологам определить злокачественные новообразования.

Однако у компьютеров есть весомый минус: они уязвимы для кибератак, что может привести к ложным диагнозам.

Возможные мотивы для кибератак включают мошенничество со страховкой со стороны поставщиков медицинских услуг или компаний, пытающихся скорректировать результаты клинических испытаний в свою пользу. 

Кибератаки изменяют крошечные области изображений, которые влияют на решение ИИ, но незаметны для человеческого глаза. Это может привести к постановке ложноположительных диагнозов, — например, рака груди.

Враждебная программа при помощи манипуляций с крошечными областями пометила изображения как ложноотрицательные и ложноположительные.

© Цяньвэй Чжоу

Ученые под руководством доктора Цяньвэя Чжоу провели простое тестирование, чтобы показать, что ИИ ещё рано использовать в крупных больницах.

Команда намеренно изменила изображения с маммограммой при помощи генеративно-состязательной сети (GAN) — нейросети, одна часть которой генерирует ложные изображения, чтобы вторая попыталась угадать правильные.

Затем эти изображения перемешели с настоящими и предложили ИИ просканировать их. В результате компьютер ошибся и ложно идентифицировал 69,1% фейковых изображений. 

Во второй части эксперимента исследователи попросили пятерых радиологов определить, были ли изображения маммограммы настоящими или поддельными. Эксперты определили подлинность изображений с точностью от 29% до 71%, в зависимости от уровня подготовки специалиста. 

Ложные снимки могут побудить пациента лечить несуществующий рак.

© depositphotos

Полученные выводы не только укрепили учёных в мысли, что ИИ ещё не готов для серьёзной работы в медучреждениях, но и позволили выявить закономерности для разработки защитных программ.

Руководитель исследования пояснил, что в связи с перспективой внедрения ИИ в медицинскую инфраструктуру, образование в области кибербезопасности не менее важно для медперсонала, чем основное. Как минимум, сейчас неразумно полностью полагаться на выводы компьютера и их необходимо проверять.

«Мы надеемся, что это исследование заставит людей задуматься о безопасности медицинских моделей ИИ и о том, что мы можем сделать для защиты от потенциальных атак», — добавил доктор Чжоу.

Понимая, как ИИ ведёт себя в условиях враждебных атак, учёные и инженеры смогут разработать более безопасные и надежные модели. Именно такую цель в итоге поставили для себя авторы исследования.

• Телеграм
• Дзен
• Подписывайтесь на наши каналы и первыми узнавайте о главных новостях и важнейших событиях дня.