ИИ в радиологии увеличивает количество ошибок?
Вопреки распространенному мнению о грядущей революции в радиологии вследствие внедрения искусственного интеллекта, новое исследование обнаружило, что существующие технологии ИИ могут искажать данные и приводить к существенным неточностям и ошибкам.
Ученые из Кембриджского университета (Великобритания) и Университета Саймона Фрейзера (Канада) утверждают, что алгоритмы реконструкции медицинских изображений могут создавать несчетное число артефактов и других отклонений, приводящих к ложно положительным или ложно отрицательным результатам диагностики, и потенциально повредить пациентам.
На фото: Результаты нового исследования свидетельствуют, что использование ИИ для интерпретации медицинских изображений может приводить к ошибкам, вызывающим ложно положительные или ложно отрицательные результаты диагностики, и потенциально способно нанести вред пациентам.
«Использование ИИ в медицинской визуализации встречает большой энтузиазм со стороны приверженцев машинного разума, который в будущем может революционизировать современную медицину. Однако на этом пути существуют подводные камни, которые нельзя игнорировать, – сказал Андерс Хансен из Кембриджского университета. – Мы обнаружили, что технология ИИ работает крайне нестабильно в медицинской визуализации, из-за чего даже небольшие изменения на входе могут приводить к существенным изменениям на выходе».
Теоретически технология ИИ может улучшать качество изображений путем реконструкции сканов с низким разрешением в изображения с высоким разрешением. Это снижает время обследования, тем самым уменьшая риски для пациентов и увеличивая пропускную способность диагностических отделений. Работа алгоритмов реконструкции изображений основана на уже имеющихся массивах данных, на которых эта программа проходит обучение. В свою очередь, классическая реконструкция полностью основана на математической теории и не зависит от предыдущих данных.
Хансен и его коллеги из Норвегии, Португалии, Канады и Великобритании провели ряд испытаний, направленных на выявление недостатков систем медицинской визуализации, основанных на работе ИИ, таких как МРТ, КТ и ЯМР.
В результате они обнаружили нестабильности работы систем визуализации, связанные с мельчайшими отклонениями или движениями, а именно мириады артефактов в конечных изображениях. Помимо этого были выявлены неточности, связанные с небольшими структурными изменениями, такими как расплывчатые изображения или полное отсутствие деталей, а также ухудшение качества реконструкции изображений из-за использования многократной субдискретизации.
Эти ошибки были широко распространены по всему спектру нейронных сетей, что говорит о том, что исправить их будет не просто. Самую большую озабоченность вызывают ошибки, которые радиологи принимают за свидетельство наличия медицинских проблем.
«Мы разработали тест для проверки нашей теории, согласно которой технологии глубокого обучения работают одинаково нестабильно по всей области медицинской визуализации, – сказал Хансен. – Наша теория базируется на том, что качество реконструкции изображения имеет предел, связанный с ограничением времени сканирования. В некотором смысле, современные технологии ИИ выходят за эту границу, становясь нестабильными. Мы показали математически, что за эти нестабильности приходится чем-то платить, или, попросту говоря, бесплатный сыр только в мышеловке».
В настоящее время команда ученых пытается с помощью метода проб и ошибок определить фундаментальные ограничения для использования технологии ИИ, чтобы показать радиологам, каких проблем можно избежать, зная о них.
Результаты исследований были опубликованы в журнале Proceedings of the National Academy of Sciences.
Оригинал новости можно прочитать здесь
