Разработана система для обнаружения радиологических заключений, созданных ИИ
Исследователи из Государственного университета Буффало разработали систему, которая отличает радиологические заключения, составленные врачами, от заключений, созданных искусственным интеллектом. Технология поможет в выявлении фальсифицированной медицинской документации и мошеннических страховых случаев.
Работу возглавил Налини Ратха, профессор кафедры компьютерных наук и инженерии Университета Буффало, совместно с аспирантами Арджуном Рамешем Каушиком и Танви Рангой. Команда представила результаты на семинаре GenAI4Health, состоявшемся в декабре в рамках конференции по нейронным информационным системам.
«Поскольку генеративный ИИ все лучше создает удивительно убедительные радиологические заключения, возрастает риск использования сфабрикованных заключений для фальсификации истории болезни и поддержки мошеннических страховых случаев. Рентгенологические заключения имеют высоко специализированную структуру, лексику и стилистические нормы, что делает обычные средства обнаружения малонадежными. Поэтому нашей целью было создать систему специально для радиологии: систему, которая могла бы отличать медицинскую документацию, написанную врачом, от сгенерированного текста до того, как она попадет в клинические или страховые процессы», — рассказал Ратха.
Исследователи использовали набор данных, содержащий 14 000 пар рентгенологических заключений грудной клетки: одно — написанное рентгенологами, а другое — сгенерированное искусственным интеллектом.
ИИ-заключения были созданы двумя способами: путем перефразирования существующих заключений с использованием больших языковых моделей и путем генерации заключений непосредственно из рентгеновских снимков с использованием моделей визуального и языкового анализа.
Набор данных фокусировался на разделе результатов исследований, который обычно содержит подробные клинические наблюдения и терминологию, специфичную для данной области. Используя эту информацию, команда на основе архитектуры BERT-Mamba разработала систему обнаружения, предназначенную для отделения характерных стилистических структур от клинического содержания. По словам исследователей, большие языковые модели часто точно воспроизводят медицинскую терминологию, но отличаются от стиля письма врачей.
«Системы искусственного интеллекта оставляют тонкие стилистические следы, такие как особенности формулировок, пунктуации и выбора слов, которые отличаются от естественного письма рентгенологов. Разделяя стиль и содержание и рассматривая их как самостоятельные измеримые признаки, наша модель обнаруживала эти структуры с исключительной точностью», — отметил Каушик.
В ходе тестирования система достигла значений коэффициента корреляции Мэтьюса* от 92% до 100% при разделении заключений, написанных людьми, и заключений от ИИ. Модель также идентифицировала сгенерированные заключения, с которыми она не сталкивалась во время обучения.
*Коэффициент корреляции Мэтьюса (MCC) — статистическая метрика, которая оценивает, насколько точно модель классифицирует данные. Чем ближе значение к 100%, тем точнее модель.
«Мы обнаружили, что большие языковые модели, как правило, пишут в отточенном, развернутом стиле, в то время как врачи пишут лаконично, используя четкие формулировки», — сказал Ранга.
Исследователи планируют расширить набор данных, включив в него дополнительные категории радиологии и более широкий спектр моделей ИИ, готовя к выходу версию общего пользования.
