В последнее время в области ИИ произошло множество изменений, и ситуация меняется каждый день. ИИ начал распространяться практически во всех отраслях, включая здравоохранение и продление жизни.
Здравоохранение — это особая область, так как она сильно зарегулирована и может иметь прямое влияние на человеческие жизни. Поэтому внедрение ИИ здесь происходит не так быстро, как в других областях. Даже в США, которые является главным центром разработки подобных технологий, регуляторы, как FDA (Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США), часто сильно затягивают с одобрением новых подходов.
На данный момент ИИ в здравоохранении в основном помогает людям в рутинных задачах и редко применяется для диагностики или принятия решений.
Тем не менее, существуют заметные попытки изменить это положение. Например, Hyppocartic.ai пытается решить проблему нехватки медсестер и получить одобрение в ближайшее время.
FDA играет ключевую роль в одобрении новых методов лечения, включая те, что используют искусственный интеллект и машинное обучение и во многом является ролевой моделью для всех остальных стран, так как сталкивается с новыми устройствами раньше других. Роль FDA заключается в обеспечении безопасности и эффективности медицинских устройств, методов лечения и терапевтических методов для их предполагаемого использования. Процесс регуляторов для методов лечения, основанных на ИИ, в целом следует тем же принципам, что и для традиционных медицинских устройств, но с учетом уникальных особенностей ИИ-технологий.
Вот что регулятор обычно требует для одобрения
1. Классификация устройства
FDA делит медицинские устройства на три класса (I, II и III) в зависимости от уровня риска для пациентов:
-
Класс I: устройства с низким риском, часто с минимальным уровнем регулирования (например, бинты).
-
Класс II: устройства со средним уровнем риска, обычно подчиненные более строгим нормам (например, диагностические инструменты, некоторые ИИ-системы).
-
Класс III: устройства с высоким уровнем риска, требующие самого тщательного контроля, часто включая клинические испытания (например, ИИ-устройства для интенсивной терапии или хирургических вмешательств).
Медицинские технологии, основанные на ИИ, обычно относятся ко второму или третьему классу в зависимости от уровня риска. Если решение на базе ИИ оказывает влияние на поддержку принятия клинических решений или уход за пациентами и не полагается исключительно на человеческое вмешательство, оно может быть классифицировано как медицинское устройство. Этот статус влияет на требования к соблюдению норм, стандарты безопасности и скорость обновлений или улучшений.
2. Предварительная подача заявки
-
Подача 510(k) (предварительное уведомление): для большинства устройств класса II это самый распространённый регуляторный путь. Производитель должен доказать, что новое устройство существенно эквивалентно уже законно представленному на рынке (устройство-предшественник). Для ИИ эквивалентность должна быть показана в терминах безопасности и эффективности.
-
De Novo классификация: если устройство-предшественник отсутствует для продукта со средним уровнем риска, может быть подана заявка De Novo для классификации нового устройства, включая технологии на базе ИИ. Это подходит для новых, но умеренно рискованных устройств.
-
Предварительное одобрение (Premarket Approval, PMA): для устройств класса III (высокий риск) процесс PMA требует значительных клинических доказательств безопасности и эффективности. Этот процесс очень строгий, и технологии ИИ, используемые в критических приложениях (например, диагностика или жизненно важные вмешательства), могут попадать в эту категорию.
3. Клинические исследования и испытания
Для методов лечения на основе ИИ, представляющих более высокий риск, FDA часто требует клинических испытаний для подтверждения безопасности и эффективности технологий. Клинические исследования должны включать:
- Надёжные данные о том, как модель ИИ/МЛ работает в различных условиях.
- Анализ точности модели, её чувствительности и специфичности по сравнению с существующими методами или инструментами.
- Проверка способности модели к обобщению на разные популяции и условия.
4. Хорошие практики машинного обучения (Good Machine Learning Practices, GMLP)
Технологии на основе ИИ/МЛ должны следовать принципам GMLP, которые включают качество данных, прозрачность и валидацию. FDA начало разрабатывать конкретные руководства для того, чтобы ИИ-модели разрабатывались и тестировались на правильных наборах данных, снижали предвзятость и обеспечивали безопасность пациентов.
5. Надзор после выхода на рынок
FDA продолжает мониторинг ИИ-устройств даже после их одобрения. Системы ИИ, которые продолжают обучаться или адаптироваться после развертывания (адаптивный ИИ), могут требовать постоянного пересмотра, чтобы убедиться, что обновления не компрометируют безопасность или эффективность. Это часть эволюционирующей системы FDA для «Программного обеспечения как медицинского устройства» (Software as a Medical Device, SaMD).
Для большинства стартапов, разрабатывающих системы здравоохранения, этот процесс очень дорогой и, как правило, занимает много времени. А системы ИИ добавляют свои собственные проблемы, особенно в трёх областях:
-
Объяснимость: системы ИИ должны быть достаточно прозрачными, чтобы врачи могли понять, как они принимают решения.
-
Предвзятость и справедливость: FDA тщательно анализирует данные, используемые для обучения моделей ИИ, чтобы убедиться, что они не предвзяты по отношению к определённым группам населения 🤔.
-
Адаптивность: технологии ИИ, которые продолжают обучаться (адаптивный ИИ), подвергаются особому контролю, и разработчики должны доказать, что процессы обучения не компрометируют безопасность пациентов.
-
Соответствие нормам защиты данных: например, HIPAA, GDPR и так далее. Большинство широко используемых инструментов, таких как Open AI, однако, не являются по своей природе совместимыми с этими нормами, и на данный момент неясно, как создать полностью совместимую ИИ-систему на уровне модели, даже если она осведомлена о правилах соответствия — они могут быть нарушены с помощью умелого инженерного проектирования запросов.
Поэтому, как уже было сказано, большинство стартапов концентрируются на тех вещах, которые не требуют одобрения и имеют минимальный уровень риска.
В каких областях ИИ может оказать наибольшее влияние?
Ускорение открытия лекарств: ИИ может значительно сократить сроки разработки лекарств, экономя ресурсы и обеспечивая более быстрое поступление жизненно важных медикаментов к пациентам. Хорошие примеры – AlphaFold и AlphaProteo.
Развитие медицинской визуализации: создание синтетических медицинских изображений для обучения моделей ИИ, улучшение качества реальных изображений и повышение точности автоматического обнаружения аномалий.
Революция в персонализированной медицине: ИИ способен анализировать обширные данные о пациентах, чтобы адаптировать лечение и предсказывать индивидуальные реакции на терапию, расширяя границы персонализированного ухода. ИИ может анализировать геномные данные, чтобы выявлять генетические мутации и вариации, связанные с заболеваниями. Опираясь на генетический профиль пациента, медики могут разрабатывать целевые терапии, которые более эффективны и имеют меньше побочных эффектов. Например, ИИ-алгоритмы используются для интерпретации геномных данных у онкологических пациентов, помогая врачам-онкологам выбрать наиболее подходящую химиотерапию или иммунотерапию на основе уникальных генетических характеристик опухоли пациента.
Улучшение медицинского обучения: симуляции заболеваний и медицинских процедур, созданные на базе ИИ, предоставляют медицинским специалистам более безопасную и эффективную платформу для совершенствования своих навыков без необходимости использования реальных клинических случаев.
Оптимизация телемедицины и виртуальной помощи: чат-боты на основе ИИ могут отвечать на базовые медицинские вопросы и направлять пациентов к нужному специалисту, снижая нагрузку на медицинских работников и расширяя доступ к своевременной медицинской консультации.
Профилактическая медицина: платформы, работающие на базе ИИ, анализируют пользовательские данные (например, данные с носимых устройств или мобильных приложений) и предоставляют персонализированные рекомендации по здоровью, питанию или отслеживанию физической активности.
Решения для психического здоровья и благополучия: инструменты, которые помогают пользователям отслеживать психическое здоровье (например, мониторинг настроения, управление стрессом) или предлагают персонализированные программы психического благополучия.
ИИ для административных задач и операционки: системы ИИ, которые оптимизируют работу медицинских учреждений (например, сокращают время ожидания пациентов, улучшают планирование приёмов, повышают эффективность логистики цепочек поставок).
Поддержка врачей в рутинных задачах: ИИ позволяет медицинским работникам сосредоточиться на пациентах, автоматизируя ведение записей, подготовку к встречам и исследования после встреч. Это особенно важно, поскольку здравоохранение во многом строится на человеческом общении, и сейчас мы теряем часть этого, концентрируясь на сборе информации и соблюдении протоколов. ИИ может помочь вернуть внимание к пациентам, освобождая врачей от рутинных задач.
Также важно отметить, что ИИ является мультимодальным (видео, изображения, текст, звук, включая химию или, как в случае с AlphaFold, свёртывание белков и так далее), что создаёт множество синергий, если объединить разрозненные данные, которыми располагают медицинские учреждения. ИИ может соединять точки, которые человек не способен увидеть из-за масштаба данных. Таким образом, ИИ может работать на стыке различных областей.
С точки зрения интеграции, помимо регуляторных препятствий, существуют естественные силы, которые замедляют прогресс. Существующие рабочие процессы в системах здравоохранения сильно отличаются от технических систем (например, облачных вычислительных систем). Их очень трудно изменить, и часто проще интегрировать менее продвинутое или даже устаревшее решение, если оно хорошо вписывается в систему, чем самое передовое решение.
Это аспект, который технические специалисты часто не понимают. Технологии меняются быстро, а люди меняются очень медленно. Часто скорость внедрения ограничивается уровнем доверия, поэтому решения на базе ИИ внедряются с той скоростью, с которой накапливается доверие.
Валидация и измерение успеха
Генеративные ИИ и предсказательные модели требуют особых подходов к тестированию по сравнению со структурированными логическими системами, которые предсказывают точные результаты. В случае генеративного ИИ одинаковые входные данные могут приводить к похожим, но всё же различным результатам при разных запусках. Поэтому реализация надёжного плана тестирования крайне важна для обеспечения точности ИИ. Эффективные стратегии тестирования должны включать установление порогов доверия (просить ИИ либо предоставить контекстуальные доказательства, либо воздержаться от ответа), включение обратной связи от человека в процесс, использование традиционных моделей для перекрёстной проверки (например, НЛП для проверки контекстуальных данных с исходными материалами) и анализ матрицы ошибок для оценки доли правильных ответов относительно числа попыток. Эти стратегии помогают улучшить точность моделей и их общую производительность.
Примеры реальных случаев внедрения:
Московский городской проект по использованию ИИ в диагностике:
В Москве активно развивается проект по внедрению искусственного интеллекта для диагностики медицинских изображений, таких как рентгеновские снимки, КТ и МРТ. В рамках этого проекта ИИ помогает врачам быстрее и точнее выявлять заболевания, включая COVID-19, пневмонию, рак легких и другие патологии. Система ИИ анализирует результаты обследований и передает их врачам для окончательного заключения.
Институт имени Сеченова:
Активно применяет технологии ИИ для диагностики и анализа медицинских данных. В частности, ИИ используется для анализа медицинских изображений в онкологии, что позволяет более точно и на ранних стадиях обнаруживать раковые опухоли.
Клиника Мэйо, США:
Клиника Мэйо находится на переднем крае интеграции ИИ в здравоохранение, особенно в радиологии и кардиологии. Были разработаны ИИ-алгоритмы, которые помогают в интерпретации медицинских изображений, таких как выявление ранних признаков сердечных заболеваний по эхокардиограммам или анализ МРТ и КТ-сканов для обнаружения опухолей. Например, клиника сотрудничает с такими компаниями, как Google и Nference, для создания моделей машинного обучения, которые могут прогнозировать исходы и персонализировать лечение для пациентов с заболеваниями сердца, раком и заболеваниями печени.
Zebra Medical Vision, Израиль:
Zebra Medical Vision — компания, занимающаяся аналитикой медицинских изображений на базе ИИ, которая предоставляет медицинским учреждениям по всему миру инструменты ИИ для анализа радиологических изображений. Их модели ИИ используются для выявления широкого спектра заболеваний, включая сердечно-сосудистые заболевания, заболевания лёгких, печени и переломы костей. Система внедрена в нескольких больницах, помогая радиологам быстро и точно диагностировать заболевания за счёт анализа большого объёма изображений за значительно меньшее время, чем потребовалось бы вручную.
Больница Джона Рэдклиффа, Великобритания:
Больница Джона Рэдклиффа в Оксфорде сотрудничает с Оксфордским университетом и Google DeepMind для использования ИИ в выявлении острой почечной недостаточности (AKI). Система анализирует результаты анализов крови и другие данные пациентов для прогнозирования начала AKI за 48 часов до его проявления. Раннее выявление AKI может значительно снизить уровень смертности пациентов, поскольку позволяет врачам быстрее вмешаться и предотвратить дальнейшее повреждение почек.
Чан Гунг Мемориальный Госпиталь, Тайвань:
Чан Гунг Мемориальный Госпиталь внедрил ИИ для улучшения персонализированной медицины в лечении заболеваний печени, которые особенно распространены в Тайване. Система ИИ госпиталя анализирует генетическую информацию и медицинскую историю для прогнозирования, какие пациенты наиболее вероятно получат пользу от определённых методов лечения. Этот подход, основанный на ИИ, помогает врачам принимать более точные решения по лечению, что приводит к улучшению результатов у пациентов с раком печени и хроническими заболеваниями печени.
Больницы Apollo, Индия:
Больницы Apollo сотрудничали с Microsoft для разработки системы на основе ИИ, предназначенной для прогнозирования сердечно-сосудистых заболеваний. Система анализирует данные пациентов, включая медицинскую историю и образ жизни, чтобы предсказать риск сердечных заболеваний. Этот инструмент на базе ИИ особенно важен в Индии, где сердечные заболевания являются одной из ведущих причин смерти. Система помогает медицинским работникам выявлять людей с высоким риском на ранних стадиях, что позволяет принимать профилактические меры и снижать вероятность сердечно-сосудистых происшествий.
Каролинский университетский госпиталь, Швеция:
Каролинский университетский госпиталь внедрил ИИ для оптимизации процесса диагностики и лечения опухолей головного . Используя инструменты визуализации на основе ИИ, медицинские команды госпиталя могут быстрее выявлять опухоли и планировать стратегии лечения. Это привело к более точным и своевременным вмешательствам, улучшая исходы пациентов. Кроме того, Каролинский госпиталь использует ИИ в исследованиях по открытию лекарств, ускоряя разработку новых терапий для широкого спектра заболеваний.
Медицинская система Mount Sinai, США:
Mount Sinai интегрировала ИИ в свои клинические рабочие процессы, особенно в области визуализации и прогнозирования заболеваний. Например, Mount Sinai использует алгоритмы глубокого обучения для анализа рентгеновских снимков грудной клетки и прогнозирования вероятности различных заболеваний, включая пневмонию и COVID-19. Система обеспечивает быстрые и точные диагностики, что помогает врачам принимать более обоснованные решения. Кроме того, Mount Sinai использовала ИИ для прогнозирования исходов у пациентов с такими заболеваниями, как сепсис и сердечная недостаточность, что позволяет клиницистам вовремя вмешиваться и улучшать уход за пациентами.
Медицинский центр Бет Исраэль Дьяконесс (BIDMC), США:
BIDMC интегрировал алгоритмы ИИ в свои клинические рабочие процессы, особенно в условиях интенсивной терапии, для прогнозирования ухудшения состояния пациентов. Эти предсказательные модели используют данные от различных мониторинговых устройств и электронных медицинских записей для выявления ранних признаков потенциальных осложнений, что позволяет медицинским командам вовремя вмешиваться. Использование машинного обучения и предсказательной аналитики в BIDMC способствовало улучшению исходов у пациентов за счёт снижения уровня смертности и сокращения времени пребывания в больнице.
Глазная больница Мурфилдс, Великобритания:
В сотрудничестве с Google DeepMind, глазная больница Мурфилдс внедрила ИИ для анализа сканов сетчатки. Эта система ИИ, обученная на тысячах изображений сетчатки, способна обнаруживать более 50 различных заболеваний глаз с точностью, сопоставимой с ведущими офтальмологами. Благодаря значительному ускорению процесса диагностики, эта технология позволяет выявлять заболевания глаз на ранних стадиях и начинать лечение раньше, помогая предотвратить потерю зрения у многих пациентов.
Онкологический центр Memorial Sloan Kettering (MSKCC), США:
Онкологический центр Memorial Sloan Kettering (MSKCC) сотрудничает с IBM Watson for Oncology для поддержки персонализированных решений по лечению рака. Watson for Oncology анализирует данные пациентов и сопоставляет их с последними медицинскими исследованиями для рекомендаций по лечению, основанному на доказательствах. Однако, несмотря на первоначальные перспективы, система столкнулась с трудностями в клинической практике, и её эффективность была поставлена под сомнение. Хотя Watson for Oncology способствовал продвижению использования ИИ в онкологии, MSKCC впоследствии уменьшил своё доверие к системе из-за вопросов, связанных с точностью и практической полезностью её рекомендаций.
Заключение
ИИ — это очень перспективный инструмент в здравоохранении, который в будущем существенно изменит отрасль. На данный момент приложения ИИ ограничены и всё ещё находятся на этапе изучения, поэтому нам предстоит ещё долгий путь.
Всем добра и позитивного настроения!
Автор: Squirrelfm
