Искусственный интеллект в здравоохранении - Коллектив авторов
– формирование регуляторного механизма для персонализированных МИ (например, программного обеспечения для лечения бессонницы; ортопедических имплантатов, разработанных в соответствии с индивидуальными анатомическими особенностями пациента), учитывающего уникальные характеристики и риски каждого из устройств этого типа;
– улучшение количества и качества клинических данных, позволяющих оценить эффективность и безопасность МИ;
2) на пострыночном (post-market) этапе:
– управление кибербезопасностью МИ с учетом установления баланса между предрыночными и пострыночными требованиями;
– проработка терминов и кодов, используемых для сообщения о неблагоприятных событиях при применении МИ;
– разработка рекомендаций для создания и использования уникальных идентификаторов МИ (UDI) для эффективного сбора информации в рамках мониторинга безопасности МИ.
Важным аспектом развития и совершенствования регулирования в сфере обращения МИ является соблюдение баланса между интересами бизнеса, государства и пациентов, являющихся конечными потребителями МИ.
Основные усилия направлены на уменьшение общего времени, затрачиваемого на внедрение в медицинскую практику безопасных и востребованных инноваций, с одновременным укреплением контроля на пострегистрационном этапе, повышением эффективности сбора и анализа информации от пользователей, в случае выявления дефектов (неисправностей) принятия необходимых мер для недопущения их повторения.
§ 4. Регулирование обращения программного обеспечения, в том числе с применением технологий искусственного интеллекта, являющегося медицинским изделием
Говоря об особенностях стадий жизненного цикла для программного обеспечения, являющегося МИ, необходимо отметить, что за последние годы действующее законодательство существенно усовершенствовалось. При этом большая работа проведена отдельно для систем ИИ, что является крайне актуальным.
Так, в 2021–2022 гг. Росстандартом впервые утверждены и введены в действие национальные стандарты Российской Федерации серии «Системы искусственного интеллекта в клинической медицине»:
– Национальный стандарт РФ ГОСТ Р 59921.1-2022 «Системы искусственного интеллекта в клинической медицине. Часть 1. Клиническая оценка» [Национальный стандарт РФ ГОСТ Р 59921.1…];
– Национальный стандарт РФ ГОСТ Р 59921.2-2021 «Системы искусственного интеллекта в клинической медицине. Часть 2. Программа и методика технических испытаний» [Национальный стандарт РФ ГОСТ Р 59921.2…];
– Национальный стандарт РФ ГОСТ Р 59921.3-2021 «Системы искусственного интеллекта в клинической медицине. Часть 3. Управление изменениями в системах искусственного интеллекта с непрерывным обучением» [Национальный стандарт РФ ГОСТ Р 59921.3…];
– Национальный стандарт РФ ГОСТ Р 59921.4-2021 «Системы искусственного интеллекта в клинической медицине. Часть 4. Оценка и контроль эксплуатационных параметров» [Национальный стандарт РФ ГОСТ Р 59921.4…];
– Национальный стандарт РФ ГОСТ Р 59921.5-2022 «Системы искусственного интеллекта в клинической медицине. Часть 5. Требования к структуре и порядку применения набора данных для обучения и тестирования алгоритмов» [Национальный стандарт РФ ГОСТ Р 59921.5…];
– Национальный стандарт РФ ГОСТ Р 59921.6-2021 «Системы искусственного интеллекта в клинической медицине. Часть 6. Общие требования к эксплуатации» [Национальный стандарт РФ ГОСТ Р 59921.6…].
Новые национальные стандарты не имеют аналогов в мире и призваны регламентировать применение ИИ в клинической медицине, минимизировать вероятность причинения вреда пациентам вследствие некачественной работы системы ИИ, повысить уровень доверия к таким системам.
К 2027 г. планируется разработать 50 стандартов в области ИИ в здравоохранении. Кроме того, на сегодняшний день отдельные особенности регулирования МИ с технологиями ИИ уже включены в нормативные правовые акты в сфере обращения МИ или отражены в информационных письмах надзорного органа. Так, на подготовительном этапе разработчику программного обеспечения с технологией ИИ необходимо определить, будет ли его продукт относиться к МИ. Если программное обеспечение можно не считать МИ, то процесс разработки и внедрения, безусловно, облегчается. В том случае, если система ИИ может быть отнесена к МИ, перед использованием необходима ее регистрация.
В соответствии с Рекомендациями Коллегии Евразийской экономической комиссии от 12.11.2018 № 25 «О Критериях отнесения продукции к медицинским изделиям в рамках Евразийского экономического союза», Письмом Росздравнадзора от 13.02.2020 № 02И-297/20 «О программном обеспечении» программное обеспечение является МИ при условии соответствия его всем следующим критериям:
– представляет собой программу для электронно-вычислительной машины или ее модули вне зависимости от используемой аппаратной платформы, а также способов размещения программного обеспечения и предоставления доступа к нему (например, облачные сервисы, встраиваемые компоненты (плагины) и т. д.);
– не является составной частью другого МИ (должно быть универсальным, работать на любом оборудовании без подключения каких-то определенных медицинских устройств);
– предназначено производителем для оказания медицинской помощи (если ПО используется в медицинских организациях, но для других целей – работа бухгалтерии, медицинской статистики, администрирования, то оно не является МИ);
– результат действия программного обеспечения заключается в интерпретации в автоматическом режиме, в том числе с использованием технологий ИИ, или по заданным медицинским работником параметрам, влияющим на принятие клинических решений, набора данных.
Основную сложность при применении указанных критериев вызывает ответ на вопрос: какую обработку данных можно считать интерпретацией? Предлагается считать интерпретацией обработку клинических данных о пациенте, в результате которой формируется отсутствующая в исходных данных, содержательно новая, клинически значимая информация, необходимая и используемая при принятии клинического решения и (или) выполнении медицинского вмешательства [Столбов, 2019].
Не являются интерпретацией данных:
– отображение данных, полученных от МИ, в том числе в заданном формате;
– расчет по заданным формулам;
– перевод между единицами измерения;
– построение статистических отчетов и графиков;
– растровый или векторный редактор изображений;
– сигнализация отклонений в данных при наличии возможности отображения исходных данных и при условии задания параметров сигнализации отклонений пользователем;
– функции создания экранных форм, бизнес-процессов, отчетности и иных представлений, которые используются для автоматизации бизнес-процессов медицинской организации в процессе эксплуатации программного обеспечения.
Примеры программного обеспечения, которое не относится к МИ:
1. Программное обеспечение, предназначенное для автоматизации административно-хозяйственной деятельности медицинской организации.
2. Программное обеспечение, включая мобильные приложения, предназначенное производителем для целей содействия здоровому образу жизни и для формирования у людей ответственного отношения к сохранению и укреплению здоровья, поддержанию активного долголетия, которое измеряет/рассчитывает количество шагов, скорость ходьбы/бега, пульс, количество потраченных и/или потребленных калорий/жидкости, вес, индекс массы тела и т. п.
3. Медицинские информационные системы медицинской организации, лабораторные информационные системы, программное обеспечение для ведения электронных медицинских карт, системы архивирования и передачи изображений, если такое программное обеспечение не содержит функций интерпретации данных.
4. Программное обеспечение, включая его обновление, применяемое для управления МИ и контроля за его работоспособностью.
5. Программное обеспечение, которое использует данные, полученные от одного или нескольких МИ, но не предназначено для оказания медицинской помощи. Например, программное обеспечение, которое шифрует и (или) объединяет данные (в том числе данные пациентов), полученные от одного или нескольких МИ, для их дальнейшей передачи.
6. Программное обеспечение для обмена текстовыми и (или) голосовыми сообщениями, электронными документами, фотографическими изображениями, видео-, аудиозаписями / потоками и иными данными между медицинским работником и пациентом, их регистрации, хранения и предоставления к ним доступа при оказании медицинской помощи, в том числе с применением телемедицинских технологий, или для записи на прием.
7. Программное обеспечение для
