Искусственный интеллект в здравоохранении - Коллектив авторов
Важным является формирование регулирования на уровне стран, экономических союзов государств, на глобальном уровне (ВОЗ) с целью, не препятствуя развитию ИИ, соблюсти баланс интересов бизнеса, системы здравоохранения, пациентов. Крайне важным является международное сотрудничество в этой области.
§ 3. Наиболее актуальные аспекты внедрения искусственного интеллекта в здравоохранение России
Преимущества использования ИИ в здравоохранении очевидны. Применение специальных программ по обработке больших данных, внедрение инновационных технологий самообучающегося ИИ позволит перейти на новый качественный уровень оказания медицинской помощи и будет способствовать переосмыслению всей системы здравоохранения, переходу на высокотехнологичную и более безопасную персонализированную медицину. Однако следует констатировать, что внедрение систем ИИ неизбежно создает дополнительные, нестандартные проблемы, порождает целый ряд новых вопросов правового и этического характера.
Наиболее актуальными проблемами для Российской Федерации (см.: разд. 3, § 1) являются:
– обеспечение безопасности внедрения систем ИИ;
– делегирование ответственности при их использовании;
– этические проблемы.
Применение ИИ в медицинской деятельности может повлечь причинение вреда жизни или здоровью граждан, общественному здоровью в следующих ситуациях:
– при наличии ошибок на стадии разработки и создания систем ИИ;
– внесении в базы неточных или неполных данных, последующая обработка которых в силу их некорректности может привести к ошибочным решениям;
– неправомерном доступе в систему ИИ с целью совершения противоправного деяния против личности, общественного здоровья, общественной безопасности, а также в любых иных ситуациях неправомерного доступа, влекущих модификацию ИИ или его повреждение;
– самообучении ИИ, сопровождающемся изменением алгоритма обработки закладываемой информации, и последующем принятии самостоятельных решений.
В этих условиях крайне актуально развитие нормативно-технического регулирования в сфере ИИ.
В Стратегии-2017 была дана оценка современного состояния законодательной базы на предмет регулирования отношений с ИИ. Так, в Стратегии говорится, что для стимулирования развития и использования технологий ИИ необходимы адаптация нормативного регулирования в части, касающейся взаимодействия человека с ИИ, и выработка соответствующих этических норм. Однако избыточное регулирование может существенно замедлить темп развития и внедрения технологических решений.
Важным для России в доктринальном плане стал документ, разработанный в 2017 г. Исследовательским центром проблем регулирования робототехники и искусственного интеллекта, – проект Модельной конвенции о робототехнике и искусственном интеллекте. Он написан с возможной перспективой международного использования и гармонизации в сфере информационного права. Из особенно заслуживающих внимания положений Модельной конвенции можно выделить следующие: авторы проекта ответственно подходят к регулированию вопросов обеспечения безопасности человека при использовании ИИ и перечисляют необходимые «принципы безопасности». К ним отнесены принцип контролируемости роботов человеком, принцип равных рисков (риски при использовании роботов должны быть не больше обычных рисков), механизм черного ящика (фиксация и хранение данных о действиях робота), красная кнопка (дает возможность отключить робота в любой момент). Также, согласно Конвенции, ответственность за выполнение правил функционирования роботов возлагается на создателей роботов, а также на любое иное лицо, которое может своими действиями повлиять на выполнение правил. Кроме того, Конвенция предлагает создать отдельные межгосударственные и негосударственные организации и объединения (или такие отделы в уже существующих организациях), предназначенные для эффективного, гармоничного и безопасного развития сферы робототехники и искусственного интеллекта.
В настоящее время разрабатывается Цифровой кодекс России для определения разумного баланса между стремительным развитием информационных технологий, цифровой трансформацией экономики и государственного управления и сохранением прав и свобод человека и гражданина. Звучат также предложения дополнить ГК РФ понятиями «робот-агент», «владелец робота-агента», определить правоспособность робота-агента [Архипов, Наумов, 2017].
В связи с происходящими процессами неизбежно трансформируются их правовое регулирование и доктринальный подход к оценке связанных с этим новых явлений в праве. Некоторые исследователи предлагают рассматривать три концепции понимания сущности цифрового права, его развития и определения места в правовой системе.
Первую модель можно назвать классической. В соответствии с ней оформляющийся массив норм цифрового права рассматривают как комплексный институт без четкого отнесения к какой-либо выделенной отрасли права.
Согласно второй модели некоторые ученые воспринимают цифровое право как циклический нормативный массив. Идея существования циклических нормативных массивов высказывается Т. Я. Хабриевой [Хабриева, Черногор, 2018; Хабриева, 2019]. В рамках концепции определенные нормы права, возникающие как реакция на вполне естественные изменения сфер жизнедеятельности человека, развиваются особняком, при этом оказывая существенное влияние на устоявшиеся правовые отрасли. В перспективе они способны трансформировать всю традиционную систему права.
Следующая модель – это концепция так называемых аддитивных технологий в праве [Грудцына, 2021]. Она предполагает, что с помощью таких технологий будут объединяться ранее не взаимодействовавшие элементы права, в результате чего возникнут конвергентные отрасли права [Записная, 2022].
Начать обсуждение проблем правового регулирования разработки и использования ИИ в медицине авторы настоящего издания считают правильным с конституционного права. Некоторые исследователи пытаются понять функционирование технологий ИИ с точки зрения их конституционно-правового регулирования. Так, М. А. Липчанская и Т. В. Заметина считают [Липчанская, Заме тина, 2020, с. 82–84], что конституционное осмысление отношений с ИИ можно увидеть в следующих положениях Конституции:
1. Согласно статье 2 Конституции РФ человек, его права и свободы являются высшей ценностью. В России участником общественных отношений, в том числе правоотношений, на данный момент является человек, а не ИИ. Права и свободы человека определяют смысл, содержание и применение законов.
2. Конституция РФ гарантирует свободу и личную неприкосновенность каждому человеку (часть 1 статьи 22). При этом ИИ выполняет служебную функцию.
3. Статья 4 Конституции РФ закрепляет принцип суверенитета государства. В связи с этим международное сотрудничество России в сфере ИИ не снижает уровень самостоятельности и независимости РФ в принятии решений, связанных с использованием технологий ИИ.
4. Необходимо разобраться в том, к полномочиям какого уровня федерации можно отнести регулирование ИИ, так как в настоящее время эта сфера начинает приобретать особое значение в общественной жизни. К предметам исключительного ведения РФ относятся информационные технологии. Оптимальный баланс в разграничении предметов ведения и полномочий в данной области может быть достигнут только в случае федерального приоритета в решении принципиальных вопросов регулирования ИИ.
5. Обеспечение безопасности относится к предметам исключительного ведения Российской Федерации (пункт «м» статьи 71 Конституции РФ дополнен положениями о том, что к предметам исключительного ведения Российской Федерации относится обеспечение безопасности личности, общества и государства при применении информационных технологий, обороте цифровых данных).
Исследователи приходят к выводу: потенциально законодательство в сфере ИИ должно носить комплексный характер, быть направленным на то, чтобы обеспечить взаимодействие различных отраслей права в вопросе оформления правового статуса ИИ [Липчанская, Заметина, 2020, с. 82–84]. Таким образом, ИИ, как прочно вошедшее в жизнь человека явление, в настоящее время начинает приобретать юридическое оформление. Вместе с развитием технологий ИИ регулированию начинают придавать особое значение. Процессы трансформации общественной жизни с появлением новых технологий сопровождаются также процессами их правового осмысления. ИИ, его
