Искусственный интеллект в здравоохранении - Коллектив авторов
Согласно Модельной конвенции о робототехнике и искусственном интеллекте, «разумные роботы не должны причинять вред человеку и человечеству, а также допускать, чтобы их бездействием был причинен вред, если только причинение вреда не является вынужденным и оправданным, способствующим предотвращению еще большего вреда. При этом понятие вреда определяется исходя из той информации, которая имеется в распоряжении разумного робота» [Блажеев, 2020]. Анализ данного положения показывает, что робот будет выбирать вариант решения проблемы в сложной непредвиденной ситуации, исходя из имеющихся у него шаблонов, которые, в свою очередь, заложили создавшие его люди. Поэтому выработка этических правил является крайне актуальным направлением. Этические принципы и их соблюдение (этичное поведение) базируются на таких общепринятых ценностях, как честность, справедливость, добросовестность. В настоящее время основными направлениями развития этики ИИ считаются [Абрамова и др., 2021]:
– социокультурные, гуманитарные и цивилизационные аспекты, определение смыслов и целей человека в условиях стремительного развития машин (риски потери автономности человека, когнитивной деградации, поиск и моделирование социальных моделей для гармоничного развития человека, сохранения планеты с учетом имеющихся возможностей и угроз);
– выработка и обоснование этических критериев, которым должна соответствовать система ИИ, при этом ключевое значение приобретает этика человека (разработчика или другого актора, участвующего в жизненном цикле системы ИИ), включение этих критериев в стандарты, системы сертификации и другие механизмы регулирования;
– технические задачи ответственной разработки и проектирования систем ИИ (например, методики их тестирования на предмет соответствия (несоответствия) этическим ожиданиям);
– создание этических подходов, методик в области развития гибридного интеллекта (в последние годы развиваются концепции социально-гуманитарного ИИ, создания гибридной реальности и др.).
Все указанные направления требуют всестороннего комплексного рассмотрения междисциплинарными командами.
Актуальность разработки этических правил взаимодействия человека с ИИ отмечается в Национальной стратегии развития искусственного интеллекта на период до 2030 года [Указ…, 2019].
Важной вехой в определении этических принципов развития ИИ стала разработка Кодекса этики в сфере искусственного интеллекта (прил. 3). Кодекс опубликован в октябре 2021 г.[24] Это единая система рекомендательных принципов и правил, предназначенных для создания среды доверенного развития технологий ИИ в России, которые распространяются только на гражданские разработки. Документ создан ведущими отечественными технологическим компаниями, входящими в Альянс в сфере искусственного интеллекта, с учетом мировых тенденций. Он адресован государству, представителям науки, бизнесу, а также всем, кто создает, внедряет или использует технологии ИИ, является инструментом взаимодействия всех заинтересованных сторон в формате саморегулирования. В разработке Кодекса участвовали все перечисленные ключевые участники. Присоединение осуществляется онлайн, на добровольной основе, общедоступно.
Содержание Кодекса базируется на шести принципах, положенных в основу детальных рекомендаций:
1. Главный приоритет развития технологий ИИ – защита интересов людей, отдельных групп, каждого человека.
2. Необходимо осознание ответственности при создании и использовании ИИ.
3. Ответственность за последствия применения ИИ всегда лежит на человеке.
4. Технологии ИИ внедряются там, где это принесет пользу людям.
5. Интересы развития технологий ИИ выше интересов конкуренции.
6. Важны максимальная прозрачность и правдивость в информировании об уровне развития технологий ИИ, их возможностях и рисках.
В документе создана общая база понимания этической ответственности акторов ИИ перед пользователями и обществом, включающая системные, долгосрочные и другие значимые результаты широкого внедрения алгоритмов ИИ. В процессе дальнейшего совершенствования Кодекса важно по мере развития научно-технического прогресса находить баланс между общими (универсальными) и отраслевыми (секторальными) специализированными этическими нормами и положениями. Медицина является одной из приоритетных областей развития этических принципов применения ИИ.
Несмотря на то что этические принципы универсальны, носят общечеловеческий характер, нужно отметить особенности, связанные с различными культурными, религиозными и другими факторами в отдельных странах. Актуальной проблемой является гармонизация этических аспектов развития ИИ на международном уровне. Таким образом, технологии ИИ на основе базовых этических норм на всех этапах жизненного цикла должны предусматривать:
– приоритет благополучия и безопасности человека, защиты его основополагающих прав и свобод (цель обеспечения благополучия и безопасности человека должна преобладать над иными целями разработки);
– запрет на причинение вреда человеку по инициативе систем ИИ (необходимо ограничивать разработку, оборот и применение систем ИИ, способных по своей инициативе целенаправленно причинять вред человеку);
– подконтрольность человеку (в той мере, в которой это возможно с учетом требуемой степени автономности систем ИИ и иных обстоятельств);
– проектируемое соответствие закону, в том числе требованиям безопасности (применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм);
– недопущение противоправной манипуляции поведением человека.
§ 4. Государственная политика Российской Федерации в сфере использования искусственного интеллекта в здравоохранении
В России актуальность вопроса развития и внедрения в различные отрасли ИИ ознаменовалась принятием «Стратегии развития информационного общества в Российской Федерации на 2017–2030 гг.» – доктринального документа, представляющего концептуальную основу дальнейших действий по построению информационного общества, которая предполагает определение его сущности и элементов. Инновационный характер документа оказался особенно высок по сравнению с предшествующей «Стратегией развития информационного общества в РФ» 2008 г., где не было четкого определения информационного общества. Стратегия-2008 предназначалась для того, чтобы в конечном счете Россия заняла «достойное место среди лидеров глобального информационного общества» [Хапай, 2015, с. 93]. Несомненным продвижением вперед в этот период стало выявление серьезных недостатков в правовом регулировании области информатизации и высоких технологий (в информационной безопасности).
Для корректировки выявленных проблем и дальнейшего поступательного развития России в выбранной области была принята Доктрина информационной безопасности от 5 декабря 2016 г. (а следом за ней и Стратегия-2017). В новом документе были предусмотрены обязательность мониторинга реализации положений и представление их в ежегодном докладе секретаря Совета безопасности Президенту РФ.
В Стратегии-2017 в том числе изложен приоритетный сценарий развития информационного общества в России, подчеркивается активная роль государства в строительстве общества нового типа за счет привлечения как бюджетных, так и частных инвестиций. Отечественные информационно-коммуникационные технологии применяются в работе национальных технологических онлайн-платформ медицинских, финансовых, библиотечных, образовательных и иных услуг [Тихонова, 2017, с. 456].
Президентом РФ, правительством в последние годы предприняты значительные усилия по созданию условий для эффективного взаимодействия государства, организаций, в том числе научных, и граждан в сфере развития ИИ. Указом Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» утверждена Национальная стратегия развития искусственного интеллекта на период до 2030 г. [Указ…, 2019]. В качестве целей развития ИИ в новой Стратегии определены:
– обеспечение роста благосостояния и качества жизни населения;
– обеспечение национальной безопасности и правопорядка;
– достижение устойчивой конкурентоспособности российской экономики, в
