Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин
1. Социальные принципы:
a. Уважение автономии человека на основе равенства прав и доступа к реализации потребностей в рамках закона.
б. Справедливость в распределении благ, социальная и правовая справедливость.
в. Право знать, как устроены те или иные социальные механизмы, в том числе включающие ИИ-технологии.
г. Отсутствие любых форм дискриминации или ущемления прав граждан, внимание к наиболее уязвимым группам граждан.
2. Экологические принципы:
Сохранение природы, разумное использование ресурсов, техническая надежность и безопасность.
3. Правовые принципы:
Верховенство закона, неприкосновенность частной жизни, надзор за законностью применения новых технологий и использованием старых.
4. Информационные принципы:
Прозрачность, объяснимость, доступность и открытость информации.
Системы ИИ должны функционировать в соответствии с этическими ценностями обществ, в которых они будут реализованы. Несовпадение этих значений между человеком и машиной может препятствовать их эффективному взаимодействию.
Вопрос о том, какие ценности машины должны использовать и как внедрить эти ценности в научном поле, до сих пор остается дискуссионным. В настоящее время рассматривается несколько влиятельных этических теорий, регулирующих взаимодействие человека и ИИ (деонтологические, утилитарные, этики добродетели и т. д.).
На этом уровне мы находим два типа взаимосвязанных проблем:
1. Каким образом решать этические проблемы, возникающие при использовании ИИ?
2. Как формализовать выработанные этические стратегии для самого ИИ?
Способствовать решению данных проблем может разработка руководства ИИ по этике, которое может быть адаптировано к конкретным профессиям и реальным сценариям. В нем будут изложены основные принципы и ценности, которые должны функционировать в системах искусственного интеллекта. Они могут основываться на его способности усваивать примеры и динамически адаптироваться к реальным ситуациям, с которыми придется столкнуться в определенной области.
Отдельно обозначим фундаментальные этические принципы работы ИИ:
1. ИИ не должен вредить людям своими действиями или бездействием.
2. ИИ обязан выполнять приказы людей, только если это не вступает в противоречие с п. 1.
3. ИИ должен стремиться продолжать свое существование и поддерживать его, кроме тех случаев, когда это противоречит п. 1 или п. 2 [Pei, 2018].
Этические аспекты применения и внедрения ИИ в судебной системе
1. Судебная система
Активное применение и распространение цифровых технологий не обошло стороной и такие сферы, как юриспруденция и судопроизводство. Применение искусственного интеллекта в данных сферах вызывает не меньшее число опасений, чем в области здравоохранения или образования. Традиционно в данной сфере человеческий фактор представляет собой наибольшую трудность. Риски подкупа судей, предвзятости следователей, различного рода уловки защиты, равно как и обвинения, психологические факторы воздействия на суд присяжных и/или свидетелей и проч., все это служило поводом для движения в сторону формализации судебных решений, ограничения роли человеческого вмешательства. В рамках подобных начинаний развитие и применение ИИ в правовой сфере было встречено с определенным энтузиазмом. Передача судебных решений в компетенцию ИИ может позволить значительно уменьшить риски недобросовестных рассмотрений дел, а также различного рода воздействия на участников судопроизводства. Применение так называемого «электронного правосудия», в котором решение выносит «ИИ-судья» (AI-judge), упрощает и ускоряет весь процесс принятия решения, уменьшает финансовые и временные издержки сторон, облегчает ознакомление с материалами дела. При этом ИИ-судья олицетворяет идеал абсолютной непредвзятости, бесстрастности и неподкупности. Как иронизируют некоторые современные правоведы, «антропоморфный судья всегда уже был создан по образу ИИ-судьи» [Bhorat, 2017].
Кроме того, машинизация обработки большого объема материалов должна значительно оптимизировать процесс рассмотрения дел и вынесения судебных решений. По мнению специалистов, внедрение ИИ должно улучшить качество судебных приговоров, уменьшить сроки судопроизводства. Внедрение электронного документооборота и цифровизация механизмов передачи и анализа данных позволит оптимизировать работу судебных органов [Нагорная, 2019].
Отметим, что в России созданы серьезные предпосылки для цифровизации различных процессов в судебной системе. В настоящее время максимальный эффект цифровизации в российской судебной системе обеспечивается при использовании систем электронной подачи документов и организации онлайн-взаимодействия сторон спора и судей, видеоконференц-связи, автоматического протоколирования судебных заседаний, а также при автоматизации деятельности аппарата суда. В ближайшем будущем развитие информационных технологий с высокой вероятностью позволит отказаться от проведения очных слушаний по широкому перечню дел на небольшие суммы, а также по бесспорным делам [Кашанин и др., 2020].
Цифровизация судебной системы будет осуществляться путем предоставления гражданам и организациям равных возможностей по использованию цифровых решений, позволяющих найти в электронной базе нужное дело; дистанционно знакомиться с материалами дела; участвовать в судебных заседаниях в режиме онлайн; получать и отправлять в электронном виде необходимые документы. Это обеспечит вклад судебной системы в экономическое развитие страны, поскольку позволит своевременно разрешать споры экономических агентов в арбитражных судах, а также рассматривать иные категории дел, включая уголовные.
Между тем, несмотря на перечисленные преимущества в отношении применения ИИ в судебной системе, специалистами высказывается также ряд опасений. Большинство из них носит этический характер. Судебные ошибки, фактор дискриминации, ущемление свободы воли человека при прогнозировании совершенного им правонарушения, неэтичность принятия во внимание биографических данных субъекта правонарушения, проблема иерархии отношений между человеком-судьей и ИИ-судьей, а также многие другие трудности этического характера дают основания для сомнений в некритическом применении ИИ в правовой сфере.
1.1. ИИ в области права
1. Одним из ключевых способов цифровизации судебной системы является введение компьютеризированных узлов обработки и принятия решений на всех уровнях судебно-правовой сферы. Речь идет о механизмах встраивания и инкорпорирования ИИ в цепочки судебных процессов или правовых споров. При этом подразумевается не линейный, но интерактивный тип взаимодействия между компьютеризированными и антропоморфными элементами системы. Отношения между людьми в данной сфере также предполагается регулировать с точки зрения цифрового обмена. В частности, после того как адвокат соберет материалы, они могут быть автоматически сгенерированы в исковое заявление, которое будет направленно в вышестоящие инстанции. Искусственный интеллект может быть подключен также на этапе отбора материалов. Адвокатские запросы могут формироваться с помощью соответствующего программного обеспечения. Между одним человеком и другим будет заложен механизм компьютеризированного оформления запроса и ответа. Ключевым узлом взаимодействия в заданных пределах будет отбор и анализ материалов, а также различные аспекты принятия решения, в частности подбор наиболее подходящего прецедента, решение о приобщении документов к материалам дела, подборка типовых решений по тому или иному делу и т. д.
Кейс. В апреле 2019 года проходил VI Московский юридический форум «Российская правовая система в условиях четвертой промышленной революции». В рамках мероприятия Председатель Совета судей России Виктор Момотов в докладе об особенностях работы судебной власти в цифровизированном мире указал на то, что важнейшей особенностью процесса современной диджитализации является его повсеместность для социальной, экономической и политической сфер жизни. Право не становится исключением – так, по мнению
