Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин
Кейс. Самым известным примером внедрения ИИ-мониторинга стал сервис Healthtap, который использовал массив скриптов более тысячи консультаций. По ним был натренирован чат-бот Doctor A.I. Он умеет отвечать на вопросы, сформулированные на простом языке пациентов, а не на специальном медицинском языке. Подключив умную колонку с Amazon, можно получить консультацию от этого бота [Wiggers, 2018].
Несмотря на удобство в эксплуатации программ по автоматизированному мониторингу здоровья, они могут причинить пользователям определенный психологический ущерб. Ознакомление с данными прогнозирования может оказаться травматическим для пациентов. Например, многие люди могут сильно расстроиться, если узнают, что в будущем они, вероятно, будут страдать от снижения когнитивных способностей. Оценка рисков возникновения инфаркта в ближайшие несколько лет может всерьез травмировать пациента, страдающего от сердечно-сосудистой дистонии. Оценка рисков появления диабета при определенных показателях сахара в крови или онкологического заболевания в ответ на расшифровку данных анализов на онкомаркеры могут возыметь неоднозначное воздействие на психику пациентов. Не менее пугающими могут оказаться для неподготовленных пациентов данные об отрицательной динамике по протекающим хроническим заболеваниям. Программы ИИ мониторят текущее состояние здоровья и постоянно сравнивают их с предыдущими. Не вполне однозначные для интерпретации результаты, которые могут при этом формироваться, могут всерьез пугать пользователей программ. Специалисты отмечают также возникновение у пациентов ипохондрических состояний, появляющихся в ответ на данные мониторинговых программ, различные неврозы, тяжелые состояния психологической мнительности, равно как состояния зависимости от постоянной оценки здоровья с помощью соответствующих программ. Некоторые пациенты могут жаловаться на ощущение, что их показатели здоровья стали действительно снижаться в ответ на информацию, сформированную мониторинговой программой. Как правило, врачи-люди ограничивают долгосрочность прогнозов ближайшими 5–10 годами, однако программы ИИ в состоянии формировать высокоточные прогнозы на гораздо большие сроки. Возможный психотравмирующий эффект от ознакомления с ними представляет собой определенную этическую проблему.
Пользователи мониторинговых программ подписывают соглашения о том, что все данные, которые собирает программа, а также все результаты ее промежуточных или итоговых прогнозов должны становиться доступными самому пациенту. Информация о состоянии здоровья, включая риски, не может быть конфиденциальной для пациента и открытой только для лечащих врачей. Однако не всегда возможно обеспечить правильную оценку пациентом тех данных, с которыми он знакомится. Неверные интерпретации или ошибочные оценки, к которым может склоняться пациент, не будучи врачом-профессионалом, могут всерьез исказить его картину собственного здоровья. Однако в тех случаях, когда пациент вполне адекватно понимает данные прогнозов и возможных рисков, его психологическое состояние также может пострадать в связи с реальными угрозами, существующими для его здоровья. Если в руки пациента попадает отчет, в котором приводятся данные о 70 %-й вероятности повторного инсульта в ближайшие 2–3 года или 60 %-й риск микроинфаркта в ближайшие годы, то качество его жизни может значительно снизиться. В ожидании реализации данных прогнозов пациенты могут жаловаться на депрессии, возникновения фобий, психосоматических расстройств и неврозоподобных состояний. Некоторые пациенты отмечают ухудшение субъективного самоощущения после того, как начали пользоваться мониторинговыми программами. В ряде случаев могут диагностироваться аутосуггестивные состояния или появление фантомных болей. Этически непроясненной в данном случае остается степень пользы высоко вероятностных прогнозов, если пациенты, информированные об исходах своих заболеваний, а также сроках их наступления, получают серьезный психологический ущерб, который может превышать опасность самих прогнозируемых заболеваний. Отдельной этической проблемой является вопрос о том, верно ли данную ситуацию оценивать в утилитаристских терминах превышения вреда или пользы либо пациент вправе, не мотивируя это, отказаться от подобных мониторингов, наложив вето на автоматизированную оценку своего здоровья и расчеты рисков [Müller, 2019].
4. На сегодняшний день в начальном, но подающем большие надежды, положении находится сфера развития ИИ, направленного на генетическое тестирование. Подобные программы осуществляют генетическое консультирование по результатам проведенной генетической экспертизы. Наибольшей популярностью пока пользуются программы, которые применяются в пренатальном исследовании плода и прогнозировании возможных рисков генетических мутаций. В отличие от имеющихся программ оценки, используемых людьми-генетиками, созданные программы ИИ лучше и точнее рекомендуют, на какие именно генетические мутации стоит проверить пациентку. Если раньше, помимо основного списка возможных генетических аномалий развития плода, пациентка желала провести тест по оставшимся видам потенциальных мутаций (свыше 500 тысяч), то ей следовало точно определить, какую именно аномалию необходимо тестировать. Как правило, врач-генетик объяснял пациентке, что ей следует точно знать, какие именно были у родственников будущего ребенка аномалии развития (врожденная тугоухость, заячья губа, врожденная глаукома и проч.). Развернутый тест на все возможные патологии развития ранее нельзя было провести в силу колоссальной технической трудоемкости [Mishra, 2017]. В настоящее время программы ИИ на основе некоторых введенных данных формируют собственные рекомендации по генетическому тестированию, а в обозримом будущем, вероятно, пациентам будет предоставляться возможность пройти тотально расширенный тест (вместо специализированно расширенного) на более чем 500 мутаций, с которым будет справляться ИИ-программа по генетическому тестированию.
Кейс. Используемое последние 8 лет исследование Panorama позволяет уже на первом триместре беременности обнаруживать различные хромосомные патологии с точностью выше 99 % (Current Trends in Early Prenatal Diagnosis, 2000). Информация полученная путем анализа ДНК плода обрабатывается и идентифицируется с помощью технологий, основанных на разделении ДНК матери и плода из образца плазмы. Технология разработана для неинвазивного пренатального исследования, ее использование было одобренно в США. Программа позволяет провести стандартное обследование с участием менее 10 возможных мутаций. Для тестирования на наличие других мутаций (из списка свыше 500 позиций) пациент или его личный генетик должны точечно указать, какая именно мутация вызывает наибольшее опасение. Если к исследованию Panorama будет подключена система ИИ, то плод можно будет проверять на весь спектр потенциальных мутаций без использования предварительных информативных вводных данных. Такая технология позволит во много раз повысить эффективность самого исследования и снизить риски того, что та или иная аномалия останется незамеченной.
Этические проблемы генетических обследований представляют собой отдельную область современной медицины и здравоохранения [Khoshnood, Babak, De Vigan, 2005]. Вдвойне проблематичными выглядят вопросы оправданности генетических тестирований в сфере пренатальной диагностики. После масштабного внедрения данной технологии (фактически с начала 1970-х годов в большинстве западных стран и в конце 1980-х в России) в обществе не стихают бурные дискуссии. Этическое напряжение вокруг данной темы связано с понятными причинами – возможным прерыванием беременности в случае, если матери становится известно о поражениях плода. Активное обсуждение привело к созданию целого ряда нормативных актов, призванных создать правовую базу для медико-генетической помощи. Однако этическая экспертиза данного вида помощи развита в существенно меньшей степени. Главный этический принцип генетического тестирования – это добровольность проведения скрининга и обязательное консультирование специалистом до и после проведения процедуры. Общение со специалистом позволяет пациентке сделать выбор, наиболее релевантный ее этическим
