Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин
5. Еще одна технология ИИ, так называемый комплекс интерактивных образовательных программ, отражает аспекты персонификации обучения. Согласно данной технологии, уровень требований при подготовке обучаемого должен соответствовать уровню его возможностей. Анализируя разные комбинации методик и успехи учеников по различным показателям, система гибко подстраивается под уровень подготовки ученика и предлагает посильные ему задания и материал для освоения. Оценивая мотивацию и эмоциональное состояние ученика, программа составляется так, что тестовые задания подстраиваются под уровень обучаемого. В рамках обучения по данным программам успешность освоения материала и прохождения курса, как правило, характеризуется высокими показателями.
Кейс. Обучающая система Smart Sparrow была внедрена в некоторых школах США и уже зарекомендовала себя как пользующаяся большим успехом как у учителей, так и учеников. В рамках данной программы обучения за каждым учеником закрепляется своя история успеха, а также личный профиль прогресса при освоении курса. Задания строго индивидуализированы и гибко подстраиваются под средний коэффициент успеваемости отдельно взятого ученика в определенный отрезок времени. Ни у кого, кроме самого ученика и преподавателя, ведущего курс, нет доступа к профилю каждого ученика.
Методики, подстраивающиеся под уровень обучаемых, пользуются большим спросом в силу демократичности процесса обучения, гуманистического замысла проекта, высокой доли учета индивидуальных особенностей каждой отдельной личности в глазах самих обучаемых и высоким мотивационным потенциалом. Вместе с тем данные программы вводят самих обучающихся в некоторое заблуждение в отношении их истинных успехов в процессе обучения [Bankins, Formisa, 2019]. Система персональной настройки оценки качества освоения материала могла бы полностью оправдать себя только в условиях, когда общество в целом отказывается от стандартизированных процедур оценки на всех уровнях. Хотя шаблонные критерии оценки качества труда или успеха обучения пока не применяются повсеместно, использование их в отдельно взятом сегменте может способствовать разрыву в оценках и искаженному представлению обучающегося о собственном прогрессе. Успешность освоения той или иной программы конкретным абитуриентом может не найти подтверждения в его последующем карьерном росте или продолжении обучения. Данное обстоятельство дает основания для этических споров о том, вводят ли системы индивидуальной оценки успешности обучения в заблуждение тех, кто по ним обучается [Danaher, 2019]. В какой степени можно говорить о соответствии оценок, которые обучаемый получает внутри системы «подстраивающегося» обучения, и широком признании результатов его персонифицированного успеха?
2.2. Перечень рекомендаций
Внедрение многих образовательных технологий на основе ИИ требует особой щепетильности на всех стадиях реализации. Во-первых, прогностические технологии должны иметь статус рекомендаций, обязательна предварительная информированность всех участников о специфике работы программ, а также исключительно добровольное их участие. Важна также экспертная оценка эвристического потенциала технологий, что может быть поручено соответствующим специалистам как по дидактическому профилю, так и по профилю цифровой грамотности. При создании и внедрении ИИ-технологий в сфере образования обязательно консультирование психологов, в том числе специалистов по возрастной психологии. В комплексе с другими измерительными процедурами, необходимо лонгитюдное исследование эффективности инструментов, а также отсутствие ущерба для обучающихся пользователей.
Контроль за разработкой и внедрением ИИ-технологий в образовании может быть возложен частично на руководство самих университетов, различные научно-исследовательские группы, общественный и государственный контроль. Важно избегать централизации, в том числе государственной. Цели и критерии надзора должны соответствовать разным жизненным контекстам и окружению, способствовать развитию навыков коллективной работы, в том числе быть готовыми к межкультурному диалогу при работе над проектами.
В общем и целом распространение технологий ИИ в области начального, среднего и высшего образования должно сопровождаться особым социально-гуманитарным экспертным консультированием. При отсутствии общественной поддержки и пристального коммерчески незаинтересованного социального мониторинга, существует опасность понимания эффективности как сугубо количественной характеристики. Сохранение ценностной и гуманистической основы возможно только в случае учета культурных и общечеловеческих ценностей, не всегда подлежащих наукометрическим стандартам. Именно поэтому контроль за применением ИИ в области образования должен быть возложен на общественные институты, частично поручен государственным контролирующим органам, но непременно при условии открытого общественного обсуждения. Оправданным представляется внедрение специального курса, обучающего этике ИИ, который преподавался бы отдельным специалистам, в том числе специалистам в области госуправления.
Безусловно, ИИ-технологии в сфере образования становятся источником совершенствования возможностей обучения посредством использования доступа к обширным цифровым данным. Однако следует следить за тем, чтобы ориентация на децентрализацию и мобильный доступ к огромным информационным потокам не сопровождалась принесением в жертву аналитических и коммуникативных навыков, формируемых в личном общении, корпоративного «духа» университетов. Следует сохранить в образовании функцию социальных лифтов и формирование первичного коллегиального окружения, возникающего, как правило, в стенах учебных заведений. Кроме того, важно не допустить того, чтобы использование ИИ лишь подстраивало образование под такие стартовые условия, как природные дарования, уровень интеллекта, социальная среда или сила мотивации, поскольку в этом случае образование может утратить функцию воспитания, а именно формирования в культуре того, чего нет, привнесения нового, собственно, развития. Следует стремиться также к тому, чтобы ставка на просчитанные параметры не порождала явные или скрытые ограничения для социальной мобильности.
Можно резюмировать, что бум применения ИИ в сфере образования – это одновременно и замечательная возможность обновления и перехода на совершенно новый уровень, и источник серьезных социальных рисков и угроз. При этом потребуется ценностное обоснование и определение границ внедрения различных версий оценки человеческого потенциала, в котором будут участвовать не только органы власти, но также вузы, школы и отраслевые эксперты. Кроме того, необходимо наличие обратной связи от преподавателей и обучающихся, а также понимание того, как на их эмоциональное состояние и мотивацию влияет цифровая среда. Отдельного экспертного решения с привлечением высококвалифицированных специалистов требует проблема конфиденциальности информации и установление разных режимов доступа к ним, ситуаций и целей, когда эти данные могут быть использованы. Также внимания экспертов к себе требует проблема ошибок ИИ в сфере образования и ответственности за них. Поскольку в образовании сохранение идеалов гуманизма и ценности человеческого достоинства является главным критерием эффективности, то ИИ-программы должны быть снабжены различными антидискриминационными защитами. В частности, предстоит тщательно продумать, какие могут быть «зашиты» в ИИ для того, чтобы избежать такие недопустимые формы поведения, как сексизм, расизм, эйджизм, буллинг и проч. Разработку данных мер в России можно было бы возложить на независимые ассоциации школ, а последующее внедрение и контроль на отдельный экспертный орган при Министерстве науки и высшего образования или Министерстве просвещения по вопросам этического регулировании внедрения ИИ. Важным требованием
