Прикладные проблемы внедрения этики искусственного интеллекта в России. Отраслевой анализ и судебная система - Евгений Михайлович Стырин

4.1. ИИ в области ЖКХ

1. Одной из важнейших составляющих технологии «Умный дом» является автоматизированный сбор данных об эксплуатации помещения. Для того чтобы оптимально регулировать функционал помещения с помощью автоматизированного контроля, ИИ должен наладить качественную обратную связь с помещением. В частности, ему требуется аккумулирование и анализ тех данных, которые поступают из самого эксплуатируемого помещения. Если в вечерние часы вторников и четвергов электричество расходуется меньше, а в другие дни больше – ИИ-система запишет этот результат. В следующие вечера вторников и четвергов система автоматизированной подачи электроэнергии может учесть данные прошлых расходований. Чтобы ИИ-система эксплуатации помещения была действительно гибкой, ей требуется фиксировать любые мелочи пользования помещением и корректировать услуги в зависимости от этих данных. Системе нужно предлагать тот объем услуг, который вырисовывается как наиболее реалистичный с точки зрения аналитического прогноза, сделанного на основе собранных данных. В этом смысле программа ИИ, встроенная в систему «Умный дом», работает по аналогии с интерактивными тестовыми системами, которые подстраиваются под ответы тестируемого, или как рекламные компании, которые собирают данные о пользователях из соцсетей и других интернет-ресурсов, чтобы предложить им потенциально необходимые услуги. Во всех этих случаях на входе срабатывает сбор и анализ данных об особенностях потребления, а на выходе предложение об услуге, наиболее релевантной с точки зрения обнаруженных закономерностей.

Кейс. После внедрения автоматизированной системы сбора данных по расходу электроэнергии системами Мосэнерго конечным потребителям стали предлагаться усредненные расчеты затрат электроэнергии исходя из прошлых данных. При работе с собственниками нежилых помещений, сдаваемых в аренду, данная программа предлагает не только расчет средних показателей, но и предположения о смене арендодателей, а также типе их производственной деятельности. Так, при значительном изменении объемов трат электроэнергии система может выдать предположение, что назначение помещения было изменено с представительского офиса под ночной клуб или круглосуточный магазин.

Использование системой «Умный дом» технологии сбора и анализа данных по эксплуатации помещения порождает ряд этических недоразумений. Как и прочие системы ИИ, технологии «Умного дома» достаточно внимательны и ресурсоемки, чтобы накопить огромный объем данных о привычках владельцев домов, их частных пристрастиях, нормах потребления, затратах и расходах, организации быта и прочих особенностях эксплуатации помещений. Определенное опасение у хозяев домов могут вызывать возможная утечка информации или ее попадание в руки третьих лиц. Дальнейшее использование данной информации может скрывать в себе возникающие угрозы безопасности жизни и благополучию владельцев домов. Фактически доступ к системам управления домом означает доступ к информации об образе жизни семьи. По данным о том, как и что работает в помещении, можно почти полностью воссоздать уклад семьи, привычки хозяев и всех домочадцев, реконструировать потребности, склонности, определенные традиции и даже ценности, которых они придерживаются. Если данная информация попадет в руки злоумышленником или мошенников, различные злоупотребления окажутся вполне возможными. Также если подобная информация станет достоянием коммерческих структур, то это может привести к активному предложению специализированной рекламы, в получении которой собственники дома не заинтересованы.

Также определенные этические затруднения связаны с тем, что, если информация собирается, классифицируется и анализируется, то мы можем получить сведения и привычках, тратах или контактах человека в объемах, многократно превышающих персональное знание человека о самом себе. Далеко не всем собственникам может понравиться, что системы эксплуатации в итоге знают о них больше, чем они сами о себе. Предоставление подобной информации третьи лицам может привести к нежелательным, опасным и вредным для жителей «умных» домов последствиям. Фактически речь идет о нарушении неприкосновенности частной жизни граждан. Собственники могут быть очень недовольны тем фактом, что данные, которые аккумулируются системой, анализируются по не вполне понятным самим владельцам критериям и параметрам и, таким образом, могут приводить к неожиданным выводам. Фактически система может формировать такие сведения о человеке, которые не очевидны для него самого. Подобная информация вдвойне деликатна, поскольку не подлежит прямому контролю со стороны человека. Эта информация превышает его знание о самом себе, и с этической точки зрения ее единственным возможным адресатом мог быть сам субъект. Во всех других случаях распространения данной информации речь будет идти о направленной слежке с возможными злоупотреблениями в последующем. Этическая сложность данной проблемы в том, что создается образ человека, который может не соответствовать его внутреннему образу и собственному представлению о самом себе. Подобный «объективный дубликат» человека может стать источником различного рода этически некорректного использования. Самое безобидное следствие формирования так называемых потребительских двойников – их возможное использование для неадекватной контекстной рекламы, различных коммерческих предложений и проч. Однако он также может стать материалом для возможных мошеннических действий в случае утечки или нарушения конфиденциальности. Владельцы домов могут стать жертвами шантажа или вымогательства в результате перепродажи данных о частной жизни домовладельцев. Мошенники могут специально охотиться за такими данными, зная о том, что современные коммунальные системы на основе технологий «Умного дома» аккумулируют подобные сведения о людях, получение которых в недавнем прошлом было весьма трудоемким и дорогостоящим процессом.

2. Одной из важнейших возможностей технологии «Умный дом» является повышенное внимание к усовершенствованию безопасности жилища. Во многих домах уже давно используются системы круглосуточной видеозаписи. Снятые с видеокамер записи хранятся разное по продолжительности время и в случае необходимости предоставляются заинтересованным лицам. При внедрении технологий «Умный дом» организацию видеозаписей предполагается значительно расширить. Видеозаписи могут включаться, реагируя на датчики движения, они могут быть установлены в квартирах и домах вблизи сложного оборудования, чтобы зафиксировать момент поломки. Например, режим круглосуточной видеозаписи может быть включен в подвальном помещении, что позволит точнее установить причину разрыва труб или возникновения протечек.

Кейс. При прохождении регистрации в современных аэропортах, а также при прохождении паспортного контроля в последние несколько лет используется автоматизированная система регистрации, а также снятия отпечатков пальцев. Многие из этих систем хранят в памяти историю перелетов граждан, а также данные их дактилоскопии. При этом указанные данные и в первую очередь данные дактилоскопии становятся автоматически собственностью иностранных государств.

Как было отмечено выше, важной этической проблемой применения технологий «Умный дом» является неприкосновенность частной жизни. Беспокойствам и опасениям граждан способствует ряд мер, активно внедряемых в различных общественных местах. В целом не все граждане относятся позитивно к тенденции повышенного внимания к безопасности в ущерб неприкосновенности частной жизни. Многие методы профилактики преступлений, такие как, например, расширенные законы о прослушивании телефонных разговоров, комплекс камер