«Если», 2016 № 03 - Журнал «Если»
В1: Это просто без комментариев. Отличный довод любого генерала любой эпохи. Что-то еще они придумали, умники эти?
В2: Ну, третьим любимым аргументом яйцеголовых было то, что запрет на использование роботов для ведения боевых действий не решит реальную проблему, то есть — не ликвидирует желание человека использовать технологии «во зло». Кто бы спорил. Доводов против применения военных роботов, кстати, было гораздо больше, начиная с того, что все не очень понимали, кого назначать виноватым, если робот по ошибке порешит пару сотен человек. И конечно, была еще масса туманных соображений этического свойства. В самом начале века умники даже несколько петиций подписывали, предупреждали неразумное человечество об опасностях «военного» искусственного интеллекта.
В1: Толку-то. Петиции, шметиции. Ясное же дело, что на реальные решения это никак не повлияло. И войну на Титане мы все равно получили. Сначала вояки потратили деньги честных налогоплательщиков на создание полностью автоматизированного полигона для отработки разных видов… э-э-э… всего, а потом им пришлось уничтожать взбесившуюся «безлюдную систему» с помощью тех самых человеческих ресурсов, которые она должна была заменить. Потому что система, не будь дура, легко и непринужденно перехватывала управление любой техникой, где была хоть какая-то электроника. А сейчас, как мы хорошо знаем, правительство Марса и кое-какие крупные корпорации обсуждают создание на Титане парка аттракционов «Или быстрый — или мертвый» для любителей острых ощущений, чтобы хоть как-то снизить уровень уличной преступности на базовых планетах. Понятное дело, что это просто [неразборчиво] предвыборная шумиха, но, глядишь, через пять-десять лет у субчиков, которые сидят в правительстве, дойдут руки и до этого проекта.
В2: Ну, справедливости ради надо сказать, что как минимум прогнозы про ужасы «военного» искусственного интеллекта таки сбылись. Продолжаем разговор. Вот, кстати, поступил по интерканалу еще один вопрос. Для разнообразия он даже связан с темой нашей передачи. С роботами то есть. «Снятся ли электроовцам андроиды?» Видимо, интересуется либо электроовца, сомневающаяся в том, что она электроовца, либо андроид, который очень хочет, чтобы его видела во сне хотя бы… хм… овца.
В1: Н-да, в школе этот человек — или ИскИн? — явно не учился. Академиев не кончали, бетховенов не читали, о конфигурации нейросетей ничего не знаем. Но раз уж вопрос поступил, с уверенностью отвечаем: да, снятся! Принесло ли это знание вам счастье?
В2: Давай-ка без философии. Вернемся лучше к нашим овцам. В смысле — к баранам. В смысле… Ну, все поняли. «Нужны ли мы нам?».
В1: Оки-доки. Тебе ближе война, а меня вот порадовала часть, в которой авторы рассуждают про грядущее вытеснение людей роботами и ужасы безработицы. Сейчас все эти страхи выглядят немного наивно, но авторам книги, амигос, явно было не до смеха. Потому что ровно тогда, в 2020-х, когда они ваяли свои прогнозы, в мире происходило много всего интересного. Бунты в Китае и Индии, погромы, партии противников роботизации, робофобия…
В2: А ведь начиналось все очень невинно, с китайской программы «Made in China-2025» и каких-то локальных инициатив. Впереди планеты всей, если я правильно помню, была провинция Гуандун. Та самая, где когда-то был город Гуанджоу и на месте которой нынче красуется лунный пейзаж. Бунты-то подавляли как могли. А акции протеста работников сетей быстрого питания в Америке? А ритуальные самосожжения любителей го перед офисами производителей ИскИнов — после очередного юбилейного тысячного проигрыша человека машине? Сколько бензина извели по всему миру, подумать страшно. Или вот секты, которые считали дронов предвестниками Антихриста?.. Так что панические настроения авторам книги вполне можно простить.
Согласно докладу Всемирного экономического форума «The Future of Jobs», подготовленному в январе 2016 года, за счет развития технологий число рабочих мест в мире к 2020 году может сократиться на 5,1 млн.
В1: Самое увлекательное все равно началось тогда, когда контора под пафосным названием OpenAI году этак в 2030-м выкинула на просторы всемирной сети первого ИскИна класса Open Source. Я так понимаю, ребята просто хотели облагодетельствовать человечество. Во всяком случае, потом, уже на международном трибунале, они говорили именно об этом. Тогда мало кто понимал, что общедоступный искусственный интеллект куда опаснее невинного биохакинга в гараже. Да, после первых масштабных инцидентов для ИскИнов тут же ввели режим нераспространения вроде того, который на заре цивилизованных времен был придуман для ядерного оружия. Но было уже малость поздно.
В2: Точно. Потому что ровно в то же время какие-то уже позабытые всеми французы довели до ума алгоритмы адаптации роботов ко внешним условиям. И дали им возможность выживать при повреждениях почти любой степени тяжести… [неразборчиво]… Хотя и полезного тогда было сделано немало. Например, после старой аварии на АЭС Фукусима ребята сделали в префектуре целый полигон для испытаний разных роботов, вбухав туда какие-то запредельные деньги.
В1: Смешные люди! Сейчас бы к ним целая куча туристов — любителей экстрима насыпалась. Ты никогда не думал о том, что культ опасности у нас так расцвел именно из-за вытеснения людей из самых опасных зон?.. Роботы для работы на местах техногенных катастроф в итоге хорошие получились, но они же весь героизм и ликвидировали — вместе с этими катастрофами. А пространство для самореализации, геройства и риска осталось только за пределами стратосферы.
В2: То есть за то, что раз в месяц лично я за каким-то чертом удираю от полиции, таща на себе передатчик, гору голокристаллов и не в меру болтливого коллегу, я должен сказать спасибо АЭС Фукусима и роботам?.. Интересная мысль. Вполне в духе адреналинового наркомана. Ну да ладно. Не исключено, что паникеры начала века все же внесли свой вклад в наше относительно светлое настоящее. Потому что после ада в Гуанчжоу и проблем с ИскИнами корпорации начали вкладываться в симбиоз людей и механизмов. И заодно в массовые программы социальной адаптации для людей, у которых были проблемы с восприятием роботов. А к 2040-м навыкам сосуществования с роботами уже в школах учили. Просто потому, что без очеловечивания машин и омашинивания людей выжить было невозможно.
И в какой-то момент мы перестали отличать роботов от людей, людей от роботов…
В1: Роботов от роботов и людей от людей. Об этом в «Нужны ли мы нам?» почему-то нет ни слова, хотя вывод-то очевидный. Гуманисты прошлых веков должны ворочаться в своих гробах.
В2: Ты так говоришь, как будто в этом есть что-то плохое. Пусть их ворочаются. Это же элементарно: если относиться к роботу или ИскИну,
