Пластмассовый бог - Николай Гусев
– Блестяще! – Шаломбери откинулся на спинку кресла и с удовольствием затянулся сигарой, глядя на доктора с восхищением. Тот почувствовал себя мальчишкой. Ему понравился Шаломбери, но он еще не очень понимал, что здесь происходит. Профессор спросил: – почему же вы согласились сотрудничать с Гриневым? С человеком, который фактически уничтожил вас?
– Я не знаю, – пробормотал доктор и опустил взгляд. – У меня не было выбора… Скажите, профессор, вы знаете, чем занимается «Заслон» на Титане?
Спросил он, взглянув на Шаломбери.
– Знаю, – сказал Шаломбери и отвел взгляд. – Но это не совсем тот «Заслон», который мы знаем. Гринев построил эту лабораторию для себя, для своего проекта. И запер там лучших инженеров компании. Я уже был там, они давно со мной сотрудничают.
– Ну, и что? Что там?
Шаломбери посмотрел на него и доктор уловил тень в его взгляде.
– "Пластмассовый бог", слыхали про такое? – сказал он. – Мыслящая машина, которая поведет человечество в светлое, прекрасное будущее. Гринев создает такую машину. Это незаконные исследования, одним словом. Я считаю, что их нужно прекратить. Послушайте, доктор… почему я спросил вас о том, как вы относитесь к Ассамблее? Не просто так. Вы вообще знаете, кто такой Гринев? Не бойтесь, на моем корабле вас никто не подслушает. К слову сказать, это блестящий образец инженерной мысли – двигатель почти вечный, бортовые вооружения сравнимы с флагманом русского флота. На этом корабле можно пережить судный день! Извините, я опять отвлекся. Так вот, вы молодец, что не боитесь.
– Я не боюсь, – пожал плечами доктор. – Так кто такой Гринев?
– Узурпатор, – сказал Шаломбери. – Низкий человек. Он подмял под себя «Заслон», огромную компанию и занимается вещами, которые, как он надеется, помогут ему стать властелином мира!
– Что вы говорите!
– Гринев и Ассамблея – это одно и то же. Они работают сообща, но Ассамблея покрывает исследования лаборатории на Титане. И я хочу остановить их. Хочу вернуть справедливость.
Он замолчал и доктор спросил:
– Зачем вы говорите со мной об этом?
Шаломбери ответил и его тон изменился, он стал жестким, почти металлическим:
– Потому что у меня есть основания считать, доктор, что вы в будущем согласитесь мне помочь в этом деле.
Эти слова не удивили доктора, у него было чувство, что все к этому идет. Помолчав, он ответил:
– Пожалуй, вы правы, профессор.
4.
Доктор Гейзенберг вошёл вслед за Артуром Шаломбери в просторный треугольный кабинет директора лаборатории, выдержанный в серых тонах. Огромная передняя стена имитировала стекло, открывающее вид на панораму Сатурна, наполовину скрытого горизонтом Титана. Конечно, они находились под землёй и ничего этого не могли видеть в действительности. Но все равно картинка производила впечатление. В углах стояло несколько цветочных ваз, из мебели – красный кожаный диван, книжная стенка, большой, темного дерева стол директора и несколько белых кресел, в одном из которых тут же устроился профессор. Сам директор, маленький, краснолицый, пухлый человечек, сидел за большим столом и тихо беседовал с кем-то, когда доктор вошёл. Оба встали и Гейзенберг увидел Павла Гринева. Они сухо поздоровались, директор вежливо представился:
– Меня зовут Альфред Хойк, я директор лаборатории, а Гринев, – он указал пухлой рукой на Павла и поправил маленькие очки. – руководитель программы. Вы будете работать в отделе программного обеспечения. Нет, нет, – директор хохотнул и взмахнул руками, – вы не будете заниматься программированием, это не ваш профиль. Это название для отвода глаз, как и большинство других названий. Вообще, мой вам совет: здесь, в лаборатории, ничему не удивляйтесь. Здесь такая аура секретности, что я уже скоро начну путаться в паролях!
И он весело расхохотался, при этом внимательно глядя на доктора щелочками глаз из-за маленьких стекол очков.
– Давайте ближе к делу, директор, – утомленно проговорил Шаломбери и подминул Гейзенбергу.
Гринев пригласил доктора сесть, тот удобно устроился в кресле и поинтересовался:
– Так чем же я буду заниматься?
Гринев и Хойк переглянулись. Павел взглянул доктору прямо в глаза и сказал:
– Вам нужно написать моральный кодекс.
Доктор переводил взгляд с одного лица на другое.
– Дайте угадать, для искусственного разума?
Директор Хойк кивнул, но Павел сказал:
– Не совсем так.
Они снова переглянулись и директор, активно жестикулируя, стал объяснять:
– Представьте себе, что некий… некое… ну, скажем существо похожее на человека, но человеком не являющееся, своего рода машина, робот, но не совсем в том смысле, в котором вы привыкли это понимать, так вот, это существо получает свободу действовать. – Тут директор поймал на себе грозный взгляд Павла, запнулся и шепотом сказал: – послушай, он должен знать такие вещи, как он будет работать? Так вот, – продолжил он, обращаясь вновь к доктору, – оно, это существо, получит свободу действовать. И ваша задача написать для него своего рода этическую модель поведения, которая будет мотивировать его, так скажем, к хорошему поведению. Повторюсь, это не должна быть программа, это будет лишь кодекс, совсем как у человека.
Из всего этого доктор понял одно и тут же выпалил свои соображения:
– Иными словами, вы здесь собираетесь дать свободу искусственному интеллекту? Это запрещено законом!
Директор горестно вздохнул. Павел посмотрел на него взглядом: «я тебя предупреждал», встал и отошёл к окну.
– Это не искусственный интеллект, доктор, – сказал он, не оглядываясь. – Это машина. Умная машина. Она получит свободу, это так. Но это всего лишь эксперимент. Мы хотим понаблюдать и сделать выводы. У машины будет разум и свободная воля. И моральный кодекс. Задача эксперимента – выяснить, как она будет поступать, как распорядиться этой свободой. У нее не будет никаких программ, но будет опыт. Это не искусственный интеллект в традиционном понимании. Это не робот с самосознанием. Это не мыслящая машина. Это нечто, чему мы и сами пока не придумали названия.
Павел прошёл к столу и остановился, сунув руки в карманы и глядя на доктора сверху вниз.
– Поймите, рано или поздно настанет день, когда машины начнут управлять людьми. "Пластмассовый бог" – это не расхожая байка. Ее придумали китайцы, но как и в любой сказке, в мифе, в ней есть зерно правды. Это зерно в том, что робот-правитель однажды выйдет на сцену. Но кто выведет его? Вот главный вопрос. Машины сегодня применяются всюду, они
