Александра, Плотникова - Нф-100: Небесное Сердце-1. Игры с Черной Матерью
- Не только на этом, - полиморф на несколько секунд умолк, видимо, обдумывая и формулируя вариант ответа. - Ещё и на том, что среди вас, людей, называется "привязанностью" и "гордостью".
- А почему ты считаешь, что твоя привязанность не есть часть заложенной программы, а твоя гордость -- не перефразированный протокол о самозащите?
- А какое отношение самозащита имеет к гордости за мысли и поступки моего оператора? - парировал Пректон.
- А такое, что именно из-за вашего слияния твои... чувства к оператору и, возможно, хозяину не могут быть иными. Это естественные процессы, возникающие после слияния и знакомства. Это... инстинкт. Подобный же инстинкт возникает у наших кораблей, когда они знакомятся со своими пилотами и капитанами.
- В чём тогда ваше отличие от меня? - металлическое лицо выразило удивление. - Ведь вы тоже считаете себя личностью, но подчиняетесь инстинктам и протоколам.
Лаккомо совершенно искренне ухмыльнулся.
- Ты быстро схватываешь суть. Наверное, я считаю себя личностью потому, что могу позволить себе испытывать эмоции. Хотя в моей профессии они, наоборот, излишни.
- Но существам вроде меня вы в эмоциях отказываете. Почему?
- Не отказываю. Расскажи, каково тебе без оператора? Что с ним стало тогда?
На сей раз Пректон замолк надолго. Похоже, этот вопрос оказался для него одним из самых сложных. Он застыл, размышления никак не отражались на его лице. Но Лаккомо не сомневался, что его процессор с огромной скоростью перебирает варианты. А, может, уже перебрал, но специально выдерживает паузу, понятную для него, человека, как глубокое размышление.
- Без оператора пусто, - наконец, медленно выдал он. Явственно зазвучали человеческие, неуверенные интонации. - Мне хотелось бы снова стать... цельным. Хотя, до осознания моё существование походило на сон, неосознанное выполнение действий и условий. Не важно, что машина под моим контролем -- меня тогда не было.
- Как прошло твоё становление?
- Какое становление?
- Как личности.
- А одинаковые ли у нас понятия о личности? - на сей раз улыбка полиморфа стала отчетливо снисходительной. - Вы уверены, что я "думаю" так же, как вы?
На ум пришло определение из учебника, которое вбили в память ещё в Академии на лекциях по социологии. Сия дисциплина входила в список обязательных для будущего управленца, но за прошедшие годы Лаккомо забыл почти всё из того, чему его учили. А тут нате вам, всплыло. И надо же, как удачно. Можно и блеснуть.
- Личность - это понятие для отображения социальной природы человека и рассмотрения его как ячейки социокультурной жизни. Определение его как носителя индивидуального начала, которое раскрывается и самовыражается в контексте общественных отношений, и деятельности.
- Я полностью согласен с этим высказываением. На "становление", как вы говорите, потребовалось время, которое ваш организм просто не заметит. Оно ничтожно мало. Мои решения, основанные на заложенной программе, тоже попадают под приведенное вами определение. По данному определению любой искусственный разум это личность. Особенно тот, который развивается и совершенствуется. То, что произошло в тот миг не есть становление личности как таковое. В тот миг было... вы бы сказали, "падение всех идеалов". Разрушение всего святого и ценного -- всего, что я таковым воспринимал.
А вот это уже интересно. Лаккомо даже подался вперед. Мыслительные процессы кристаллов до сих пор во многом оставались тайной для ученых. Если сейчас некоторые из них раскроются, это могло бы взорвать торийскую науку. Ведь даже со "Стремительным", с Эоханом, никто не мог поговорить на языке слов. Корабль общался только образами и отголосками впитанных им эмоций капитана.
- Святого? То есть ты обозначил себе новые идеалы и ценности, не те, что в тебя прописывали, так?
- Нет. Идеалы и ценности -- то, что было прописано. То, что формулирует Первый Протокол Мериса. А тогда... Я понял, что меня ничто не остановит от принятия любого решения. У меня появилась цель, не программа, а намерение -- защитить оператора. И ради этой цели я не просто могу, но и согласен уничтожить любой раздражитель или помеху. Да, я мог выстрелить в любого члена команды. В любого работника Центра. И я был готов. Но лишь цифры отделяли меня от решения. Бессмысленность и недостаточная опасность.
Да. У существа, сидевшего перед вице-королем, имелась воля. Крепкая, расчетливая, какую не у каждого человека встретишь. Он действительно пошёл бы на всё. И главное, что воля эта была подкреплена возможностью действия. Он мог сотворить непоправимые вещи, повлиять на жизни окружающих и не оставаться при этом лишь свидетелем гибели своего оператора. Хотя по всем Протоколам, написанным в соответствии с человеческой моралью, ему надлежало быть только свидетелем. И вот от этого становилось по-настоящему не по себе. Лаккомо не завидовал тому, кто осмелится встать на пути у Пректона.
Тем временем ИИ продолжал откровенничать:
- И это я принял решение отключить своего оператора от управления, потому что его поведение вышло за рамки осознанного. Он стал вредить себе, вредить нам, а я, как сторонний наблюдатель, смог распознать опасность и принять меры по его изоляции путем полного отключения с перезагрузкой в будущем.
Вот вам и преданность самого близкого существа... Лаккомо невольно содрогнулся, представив такую ситуацию с собой и кораблем. Эта мысль была достойна отдельного рассмотрения и долгих вечеров размышлений о ценности жизни и доверии. Вопросы всплывали один за другим: "А хотел бы я, чтобы Эохан отключил меня в случае опасности?" "А доверил бы я ему?" "Что бы я при этом чувствовал?"
Преодолев неприятные мысли, Лаккомо постарался вернуть себе равнодушный вид.
- Ты понимаешь, что фактически убил его? - спросил он.
ИИ ответил незамедлительно.
- Я понял, что потом это так назовут. Долгий момент воздействия той агрессивной среды Лании дал мне очень много времени для проверки теории о том, смогу ли я вернуть оператора обратно. Это тоже стало частью "осознания". Самый святой идеал, который у меня был, начал разрушаться. И единственным верным решением в той обстановке было поглотить его, пропустить через себя, а потом вернуть в безопасные условия. Это не прописано в программе, но негласно запрещено. Запрещено затрагивать область оператора. Но она уже была повреждена угрозой. И здесь нет становления личности. Есть крах предыдущего мировоззрения. Потом я долго приспосабливался жить в новом для меня мире без ограничений. И "становление" затянулось. И продолжает тянуться. Нельзя в один миг стать личностью. Как и остановиться в какой-то момент на одной ступени её развития.
Но Лаккомо уже понял, что разговор на глубокие философские темы для него закончен. Мысль раз за разом возвращалась к словам Пректона об изоляции оператора. Вице-король поймал себя на том, что пытается понять Вайона. Человек рвался куда-то в беспамятстве, чувствовал, что ему это необходимо... И вдруг его отключает собственная машина.
Или этот процесс длился долго? Человеческая мысль порой не уступает в скорости электронным начинкам ИИ, а в моменты паники может даже превосходить. Чувствовал ли оцифрованный Вайон, как постепенно начинает терять контроль над своим механическим телом? Осознал ли, что происходит? Пректон вряд ли ответит на эти вопросы. Да и Лаккомо не был уверен, что хочет знать ответы.
А все-таки - больно ли это, когда тебя отключают?
Отвлекло виноватое гудение.
- Вы испугались меня, - всем своим видом выражая печаль, проговорил полиморф и протянул руки ладонями вверх. Жест открытости. - Не нужно... Я неопасен для людей. Я всего лишь защищаюсь.
- Нет, Пректон. Я не испугался тебя, - сухо ответил вице-король, без надобности поправляя руками воротник и расслабляя пуговицы. - Я просто не хотел бы оказаться на месте твоего оператора.
- То есть, вы считаете, что лучше было бы оставить его безумным? Дать убить всё, чего он коснулся бы? - извиняющиеся нотки мгновенно исчезли из голоса машины.
- Не знаю. Я не знаю каким был твой оператор. - Лаккомо опустил плечи и отвёл взгляд от голубой оптики. Слова слетали с языка сами, вопреки улетевшей вдаль мысли. - Возможно, когда ты вернешь его сознание обратно, восстановишь из... себя, то он может поблагодарит тебя. Но будет ли это он? Или лишь его копия? Возможно, тебе этого не понять. Но иногда, в очень редких случаях, на человека накатывает понимание, что ни одна пародия на жизнь не может заменить первоначального существования. Особенно, когда ты помнишь, каково это - быть другим. И тогда человек понимает, что нет выбора лучше, чем просто умереть, как ему положено.
Крылатая мысль вице-короля звала его домой. Туда, где опять призывно сверкал Исток, где Нефритовая Гора шептала тысячами голосов.
Может ли машина понять этот зов?
Стоит ли ей об этом говорить?
Возможно, только так она сможет по-настоящему понять человека.
