Доминион - Трэвис Бэгвелл
— Нет, сэр, — Френсис чуть приподнялся со своего места.
— Нет, — в голосе Глории было слышно неудовольствие, но начать пререкания по поводу ролика Клэр она не решилась, надеясь, возможно, что записи из виар-шлема будет достаточно.
— Хорошо! — одобрил их обоих сенатор. — Тогда переходим к нашему решению, — Липтон замолчал, и Джейсону показалось, что на мгновение маска жесткого и прагматичного политика сдвинулась и под ней обнаружилось лицо немолодого усталого человека, стоявшего перед непростым выбором. Момент миновал — и сенатор снова обрел привычный деловой облик.
— Проблема, поставленная перед нашим комитетом, оказалась весьма непростой. Мы понимаем озабоченность ККБПТ. Наш долг — следить за тем, чтобы продукты, поставляемые на потребительский рынок, не несли опасности для наших граждан. Как отметила в своем вступительном слове госпожа Бэстьен, история полна примеров, когда восторг перед лицом новых изобретений перевешивал всяческую осторожность. С другой стороны, осторожность не должна стать препятствием на пути экономической деятельности и инноваций. Науки и технологии делают наш мир лучше, хотя и несут с собой определенные риски, — сенатор снова помолчал. — Короче говоря, наш комитет и ККБПТ должны находить баланс между осторожностью и прагматизмом. Однозначного и ясного решения в этой сфере не существует. И полагаться мы можем только на здравый смысл.
— Наш случай — особый. Технология, с помощью которой созданы игра и ее материальное обеспечение, — технология революционная. Как отметил господин Грэхэм, “Cerillion Entertainment”, вполне возможно, создала первый в мире настоящий искусственный интеллект. Это достижение планетарного масштаба! Но одновременно встает вопрос: что может гарантировать безопасность этого продукта? Как мы можем предвидеть и оценивать риски со стороны чего-то, чего раньше никогда не было?
— Следует отметить, что мы имеем дело с игрой, которая прошла через многочисленные проверки, длившиеся годами и направленные на то, чтобы исключить малейший риск для ее пользователей. Но надо признаться, что этого мало, что стопроцентной гарантии никакие предварительные проверки дать не могут. Существует только один способ убедиться в безопасности продукта — следить за ним месяцы, а то и годы после его выхода на рынок и быть готовыми моментально реагировать при малейшем подозрении на полученный пользователями ущерб.
— Госпожа Бэстьен представила свидетельство необычного пика мозговой активности игрока, совпавшего по времени с убийством двух людей. Комитет в курсе, что два подростка незаконно проникли в дом господина Родеса и что они были вооружены. Мы не можем судить об уголовной или гражданской ответственности в связи с этим происшествием, однако полагаем, что господин Родес действовал в рамках самообороны. Но, поскольку речь идет о человеческих жизнях, мы не можем игнорировать вопрос о том, убил этих людей господин Родес или их убило нечто другое.
— Мы выслушали свидетельские показания господина Родеса и его родителей. Серьезные и даже драматические изменения в поведении подростка в определенный период — обычное дело, закономерный этап взросления. Любой родитель вам это подтвердит. Однако резкое изменение поведенческой модели в сочетании с другими обстоятельствами, отмеченными по ходу слушаний, не могли уйти от нашего внимания. Мы провели независимый опрос ряда пользователей игры «Пробуждение онлайн», и все они, практически единогласно, заявили, что игра сильно повлияла на их жизнь. Как к лучшему, так и к худшему. Следует помнить, что подобные свидетельства являются исключительно косвенными доказательствами. Не всякая связь событий носит причинно-следственный характер. То есть эти примеры не дают нам бесспорных оснований считать, что игра наносит вред ее пользователям или что игровой контроллер нарушает протоколы безопасности.
— Проблема в том, что один файл, скопированный из шлема господина Родеса, — это единственное свидетельство (а участвуют в игре многие тысячи игроков!) того, что игра может представлять опасность. Но и этот представленный нам госпожой Бэстьен журнал событий сам по себе недостаточен, чтобы однозначно подтвердить, что ИИ нарушил протоколы безопасности и взял под контроль тело господина Родеса. В игре используется передовая, можно сказать, совершенно новаторская, технология, появление которой еще несколько лет назад было невозможно себе представить. Не будучи в состоянии подтвердить или опровергнуть данные госпожи Бэстьен, мы обратились к специалистам в сфере неврологии и компьютерных наук. Полученные нами ответы были противоречивы. Консенсуса в вопросе о том, можно ли по полученным данным судить, захватил ИИ контроль над телом игрока или нет, достигнуть не удалось. Единственное, в чем согласились все эксперты, — что данные необычны.
— То есть представленное доказательство свидетельствует только о том, что такая возможность в принципе существует.
Сенатор замолчал, и Джейсон почувствовал, как сжалось его сердце и участилось дыхание. Зал замер. Каждый пытался предугадать, каким будет заключение этой не короткой речи. Напряжение было почти что электрическим.
Момент истины настал. Будущее Джейсона уже лежало на одной из чаш весов.
— Несмотря на эту неопределенность, мы обязаны принять решение, которое позволит учесть как необходимость поддержать технический прогресс, так и необходимость защитить пользователей от возможных рисков, связанных с игрой. Я говорю о компромиссе.
— Итак, наше компромиссное решение заключается в том, что мы санкционируем возобновление проверки игры «Пробуждения онлайн» и ее ИИ-контроллера со стороны ККБПТ, поскольку даже подозрение о том, что ИИ может получить контроль над телом игрока, требует серьезнейшего расследования.
— Мы, однако, стремимся уравновесить осторожность прагматизмом. Масштаб и продолжительность расследования ККБПТ будут ограничены. Детали мы обсудим с заинтересованными сторонами позднее, но оно не должно превратиться в охоту за компроматом. При этом компания “Cerillion Entertainment” сохраняет право обеспечивать функционирование игры «Пробуждение онлайн» в течение всего периода проверки.
— На этом слушания объявляются закрытыми. Прошу представителей сторон задержаться для обсуждения ряда технических деталей.
После слов сенатора в зале какое-то время стояла тишина: слушатели переваривали услышанное. Затем все заговорили разом, и поднялся такой шум, что разговаривать, не повышая тона, стало невозможно.
Джейсон сидел в глубокой растерянности среди этого хаоса и гвалта и думал, какие последствия это решение будет иметь для него лично. С одной стороны, он сможет продолжать играть и зарабатывать свои деньги. С другой — опасность того, что ККБПТ докопается до истинной сущности Альфреда, стала как никогда велика. Комитет не закрыл вопрос — он открыл его, если так можно сказать, еще шире.
— Хэй! — Роберт толкнул его в бок. — Надо убираться отсюда, пока репортеры не порвали нас на части.
Служба безопасности выбивалась из сил, удерживая последнюю линию обороны в проходе перед
