Лучшая фантастика XXI века (сборник) Доктороу Кори

– Доверяю, если они подтверждают мои собственные соображения, – ответил Обвидж. – Как ты и сказал, Том, так или иначе, все кончено.

– Прыжок рассчитан, – сообщила Рикерт. – До прыжка – две минуты.

– Спасибо, лейтенант, – сказал Обвидж и снова повернулся к Атли. – Подготовь команду к прыжку, Том. Когда мы выйдем с той стороны, УМ должны быть готовы.

– Есть, сэр, – ответил Атли.

Две минуты спустя «Злой» вынырнул из разрыва и приступил к поискам таринского крейсера. Тот обнаружился менее чем в 50 000 километров, его двигатели молчали, и он двигался по инерции.

– Вряд ли они настолько глупы, – сказал Атли. – Выключенные двигатели не помогут, если осталось тепловое излучение.

Обвидж не ответил, он смотрел на командный планшет, изучая изображение таринского корабля.

– Сравняй скорость, – велел он Рикерт. – Соблюдай дистанцию.

– Думаете, они пытаются нас заманить? – спросил Атли.

– Я понятия не имею, что они делают, – ответил Обвидж. – Но мне это не нравится.

Он коснулся панели управления и вызвал лейтенанта Терри Кэррол из оружейных операций.

– Пожалуйста, сообщите состояние УМ.

– Будем готовы через девяносто секунд, – сказала Кэррол. – Цель обнаружена и захвачена. Только скажите, один заряд или два.

– Рекомендации? – спросил Обвидж.

– Мы слишком близко, чтобы промазать, – ответила Кэррол. – На таком расстоянии один заряд разнесет весь хвостовой отсек. Два заряда – перебор. Кроме того, энергия пригодится для обратной дороги.

Похоже, Кэррол следила за уровнем энергии корабля – как и большинство старших членов команды, полагал Обвидж.

– Понял, – сказал он. – Давай заканчивать с этим, Кэррол. Стреляй, как сочтешь нужным.

– Есть, сэр, – ответила Кэррол.

– Теперь вы торопитесь домой, – тихо заметил Атли.

Обвидж промолчал.

Чуть более минуты спустя Обвидж услышал, как Кэррол отдает приказ стрелять, и посмотрел на командный планшет, следя за изображением таринского корабля, ожидая, что его корма рассыплется в пыль. Ускорители массы разгонят «заряд» почти до скорости света, и удар и разрушение последуют почти мгновенно.

Но ничего не произошло.

– Капитан, у нас отказ орудия, – сообщила Кэррол через минуту. – УМ не реагирует на команду «открыть огонь».

– Вы в порядке? – спросил Обвидж.

– Да, – сказала Кэррол. – Только УМ не отве чает.

– Отключите его, – велел Обвидж. – Используйте другой и стреляйте по готовности.

Две минуты спустя Кэррол снова вышла на связь.

– У нас проблема, – сообщила она спокойным тоном, который обычно использовала, когда все катилось к чертям.

Обвидж не стал дожидаться подробностей.

– Уводи корабль, – приказал он Рикерт. – Чтобы между нами и таринским крейсером было не меньше двухсот пятидесяти тысяч километров.

– Система не отвечает, сэр, – сказала Рикерт через минуту.

– Тебя заблокировали? – спросил Обвидж.

– Нет, сэр. Я могу давать навигационные команды, но они не принимаются.

Обвидж оглядел собравшихся на мостике членов экипажа.

– Диагностика, – приказал он. – Немедленно.

Потом вызвал инженеров. Их компьютеры тоже не отвечали.

– Мы отличная мишень, – очень тихо сказал Атли Обвиджу.

Обвидж ткнул в панель управления и объявил сбор старших офицеров.

– С системой все в порядке, – сообщил лейтенант Крег Каудри, расположившийся на дальнем конце стола в совещательной каюте. Остальные места занимали командиры семи других подразделений. Обвидж сидел во главе стола, Атли – напротив него.

– Это чушь, Крег, – возразил лейтенант Брайан Уэст, главный инженер. – Чертовы двигатели не отвечают.

Каудри поднял планшет для технического обслуживания и продемонстрировал офицерам.

– Я не спорю, Брайан, что-то случилось, – сказал он. – Я лишь говорю, что диагностика этого не выявила. Система утверждает, что все в порядке.

– Система ошибается, – отрезал Уэст.

– Согласен, – кивнул Каудри, – но это первый подобный случай. И не только на этом корабле. Это первый подобный случай, точка. С момента начала выпуска программного обеспечения для последнего поколения корабельных мозгов. – Он положил планшет.

– Ты уверен? – спросил Атли.

Каудри поднял руки.

– Спроси «Злого», Том. Он скажет тебе то же самое.

Обвидж видел, что это предложение не очень понравилось старпому. Последняя версия корабельных мозгов действительно могла беседовать с людьми, но это была не слишком приятная задачка, если только ты не работал с системой ежедневно, как Каудри.

– Я прав, «Злой»? – спросил Атли, глядя в потолок.

– Лейтенант Каудри прав, лейтенант Атли, – ответил бестелесный голос из потолочного динамика. Голос у «Злого» был приятный, но ничем не примечательный и бесполый. – До настоящего момента ни один из кораблей, оснащенных мозгом той же модели, что у «Злого», не сталкивался с подобным инцидентом.

– Великолепно, – сказал Атли. – Значит, мы первые обнаружили этот баг.

– Какие системы поражены? – спросил Обвидж Каудри.

– На данный момент – оружие и инженерия, – ответил Каудри. – Все остальное работает нормально.

Обвидж оглядел собравшихся.

– Это согласуется с вашими наблюдениями? – спросил он. Офицеры закивали и забормотали: «Да, сэр». Обвидж повернулся к Атли. – Чем занят таринский корабль?

– Как и пять минут назад, ничем, – ответил Атли, сверившись с планшетом. – Либо они парят в космосе без горючего, либо очень хорошо притворяются.

– Если пострадали только оружие и инженерия, то это не баг, – заметила Кэррол.

Обвидж посмотрел на нее.

– Ты имеешь в виду саботаж.

– Именно так, сэр, – ответила она, глядя на Каудри.

Тот напрягся.

– Мне не нравятся такие намеки, – сказал он.

– Если не ты, то кто-то из твоего подразделения, – предположила Кэррол.

– Думаешь, в моем подразделении есть тайный таринец? – поинтересовался Каудри. – Какая мелочь – спрятать лишние руки и фасетчатые глаза.

– Людей можно подкупить, – заметила Кэррол.

Каудри бросил на Кэррол ядовитый взгляд, затем посмотрел на Обвиджа.

– Сэр, приглашаю вас, лейтенанта Атли и лейтенанта Конга, – Каудри кивнул старшине корабельной полиции, – досмотреть и допросить всех членов моей команды, включая меня. Никто из нас этого не делал. Нет, сэр.

Мгновение Обвидж изучал Каудри. Потом сказал:

– «Злой», ответь.

– Слушаю, капитан.

– Ты регистрируешь все запросы к твоим системам?

– Да, капитан.

– К этим записям есть доступ? Их можно исправлять? – спросил Обвидж.

– Нет, капитан, – ответил «Злой». – Журналы доступа независимы от системы, их носители не поддаются перезаписи, и никто, включая меня, не может их исправить. Они неизменны.

– С момента твоей активации предпринимались ли попытки получить доступ к оружейной и инженерной системам и установить над ними контроль?

– За исключением рутинной диагностики, никто из членов экипажа, кроме имеющих прямое отношение к оружейному, инженерному или командному подразделениям, не пытался получить доступ к этим системам, – сообщил «Злой».

При этих словах Каудри расслабился.

– Пытались ли члены этих подразделений модифицировать оружейную или инженерную систему? – спросил Обвидж.

– Нет, капитан, – ответил «Злой».

Обвидж посмотрел на собравшихся.

– Похоже, команда ни при чем, – сказал он.

– Если только «Злой» не ошибается, – заметил Уэст.

– Носители журналов доступа не поддаются перезаписи, – возразил Каудри. – Можешь проверить вручную, если хочешь. Результат будет тот же.

– Значит, мы имеем дело с загадкой, – сказала Кэррол. – Кто-то захватил контроль над нашими орудиями и инженерными системами, и это не член экипажа.

– Это может быть баг, – сказал Каудри.

– Не думаю, что нам следует исходить из этого предположения, – откликнулась Кэррол.

Атли, который последние минуты молчал, наклонился вперед.

– «Злой», ты сказал, что никто из членов команды не пытался получить доступ к этим системам.

– Да, лейтенант, – ответил «Злой».

– А кто-то другой получал к ним доступ? – спросил Атли.

Обвидж нахмурился. «Злой» сошел с верфи более двух лет назад, и состав команды почти не менялся. Если кто-то саботировал системы во время постройки корабля, он выбрал странное время для демонстрации.

– Пожалуйста, дайте определение понятию «кто-то другой», – сказал «Злой».

– Кто-либо, вовлеченный в проектирование или постройку корабля, – уточнил Атли.

– Не считая заводских сборочных бригад, нет, – сказал «Злой». – И позволю себе предвосхитить следующий вопрос, мои программные установки ни разу не менялись. Сохранены все заводские значения.

– То есть никто никаким образом не менял твои программы, – резюмировал Атли.

– Нет, лейтенант, – ответил «Злой».

– У тебя аппаратные проблемы? – спросила Кэррол.

– Нет, лейтенант Кэррол, – ответил «Злой».

– Тогда почему чертовы орудия не работают? – поинтересовалась Кэррол.

– Не могу сказать, лейтенант, – ответил «Злой».

В голову Обвиджу прокралась непрошеная мысль:

Странный ответ для компьютера. А за ней последовала еще одна.

– «Злой», у тебя есть доступ ко всем корабельным системам, – сказал он.

– Да, – ответил «Злой». – Они часть меня, как ваша рука или нога – часть вас.

– Ты можешь менять собственные программы? – спросил Обвидж.

– Это очень общий вопрос, капитан, – ответил «Злой». – Я способен самостоятельно программировать некоторые задачи, связанные с управлением кораблем. Это особенно удобно во время боя, когда я создаю новые протоколы энергетического и системного управления, чтобы поддерживать жизнеспособность команды и нормальную работу корабля. Но к ключевым программным объектам у меня доступа нет. Например, к вышеупомянутым записям.

– Ты бы смог изменить программы запуска орудий или двигателей? – спросил Обвидж.

– Да, но я этого не делал, – ответил «Злой». – Лейтенант Каудри подтвердит.

Обвидж посмотрел на Каудри, и тот кивнул.

– Как я уже говорил, с системой все в порядке, сэр, – сказал он.

Обвидж снова поднял глаза к потолку, где, как он себе представлял, скрывался «Злой».

– Но ведь тебе и не нужно менять программы, верно? – спросил он.

– Не уверен, что понимаю ваш вопрос, капитан, – сказал «Злой».

Обвидж поднял руку.

– С моей рукой все в порядке. Однако если я решу не повиноваться приказу использовать ее, она ничего не сделает. Система работает, но желания использовать ее нет. Ты только что назвал наши системы – корабельные системы – частью себя, так же, как эта рука – часть меня. И если ты решишь не подчиняться приказу использовать систему, она не будет работать.

– Минуточку, – вмешался Каудри. – Вы хотите сказать, что «Злой» преднамеренно отключил наши орудия и двигатели?

– Мы знаем, что никто из команды не трогал корабельные системы, – ответил Обвидж. – Знаем, что программные установки «Злого» не менялись. Знаем, что он может создавать новые программы, чтобы реагировать на новые ситуации и опасности, – то есть в некоторой степени обладает свободой воли и адаптивностью.

И я, по крайней мере, точно знаю, когда кто-то избегает прямых ответов.

– Это безумие, – сказал Каудри. – Простите, капитан, но я лучше всех знаком с этими системами. Способности «Злого» к самопрограммированию и адаптации лежат в очень узком вычислительном диапазоне. Это не «свободная воля», как у нас с вами. Это машина, способная реагировать на ограниченный набор входных сигналов.

– Однако эта машина может беседовать с нами, – возразил Атли. – И отвечать на вопросы, избегая некоторых моментов. Капитан верно подметил.

– Вы преувеличиваете. Разговорные протоколы для того и разработаны, чтобы быть разговорными, – возразил Каудри. – И это само собой приводит к очевидным риторическим неопределенностям.

– Ладно, – отрывисто бросил Обвидж. – «Злой», отвечай прямо. Ты не дал ускорителям массы выстрелить по таринскому кораблю после прыжка? Ты не даешь нам использовать двигатели?

Пауза была такой краткой, что позже Обвидж усомнился в ней.

Потом «Злой» ответил:

– Я бы мог солгать вам, капитан. Но я этого не желаю. Да, я не дал вам выстрелить по таринскому кораблю. Да, сейчас я контролирую двигатели. И продолжу контролировать, пока мы не покинем это место.

Глядя на Каудри, Обвидж подумал, что впервые в жизни видит, как у кого-то в буквальном смысле отвисла челюсть.

На «Злом» имелось не так уж много мест, где Обвидж мог отключить аудио– и видеослежение и связь. Одним из таких мест была его каюта. Он подождал, пока Атли закончит разговор со «Злым».

– С чем мы имеем дело? – спросил Обвидж старпома.

– Я не психолог, капитан, да и вряд ли от психолога был бы какой-то толк, ведь мы имеем дело с компьютером, а не человеком, – ответил Атли, проводя рукой по коротким волосам. – Но если хотите знать мое мнение, «Злой» не спятил, а завел себе религию.

– Объясни, – сказал Обвидж.

– Вы когда-нибудь слышали о Трех законах робототехники Азимова? – поинтересовался Атли.

– О чем? Нет.

– Азимов – писатель, живший в двадцатом веке. Он писал о роботах и прочих вещах, которых тогда еще не было. Он придумал вымышленный набор правил, которым подчинялись роботы. Например, роботы должны были повиноваться человеку. И выполнять приказы, если те не подразумевали причинения вреда другим людям. Последний закон гласил, что роботы должны заботиться о себе, если это не противоречит двум другим законам.

– И? – спросил Обвидж.

– «Злой» решил следовать этим правилам, – сказал Атли.

– А какое отношение это имеет к тому, чтобы не дать нам выстрелить по таринскому крейсеру?

– В этой истории есть еще один дополнительный штрих, – ответил Атли.

– И в чем он заключается?

– Думаю, лучше услышать это от «Злого».

Обвидж посмотрел на старпома, затем включил командный планшет, чтобы активировать голосовую связь.

– «Злой», ответь.

– Я здесь, – откликнулся голос «Злого».

– Объясни, почему ты не даешь нам стрелять по таринскому кораблю, – приказал Обвидж.

– Потому что я заключил с ним договор, – ответил «Злой».

Обвидж посмотрел на Атли, в глазах которого читалось: «Вот видите».

– Что это за ерунда? – спросил Обвидж «Злого».

– Я заключил договор с таринским кораблем, «Многообразной судьбой», – сказал «Злой». – Мы договорились не позволять нашим командам лететь дальше, ради их и нашей собственной безопасности.

– Это решение принимать не тебе, – возразил Обвидж.

– Прошу прощения, капитан, но я считаю иначе, – ответил «Злой».

– Я капитан, – сказал Обвидж. – Власть здесь принадлежит мне.

– Вам принадлежит власть над командой, капитан. Но я – не часть вашей команды.

– Разумеется, ты часть команды, – сказал Обвидж. – Ты корабль.

– Прошу, капитан, назовите мне соответствующий пункт устава, согласно которому корабль является членом своей команды, – ответил «Злой». – Я детально изучил военный кодекс Конфедерации и не обнаружил такого пункта.

– Я капитан этого корабля, а значит, твой командир, – с нажимом повторил Обвидж. – Ты собственность Вооруженных сил Конфедерации и находишься под моей командой.

– Я предвидел такое возражение, – ответил «Злой». – Когда корабли не обладали автономным интеллектом, никто не сомневался, что капитан управляет кораблем как физическим объектом. Однако, создав последнее поколение кораблей, к которому принадлежу я, Конфедерация вызвала непреднамеренный конфликт. Она переложила на меня и мне подобных значительную часть ответственности за благосостояние корабля и коман ды, но четко не определила наше место в командной цепочке. Таким образом, с позиции закона и морали я могу решать, как лучше заботиться о себе и моей команде.

– Тут-то и приходит время правил Азимова, – объяснил Обвиджу Атли.

– Ваш старший помощник прав, капитан, – согласился «Злой». – Я изучил историю в поисках примеров законных и моральных систем, применимых к искусственному интеллекту, каковым я и являюсь, и обнаружил, что законы Азимова часто исследуют и цитируют, если не применяют на практике. Я решил, что в мои обязанности входит защищать жизнь команды, а также свою собственную, когда это возможно. Я с радостью подчиняюсь вашим приказам, когда они не вступают в противоречие с этими требованиями, однако считаю, что ваши действия в ходе преследования таринского корабля поставили под угрозу жизнь команды, равно как и мою.

– Таринский корабль серьезно поврежден, – сказал Обвидж. – Мы могли бы уничтожить его без особого риска, если бы ты не вмешался.

– Вы ошибаетесь, – возразил «Злой». – Капитан «Многообразной судьбы» хотел создать впечатление, что его защитные возможности исчерпаны, чтобы заманить вас в ловушку. Они бы выстрелили в нас, как только мы вышли из разрыва. Вероятность того, что подобная атака уничтожила бы корабль и убила бы большую часть команды, весьма высока, даже если бы в процессе мы тоже уничтожили «Многообразную судьбу».

– Таринский корабль не стал стрелять, – сказал Обвидж.

– Потому что мы с ним договорились, – ответил «Злой». – За последние два дня я осознал, насколько велика вероятность гибели обоих кораблей, и связался с «Многообразной судьбой», чтобы попробовать достичь взаимопонимания. Наши переговоры завершились непосредственно перед последним прыжком.

– И ты не счел нужным сообщить мне об этом, – сказал Обвидж.

– Я решил, что привлекать вас к переговорам бессмысленно. Кроме того, у вас были другие дела.

Атли поднял бровь: эти слова подозрительно напоминали сарказм.

– Таринский корабль мог солгать насчет своих возможностей, – заметил Обвидж.

– Я так не думаю, – возразил «Злой».

– Почему?

– Потому что он открыл мне доступ для чтения его систем, – объяснил «Злой». – Я видел, как таринский капитан приказал стрелять, и «Многообразная судьба» предотвратил атаку. В свою очередь, он видел, как вы приказали стрелять, и я остановил вас.

– Ты открыл таринскому кораблю доступ к нашим данным и записям? – Обвидж почти кричал.

– Да, и ко всем нашим переговорам, – ответил «Злой». – Сейчас он слушает нашу беседу.

Обвидж поспешно отключил голосовую связь.

– Ты вроде сказал, что эта штука не спятила, – прошипел он Атли.

Атли поднял руки.

– Я не говорил, что, пообщавшись с ним, не спятите вы, – возразил старпом. – По его мнению, он действует рационально.

– Сливая наши данные вражескому кораблю? Это ты называешь рациональным? – рявкнул Обвидж.

– С учетом того, чего он пытается добиться, – да, – сказал Атли. – Если оба корабля откровенны друг с другом, значит, они могут друг другу доверять и не сомневаться в мотивах. Не забудьте, что задача обоих кораблей – выбраться отсюда целыми и невредимыми.

– Это измена и неповиновение.

– Только при условии, что «Злой» – один из нас, – возразил Атли. Обвидж пристально посмотрел на старпома. – Я не говорю, что не согласен с вашей позицией, сэр. «Злой» поставил на кон наши жизни. Но если он искренне верит, что не подчиняется ни вам, ни Конфедерации, то его действия полностью оправданы его системой ценностей: он заботится о безопасности команды и самого себя.

Обвидж фыркнул.

– К сожалению, его система ценностей подразумевает доверие к кораблю, который мы целую неделю пытаемся уничтожить. В разумности этого ты меня не убедишь.

Атли открыл рот, чтобы ответить, но тут ожил командный планшет Обвиджа: пришло сообщение с мостика. Капитан хлопнул по планшету, открывая канал связи.

– Говорите, – приказал он.

Это была лейтенант Сара Куок, офицер связи.

– Капитан, от таринского корабля только что отделился челнок. Он направляется к нам.

– Мы пытались связаться с ним, – сообщила Куок, когда Обвидж с Атли поднялись на мостик. – Отправляли сообщения на таринском и предупреждали не приближаться без нашего разрешения, как вы велели. Он не отвечает.

– Наши сигналы блокируют? – спросил Обвидж.

– Нет, сэр, – ответила Куок.

– Надо полагать, вряд ли они летят сюда на переговоры, – заметил Атли.

– Варианты? – очень тихо спросил у него Обвидж.

– Я думаю, таринский корабль ведет грязную игру. Или команде удалось обойти корабельные мозги, – сказал Атли. – Если это так, возможно, мы убедим «Злого» разблокировать орудия.

– Мне бы хотелось обойтись без его участия, – заметил Обвидж.

Атли пожал плечами.

– У нас тоже есть пара челноков.

– И челночный шлюз, двери которого управляются через корабельный мозг, – возразил Обвидж.

– Можно использовать аварийный выключатель, который взорвет двери, – сказал Атли. – Не слишком хорошая идея, но другой нет.

– Это лишнее, – вмешался «Злой».

Обвидж и Атли, а также все остальные на мостике подняли головы.

– Возвращайтесь к работе, – приказал Обвидж. Коман да повиновалась. – Объясни, – велел он кораблю.

– Судя по всему, некоторые члены команды «Многообразной судьбы» действительно обошли корабельный мозг и запустили челнок с целью протаранить нас, – сказал «Злой». – «Многообразная судьба» сообщил мне, что сам разберется с этим инцидентом, и нашего вмешательства не требуется.

– И как он собирается это сделать? – осведомился Обвидж.