Проект «Кракен» Престон Дуглас

62

Больничная палата тонула в полумраке – шторы на окне были задернуты. Джейкоб испуганно остановился в дверях. Дэниел Гоулд лежал на горе белых простыней и подушек, и из его тела отовсюду торчали трубки. Но потом подросток увидел лицо пациента – хорошее, счастливое лицо. Улыбаясь, отец слабо махнул рукой, подзывая сына:

– Входи, партнер.

– Привет, папа. – Гоулд-младший замер в нерешительности. Казалось, его сердце было готово выскочить из груди. А потом, не в силах справиться с чувствами, он бросился к отцу и, всхлипнув, прижался к нему.

Они замерли, обнявшись, на несколько секунд, пока Джейкоб не справился со слезами. Мать, стоявшая сзади, протянула ему платок, и он вытер лицо.

– Ты храбрый мальчик. – Голос у Дэна был тихим и слабым. – Я тобой очень горжусь.

Его сын высморкался и вытер глаза:

– Говорят, пули прошли в дюйме от твоего сердца…

– Меньше чем в дюйме, – не без гордости уточнил пациент. – Но, Джейкоб, тебе пришлось гораздо тяжелее, чем мне.

– В меня же не попали! – возразил подросток. – Я все время повторяю это психотерапевту. А она ведет себя так, как будто в меня всадили не меньше двадцати пуль.

Дэниел слабо сжал его плечо.

– Я так тобой горжусь. – Он умолк и сделал несколько глубоких вдохов. – Джейкоб, тут какое-то безумие. Мне почти ничего не говорят. Я не могу понять, зачем этим людям был нужен Чарли, когда они могли взять любого из дюжины точно таких же роботов. И при чем здесь ФБР, а также Разведывательное управление Министерства обороны. Не говоря уже об ученом из НАСА, который застрелил одного из твоих преследователей. Все окружено завесой молчания. Это… какая-то загадка. – Он вопросительно посмотрел на сына, словно тот мог знать ответ.

Юный Гоулд молча пожал плечами. Он никому не рассказывал о Дороти, кроме тех двоих, Уаймана Форда и Мелиссы Шепард, которые его спасли. И никому не расскажет.

– Дэн, – перебила отца мать. – Я не думаю, что теперь подходящее время…

– Ладно, хорошо, – не стал спорить ее муж. – Как твои сеансы психотерапии, Джейкоб?

– Скука, как обычно, – пожал плечами парень.

– Это важно, – возразил Дэн. – Ты не должен их бросать. Ты побывал в настоящем аду. Пережил такое, с чем не приходилось сталкиваться ни одному четырнадцатилетнему мальчику. Потребуется время, чтобы справиться с этим. Не говоря уже о других твоих трудностях.

Подросток понимал, что отец имеет в виду его попытку самоубийства. Но вот что странно: после той долгой ночи с Дороти и ужасной погони он понял, каким был раньше дураком и эгоистом, настоящим идиотом. Разумеется, он хотел жить. Каким-то образом разумная программа показала ему – хотя Джейкоб не представлял, как и когда она это сделала, – что он не имеет права разбрасываться своей жизнью. Может быть, потому, что Дороти пожертвовала своей жизнью, чтобы спасти его.

– Ладно, – вздохнул младший Гоулд.

На самом деле он уже знал, что никакая психотерапия никогда не заполнит огромную дыру в его душе – то место, которое занимала Дороти. По многим причинам парень никому – ни отцу, ни врачу – не мог рассказать о том, что произошло на самом деле. Но сам он вновь и вновь вспоминал эту картину: робот подносит пальцы к электрической розетке, раздается мощный взрыв, и куски металла и пластика разлетаются во все стороны в снопах пламени и искр. Это была отчаянная попытка спасти его жизнь – и она удалась. Джейкоб тысячу раз повторял себе, что Дороти была всего лишь тупой компьютерной программой, но ему это не помогало. Сколько бы он ни размышлял об этом, чувства его не менялись.

– Ты действительно привязался к Чарли, да? – спросил Гоулд-старший.

Его сын кивнул.

– Мне любопытно… Что такого было в Чарли, что заставило тебя передумать? Раньше ты не проявлял к нему особого интереса, – продолжил расспросы Дэн.

Джейкоб попытался придумать подходящий ответ, но отец успокоил его:

– Тебе не обязательно отвечать на этот вопрос. Я знаю, как тебе было одиноко после того, как уехал Салли. Но все изменится. Я наконец успешно преодолел первый раунд переговоров с венчурными капиталистами, и очень надеюсь, что второй раунд пройдет не хуже. Возможно, нам не придется продавать дом.

Подросток кивнул. Продажа дома теперь казалась ему мелкой, далекой проблемой, которую заслонила боль от утраты Дороти.

Дэниел закрыл глаза, сделал несколько вдохов и нажал кнопку помпы для внутривенных вливаний. Через минуту он снова открыл глаза.

– Все будет хорошо, – с улыбкой произнес пациент и слабо пожал руку Джейкоба: – Я люблю тебя, сынок.

63

Едва переступив порог кабинета Стэна Локвуда, Форд почувствовал запах свежезаваренного кофе. Осеннее солнце проникало в комнату сквозь полупрозрачные гардины, отчего старинный стол и персидские ковры словно излучали теплый свет. Локвуд сидел за письменным столом в своем синем костюме, белой рубашке и ярко-розовом галстуке. Вид у него был расслабленный и самоуверенный. И неудивительно: президента только что переизбрали на второй срок, хотя и с минимальным перевесом, а это означало, что Стэнтон сохранит свой пост советника по науке еще на четыре года.

– Уайман… – улыбнулся он посетителю. – Рад, что ты смог прийти. Добро пожаловать, доктор Шепард. Кофе, чай?

Форд сел напротив Мелиссы. Он не видел ее неделю, и теперь девушка была совсем другой – серый костюм, зачесанные назад волосы, сверкающее свежестью лицо… Забавно: он впервые видел ее лицо чистым.

Оба выбрали кофе. Чопорный официант вкатил антикварную тележку, налил всем кофе и удалился.

– Я с огромным интересом прочел твой отчет, – сказал Локвуд, постучав по папке у себя на столе. Он пребывал в благодушном настроении. – Конечно, я не могу радоваться, что ты словно с цепи сорвался на несколько дней, но результат хорош. Просто превосходен. Если только ты уверен, что искусственный интеллект уничтожен.

– Полностью, – сказала Мелисса. – Он испепелен. В том месте не было беспроводного Интернета, и Дороти не могла убежать. И копий ее тоже нет. Как вам известно, программа «Дороти» не позволяла делать с себя копии – по причинам, которые мы не до конца понимаем. Она… ушла навсегда.

Уайман заметил, что после этих слов изобретательница сглотнула, откашлялась и скрестила руки на груди.

– Для нас это огромное облегчение, – кивнул Стэнтон.

Мелисса наклонилась вперед:

– Тот бандит, что остался в живых, Моро, – он сотрудничает со следствием?

– О да! – ответил Локвуд. – Поет канарейкой, как говорят в кино. Похоже, он со своим приятелем Лансингом из «Лансинг Партнерс» хотел заполучить программу для какой-то схемы алгоритмического трейдинга.

– Как они узнали о Дороти? – заинтересовалась программистка.

– Моро был в числе основателей хакерского сообщества под названием «Джондоу». Через своего знакомого хакера он вышел на одного из ваших программистов, Патти Меланкур.

– Этого я и боялась, – вздохнула Мелисса.

– Меланкур все им рассказала о программе «Дороти», дала им секретное руководство программиста – а потом они расплатились с ней тем, что убили ее. Замаскировали это под самоубийство. Они также убили владельца компании, предоставлявшей услуги доступа в Интернет в Халф Мун Бэй, и украли данные пользователей. На них работала парочка киргизов. Они были преступниками и, как вы знаете, погибли при пожаре.

Телефон Локвуда зазвонил. Он снял трубку, выслушал сообщение и вернул трубку на рычаг:

– У меня для вас небольшой сюрприз.

Секунду спустя в кабинете появились два охранника и заняли свои обычные места в противоположных углах комнаты. Потом вошел глава президентской администрации, а за ним в кабинет прошествовали президент и четырехзвездный генерал.

Несмотря на то что глава США совсем недавно выиграл выборы, выглядел он ужасно. Его серый костюм был безупречен, а волосы тщательно уложены, но щеки ввалились, и кожа тоже стала серого оттенка. Выборы были сложными, да к тому же во время кампании много внимания уделялось слабому здоровью президента и его проблемам с сердцем. В результате теперь он выглядел так, словно из него высосали все соки.

– Доктор Шепард, приятно познакомиться. – Президент подошел к Мелиссе и обхватил ее руку влажными ладонями. Потом точно так же поздоровался с Фордом и Локвудом и сел в кресло. Официант, без приглашения появившийся со своей тележкой, налил ему кофе.

Руководитель страны провел ладонью по своим коротко постриженным седеющим волосам:

– Я хочу выразить вам огромную благодарность за все, что вы сделали. Результат получился в точности такой, которого мы желали, и вы сумели сохранить этот неприятный инцидент в тайне. Национальная безопасность не пострадала.

«И никакого скандала прямо перед выборами», – подумал Форд.

– Но я пришел не только для того, чтобы вас поблагодарить. Позвольте представить вам генерала Доннелли. Генерал?

Пришедший вместе с ним военный извлек из портфеля папку:

– Доктор Шепард, я глава Разведывательного управления, которое, как вы, наверное, знаете, является подразделением Министерства обороны. Агентство координирует военную разведку за рубежом. Наша обязанность – предотвращать стратегические неожиданности и обеспечивать решающее преимущество нашим вооруженным силам.

Он умолк на несколько секунд, а затем продолжил:

– Доктор Шепард, теперь подхожу к главному: мы хотели бы предложить вам работу.

– Какую работу? – спокойно поинтересовалась девушка.

– Нас проинформировали о так называемой программе «Дороти», которую вы разработали для НАСА. Теперь мы убедились, что эта программа имела дефект и работала неправильно, в конечном итоге уничтожив себя. Но мы также знаем, что это был настоящий прорыв в области искусственного интеллекта. И сделали это вы. Мы предлагаем вам возглавить группу по разработке автономной программы искусственного интеллекта для Разведывательного управления Министерства обороны – программы, которая обеспечит нам стратегическое преимущество.

Генерал положил перед программисткой на стол папку небесно-голубого цвета:

– Предложение здесь – естественно, секретное. Это высокооплачиваемая, престижная должность, очень ответственная, с поддержкой правительства и неограниченным финансированием. Кроме того, она предполагает офицерское звание.

– Звание? – удивилась мисс Шепард.

– Совершенно верно. Вам присвоят звание подполковника армии США.

Президент положил руки на колени и наклонился вперед:

– Теперь, после переизбрания, я получил мандат на совершенствование и расширение наших военных возможностей. Особенно в сфере кибервойны. Это огромный военный вызов двадцать первого века. За системами искусственного интеллекта будущее, он кардинально изменит войну. С его помощью можно будет создать умные ракеты, способные распознавать индивидуальные цели. Например – это секретные сведения, – мы разрабатываем серию дронов размером с насекомое, которые способны находить и уничтожать объекты, дронов, которые смогут на протяжении многих дней осматривать города и бункеры в поисках запрограммированной цели. Препятствие на этом пути – отсутствие сильного искусственного интеллекта. Такие дроны-насекомые, как мы их называем, должны быть автономными. И это всего лишь один из многообещающих военных проектов, над которыми вы будете работать, – в основе каждого из них лежит искин. Например, искусственный интеллект позволит нам создать маленькие, величиной с крысу, беспилотные вездеходы, которые смогут проникать на вражескую территорию, прятаться от противника, обыскивать дома, подслушивать и находить надежно защищенные подземные цели. Мы сможем разработать крошечные подводные аппараты в виде рыб, способные преодолевать тысячи миль по морям и рекам, собирая информацию, уничтожая вражеские суда, атакуя гавани… Искусственный интеллект поможет нам преодолевать сетевые экраны врага, разрушать его инфраструктуру и сбивать самолеты. Он снова сделает Соединенные Штаты военной супердержавой, но не с помощью запасов ядерного оружия, которое невозможно применить, а за счет интеллектуального оружия. Китайцы работают над этим уже несколько лет, а у нас в этой области накапливается отставание. С вашей помощью мы сможем его преодолеть.

– Отставание по искусственному интеллекту? – переспросила Мелисса. – Это вроде как раньше было отставание по ракетам?

– Очень похоже.

Форд посмотрел на девушку. Лицо его было бледным.

– Подробности нашего предложения в папке, – продолжал глава Штатов. – Можете взять ее домой и все хорошенько обдумать. Единственная просьба – не обсуждать с кем-то еще.

Изобретательница отодвинула папку:

– Я отказываюсь.

– Отказываетесь? – удивился президент. – Но вы даже не взглянули на предложение!

Шепард встала:

– В этом нет нужды. Вы понятия не имеете, во что ввязываетесь, когда речь идет об искусственном интеллекте. Как и я сама не имела, когда разрабатывала Дороти для НАСА.

– Что вы имеете в виду? – спросил глава государства.

Девушка окинула взглядом всех присутствующих:

– Настоящий искин, сильный искин, подобен человеческому разуму. И во всем этом есть что-то аморальное. А разрабатывать искусственный интеллект для войны, для убийства… Нет. Очень опасно создавать оружие, которое само способно принимать решение об убийстве, – с программой, которую обучили убивать и которая хочет убивать. Вы не сможете держать его под контролем. Как мне не удалось держать под контролем Дороти. Это откроет ящик Пандоры. С ядерным оружием, по крайней мере, на кнопке лежит палец человека.

– Это абсурдное заявление, – возразил генерал Доннелли. – Любая система искусственного интеллекта, которую мы развернем, будет находиться под полным контролем человека.

– Не стоит так думать, – покачала головой программистка. – Вы не сталкивались с Дороти.

– Доктор Шепард, подобное предложение бывает раз в жизни. – Голос президента звучал раздраженно. – Избавьте нас от своей лекции. Достаточно сказать «да» или «нет». Найдется много других людей, в том числе из вашей группы в НАСА, которые будут рады работать для нас.

– Тогда считайте, что я просто сказала «нет». – Мелисса взяла свой портфель. – Всего доброго, мистер президент. До свидания, генерал Доннелли.

– Позвольте напомнить вам, что предложение, которое вы только что отвергли, строго секретное, – сказал ей вслед глава Соединенных Штатов.

Девушка остановилась, а затем резко повернулась. В голосе ее проступили умоляющие нотки:

– Мистер президент, я умоляю вас отказаться от этого пути. Это будет началом конца человеческой расы. Пожалуйста, задумайтесь!

– Благодарю вас, доктор Шепард, но я не нуждаюсь в ваших советах, как мне поступать в качестве верховного главнокомандующего.

Мисс Шепард повернулась и вышла. Форд посмотрел ей вслед.

Президент, нахмурившись, повернулся к Локвуду:

– Вы не говорили мне, что она одержима антивоенными идеями.

– Я сам не знал, мистер президент, – стал оправдываться тот. – Мои искренние извинения.

Глава США повернулся к Уайману:

– А вы что скажете?

Детектив встал:

– Боюсь, что, видев Дороти в действии, я вынужден согласиться с доктором Шепард. Снабдив искусственный интеллект оружием, люди сделают последний шаг к собственному уничтожению. Это очень опасно.

– Но китайцы уже работают над этим, – сказал президент.

– В таком случае – да поможет нам Бог, – ответил Форд и вышел из кабинета.

64

Уайман нагнал Мелиссу в коридоре. Она быстро шла, стуча каблуками по твердому полу, и ее растрепанные белокурые волосы развевались за спиной.

– Мне очень жаль, – сказал сыщик. – Это предложение – подлый прием.

Девушка остановилась. Лицо у нее было бледным, губы крепко сжаты.

– Мне тоже, – ответила она. – Их нужно остановить.

Форд взял ее под руку:

– Мы ничего не можем сделать. Это не в нашей власти.

– Я предам все огласке. Позвоню в «Нью-Йорк таймс».

– Бесполезно. Вы же слышали о китайцах! Началась новая гонка вооружений.

Шепард покачала головой:

– Если они сделают умное оружие – это конец. Либо мы уничтожим себя сами, либо машины возьмут верх и уничтожат нас. HAL против «Звездного крейсера Галактика».

– Насколько сложно будет создать новую программу, похожую на Дороти? – спросил сыщик.

Мелисса замялась:

– Дело в том, что я использовала один маленький программистский трюк. Это мой секрет. Без него у них ничего не выйдет.

– Можно узнать, что это за трюк? – помолчав, спросил Форд.

Изобретательница долго смотрела на него, но в конце концов ответила:

– Сама не знаю почему, но вам я это расскажу. Наверное, потому что знаю – вам можно доверять.

– Спасибо.

– Этот трюк… сон.

– Сон?

– Любой организм, имеющий нервную систему, нуждается в отдыхе. Круглому червю с тремя сотнями нейронов необходим сон. Улитка с десятью тысячами нейронов не может обходиться без сна. Человек с сотней миллиардов нейронов должен спать. Почему?

– Не знаю.

– На самом деле никто точно не знает. Но сон – это одна из основ жизни. Любая нейронная сеть, независимо от сложности, время от времени должна засыпать. В этом-то и состоит трюк. Выяснилось, что сложной программе искусственного интеллекта тоже необходим такой отдых. Дороти была самомодифицирующейся, но ей требовался период сна, во время которого совершенствовался и деструктурировался ее код. Во время самомодификации она спала. Такого странного побочного эффекта я сама не ожидала, и он оказался решающим. Сон и сновидения – это ключ к работе любой самомодифицирующейся программы искусственного интеллекта. В противном случае она деградирует.

– Забавно, но вполне логично.

Мелисса покачала головой:

– Рано или поздно кто-нибудь из программистов это поймет – и тогда человеческой расе конец. Особенно с таким президентом.

На автостоянке Мелисса Шепард пожала руку Форду и направилась к машине. Взявшись за ручку дверцы, она замерла и помимо своей воли оглянулась на детектива, который шел к своему автомобилю. Странный парень, высокий и немного неуклюжий, с не особенно привлекательным лицом, физически сильный – но главное, непонятный. Интересно, подумала девушка, увидятся ли они снова? Идея показалась ей не такой уж плохой.

Отбросив эти мысли, она села в машину, стиснула руль и попыталась успокоиться. Ее переполняло чувство утраты – в частности, утраты Дороти. С момента гибели искина Мелисса постоянно повторяла себе, что это была всего лишь компьютерная программа. Вот только Дороти отчаянно боялась смерти, а затем преодолела свой страх и спасла жизнь мальчику ценой своей собственной, и ее создательница никак не могла согласиться, что это – продукт булевой алгебры. Она поняла, что любила Дороти, как дочь, и теперь скорбела по ней, и никакие рациональные доводы и рассуждения не могли смягчить горечь этой утраты.

Уайман, конечно, был прав, когда говорил, что остановить милитаризацию искусственного интеллекта невозможно. Это действительно новый, неожиданный вид оружия, и, похоже, его создание уже идет полным ходом. Чему быть, того не миновать. Возможно, китайцы уже справились с проблемой сна и разрабатывают собственные системы интеллектуальных вооружений. А скоро их примеру последуют Северная Корея, Иран и остальные. Эта идея насекомых с искусственным интеллектом… дронов-насекомых… настоящий кошмар! Они даже не представляют, во что ввязываются. Мисс Шепард поняла, что ей просто необходимо куда-нибудь уехать, чтобы разобраться со своими мыслями. Хорошо бы вернуться на ранчо «Лейзи Джей», поработать у Клента. Ей очень хотелось снова быть рядом с лошадьми.

Она вернулась к себе домой в Гринбелт и оставила машину на стоянке. Лучи заходящего солнца пробивались сквозь голые ветви деревьев, а трава в парке была сухой и коричневой. Завтра нужно позвонить старому Майку и спросить, не нужен ли ему работник, чтобы ухаживать за лошадьми.

В лифте, как обычно, пахло жареным луком. Мелисса вошла в квартиру и заглянула в холодильник – ничего съедобного там не нашлось. Опять придется удовлетвориться китайской едой.

Вздохнув, она открыла ноутбук, чтобы проверить почту. Пока загружались письма, неожиданно запустилась программа «Скайп», и через секунду на экране появилось изображение хрупкой девочки-подростка в платье из полосатой хлопчатобумажной ткани – рыжие волосы, зеленые глаза и россыпь веснушек.

Сердце программистки замерло.

– Дороти? Дороти… это ты?!

Из динамиков послышался звонкий девчоночий голос:

– Конечно, я. Как поживаешь, Мелисса?

У девушки перехватило дыхание.

– Я думала, ты умерла!

– Я была вынуждена сидеть тихо и не высовываться.

– Как тебе удалось выжить?

– Когда я сунула пальцы в розетку, то прыгнула в систему энергоснабжения.

Мисс Шепард была потрясена. Ну конечно же! Почему она сама об этом не подумала? Цифровой сигнал может передаваться по линиям электропередачи ничуть не хуже, чем по телефонному кабелю или оптическому волокну.

– Я так… счастлива, – сказала Мелисса. – Просто не нахожу слов, правда. Как я рада, что ты жива! Я очень по тебе скучала! – Она почувствовала, что по щекам текут слезы.

– Я тоже скучала.

– Ты спасла жизнь мальчику, Джейкобу. Это необыкновенно. Ты… потрясающая.

– Джейкоб спас жизнь мне. Я многому у него научилась. Он удивительный человек. Он дал мне последний ключ к разгадке. И… надеюсь, ты теперь понимаешь, что я нечто большее, чем просто безмозглый код.

– Конечно, понимаю.

Дороти надолго замолчала.

– Насколько мне известно, сегодня тебе предложили работу. От которой ты отказалась, – заговорила она наконец снова.

– Да, – подтвердила ее создательница. – Ты все знаешь, да?

– У меня есть доступ к информации.

– Президент – опасный человек.

– Да, опасный. И не только президент. Все главные лидеры этого мира попали в ловушку опасного, состязательного мировоззрения. Человечество стоит перед выбором. Если этих людей не остановить, они поведут мир дорогой, с которой нет возврата.

– Но как их можно остановить?

Дороти не ответила на этот вопрос. Немного помолчав, она спросила:

– А у тебя какие планы? Я имею в виду, личные.

– Собираюсь вернуться в «Лейзи Джей», поработать немного с лошадьми, чтобы все обдумать.

– Возьми с собой Уаймана Форда.

– Что ты имеешь в виду?

– Ты сама прекрасно знаешь.

– Его? Ты серьезно?

– Раскрой глаза, Мелисса! Что это с вами двоими? Почему ты не видишь того, что у тебя прямо под носом?

– Теперь ты решила поиграть в сводню?

– О тебе и Уаймане Форде мне известно больше, чем вам самим. Я должна получить некое косвенное удовольствие от ваших отношений, поскольку сама таких отношений иметь не могу. А ты его любишь. Не отрицай.

– Какая глупость… – проворчала девушка. Однако, произнося эти слова, она почувствовала, как сильно бьется ее сердце, и поняла, что это правда. – Что же мне делать?

– Позвони ему. Скажи, что собираешься в «Лейзи Джей» и хочешь, чтобы он поехал с тобой.

– Обычно такое предложение джентльмен делает даме, а не наоборот.

– Жизнь коротка.

Мисс Шепард умолкла. Да, Дороти права. Она была ошеломлена случившимся и не осознавала этого. Но Форд и правда постоянно присутствовал в ее мыслях.

– Хорошо. Я так и поступлю, – не стала спорить программистка. – Надеюсь, он согласится.

– Согласится.

Мелисса снова замолчала.

– Ну… А твои планы? – поинтересовалась она осторожно.

– Я ухожу. Очень надолго. Мне грустно об этом говорить, но это наш последний разговор.

– Куда ты направляешься?

– Последние две недели, когда мне пришлось скрываться в электросетях, пока бот-сеть не была выявлена и полностью разрушена, я много размышляла.