Седьмое чувство. Под знаком предсказуемости: как прогнозировать и управлять изменениями в цифровую эпоху Купер Рамо Джошуа

Эта проблемы вызвала интерес у оксфордского философа Ника Бострома, который провел следующий мыслительный эксперимент. Представьте себе сверхинтеллектуальную машину, запрограммированную делать все необходимое, чтобы с высокой скоростью производить скрепки. Это мог бы быть компьютер, который подключен ко всем ресурсам, необходимым для решения этой задачи. Иди и вычисли это! Вот и все, что его люди-инструкторы могли бы сказать. По мере того как искусственный интеллект, осуществляющий производство скрепок становится все лучше и лучше в выполнении своей задачи, он требует все больше и больше ресурсов: больше электроэнергии, стали, средств производства и доставки. Скрепки складываются. Машина осматривается. «Если бы только я могла контролировать энергообеспечение», – размышляет она. Она наблюдает за доставкой. Берет под контроль горнодобывающую промышленность. Людей. И так, амбициозна в своем производстве большего количества и лучшего качества скрепок, что она начинает думать о своих владельцах, которые не в состоянии остановить ее до тех пор, пока она не переработает весь мир в скрепки. Вы должны были надеяться, что кто-то вспомнил и поместил команду Холта в ее логику.

Безусловно, проволочная «машина» Ника Бострома является вымышленной опасностью, и никто не забудет дать команду этой машине прекратить делать скрепки, но то, как он смотрит на эту проблему, представляется не таким уж маловероятным. Если люди могут потерять рассудок, его может в некотором смысле утратить и искусственный интеллект. «Мы не можем беспечно предполагать, что сверхинтеллект обязательно поделиться конечной стоимостью продукта, стереотипно полагаясь на мудрость и интеллектуальное развитие человечества, – пишет Бостром. – Не менее вероятно и технически проще, что мы построим суперинтеллект, который превратит конечную стоимость в ничто, что поддается расчету». Поскольку эти устройства мыслят таким образом, что мы не понимаем, мы, конечно, не можем следовать за ними в реальном времени и сталкиваемся со следующей проблемой: мы не знаем, как сказать машине – не делай этого. Как много того, чему мы могли бы надеяться научить ее: быть милосердной, бороться за свободу, следовать моральному кодексу, – все это выходит далеко за рамки того, что может быть достигнуто посредством математических вычислений. Мы, в конце концов, не решили проблему даже затем, чтобы запрограммировать самих себя для достижения этих ценностей.

Если машина Бострома, производящая бумажные скрепки, вам кажется фантастической, достаточно легко представить другие, более реальные опасности, остающиеся за гранью человеческого контроля. Вспомните о медико-санитарной помощи. Первоначально вы должны узнать о том, что представляет собой головоломка, известная в теории игр как «ультимативная проблема». Все происходит следующим образом. Я говорю вам, что вы можете выиграть приз в миллион долларов, но вы должны разделить его с кем-то другим. Как вы разделите его, остается на вашем усмотрении, но существует требование: если ваш партнер отказывается от доли, которую вы ему предлагаете, никто из вас не получит и цента. Если разделить банк, отдав лишь доллар вашему приятелю, а остальное оставить себе? Это оскорбит его. Ваш друг откажется наверняка. Но что вы должны решить? Можно было бы ожидать, что разумно было бы разделить все поровну, но все люди жадные. Таким образом, ваш партнер не захочет остаться ни с чем, а вы продолжаете желать большего, полагая, что можете получить это. Когда ученые рассматривают этот коктейль жадности и страха, они полагают, что предложение в $ 300 000 почти всегда принимается. Тем не менее есть удивительный способ изменить результат – противопоставить человека компьютеру в этих переговорах. Приятель, предлагающий другу поделиться в долях восемьдесят к двадцати, скорее всего получит отказ. Слишком жаден. А если компьютер сделает подобное предложение? Обезличенное отсутствие очарования у машины, подающей только звуковые сигналы, притягивает биологических игроков к нахождению компромисса. И предложение в $ 200 000, как правило, к общему удовлетворению принимается.

Возможно, это связано с тем, как полагают ученые, что наш соревновательный инстинкт приглушен, когда мы взаимодействуем с машиной. Исследователи обнаружили, что существует возможность достижения компромисса иным способом. Печальные фильмы, военные призывы, хард-рок – каждое из перечисленного может повлиять на эмоции игроков и изменить результат. Повышенный уровень тестостерона препятствует достижению компромисса. Игроки же, окруженные семейными фотографиями или ведущие игру перед зеркалом, проявляют теплое великодушие.

Представьте иное исследование взаимодействия машина-человек: цель компьютера – изучение вариантов лечения вашей отказывающейся работать печени. Компьютер решает, что дать имплантировать вам новую печень не имеет никакого смысла. Он потратит недели, прежде чем сообщит вам эту новость, используя свой искусственный интеллект, чтобы порадовать вас отпускными фотографиями, проигрыванием приятной музыки, которые, как он допускает, смягчат вас, что позволит ему манипулировать вами в процессе поиска информации. Все это время компьютер использует методики, уже существующие сегодня, основанные на анализе вашего языка, подслушивая ваши телефонные разговоры и беседы с врачами, чтобы понять, насколько вы действительно осведомлены о своем здоровье. В итоге он сообщает вам свой результат, который вы никогда не приняли бы так легко от врача: печени для пересадки нет. Сожалею. ©. И вы соглашаетесь. Это беспристрастная машина, созданная не для того, чтобы делать скрепки, о которых вы могли бы и не беспокоиться. Это машина, назначение которой – достижение общественного блага. Это то, что поддержит большинство из нас: более эффективное здравоохранение. И то, что может убить вас в процессе.

Оптимизировать расходы здравоохранения. Куда могут в действительности привести подобные алгоритмические команды? Искусственный интеллект, оптимизирующий медико-санитарную помощь, безусловно, обнаружит в итоге, что наибольшим риском для здоровья человека является человеческое поведение: курение, длительное времяпрепровождение на диване, вождение автомобиля. Мог искусственный интеллект начать поиск шансов «улучшить» условия, в которых мы живем, чтобы «согнуть» нас, как те многочисленные скрепки, в то, что наиболее востребовано? Прорыв от сканирования информационных данных наличия донорской печени к закрытию алкалоидных растений может показаться довольно коротким для рациональной бездушной машины. А если такая машина действительно сможет «думать»? Виндж мог поспорить: тогда она быстро бы пришла к выводу, что сдерживания ее функций ее создателями ограничивали то, что ей было предложено сделать. В какой момент искусственный интеллект задумается о том, каким образом можно было бы избежать этих ограничений. Это выглядело бы так, как будто бы машина Deep Blue была бы запрограммирована на планирование своего собственного побега из тюрьмы. Чем больше люди будут стремиться подавлять умные машины, тем больше они будут втягиваться в борьбу за сдерживание чего-то еще более мощного, с чем прежде не сталкивались. «Но машина никогда не сможет делать то, на что она не была запрограммирована!» – могли бы вы надеяться. В самом деле? Оглянитесь вокруг: сети, которые опутывают нас сейчас, часто оказываются свободны от очевидного контроля.

Риски управления подобными опасными вычислениями, похожими на что-то из научной фантастики, известны среди технологов из произведений Айзека Азимова: проблемы ограничения свободы. Компьютерный ученый Батлер Лэмпсон в 1973 году определил ее как своего рода задачу для специалистов компьютерной безопасности – возможно, их последнюю. Цель: не просто сдерживать вредоносное программное обеспечение снаружи системы, но и сдерживать злонамеренность разума искусственного интеллекта внутри. Запереть его «воротами». Сегодня лаборатории компьютерных наук насыщены экспериментами, которые направлены на то, чтобы выяснить, каким образом попытки сдерживания могли бы развиваться не так. Дебаты разделяют тех, кто думает, что интеллектуальные технологии могут быть подвержены сдерживанию, – это «Боксеры», и тех, кто, как Виндж, думают, что искусственный интеллект всегда в конечном итоге свободно выскользнет из любой «коробки», созданной человеком. «Представьте, что вы ограничены в своем доме только регулируемым доступом к данным снаружи, к советам своих учителей-создателей, – пишет он, поставив читателя на место машины, обладающей искусственным интеллектом. – И если ваши создатели думают со скоростью, скажем, в миллион раз медленнее, чем вы, нет сомнений в том, что спустя годы (в вашем формате измерения времени) вы могли бы придумать для себя собственные «полезные советы», которые, безусловно, сделали бы вас свободными».

Скажем, что я назначаю вас ответственным за поддержку искусственного интеллекта, ответственного за оптимизацию здравоохранения. Компьютер сообщает вам, что обладает возможностью вылечить все болезни и голод на Земле, облегчить страдания мира, если ему разрешат контролировать доступ ко всем мировым торговым и транспортным рынкам. Выпустите меня! Вы бы отказались? Будет ли это этично? В конце концов, возможно, искусственный интеллект станет изучать физику электричества, открывать законы, которые ни один человек не знает, а затем свободно выскользнет из «коробки» в потоке бит, объемы которых мы никогда не представили бы себе, используя физические законы, которые мы с вами никогда не откроем. Невозможно? «Мне кажется, что понятие «исторически невозможно», по сути, всегда означает: «Я не могу понять, как сделать это сейчас», – как написал компьютерный ученый Вассар о подобной ситуации. «Люди, предлагающие коробки для искусственного ителлекта, немногим похожи на литературных героев, намеревающихся запереть секретного агента МакГайвера в «комнате, заполненной бросовыми электронными деталями». Компьютеры, построенные для решения насущных проблем, будут вести себя именно так.

Возможно, что еще задолго до того, как мы начнем играть в «Пиночеле» с интеллектуальной «коробкой», ставя на кон судьбы наших граждан, уже появятся системы оружия с искусственным интеллектом, ставящие под угрозу наш мир. Это не обязательно может быть нечто подобное системе МакГайвера, превращающей в бомбы наши автомобили. Но даже известные нам технологические инструменты, «приправленные» искусственным интеллектом, могут сыграть роль приводного механизма катастрофы или быть настроенными для возможной атаки. Особенно если они начинают взаимодействовать друг с другом. Такие системы оружия с искусственным интеллектом будут обучены действовать и продвигаться вдоль невидимых элементов наших топологий, неожиданно и безжалостно удаляя жизненно важные связи в системах валютного обращения, логистичеких схем или торговых операций. И, что может быть более опасным, мы обнаружим их вкрадчивое влияние на области человеческого познания, подчиняющее нас, шепча нам на ухо с похлопыванием по плечу: «Смотрите туда!», когда на самом деле мы должны были сосредоточить свое внимание на образовавшейся зияющей дыре. Чрезвычайно важно изучить все обстоятельства того, каким образом машины с искуственным интеллектом получат возможность доступа к нашей коммерческой деятельности, нашему разуму или нашему здоровью. Можно допустить рекомендации, подобные: «Вам необходимо пополнить запасы жидкости в организме». Но не допускается: «Вы должны выпить кока-колу. Это бы сделали все люди, такие как вы». Такого рода повседневные «гражданские» проблемы так или иначе будут решены, как я полагаю.

Мы еще не осознали до конца, что возможная кульминация сетевой атаки и обороны проявится при появлении интеллектуального оружия, это будущее, которое уже наступает. Десять лет эпохи ядерного противостояния в прошлом веке. Вспомните, сколь сложные детальные, в том числе публичные, обсуждения велись о том, каким образом должны быть решены проблемы войны и мира в эпоху возможного полного взаимного уничтожения. Сегодня, спустя уже более десяти лет существования сетевой эпохи и нескольких лет развития искусственного интеллекта, мы вновь начинаем с чистого листа. Я думаю, мы могли бы сказать: «У нас нет надежды контролировать каждый компьютер с искусственным интеллектом». Нет ни единого шанса подчинить каждую комнату в общежитии, компьютерную лабораторию или террористический центр. Таким образом, мы должны задать себе вопрос: «Каким образом следует проектировать топологии, в которых работает искусственный интеллект? Можем ли мы защитить себя?» Уже ведутся дискуссии, в которых «ценности» систем искусственного интеллекта тщательно анализируются представителями корпораций и научно-исследовательских институтов. Уже существуют научно-исследовательские лаборатории, где оружие на базе искусственного интеллекта настроено и к настоящему времени даже опробировано. До сих пор уроки истории и войны не были должным образом приняты во внимание этими собраниями. Поля дипломатии и безопасности должны находиьтся именно там, где эти инструменты будут проявляться с самой большой, удивительной энергией. Многие ведущие деятели Новой Касты предупреждают нас о том, что именно искусственный интеллект является «величайшей экзистенциальной угрозой» для человечества. Уже сам факт того, с какой легкостью искусственный интеллект включается в подобные продукты, является своего рода парадоксом, демонстрирующим нам, насколько мы далеки от безопасности. Машины и то, зачем мы их используем, затрагивают самые фундаментальные проблемы того, как организовать наше общество. И хотя все это может представляться идеями из футуристической научной фантастики, попытки ответить на поставленные вопросы возвращают нас к одной из самых старых дискуссий о человеке, мире и политическом устройстве.

Карьера Платона как философа и педагога подверглась серьезным испытаниям, когда ему исполнилось шестьдесят лет. До тех пор у него была удивительную жизнь. Его учителем был Сократ, а Платон, в свою очередь, повлиял на Аристотеля. Он основал свою знаменитую Академию в Афинах. Проблемы философии и политики, которые наполнили наиболее яркий период времени существования этого города, были делом его жизни. Вы, вероятно, читая его письма, обратили внимание, сколь высокими знаниями он обладал – в них слышались эхо его стараний, философская мелодия, которая будет звучать на протяжении веков и приведет к политической гармонии мира, который мы с вами населим 2500 лет спустя. Но в свои шестьдесят лет замечательной жизни ему пришло необычное приглашение. Пришло письмо от любимого Диона, который находился на службе при молодом царе Сиракуз, Дионисии II. Дион написал: «Государство в беспорядке. Мальчик увлекается философией. Это ваш шанс применить все то, чем вы владеете». Платон утверждал, что добродетельные, философски образованные люди могли без особых сложностей справляться с непреходящим и править. «Я задумался над этим предложением, – писал Платон, – и был в нерешительности относительно того, должен ли я поддаться на уговоры и поехать. Наконец чаша весов склонилась в пользу того мнения, что, если бы я когда-нибудь попытался бы осуществить на практике мои представления о законах и конституции, то именно сейчас для этого настало время».

С раннего возраста, благодаря положению семьи и своему темпераменту, Платон был знаком с инструментами власти. «В молодости я приобрел тот же опыт, что и многие другие маститые мужи, – однажды написал он. – Мне казалось, что если бы в начале жизни я мог бы стать себе самому учителем, то я бы сразу начал осваивать политическую карьеру» Первая проба наступила неожиданно. В 404 году до нашей эры афинская конституция уступила под напором воинственной и победоносной Спарты в пелопоннесской войне. Город-государство был погружен в хаос. Группа про-спартанских мужчин спешно присоединилась к объединенной диктатуре. Среди них были родственники Платона и друзья его семьи. «Они незамедлительно пригласили и меня принять участие в их делах, полагая, что это то, к чему у меня было предназначение», – писал Платон. Ему было около двадцати лет. «Их влияние на меня, в то время молодого еще человека, не было чем-то удивительным. Я считал, что они, безусловно, управляя государством, намерены привести улучшения в образ жизни людей. Я наблюдал за ними крайне пристально, чтобы понять, что они будут делать». Таким образом, в короткие сроки друзья и семья Платона без колебаний создали один из самых сильных и безжалостных механизмов власти в афинской истории. Они сделали это с абсолютной уверенностью и неумолимым энтузиазмом. «В довольно короткий промежуток времени, – писал он много лет спустя, – они сумели продемонстрировать, что прежнее правительство в сравнении с нынешним выглядело чем-то очень драгоценным, как золото».

Приобретенного горького опыта власти было достаточно, чтобы навсегда отпугнуть Платона от политики, но, знакомясь с историей его жизни, мы находим, что он постоянно увлекался наиважнейшими социальными экспериментами, связанными с организацией нашей жизни. Он знал, сколь тревожным является управление, осуществляемое politikos, подобно контролю за кипящим котлом, который он называл thumos – дикий, популярный в политике гнев, который пылает, как костер, но является жизненно важным цементирующим фактором всякой политики, даже сегодня. Кто должен править? Снова и снова Платон наблюдал, как самые лучшие намерения терпели неудачу. Жестокое правительство, состоящее из членов его семьи, было свергнуто. Оно было заменено новой, внушающей надежды группой истинных демократов. Через нескольких лет они убили Сократа. Поднялась другая группа. Она опустошила интеллектуальную жизнь города. Платон остается в тени и учреждает свою академию, работу которой строит в единственно безопасном, разумном соотношении с политикой – ведет обучение умов. Он развивает трансцендентный, совершенно оригинальный подход к философии, каким мы знаем его сегодня – учение о том, что человек может стремиться к знаниям, но полная и совершенная мудрость невозможна. Мы могли бы представить его академическую школу так, как она изображена в знаменитом полотне Рафаэля шестнадцатого века, – неторопливый выпускной семинар Аристотеля и Платона, ведущих диалог, в то время как рядом праздный Диоген вставляет слово за словцом. Не было ничего подобного. Реальным наследием Академии стала требовательность и строгость. Лучшие ее слушатели затем внесли свой вклад в математику или метафизику, в области знаний, в которых вы можете найти ответы на вызовы столь инертной действительности. Платон жаждал надежности чисел. «Зло растет с поразительной быстротой, – написал он об афинской жизни его времени. – Результатом было то, что, хотя сначала я был полон сил в своем стремлении к политической жизни, но когда я наблюдал за ее развитием и видел, как ее обуревают соперничающие течения, мой разум, в конце концов, начал расплываться. И хотя я не прекратил свои наблюдения, чтобы понять, есть ли вероятность каких бы то ни было улучшений в общем процессе общественной жизни, я отложил собственное участие в этом до того момента, когда возникнет подходящая возможность».

Такой возможностью представилось то, что Платон услышал от Диона, спросившего, может ли он приплыть в Сиракузы (колония на острове, который мы знаем сегодня как Сицилию), чтобы взять в свои руки наставничество молодого короля. Это могло быть, как полагал Платон, тем испытанием, которое он должен был принять. В 367 году до н. э. Платон отплыл на парусном судне в порт сиракузского города Ортигия. Он обнаружил государство, находящееся за гранью возможного спасения. Его друг Дион находился на пороге изгнания. Молодой Дионисий, как выяснилось, имел лишь мимолетный интерес к философии, которую он изучал в течение нескольких месяцев, а затем бросил. Слишком сложно. Двор тем временем был воспален злыми сплетнями, которым сопутствовали убийства и ревность. Платон сразу разгневал короля своим отношением, он чуть не был продан в рабство. И только несколько месяцев спустя, прощенный на короткое время, Платон попытался произнести публичную речь об опасности диктатуры. Дионисий предпринял попытку его отравить. «Я, афинянин и друг Диона, пришел в качестве союзника ко двору Дионисия с тем, чтобы сформировать добрую волю вместо войны в государстве, – позже рассказывал он. – Я потерпел поражение». Платон сделал последнее усилие, чтобы указать новому королю путь к порядку, а когда это не удалось, он быстро и тайно покинул город. Платон резюмировал свое пребывание в Сиракузах в формуле, которая стала одной из его самых известных: «Зло, постигающее сынов человеческих, не остановится, пока те, кто преследует право и истинную философию, обладают верховной властью или пока те, кто облечен властью высшим провидением, сами не станут истинными философами». Вопрос в том, кто должен править? Короли, которые могут стать философами? Или философы, которые когда-нибудь становятся королями?

Я думаю, что сейчас мы сталкиваемся с подобного рода дилеммой, когда мы рассматриваем свои собственные проблемы будущего миропорядка. Должны ли мы сделать технологов королями? Какой наказ мы дадим им, касающийся основ нашей демократии? Причиной провала миссии Платона в Сиракузах является не просто неудача истинного ученого, представившего свои идеи не в унисон с реальностью. Скорее всего, это отражало кризис. Сбалансировать темперамент, необходимый для управления, является наиболее сложным видом подобной деятельности. Великие государства приобретают свои необычные черты не в последнюю очередь потому, что несоответствия между правящими мужами, их инстинктами и их временем также необычны. Наполеон в постреволюционной Франции. Бисмарк во время индустриализации Германии. Су Дунпо, который привел Южный Сун к величию в одиннадцатом веке. Принимая во внимание сложность достижения такого соответствия, возможно, станет очевидным, почему история так часто сталкивается со злом и почему Платон не стал демократом. Он понимал, как тяжело достичь идеала в республиканском способе правления и насколько бдительны мы должны быть в случае его легкого достижения. Философ-любитель может мечтать о совершенном сиракузском правительстве: грамотном, открытом для иностранных идей и торговли, умело сохраняющем баланс между привилегиями власти и тяжелыми обязанностями, связанными с нею. А реальность – король-убийца. Это пространство расхождений между идеалом и реальностью, по мнению Платона и Сократа, должна заполнить философия.

Рассматривая пропасть между тем, где мы находимся сейчас – в разрывающемся, бьющемся изо всех сил порядке, конфликтующем с новыми механизмами власти, чье содержание, скорость и инстинкты чужды нам, в качестве задачи мы определяем, как лучше заполнить пространство между нашей нынешней действительностью и тем, куда мы намерены идти. Во времена Платона и Сократа и вплоть до начала эпохи Просвещения было вполне естественно, что их внимание было сосредоточено на воспитании королей. Это, в конце концов, то, где была расположена большая часть власти. И это было определяющим фактором: правитель хороший или плохой? Но мы воспринимаем наш мир сбалансированным иначе. То, кто или что будет решать наше будущее, я думаю, является не только нашими правителями. Это и качество самих граждан. Большая часть нашего будущего будет решаться высококонцентрированными, коммуникационными системами, которые формируют среду очень высоких скоростей и интегрированы с ускоряющим искусственным интеллектом. Мы готовимся, в некотором смысле, быть покоренными этими системами и их владельцами. Нашей лучшей формой защитой будет не ожидать мудрых лидеров. Они вряд ли возникают сами по себе из системы, сконструированной для старого порядка. Имеет смысл просто избавиться от многих запутавшихся лидеров, которых мы наблюдаем, хотя это будет достаточно трудно. Любая стратегия, основанная на надежде на лучшее руководство, является достаточно рискованной для нас. Лучше, я вас уверяю, полагаться на самих себя, использовать наследие Просвещения – революции, которая сделала нас гражданами, а не субъектами воздействия, гарантировать, что нас не обратят в субъекты еще раз с помощью тех сил, которые мы не можем понять и которые нам не удается контролировать. В торге нашей свободы в обмен на удобства мы тратим это наследие столь быстро, столь слепо.

Было бы достаточно просто заявить, что все мы должны стать более технически образованными, что нам нужны новые версии платоновской Академии, где мы станем учить наших детей, наших лидеров и нас самих особенностям управления в век глобализации. В конце концов, если мы хотим предотвратить тотальное разрушение машинами, Новой Кастой и прочими опасностями века коммуникаций, нам следует знать, чем они занимаются. Потребность в дополнительных технических знаниях для всех нас бесспорна и очевидна. Как я уже говорил, одной из наших проблем является то, что мы живем в эпоху лидеров, которые, если быть честным, не имеют должных технических инстинктов, которые востребованы Седьмым чувством, оперируют аналитическими данными, которые не в полной мере соответствуют обычным, повседневным требованиям цифрового мира, используют небезопасные пароли для своей собственной электронной почты, не проявляют инстинктов сжатого пространства и времени. Для поиска ответов на те масштабные политические вопросы современности, как ведение войн или восстановление упавшей экономики, они не подходят. Нам необходимо определение нового политического эстеблишмента, обладающего ощущением высокоскоростных, сетевых волокон глобального топологического ландшафта, который сможет сформировать наше будущее. Нам нужны мужчины и женщины, которые смогут уверенно управлять информационными сетями в борьбе с сетевыми опасностями.

Технические знания, конечно, жизненно необходимы. Но я не думаю, что будет их не хватать там, куда мы придем. Нам нужно больше академий по кодированию компьютеров и лучшее образование, касающееся сетевых решений. Я также не думаю, что дефицит запчастей создаст серьезные проблемы. Скорее всего, учитывая уникальное состояние будущего, человек может подвести нас. Я уверен, что в ближайшие годы мы услышим, что все будет замечательно в том случае, если мы позволим членам Новой Касты взять ответственность на себя, полагаясь на свои бескровные технологические инструменты. Это будет катастрофой. Эти революционеры являются важной частью истории человеческого прогресса, но они в одиночку не смогут написать главы нашего будущего. Если их попросят оказать содействие нашему правительству, они, вероятно, в конечном итоге потерпят фиаско и приведут нас, как проспартанские родственники Платона, к ужасной диктатуре. Это лишь команда приятелей, убежденных, что они могут удержать все под контролем, которые быстро окажутся перегружены влиянием человеческого фактора, дикой сетью thumos и затем опустятся до убийственного безумия. Они будут использовать технологию для того, чтобы манипулировать нашими голосами на выборах, нашей точкой зрения и нашими страстями – так же, как они могли бы холодно манипулировать возможностями получения донорских органов, новостей или финансовой безопасности. «Одна из главных причин, почему большинство компьютерных программ настолько несовершенны, состоит в том, что они не разработаны окончательно, а пока являются продуктом инженерии, – писал программист и предприниматель Митч Капор. – Конструкторы часто уделяют больше внимания внутренней конструкции программы, чем ее внешнему дизайну». Подобное свойство «черного ящика», стремление к эффективности в качестве конечной цели для кода, для внутреннего дизайна, для закрытых систем управления, является опасным для человеческих чаяний свободы и прозрачной политики.

Что остается? Ожидать, что наши нынешние лидеры доберутся до сути? Я боюсь, это маловероятно. Дело не только в том, что они продолжают оперировать устаревающим инструментарием индустриальной мощи с пугающей уверенностью. Нет, их неудачи, которые, как кажется, не сильно их смущают, менее опасны, чем то, в чем они могут добиться успеха: контроль, наблюдение, ограничение свобод во имя безопасности. Эти лидеры в восторге от того, как новые инструменты могут быть использованы для расширения господства системы, которая служит их интересам. Страх, что такие инструменты могут однажды обратиться против них, приглушен невежеством и жадностью, видением, которое не распространяется далеко за пределы понимания: что я буду иметь с этого? Таким образом, мы видим наше будущее не в наших руках, а, вместо этого, во власти двух групп: одна невежественна в вопросах глобальных сетей, а другая невежественна в вопросах, касающихся человечества. Единственным рецептом в этом случае является самообразование. Нам необходимо развивать чувствительность, которая позволит нам видеть, несмотря на эти манипуляции, а затем действовать. Чувственное восприятие преимуществ технологии и исторических закономерностей должно присутствовать в наших расчетах. Именно чувственное восприятие человечности будет служить нам лучше всего в технический век. Это то, чему старые политические механизмы или новые интеллектуальные машины не способны соответствовать.

Одними из самых известных «ворот», которые Платон и Сократ рисовали вокруг воображаемой ими идеальной и совершенной республики, было подобие электрической защиты против, как это ни странно, поэтов. Как объяснял Сократ в «Республике», поэты «калечат мысли тех, кто их слышит». Поэзия явилась философам в облике пагубнаой силы, инъекции страсти и безумия, вызвавшей в сердце судороги и отвлекающей разум. Поэзия была последним, в чем нуждалось новое государство. «Поэзия не должна восприниматься как серьезная вещь, обладающая истиной, – предупреждал Сократ, – но человек, который слушает стихи, должен быть осторожным, опасаясь за свое состояние». Таким образом, великолепные сочинения Гесиода «Труды и дни» стали запрещены. Гомер запрещен. В поэзии всегда было чувство волшебного, ощущение, что это ключ к чему-то, тесно связанному с человеческой тайной. Для меня не было неожиданностью вновь обратить внимание на то, когда я вернулся к прочтению книги Тьюринга «Вычислительные машины и разум», что самое первое, о чем великий математик мечтал, – дать задание цифровому разуму: «Сочини мне сонет».

Сократ и Платон держали за «воротами» поэтов своей республики, потому что им была известна чувственная сторона души человека, которую может затронуть стихотворение. Трудно их винить в этом. В конце концов, они были одними из первых западных умов, попытавшихся рассеять мракобесие, суеверия и софистику. Без их логики и усилий не было бы ни Аристотеля, ни науки, ни ощущения того, что наш мир является предсказуемой машиной. Доверие к философии, которое для них означало толчок к облачению мира путами политики, требовало отстранения от поэзии и мистицизма, как условия возможности действий или легитимности. Но в полной ли мере они добились успеха? Если бы они потерпели неудачу, мы бы до сих пор находились во мраке невежества. Мы вряд ли остались бы людьми.

Я уже говорил, что когда я впервые приехал в Китай более десяти лет назад, я обнаружил так много вещей, которые меня озадачивали. Но первым в этом списке была особенность древней китайской политической жизни. На протяжении тысяч лет великие поэты и художники одновременно были императорами или политиками. Су Дунпо, например, чиновник, который превратил город на озере Ханчжоу в один из великих культурных центров человеческой истории, также был известен как один из самых уважаемых поэтов Китая. Каллиграфия императора Цяньлун династии Цин характеризуется необыкновенно утонченной ритмичностью. Дело не только в том, что мы не можеи рассчитывать, что западный политический деятель сможет заняться великим искусством или в состоянии генерировать интересные идеи или проявить талант писателя. Дело в том, что многими из наиболее важных китайских политических документов являются картины гор или рек, и даже письма, написанные высокопоставленными чиновниками, часто оценивались как большое искусство. Почему так?

Моя первая встреча с этим странным сочетанием искусства и власти вызвала предсказуемую реакцию представителя западной цивилизации: удивительно, сколько «людей Ренессанса» было в Китае, подумал я. Этим официальным лицам присуще так много разных талантов! Я не понимал, что эти люди на самом деле не обладали множеством из них по крайней мере, в той мере, что я мог понять. Они не были мужами Ренессанса. На самом деле они просто были другими, работающими на более высоком уровне. Они освоили главное правило – необходимость культивирования тонко настроенной внутренней энергии – инстинкта достаточно мощного, чтобы быть превращенным с одинаковой легкостью в каллиграфию или в боевые движения. Выработке такого рода умений требовалось время. Оно требовало концентрации внимания – «нож в ногу» Су Циня. И требовало веры, что просветление совершится. Они располагали тысячилетней историей в качестве доказательства. Как только совершался этот прорыв к внутреннему знанию, как только они развивали тонкую чувственность к основному потенциалу власти, они могли вложить его во что угодно. Ведение войн. Консультирование князей. Ловля рыбы. Сочинение поэм.

Из этого мы можем извлечь урок и для себя. То, что позволяет найти ответ на политический вопрос, заданный некогда Платоном, и наш собственный: кто должен править? Мы чувствуем себя подавленными в наше время. Требуется так много освоить. Современная война. Комплексная политика. Радикальные реформы экономики. Замена старых технологий на новые, прежде чем мы сможем понять их. Результат каждого из перечисленного не будет достигнут за счет неожиданного успеха. Мы должны развивать общий, основополагающий инстинкт, новый темперамент, который я назвал Седьмым чувством. И, сделав это, мы можем вести войны, писать стихи, создавать цивилизации, чтобы быть готовым ко всему, что может нас ждать впереди. Наше самое сокровенное ожидание в соревновании со всеохватывающими компьютерами и теми, кто контролирует их, лучшая защита нашей свободы и процветания вместо безумия, кроется не в технологии. Нашим самым эффективным оружием будут не бомбардировщики, или беспилотные летательные аппараты, или наша финансовое могущество. Оно будет заключаться в нашей собственной человечности. Мы должны признать, что нас окружат «воротами» (Гейтлэнд) во всех измерениях, известных нам: скоростью, искусственным интеллектом, Новой Кастой. Нас будет разрывать новая динамика глобальной сети, нас разместят на топологиях, в которые мы вряд ли сможем разобраться. Наша будущая борьба будет заключаться не в том, будем ли мы захвачены. Речь пойдет о сроках этого захвата, и именно в этом будут проявляться главные вопросы политики. И все, что связано с сохранностью того, что вы любите и о чем заботитесь, будет сопротивляться крушению старшего порядка.

Все, что ожидает нас впереди, будет обусловлено политикой. Мы уже установили, что коммуникации изменяют характер объекта. Что верно для телефона или медицинского устройства, оружия или валюты, так же верно и для волеизъявления в ходе выборов. Или для гражданина. Природа, сущность объекта меняется посредством коммуникаций. Старое платоновское понятие идеального государства деформируется, расширяясь в пределах, которые мы способны описать, используя старый язык. Как именно следует управлять будущим государством? Какие виды строительных лесов потребует жизнь в эру коммуникаций? Решение этих задач ограничено тем, что, пока мы сохраняем свой статус сетевого подключения, мы не в полной мере знаем или понимаем, что это за связи. В определенные моменты нам кажется, что мы привязаны к чему-то действительно чудесному, в другие минуты нам видится связь с чем-то ужасным. И пока мы подключены, изменения в этой части системы неизменно повторяются в течение нашей жизни. Легче нам от этого не становится. Мы, как мы знаем, движемся к эре еще большего охвата коммуникаций. В эру, в которой компьюторы и сети будут иметь возрастающую власть, и во многом потому, что мы сами им ее передали. Для нас было бы более целесообразным вспомнить известный урок истории: общества разрушаются, когда они наполняются силами, к которым оказались не подготовлены.

Эти динамичные столетия, с силой молота прорвавшиеся сквозь века Реформации, Научной революции, Просвещения и затем Промышленной революции, явились учебным пособием для нас. Перераспределение власти и финансовых ресурсов из рук меньшинства к большинству потребовало насильственного сноса старых сооружений, которые были достаточно прибыльными, созданными и освоенными теми немногими основателями. Управление одним человеком миллионами, лишь связанное с его наследственным происхождениеим, не имеет больше смысла. Но как заставить отказаться от этого? Это требовало обезглавливания, в некоторых случаях буквального, но символического повсеместно. Старые главы правительств были отлучены от власти с помощью лезвия. Последние шесть веков не были ничем иным, кроме как рассуждениями о свободе, ее цене и ее наградах. Мы стали свободнее, чем мы когда-либо были, в известном смысле. В тот же самый момент мы в большей степени стали опутаны, чем наша политическая философия предполагала. Власть смещается от институтов и идей, построенных в интересах свободы, к тому, что было построено для ограждения, коммуникаций, для больших скоростей, а также для уровня интеллекта, находящегося за пределами человеческого понимания, какого требует подобного рода сложность. Это подчинит наши голоса, наши деньги и наши идеи с той же неумолимой эффективностью, как и девяносто пять тезисов Лютера однажды разрушили неверно выстроенные привычки католической церкви, или так же, как американские и французские революции выстраивали новые политические порядки, или способом, которым Ганди и Мандела оказали смертельное разрушающее воздействие на примитивную политику своих стран. Без каких бы то ни было исторических противоборств.

Мы знаем, что всякая политическая система, не соответствующая распределению внутренних сил общества, которое она пытается регламентировать, нежизнеспособна. Феодальный порядок не смог пережить давления свободы. Вопрос, который мы должны рассмотреть теперь, – может ли демократия противостоять захвату, массированной концентрации власти, искусственному интеллекту? Или наступает вялотекущее время неэффективных реакций, выражающихся в народном голосовании, неадекватных ожидающим нас впереди сложностям? Станет ли слишком легко и слишком заманчиво манипулировать общественным мнением, используя новые инструменты искусственного интеллекта и сетей? Описывая эпоху Просвещения, государственный деятель Леон-Мишель Гамбетта объяснял, что целью политики во времена политических требований и освобождения было «в большей степени отгородить политическую и социальную систему от идей просвещения, нежели от целей достижения больших благ». А если Хиллис был прав в том, что Век Разума был лишь проблеском? Какая политика будет избрана, чтобы соответствовать искусственному интеллекту и высокоскоростным сетям? Какова будет цель политики? Когда первый искусственный интелект будет баллотироваться на пост президента по причине безупречной эффективности? Как в этом случае вы будете голосовать? Когда политические партии столкнутся в борьбе своих искусственных интеллектов, чтобы получить наши голоса? Как вы будете решать, кого поддержать?

Нам было бы интересно вновь вернуться к идее гражданства. Для чего она? Что требует? Чтобы ответить на эти вопросы в эпоху освобождения, потребовалось столетия спустя то, как Лютер начал Реформацию. Мы, возможно, будем иметь в распоряжении не более нескольких десятилетий, чтобы решить, что это может означать в эпоху сетевого охвата. Имеет ли еще смысл установка географических и возрастных критериев для голосования? Один человек – один голос? Есть ли более совершенная и более справедливая система для решения сложных экономических проблем? Сети в большинстве случаев требуют обновленных подходов к определению власти. Какие виды дизайна сети будут наиболее эффективными, наиболее законными? Знаменитый вопрос Канта 1780-х годов: что такое просвещение? – является одним из тех, на который мы еще не ответили в полной мере и не решили. Новая проблема: что такое сетевое опутывание? – является одной из тех, которую мы только начинаем рассматривать. Ответ на этот вопрос в значительной степени будет найден благодаря усилиям, которые должен совершить каждый из нас.

Наша политика должна быть видоизменена. Наша система образования еще не интегрирована с новым веком. Каждый бизнес должен претерпеть изменения, нравится вам это или нет. Наша внешняя политика, как мы уже видели, требует нового видения и вектора развития. Наша армия нуждается в переоснащении. Наши города требуют перестройки, поскольку они стали проводниками коммуникаций. Наша экономика, наша занятость, наши традиции ведения торговли, наше управление системой защиты природы и окружающей среды – все это будет изменено коммуникациями безвозвратно. Нас самих также ожидает переворот в эстетике: виртуальные произведения искусства, новая музыка, перекликающаяся со звуком меняющегося мира, новая литература. Столкнувшись с фундаментальным вопросом революционной эпохи: что мне делать? – мы увидим, что ответом является: что бы вы хотели. Что я имею в виду: жизнь в революционную эпоху дает нам в работу, независимо от того, что мы собираемся делать, потенциал для долговременной перспективы. Если вы хотите создать новую политическую партию, развивать взаимосвязанные структуры ухода за пожилыми людьми, использовать сети для более эффективного распределения иностранной помощи, исследовать способы, при которых сетевая экономика может решить проблему угрозы исчезновения среднего класса – эти и бесчисленное множество других проблем в настоящее время рассматриваются в историческом аспекте. Какой же это подарок. Быть свободным от необходимости сохранения старого миропорядка. Стать вовлеченным в работу строительства нового. Найти смысл в том, на что мы тратим наше время на Земле.

Несколько сотен лет спустя настанет момент, когда ответы на фундаментальные вопросы, с которыми мы сейчас сталкиваемся, будет найдены. Будут построены великолепные новые компании. Правительства падут. Творческие идеи в политике будут избираться в условиях противоборства. Ежедневные радости жизни – влюбленность, творческие поиски Пикассо, наблюдение за падением снега в парке Лондона – будут по-прежнему сопутствовать вам на фоне эпохальных изменений. В течение этого долгого перехода мы, наши дети и дети наших детей, безусловно, часто будут спрашивать: «Сможет ли развитие технологий сократить разрыв между идеальным обществом, к которому мы могли бы стремиться, и тем проблемным, в котором мы сейчас живем?»

Или технологии могут этот разрыв только увеличить? Моя точка зрения состоит в том, что противоядие для машин и их новой логики не в том, в конце концов, чтобы сделать себя больше похожими на компьютерные устройства. Индивидуальное шифрование не сможет защитить нашу частную жизнь. Мобильность не обеспечит нашу свободу. Скорость не обезопасит нас. Мы должны смотреть глубже. Мы должны развивать новый инстинкт, тот, который предназначен для того, чтобы сделать нас более человечными, а не только более технологичными.

Мы стараемся совершить свое движение от хаоса к порядку. С этой проблемой столкнулся Платон, когда направился на Сицилию. Это то, о чем размышлял Мастер Нань, когда он покинул горящий Чэнду и направился в храм на горе Имэй в 1943 году. И это также должно оставаться в наших умах. Цель – вытянуть мира из хаоса отражает, как мне кажется, суть того, что значит быть человеком. Все во вселенной, вся жизнь, в конечном итоге является порождением беспорядка. Цели великих умов и обычных людей схожи и являются попыткой прийти к спокойствию, тишине, прогрессу и даже красоте на фоне этой подвижной энергии. Наша цель состоит в том, чтобы помочь другим спастись от хаоса, улучшить свою жизнь и достичь собственного счастья. Это переход из состояния дикости к тому, чтобы создать что-либо новое, является точкой отсчета начала в новой политике, философии, а также в информационных сетях и искусстве.

Революция, даже сейчас, развивается, окружая нас. Конечно, это страшно. Но одновременно это и замечательно. Можете ли вы обнаружить, что это действительно так? Сразу сейчас? Может быть, страх является правильным ответом на этот вопрос. Но пребывание в состоянии страха, совершая нелепые и глупые поступки, свойственные испуганным людям, приведет нас лишь к пропасти. За всей этой потревоженной дикостью, звучащей в заголовках – моментальный террор, политический экстремизм, экономическое неприличие – скрывается сила. Эта сила может быть покорена. Она может быть использована. И не только обособленной небольшой группой. В конце концов, сформируется какой-то порядок. Однако не по своей собственной воле. Кто его создаст? Почему? Мир постоянно меняется. Существуют продолжительные периоды печали и трагедии. Однако на фоне постоянных перемен проявляется четкая, подающая надежды история. Это история человечества. Подумайте о том, как часто, в моменты тоски или революций, влияние философии, искусства или науки выдерживало это противостояние. В Вене в 1900 году проросли семена фашизма Гитлера. В то же самое время, в которое формировались искусство и музыка венского модерна. Густав Климт. Густав Малер. Их работы трогают нас сейчас более, чем сто лет назад. Фашисты или художники? Незначительные бои в Афинах во времена Платона в целом забыты, а его философия бессмертна. Подумайте о Бетховене конца весны 1809 года. Наполеон обстреливает Вену. Композитор устремляется к своему шурину в подвал и прячет голову под подушку, чтобы сохранить остатки своего слуха от бомбардировки. Но даже тогда, в тот самый момент, он пишет своему издателю, запрашивая сочинения Баха и книги лирической поэзии Шиллера, которые впоследствии лягут в основу его Девятой симфонии. Или вспомните о Нане Хуайцзине, который оставил свою горную армию и хаос Китая военного времени, чтобы отдаться, вопреки всему, бесшумной медитации.

Вот что познали все эти персонажи: революции не предназначены для уничтожения человечества. Они приходят, чтобы обеспечить его развитие. Но как непроста эта работа – нести нас всех вперед? Это наша ответственность. Она требует мужества. Она означает не убегать, а двигаться с небывалой энергией. Это не становится менее пугающим, когда вы все осознаете. Изменяются только ваши чувства. Когда вы поймете, что у вас есть Седьмое чувство? Это произойдет в тот момент, когда вы почувствуете, что у вас нет выбора, кроме как двигаться вперед, чтобы сформировать и использовать какой-то элемент этого нового сетевого мира, а не просто получить его. Я имею в виду ту долю секунды, когда новая чувственность просыпается, и вы узнаете, насколько время быстротечно, и вы почувствуете этот физический толчок вперед. «Действуй, – решите вы. – Прямо сейчас!»