Homo Roboticus? Люди и машины в поисках взаимопонимания Маркофф Джон

Глава 3

Трудный год для человечества

«С помощью этих машин мы можем делать любую бытовую технику», – с энтузиазмом говорил Бинне Виссер, инженер завода Philips, участвовавший в создании роботизированной линии для сборки электробритв. Он подчеркивал, что в принципе на ней можно производить что угодно вплоть до смартфонов и компьютеров{22}.

Выпускающий электробритвы завод компании Philips в Драхтене, в трех часах езды на поезде на север от Амстердама по совершенно плоской сельской местности, дает ясное представление о том, какими будут роботизированные производства: полностью автоматизированные, не нуждающиеся в искусственном освещении заводы уже реальность, правда пока в ограниченных масштабах. Завод в Драхтене внешне выглядит как реликт тех времен, когда Philips, начинавшая с выпуска электрических лампочек и электронных ламп, превратилась в один из крупнейших в мере брендов бытовой электроники. Проиграв новым азиатским компаниям в таких областях, как производство телевизоров, Philips осталась одним из ведущих мировых производителей электробритв и ряда других потребительских товаров. Подобно многим европейским и американским компаниям она переместила значительную часть производства в Азию, где трудовые ресурсы менее дорогие. Поворотный момент наступил в 2012 г., когда Philips отказалась от переноса сборки высококачественных бритв в Китай. В условиях падения цен на датчики, роботы и камеры и роста стоимости транспортировки готовых товаров на рынки за пределами Азии Philips построила почти полностью автоматизированную сборочную линию на заводе в Драхтене. Потерпев поражение во многих категориях бытовой электроники, Philips для сохранения места на рынке решила инвестировать в производство докомпьютерных бытовых электроприборов.

Ярко освещенный одноэтажный завод представляет собой модульную мегасистему, состоящую из 128 станций с манипуляторами – сверкающих прозрачных кабин, которые связаны с соседями транспортером и напоминают заключенный в стекло аппарат для изготовления попкорна в кинотеатрах. Сама производственная линия – большое и очень сложное сооружение. Каждый из 128 манипуляторов оснащен уникальным «рабочим органом», специальной рукой для выполнения одной операции с двухсекундным интервалом. Одна операция каждые две секунды означает 30 бритв в минуту, 1800 в час, 1 304 000 в месяц и ошеломляющие 15 768 000 в год.

Роботы удивительно проворные, и каждый из них непрерывно повторяет свою операцию. Один манипулятор, например, захватывает пару пятисантиметровых проводков толщиной с зубочистку, точно сгибает и аккуратно вставляет зачищенные концы в крохотные отверстия в печатной плате. Берет он их из питателя – качающегося стола. В приемник проводки загружает техник, а потом они высыпаются на ярко освещенную поверхность под контролем расположенной сверху камеры. Как будто играя в бирюльки, рука робота захватывает по паре проводков. Если проводки лежат беспорядочно, она встряхивает стол, разделяя их, а затем захватывает еще пару. Вокруг производственной линии постоянно порхает небольшая группка людей. Команда инженеров в синих лабораторных халатах обеспечивает работу системы, подавая исходные материалы. Кроме них есть еще «группа специалистов», которые дежурят круглосуточно, поэтому ни один манипулятор не простаивает более двух часов. В отличие от заводов, где работают люди, линия никогда не спит.

Завод оснащен американскими манипуляторами, а программы для них написали европейские специалисты по автоматике. Можно ли считать это предвестником эпохи, в которую работающие на конвейере люди исчезнут? В отличие от Китая, где миллионы рабочих занимаются ручной сборкой аналогичных потребительских товаров, завод в Драхтене производит устройства механически более сложные, чем смартфоны, без использования живого труда. На заводе-автомате сбои случаются редко – система устойчива к небольшим ошибкам. На станции ближе к концу линии небольшие пластиковые элементы корпуса бритвы устанавливаются на место под вращающейся бритвенной головкой. Одна из деталей, похожая на медиатор, падает на пол. Линия не останавливается. Датчик на следующей операции обнаруживает отсутствие детали, и бритва передается на участок доработки. Единственные люди, непосредственно работающие на сборочной линии, – восемь женщин на последнем этапе процесса, контроле качества. Он пока еще не автоматизирован, поскольку человеческое ухо до сих пор превосходит все другое при определении правильности работы бритвы.

Автоматизированные заводы с выключенным освещением или роботизированные безлюдные производства создают ситуацию из разряда «есть хорошая и плохая новость». Для минимизации себестоимости товаров имеет смысл размещать заводы или возле источников сырья, трудовых ресурсов и энергии, или возле потребителей конечной продукции. Если роботы могут производить что-то дешевле, чем рабочие, то выгоднее приблизить предприятия к обслуживаемым рынкам, а не к источникам дешевой рабочей силы. И действительно, предприятия уже возвращаются в Соединенные Штаты. Завод по производству солнечных батарей компании Flextronics сейчас расположен в Милпитасе, к югу от Сан-Франциско, где большая растяжка гордо провозглашает: возвращаем рабочие места и производство в калифорнию! Но если пройтись по ее заводу во Фримонте, быстро понимаешь, что речь идет скорее о высокоавтоматизированных производствах, а не о создании рабочих мест – меньше десятка рабочих заняты на сборочной линии, выпускающей почти столько же батарей, сколько сделали бы сотни работников на предприятии компании, если бы она разместила его в Азии. «В какой момент цепная пила приходит на смену легендарному лесорубу Полу Баньяну? – спрашивает руководитель Flextronics. – Все определяет цена, и мы вплотную подошли к этому моменту»{23}.

На заре информационной эры Норберт Винер серьезно задумывался о темпах и последствиях автоматизации. Летом 1949 г. он написал трехстраничное письмо Уолтеру Рейтеру, главе профсоюза работников автопромышленности, где говорил, что отказался консультировать компанию General Electric по вопросам проектирования автоматизированного оборудования. GE обращалась к нему в 1949 г. дважды с просьбой прочитать лекцию и проконсультировать в области создания сервосистем для автоматизации производственных операций. Сервосистемы использовали обратную связь для точного контроля положения детали, что было принципиально важно для станков-автоматов, которые должны были прийти на заводы после Второй мировой войны. Винер отклонил оба предложения по этическим соображениям, хотя и понимал, что другие, не столь ответственные специалисты, скорее всего, возьмутся за это.

Винер, сильно обеспокоенный возможностью ужасных «социальных последствий», безуспешно пытался связаться с другими профсоюзами, и его разочарование явно сквозит в письме Рейтеру. К концу 1942 г. Винеру стало ясно, что в компьютер можно заложить программу управления заводом, и его волновали последствия появления «сборочной линии без людей»{24}. Программное обеспечение еще не стало силой, которая, по словам пионера области браузеров Марка Андриссена, «съест весь мир», но Винер ясно обрисовал Рейтеру дальнейший ход событий. «Разработка машинного оборудования для конкретной производственной цели – задача, требующая высокой квалификации, но не механического подхода, – писал он. – Это достигается путем „закладывания программ“ во многом подобно тому, как на современных вычислительных машинах»{25}. Сегодня мы называем это программированием, и программное обеспечение приводит в движение экономику и фактически современное общество во всех его аспектах.

В письме Рейтеру Винер предсказывал апокалипсис. «Это устройство предельно гибко и пригодно для массового воспроизведения, что, без сомнения, приведет к появлению заводов без рабочих, например автоматических линий сборки автомобилей, – писал он. – При нынешней организации промышленного производства безработица, обусловленная автоматизацией заводов, может быть только катастрофической». Рейтер ответил телеграммой: Очень заинтересовался вашим письмом. Хотел бы обсудить его с вами как можно скорее.

Рейтер ответил в августе 1949 г., но только в марте 1951 г. эти два человека встретились в одном из бостонских отелей{26}. Они посидели в ресторане и договорились создать «Ассоциацию труда, науки и образования»{27}, призванную предотвратить наихудшие последствия грядущей эпохи автоматизации для промышленных рабочих страны. К моменту их встречи Винер уже опубликовал книгу «Кибернетика и общество», где указывал на потенциальные преимущества автоматизации и предупреждал о возможности порабощения человека машинами. В первой половине 1950-х гг. он был востребованным лектором национального масштаба и постоянно высказывал свои опасения относительно безудержной автоматизации и концепции роботизированного оружия. После встречи Винер с энтузиазмом говорил, что «нашел в г-не Рейтере и его соратниках именно то более универсальное профсоюзное мышление, которого так не хватало при первых попытках вступить в контакт с профсоюзами»{28}.

Винер был не единственным, кто пытался привлечь внимание Рейтера к опасностям автоматизации. Через несколько лет после встречи с Винером Рейтер получил аналогичный сигнал от председателя профсоюза рабочих автомобильной промышленности UAW 1250 Альфреда Гранакиса. Тот столкнулся с сокращением рабочих мест после внедрения новых технологий автоматизации на двигателестроительном и литейном заводе Ford Motor в Кливленде, штат Огайо. По его словам, завод «был реальным прообразом полностью автоматизированного предприятия в автомобильной промышленности». Он спрашивал: «Что делать со всем этим в экономическом плане, Уолтер? Я очень опасаюсь появления экономического "Франкенштейна", рождению которого я способствовал. По моему мнению, профсоюзное движение ждут трудные времена»{29}.

Винер порвал с научным и техническим истеблишментом несколькими годами ранее. Свою убежденность в обязательности этики в науке он выразил в письме в журнал Atlantic Monthly, озаглавленном «Ученые-бунтари» и опубликованном в декабре 1946 г., через год после потрясения, связанного с бомбардировкой Хиросимы и Нагасаки. Это письмо содержало ответ Винера на предложение компании Boeing провести технический анализ эффективности управляемых ракет во время Второй мировой войны: «Использование управляемых ракет может привести только к неизбирательному уничтожению гражданского населения другой стороны и не обеспечивает ему никакой защиты»{30}. Там же поднимался вопрос о моральной стороне применения атомных бомб: «Обмен идеями, составляющий одну из великих традиций науки, должен, конечно, иметь определенные ограничения, когда ученый становится арбитром в вопросе жизни и смерти»{31}.

В январе 1947 г. Винер отказался от участия в симпозиуме по вычислительной технике в Гарвардском университете в знак протеста против использования систем в «военных целях». В 1940-е гг. и компьютеры, и роботы были предметом научной фантастики, и можно лишь удивляться, насколько отчетливо Винер предвидел эффект применения технологий, который проявляется только сегодня. В 1949 г. New York Times предложила Винеру изложить свои взгляды на то, «какой будет машинная эпоха», как выразился бессменный редактор воскресного выпуска Лестер Маркел. Винер принял приглашение и написал черновую статью. Легендарно автократичному Маркелу она не понравилась, и он попросил переделать ее. Винер написал новый вариант, но из-за ряда накладок, характерных для доинтернетовской эпохи, статья так и не вышла в свет в то время.

В августе 1949 г., как свидетельствуют документы Винера, хранящиеся в Массачусетском технологическом институте, Times просила его вновь выслать первый вариант статьи, чтобы объединить со вторым. (Не ясно, почему редакторы отклонили первый вариант.) «Не могли бы вы выслать мне первый вариант, и мы посмотрим, можно ли сделать из двух статей одну, – писал руководитель редакции воскресного выпуска, которая в то время была самостоятельной. – Возможно, я ошибаюсь, но мне кажется, что во втором варианте вы опускаете часть ваших лучших идей». Винер, который в тот момент путешествовал по Мексике, ответил: «Я считаю, что первая версия моей статьи уже дело прошлого. Чтобы получить ее в моем офисе в Массачусетском технологическом институте, потребуется масса писанины и отвлечение от дел целого ряда людей. Поэтому вопрос закрыт, и я отказываюсь от этого мероприятия».

На следующей неделе редактор Times вернул Винеру второй вариант, который в конце концов оказался в «Архивах и специальных собраниях» библиотеки Массачусетского технологического института и оставался там до декабря 2012 г., когда был обнаружен независимым ученым Андерсом Фернстедтом, занимавшимся наследием трех венских философов – Карла Поппера, Фридриха Хайека и Эрнста Гомбриха, работавших в Лондоне большую часть XX в.{32} В неопубликованной статье опасения Винера очевидны: «Эти новые машины движутся в сторону замены людей в принятии решений на всех уровнях, за исключением высшего, а не замены человека там, где требуется энергия и сила. Уже сейчас понятно, что такая замена окажет глубокое влияние на нашу жизнь».

Винер продолжал говорить о появлении заводов «без рабочих» и возрастании важности «закладывания программ». Он довольно отчетливо намекнул на теоретическую возможность и практические последствия обучения машин: «Ограничения подобной машины заключаются только в понимании целей, которые необходимо достичь, в потенциале каждой фазы процессов их достижения и в нашей способности логически определить комбинации этих процессов, необходимые для достижения целей. Грубо говоря, если мы можем делать что-либо в ясной и понятной форме, то это может сделать и машина»{33}.

На заре компьютерной эры Винер видел и прямо говорил, что автоматизация способна снизить ценность «рядового» работника предприятия до уровня «не стоит нанимать ни за какие деньги» и что «нас ждет предельно жестокая промышленная революция».

У него не только были мрачные предчувствия относительно компьютерной революции, он предвидел нечто еще более пугающее: «Если мы будем двигаться в направлении производства машин, которые обучаются и поведение которых изменяется с опытом, то нам нужно готовиться к тому, что каждая толика независимости, предоставляемая машине, будет превращаться в возможность неподчинения нашим желаниям. Джинн, выпущенный из бутылки, не вернется в нее добровольно, и у нас нет оснований рассчитывать, что они будут хорошо относиться к нам»{34}.

В начале 1950-х гг. Рейтер и Винер выдвинули идею создания «Ассоциации труда, науки и образования», но это партнерство не дало немедленного эффекта в какой-то мере из-за состояния здоровья Винера, а в какой-то из-за того, что Рейтер представлял часть профсоюзного движения США, которая считала автоматизацию неизбежным атрибутом прогресса, – профсоюзный лидер намеревался выторговывать экономические выгоды, играя на воздействиях технологии: «В конечном итоге с современными рабочими процессами придется смириться, получив за них компенсацию в виде увеличения времени досуга и творческого отдыха. В своем принятии автоматизации и новой технологии он, похоже, был полностью захвачен ростом эффективности как желанного и в общем нейтрального условия»{35}.

Предупреждение Винера все же высекло искру, но не в 1950-х гг., в десятилетие правления республиканцев, когда у профсоюзного движения было немного сторонников в правительстве. Только после избрания Кеннеди в 1960 г. и при его преемнике Линдоне Джонсоне партнерство Винера и Рейтера привело к рождению одной из немногих серьезных инициатив правительства США по решению проблемы автоматизации – в августе 1964 г. Джонсон создал комиссию для исследования влияния технологии на экономику.

Определенное давление оказали левые. Президенту было направлено открытое письмо от имени группы, называвшей себя Специальным комитетом по тройственной революции и включавшей среди прочих главу демократических социалистов Америки Майкла Харрингтона, соучредителя организации «Студенты за демократическое общество» Тома Хейдена, химика Лайнуса Полинга, шведского экономиста Гуннара Мюрдаля, пацифиста Абрахама Масти, историка экономики Роберта Хейлбронера, публициста Ирвинга Хау, борца за гражданские права Байарда Растина и кандидата в президенты от Социалистической партии Нормана Томаса.

Первой революцией, о которой писали они, была «кибернетизация»: «Началась новая производственная эпоха. Принципы ее организации настолько отличаются от принципов индустриальной эпохи, насколько принципы индустриальной эпохи отличаются от сельскохозяйственной. Кибернетическая революция стала следствием союза компьютеров и самоуправляемых машин. Это ведет к появлению систем практически неограниченной производственной мощности, которые требуют все меньше живого труда»{36}. В состав Национальной комиссии по технологии, автоматизации и экономическому прогрессу вошли такие яркие личности, как Рейтер, Томас Уотсон-младший из IBM, Эдвин Лэнд из Polaroid, экономист из Массачусетского технологического института Роберт Солоу и социолог из Колумбийского университета Дэниел Белл.

Выпущенный в конце 1966 г. 115-страничный отчет сопровождался приложением на 1787 страницах, содержавшим заключения внешних экспертов. Пол Армер из корпорации RAND представил 232-страничный анализ с предсказанием влияния информационных технологий. Сегодня мы видим, что заголовки разделов анализа совершенно правильны: «Компьютеры становятся более быстродействующими, миниатюрными и дешевыми»; «Вычислительные мощности станут доступными подобно электричеству и телефонам в наши дни»; «Сама информация станет дешевой и доступной»; «Компьютерами будет легче пользоваться»; «Компьютеры будут использоваться для обработки изображений и графической информации» и «Компьютеры будут использоваться для обработки текстов на естественных языках». Но в целом отчет придерживался традиционной кейнсианской позиции: «Технология ликвидирует рабочие места, не работу». Из этого следовал вывод, что технологическое замещение людей будет временным, но необходимым этапом на пути к экономическому росту.

Дебаты относительно будущей технологической безработицы стихли с оживлением экономики, в какой-то мере их оттеснила война во Вьетнаме, а послевоенные гражданские волнения в конце 1960-х гг. задвинули проблему еще дальше. Через полтора десятилетия после первых предупреждений о последствиях появления автоматизированных машин Винер обратил свои мысли к религии и технологии, оставаясь идейным гуманистом. В своей последней книге «Творец и голем» (God & Golem, Inc.) он попытался взглянуть на будущие отношения человека с машиной через призму религии. Обращаясь к аллегории голема, Винер указывал, что, несмотря на самые лучшие намерения, люди никогда не понимают до конца последствия своих изобретений{37}.

Стивен Хеймс, составитель биографий Джона фон Неймана и Винера, отмечает, что в конце 1960-х гг. он интересовался мнением ряда математиков и ученых о винеровской философии технологии. Общая реакция была такой: «Винер был великим математиком, но отличался эксцентричностью. Когда он пускался в рассуждения об обществе и ответственности ученых и выходил за пределы своей специальности, его просто невозможно было воспринимать всерьез»{38}.

Хеймс делает вывод, что социальная философия Винера задела за живое научное сообщество. Если бы ученые признали значение идей Винера, им пришлось бы пересмотреть глубоко укоренившиеся представления о личной ответственности, а делать это они не слишком хотели. «Продолжая род, человек создает человека по своему образу и подобию, – писал Винер в «Творце и големе». – Это своего рода аналогия акта творения, в процессе которого Бог создал человека по своему образу и подобию. Может ли что-то подобное происходить в менее сложном (и, может быть, более понятном) мире неживых систем, которые мы называем машинами?»{39}

Незадолго до ухода Винера из жизни в 1964 г. U. S. News & World Report задал ему вопрос: «Д-р Винер, есть ли опасность, что машины, т. е. компьютеры, однажды станут выше человека?» Он дал такой ответ: «Определенно существует такая опасность, если мы не займем реалистичную позицию. Опасность – это фактически интеллектуальная лень. Некоторые зачарованы словом „машина“ и не понимают, что машины могут, а чего нет и что можно оставить людям, а чего нельзя»{40}.

Только сейчас, через шесть с половиной десятилетий после публикации в 1948 г. «Кибернетики» Винера, вопрос об автономности машин стал не гипотетическим. В Пентагоне ломают головы над последствиями появления нового поколения самонаводящихся автономных средств поражения{41}, а философы бьются над «проблемой вагонетки» в стремлении осмыслить моральный аспект использования беспилотных автомобилей. В течение следующего десятилетия последствия создания автономных машин будут проявляться все чаще по мере того, как производство, логистика, транспорт, образование, медицинское обслуживание и связь все больше оказываются под контролем обучающихся систем, а не людей.

Несмотря на попытки Винера сыграть роль эдакого Пола Ревира[4], когда дебаты об автоматизации 1950–1960-х гг. стихли, страхи перед технологической безработицей ушли из общественного сознания и не возвращались практически до 2011 г. Подавляющее большинство экономистов соглашались с тем, что все это было, как они выражались, «ошибкой луддитов». Еще в 1930 г. Джон Мейнард Кейнс сформулировал общее представление о широком воздействии новой технологии: «Нас поразила новая болезнь, название которой некоторые читатели, возможно, пока не знают, но о которой они услышат еще не раз в ближайшие годы, – технологическая безработица. Иначе говоря, безработица вследствие того, что мы изобретаем средства сокращения потребности в труде быстрее, чем можем найти новое применение высвободившейся рабочей силе. Но это лишь временная фаза болезненной адаптации»{42}.

Кейнс одним из первых заметил, что технология – мощный генератор новых рабочих мест. Но то, что он называл «временным», на самом деле очень относительно. В конце концов, он также говорил, что в «долгосрочной перспективе» мы все умрем.

В 1995 г. экономист Джереми Рифкин написал книгу «Конец работы: Глобальное сокращение занятости и заря пострыночной эры» (The End of Work: The Decline of the Global Labor Force and the Dawn of the Post-Market Era). Сжатие сельскохозяйственной экономики и быстрый рост занятости в промышленности полностью подтверждали идею Кейнса о замещении, но Рифкин утверждал, что внедрение новых информационных технологий будет качественно отличаться от предыдущих волн автоматизации промышленности. Для начала он отметил, что в 1995 г. безработица поднялась в глобальном масштабе до самого высокого уровня со времен депрессии в 1930-х гг. и что в мире 800 млн полностью или частично безработных. «Реструктуризация производственной практики и непрерывный процесс замены людей машинами начали отрицательно сказываться на миллионах рабочих», – писал он{43}.

Вместе с тем число рабочих мест в Соединенных Штатах в течение десятилетия после публикации его книги выросло со 115 млн до 137 млн. Это означает, что численность занятых повысилась более чем на 19 %, в то время как население страны увеличилось только на 11 %. Более того, такие ключевые экономические индикаторы, как уровень экономической активности, отношение количества занятых к численности трудоспособного населения и уровень безработицы не свидетельствовали о появлении технологической безработицы. Очевидно, что все было не так однозначно, как рисовал Рифкин в своих черно-белых прогнозах. Например, с 1970-х гг. перемещение рабочих мест в страны с низкими производственными затратами и развитие телекоммуникационных сетей, позволившее транснациональным компаниям использовать белые воротнички в других местах, гораздо сильнее сказывались на внутренней занятости, чем автоматизация. По этой причине работа Рифкина, как и предупреждения Винера, не произвела должного эффекта.

После рецессии 2008 г. появились признаки новой и более широкой технологической трансформации. Белые воротнички были двигателем роста экономики США с конца Второй мировой войны, но ситуация стала меняться. То, что когда-то было стабильной офисной работой, начало исчезать. Привычные офисные функции попали в группу риска н фоне восстановления экономики в 2009 г. путем так называемого «выхода из рецессии без создания рабочих мест». По всем признакам впервые в истории под ударом оказались места работников умственного труда в средней части экономической пирамиды. Экономисты вроде Дэвида Отора из Массачусетского технологического института, проанализировав специфику изменения структуры рабочей силы, заявили, что экономика США «становится пустотелой». Она может продолжать расти внизу и вверху, но рабочие места среднего уровня, принципиально важные для современной демократии, исчезают.

Все больше свидетельств того, что технологии не просто вымывают рабочие места, а «понижают статус» работников. В ряде случаев высокопрестижные профессии обесцениваются в результате снижения стоимости информации и появления таких коммуникационных технологий, как глобальные компьютерные сети. Более того, впервые искусственный интеллект вторгается в сферу высококвалифицированной работы, покушаясь, например, на места юристов с зарплатой $400 в час и среднего юридического персонала с зарплатой $175 в час. Когда индустрия искусственного интеллекта вновь обрела импульс в начале 2000-х гг., стали появляться новые приложения на основе понимания естественного языка, подобные e-discovery для автоматической подборки необходимых юридических документов. Программное обеспечение скоро выйдет за пределы простой идентификации ключевых слов в электронной почте. Программы поиска электронных документов быстро развиваются и уже позволяют сканировать миллионы электронных документов, распознавать основные идеи и даже находить явные улики, т. е. свидетельства незаконной деятельности или неправомерного поведения.

Программные средства превратились в важный инструмент при судебных процессах против компаний, обычно требующих поиска необходимого материала среди миллионов документов. Сравнительные исследования показали, что машины могут не хуже, а то и лучше людей анализировать и классифицировать документы. «С точки зрения кадров в юридической сфере это означает, что множество людей, занимавшихся проверкой документов, больше не нужны, – говорит Билл Герр, юрист крупной химической компании, которому не раз приходилось на недели усаживать группы помощников для разбора документов и корреспонденции. – Люди устают, у них болит голова. У компьютеров – нет»{44}.

Наблюдение за тем, как технологии, подобные e-discovery, отнимают работу у юристов, подвигло независимого инженера и владельца софтверной фирмы из Кремниевой долины Мартина Форда написать книгу «Технологии, которые изменят мир»[5] (The Lights in the Tunnel: Automation, Accelerating Technology and the Economy of the Future), вышедшую в свет в конце 2009 г. По мнению Форда, влияние информационной технологии на рынок труда проявляется гораздо быстрее, чем считалось. Как профессионал в сфере программного обеспечения, он смотрел на проблему крайне пессимистично. Какое-то время голос Форда звучал одиноко, во многом подобно Рифкину с его «Концом работы» в 1995 г., но на фоне углубления рецессии и сложностей с объяснением отсутствия роста числа рабочих мест к нему вскоре присоединились технологи и экономисты, предупреждавшие о серьезности технологического скачка.

В 2011 г. два экономиста из Школы менеджмента Слоуна при Массачусетском технологическом институте – Эрик Бринолфссон и Эндрю Макафи подготовили обширное эссе под названием «Гонка с машинами: Как цифровая революция ускоряет инновации, повышает производительность и необратимо изменяет трудовые отношения и экономику» (Race Against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy). Их основной тезис выглядел так: «Цифровые технологии быстро меняются, а организации и профессии не успевают за ними. В результате миллионы людей оказываются не у дел. Их источники дохода и рабочие места ликвидируются, а положение становится хуже, чем до цифровой революции»{45}. «Гонка с машинами» была в духе самиздата выложена в интернете и подхлестнула дискуссию об автоматизации. Ее центральная концепция заключалась в том, что на этот раз из-за ускорения компьютеризации рабочих мест кейнсианского решения, т. е. появления новых сфер занятости, не будет.

Бринолфссон и Макафи, подобно Мартину Форду, отслеживают хронику все более широкого применения технологий, которые уже изменили характер работы или вплотную подошли к этому. Самой беспощадной в новой волне критических выступлений была, пожалуй, диссертация Дэвида Отора. Но даже ее автор стал осторожничать в 2014 г., когда вышел отчет, указывавший на усиление процесса «деквалификации» труда в США и снижение спроса на профессии, требующие когнитивных навыков. Его беспокоило, что это может быть свидетельством формирования нисходящей тенденции. Как утверждали Пол Бодри, Дэвид Грин и Бен Сэнд в рабочем докладе Национального бюро экономических исследований, последствием является вытеснение более квалифицированными работниками менее квалифицированных из состава рабочей силы{46}. Хотя у них и не было прямых данных о применении конкретных видов технологий, анализ последствий для верхушки пирамиды рабочей силы пугает. Они пишут: «Многие исследователи отмечали сильный и устойчивый рост спроса на высококвалифицированный труд в десятилетия, предшествовавшие 2000 г. По нашим данным, этот спрос начал снижаться после 2000 г. несмотря на то, что приток высокообразованных работников продолжал расти. Мы показываем, что в результате такого изменения спроса высококвалифицированные работники опустились на более низкий уровень в иерархии профессий и стали заниматься видами деятельности, традиционно осуществляемыми менее квалифицированными работниками»{47}. Так или иначе, несмотря на страхи относительно «конца работы» из-за появления машин, которые могут видеть, слышать, говорить и осязать, рабочая сила вела себя совсем не так, как если бы ее в ближайшем будущем ждал коллапс, обусловленный техническим прогрессом. На практике за десятилетие с 2003 по 2013 г. численность работающих в США выросла более чем на 5 % – с 131,4 млн до 138,3 млн человек, впрочем, население выросло за этот период более чем на 9 %.

Хотя это и не коллапс, замедление темпа роста тоже сулит нам более тревожную и сложную реальность. Возможно, изменения пойдут по пути не чистой деквалификации, а приведут к широкому «несоответствию квалификаций», более отвечающему кейнсианским ожиданиям. Например, недавний отчет McKinsey о будущем работы показал, что в 2001–2009 гг. уменьшилось количество рабочих мест, связанных с хозяйственными операциями и производством, но появилось более 4,8 млн офисных должностей, связанных с обменом информацией и решением проблем{48}. Ясно одно – под риском рабочие места и синих воротничков, и белых воротничков, занимающихся рутинными задачами. В 2013 г. Financial Times сообщила, что в 2007–2012 гг. в США численность менеджеров увеличилась на 387 000, а численность офисных служащих сократилась почти на 2 млн{49}. Это проявление того, что часто называют эпохой Web 2.0. Второе поколение коммерческих приложений для интернета привело к возникновению ряда программных протоколов и семейств продуктов, которые упростили интеграцию бизнес-функций. Такие компании, как IBM, HP, SAP, PeopleSoft и Oracle, помогли корпорациям относительно быстро автоматизировать рутинную хозяйственную деятельность. Результатом стало резкое сокращение количества офисных служащих.

Однако даже в сфере конторского труда есть тонкости, из-за которых предсказания о последствиях автоматизации и полном уничтожении рабочих мест вряд ли воплотятся в жизнь. Внедрение банкоматов очень хорошо показывает сложность взаимосвязи средств автоматизации, компьютерных сетей с динамикой трудовых ресурсов. В 2011 г. при обсуждении экономических вопросов этот пример привел Барак Обама: «В нашей экономике есть такие структурные аспекты, которые позволили множеству компаний стать более эффективными с гораздо меньшим количеством работающих. Вы видите это, когда пользуетесь банкоматом, а не услугами кассира банка. Или когда в аэропорту вы пользуетесь терминалом самообслуживания, а не обращаетесь к стойке регистрации»{50}.

Это вызвало политическую шумиху вокруг влияния автоматизации. Дело в том, что, несмотря на появление банкоматов, кассиры не исчезли. В 2004 г. Чарльз Фишман отмечал в журнале Fast Company, что на заре использования банкоматов в 1985 г., когда их было около 60 000, число кассиров достигало 485 000, а в 2002 г., когда количество банкоматов увеличилось до 352 000, численность кассиров выросла до 527 000. В 2011 г. журнал Economist привел данные о том, что в 2008 г. их было 600 500, а по прогнозам Бюро трудовой статистики Министерства труда США этот показатель должен вырасти к 2018 г. до 638 000. Более того, Economist отметил, что в 2008 г. в этой сфере трудились также 152 900 «специалистов по ремонту компьютеров, банкоматов и офисной техники»{51}. Так или иначе, а анализ вопроса с банкоматами в отрыве от общего контекста не дает представления о сложности процесса встраивания автоматизированных систем в экономику.

Данные Бюро трудовой статистики показывают, что реальная трансформация происходит в бэк-офисах, на которые в 1972 г. приходилось порядка 70 % численности банковских работников: «Во-первых, автоматизация основной задачи по обслуживанию клиентов сократила количество работающих в этом секторе на 25 %. Во-вторых, банкоматы не заменяют работающих с клиентами кассиров, но ликвидируют тысячи менее заметных офисных рабочих мест»{52}. Точно оценить влияние автоматизации бэк-офиса в банковской сфере сложно, поскольку в 1982 г. Бюро трудовой статистики изменило способ учета банковских служащих. Бесспорно, однако, что рабочие места банковских служащих продолжают исчезать.

Заглядывая вперед, можно предположить, что влияние новых компьютерных технологий на кассиров будет сродни эффекту появления беспилотных автомобилей для доставки грузов. Даже если технология станет более совершенной – а перспективы здесь пока что туманны, поскольку доставка связана со сложным взаимодействием с компаниями и индивидуальными клиентами, – персонал на «последней миле» все равно будет трудно заменить.

Несмотря на сложность разграничения последствий рецессии и применения новых технологий, взаимосвязь между автоматизацией и быстрыми экономическими изменениями все чаще используется как основание для вывода о том, что США ждет кризис занятости или по меньшей мере длительный период несоответствия квалификаций. Бринолфссон и Макафи утверждают, что это реально, в расширенной версии «Гонки с машинами», озаглавленной «Вторая эпоха машин: Работа, прогресс и процветание во времена совершенных технологий» (The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies). Аналогичное мнение высказывает известный специалист по теории вычислительной техники Джарон Ланье, работающий в Microsoft Research, в книге «Кто владеет будущим?» (Who Owns the Future?). Обе книги указывают на прямую связь между появлением Instagram, интернет-сервисом для обмена фотографиями, приобретенным Facebook за $1 млрд в 2012 г., и упадком Kodak, символа фотоиндустрии, которая в том же году объявила о банкротстве. «Команда всего из 15 человек в Instagram создала простое приложение, позволившее 130 млн клиентов обмениваться примерно 16 млрд фотографий, – пишут Бринолфссон и Макафи. – В компаниях, подобных Instagram и Facebook, работает лишь малая толика людей, которые требовались Kodak. Тем не менее рыночная стоимость Facebook в несколько раз больше, чем когда-либо была у Kodak, и в ней к настоящему времени родились по меньшей мере семь миллиардеров, каждый из которых владеет сетью десятикратно большей, чем была у [основателя Kodak] Джорджа Истмана»{53}.

Ланье говорит о проблемах Kodak еще более откровенно: «Они ведь изобрели первую цифровую камеру. Но сегодня Kodak – банкрот, и новым лицом цифровой фотографии стала Instagram. Когда в 2012 г. Instagram была продана Facebook за миллиард долларов, в ней работали только 13 человек. Куда делись ликвидированные рабочие места? И что случилось с благополучием, которое они создавали для среднего класса?»{54}

Слабое место этих аргументов в том, что они не показывают истинного соотношения рабочих мест и игнорируют реальность финансовых проблем Kodak. Во-первых, даже если считать, что Instagram действительно уничтожила Kodak (а это не так), то соотношение рабочих мест совершенно не такое, как приведенное (13 против 145 000). Сервисы вроде Instagram появились не на пустом месте, а только тогда, когда интернет достиг зрелости и создал миллионы по большей части высококлассных рабочих мест. Это ясно показал издатель и организатор конференций Тим О'Рейли: «Задумайтесь, действительно ли Instagram вытеснила Kodak? А может быть, это дело рук Apple, Samsung и других производителей смартфонов, пришедших на смену фотоаппаратам? И разве не провайдеры сетевых услуг, центры обработки данных и поставщики оборудования устранили потребность в пленке, которую раньше продавала Kodak? В Apple работает 72 000 человек (по сравнению с 10 000 в 2002 г.). У Samsung 270 000 сотрудников, у Comcast – 126 000 и т. д.»{55}. Даже О'Рейли очень далек от представления полной картины положительного экономического эффекта интернета. Проведенное McKinsey в 2011 г. исследование показало, что глобально интернет создает 2,6 нового рабочего места на каждое потерянное место и что именно он обеспечивал 21 % роста ВВП на протяжении пяти предыдущих лет в развитых странах{56}. Другим аргументом в споре Kodak и Instagram является то, что Kodak пострадала от перехода на цифровые технологии, а ее главный конкурент FujiFilm – нет{57}.

Причины упадка Kodak сложнее таких объяснений, как «они проглядели цифру» или «они не купили (или не создали) Instagram». К числу проблем относились масштаб, возраст и быстрота развития событий. У компании было значительное количество пенсионеров, а ее внутренняя культура допустила потерю старых талантов и не обеспечила привлечение новых. Это обернулось катастрофой. Kodak безуспешно пыталась войти в фармацевтическую отрасль, провалились и попытки переключиться на технологии медицинской визуализации.

Новые опасения в отношении автоматизации с использованием искусственного интеллекта и связанного с ней сокращения числа рабочих мест могут в конечном итоге оказаться небеспочвенными, однако не исключено, что те, кто бьет тревогу, просто зациклились на прошлых представлениях. Если рассматривать ситуацию с точки зрения противостояния «искусственный интеллект – технологии усиления интеллекта», то есть надежда, что люди по-прежнему сохраняют неограниченную способность и развлекаться, и работать над чем-то востребованным и полезным.

Но если люди не правы, то 2045 г. может стать для человечества началом трудных времен.

Или технологического рая.

Или и того и другого.

В 2045 г., по предсказанию Рэя Курцвейла, люди выйдут за биологические рамки и, возможно, изменят свою судьбу{58}.

Курцвейл – предприниматель в области искусственного интеллекта и футуролог. В 2012 г. он стал техническим директором Google для развития идей по созданию искусственного «разума». Курцвейл – яркий представитель сообщества лучших специалистов Кремниевой долины, которых вдохновляли идеи специалиста по информатике и автора научно-популярных книг Вернора Винджа о неизбежности достижения «технологической сингулярности», т. е. точки, когда машинный интеллект превзойдет человеческий. Когда Виндж в 1993 г. впервые написал об идее сингулярности, он отвел довольно широкий интервал времени (2005–2030 гг.), в котором компьютеры могут стать «сознательными» и превзойти человека{59}.

Сторонники сингулярности исходят из неизбежности взаимодополняющего экспоненциального развития различных информационных технологий – от вычислительной мощности до накопителей информации. В определенном смысле это религиозная вера в силу экспоненциального развития технологий, идея, которая была исследована Робертом Герачи в книге «Апокалипсис: Рай для роботов, искусственного интеллекта и виртуальной реальности» (Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality). Он находит интересные социологические параллели между размышлениями о сингулярности и мессианскими традициями{60}.

Гипотеза сингулярности строится также на новейших исследованиях в сфере искусственного интеллекта, начало которым положил Родни Брукс, предложивший создавать сложные робототехнические системы путем группирования более простых элементов. И Курцвейл в книге «Эволюция разума»[6] и Джефф Хокинс в своей ранней работе «Об интеллекте»[7] проводят мысль, что после открытия простых биологических «алгоритмов», лежащих в основе человеческого интеллекта, создание обладающих интеллектом машин – вопрос простого «масштабирования». Эти идеи очень противоречивы, их резко критикуют нейробиологи, но о них все же стоит упомянуть, поскольку они используются как аргументы в новых дебатах об автоматизации. Что больше всего сегодня бросается в глаза, так это огромный разброс мнений относительно будущего живого труда в зависимости от интерпретации одних и тех же данных.

Моше Варди – ученый-компьютерщик из Университета Райса, работавший главным редактором журнала Communications of the ACM. В 2012 г. он публично заявил, что ускорение развития искусственного интеллекта настолько значительно, что живой труд уйдет в прошлое в течение трех десятилетий. В октябре 2012 г. Варди выступил в журнале Atlantic со статьей «Преемники человеческого интеллекта»{61}, которая в большей мере отражает мнение сообщества разработчиков искусственного интеллекта. Он написал: «Я считаю, что революция, которую несет с собой искусственный интеллект, отличается от промышленной революции. В XIX в. машины конкурировали с мышцами человека. Сейчас они конкурируют с человеческим мозгом. Роботы сочетают интеллект и физическую силу. Перед нами маячит перспектива полного проигрыша своим собственным созданиям»{62}.

Варди считает, что области, в которых наблюдается активный рост занятости, например в экономике на основе поиска в сети, где новые рабочие места связаны с такими задачами, как оптимизация поисковых систем, по определению уязвимы в ближайшей перспективе. «Если взять оптимизацию поисковых систем, то сейчас там действительно создаются рабочие места, – говорит он. – Но с чем они связаны? С изучением того, как реально работают поисковые системы, и применением полученных знаний при создании веб-страниц. Можно сказать, что это проблема обучения машин. Возможно, в текущий момент там и нужны люди, но эти парни [разработчики программных средств автоматизации] не сидят сложа руки»{63}.

Многие, подобно Варди, полагают, что рыночная экономика не защитит людей от последствий автоматизации. Как и другие «сингулярианцы», он очерчивает возможности по их смягчению. Бринолфссон и Макафи во «Второй эпохе машин», например, приводят широкий набор условий в стиле Нового курса[8]: «хорошая программа обучения детей», «поддержка наших ученых», «совершенствование инфраструктуры». Другие вместе с профессором Гарвардской школы бизнеса Клейтоном Кристенсеном высказываются за направление усилий на технологии, которые создают, а не уничтожают рабочие места (совершенно очевидная позиция в пользу усиления интеллекта).

Но если те, кто верят в ускорение изменений, бьют тревогу по поводу их потенциальных последствий, то другие более оптимистично смотрят на перспективы. Основанная в 1987 г. Международная федерация робототехники со штаб-квартирой в Гамбурге, Германия, в отчетах, выпущенных в 2013 г. и позже, не без своекорыстия доказывает, что производственные роботы реально стимулируют экономическую активность и вместо повышения безработицы прямо и косвенно увеличивают общее количество рабочих мест. В исследовании, обнародованном в феврале 2013 г., подчеркивается, что робототехническая промышленность прямо и косвенно создаст в мире к 2020 г. от 1,9 до 3,5 млн рабочих мест{64}. В уточненном на следующий год отчете отмечено, что внедрение каждого робота привело к созданию 3,6 рабочего места.

Ну а если сторонники сингулярности не правы? Весной 2012 г. называющий себя «ворчуном» экономист из Северо-Западного университета Роберт Гордон бросил камень в сторону Кремниевой долины за бравирование тем, что она несет «инновации, создающие рабочие места и способствующие прогрессу», заметив, что заявления о достижениях не проявляются в общепринятых показателях производительности. В часто цитируемой Белой книге 2012 г. Национального бюро экономических исследований он подчеркнул, что всплеск производительности в XX в. был разовым событием. Гордон также отметил, что технологии автоматизации, расхваливаемые теми, кого он позже назвал «технооптимистами», не дали такого же эффекта, как промышленные инновации XIX в. «Связанная с компьютерами и интернетом революция началась примерно в 1960 г. и достигла кульминации в эру доткомов в конце 1990-х гг., но ее влияние на производительность сошло на нет в последние восемь лет, – пишет он. – Многие из изобретений, связанных с компьютеризацией скучного и однообразного труда офисных работников, были сделаны еще в 1970-х и 1980-х гг. Изобретения с 2000 г. касаются главным образом миниатюризации, расширения возможностей и быстродействия средств развлечения и связи и не меняют фундаментально производительность труда или уровень жизни так, как это сделали электричество, автомобили, водопровод и канализация»{65}.

В каком-то смысле это была разгромная критика веры Кремниевой долины в «просачивание благ сверху вниз» от экспоненциального развития в области интегральных схем. Если бы технооптимисты были правы, новая информационная технология должна была бы вызвать взрывной рост производительности, особенно после появления интернета. Гордон заметил, что, в отличие от прежних промышленных революций, компьютерная революция не принесла сопоставимого изменения производительности. «Нам напоминают о законе Мура, предсказывающем бесконечный экспоненциальный рост мощности компьютерных чипов, и умалчивают о том, что отношение мощность/цена для информационно-коммуникационного оборудования достигло пика в 1998 г. и с той поры идет вниз», – добавил он в 2014 г.{66}

Гордон был готов к спору со своими противниками, прежде всего с Эриком Бринолфссоном, на конференции TED весной 2013 г. Во время дебатов, модератором которых был Крис Андерсон, они сошлись в поединке по вопросу о последствиях развития робототехники и о том, продолжится ли экспоненциальный рост или мы достигли верхней точки S-образной кривой, за которой нас ждет движение вниз{67}. Технооптимисты считают, что лаг между созданием и восприятием технологии просто задерживает появление прироста производительности, и, хотя экспоненциальное развитие неизбежно замедляется, оно дает начало последующим изобретениям (так, за вакуумной лампой последовал транзистор, а за ним интегральная схема).

Гордон так и остался бельмом на глазу сторонников сингулярности. Он выступил в Wall Street Journal с утверждением, что у беспилотных автомобилей сравнительно мало возможностей для повышения эффективности. Кроме того, по его мнению, они не окажут серьезного влияния на безопасность – количество жертв на милю пробега и так снизилось в 10 раз с 1950 г., что делает будущие улучшения менее значительными{68}. Он также скептически смотрит на возможность захвата производственного сектора и сектора услуг новым поколением мобильных роботов: «Отсутствие у роботов способности к перепрограммированию на другие задачи не беспокоит энтузиастов – просто подождите, и все образуется. Вскоре наши роботы научатся не только выигрывать в телевикторине „Своя игра“, они будут регистрировать багаж в аэропортах и заменят носильщиков. Однако все многообразие физических задач, которые под силу людям, вряд ли удастся переложить на роботов в ближайшие десятилетия. Конечно, многофункциональные роботы будут разрабатываться, но потребуется немало времени, прежде чем роботы выйдут за пределы производства и оптовой торговли и смогут заметно потеснить людей в сфере услуг и строительстве»{69}.

Его скептицизм вызвал поток критики, но он не отступил. Его ответ критикам фактически означает: «Не принимайте желаемое за действительное!» По мнению Гордона, лучше всех потенциальное воздействие начавшейся в 1960 г. «третьей промышленной революции» – компьютеризации и интернета – предвидел Норберт Винер, когда говорил, что автоматизация ради автоматизации будет иметь непредсказуемые и, вполне возможно, негативные последствия.

Споры о производительности продолжаются. Относительно недавно у технарей и экономистов стало модно утверждать, что традиционные показатели производительности больше не подходят для все более цифровой экономики со свободным распространением информации. Как измерить экономическую ценность ресурса вроде Википедии, спрашивают они. Если сторонники сингулярности правы, то трансформация в форме беспрецедентного экономического кризиса из-за отказа от живого труда наступит очень скоро. Результат действительно может оказаться довольно мрачным – для людей будет все меньше и меньше места в новой экономике.

В индустриальном мире такого еще не наблюдалось, но одним из любопытных сдвигов, указывающих на существование пределов автоматизации, стало недавнее решение компании Toyota о постепенном возврате людей в производственный процесс. В сфере массового производства Toyota давно является мировым лидером по применению средств автоматизации с ее корпоративной философией кайдзен (по-японски – «положительное изменение»), или непрерывного совершенствования. Достигнув почти полной автоматизации производства, компания поняла, что без людей заводы не могут улучшать себя. Некогда Toyota располагала штатом суперквалифицированных работников, известных как ками-сама, т. е. «боги», которые, по словам президента Toyota Акио Тоёды, могли создать все что угодно{70}. Эти работники имели также свойственную человеку способность подходить к делу творчески и, таким образом, улучшать производственный процесс. Так вот, чтобы вернуть гибкость и креативность на свои заводы, Toyota решила восстановить 100 производственных зон с активным участием людей.

Возвращение «богов» Toyota воскрешает в памяти введение Стюарта Бранда к изданному в 1968 г. «Каталогу всей Земли» (Whole Earth Catalog): «Мы подобны богам и тоже можем творить». Позже Бранд признал, что он позаимствовал эту идею у британского антрополога Эдмунда Лича, который писал также в 1968 г.: «Люди стали подобны богам. Пришло время осознать нашу божественность. Наука дает нам полный контроль над окружающей средой и судьбой, но, вместо того чтобы радоваться, мы боимся. С какой стати? Как избавиться от этих страхов?»{71}

В основе полных сарказма споров о производительности и решения компании Toyota об изменении баланса автоматики и живого труда лежит вопрос о природе взаимоотношений людей и умных машин. Сдвиг Toyota в сторону более конструктивных отношений между человеком и роботом может предполагать перенос акцента на технологии для расширения возможностей человека. Сторонники сингулярности, однако, настаивают на том, что такое партнерство человека и машины всего лишь промежуточная стадия, связанная с передачей человеческих знаний, в какой-то момент дойдет очередь до передачи креативности, а может быть, она возникнет сама собой в каком-нибудь поколении суперумных машин. Они указывают пусть на небольшие, но все же успехи в области обучения машин как на свидетельства того, что в не слишком отдаленном будущем компьютеры обретут способность к обучению, подобную человеческой. Например, в 2014 г. Google заплатила $650 млн за не имевший коммерческих продуктов небольшой стартап DeepMind Technologies, который разработал алгоритмы обучения машин, позволяющие им осваивать видеоигры в некоторых случаях лучше людей. После первых сообщений о приобретении поползли слухи, что из-за потенциальных последствий этой технологии Google создает «совет по этике» для оценки неожиданных «прорывов»{72}. Остается неясным, есть ли для такого надзора реальные основания, или это всего лишь рекламный трюк с целью раздуть шумиху и оправдать уплаченную цену.

Нельзя отрицать, что искусственный интеллект и алгоритмы обучения машин уже изменяют облик таких разных областей, как наука, производство и развлечения. Примеры варьируют от машинного зрения и распознавания образов, необходимых для улучшения качества полупроводниковых приборов, и так называемых алгоритмов рационального поиска лекарств, которые привносят системный подход в создание новых фармацевтических средств, до методов, используемых в сфере государственного надзора и в социальных сетях для обработки персональных данных. Оптимисты надеются, что потенциальные злоупотребления будут минимальными, если приложения останутся ориентированными на человека, а не на алгоритмы. На данный момент Кремниевая долина, увы, не может похвастаться моральным превосходством над старыми отраслями. Было бы поистине замечательно, если бы хоть одна компания Кремниевой долины реально отказалась от выгодной технологии по этическим соображениям.

Если оставить в стороне философскую дискуссию об обладающих самосознанием машинах и пессимизм Гордона относительно роста производительности, то на первый план выходит очевидная возможность и «рациональность» удаления людей из систем с целью повышения производительности и снижения затрат. В Google, которая может встать на сторону как искусственного интеллекта, так и усиления интеллекта, похоже, идет внутренняя борьба вокруг этой двойственности. Первоначальный алгоритм PageRank, на который полагалась компания, может рассматриваться как самый наглядный пример расширения возможностей человека. Алгоритм систематически выискивал решения людей о ценности информации, объединял их и сортировал для ранжирования результатов поиска в сети. Некоторые критикуют его как способ выкачивания интеллектуальной собственности у широкого круга ничего не подозревающих людей, однако понятно, что неписаный социальный договор между пользователем и компанией допускает это. Google выискивает богатства человеческих знаний и возвращает их обществу, хотя и с выгодой для себя. Окно поисковой системы Google стало самой грандиозной информационной монополией в мире.

Но потом Google стала метаться, хватаясь то за средства усиления интеллекта, то за средства искусственного интеллекта в зависимости от того, что больше подходит для решения текущей задачи. Так, система дополнения реальности Google Glass определенно несет потенциал того, что обещает ее название, – средства расширения возможностей человека, а беспилотный автомобиль Google имеет все признаки системы искусственного интеллекта, заменяющей человека. Компания Google фактически экспериментирует с социальными последствиями массового использования искусственного интеллекта. Выступая перед группой ученых из NASA в 2014 г., директор по исследованиям Google Питер Норвиг прямо заявил, что единственное разумное направление развития искусственного интеллекта – это создание систем, в которых люди являются партнерами обладающих интеллектом машин. Это было явное заявление о намерениях сблизить разъединенные сообщества искусственного интеллекта и усиления интеллекта.

С учетом сегодняшнего стремления к созданию автоматизированных предприятий подобное сближение представляется маловероятным. Вместе с тем страхи последнего времени относительно уничтожающих рабочие места промышленных роботов, возможно, в недалеком времени уступят место более сбалансированным представлениям о наших взаимоотношениях с машинами за пределами рабочего места. Взять хотя бы Терри Гоу, председателя совета директоров Foxconn, одной из самых больших китайских производственных компаний и изготовителя Apple iPhone. Компания уже пережила немало споров относительно условий труда на своих заводах, когда в начале 2012 г. Гоу заявил, что Foxconn планирует в значительной мере заменить рабочих роботами. «Поскольку люди тоже животные, управление миллионом животных вызывает у меня головную боль», – сказал он во время деловой встречи{73}.

Это заявление привлекло всеобщее внимание, но такое видение завода без рабочих – лишь одно проявление трансформации общества в следующем десятилетии под влиянием роботизации. Конечно, ликвидация рабочих мест воспринимается нами как черная сторона процесса, но в игру уже вступили другие силы, которые сделают наши взаимоотношения с роботами более позитивными. Технологическая безработица в Китае, например, может вызвать еще более драматичную дестабилизацию, чем в Соединенных Штатах. Поскольку в течение двух последних десятилетий в Китае шла индустриализация, значительная часть его сельского населения урбанизировалась. Как Китай адаптируется к безлюдному производству потребительской электроники?

Не исключено, что с легкостью. Население Китая стареет достаточно быстро, чтобы страна вскоре оказалась перед необходимостью автоматизировать производственные отрасли. Вследствие политики «одна семья – один ребенок» и решений, принятых правительством в конце 1970-х и начале 1980-х гг., в настоящее время быстро увеличивается доля пожилого населения. В 2050 г. в Китае будет самое большое в мире число людей старше 80 лет. Оно составит 90 млн человек по сравнению с 32 млн в США{74}.

Европа тоже быстро стареет. По данным Еврокомиссии, в 2050 г. в Европе будет приходиться всего двое людей трудоспособного возраста на каждого человека старше 65 лет, а число людей с возрастными заболеваниями достигнет 84 млн{75}. Европейский союз очень серьезно относится к демографическим изменениям и предсказывает появление рынка роботов для ухода за престарелыми объемом $17,8 млрд уже в 2016 г. Сценарий старения населения в США во многих отношениях сходен, но не так экстремален, как в Азии или Европе. Несмотря на то что Соединенные Штаты стареют медленнее (в определенной мере из-за постоянного притока иммигрантов), чем ряд других стран, «коэффициент демографической нагрузки» растет. Это означает, что количество детей и престарелых на сотню людей трудоспособного возраста, составлявшее 59 в 2005 г., поднимется до 72 в 2050 г.{76} Темп выхода на пенсию представителей поколения беби-бумеров в Соединенных Штатах – тех, кому исполняется 65 – достигает сейчас примерно 10 000 в день, и такой уровень сохранится в течение следующих 19 лет{77}.

Как промышленно развитые общества будут заботиться о стареющем населении? Старение мира кардинально изменит отношение к робототехнике в следующее десятилетие – на смену страхам, связанным с автоматизацией, придет надежда на расширение возможностей. Забавный, содержательный, а может быть, и пророческий фильм 2012 г. «Робот и Фрэнк» (Robot & Frank) о нашем недалеком будущем показывает взаимоотношения бывшего заключенного на первых стадиях старческой деменции и робота-опекуна. Будет иронией, если подобные роботы-опекуны появятся как раз тогда, когда придется ухаживать за ранее уволенным, а теперь состарившимся населением.

Глава 4

Взлет, падение и возрождение искусственного интеллекта

Осенью 2010 г. Дэвид Брок, копавшийся в пыльных коробках архива Стэнфордского университета, обнаружил нечто такое, от чего у него замерло сердце. Как историк компьютерной индустрии Брок методично изучал бумаги Уильяма Шокли в поисках материалов для своей работы о жизни основателя компании Intel Corp. Гордона Мура. Было известно, что после ухода в 1955 г. с поста руководителя команды в Bell Labs, которая разрабатывала транзистор, Шокли вернулся в округ Санта-Клара и основал свою компанию по производству более технологичного варианта транзистора. Но до находки Брока никто не знал о смелом предложении Шокли – о том, что тот пытался убедить Bell Labs, бывшую в 1951 г. ведущим научно-исследовательским институтом, создать «автоматического обучаемого робота».

Уже не одно десятилетие идут жаркие споры о том, что именно привело к рождению Кремниевой долины. Одно из последних объяснений связывает это событие с тем, что Шокли, выросший недалеко от центра Пало-Альто, решил из-за болезни матери вернуться в регион, который когда-то был национальной фруктовой столицей. Его Лаборатория полупроводников разместилась на Сан-Антонио-роуд в Маунтин-Вью к югу от Пало-Альто и через дорогу от того места, где ныне находится растянувшийся во все стороны кампус компании Google. Мур был одним из первых сотрудников лаборатории, а позднее вошел в «восьмерку предателей», группу инженеров, которые из-за недовольства авторитарным стилем руководства Шокли сбежали и создали конкурирующую компанию. Этот поступок вошел в анналы Кремниевой долины как образчик интеллектуальной и технической свободы, которая превратила регион в центр предпринимательства, какого мир еще не видел. Многие уверены, что решение Шокли основать транзисторную компанию в Маунтин-Вью было той искрой, которая дала начало Кремниевой долине. Интереснее, однако, вопрос, к чему стремился Шокли. Он давно считается одним из первых предпринимателей, безнадежных как менеджеры. Тем не менее его страсть к предпринимательству служила моделью для многих поколений технарей. Но это лишь часть объяснения.

Брок сидел в архиве Стэнфорда и смотрел на пожелтевшую страничку с предложением, озаглавленным «Проект A. T. R.». Шокли, известный своей несдержанностью, не деликатничал. «Важность предлагаемого проекта, возможно, больше всего, чем Bell System занималась до сих пор, – писал он. – Это направление может стать основой самой крупной из когда-либо существовавших отраслей. Не исключено, что прогресс в сфере производства в последующие два-три десятилетия будет напрямую зависеть от энергичности осуществления проектов такого класса». Цель проекта была обозначена предельно прямо – «замена человека машинами в производственном процессе». Роботы были необходимы, поскольку в целом автоматизированным системам недоставало ловкости и чувственного восприятия людей. «Подобная механизация принесет очевидную экономию в очень долгосрочной перспективе, но будет непрактичной в краткосрочной», – продолжал Шокли. Он предвидел создание не только «автоматического завода», но и обучаемого робота, которого можно «легко перенастроить для выполнения любой из множества операций». Его машина должна была иметь «руки», «органы чувств», «память» и «мозг»{78}.

Шокли загорелся идеей создания человекоподобного промышленного робота потому, что сборочные операции часто представляют собой повторяющуюся последовательность движений, выполняемых квалифицированным рабочим, и потому, что подобный робот может стать прорывом на пути к полному замещению живого труда. Его идея была поразительной, поскольку она родилась на заре компьютерной эпохи до того, как большинство работавших в этой области инженеров осознали влияние технологии. Она появилась всего лишь через полдесятилетия с тех пор, как первый цифровой компьютер общего назначения ENIAC стали называть в массовой прессе «гигантским мозгом», и всего два года спустя после выхода книги Норберта Винера «Кибернетика», провозгласившей начало информационной эпохи.

Шокли предсказал курс, которым пойдет автоматизация десятилетия спустя. Например, компания Kiva Systems – производитель автоматизированных складских систем, приобретенный Amazon в 2012 г. за $775 млн, – исходила из того, что труднее всего автоматизации на современных складах поддаются операции, требующие участия глаз и рук людей, например идентификация и захват объектов. Без средств машинного восприятия и подвижности уделом роботизированных систем остаются лишь повторяющиеся задания, поэтому Kiva сделала очевидный промежуточный шаг и создала мобильных роботов, подающих объекты к местам расположения работников. Когда средства машинного восприятия и манипуляторы роботов станут более совершенными и дешевыми, от людей можно будет отказаться.

В сезон рождественских распродаж в декабре 2014 г. Amazon сделала отступление от своей обычной политики секретности и пригласила прессу на экскурсию по одному из складских центров в Трейси, штат Калифорния. Что участникам экскурсии не показали, так это экспериментальную станцию, где роботизированный манипулятор занимался комплектацией грузов, работой, которую пока выполняют люди. Amazon экспериментирует с датским манипулятором, который должен заменить оставшихся людей.

Шокли в середине прошлого столетия совершенно не беспокоила перспектива вытеснения людей обучаемыми роботами, а Винер видел в этом потенциальную катастрофу. Через два года после «Кибернетики» он написал книгу «Кибернетика и общество», в которой попытался оценить последствия заполнения мира все более умными машинами. Несмотря на все свои оговорки, Винер сыграл в 1950-х гг. ведущую роль в формировании того, что Брок назвал «движением за автоматизацию»{79}. Брок прослеживает процесс, который привел к маниакальному стремлению страны автоматизировать все подряд, до его зарождения 2 февраля 1955 г., когда Винер и глава департамента электротехники Массачусетского технологического института Гордон Браун выступили на публичной дискуссии в Нью-Йорке с участием 500 членов Ассоциации выпускников Массачусетского технологического института с докладом «Автоматизация: что это?».

В тот же день на другом конце страны предприниматель Арнольд Бекман председательствовал на банкете в честь Шокли и Ли де Фореста, изобретателя вакуумного триода. На этом мероприятии Бекман и Шокли обнаружили, что оба они «энтузиасты автоматизации»{80}. Бекман уже начал переориентировать Beckman Instruments на автоматизацию химической промышленности, и к концу банкета Шокли согласился послать Бекману копию своего недавно полученного патента на оптико-электронный глаз. В результате этого разговора Бекман стал финансировать Лабораторию полупроводников Шокли как филиал Beckman Instruments ради возможности приобрести этот орган машинного зрения. Шокли сформулировал идею замены рабочих роботами в разгар общенациональной дискуссии об «автоматизации». Этот термин сделал популярным Джон Диболд в своей книге 1952 г. «Автоматизация: Начало эры автоматических заводов» (Automation: The Advent of the Automatic Factory).

Проницательность Шокли настолько поражала, что Родни Брукс, сам пионер робототехники в Стэнфордской лаборатории искусственного интеллекта в 1970-х гг., прочитав статью Брока в IEEE Spectrum в 2013 г., разослал меморандум Шокли, датированный 1951 г., сотрудникам своей компании Rethink Robotics и предложил определить, когда он был написан. Не угадал никто. Этот меморандум появился более чем за полвека до робота Baxter, созданного компанией Rethink осенью 2012 г. Тем не менее Baxter почти полностью соответствовал тому, что предлагал Шокли в 1950-х гг., – это был обучаемый робот с выразительным «лицом» на светодиодном экране, «руками», «органами чувств», «памятью» и, конечно, «мозгом».

Разница заключалась в философии – Брукс исходил из того, что Baxter будет не заменять рабочих, а помогать им, взяв на себя скучные, повторяющиеся операции и оставив людям более творческую работу. Меморандум Шокли показывает, что Кремниевой долине изначально присущ фундаментальный парадокс, связанный с тем, что технология одновременно расширяет возможности людей и вытесняет их. Сегодня этот парадокс проявляется острее, чем когда-либо. Разработчики систем, все больше изменяющих мир и определяющих облик информационной эпохи, стоят перед выбором – встраивать человека в будущее или нет.

Подспудная история Кремниевой долины проявляется и в попытке Google подключиться к созданию мобильных роботов. В 2013 г. Google без лишнего шума перекупила многих лучших робототехников мира в стремлении стать лидером следующей волны автоматизации. Как и в случае секретного проекта по созданию гугломобиля, контуры бизнеса Google в сфере мобильных роботов остаются неясными. Трудно сказать, в каком направлении пойдет Google в конечном итоге – по пути расширения возможностей или замены людей. Так или иначе компания явно взялась за поставленную Шокли шесть десятилетий назад задачу создания обучаемого робота.

Единство и противоположность искусственного интеллекта и усиления интеллекта давно очевидны Энди Рубину, инженеру-робототехнику, который успел поработать в ряде компаний Кремниевой долины, прежде чем заняться в 2005 г. созданием бизнеса Google по производству смартфонов. В 2013 г. Рубин оставил пост главы отделения телефонов на платформе Android компании и начал потихоньку приобретать лучшие компании и специалистов в области роботостроения. Для своего бизнеса он нашел новое здание на Калифорния-авеню на окраине Стэнфордского технопарка всего в половине квартала от той самой лаборатории Xerox PARK, где был создан первый современный персональный компьютер Alto. Здание ничем не выделялось, но в его атриуме стояла впечатляющая статуя робота, которую было видно с улицы. Она красовалась там до одного вечера, когда скрытным робототехникам позвонили соседи напротив через улицу. Мрачно выглядящий робот вызывал кошмары у их маленького сына. После этого робота убрали подальше от посторонних глаз.

Когда-то Рубин, для которого роботы были предметом увлечения, участвовал в финансировании проекта Себастьяна Труна по созданию Stanley, беспилотного автомобиля, завоевавшего в конечном итоге приз DARPA размером $2 млн за самостоятельное преодоление более сотни миль в Калифорнийской пустыне. «У персональных компьютеров отрастают ноги, и они начинают ходить сами», – сказал Рубин в 2005 г.{81} С той поры интерес к робототехнике в Кремниевой долине только растет. Энди Рубин просто раньше других воспринял идею Шокли.

После переезда Шокли в 1955 г. в Пало-Альто этот регион всего за полдесятилетия стал источником социальных, политических и технологических сил, которые изменили американское общество так, что оно и до сегодняшнего дня определяет облик современного мира. Пало-Альто предстояло превратиться из сонного университетского городка в одно из богатейших сообществ в мире. Появление микропроцессоров, персональных компьютеров и компьютерных сетей в 1960-х и 1970-х гг. совпало по времени с войной во Вьетнаме, движением за гражданские права и возникновением контркультуры{82}. В первых компьютерных лабораториях программисты и инженеры находили убежище от беспокойного мира. К 1969 г., когда Ричард Никсон вступил в должность президента, Сеймур Херш сообщил о резне в Сонгми (Ми Лай), а астронавты Нил Армстронг и Базз Олдрин побывали на Луне. Американцы впервые совершили путешествие в другой мир, но страна увязла в пагубном конфликте за пределами своей территории.

В 1968 г. состоялась премьера фильма «Космическая одиссея 2001» (2001: A Space Odyssey), нарисовавшего картину и потенциальных возможностей, и опасностей искусственного интеллекта. Компьютер HAL – искусственный интеллект, который решил нарушить законы робототехники Азимова, постулаты 1942 г., запрещающие машинам причинять вред людям даже для обеспечения собственного выживания, – определил образ робота в массовой культуре. В конце 1960-х гг. фантасты были пророками технического прогресса, а искусственный интеллект стал многообещающей новой технологией, реализующейся в виде компьютеров и роботов и порождающей образы то технологического рая, то популистской паранойи. В стране, которая между 1960 и 1963 гг. в буквальном смысле перешла от Флинтстоунов к Джетсонам[9], будущее казалось почти осязаемым.

В этом культурном хаосе Чарли Розен начал строить первого реального робота как платформу для проведения экспериментов в области искусственного интеллекта. Розена, родившегося в Канаде физика, занимал широкий круг связанных с компьютерами проблем, включая датчики, новые виды полупроводников и искусственный интеллект. Он был в определенном смысле человеком ренессанса: соавтор одного из первых учебников по транзисторам, рано заинтересовавшийся нейронными сетями – компьютерными сетями, перспективными с точки зрения распознавания образов и «обучения» путем моделирования поведения биологических нейронов.

В результате Стэнфордский исследовательский институт стал одним из центров исследования нейронных сетей и персептронов, попыток имитировать формы биологического обучения. Розен генерировал идеи непрерывно и озадачивал инженеров невероятно далекими от реальности экспериментами. Молодой инженер-электрик из Стэнфорда Питер Харт, проводивший исследования в области устройств распознавания простых образов, очень живо рассказывал о своих частых встречах с Розеном. «Привет, Пит, – говорил Розен, приближаясь к лицу настолько, что Харт мог видеть его подрагивающие кустистые брови, и тыкал пальцем в грудь. – У меня есть идея». Это могла быть необычная концепция распознавания речи путем передачи сказанных слов в трехметровую емкость с водой через подводные громкоговорители и регистрации формы стоячей волны с помощью видеокамеры.

Выложив идею, Розен, бывало, смотрел на своего юного протеже и кричал: «Ты что, испугался?» Он был одним из первых «лоббистов» в SRI, регулярно наведывавшихся в Вашингтон в надежде заинтересовать Пентагон в финансировании проектов. Именно Розен убедил военных профинансировать реализацию идеи Дуга Энгельбарта по расширению возможностей человека с помощью компьютеров. Он также подготовил и продал предложение по созданию мобильного робота для испытания первых нейросетей и других систем искусственного интеллекта. На одной встрече с генералами из Пентагона Розена спросили, сможет ли этот робот носить пистолет. «Сколько у него их должно быть? – прозвучало в ответ. – Думаю, он легко управится с двумя или тремя».

Исследователи не сразу определились с названием проекта. «Мы целый месяц ломали головы, пытаясь подобрать хорошее название, перебрали все, начиная с греческих имен, а потом кто-то сказал: "Посмотрите, он все время трясется и движется, назовем его Shakey[10]"», – вспоминал Харт{83}.

В конечном итоге Розен стал основным получателем средств от Агентства по перспективным оборонным исследовательским разработкам, но еще до этого он наткнулся на еще один источник финансирования, также в военных структурах. Как-то ему удалось добиться аудиенции у одной из немногих занимавших высокое положение в Пентагоне женщин, математика Рут Дэвис. Когда Розен сообщил ей, что хочет построить умную машину, она воскликнула: «Вы хотите сказать, что она может быть часовым? Можно ли использовать ее вместо солдата?» Розен признался, что, по его мнению, роботы-солдаты вряд ли появятся в скором будущем, но он хочет начать проверку необходимых для этого решений в области машинного зрения, планирования, решения проблем и распознавания речи. Дэвис загорелась идеей и выделила деньги.

Shakey имел ключевое значение как один из немногих крупных проектов 1960-х гг. в области искусственного интеллекта, вызвавших взрывной рост интереса к этой сфере и давших результаты, которые будут актуальны в течение многих десятилетий. Сегодня ДНК Shakey можно найти во всем: от складского робота Kiva и беспилотного автомобиля Google до интеллектуального помощника Siri компании Apple. Он не только обеспечил подготовку первого поколения исследователей, но и впервые высветил технические и моральные проблемы, до сих пор определяющие пределы и потенциал искусственного интеллекта и робототехники.

Многие считали Shakey образом будущего искусственного интеллекта. В ноябре 1970 г. журнал Life писал об этой машине, как о чем-то гораздо большем, чем она в действительности была. История о ней соседствовала с заглавной статьей номера об общежитии колледжа с совместным обучением, рекламой полноприводных автомобилей и 11-дюймового телевизора Sony. Рассказ репортера Брэда Дарраха о возможностях Shakey был крайне вольным в стремлении справиться со сложностями нарождающейся машинной эпохи. Он, конечно, отмечал, что машинам пока далеко до сложных эмоциональных реакций вроде оргазма у человека, но в целом статья дышала оптимизмом, царившим тогда в сообществе робототехников.

Исследователям SRI, включая Розена и его помощников Питера Харта и Берта Рафаэля, очень не понравилось, что Shakey приписывалась способность свободно двигаться по коридорам лаборатории быстрее человека, задерживаясь лишь у дверей, и размышлять, подобно человеку, об окружающем мире. Как говорил Рафаэль, это описание особенно раздражало, поскольку во время визита Дарраха робот находился в нерабочем состоянии. В тот момент его подключали к новому управляющему компьютеру{84}.

Пионер исследований в области искусственного интеллекта Марвин Мински возмущался больше всех и написал длинное опровержение, обвиняя Дарраха в подтасовке цитат. Например, Мински якобы сказал, что человеческий мозг всего лишь компьютер, сделанный из «мяса». Но больше всего он был недоволен приписыванием следующего высказывания: «В течение трех – восьми лет у нас будет машина с интеллектом среднего человека. Я имею в виду машину, которая сможет читать Шекспира, менять масло в автомобиле, вести офисные интриги, шутить и драться. К этому времени машина начнет сама учиться с фантастической скоростью. За несколько месяцев она достигнет уровня гения, а еще через несколько месяцев ее возможности станут безграничными»{85}. Сегодня тревоги Дарраха кажутся почти странными. Случайно ли, намеренно ли, он фактически говорил, что раньше или позже (а ему определенно хотелось уверить читателя, что это случится раньше) обществу придется решать, как оно будет жить со своим кибернетическим потомком.

Несмотря на искаженное представление Shakey в прессе, два года спустя в докладе на конференции по техническим вычислениям и робототехнике в Бостоне Розен обратился к поднятой Даррахом теме. Он отвергал идею полностью автоматизированного «безлюдного предприятия» в «следующем поколении» в основном из-за социальных и экономических последствий и предсказывал появление к концу 1970-х гг. производственных и обслуживающих роботов (под контролем человека), которые устранят повторяющиеся операции и тяжелую работу. Процесс роботизации, по его мнению, повлечет за собой новую волну технологической безработицы, и обществу придется пересматривать такие вопросы, как продолжительность рабочей недели, пенсионный возраст и стаж{86}.

Больше пяти лет исследователи SRI занимались разработкой, которая формально преподносилась как чистый эксперимент с искусственным интеллектом. Проект, однако, финансировался Пентагоном, у которого были свой интерес и надежда на создание боевого робота, способного отслеживать противника без риска для жизни американских солдат или солдат союзников. Shakey не только положил начало современным исследованиям в области искусственного интеллекта и проектам по расширению возможностей человека, он был также предшественником дронов военного назначения, которые сейчас патрулируют небо над Афганистаном, Ираком, Сирией и в других местах.

Shakey – яркий пример миграции на Запад исследований в области компьютеров и искусственного интеллекта в 1960-х гг. Хотя Дуглас Энгельбарт, проект которого осуществлялся в лаборатории на другой стороне здания, родился на Западном побережье, многие были мигрантами. Начало искусственному интеллекту, как области исследований, было положено во время летней конференции 1956 г. в Дартмутском колледже, где работал молодой преподаватель математики Джон Маккарти. Маккарти родился в 1927 г. в Бостоне в семье ирландского католика и литовской еврейки, активных членов Коммунистической партии США. Его родители были интеллектуалами, и мать не сомневалась, что ее дети смогут добиться всего, чего захотят. В 12 лет Маккарти наткнулся на книгу Эрика Темпла Белла «Творцы математики» (Men of Mathematics), которая помогла определиться с карьерой многим лучшим и ярчайшим ученым эпохи, включая Фримена Дайсона и Станислава Улама. В старших классах школы Маккарти считался математическим гением, а потому решил поступать только в Калифорнийский технологический институт, где Темпл Белл был профессором. Впоследствии он называл это чистой «самонадеянностью». В заявлении Маккарти обозначил свои планы одной фразой: «Я намерен стать профессором математики». Книга Белла дала ему реалистичное представление о выбранном пути. Маккарти считал, что главной наградой математику является качество его исследований, и жаждал стать интеллектуалом, добившимся всего своими силами.

В Калифорнийском технологическом институте Маккарти был амбициозным студентом. Он сразу схватился за сложные расчеты и стал слушать одновременно несколько курсов, включая самолетостроение. На службу Маккарти призвали уже в конце войны, поэтому его армейская карьера была связана с канцелярской работой, а не с участием в боевых действиях. Находясь недалеко от дома в Форт-Макартуре – в портовом городе Сан-Педро, штат Калифорния, он начал клерком, оформлявшим приказы о демобилизации, а потом стал заниматься присвоением званий возвращавшимся с войны солдатам. Затем Маккарти поступил в аспирантуру Принстона и не упустил случая познакомиться с математиком и физиком Джоном фон Нейманом, который сыграл важную роль в определении основной архитектуры современного компьютера.

В тот момент мысли об «искусственном интеллекте» уже бродили в голове Маккарти, но еще не оформились. Это произошло лишь полдесятилетия спустя во время летней конференции 1956 г. в Дартмуте. Первые наметки появились еще в аспирантуре, когда он участвовал в Хиксоновском симпозиуме по церебральным механизмам поведения в Калифорнийском технологическом институте{87}. В то время еще не было программируемых компьютеров, но идея витала в воздухе. Алан Тьюринг, например, писал об этой возможности еще год назад в надежде, что его услышат по обе стороны Атлантики. Маккарти думал об интеллекте как о математической абстракции, а не как о том, что можно воплотить в реальной машине (как предлагал Тьюринг). Это была идея создания «искусственного» аналога человеческого интеллекта, а не вариант клеточного автомата, которым позже будет заниматься фон Нейман. Маккарти сосредоточился на абстрактном аспекте интеллекта, который был способен взаимодействовать с окружающей средой. Когда он сказал об этом фон Нейману, тот воскликнул: «Напишите об этом!» Маккарти много размышлял об этой идее, но так ничего и не опубликовал. Годы спустя он выразит сожаление по поводу своего бездействия. Хотя диссертация Маккарти в Принстоне была посвящена дифференциальным уравнениям, он интересовался также логикой, и его вклад в область искусственного интеллекта стал результатом применения математической логики к рассуждениям на основе здравого смысла. Он приехал в Принстон на год позже Марвина Мински и обнаружил, что того тоже занимает идея искусственного интеллекта. В те времена, однако, не было компьютеров, которые позволили бы им развернуться, поэтому концепция оставалась абстракцией.

В аспирантуре Маккарти учился в одно время с Джоном Нэшом, математиком и будущим нобелевским лауреатом, прославленным в написанной в 1998 г. Сильвией Назар биографии «Блестящий ум» (A Beautiful Mind). Аспиранты Принстона любили грубовато подшутить друг над другом. Маккарти, например, устроили падение кровати. Потом оказалось, что один из аспирантов был двойным агентом в играх, поддерживавшим Маккарти против Нэша и одновременно помогавшим Нэшу играть против Маккарти. Теория игр в то время была в моде, и Нэш впоследствии получил Нобелевскую премию по экономике за вклад в эту область.

Летом 1952 г. Клод Шеннон, математик и инженер-электрик в Bell Labs, взял Маккарти и Мински к себе в качестве лаборантов. Известный как отец «теории информации», Шеннон создал в 1950 г. простую шахматную машину и заинтересовался программами моделирования биологического роста, так называемыми «клеточными автоматами». Самой известной из них стала игра «Жизнь», изобретенная Джоном Конвеем в 1970 г.

Если Мински тогда больше занимала предстоящая свадьба, то Маккарти проводил все время в Bell Labs, работая с Шенноном над собранием статей по математике, которое тот назвал «Исследование автоматов» (Automata Studies){88}. Слово «автоматы» не нравилось Маккарти, поскольку оно смещало фокус с конкретных аспектов искусственного интеллекта на эзотерические проблемы математики.

Четыре года спустя он нашел выход, дав начало новой области науки, которая сегодня, через шесть десятилетий, преобразует мир. Маккарти выбрал термин «искусственный интеллект», который, на его взгляд, позволял «поднять идею как флаг»{89} и задать направление Дартмутскому летнему проекту. К сожалению, термин стал ассоциироваться с заменой человеческого разума машинным, что углубляло разрыв между исследователями, занимавшимися искусственным интеллектом и усилением интеллекта. Крещение нового названия произошло в 1956 г. во время организованного Маккарти мероприятия – Дартмутского летнего исследовательского проекта по искусственному интеллекту, финансирование которого осуществлял Фонд Рокфеллера. Это было знаковое событие. Предлагались и другие варианты названия для новой дисциплины: кибернетика, исследование автоматов, комплексная обработка информации и машинный интеллект{90}.

Маккарти хотел избежать термина «кибернетика», поскольку считал его изобретателя Норберта Винера напыщенным занудой и предпочитал не связываться с ним. Он также не принимал термин «автомат», который казался далеким от интеллекта. Существовал еще один аспект, связанный с термином «искусственный интеллект». Много лет спустя в рецензии на книгу, касающейся такой академической концепции, как «социальное конструирование технологии», Маккарти постарался дистанцировать искусственный интеллект от его антропоцентрических корней. Он настаивал, что эта область не имеет отношения к поведению человека{91}.

В программе Дартмутской конференции не было упоминаний об исследовании поведения человека, «поскольку [Маккарти] не считал это уместным»{92}. По его мнению, искусственный интеллект не имел никаких связей с поведением человека, кроме разве что намека на выполнение свойственных человеку задач. Из всех участников конференции поведением человека занимались только Аллен Ньюэлл и Герберт Саймон из Института Карнеги, уже известные исследователи, соединившие социологию с когнитивистикой. Через много лет подход, предложенный участниками Дартмутской конференции, получит обозначение GOFAI – «старый добрый искусственный интеллект», т. е. подход, ориентированный на приближение к человеческому уровню интеллекта на основе использования логики и набора эвристических правил решения проблем.

В подготовке летней конференции участвовала IBM, в 1950-х гг. уже крупнейший производитель компьютеров. Маккарти и Мински провели лето 1955 г. в лаборатории компании, создавшей ламповый мейнфрейм IBM 701 (их было выпущено всего 19 единиц). После конференции ряд исследователей из IBM вели разработки в области искусственного интеллекта, но в 1959 г. производитель компьютеров закрыл это направление. По некоторым свидетельствам, компьютерный гигант опасался, что его машины будут задействованы в технологиях, уничтожающих рабочие места{93}. Тогдашний глава компании Томас Уотсон-младший принимал участие в общенациональной дискуссии о роли и последствиях применения компьютеров в сфере автоматизации и не хотел, чтобы его компания ассоциировалась с массовой ликвидацией рабочих мест. Маккарти позже назвал это «приступом тупости» и «диверсией»{94}.

В эти первые годы Маккарти и Мински были практически неразлучны – Маккарти даже сопровождал Мински во время его знакомства с родителями будущей жены. Однако их подходы к созданию искусственного интеллекта все больше расходились. В аспирантуре Мински занимался исследованием нейронных сетей. Со временем он стал склоняться к тому, что корни интеллекта – в опыте людей. В отличие от него, Маккарти всегда искал формальные логико-математические пути к моделированию разума человека.

Так или иначе, несмотря на первоначальные трудности, искусственный интеллект оставался сферой коллективной работы и находился в руках исследователей с привилегированным доступом к ревностно охраняемым компьютерам размером с комнату. Как вспоминал Маккарти, Лаборатория искусственного интеллекта в Массачусетском технологическом институте появилась в 1958 г. после того, как туда пришли он и Мински. Как-то Маккарти, встретив Мински в коридоре, сказал: «Думаю, нам нужен проект в области искусственного интеллекта». Мински ответил, что это хорошая идея. Тут с ними поравнялся Джером Визнер, тогда руководитель Лаборатории электроники.

Маккарти выпалил: «Мы с Марвином хотим открыть исследования по искусственному интеллекту».

«Так что вам нужно?» – спросил Визнер.

Маккарти не раздумывая сказал: «Нам требуются помещение, секретарь, перфоратор и два программиста».

На это Визнер ответил: «А шесть аспирантов в придачу возьмете?»

Оказалось, что лучшего момента для такой просьбы нельзя было и придумать. Массачусетский технологический институт как раз получил крупный правительственный грант «для дальнейшего совершенствования», но никто в точности не знал, что понимать под «совершенствованием». Грант в то время использовался для поддержки шести аспирантов-математиков, но Визнер не представлял, что делать дальше. Маккарти и Мински стали для него удачной находкой{95}.

Грант предоставили весной 1958 г. сразу после запуска советского спутника. Федеральное правительство США спохватилось и стало щедро финансировать исследовательские работы в университетах. Считалось, что широкая поддержка науки пойдет на пользу военным разработкам, и в тот год президент Эйзенхауэр учредил Агентство по перспективным исследовательским проектам (DARPA), чтобы избежать технологических сюрпризов в будущем.

Счастливая встреча этой троицы имела практически неоценимое значение для всего мира. Некоторые из «шести аспирантов» были связаны с Клубом любителей моделей железных дорог, ортодоксальной группой будущих инженеров, которых компьютеры притягивали как магнит. Идеалы этого клуба дали начало тому, что стало «культурой программистов-фанатиков», которые больше всего ценили свободу обмена информацией{96}. Маккарти способствовал распространению их этики после ухода из Массачусетского технологического института в 1962 г. и создания конкурирующей лаборатории в Стэнфордском университете. В конечном итоге культура программистов-фанатиков породила такие социальные инициативы, как программное обеспечение с открытым кодом, организация Creative Commons и сетевой нейтралитет. Еще в Массачусетском технологическом институте Маккарти в поисках более эффективного пути исследования искусственного интеллекта предложил использовать компьютер в режиме разделения времени и разработал язык программирования Lisp. Он быстро понял, что искусственный интеллект на определенной стадии развития должен стать интерактивным и что логично вести разработку на компьютерной системе, с которой множество пользователей работают одновременно, а не поочередно, каждый раз заказывая машинное время.

Когда в Массачусетском технологическом институте решили провести опрос для выяснения разумности создания системы с разделением времени вместо того, чтобы сразу реализовать предложение Маккарти, тот решил переехать на Запад. Позже он с обидой говорил, что спрашивать сотрудников университета и персонал об отношении к работе компьютера в режиме разделения времени – все равно что выяснять мнение землекопов о полезности парового экскаватора{97}.

Маккарти полностью принял контркультуру Западного побережья. Он давно вышел из Коммунистической партии, но все еще был за левых и вскоре примкнул к настроенному против истеблишмента сообществу поблизости от Стэнфордского университета. Он отрастил волосы, стал носить повязку на голове и превратился в активного участника Свободного университета, который возник в средней части полуострова Сан-Франциско. Только после того, как Советский Союз подавил чешское восстание 1968 г., Маккарти окончательно разочаровался в социализме. Однажды, когда он рассуждал о мудрости ненасилия на форуме Свободного университета, один из радикалов пригрозил убить его. Это заставило Маккарти перейти на сторону правых и зарегистрироваться как республиканец.

На свою карьеру Маккарти не мог пожаловаться. Должность профессора Стэнфордского университета была лицензией на охоту за финансированием, и по пути в Стэнфорд он завернул к своему другу Ликлайдеру, который с 1962 г. возглавлял Отделение технологий обработки информации ARPA. Они вместе работали над первыми идеями по разделению времени, и именно Ликлайдер финансировал амбициозную программу по их реализации в Массачусетском технологическом институте после перехода Маккарти в Стэнфорд. Впоследствии Маккарти говори, что никогда бы не ушел, если бы знал, что Ликлайдер будет так поддерживать идеи разделения времени.

На Западном побережье почти не было бюрократических препон, и Маккарти быстро создал Лабораторию искусственного интеллекта в Стэнфорде. Ему удалось получить компьютер Digital Equipment Corporation и найти для него место в Лаборатории постоянного тока, в здании и на земле, подаренной Стэнфорду GTE, после того как эта телекоммуникационная компания отказалась от плана организации исследовательской лаборатории на Западном побережье.

Стэнфордская лаборатория искусственного интеллекта быстро стала раем для программистов-фанатиков. Умные молодые разработчики, такие как Стив «Слаг» Рассел и Уитфилд Диффи, последовали за Маккарти на Запад, и за следующее полтора десятилетия через лабораторию прошло великое множество инженеров и программистов. Несмотря на то что Маккарти стал политически более консервативным, атмосфера контркультуры в лаборатории не исчезла. И Стив Джобс, и Стив Возняк сохранили память о посещении в подростковом возрасте Стэнфордской лаборатории. SAIL стала кузницей выдающихся компьютерщиков и новых отраслей.

Именно SAIL дала старт разработкам в области машинного зрения и робототехники, лабораторию по праву считают колыбелью распознавания речи. В свое время Маккарти предложил Раджу Редди понимание речи в качестве темы для диссертации, и Редди стал ведущим исследователем в этой области. Над мобильными роботами в SAIL параллельно с проектом Shakey в Стэнфордском исследовательском институте работали Ханс Моравек, а затем Родни Брукс, которые стали пионерами в области робототехники в Университете Карнеги – Меллона и Массачусетском технологическом институте соответственно.

Это был первый золотой век искусственного интеллекта с исследованиями возможностей понимания естественного языка, компьютерной музыкой, экспертными системами и видеоиграми типа Spacewar. Психиатр Кеннет Колби даже работал с улучшенной версией онлайновой диалоговой системы Eliza, разработанной Джозефом Вейценбаумом в Массачусетском технологическом институте. Колби смоделировал страдающую параноидальным психозом личность, которую назвали «Пэрри». Редди, которому уже доводилось работать с более ранней моделью мейнфрейма IBM 650, вспоминал, что компания брала $1000 за час доступа к машине. Сейчас он «владел» в 100 раз более быстрым компьютером каждый день с 20:00 до 08:00 следующего дня. «Мне казалось, что я умер и попал на небеса», – говорил он{98}.

В лаборатории Маккарти родился целый ряд побочных областей исследования, пионером одной из которых, инженерии знаний, был специалист по вычислительной технике Эд Фейгенбаум. Его первый проект Dendral, начатый в 1965 г., оказал очень большое влияние на развитие экспертных систем, предназначенных для сбора и организации знаний. Система Dendral первоначально создавалась, чтобы помочь химикам идентифицировать неизвестные органические молекулы. Это был общий проект компьютерщиков Фейгенбаума и Брюса Бьюкенена и двух суперзвезд из других областей науки – молекулярного биолога Джошуа Ледерберга и изобретателя противозачаточной таблетки химика Карла Джерасси. Его цель заключалась в автоматизации работы высококвалифицированного специалиста по органической химии.

Бьюкенен вспоминал, что у Ледерберга был контракт с NASA, связанный с поиском жизни на Марсе. Ответ должна была дать масс-спектрометрия: «Фактически система Dendral создавалась для очень конкретного применения, а именно полета на Марс, отбора проб и поиска органических соединений»{99}. И действительно, работу над проектом Dendral начали в 1965 г. после ожесточенных споров в NASA о необходимости пилотируемых полетов на Луну. На заре освоения космического пространства в агентстве остро стоял вопрос, следует ли включать людей в контур управления. Сегодня, несколько десятилетий спустя, этот спор разгорелся вновь, но уже в связи с полетами на Марс.

Первоначальный оптимизм в отношении искусственного интеллекта, который господствовал в SAIL, не иссякал до конца 1960-х гг. Ныне это история, но Моравек, который как аспирант жил тогда в мансарде SAIL, годы спустя вспоминал, что Маккарти, излагая свое предложение ARPA, говорил о возможности создать «машину с искусственным интеллектом» для космоса в течение десятилетия{100}. Полвека спустя это кажется нереальным и даже наивным, но Маккарти уже в момент зарождения своего интереса в конце 1940-х гг., еще до появления компьютеров, твердо решил создать машины с такими же, как у человека, возможностями.

В самом деле, в первое десятилетие существования отрасли оптимизм по поводу искусственного интеллекта был огромен. Это явно просматривается в материалах Дартмутской конференции 1956 г.:

Исследования должны строиться на предпосылке, что любой аспект обучения или интеллекта принципиально поддается описанию с точностью, достаточной для его воспроизведения машиной. Надо выяснить, как научить машины использовать язык, оперировать абстракциями и понятиями, решать такие проблемы, которые сейчас под силу только человеку, и совершенствоваться. Мы полагаем, что в одной или нескольких из этих областей можно добиться значительного прогресса, если в течение лета над ними поработает тщательно отобранная группа ученых{101}.

Мински полностью разделял оптимизм Маккарти и вскоре поручил одному из аспирантов заниматься проблемой машинного зрения, полагая, что ее можно решить в ходе летней практики{102}. «Наша конечная цель – создать программы, которые учатся на собственном опыте так же эффективно, как люди», – писал Маккарти{103}.

Это намерение и легло в основу лаборатории, ставшей раем для исследователей, которые хотели наделить машину всеми способностями человека. В то же время оно вызвало серьезные культурные противоречия, расколовшие компьютерный мир на два лагеря – сообщество, ориентированное на замену человека, и сообщество, намеренное использовать те же технологии для усиления интеллекта человека. Как следствие, в последние полвека внутреннее противоборство «искусственный интеллект – усиление интеллекта» было неотделимо от компьютерной науки на фоне появления все более эффективных технологий преобразования мира.

Можно, конечно, смотреть на искусственный интеллект и усиление интеллекта как на две стороны одной медали. Однако существует фундаментальное различие между созданием технологии, приносящей пользу человечеству, и созданием технологии в качестве самоцели. Сегодня это различие проявляется в том, для чего предназначены все более мощные компьютеры, программное обеспечение и роботы, – чтобы помогать людям или чтобы заменять их. Некоторые исследователи, прошедшие через SAIL, с самого начала выступали против искусственного интеллекта в стиле Маккарти. Алан Кей, выдвинувший концепцию современного персонального компьютера в Xerox в 1970-х гг., провел год в SAIL и впоследствии говорил, что это был один из наименее продуктивных периодов в его карьере. К тому времени он уже сформулировал идею Dynabook – «персонального компьютера для детей всех возрастов»{104}, которая дала начало целому поколению компьютеров, но так и остался чужим для культуры SAIL. Впрочем, для многих в SAIL будущее было очевидным: машины вскоре сравняются с людьми и даже заменят их. Машины уже были классными, а в будущем они должны превзойти по способностям своих создателей.

Чтобы добраться до лишенного ярких вывесок пригородного жилого района Питтсбурга и найти Ханса Моравека, нужно проехать на автомобиле несколько километров от кампуса Университета Карнеги – Меллона. Его офис находился в крошечной квартирке на верхнем этаже дома по соседству с небольшой торговой улицей. Моравек, так и не избавившийся от своего австрийского акцента, превратил двухкомнатную квартиру в укромный офис, где можно было без помех сконцентрироваться на работе. Тесная гостиная с маленьким холодильником переходила в кабинет еще меньшего размера с опущенными шторами, где господствовали большие компьютерные дисплеи.

Несколько десятилетий назад, когда он привлек внимание публики как один из известнейших в мире конструкторов роботов, журналы нередко представляли его «похожим на робота». В жизни это совершенно не так – он часто смеется и не чужд самоиронии. Он остается профессором в Институте робототехники Университета Карнеги – Меллона, где преподавал много лет, однако, хотя и является одним из самых известных учеников Маккарти, практически исчез из мира, к созданию которого приложил руку.

Когда Роберт Джераси, профессор религиоведения Манхэттенского колледжа и автор книги «Апокалиптический искусственный интеллект: Представление о рае в робототехнике, искусственном интеллекте и виртуальной реальности» (Apocalyptic AI: Visions of Heaven in Robotics, Artificial Intelligence, and Virtual Reality, 2010), приехал в Питтсбург с целью исследований, Моравек уклонился от встречи с ним, сославшись на занятость в новом проекте. Джераси – один из авторов, изображавших Моравека наряду с Рэем Курцвейлом интеллектуальным сооснователем техно-религиозного движения, считающего, что человечество неизбежно будет ассимилировано искусственным интеллектом и роботами, которых мы сейчас создаем. В 2014 г. это движение получило широкую известность, когда такие видные представители технологического и научного мира, как Илон Маск и Стивен Хокинг, выступили с предупреждениями о потенциальной угрозе, которую несут людям футуристические системы искусственного интеллекта.

По словам Джераси, целое поколение компьютерщиков, оценивая последствия своих изобретений, вместо того чтобы отходить от религиозности западного общества, возвращаются к ней. «В конечном итоге апокалиптические предсказания последствий развития искусственного интеллекта практически не отходят от апокалиптических традиций иудаизма и христианства. Если они окажутся правильными, мир вновь станет обителью магии», – писал Джераси{105}. С точки зрения профессора религиоведения, это движение можно было свести к концепции отчуждения, под которым он понимал главным образом преодоление страха смерти.

Концепция отчуждения Джераси – не просто уход из общества в стиле Джеймса Дина[11] в 1950-х гг. Моравек, однако, не ассоциируется с абстрактной концепцией страха смерти. Пионер робототехники стал легендой, когда жил в мансарде SAIL в 1970-х гг. В те времена лаборатория была идеальным миром контркультуры для первого поколения компьютерных фанатиков, обнаруживших, что машины, к которым они имели привилегированный доступ, можно превратить в «усилители фантазий».

В 1970-е гг. Маккарти все еще верил, что до появления искусственного интеллекта рукой подать даже при тогдашних скромных вычислительных возможностях. По его выражению, для создания работоспособного искусственного интеллекта нужны «1,8 Эйнштейна и десятая часть ресурсов Манхэттенского проекта»{106}. Моравек в своих ожиданиях исходил из ускорения эволюции вычислительной техники. Он быстро схватил суть закона Мура – идею, что со временем мощность компьютеров будет возрастать экспоненциально, и дополнил ее логичным, на его взгляд, заключением: появление машинного интеллекта неизбежно и произойдет сравнительно скоро. Препятствия, которые предстояло преодолеть для этого, он обобщил в конце 1970-х гг. так:

Из-за недостаточной эффективности нынешних компьютеров сложнее всего автоматизации поддаются функции, которые для людей совершенно естественны: зрение, слух, аргументированное суждение. Основная причина этого стала для меня очевидна в процессе работы над машинным зрением. Дело просто в том, что наши компьютеры пока еще действуют в сотни тысяч, миллионы раз медленнее специализированных отделов нервной системы человека. Это огромное несоответствие не дает нам двигаться, создавая проблемы на пустом месте, затрудняя до невозможности все остальное и заставляя заниматься совсем не тем, чем нужно{107}.

Впервые Моравек обозначил свое несогласие с Маккарти в 1975 г. в отчете SAIL «Значение вычислительной мощности для интеллекта»{108}. Это был манифест, который укрепил его веру в экспоненциальный рост вычислительной мощности и одновременно убедил в том, что текущие ограничения временны. Урок, который он рано усвоил и к которому не раз возвращался на протяжении своей карьеры, заключался в том, что, если вы как разработчик искусственного интеллекта зашли в тупик, подождите с десяток лет и проблемы решатся в результате неотвратимого роста производительности компьютеров. В статье 1978 г. для научно-фантастического журнала Analog Моравек представил свои аргументы широкой публике. В действительности в ней по-прежнему просматривалась унаследованная от Маккарти вера в то, что машины превзойдут человека по интеллекту примерно за десятилетие. «Допустим, мои прогнозы правильны и технические возможности достижения равенства с человеком будут доступны через 10 лет по цене нынешнего среднего компьютера, – писал он. – Что дальше?»{109} Ответ был очевиден. Люди останутся далеко позади нового вида, которому мы помогаем развиваться.

Оставив в 1980 г. Стэнфорд, Моравек написал две популярные книги о приближающейся эре умных машин. В «Детях разума» (Mind Children: The Future of Robot and Human Intelligence, 1988) он показывает, как любимые им с детства роботы развиваются и превращаются в самостоятельный вид. Десять лет спустя он развил эту идею в книге «Робот: От простой машины до совершенного разума» (Robot: Mere Machine to Transcendent Mind, 1998).

Мало кто знает, но Дуг Энгельбарт в 1960 г. на заре развития интерактивных компьютеров также считал, что вычислительная мощность будет расти экспоненциально{110}. Он опирался на эту идею при запуске исследовательского проекта в области усиления интеллекта в SRI, который внес вклад в появление и персональных компьютеров, и интернета. В отличие от него Моравек вдохновлялся на протяжении всей своей жизни романом с роботами. Хотя он и сдерживал свой оптимизм, его вера не пошатнулась ни разу. В 1990-х гг. параллельно с работой над второй книгой он два раза брал творческий отпуск, стремясь ускорить процесс совершенствования машинного зрения и таким образом дать машинам возможность ориентироваться в пространстве и двигаться.

Первый отпуск Моравек провел в Кембридже, штат Массачусетс, в компании Thinking Machines Corporation Денни Хиллиса в надежде воспользоваться суперкомпьютером. Но новый суперкомпьютер CM-5 не был готов. В ожидании он занялся отладкой своей программы на рабочей станции. К концу отпуска стало ясно, что нужно просто ждать, когда возможности суперкомпьютера придут в его настольный компьютер, а не подстраивать программу к работе на специализированной машине. Пять лет спустя во время второго творческого отпуска в исследовательской лаборатории компании Mercedes-Benz в Берлине он вновь пришел к тому же выводу.

Моравек все еще не хотел сдаваться, поэтому, вернувшись из Германии, он подписал контракт с DARPA на продолжение разработки программного обеспечения для автономного мобильного робота. Однако после выпуска двух бестселлеров за десятилетие с обещаниями скорого технологического прорыва он решил, что наступило время взяться за дело. Вера в то, что экспоненциальный рост вычислительной мощности неизбежно приведет к появлению машин с искусственным интеллектом, все больше укреплялась в Кремниевой долине, благо Рэй Курцвейл предоставил популярный набор аргументов в 2005 г. в книге «Сингулярность уже близка» (The Singularuty Is Near). «Это превращается в спектакль и мешает реальной работе», – решил Моравек. К этому времени он полностью разделял подход Алана Кея, который говорил, что «лучший способ предсказать будущее – сотворить его».

Компьютерная берлога Моравека находится далеко от офиса Seegrid, основанной им в 2003 г. компании по производству роботизированных погрузчиков, но от его дома в Питтсбурге до нее можно дойти пешком. В последнее десятилетие он оставил роль футуриста и стал отшельником. В каком-то смысле это было продолжением проекта, который он начал еще ребенком. В десятилетнем возрасте Моравек построил своего первого робота из консервных банок, батареек, лампочек и электромотора. В средней школе он сделал способную следовать за лучом света черепаху и манипулятор. В Стэнфорде он стал двигателем проекта по созданию Стэнфордской тележки, мобильного робота с телевизионной камерой, который мог обходить препятствия. Тележка досталась ему в наследство после прихода в Стэнфорд в 1971 г., и постепенно он ее полностью переделал.

Первым автономным роботом был Shakey, но именно Стэнфордская тележка с ее долгой и яркой историей должна считаться предком беспилотного автомобиля. Она появилась как результат финансируемого NASA проекта в департаменте машиностроения в 1960 г. с прицелом на создание дистанционно управляемого транспортного средства для передвижения по поверхности Луны. Проблема была в том, как управлять подобным аппаратом с учетом задержки радиосигнала, которому для прохождения от Земли до Луны и обратно требовалось 2,7 с.

В финансировании проекта в его первоначальном виде было отказано, поскольку победила идея сохранения человека в контуре управления. В 1962 г. президент Кеннеди нацелил страну на пилотируемые полеты к Луне, и проект тележки положили на полку{111}. Робот размером с карточный стол на четырех велосипедных колесах пылился до 1966 г., когда его обнаружил заместитель директора SAIL Лес Эрнест. Он убедил департамент машиностроения передать его в SAIL для экспериментов по созданию автономного автомобиля. Со временем, используя мейнфрейм SAIL, один из аспирантов смог «научить» робота двигаться вдоль белой линии на полу со скоростью порядка километра в час. Радиоканал обеспечивал дистанционное управление. Местонахождение проще было определять с помощью двух фотоэлементов, но последним писком в то время считалась видеокамера, связанная с компьютером.

Моравек модифицировал и отлаживал систему в течение 10 лет, и в конце она могла пройти через комнату, обходя препятствия, в два раза быстрее. У тележки было много недостатков. Пытаясь обеспечить ориентацию в пространстве и определение местоположения с помощью единственной камеры, Моравек взялся за одну из самых сложных задач искусственного интеллекта. Воссоздание точной трехмерной модели мира он считал ключевым шагом на пути к его пониманию.

В то время единственной обратной связью было пройденное тележкой расстояние. В отсутствие настоящего стереоскопического зрения тележка не воспринимала глубину. Из соображений экономии она перемещала камеру вперед и назад по направляющей под прямым углом к полю зрения, давая программе возможность сформировать стереоизображение по данным одной камеры. Это был прообраз подхода, которым десятилетия спустя воспользовалась специализирующаяся на машинном зрении израильская компания Mobileye.

Автомат двигался медленно и монотонно, но канал связи и видеокамера позволяли Моравеку развлекаться дистанционным управлением с компьютерной рабочей станции. Можно было вообразить, что это луноход разъезжает вокруг здания SAIL среди холмов к западу от Стэнфорда. Вскоре на ведущей к лаборатории дороге появился желтый дорожный знак с надписью «ОСТОРОЖНО, РОБОТИЗИРОВАННЫЙ АВТОМОБИЛЬ». Тележка и в самом деле выехала на улицу, но не очень успешно. Казалось, у нее была способность находить неприятности. Одна из них случилась в октябре 1973 г., когда тележка в режиме ручного управления поехала под уклон и перевернулась, из аккумулятора вытекла кислота, уничтожившая дорогостоящую электронику{112}. На восстановление ушел почти год.

Моравек не раз пытался провести тележку вокруг здания, но позади лаборатории дорога шла вниз, радиосигнал ослабевал, и определение точного местоположения тележки становилось проблематичным. Однажды он неправильно определил ее положение и повернул не в ту сторону. Вместо того чтобы завершить круг, робот двинулся к оживленной Арастрадеро-роуд у подножия холмов Пало-Альто. Моравек надеялся, что сигнал от робота усилится, но он оставался неустойчивым. Телевизионная картинка постоянно останавливалась. Неожиданно Моравек увидел едущий рядом с роботом автомобиль. Это было странным. Не выдержав, он оторвался от терминала и отправился на поиски. Там, где, по его мнению, должен был находиться робот, оказалось пусто. Моравек решил, что его разыгрывают. Он разыскивал беглую машину до тех пор, пока она не прикатила сама с сидящим верхом техником. К тому времени, когда ее поймали, Стэнфордская тележка довольно далеко уехала по Арастрадеро-роуд. С той поры инженеры добились значительного прогресса в конструировании беспилотных автомобилей. Давняя уверенность Моравека в том, что нужно лишь подождать, пока компьютеры станут более дешевыми и мощными, в значительной мере оправдалась.

Он продолжал заниматься машинным зрением, но не все шло гладко. В октябре 2014 г. созданная им компания по производству промышленных систем искусственного зрения была объявлена банкротом и подверглась принудительной реструктуризации. Однако, несмотря на разочарования, изменялись только временные рамки его планов. На вопрос, заменят ли современные системы искусственного интеллекта и роботы живой труд, он отвечал, подмигивая, что намерен заменить род людской – «труд – это минимальная цель».

Свое представление о ближайшем будущем Моравек обрисовал во второй книге: «Робот: От простой машины до совершенного разума». В ней он делает вывод, что нет необходимости заменять капитализм, поскольку для развивающихся машин полезно конкурировать друг с другом. «Дело в том, – говорит он, – что мы фактически создаем для себя довольно пристойные условия выхода в отставку». Призрак «конца работы», который сегодня с растущей тревогой обсуждают многие технари, в понимании Моравека относительно небольшая проблема. Люди любят развлекать друг друга. Подобно многим собратьям по сингулярности, его волнует, что мы будем делать с переизбытком товаров и услуг. Демократия, по его словам, открывает путь к совместному использованию огромного накопленного капитала, который будет все больше приумножаться сверхпродуктивными компаниями. Появится возможность, например, увеличивать социальные выплаты и снижать возраст выхода на пенсию до тех пор, пока он не будет наступать в момент рождения.

На взгляд Моравека, расширение возможностей – промежуточный этап технологического развития, необходимый лишь кратковременно, пока люди могут делать то, чего не умеют машины. Наряду с Ликлайдером он полагает, что машины будут совершенствоваться все быстрее и быстрее, тогда как люди эволюционируют постепенно. Пусть не к 2020 г. (а было время, когда он считал, что к 2010 г.), но довольно скоро появятся так называемые универсальные роботы, способные выполнять широкий набор базовых задач. Эту идею Моравек выдвинул еще в 1991 г., изменялись только сроки. Раньше или позже машины станут настолько совершенными, что начнут учиться на собственном опыте и постепенно приспосабливаться к существующим условиям. Моравек все еще верит в три закона робототехники Азимова. Рынок заставит роботов быть гуманными – тех, которые причиняют вред людям, просто не будут покупать. В какой-то момент возникнет и машинное сознание.

В книге «Робот: От простой машины до совершенного разума» также есть идея о необходимости жесткого регулирования полностью автоматизированных компаний. Законы должны ограничивать рост этих компаний и подконтрольных им роботов и не допускать концентрации слишком большого могущества. Как только какая-то из них станет слишком крупной, автоматически должны включиться антимонопольный механизм и произойти принудительное разделение. В мире Моравека компании будут находиться под надзором общества интеллектуальных компаний, стоящего на страже коллективного блага. В его мировоззрении нет ничего романтического: «Мы не можем быть слишком сентиментальными по отношению к роботам, поскольку, в отличие от людей, у них нет истории эволюции, главным в которой было выживание». Он по-прежнему считает, что появление компаний с искусственным интеллектом и универсальных роботов ознаменует реализацию утопической идиллии, где удовлетворяются любые желания человека.

Но мировоззрение Моравека не полная идиллия. У его будущего с искусственным интеллектом и роботами есть и мрачная сторона. Роботы будут осваивать Солнечную систему, добывать полезные ископаемые на астероидах и самовоспроизводиться. Вот тут его идеи начинают смахивать на антиутопический фильм Ридли Скотта «Бегущий по лезвию» (Blade Runner), в котором андроиды начинают колонизировать Солнечную систему. «Что-то может пойти не так, и там появятся роботы-преступники, – говорит Моравек. – Дело кончится тем, что пояс астероидов и то, что находится за ним, превратится в дикий мир без ограничений, которые сдерживают послушных роботов на Земле». Понадобится ли нам планетарная система обороны от нашего потомства? Возможно, нет, рассуждает он. Остается надеяться, что эта новая технологическая форма жизни будет больше заинтересована в освоении Вселенной.

В уютном отшельническом командном центре Моравека в пригороде Питтсбурга, в комнате, полной мониторов, довольно легко поверить в его научно-фантастические представления. Но пока что у нас практически нет надежных свидетельств быстрого ускорения развития технологий, которое приведет к созданию робототехнического рая при его жизни. Хотя у нас до сих пор нет беспилотных автомобилей, а сроки реализации прогнозов приходится отодвигать все дальше, Моравек показывает кривые на своих гигантских мониторах и твердо стоит на том, что общество по-прежнему идет по пути создания вида, который станет нашим преемником.

Разделят ли люди это грандиозное видение? Хотя в книге «Дети разума» излагается идея загрузки разума человека в компьютер, Моравек е сторонник цели Рэя Курцвейла «жить достаточно долго, чтобы стать вечным». Курцвейл идет на экзотические и сомнительные медицинские процедуры для продления своей жизни. Моравек в расчете дожить хотя бы до 2050 г. ограничивается правильным питанием и частыми прогулками. Ему 64 года, и у него, пожалуй, неплохие шансы прожить достаточно долго.

В 1970-х и 1980-х гг. соблазн создания искусственного интеллекта привлек в эту область целое поколение великолепных инженеров, но принес разочарование. Когда искусственный интеллект не оправдал ожиданий, многие переключились на другой идеал – усиление интеллекта.

Шелдон Брейнер вырос в еврейской семье среднего класса в Сент-Луисе и с раннего возраста увлекался практически всем, с чем соприкасался. В 1950-х гг. он выбрал колледж в Стэнфорде в какой-то мере ради того, чтобы быть подальше от семейной пекарни. Он хотел посмотреть мир и еще в средней школе понял, что, если останется в Сент-Луисе, отец, скорее всего, заставит его заняться семейным бизнесом.