Сверхдержавы искусственного интеллекта Ли Кай-фу

Вопросы о нашем будущем в мире ИИ – о взаимосвязи между работой, системой ценностей и тем, что значит быть человеком, – встали передо мной внезапно и со всей серьезностью.

Большую часть своей взрослой жизни я фанатично трудился, отдавая почти все свое время и силы работе – для семьи или друзей их оставалось совсем мало. Мое чувство собственного достоинства держалось на моих рабочих достижениях, на моей способности зарабатывать деньги и влиять на происходящее в окружающем мире. Я строил свою карьеру исследователя в то время, когда алгоритмы искусственного интеллекта становились все более изощренными. При этом я начал рассматривать свою жизнь как некий алгоритм оптимизации с четкими целями: усилить личное влияние и свести к минимуму все, что не служит достижению этой цели. Я подходил ко всему в жизни с точки зрения расчета, «ввода данных» и точной настройки алгоритма. Не могу сказать, что я совсем не обращал внимания на свою жену или дочерей, но я всегда думал, как уделить им поменьше времени так, чтобы они не выражали по этому поводу недовольства. Почувствовав, что пообщался с ними достаточно, я мчался обратно на работу, отвечал на электронные письма, запускал продукты, финансировал компании и писал лекции. Как бы крепко я ни спал, каждые сутки – в 2 часа ночи и в 5 утра – мое тело естественным образом само просыпалось, чтобы я мог ответить на электронные письма из США.

Эта одержимость работой не прошла безрезультатно. Я стал одним из ведущих исследователей ИИ в мире, основал сильнейший институт компьютерных исследований в Азии, запустил Google China, создал собственный успешный венчурный фонд, написал несколько бестселлеров на китайском языке и обрел огромную аудиторию в социальных сетях Китая. По любым объективным меркам, мой «личный алгоритм» оказался исключительно эффективным. А потом все резко изменилось. В сентябре 2013 года мне поставили диагноз – лимфома IV стадии. В одно мгновение мой мир, состоявший из интеллектуальных алгоритмов и личных достижений, рухнул. И ничто из этого уже не могло спасти меня или утешить. Как и многие люди, вынужденные взглянуть в лицо смерти, я боялся будущего и с глубоким, мучительным сожалением вспоминал о том, как я жил до этого. Год за годом я игнорировал возможность проводить время с самыми близкими мне людьми и дарить им свою любовь. Моя семья давала мне так много тепла и любви – а я отмерял им крупицы. По сути, загипнотизированный своим стремлением создавать машины, которые думали бы как люди, я превратился в человека, который думал как машина. Болезнь вошла в стадию ремиссии, пощадив мою жизнь, но истины, открывшиеся перед лицом смерти, глубоко повлияли на меня.

Они помогли мне изменить приоритеты, да и всю мою жизнь в целом. Теперь я провожу гораздо больше времени с женой и дочерьми и переехал поближе к моей престарелой матери. Я резко сократил свое присутствие в социальных сетях, отдавая освободившееся время встречам и пытаясь лично помочь молодым людям, которые обращаются ко мне, попросил прощения у тех, кого обидел, и стремлюсь быть более добрым и чутким по отношению к коллегам. Но важнее всего то, что я перестал рассматривать свою жизнь как алгоритм, который можно оптимизировать для достижения цели. Вместо этого я стараюсь тратить свою энергию на то, что, как я понял теперь, по-настоящему придает жизни смысл: на то, чтобы делиться любовью с окружающими.

Пережитые потрясения помогли мне увидеть, как люди могут сосуществовать с искусственным интеллектом. Да, эта технология обладает огромным экономическим потенциалом, который уничтожит несметное количество рабочих мест. Именно поэтому важно не уравнивать ценность человека для экономики и его ценность как человека, как личности. Если мы будем мыслить таким образом, то ИИ действительно разрушит наше общество и наши представления о себе. Но есть и другой путь и другая возможность использовать искусственный интеллект, чтобы развить те качества, которые делают нас людьми. Этот путь нелегок, но, думаю, именно он способен помочь нам не просто выжить в эпоху ИИ, но и достигнуть настоящего процветания. Это мой собственный путь, который привел меня от машин обратно к людям и от рациональности – к любви.

16 декабря 1991 года я оказался в центре размеренного круговорота событий, присущего родильному отделению. Медперсонал и врачи в белых халатах без конца входили в палату и выходили из нее, измеряли давление и температуру, меняли капельницы. Моя жена, Шен-Лин, лежала на больничной койке, терпеливо перенося одно из самых важных, но притом самых тяжелых для тела и психики испытаний – появление новой человеческой жизни. Это было 16 декабря 1991 года, и я должен был стать отцом в первый раз. Наш врач сказал мне, что роды обещают быть трудными, потому что положение плода неправильное: головка ребенка обращена к стенке живота матери, а не к спине. Это означало, что может потребоваться кесарево сечение. Я нетерпеливо ходил по палате, нервничая даже сильнее, чем большинство будущих отцов в такой важный день. Я волновался за Шен-Лин, за здоровье ребенка, но все равно не мог полностью сосредоточиться на происходящем. В тот день я должен был выступать с презентацией перед Джоном Скалли, моим начальником – генеральным директором Apple, одним из самых влиятельных людей в мире технологий. Годом ранее я был принят в Apple в качестве главного специалиста по распознаванию речи, и эта презентация давала шанс, что Скалли одобрит наше предложение ставить программы для синтеза речи на каждый компьютер Macintosh и для распознавания речи – на все будущие модели. Схватки у жены продолжались, а я все смотрел на часы с отчаянной надеждой, что ребенок появится достаточно быстро, чтобы я смог и присутствовать при рождении, и успеть в офис на встречу. Но пока я нервно мерил шагами палату, мои коллеги позвонили и спросили, что им делать: отменить встречу или попросить моего заместителя провести презентацию для Скалли. «Не надо ничего делать, – сказал я им. – Думаю, я успею».

Однако роды затягивались, я понимал, что не успеваю, и просто разрывался, пытаясь принять решение: остаться рядом с женой или поспешить на важную встречу. Пытаясь решить эту «проблему», мой тренированный мозг инженера перешел на интенсивный режим работы. Я взвесил все варианты с точки зрения входных данных и вероятных результатов, стараясь представить себе, как можно максимально повлиять на те из них, которые как-то поддавались влиянию. Быть свидетелем рождения моего первого ребенка было бы прекрасно, но дочь родится независимо от того, буду я рядом или нет. С другой стороны, неявка на презентацию для Скалли могла бы существенно отразиться на дальнейшем ходе событий. Ведь если мой заместитель не сумеет показать программное обеспечение так же хорошо, как я – а мне презентации всегда давались лучше, – то Скалли может отложить исследования по распознаванию речи на неопределенный срок. Или он одобрит проект, но отдаст его кому-нибудь другому. Мне казалось, что судьба моих разработок в области искусственного интеллекта висит на волоске, а значит, мне следовало вернуться в офис и провести презентацию самому. Я был полностью погружен в эти логические упражнения, когда доктор сообщил мне, что необходимо срочное кесарево сечение. Мою жену увезли в операционную, я последовал туда за ней, и через час мы с Шен-Лин уже держали на руках нашу новорожденную дочь. Немного побыв с семьей, я помчался на презентацию. Она прошла отлично. Скалли одобрил проект и даже потребовал провести широкую рекламную кампанию для моей разработки. В результате ее прекрасно освещали в СМИ, о ней вышло несколько статей в Wall Street Journal, и нам с Джоном Скалли дали возможность продемонстрировать нашу новую технологию миллионам зрителей в передаче «Доброе утро, Америка» 1992 года. Мы показали зрителям, как с помощью голосовых команд можно записаться на прием, выставить счета и запрограммировать видеомагнитофон. Эти функции стали повседневными только через 20 лет, с появлением Siri от Apple и Alexa от Amazon. Я был горд собой, а моя карьера стремительно развивалась. Но, оглядываясь назад, я понимаю, что в моем сознании наиболее глубокий след оставило именно то, что происходило в больничной палате, а вовсе не мои карьерные достижения. Тем не менее, если бы мне тогда все же пришлось делать выбор, я, скорее всего, выбрал бы встречу с руководством Apple.

Должен признаться, что сегодня мне за себя стыдно, но я понимаю свои чувства в тот момент, поскольку речь шла не просто об одной встрече. Именно так – подобно машине – я жил и мыслил на протяжении десятилетий.

Железный человек

В молодости я почувствовал тягу к информатике и науке об искусственном интеллекте в том числе и потому, что кристально четкая логика алгоритмов была близка к моему собственному образу мысли. В то время я воспринимал все составляющие своей жизни – дружбу, работу, время, которое проводил с семьей, – в виде переменных и действовал как некий мыслящий алгоритм. Составляющие подвергались количественной оценке и дозировались в зависимости от того результата, который требовалось получить.

Как и любой хороший алгоритм, я, конечно, должен был сбалансировать все цели. Ведь самоуправляемые автомобили, например, проводят оптимизацию условий, чтобы доставить вас домой как можно быстрее и при этом соблюсти все правила дорожного движения. Благодаря этому риск несчастных случаев снижается до минимума. Кроме того, мне следовало найти компромисс между личной и профессиональной жизнью. Я не был невнимательным отцом, нерадивым мужем (за исключением рождения моей дочери) или неблагодарным сыном. Я умел неплохо общаться: помнил о днях рождения, дарил подарки и посвящал некоторое время семье. Но я подходил ко всему этому с точки зрения минимизации расходов – искал способы получить желаемый результат, потратив поменьше времени. Главный же алгоритм всегда использовался для достижения моих карьерных целей: я стремился как можно больше работать, обзаводиться связями и повышать профессиональный статус. Когда мне давали четырехнедельный отпуск, я проводил одну-две недели с мамой на Тайване или с семьей в Пекине, а потом возвращался к работе. Даже хирургическая операция не заставила меня пролежать без дела в постели две недели, я не мог допустить, чтобы работа шла сама по себе. Компьютерный монитор крепился к металлической перекладине над моей кроватью и соединялся с клавиатурой и мышью, лежавшими у меня на коленях. Я начал просматривать свою электронную почту и отвечать на сообщения уже через несколько часов после операции.

Я хотел, чтобы мои сотрудники, руководство и ученики видели во мне рабочую машину с форсированным двигателем, способную делать вдвое больше, а отдыхать вдвое меньше, чем обычный человек. Для моих сотрудников это было прозрачным намеком, что я ожидал подобных же усилий и от них. В конце концов мои коллеги дали мне прозвище «Железный человек», и оно мне очень понравилось.

Такой подход заряжал меня энергией. Мне посчастливилось возглавить целое направление в науке, достичь вершин в бизнесе и стать знаменитостью. В 2013 году журнал Time внес меня в список 100 самых влиятельных людей мира.

Что могло бы быть написано на моей надгробной плите?

Каждое из этих достижений подливало масла в огонь, горевший у меня внутри.

Благодаря им я работал все усерднее и проповедовал подобный образ жизни миллионам молодых китайцев. Я написал книги-бестселлеры «Как побить свой личный рекорд»[94] и «Как изменить мир к лучшему»[95], ездил в университетские городки по всей стране с вдохновляющими выступлениями. После столетий нищеты Китай возрождался как великая держава, и я призывал китайских студентов воспользоваться моментом и оставить свой след в истории. По иронии судьбы, в конце каждой лекции я использовал сильный прием: говорил своим слушателям, что лучший способ найти призвание – это представить свою могильную плиту и надпись, которую вы хотели бы видеть на ней. Я добавлял, что моя миссия мне ясна и моя надгробная плита уже готова, а надпись гласит: «Здесь лежит Кайфу Ли, выдающийся ученый и руководитель. Его работа в ведущих технологических компаниях превратила передовые технические достижения в продукты широкого применения, и теперь они приносят пользу всем людям».

Мои речи производили глубокое впечатление: содержавшийся в них призыв к действию заставлял сильнее биться честолюбивые сердца во всех уголках страны. Китай развивался и становился на ноги невероятно быстро, и всеобщее воодушевление буквально ощущалось в воздухе. Я чувствовал себя в своей стихии и работал на пике возможностей. После ухода из Google и основания Sinovation Ventures я начал уделять больше времени наставничеству молодежи, используя свое сообщество на платформе Weibo (соцсети наподобие Twitter), чтобы напрямую общаться с китайскими студентами, помогать им и писать открытые письма, из которых потом получались книги. Хотя я оставался главой одного из самых престижных венчурных фондов страны, студенты стали называть меня «Учитель Кайфу», что считается в Китае большой честью. Я наслаждался ролью наставника для миллионов студентов и верил, что доказал свою самоотверженность и искреннее желание помогать другим. Свои выступления в китайских университетах я по-прежнему заканчивал словами про надгробие, но эпитафию изменил. Теперь она звучала так: «Здесь лежит Кайфу Ли, который с любовью передавал свои знания молодежи во времена экономического подъема Китая. Благодаря переписке, общению в интернете и лекциям он заслужил уважение многих студентов, которые называли его “Учитель Кайфу”». Выступления перед восхищенной аудиторией вдохновляли меня. Мне казалось, что новая концовка лучше прежней, поскольку в ней говорилось о моем влиянии и мудрости, обретенной с возрастом. Я прошел путь от ученого до инженера и от руководителя до наставника. Мне удалось в какой-то степени изменить мир и помочь моим подопечным. Алгоритм моего разума, говорил я себе, был отлажен до совершенства. И мне потребовалось столкнуться с действительностью, которая стоит за могильной плитой, чтобы понять, насколько наивными и неправильными были мои расчеты.

Диагноз

Техник, отвечающий за позитронно-эмиссионное сканирование, проводящееся во время ежегодного профилактического медицинского осмотра, выглядел очень серьезным. Как только я оказался в кабинете, он сразу же приступил ко вводу моих данных и программированию устройства визуализации. Чтобы пройти этот медосмотр, мы с женой каждый год отправлялись на Тайвань. В 2013 году у одного из наших близких родственников был диагностирован рак, и потому моя жена решила, что нам обоим следует сделать МРТ и компьютерную томографию. После осмотра мой врач сказал, что нашел кое-что во время предварительного сканирования и что я должен пройти эту процедуру повторно.

Расшифровка результатов МРТ и КТ требует профессиональных навыков, но результаты ПЭТ относительно просты для понимания. Пациентам вводят радиоактивный индикатор – дозу глюкозы, которая содержит небольшое количество радиоизотопа. Раковые клетки, как правило, начинают усваивать сахар более интенсивно, чем другие части тела, и радиоизотопы группируются в областях, где может развиваться опухоль. На компьютерных снимках, получаемых при сканировании, в таких случаях видны скопления точек ярко-красного цвета. Еще до начала процедуры я спросил техника, можно ли посмотреть снимки, как только она закончится. «Я не радиолог, – сказал он. – Но да, я покажу вам их». Я лег на транспортер и был отправлен внутрь сканера. Когда я появился оттуда 45 минут спустя, техник все еще сидел за компьютером, пристально вглядываясь в экран и быстро щелкая мышкой. «Могу я посмотреть снимки прямо сейчас?» – спросил я. «Вам действительно лучше сначала сходить к своему радиологу», – ответил он, не поднимая головы. «Но вы обещали, что покажете их мне, – возразил я. – Это ведь можно сделать прямо на экране, не так ли?» Он уступил и повернул экран компьютера – и тут у меня внутри все замерло и по коже пробежала ледяная дрожь. Черные контуры моего тела были густо усеяны многочисленными красными точками в области желудка и по всей брюшной полости.

«Что это за красные штуки?» – спросил я, чувствуя, что у меня начинает дрожать подбородок. Техник не смотрел мне в глаза. Из холода меня бросило в жар. «Это опухоли?» – резким тоном продолжал я.

«Есть вероятность, что это опухоли, – ответил он, все еще избегая моего взгляда. – Советую вам сохранять спокойствие и пойти поговорить с радиологом».

Мой рассудок отключился, но тело продолжало работать, словно на автопилоте. Я вежливо попросил техника распечатать для меня снимки и отправился дальше по коридору – в кабинет радиолога. Я не был записан на прием, и, по правилам, никто не должен был изучать мои распечатки просто так, но я все просил и просил, пока кто-то не согласился сделать исключение. Посмотрев снимки, радиолог сказал, что у меня лимфома. Когда я спросил, на какой стадии развития она находится, врач попытался избежать ответа на вопрос. «Ну, это довольно сложно. Мы должны выяснить, какого она вида…» Однако я резко оборвал его: «…но все же на какой стадии она находится?» – «Вероятно, на четвертой».

Я вышел из комнаты, а затем из больницы, прижимая к себе снимки обеими руками. Я держал их лицевой стороной к груди, чтобы никто из проходящих мимо людей не мог даже мельком увидеть, что росло внутри меня. Я решил поскорее вернуться домой и написать завещание.

Завещание

Слеза, упавшая на страницу, могла стоить мне часа упорного труда. Я попытался вытереть ее платком, когда она повисла на ресницах, но опоздал буквально на секунду, и она все же упала на бумагу, угодив прямо на китайский иероглиф, означавший «Ли». Соленая капля смешалась с чернилами на странице и превратилась в крошечную черную лужицу, которая медленно впиталась в бумагу. Пришлось переписывать все сначала.

На Тайване, чтобы завещание имело силу, оно должно быть написано от руки, без клякс и исправлений. Это простое требование, хоть и немного архаичное. Поэтому я достал свои лучшие чернила и ту самую ручку, которой я подписал для поклонников сотни своих книг: автобиографию, ставшую бестселлером, и несколько томов наставлений молодым китайцам о том, как строить карьеру упорным трудом. И эта ручка тоже не слушалась меня. Пальцы дрожали от волнения, а перед глазами стояли снимки с ПЭТ-сканирования. Я пытался сосредоточиться на рекомендациях консультировавшего меня юриста, но мой разум где-то блуждал, ручка скользила, иероглифы не получались, и приходилось все начинать с нуля.

Дело было совсем не в огненно-красных пятнах, стоявших перед моим мысленным взором и мешавших сосредоточиться. Завещание надо было написать традиционными китайскими иероглифами, используемыми на Тайване, – сложными комбинациями штрихов, петель и росчерков, гораздо более замысловатыми и элегантными, чем упрощенные варианты, используемые в материковом Китае. Это одна из старейших живых письменностей, и я буквально вырос на ней. В детстве я в огромном количестве поглощал романы о кунг-фу и даже написал один сам, когда учился в начальной школе. В возрасте 11 лет я переехал из Тайваня в Теннесси, вслед за старшим братом, который работал в США и убедил мою мать, что тайваньская система образования слишком жесткая для ребенка вроде меня. Моей матери было нелегко отпустить меня на другой конец света, и, когда мы прощались, она заставила меня пообещать одно: что я буду писать ей письма на китайском каждую неделю. Вместе со своим ответным письмом она каждый раз присылала мне копию моего, в котором исправляла все ошибки. Эта переписка позволяла мне не забывать письменный китайский язык, когда я учился в средней школе, колледже и аспирантуре в Соединенных Штатах. Когда я устроился на престижную работу в Apple в начале 1990-х годов, мы стали обмениваться письмами все реже. А когда я переехал в Пекин и начал работать с Microsoft, мне стало совсем некогда выписывать от руки замысловатые символы. Печатать на компьютере было проще, требовалось лишь ввести китайское слово на латинице (например, nihao), а затем выбрать соответствующие символы из списка. Искусственный интеллект еще больше упростил этот процесс, предсказывая следующий символ в зависимости от контекста. Теперь набирать текст на китайском языке почти так же легко, как на алфавитных языках вроде английского. Но из-за этой легкости я стал терять навык. И вот я сидел, сгорбившись над бумагой, изо всех сил пытаясь изобразить забытые иероглифы. Я все время забывал поставить точку или добавить горизонтальную черточку там, где это было нужно, и каждый раз, когда иероглиф не получался, мял бумагу и начинал все заново.

Мое завещание умещалось на одной странице, и в нем я оставлял все своей жене, Шен-Лин. Но мой адвокат настоял, чтобы я написал четыре идентичных текста, каждый из них с учетом различных непредвиденных ситуаций.

Что, если Шен-Лин умрет раньше меня? Тогда бы я оставил все своим двум дочерям. А что, если одна из них умрет? А что делать, если и Шен-Лин, и обе дочери умрут? Для человека, борющегося за собственную жизнь, все это звучало абсурдно, но закон есть закон. Рассматривая все варианты, я невольно задумывался о вещах, действительно имевших значение. И это было не управление моими финансовыми активами, а отношения с близкими людьми. С тех пор как я увидел снимки ПЭТ, мир, казалось, растворился в водовороте отчаяния, засасывавшего меня все глубже. Как это могло случиться со мной? Я никогда намеренно никому не причинял вреда. Я всегда старался сделать мир лучше, работая над технологиями, облегчающими жизнь людей. Я использовал свой личный пример, чтобы обучать и вдохновлять молодежь. Я не сделал ничего, чтобы заслужить смерть в возрасте пятидесяти трех лет.

Каждая из этих мыслей начиналась с «я» и строилась на моей эгоистичной уверенности в собственной ценности. Однако когда я написал черными чернилами имена моей жены и дочерей, символ за символом, я вдруг освободился от жалости к самому себе. Настоящая трагедия была не в том, что я не смогу прожить еще долго, а в том, что я жил так долго, не особенно щедро делясь любовью с теми, кто был рядом.

Осознание того, что моя жизнь подходит к концу, изменило мой взгляд на нее и избавило меня от эгоцентризма. Я перестал спрашивать, почему со мной случилась такая беда, или сокрушаться о том, что все мои достижения не могут меня спасти. Я начал задавать новые вопросы: почему я так отчаянно хотел превратиться в человека-машину? Почему не находил времени подарить любовь другим? Почему я игнорировал то, что делает меня человеком?

Жизнь перед лицом смерти

Над Тайбэем пылал закат – наступал вечер, а я все еще сидел за столом, глядя на четыре копии моего завещания, на написание которого у меня ушло четыре часа. Моя жена осталась в Пекине с нашей младшей дочерью, я был один в гостиной, в доме моей матери. Мать лежала в комнате рядом. Она долгие годы страдала слабоумием и, хотя пока еще меня узнавала, почти не понимала, что происходит в мире вокруг нее.

На мгновение я почувствовал благодарность за болезнь, затуманившую ее разум: если бы она поняла, какой диагноз мне только что поставили, это могло бы сломить ее. Она родила меня, когда ей было 44 года – из-за возраста врачи не советовали ей рожать. Однако она отказалась принять эту мысль. Я родился, и она окружила меня бесконечной любовью. Я всегда был для нее маленьким мальчиком, и она с удовольствием кормила меня ароматными, аккуратно вылепленными сычуаньскими пельменями со свининой, которые почти таяли во рту. Когда я отправился в Теннесси, моя мать, которая не знала ни одного английского слова, приехала ко мне и провела со мной все мои первые шесть месяцев в Америке, чтобы убедиться, что у меня все идет хорошо. Перед тем как вернуться домой на Тайвань, она лишь попросила, чтобы я продолжал писать ей письма на китайском каждую неделю: это был способ сохранить в моем сердце культуру предков. Всю жизнь она щедро дарила любовь своим детям. Она лежала в соседней комнате, а я сидел за столом, и на меня одна за другой накатывали волны самого мучительного раскаяния. Как получилось, что я, воспитанный такой эмоционально щедрой женщиной, прожил жизнь, полностью сосредоточившись на самом себе? Почему я никогда не говорил отцу, что люблю его? Или не заботился о матери как следует до того, как она заболела?

Самое трудное перед смертью – это сожаления не о том, чего уже не будет, а о том, что ты уже не можешь вернуть.

Писательница и медсестра Бронни Вэр в своем блоге рассказывала, о чем ее неизлечимо больные пациенты больше всего сожалели перед смертью. Оглядываясь на свою жизнь, они видели ее так ясно, как мы свою обычно увидеть не можем, поскольку поглощены рутиной. Они сожалели о том, что им не хватало смелости идти своим путем, что они слишком много работали и слишком мало внимания уделяли близким. Никто не сожалел о том, что работал недостаточно усердно, но многие говорили, что им стоило проводить больше времени с теми, кого они любили. «В конечном счете все сводится к любви и отношениям с другими людьми, – написала Вэр в своем блоге, перед тем как вышла ее книга. – Все, что остается в последние недели, – это любовь и привязанность»[96]. И теперь, когда я сидел за столом в доме матери, эта простая истина жгла меня изнутри. Мысленно я возвращался на годы назад, погружался в воспоминания о моих дочерях, жене и родителях. Нет, я не игнорировал отношения – напротив, я очень точно рассчитывал, сколько их должно приходиться на каждого. Я взвешивал и оценивал их с точки зрения оптимального распределения времени, чтобы они не мешали мне достигать моих целей. Теперь я чувствовал зияющую пустоту внутри. Я понимал, как много было безвозвратно потеряно из-за того, как мало времени для близких мой мысленный алгоритм посчитал «вполне достаточным». Этот алгоритмический способ мышления вовсе не был оптимальным – более того, он лишал меня человечности.

Монастырь на горе

Как и любое важное озарение, эти мысли пришли ко мне не сразу. Я чувствовал происходящие внутри меня сдвиги, но понимал, что потребуется много терпения и жесткого, честного самоанализа, чтобы пройти через муки сожаления и открыть новый способ взаимодействия с окружающим миром. Вскоре после того, как стал известен мой диагноз, один знакомый порекомендовал мне посетить буддийский монастырь Фо-Гуан-Шань на юге Тайваня. Почтенный мастер Син-юнь, круглолицый монах с мягкой улыбкой, основал Фо-Гуан-Шань в 1967 году и живет в монастыре и по сей день. Его монашеский орден практикует то, что называется «гуманистический буддизм», – современный подход к вере, в котором основные традиционные практики и заповеди интегрируются в повседневную жизнь. Монахи избегают суровой таинственности традиционного буддизма и не скрывают свою искреннюю любовь к жизни. Монастырь принимает паломников, принадлежащих к любым слоям общества. Они вместе с монахами выполняют простые практики и постигают несуетную мудрость бытия. Вокруг монастыря вы видите пары, намеревающиеся вступить в брак, монахов, смеющихся над веселой шуткой, и туристов, сбежавших от рутины, чтобы погреться в лучах спокойствия, исходящего от обитателей монастыря. В детстве и юности, живя в Соединенных Штатах, я исповедовал христианство, и хотя больше не принадлежу к какой-либо церкви, все равно верю в Создателя этого мира – в силу, большую, чем наша собственная. Я ехал в монастырь без особой цели – просто хотел провести несколько дней в размышлениях о том, что мне пришлось испытать, и о своей прежней жизни.

Однажды после утренних занятий меня пригласили на вегетарианский завтрак к мастеру Син-юню. Солнце еще не взошло, мы ели хлеб, тофу и кашу. Мастер Син-юнь теперь может передвигаться лишь в инвалидном кресле, но его ум остается ясным и острым. Посреди нашей трапезы он обратился ко мне с простым вопросом: «Кайфу, ты когда-нибудь думал о том, какова твоя цель в жизни?»

Недолго думая, я дал ему тот же ответ, который десятилетиями давал себе самому и всем окружающим: «Добиться как можно большего влияния и изменить мир». Но вдруг, произнося эти слова, я почувствовал жгучее смущение, как будто раскрывал другому человеку свои потайные помыслы. Сидящий за столом напротив меня монах молчал, и это смущало меня еще больше. Тем не менее я ответил честно. Это стремление добиться влияния, неистребимое и постоянно растущее, было похоже на опухоль у меня внутри. За свою жизнь я прочитал множество философских и религиозных книг, но никогда не сомневался в своих целях. Еще около минуты мастер Син-юнь ничего не говорил – он собирал кусочком хлеба остатки каши со стенок своей деревянной миски. Я поерзал на месте. «Что на самом деле означает “добиться большого влияния”? – начал он. – Когда люди говорят таким образом, часто они просто маскируют свое тщеславие. Если вы внимательно посмотрите внутрь себя, то разве сможете утверждать, что в действительности вами движет не эгоцентризм? Ответ на этот вопрос должен идти от самого сердца, ни в коем случае не пытайтесь лгать себе». Мой разум метался в поисках возражений. Я пытался обосновать свои поступки с точки зрения логики. С тех пор как я узнал свой диагноз, меня не покидало горькое сожаление о том, как я обращался с моей семьей и друзьями. Я медленно смирился с пустотой моей эмоциональной жизни. Но, как и говорит теория Элизабет Кюблер-Росс о пяти стадиях горя, принятию факта всегда предшествует внутренний торг[97].

Я пытался использовать свое влияние на миллионы молодых людей в Китае как разменную монету, как способ компенсировать любовь и внимание, которые я недодал семье и друзьям. У меня было более 50 млн подписчиков в Weibo, и мое влияние внутри этой группы неуклонно росло. Я дошел до того, что даже построил алгоритм на основе ИИ, чтобы определять, какие сообщения мне следует размещать в Weibo. Возможно, я отнимал время у семьи, чтобы выступать перед другими людьми, но подумайте только, какого результата мне удалось добиться. Я пытался достучаться до миллионов молодых студентов и помочь некогда великой стране вырваться из нищеты. И потому разве нельзя сказать, что хорошего в этом больше, чем плохого? Разве те блага, что получали совсем незнакомые люди, просто потому что я добросовестно выполнял свою работу, не оправдывали мою душевную скупость по отношению к близким? Разве результаты в конечном счете не уравновесились? И вот теперь мастер Син-юнь пытался выбить почву из-под моих ног. Я старался показать свои намерения и поступки с их лучшей стороны, исходя из полученных результатов. Но его не интересовали результаты, которые дал мой великолепно построенный личный алгоритм. Он терпеливо, слой за слоем, счищал с истины шелуху моих оправданий и запутанных объяснений. Он постоянно направлял мой взор внутрь меня самого, где я должен был противостоять себе с непоколебимой честностью. «Кайфу, люди не должны так думать. Эти постоянные вычисления, эта количественная оценка всего уничтожают наш внутренний мир и те связи, что существуют между нами. Они душат единственное, что дает нам настоящую жизнь, – любовь». «Я только что начал понимать это, мастер Син-юнь», – сказал я, опустив голову и глядя в пол у своих ног.

«Многие это понимают, – продолжал он, – но еще сложнее жить с пониманием. Мы должны смириться. Мы должны почувствовать, как слабы наши тела и как малы мы сами, и признать, что в этом мире нет ничего более ценного, чем возможность делиться любовью с другими. Если мы начнем так поступать, то все остальное постепенно встанет на свое место. Только так мы можем по-настоящему стать собой». С этим он попрощался, развернул свое инвалидное кресло и уехал из комнаты. Но его слова остались со мной, эхом отдаваясь в моей голове и проникая мне под кожу. После того как мне поставили диагноз, я жил в вихре боли, сожалений, откровений и сомнений. Я начал понимать, насколько разрушительным был мой образ мышления, и изо всех сил старался уйти от него и заново найти себя в мире, где не все можно алгоритмизировать.

В присутствии мастера Син-юня я почувствовал что-то новое – это не было ответом на загадку или решением проблемы. Это было желание и готовность понять себя и встретиться с той действительностью, которая не сводилась к операциям с данными и оптимизации процессов.

Когда я вел исследовательскую работу, то находился на самом передовом рубеже человеческих знаний об искусственном интеллекте, но при этом никогда не был дальше от подлинного понимания других людей и самого себя. Такое понимание невозможно получить с помощью умно построенного алгоритма. Только увидев себя в зеркале смерти, я осознал, что главным моим отличием от машин, которые я же сам и придумал, была способность любить.

Еще одна консультация: шансы на жизнь увеличиваются

Пока я боролся с этими суровыми мыслями, врачи продолжали бороться с моей опухолью. Мой первый врач пришел к выводу, что у меня лимфома IV стадии. Согласно статистике, это давало мне приблизительно пятидесятипроцентный шанс прожить еще пять лет. Перед началом лечения я хотел услышать еще одно мнение, и один из моих друзей записал меня на консультацию к своему семейному врачу – лучшему гематологу на Тайване.

Всю неделю до приема я самостоятельно искал информацию о болезни. Хоть я и пытался бороться со своей привычкой к количественной оценке и оптимизации, но, как опытный ученый, чья жизнь висела на волоске, не мог не попытаться узнать о диагнозе побольше и оценить свои шансы на выживание. Прочесывая интернет, я перечитал всю информацию, которую сумел найти о лимфоме: причины появления, передовые методы лечения и прогнозы по длительности выживания. Изучив все это, я понял, как врачи классифицируют различные стадии лимфомы.

Медицинские учебники используют понятие «стадии», чтобы описать этап развития опухоли. С наступлением каждой стадии вероятность выжить снижается. При лимфоме стадию определяют на основании нескольких признаков: рак повлиял больше чем на один лимфатический узел? Находятся ли раковые лимфатические узлы выше или ниже диафрагмы (в нижней части грудной клетки)? Обнаружен ли рак в органах, не входящих в лимфатическую систему, или в костном мозге пациента? Как правило, каждый ответ «да» на один из перечисленных вопросов прибавляет единицу к номеру стадии. Тот факт, что моя лимфома распространилась на 20 участков, расположенных выше и ниже моей диафрагмы, и обнаружилась в органах вне лимфатической системы, означал, что у меня IV стадия. Но, когда мне поставили диагноз, я еще не знал, что этот метод грубый и приблизительный. Он не учитывает всех достижений современной медицины, зато его легко может запомнить студент-медик. Ранжирование этапов такого сложного заболевания на основании таких простых признаков – это классический пример человеческой склонности принимать серьезные решения, опираясь на «очевидные признаки». Люди чрезвычайно ограничены в своих возможностях различать корреляции между переменными, поэтому мы ищем ответ, исходя из нескольких наиболее значимых деталей. При оформлении банковских кредитов, например, эти «значимые детали» включают доход заемщика, стоимость его дома или кредитный рейтинг. При определении стадии лимфомы принимается во внимание количество и расположение опухолей.

Этих очевидных признаков на самом деле недостаточно, чтобы поставить точный диагноз, но они удобны с точки зрения принятой медицинской системы, в которой знания должны передаваться сверху вниз, храниться в памяти врачей и извлекаться при необходимости. Однако за годы медицинских исследований были найдены десятки других признаков, которые влияют на прогноз выживаемости пациентов с лимфомой. Но даже лучшим студентам-медикам трудно запомнить сложные соотношения и вероятностные особенности всех этих предикторов. В результате большинство врачей не учитывают их, ставя диагноз. И вот, в ходе своего собственного исследования, я нашел статью, где давалась количественная оценка прогностической силы этих альтернативных признаков. Она была написана группой исследователей из Университета Модены и Реджо-Эмилии в Италии, которые провели анализ 15 различных переменных и выделили 5 признаков, которые при совместном рассмотрении наиболее сильно коррелируют с пятилетней выживаемостью[98]. В число этих признаков входят и ранее известные (например, затронут костный мозг), и среди них – более конкретные (наличие опухолей диаметром более 6 см, уровень гемоглобина ниже 12 г на децилитр, пациенту более 60 лет).

Затем в документе приводятся средние показатели выживаемости для пациентов с разным количеством таких признаков. Любому ученому, поработавшему с ИИ и привыкшему, что даже простые алгоритмы используют для принятия решений сотни, если не тысячи, различных характеристик, такой подход показался бы не очень-то строгим.

Это была попытка свести сложную систему к нескольким функциям, доступным для оценки людьми. Но она среди прочего показала, что стандартные промежуточные признаки были очень слабыми предикторами. Их ценность заключалась главным образом в том, что студенты-медики могли легко их запомнить и воспроизвести при выполнении контрольных работ. В новой статье данным придавалось гораздо большее значение, и я ухватился за надежду количественно оценить свою болезнь. Изучив кипу медицинских заключений и результатов анализов в больнице, я нашел информацию, соответствующую каждому признаку: мой возраст, диаметр самого большого узла, состояние костного мозга, статус 2-микроглобулина и уровень гемоглобина. Как оказалось, из пяти признаков, наиболее сильно коррелировавших с ранней смертью, у меня был только один. Я до боли в глазах вглядывался в линии, выражавшие соотношение между факторами риска на графиках выживаемости. И вот, наконец, увидел то, что искал: по данным лечебных учреждений, при IV степени заболевания прогноз пятилетней выживаемости составлял всего 50 %, но если исходить из данных найденной мной научной статьи, он возрастал до 89 %.

Я проверял и перепроверял эти результаты, с каждым подтверждением испытывая все большую радость. Внутри моего организма ничего не изменилось, но у меня появилось ощущение, что бездна осталась позади. На той же неделе я побывал у лучшего эксперта по лимфоме на Тайване, и он подтвердил верность моих догадок: на самом деле моя болезнь хорошо поддавалась лечению. Понятно, что ни о какой уверенности речь не шла, однако существовала довольно высокая вероятность, что мне удастся сохранить жизнь.

Возрождение

Большинство людей, которым только что удалось избежать катастрофы, чувствуют одно и то же. Это покалывание под кожей головы, которое вы ощущаете в течение пары секунд, затормозив на шоссе всего в нескольких метрах от места аварии. Адреналин растворяется в крови, мышцы расслабляются, и большинство из нас мысленно клянется никогда больше не делать того, что мы только что сделали.

Обычно мы держимся пару дней или даже недель, прежде чем нарушить эти торжественные клятвы.

Когда я прошел химиотерапию и у меня наступила ремиссия, я тоже поклялся не забывать те откровения, которые открылись мне благодаря болезни. В течение нескольких недель после постановки диагноза я часто не мог уснуть по ночам, а потому просто лежал, снова и снова вспоминая всю свою жизнь и не уставая удивляться тому, как можно было жить и ничего не замечать вокруг. Я говорил себе, что, сколько бы времени у меня ни осталось, я больше не позволю себе уподобляться автомату и не стану жить по внутренним алгоритмам или искать пути для оптимизации переменных. Я буду стараться делиться любовью с теми, кто так щедро дарил ее мне, не потому, что хочу достигнуть какой-то определенной цели, но просто потому, что это правильно и честно. Я перестану работать как машина – ведь человеческой любви будет более чем достаточно, чтобы заполнить мою жизнь. Любовь моей семьи ко мне все это время служила напоминанием о данных мною обещаниях и источником сил, столь необходимых для борьбы с раком. Несмотря на то что я годами отдавал близким лишь малые крупицы своего времени, когда я заболел, моя жена, сёстры и дочери сразу же начали заботиться обо мне еще больше, чем обычно. Шен-Лин оставалась рядом на протяжении всех изнуряющих и, казалось, бесконечных сеансов химиотерапии, ухаживая за мной и отзываясь на каждую мою потребность: она совсем не отходила от меня и даже спала всего по нескольку часов в сутки, прислонясь к спинке моей кровати. При химиотерапии страдает пищеварение, обычные запахи и вкусовые ощущения вызывают тошноту и рвоту. Когда мои сёстры приносили мне приготовленную дома еду, они тщательно наблюдали за моей реакцией на нее, постоянно корректируя рецепты и ингредиенты, чтобы я мог нормально питаться во время лечения. Они окружили меня самой бескорыстной любовью и постоянной заботой. Таким образом мне открылись новые истины, которые вызвали бурю эмоций, изменивших мою жизнь.

Со времени своего выздоровления я стал по-другому смотреть на время, проведенное с моими близкими. Раньше, когда две мои дочери возвращались домой из колледжа, я брал всего пару свободных дней, чтобы побыть с ними. Теперь, когда они приезжают ко мне во время своего отпуска, я беру пару недель. Еду ли я куда-либо по делам или на отдых, я беру с собой жену. Я провожу больше времени дома, заботясь о свей матери, и стараюсь не планировать ничего на выходные, чтобы было можно повидаться со старыми друзьями.

Я попросил прощения у тех, кого обидел и кем пренебрегал в прошлом, и попытался наладить с ними отношения. Я встречаюсь со многими молодыми людьми, которые обращаются ко мне, а не ограничиваюсь размещением никому конкретно не адресованных сообщений в социальных сетях. Я назначаю личные встречи не только тем, кто кажется мне наиболее «перспективным», я стараюсь общться со всеми людьми одинаково, независимо от их статуса или талантов. Я больше не думаю о том, что будет написано на моем надгробии.

И это не потому, что избегаю мыслей о смерти. Просто сейчас я глубже осознаю, что она неизбежна. Теперь я знаю, что моя надгробная плита – просто кусок камня, холодный и безжизненный, ему никогда не сравниться с воспоминаниями людей, наполняющими мою жизнь светом и смыслом. Да, я пока еще только начинаю сознавать то, что большинство людей интуитивно понимают без всяких озарений. Но как бы ни были банальны эти озарения, они изменили мою жизнь и мой взгляд на отношения между людьми и машинами, между человеческими сердцами и искусственным разумом. Эта трансформация произошла во мне незаметно, в процессе размышлений о моей болезни: позитронно-эмиссионная томография, диагноз, мучительные страдания после этого – и, наконец, физическое и эмоциональное исцеление. Я пришел к пониманию, что в моем лечении было два фактора: технологический и эмоциональный, – и оба они лягут в основу нашего сосуществования с ИИ, но об этом – в следующей главе. Я с большим уважением и глубокой благодарностью отношусь к медицинским специалистам, которые лечили меня. В борьбе с моей лимфомой они опирались на многолетний опыт работы и самые последние достижения современной медицины. Их знания о болезни и их умение подобрать тактику лечения, вероятно, спасли мне жизнь. И все же исцелили меня не только они.

Я бы не смог написать эти слова, если бы не медицинские технологии и специалисты-практики, которые используют их для спасения жизней. Но я также не смог бы рассказать вам всю эту историю, если бы не Шен-Лин, мои сёстры и моя мать, на чьем молчаливом примере я увидел, что значит жить, бескорыстно делясь любовью. Или такие люди, как Бронни Вэр, чья сердечная книга о предсмертных сожалениях помогла мне устоять в самый трудный момент. Или мастер Син-юнь, благодаря мудрости которого мне удалось расстаться с заблуждениями и начать по-настоящему сопротивляться своему эго. Без этих отношений с другими людьми, не поддающихся ни количественной оценке, ни оптимизации, я бы так и не понял, что значит быть человеком. Без них я бы никогда не поменял приоритеты, да и всю свою жизнь. Вскоре я начал работать меньше и уделять больше времени близким. Я перестал подходить ко всем своим действиям с точки зрения расчета – что может дать та или иная встреча или письмо, – и теперь стараюсь ценить общение со всеми. Этот сдвиг в отношениях с другими людьми не просто принес мне пользу – меня наполнило такое чувство целостности, удовлетворения и спокойствия, которое раньше было мне недоступно, невзирая на все мои карьерные достижения. Реальность такова, что вскоре алгоритмы ИИ смогут выполнять за медицинских специалистов большинство их функций, связанных с диагностикой. Эти алгоритмы будут определять болезнь и назначать лечение более точно, чем любой человек. В одних случаях врачи будут использовать их в качестве инструмента, в других алгоритмы полностью заменят врача. Однако правда в том, что не существует алгоритма, который мог бы сделать для моего выздоровления то, что сделала моя семья. То, чем делились со мной мои близкие, намного проще и одновременно намного сложнее, чем любые достижения ИИ. Только люди могут дать нам то, в чем мы острее всего нуждаемся, – любовь. Это те мгновения, когда мы видим своих новорожденных детей, влюбляемся с первого взгляда, благодарим друзей за поддержку и чувствуем радость, когда помогаем нуждающимся. Мы мало что знаем о нашей душе и бесконечно далеки от того, чтобы воспроизвести ее в машине. Но мы знаем, что люди наделены уникальной возможностью любить и быть любимыми, что к этому они стремятся и что именно это составляет главный смысл нашей жизни.

Поэтому, как я считаю, мы и должны строить наше будущее, стремясь объединить способность ИИ мыслить со способностью человека любить.

Если мы сможем создать эту синергию, она позволит нам использовать неоспоримую мощь искусственного интеллекта для достижения процветания и сохранить нашу человечность. Но такое будущее не наступит само по себе. Чтобы построить его для всего мира, необходимо переосмыслить и в корне реорганизовать все общественные системы. Нам потребуется вся наша сплоченность, эмпатия и креативность. Но в случае успеха вместо острейшего кризиса нас ждет эра беспрецедентных возможностей. Человечество стоит на перепутье между небывалым расцветом и глобальной катастрофой.

В то время как я проходил химиотерапию на Тайване, один мой старый друг, серийный предприниматель, пришел ко мне с проблемой, касавшейся его последнего стартапа. Он уже основал и продал несколько успешных технологических компаний в сфере потребительских услуг, и ему захотелось сделать что-то более значимое, например продукт для такой аудитории, на которую технологические стартапы обычно не обращают внимания. Родители моего друга, как и моя мать, уже нуждались в помощи в обычных повседневных делах, и он решил создать продукт, который облегчал бы жизнь пожилых людей. Идея заключалась в том, чтобы закрепить на стойке, которую можно разместить рядом с кроватью пожилого человека, большой сенсорный экран. На экране должны были находиться ярлыки простых и практичных приложений, позволяющих воспользоваться разными услугами: заказать доставку еды, посмотреть любимый сериал, вызвать врача и т. д. Чем старше человек, тем труднее ему ориентироваться в паутине интернета или нажимать на маленькие значки в интерфейсе смартфона, поэтому мой друг хотел сделать все максимально просто. Любое из приложений запускалось бы с помощью пары кликов, а специальная кнопка позволяла бы вызвать специалиста клиентской службы, готового помочь пользователю освоить устройство. Идея выглядела просто замечательно, и устройство немедленно стало бы востребованным на рынке. Ведь, к сожалению, многие взрослые люди в Китае слишком заняты своей работой, чтобы уделять время уходу за стареющими родителями. Они могут чувствовать себя виноватыми, но, когда нужно просто прийти и помочь, все равно не находят времени, чтобы позаботиться о родителях. В таких случаях сенсорный экран мог бы сослужить неплохую службу.

Но после испытания пробной версии своего продукта мой друг обнаружил, что у него возникла проблема. Из всех доступных услуг наиболее востребованной оказалась не доставка еды, управление телевизором или консультация врача. Это была кнопка вызова специалиста клиентской службы. Клиентская служба компании оказалась перегружена потоком входящих звонков от пожилых людей.

Чем это объяснялось? Мой друг сделал устройство максимально простым – неужели пользователи все равно не были в состоянии навести курсор и один раз нажать на кнопку? Ничего подобного. После опроса представителей клиентской службы выяснилось, что люди звонили им не потому, что не могли справиться с навигацией. Они звонили просто потому, что им было одиноко и хотелось с кем-нибудь поговорить. Дети многих пожилых пользователей старались обеспечить в первую очередь материальные потребности родителей: они привозили еду, приглашали врачей и покупали лекарства. Но когда все материальные потребности были удовлетворены, больше всего на свете эти люди хотели настоящего человеческого общения: когда можно с кем-то поговорить и он тебя выслушает.

Мой друг рассказал мне об этой «проблеме» как раз тогда, когда я сам начал задумываться о роли любви в нашей жизни. Если бы он пришел ко мне всего несколько лет назад, я бы, вероятно, порекомендовал ему какие-то технические приемы, например использовать что-то вроде чат-бота на основе ИИ, который может вести простой разговор и даже ввести в заблуждение человека на другом конце провода. Но когда я оправился от болезни и осознал, как опасен надвигающийся кризис занятости и смысла человеческого существования, я начал смотреть на многие вещи по-другому.

Когда я обдумал эту историю, в моей голове забрезжили первые очертания проекта, которой помог бы людям мирно сосуществовать с ИИ. Да, интеллектуальные машины все лучше справляются с нашей работой и удовлетворяют наши материальные потребности, разрушая целые отрасли промышленности и вытесняя рабочих. Но при этом остается нечто свойственное лишь людям – то, чем они делятся друг с другом, чтобы жизнь продолжалась: любовь.

При всех наших достижениях в области машинного обучения мы все еще очень далеки от создания мыслящих машин, которые были бы способны ощущать эмоции. Можете ли вы представить себе, какой восторг испытали бы, победив чемпиона мира по игре в го, после того как посвятили всю свою жизнь подготовке к решающему матчу? AlphaGo одержал эту победу, но не испытал никакой радости от нее: не почувствовал себя счастливым, и у него не возникло желания обнять любимого человека после своей победы. Научно-фантастический фильм «Она» рассказывает нам о любви между человеком и его обладающей искусственным интеллектом компьютерной операционной системой, но на самом деле ИИ не имеет ни способности, ни желания любить или быть любимым. Актриса Скарлетт Йоханссон сыграла эту любовь очень убедительно, но только потому, что она – живая женщина и может использовать весь свой опыт любви для того, чтобы вызвать это чувство к себе. Представьте ситуацию, когда вы сообщили умной машине, что собираетесь ее отключить, а потом передумали и дали ей отсрочку. Машина не изменила бы свой взгляд на жизнь и не пообещала бы себе проводить больше времени с другими машинами. Она неспособна к эмоциональному росту и не может открыть для себя ценности любви и служения другим. Именно в этой уникальной человеческой способности к состраданию и любви я вижу надежду на будущее. Я твердо верю, что мы должны создать новую синергию между искусственным интеллектом и чувствами человека и использовать достигнутое благодаря ИИ изобилие, чтобы воспитывать в людях любовь и сострадание. Если у нас получится, я думаю, мы выйдем на верный путь к экономическому и духовному расцвету. Этот путь не обещает быть легким, но я верю, что если люди объединятся ради общей цели, то не просто выживут в эпоху ИИ, но и вступят в эпоху небывалого благоденствия.

Испытание огнем и новый общественный договор

Стоящие перед нами задачи по-прежнему невероятно масштабны. Как уже говорилось в главе 6, в течение 15 лет мы, предположительно, получим техническую возможность автоматизировать от 40 % до 50 % всех рабочих мест в Соединенных Штатах. Это не означает, что рабочие места исчезнут в одночасье, но если рынки не контролировать, то положение трудящихся существенно ухудшится. Китай и другие развивающиеся страны могут испытать последствия автоматизации несколько раньше или позже, в зависимости от структуры их экономики. Однако общая тенденция останется неизменной: рост безработицы и усиление неравенства. Технооптимисты будут приводить примеры из истории, ссылаясь на техническую революцию в текстильной промышленности XIX века как на «доказательство» того, что прогресс – всегда благо для общества. Но, как мы уже видели, их аргументация строится на весьма шаткой основе. Масштаб и темпы ожидающей нас революции ИИ означают, что мы столкнемся с совершенно новой, не имеющей аналогов в истории задачей. Даже если самые страшные прогнозы в отношении безработицы не оправдаются, ИИ чрезвычайно ускорит рост неравенства, который уже подстегнуло развитие интернета. Мы уже наблюдали, как стагнация зарплат и неравенство могут привести к политической нестабильности и даже насилию. Влияние ИИ на экономику и общество грозит усугубить и ускорить эти процессы в разных государствах. Рынки труда имеют свойство самостоятельно стабилизироваться со временем, но сначала миру придется пройти через испытание огнем, безработицу и социальные потрясения, которые будут тормозить возвращение к нормальной жизни. Эти проблемы требуют решения, их нельзя игнорировать. Мы должны активно использовать материальные ресурсы, которые дает нам ИИ, чтобы восстановить экономику и переосмыслить понятие общественного договора. Мои прозрения во время борьбы с раком были глубоко личными, но они также позволили мне ясно увидеть, как мы все вместе могли бы подойти к решению этих проблем. Построение процветающих социумов в эпоху ИИ потребует не только существенных изменений в нашей экономике, но также существенных сдвигов в культуре и системе ценностей. Столетия индустриальной экономики сформировали у людей убеждение, что наше место в обществе (и даже восприятие себя) должно определяться работой. Отнимите у человека работу, и вы увидите, что нарушили одну из самых сильных связей между ним и социумом, к которому он принадлежит. По мере того как мы переходим от индустриальной эпохи к эпохе ИИ, нам нужно будет научиться перестать приравнивать работу к жизни и рассматривать людей как переменные в грандиозном алгоритме для оптимизации производительности труда. Вместо этого мы должны двигаться к новой культуре, в которой наивысшими ценностями считаются любовь, служение ближнему и сострадание.

Никакая экономическая или социальная политика не заставит людей по-другому чувствовать и относиться друг к другу. Но, выбирая политику, мы можем поощрять различное поведение и способствовать развитию культуры в определенных направлениях. Мы можем выбрать чисто технократический подход, при котором человек рассматривается как комплекс финансовых и материальных потребностей, которые нужно удовлетворять, и просто дать достаточно денег всем людям, чтобы они не голодали или не оказались бездомными. Идея безусловного базового дохода становится все более и более популярной в наши дни.

Но, сделав выбор в пользу этого решения, как мне представляется, мы обесценим нашу человеческую сущность и упустим множество беспрецедентных возможностей. Поэтому далее я хочу рассказать о своих предложениях по поводу того, как нам стоило бы использовать экономические выгоды от применения ИИ, чтобы сделать наше общество более человечным. Для этого потребуется пересмотреть существующий общественный договор и решить, как новая экономика могла бы поощрять социально продуктивную деятельность (подобно тому, как промышленная экономика поощряет экономически продуктивную деятельность).

Сделать это будет непросто: потребуется разносторонний подход к экономическим и социальным преобразованиям и огромная работа по их внедрению. Этот подход будет опираться на вклад всех слоев общества и должен основываться на постоянных исследованиях и смелых экспериментах. Даже если мы будем очень стараться, ничто не гарантирует нам плавного и безболезненного перехода. Но и цена неудачи, и потенциальные выгоды от успеха слишком велики, чтобы не попробовать.

Так давайте же попробуем. Для начала рассмотрим те меры, которые уже предлагаются для спасения общества от угрозы ИИ. Эти предложения, которые поступают в том числе из Кремниевой долины, представляют собой чисто технические решения, своего рода вспомогательные опции для политики и бизнеса. Они призваны сгладить переход к автоматизации, не оказывая серьезного влияния на культуру. После того как мы рассмотрим перспективы и недостатки этих вариантов, я предложу три собственных решения, которые, как я считаю, снизят остроту проблемы с рабочими местами и подведут нас к началу более глубокой социальной эволюции. Эти решения представляют собой разные варианты принципиально нового подхода к созданию рабочих мест в частном секторе экономики, влияющие на инвестиции и государственную политику. И каждый вариант нацелен на то, чтобы избежать автоматизации рабочих мест при внедрении ИИ, но открыть прямые пути к материальному изобилию и процветанию человека. Если эти методы найдут широкое применение, они, я надеюсь, помогут заложить фундамент нового социального договора и использовать ИИ для построения более гуманистического мира.

Китайский взгляд на искусственный интеллект и занятость

Прежде чем погрузиться в изучение решений, предложенных Кремниевой долиной, давайте ознакомимся с тем, что об угрозе безработицы думают в Китае. Техническая элита Китая пока никак не комментирует возможность негативного влияния ИИ на занятость населения. Я не думаю, что это связано с желанием скрыть неприятную правду, скорее с искренней убежденностью, что бояться тут нечего. Той же точки зрения придерживаются те американские экономисты, которые считают, что в долгосрочной перспективе технический прогресс всегда ведет к росту рабочих мест и всеобщему процветанию.

Почему китайский предприниматель в этом не сомневается? Последние 40 лет китайский народ наблюдал, как прилив технического прогресса помог стране сойти с мели. Китайское правительство уже давно подчеркивает, что именно технический прогресс является ключом к экономическому развитию Китая, и этот подход позволил превратить Китай из сельскохозяйственной страны в промышленного гиганта – признанный во всем мире генератор инноваций. Неравенство, безусловно, усилилось, но этот недостаток с лихвой компенсируется за счет значительного повышения уровня жизни в целом. Это резко контрастирует с застоем и упадком во многих сегментах американского общества на фоне «великого расхождения» между производительностью труда и заработной платой, о котором мы говорили в предыдущих главах. Теперь становится понятно, почему китайская технологическая элита с таким равнодушием относится к вопросу о влиянии инноваций на занятость населения. Даже среди китайских предпринимателей, которые задумываются о негативном воздействии ИИ, широко распространено мнение, что китайское правительство позаботится обо всех пострадавших. Эта уверенность не лишена оснований. В течение 1990-х годов в Китае прошел ряд непопулярных реформ, в результате которых миллионы государственных служащих лишились работы. Однако энергичные усилия правительства помогли успешно трансформировать экономику и избежать повсеместной безработицы. Глядя в будущее ИИ, многие ученые и политики разделяют негласное убеждение, что те же самые механизмы помогут Китаю избежать и кризиса занятости, вызванного развитием ИИ. Лично я считаю эти прогнозы слишком оптимистичными, и, прожив довольно долго в США, делаю все возможное, чтобы и в Китае поняли, какие серьезные проблемы придется решать государствам в области занятости в эпоху искусственного интеллекта. Важно, чтобы китайские предприниматели, технические специалисты и политики серьезно отнеслись к этим задачам и начали закладывать основу для их решения. Но после четырех десятилетий, в течение которых Китай неуклонно двигался к процветанию, здесь мало думают о возможности кризиса и еще меньше – о поиске решений. Чтобы начать этот разговор, мы должны снова вернуться к Кремниевой долине.

Три метода решения проблемы: сокращение рабочего времени, переобучение и перераспределение доходов

Многие из технических решений проблемы, разработанных в Кремниевой долине, строятся на трех методах: переобучении рабочих, сокращении рабочего времени или перераспределении доходов. В каждом из этих методов акцент делается на одной из основных переменных, характерных для рынков труда (навыки, время, компенсация). Кроме того, все три метода строятся на разных предположениях о том, как быстро и в каких количествах будут исчезать рабочие места. Сторонники переобучения склонны считать, что смещение в сторону востребованных навыков, вызванное ИИ, будет протекать медленно, и если работники смогут адаптироваться и освоить другие специальности, то снижения потребности в рабочей силе не будет. Сторонники сокращения рабочего времени полагают, что распространение ИИ уменьшит спрос на человеческий труд, но это можно компенсировать переходом на трех- или четырехдневную рабочую неделю, а оставшуюся работу выполнять силами большего числа работников[99]. Сторонники перераспределения доходов делают самые мрачные прогнозы. Многие из них считают, что ИИ вытеснит с рабочих мест такое количество людей, что ни переобучение, ни другие меры уже не помогут. Вместо этого нам придется применять более радикальные схемы перераспределения доходов, генерируемых ИИ, для поддержки оставшихся без работы людей. Давайте подробнее рассмотрим достоинства и недостатки каждого из этих подходов. Сторонники профессиональной переподготовки часто возлагают большие надежды на онлайн-обучение и так называемое непрерывное образование. Они считают, что с распространением образовательных онлайн-платформ, как бесплатных, так и платных, люди во всем мире получат доступ к обучающим материалам и смогут освоить новые специальности. Эти платформы позволят людям постоянно учиться, обновлять свои навыки и осваивать новые профессии, которые еще не подлежат автоматизации. Как предполагают сторонники этого подхода, безработные страховые агенты смогут использовать образовательные онлайн-платформы, такие как Coursera, чтобы стать разработчиками. А когда ИИ вытеснит и программистов, они смогут использовать те же инструменты для освоения какой-нибудь еще специальности, например инженера-алгоритмиста или психолога.

Непрерывное обучение с помощью онлайн-платформ – хорошая идея, и я считаю, что переподготовка кадров действительно станет важной частью новой политики. Она может особенно помочь тем, кто окажется в нижнем правом секторе наших диаграмм вытеснения из главы 6 («Медленное повышение риска»), учитывая их способности к творческому мышлению и работе в неструктурированных средах. Мне также нравится, что этот метод может дать людям чувство гордости за себя и контроль над собственной жизнью.

Но, учитывая глубину и широту влияния ИИ на рынок труда, я боюсь, что одного переобучения будет недостаточно для решения проблемы. По мере того как ИИ будет неизбежно захватывать все новые и новые профессии, работникам придется менять род занятий каждые несколько лет, и при этом в кратчайшие сроки приобретать навыки, которые кто-то другой осваивал и совершенствовал всю жизнь. Неопределенность в отношении темпов и путей автоматизации еще более усугубляет положение. Даже эксперты в области ИИ затрудняются предсказать, какие именно специальности подвергнутся автоматизации в ближайшие годы. Можем ли мы действительно ожидать, что рядовой работник сумеет выбрать программу переподготовки, способную обеспечить ему работу, которой не грозит исчезновение хотя бы в течение нескольких лет? Боюсь, что трудящимся придется постоянно отступать, подобно животным, которые спасаются бегством от неуклонно поднимающегося паводка и с тревогой перебегают с пригорка на пригорок в поисках спасения. Переподготовка поможет многим людям найти свое место в экономике ИИ, а наша задача – сделать обучение широко доступным. Но я считаю, что мы не можем рассчитывать на этот бессистемный подход, когда дело дойдет до масштабных потрясений на рынках труда. Внесу ясность: я считаю, что доступное образование – лучше долгосрочное решение проблем занятости, связанных с ИИ. Предыдущие тысячелетия прогресса продемонстрировали невероятную способность людей создавать технические инновации и приспосабливаться к ним, осваивая новые виды деятельности. Но с приходом ИИ масштаб и скорость грядущих перемен не оставят нам возможности полагаться только на обучение. Такие люди, как соучредитель Google Ларри Пейдж, уже начали выдвигать более радикальные предложения: давайте перейдем к четырехдневной рабочей неделе или к системе, при которой одно рабочее место «делится» между несколькими людьми. Второй вариант предполагает, что вместо одного рабочего места с полной занятостью появляется несколько рабочих мест с неполной занятостью, что позволяет дать работу большему количеству людей.

Эти предложения, скорее всего, означают снижение реального заработка для большинства людей, однако так можно было бы по крайней мере избежать масштабной безработицы. Творческий подход к распределению рабочих мест использовался и ранее[100]. После финансового кризиса 2008 года несколько штатов в США опробовали такие механизмы на практике, чтобы помочь компаниям, вынужденным проводить сокращения. Вместо того чтобы уволить часть сотрудников, рабочее время для некоторых из них было сокращено на 20–40 %. Затем местные органы власти компенсировали им часть потерянной зарплаты, вплоть до 50 %. В некоторых местах этот подход работал очень хорошо и действительно позволял компаниям не увольнять сотрудников. В то же время местные органы власти могли сэкономить денежные средства, которые пошли бы на выплату пособий по безработице.

Подобные договоренности помогут избежать потери многих рабочих мест, и в первую очередь это касается профессий из сектора «Человекоориентированные специальности» наших диаграмм риска. Напомню: это специальности, в рамках которых ИИ выполняет основную задачу, но для взаимодействия с клиентами требуется небольшое количество работников. Будучи правильно построенными, такие механизмы могут действовать подобно правительственным субсидиям и позволят компаниям сохранить большую часть штата. Но пока этот подход работает хорошо лишь в краткосрочной перспективе: вряд ли его будет достаточно, чтобы справиться с масштабными последствиями развития ИИ. Существующие программы предполагают лишь частичное возмещение заработной платы, и это означает, что чистый доход работников все равно снижается. Люди могут с этим смириться на время экономического кризиса, но никому не понравится, если такая ситуация станет нормой. Попробуйте сказать человеку, зарабатывающему 20 000 долларов в год, что теперь он будет работать четыре дня в неделю и зарабатывать 16 000 долларов, – и он совсем не обрадуется. Вероятно, если творчески подойти к усовершенствованию этих программ, они могли бы стать эффективнее, и я призываю компании и правительства продолжать экспериментировать с ними. Но боюсь, что такой подход будет далеко не достаточным для решения долгосрочных проблем, которые возникнут на рынке труда в связи с распространением ИИ. Для этого нам, возможно, придется принять более радикальные меры.

Основы безусловного базового дохода

В настоящее время наиболее популярным способом перераспределения дохода является, как уже упоминалось ранее, система безусловного базового дохода (ББД). Идея проста: каждый гражданин (или каждый взрослый гражданин) в стране получает регулярное пособие от правительства – безо всяких ответных обязательств.

От традиционных социальных выплат или пособий по безработице ББД будет отличаться тем, что он предоставляется каждому на протяжении всей жизни и не предполагает каких-либо требований и условий (например, поиска работы). Альтернативный вариант, часто называемый гарантированным минимальным доходом (ГМД), предполагает выдачу пособия только бедным. То есть каждому человеку гарантируется, что его доход не опустится ниже определенной планки, но при этом пособия выдаются только тем, кто в них нуждается.

Финансирование этих программ будет обеспечиваться за счет триумфаторов революции ИИ: крупных технологических компаний; корпораций, которые адаптировались к использованию ИИ; а также миллионеров, миллиардеров и, возможно, даже триллионеров, которые разбогатели за счет успехов этих компаний. Размер пособий горячо обсуждается. Некоторые считают, что лучше сделать пособие как можно более низким – например, около 10 000 долларов в год, – чтобы у людей сохранялся сильный стимул найти настоящую работу. Другие воспринимают пособие как полноценную замену утраченного дохода от обычной работы. С этой точки зрения ББД может стать решающим шагом на пути к созданию «общества досуга», где люди полностью освобождены от необходимости работать и могут свободно заниматься тем, что их действительно увлекает.

Обсуждение концепций ББД и ГМД в США восходит к 1960-м годам, когда сама идея получила поддержку от таких разных людей, как Мартин Лютер Кинг – младший и Ричард Никсон. В то время сторонники ГМД рассматривали его как простой способ покончить с нищетой, и в 1970 году президент Никсон был близок к принятию законопроекта, согласно которому каждая семья могла бы получить достаточно денег, чтобы выбраться из-за черты бедности. Но после неудачи, постигшей Никсона, обсуждение ББД или ГМД сошло на нет. Не так давно эта идея захватила воображение элиты Кремниевой долины и лидеров индустрии, таких как Сэм Альтман – президент находящегося в Кремниевой долине престижного венчурного фонда Y Combinator, работающего в формате бизнес-инкубатора[101], и Крис Хьюз – соучредитель Facebook[102]. Ныне они спонсируют исследования и пилотные проекты, связанные с базовым доходом. Поскольку ГМД изначально был задуман как лекарство от бедности при нормальном состоянии экономики, интерес к этим программам со стороны Кремниевой долины растет и они рассматриваются ею как возможные решения в случае широкого распространения технологической безработицы из-за ИИ.

Мрачные прогнозы всеобщей безработицы и беспорядков вызывают у элиты Кремниевой долины сильнейшую тревогу. Эти люди, построившие свои карьеры на разрушении разных отраслей промышленности, кажется, внезапно осознали, что их действия угрожают вполне реальным людям, занятым в этих отраслях. Миллионеры и миллиардеры, основавшие и финансировавшие те самые новаторские интернет-компании, деятельность которых усугубила неравенство в обществе, полны решимости компенсировать этот вред. Они считают, что всеобщей безработице и нищете в эпоху ИИ можно противопоставить только глобальные решения: переподготовка и разделение рабочих мест будут безнадежно неэффективны. Только гарантированный доход позволит избежать катастрофы. Как именно будет обеспечиваться ББД, еще только предстоит выяснить. Одна из исследовательских организаций, связанная с Y Combinator, в настоящее время запускает в Окленде экспериментальную программу, в рамках которой 1000 семей будет получать ежемесячное пособие в размере 1000 долларов[103]. Программа продлится от трех до пяти лет, в течение которых исследовательская группа планирует отслеживать уровень благосостояния и деятельность членов этих семей с помощью регулярных опросов, сравнивая их результаты с результатами контрольной группы, которая будет получать всего 50 долларов в месяц.

Многие предприниматели в Кремниевой долине видят программу через призму собственного опыта. Они воспринимают деньги не только как ресурс, обеспечивающий безопасность, но и как «инвестиции в себя» или, как выразился один технический писатель, «венчурный капитал для населения»[104]. При таком мировоззрении ББД мог бы стать для безработных источником инвестиций, чтобы начать свой бизнес или освоить новый род занятий. В своей речи, произнесенной в Гарварде в 2017 году, Марк Цукерберг поддержал это видение ББД, заявив, что мы должны искать способы дать каждому «подушку безопасности, благодаря которой он мог бы попробовать реализовать свои идеи»[105].

Со своей стороны, я вполне понимаю, почему элита Кремниевой долины настолько увлеклась идеей ББД: это простое решение огромной и сложной социальной проблемы, которую сама Кремниевая долина и создала. Но принятие ББД повлечет за собой изменения в общественном договоре, которые мы должны тщательно и критически продумать. Я поддерживаю идею гарантировать всем людям удовлетворение базовых потребностей, но не верю в ББД как решение всех проблем. Для того чтобы лучше понять эту точку зрения, нам нужно выяснить, благодаря чему вспыхнул такой безумный интерес к ББД и как может измениться общество под его влиянием.

Менталитет Кремниевой долины, или что может «волшебная палочка»

Наблюдая всплеск интереса Кремниевой долины к ББД, я считаю, что некоторые из их инициатив стали результатом самой подлинной заботы и беспокойства о тех, кто пострадает из-за новых технологий. Но в этом есть и элемент личной заинтересованности: предприниматели Кремниевой долины сознают, что из-за их миллиардных состояний и роли в развале целых отраслей экономики именно на них может обрушиться гнев толпы, если все выйдет из-под контроля. Учитывая этот страх, мне интересно, не начинают ли они уже задумываться о том, как избежать вероятных проблем в будущем. Но, какими бы мотивами ни руководствовались эти люди, не стоит сбрасывать со счетов решения, которые они предлагают. В конце концов, в Кремниевой долине трудятся самые креативные ученые и предприниматели современного мира. Их склонность мыслить масштабно, экспериментировать и стремиться к совершенству в любом случае окажется полезной в неведомых водах. Однако критический взгляд тут необходим. Прежде всего, при оценке предложенных инженерами и инвесторами решений мы должны спросить себя, чего именно они пытаются достичь. Стремятся ли они к тому, чтобы технологии действительно приносили пользу обществу? Или они хотят только предотвратить худший сценарий социальных потрясений? Готовы ли они вести работу по созданию новых институтов или ищут простое решение, которое успокоит их совесть и освободит от ответственности за глубокие психологические последствия автоматизации? Боюсь, что многие представители Кремниевой долины прочно обосновались в последнем лагере. Они рассматривают ББД как «волшебную палочку», способную заставить исчезнуть мириады экономических, социальных и психологических проблем, которые возникнут благодаря их подвигам в эпоху ИИ. ББД – аналог «легкого» подхода к бизнесу, столь популярного в долине: придерживайтесь чисто цифровой сферы, и вы сможете избежать грязной работы в реальном мире.

Как правило, представители Кремниевой долины исходят из того, что все проблемы можно решить с помощью материальных стимулов или перемещения денег между банковскими счетами. Тогда ученым не придется слишком сильно отвлекаться от своих дел. Пока каждый получает свое ежемесячное пособие, все будет хорошо. Техническая элита может продолжать делать именно то, что всегда стояло у нее на первом месте: строить инновационные компании и получать прибыль. Конечно, более высокие налоги, необходимые для финансирования ББД, сократят их доходы, но основная доля доходов, генерируемых ИИ, все равно будет доставаться именно элите.

С этой точки зрения ББД нельзя назвать полноценным решением, при котором ИИ используется для построения лучшего мира. Это скорее обезболивающее и успокаивающее средство для пострадавших. Оно может облегчить боль для тех, кто потерял работу, и заодно успокоить совесть тех, из-за кого это произошло. Как я уже говорил ранее, некоторые формы гарантированного дохода и правда необходимы, чтобы удовлетворить базовые потребности всех членов общества. Но если люди получат только это, то мы упустим прекрасную возможность, предоставленную нам передовыми технологиями. ББД, по сути, болеутоляющее средство, неспособное остановить процессы разрушения в организме нашего общества. Чтобы справиться с ними, мы должны найти такой подход к использованию ИИ, при котором мы сможем взращивать и укреплять в людях то, что отличает их от машин, – любовь к ближнему. Правда, это будет нелегко и потребует творческого подхода. Нас ждет много работы и непростых решений, причем опираться нам придется не на четкие цифровые данные, а на размытые свойства реального мира. Но если мы возьмемся за тяжелую работу сейчас, то, я считаю, у нас есть шанс не только избежать катастрофы, но и внедрить те новые гуманистические ценности, которые заново открылись мне во время моей встречи со смертью.

Симбиоз рынка: оптимизационные задачи и человеческий фактор

Частный сектор возглавляет революцию ИИ, и, на мой взгляд, ему же и следует взять на себя инициативу по созданию новой, более гуманистической системы занятости, так как эта революция в любом случае требует человеческого труда. Некоторые из рабочих мест возникнут в результате естественного функционирования свободного рынка, но и без сознательных усилий тут не обойтись.

Многие рабочие места, порождаемые свободным рынком, вырастут из естественного симбиоза между людьми и машинами. В то время как ИИ будет по определенной схеме решать задачи оптимизации, люди будут привносить в работу личное, творческое начало и сострадание. Это потребует пересмотра существующего реестра профессий или создания совершенно новых родов деятельности. Люди объединятся с машинами, чтобы вместе предоставлять услуги, которые сделают наше общество более гуманным. В соответствии с графиками риска в главе 6 следует ожидать, что верхний левый сектор («Человекоориентированные специальности») предоставит больше всего возможностей для симбиоза ИИ и человека: ИИ возьмет на себя аналитические функции, в то время как люди создадут вокруг него оболочку тепла и сочувствия. В правой части того же графика, в обоих его секторах («Медленное повышение риска» и «Безопасная зона»), инструменты ИИ могут оказаться полезными для принятия решений, хотя по мере совершенствования ИИ два круга, в центре которых он находится, будут расти вправо.

Симбиоз ИИ и человека на рынке труда

Хороший пример успешного симбиоза для верхней левой зоны – симбиоз человека и ИИ в области медицины. У меня нет сомнений, что алгоритмы ИИ в конечном итоге намного превзойдут врачей-людей в области диагностики заболеваний и выбора лечения. Устаревшие учреждения – медицинские институты, профессиональные ассоциации и больницы – могут замедлить внедрение этих диагностических инструментов, используя их только в узких областях или только в качестве справочных инструментов. Но через несколько десятилетий, я уверен, их точность и эффективность достигнут такого уровня, что выбор станет очевидным. Вследствие этого возникнет возможность полностью заменить врачей машинами, ставящими диагнозы на основе введенных симптомов. Но пациенты не хотят, чтобы их лечила машина – бездушная коробка с медицинской информацией, которая просто безо всяких эмоций скажет: «У вас четвертая стадия лимфомы, что означает семидесятипроцентную вероятность смерти в течение пяти лет». Пациенты ждут от медицины более человечного подхода – и я верю, что рынок обеспечит его. Профессия врача может превратиться в новую специальность, которую я назову «личный опекун больного». Такому специалисту понадобятся навыки медсестры, медицинского техника, социального работника и даже психолога. Личного опекуна необходимо обучать не только уходу за больными, умению разбираться в диагнозах и обращаться с оборудованием, но также правильному общению с больными, умению смягчать последствия психологической травмы и эмоционально поддерживать пациентов в ходе лечения. Вместо того чтобы просто информировать пациентов об их шансах на выживание, они могли бы говорить что-то вроде: «У Кайфу была та же лимфома, что и у вас, и он выжил, так что, поверьте мне, вы тоже сможете».

Личные опекуны не будут конкурировать с машинами, когда дело касается способности запоминать факты или оптимизировать схемы лечения. Конечно, они должны получить все необходимые знания, но с учетом того, что их деятельность требует эмоциональной вовлеченности, а не просто автоматического применения этих знаний.

Человек и машина, объединившись, могли бы ставить предельно точные диагнозы и одновременно поддерживать и ободрять пациента, чего нередко не хватает в наших больницах. При подобном симбиозе человека и машины мы могли бы сделать наше общество немного добрее. Кроме того, это резко увеличило бы количество рабочих мест, а заодно и объем медицинской помощи. Сегодня дефицит квалифицированных врачей, удорожание здравоохранения и снижение объема качественной медицинской помощи наблюдаются по всему миру. В современных условиях, где спрос рождает предложение, увеличивать количество врачей просто нерентабельно. В результате то внимание, которое они уделяют больным, строго регламентировано. Никто не хочет ждать в очереди несколько часов, чтобы просто несколько минут побеседовать с врачом, – это означает, что большинство людей обращаются в медицинские учреждения только при крайней необходимости. Поскольку личным опекунам все равно придется пройти серьезное обучение, в эту профессию начнут приходить не только врачи, и им не нужно будет тратить годы на механическое запоминание всего того, что требуется от врачей сегодня. В результате общество сможет позволить себе гораздо большее число личных опекунов, чем врачей, и получать от них гораздо большую отдачу. Аналогичные синергетические связи возникнут и во многих других областях: преподавании, правовой деятельности, планировании мероприятий и розничной торговле. Средний персонал юридических фирм сможет передать свою часть стандартных аналитических задач алгоритмам и вместо этого сосредоточиться на общении с клиентами. Супермаркеты, использующие ИИ, как, например, магазин Amazon Go, могут отказаться от кассиров и за счет этого нанять продавцов-консультантов, подобных тому, которого я описал в главе 5. Для представителей профессий, находящихся в этих секторах нашей диаграммы, крайне важно, чтобы люди приняли происходящее и научились использовать инструменты ИИ по мере их появления. Как и в случае с любой технологической революцией, многие работники сочтут новые инструменты несовершенными и потенциально опасными. Но эти инструменты со временем будут совершенствоваться, и тот, кто попытается конкурировать с ИИ на своих условиях, проиграет. В долгосрочной перспективе сопротивление окажется бесполезным, но симбиоз даст хорошие результаты.

Наконец, онлайн-экономика совместного потребления тоже поспособствует созданию новых видов занятости. Все больше людей будут пользоваться услугами, предоставляемыми через интернет, как в модели Uber. Это явление уже можно наблюдать на Care.com – онлайн-платформе для поиска специалистов по уходу за больными, – и я думаю, что мы увидим расцвет подобных моделей в образовании и других сферах. Много товаров и услуг массового рынка будет оцифровано и оптимизировано алгоритмами, но некоторые виды штучной и человекоориентированной работы в экономике обмена останутся прерогативой человека.

В прошлом этот тип работы был связан с определенными ограничениями из-за накладных расходов на управление вертикальной компанией, которая привлекала клиентов, направляла к ним специалистов и платила сотрудникам зарплату, даже когда они бездействовали. Использование в этих отраслях онлайновых платформ резко повысит их эффективность, увеличивая совокупный спрос и чистую заработную плату трудящихся в сфере обслуживания. Внедрение ИИ, как уже можно увидеть на примере DiDi и Uber, только еще больше повысит эффективность системы и привлечет еще больше сотрудников. Кроме того, я уверен, что появятся и совершенно новые виды занятости в сфере услуг, которые мы пока просто не можем себе представить. Если бы вы попробовали объяснить кому-нибудь в 1950-х годах, что такое «инструктор по персональному росту», ваш собеседник, вероятно, подумал бы, что это несусветная глупость. Поэтому творческие предприниматели и обычные люди будут использовать возможности интернета и освободившееся благодаря ИИ время для создания новых профессий. Например, люди начнут нанимать «менеджеров времен года», чтобы те каждые несколько месяцев переоформляли их интерьер, используя цвета и запахи, соответствующие настроению сезона. Или семьи, которых заботят вопросы экологии, станут приглашать «консультантов по экологически чистому ведению домашнего хозяйства», чтобы снизить нагрузку на окружающую среду. Предприниматели будут искать новые и новые источники прибыли, создавая новые рабочие места, но я боюсь, что их усилий будет недостаточно, чтобы решить проблемы безработицы и неравенства. Частные компании уже предлагают довольно много человекоориентированных должностей – но с низкой заработной платой. Экономические стимулы, государственная политика и культурные установки действуют таким образом, что представители многих современных профессий, в основе которых лежит забота и сострадание, не могут рассчитывать ни на гарантированное трудоустройство, ни на элементарное уважение.

Бюро статистики труда США установило, что количество персонала, оказывающего медицинские услуги на дому, и работников патронажных служб растет самыми быстрыми темпами в стране[106], и к 2026 году количество рабочих в этих категориях, согласно прогнозам, увеличится на 1,2 млн. Но годовой доход в этих профессиях составляет чуть более 20 000 долларов[107]. Есть и другие виды деятельности, связанные с заботой о людях, – когда человек, оставаясь дома, посвящает себя воспитанию детей или уходу за стареющими или нетрудоспособными родственниками. Однако это вообще не считается «работой» и никак не оплачивается. Именно такие занятия, основанные на любви к ближнему и сострадании, мы должны охватить в экономике ИИ. Однако усилий одного лишь частного сектора для их поощрения недостаточно. Когда-нибудь могут наступить времена такого материального изобилия, что экономические стимулы больше не будут нужны. Однако в нашем экономическом и культурном настоящем деньги все еще имеют большое значение. Чтобы добиться подлинного культурного сдвига, потребуется не просто признать эту деятельность работой, но и создать в ней возможности для карьерного роста, сопряженного с достойной оплатой и большим уважением. Развитие и вознаграждение такой просоциальной деятельности означает выход за рамки симбиоза с частным сектором на рыночной основе. Нам понадобится целевое социальное инвестирование в сектор услуг и государственная политика, стимулирующая формирование новых культурных ценностей.

Письмо Финка и новое целевое социальное инвестирование

Если человек управляет активами на сумму 5,7 трлн долларов, то в мировом бизнес-сообществе к нему обычно прислушиваются. Так, когда Ларри Финк, глава крупнейшей в мире инвестиционной компании BlackRock, направил руководителям корпораций письмо с призывом уделить повышенное внимание социальной ответственности, они не могли не откликнуться. В письме под заголовком «Понимание цели» Финк написал: «Мы… видим, что многие правительства не в состоянии подготовиться к будущему, и это касается самых разных вопросов – от пенсий и инфраструктуры до автоматизации производств и переподготовки рабочих. В результате общество все чаще обращается к частному сектору и просит компании отреагировать на многочисленные социальные проблемы… Общество требует, чтобы компании, как государственные, так и частные, служили социальным целям… Компании должны приносить пользу всем заинтересованным сторонам, включая акционеров, сотрудников, клиентов и общество»[108].

Письмо Финка было опубликовано всего за несколько дней до того, как мировая финансовая элита собралась на ежегодном экономическом форуме в Давосе в 2018 году. Я присутствовал на форуме и наблюдал, как руководители с тревогой обсуждали суровое предупреждение, исходящее от человека, чья фирма контролировала существенные доли активов в их компаниях. Многие присутствовавшие публично поддержали послание Финка, но в частном порядке заявили, что такой акцент на социальной ответственности бизнеса противоречит самой логике частного предпринимательства.

В чем-то они правы: публичные компании работают, чтобы побеждать, они несут ответственность перед акционерами и должны стремиться к максимизации прибыли. Но в эпоху ИИ эта холодная логика долларов и центов просто не работает.

Слепое стремление к прибыли безо всяких мыслей о социальных последствиях не только аморально, но и просто опасно.

В своем письме Финк неоднократно ссылается на автоматизацию и переподготовку персонала. Как инвестор с интересами, охватывающими всю мировую экономику, он видит, чем грозит рынку труда ИИ – и что это не та проблема, решение которой можно отдать на откуп свободному рынку. Он считает, что крайне важно переосмыслить и усилить социальную ответственность корпораций, направить средства на целевое инвестирование и социальное предпринимательство. В прошлом предприниматели просто баловались такими вещами, когда у них были время и деньги. Конечно – почему бы не вложить немного денег в микрофинансовый стартап или компенсации выбросов парникового газа, чтобы выпустить потом бодрый рекламный пресс-релиз об этом. Но в век ИИ нам придется принять на себя гораздо больше обязательств. Если прежде внимание уделялось лишь таким «демонстративным» сторонам благотворительности, как защита окружающей среды и борьба с бедностью, в эпоху ИИ оно должно быть направлено и на смягчение ее социальных последствий – создание большого количества рабочих мест.

Как венчурный инвестор, я сознаю всю важность этого нового вида вложения капитала. Я предвижу появление венчурной экосистемы, где создание рабочих мест в секторе услуг будет рассматриваться как самостоятельное направление. Эта система будет распределять деньги на обслуживание, на человекоориентированные проекты, которые могут обеспечивать работой большое количество людей: консультантов по грудному вскармливанию, спортивных тренеров для молодежи, собирателей устных семейных преданий, гидов в национальных природных парках или собеседников для пожилых людей. Такие профессии могут оказаться значимыми как на общественном, так и на личном уровне, и многие из них могут приносить доход – пусть он и не составит 10 000 процентов, которые возвращаются от инвестиций в технологический стартап-единорог. Запуск этой экосистемы потребует изменения менталитета задействованных в ней инвесторов. Сама идея венчурного капитала изначально построена вокруг высоких рисков и экспоненциальной доходности. Когда инвестор вкладывает деньги в десять стартапов, он прекрасно понимает, что девять из них, скорее всего, провалятся. Но если хотя бы один из них превратится в успешную компанию и заработает миллиарды, экспоненциальная прибыль от этой инвестиции обернется для фонда невероятным успехом. Движущей силой таких процессов служит уникальная экономика интернета. Цифровые продукты можно тиражировать бесконечно при почти полном отсутствии затрат, и это приводит к тому, что прибыль наиболее успешных компаний достигает астрономических величин. Ориентированное на социальный сектор целевое инвестирование выглядит по-другому. Прибыль должна расти линейно, одновременно с созданием рабочих мест, имеющих важное значение для общества. Это потому, что отдача от работников-людей просто не может обеспечить экспоненциального роста прибыли на вложенный капитал.

Так, если кому-то удается построить успешный бизнес в сфере обслуживания, он не может бесконечно его тиражировать и оказывать свои услуги в любых точках мира. Бизнес такого рода должен строиться поэтапно, и каждый этап требует тщательного отбора персонала. Этот вид компаний с линейной прибылью не будет особенно привлекательным для обычных венчурных инвесторов, но зато сами компании станут ключевым элементом в построении экономики ИИ, создающей новые рабочие места и укрепляющей отношения между людьми. Конечно, будут и неудачи, и объем прибыли на вложенный капитал никогда не вырастет до объемов, к которым привыкли технологические венчурные фонды. Но эти ограничения следует принимать как должное. В новую экосистему могут войти как старые, опытные руководители венчурных фондов, которые захотят помочь, так и молодые венчурные инвесторы, находящиеся в «творческом отпуске» или действующие на безвозмездной основе. Опираясь на свою острую интуицию, они выберут предпринимателей и помогут им построить компании, работающие на благо общества. Деньги для фондов, скорее всего, поступят от правительств, стремящихся создавать новые рабочие места, а также от социально ответственных компаний. Вместе эти игроки создадут уникальную экосистему, способную дать гораздо больше рабочих мест, чем если бы она была построена на чистой филантропии, и принести гораздо больше пользы обществу, чем если бы ею управляли только венчурные инвесторы. Если мы сможем собрать вместе все составляющие такого социально ориентированного бизнеса, то он, несомненно, послужит лучшей защитой от безработицы и объединит разные сообщества одной целью – воспитывать в людях любовь к ближнему и сострадание.

Большие перемены и большая политика

Несмотря на все перечисленные выше меры, многие люди все равно провалятся через образовавшиеся в экономической системе трещины. Достаточно посмотреть вокруг, чтобы понять, сколько в мире неравенства и нищеты, и для победы над ними нужны более серьезные меры.

Для фундаментальных перемен в экономических структурах часто требуется вся полнота государственной власти. Если мы надеемся создать новый общественный договор для эпохи ИИ, это означает неизбежное использование рычагов власти. Некоторые исследователи из Кремниевой долины видят в этом тот поворотный момент, когда в игру включается ББД. Столкнувшись с кризисом на рынке труда, правительство должно предоставить людям полную гарантию экономической безопасности, то есть начать выдавать пособия, которые спасут уволенных работников от нищеты, а техническую элиту – от необходимости как-то решать эту проблему со своей стороны.

Безусловно, выплата таких пособий – это решение в духе высокоиндивидуалистического либертарианства, лозунг которого – «Живи и давай жить другим» – всегда был близок Кремниевой долине. По мнению сторонников ББД, государство не имеет права указывать людям, что им делать. Оно должно просто отдать им деньги, а дальше пусть решают сами. Этот подход говорит о том, как техническая элита склонна рассматривать общество в целом. Взирающему на окружающий мир из Кремниевой долины специалисту по высоким технологиям он представляется состоящим из «пользователей», а не граждан, из клиентов, а не членов общества. У меня другое видение. Я не хочу жить в обществе, разделенном на технологические касты, где элита ИИ живет в замкнутом пространстве почти невообразимого богатства, полагаясь на то, что минимальные подачки удержат безработных от бунта. Я хочу создать систему, не просто обеспечивающую всех членов общества материально, но также использующую богатство, генерируемое ИИ, чтобы построить общество, в котором есть место состраданию и любви, и в конечном счете – более гуманное. Достижение такого результата, безусловно, потребует творческого осмысления и разработки сложной политики – но вдохновение в таких случаях часто приходит из самых невероятных источников. Свой источник я нашел на Тайване, в монастыре Фо-Гуан-Шань, который я упоминал в предыдущей главе.

Большой босс за рулем

Первые лучи восходящего солнца появились над горизонтом – наступало то утро, в которое мне было позволено позавтракать с настоятелем. И вот, когда я торопливо шел через обширную территорию монастыря, со мной поравнялся гольфмобиль.

«Доброе утро, – сказал мне человек за рулем. – Вас подвезти?» Не желая заставлять мастера Син-юня ждать, я согласился и, сев в гольфмобиль, сказал водителю, куда направляюсь. Он был одет в джинсы и простую рубашку с длинными рукавами и оранжевым жилетом поверх нее. Ему было за 50, как и мне, и в его волосах виднелась седина. Некоторое время мы ехали молча, наслаждаясь тишиной, красотой природы и прохладным утренним ветерком. Когда же гольфмобиль обогнул холм, я нарушил тишину вопросом: «Вы зарабатываете этим на жизнь?» «Нет, – ответил он. Я волонтер, провожу здесь свободное от работы время». Тогда я обратил внимание, что слева на его оранжевом жилете китайскими иероглифами было вышито слово «волонтер». «Ну а чем вы занимаетесь на основной работе?» – спросил я. «Я владею компанией по производству электронного оборудования, где и работаю руководителем. Но в последнее время я трачу меньше времени на работу и больше – на волонтерство. Син-юнь удивительно мудр, и моя посильная помощь в монастыре действует на меня умиротворяюще». Эти слова и его спокойная речь поразили меня. Конкуренция в области производства электроники крайне жестока, а прибыль невысока; нужно реагировать на все инновации, вовремя модернизировать процессы и оптимизировать деятельность. За успех часто приходится платить здоровьем, тяжелыми днями на производстве и мучительными вечерами, когда надо развлекать клиентов, выпивая и куря вместе с ними. Но мужчина, который сидел рядом со мной и уверенно вел гольфмобиль по извилистой дорожке, казался здоровым телом и душой. Он сказал мне, что волонтерство в Фо-Гуан-Шане по выходным помогает ему избавиться от стресса, накопленного во время рабочей недели. Он еще не был готов оставить свой пост, но помощь посетителям Фо-Гуан-Шаня позволила ему приобщиться к чему-то более простому и глубокому, чем военные маневры его компании. Когда мы доехали до кельи мастера Син-юня, я поблагодарил водителя – в ответ он кивнул и улыбнулся. На завтраке с Син-юнем я услышал от него мудрые слова, оказавшие глубокое влияние на мое отношение к работе и жизни.

Разговор с волонтером за рулем гольфмобиля также не шел у меня из головы. Сначала я думал, что его преданность и смиренное служение окружающим объяснялись влиянием монастыря и властью религиозной веры, объединяющей и вдохновляющей нас. Но когда я вернулся в Тайбэй, чтобы начать лечение, то вдруг начал замечать людей, одетых в оранжевые волонтерские жилеты, по всему городу: в библиотеке, на оживленных транспортных перекрестках, в окружных офисах и в национальных парках. Они включали зеленый свет на светофорах для детей, переходящих улицу, рассказывали посетителям парка о местной флоре и помогали людям оформлять заявления на медицинскую страховку. Многие из добровольцев были людьми пожилыми, вероятно, недавно вышедшими на пенсию. Их пенсии хватало на жизнь, и поэтому они посвящали свое время тому, чтобы помогать другим, принося пользу обществу.

Пройдя через химиотерапию, я стал думать о грядущих кризисах эпохи искусственного интеллекта, при этом часто вспоминая о волонтерах. В наши дни многие люди считают, что ББД может послужить универсальным успокоительным средством для общества, но я видел мудрость в скромной работе волонтеров и в том, как они влияют на нашу культуру. Город мог бы, конечно, продолжать функционировать без армии седых добровольцев в оранжевых жилетах… но тогда в нем было бы меньше доброты и человечности. В этом едва заметном влиянии я увидел надежду.

Социальное инвестиционное пособие: уход, обслуживание и воспитание

Все эти добровольцы посвящают свое время и энергию тому, чтобы подарить обществу немного любви. Я считаю, что на нас лежит обязанность использовать экономическое изобилие века ИИ, чтобы поощрять те же ценности и занятия. Вот почему я предлагаю задуматься о том, чтобы вместо ББД ввести выплату, которую я называю социальным инвестиционным пособием. Это пособие могло бы обеспечить достойную государственную поддержку тем, кто вкладывает свое время и энергию в деятельность, направленную на формирование доброго, гуманного и творческого общества. Эту деятельность можно будет разделить на три обширные категории: работа по уходу и обслуживанию, работа на благо общества и работа в области образования и воспитания.

Она станет основой нового общественного договора, в соответствии с которым социально полезная деятельность будет оцениваться так же высоко, как экономически продуктивная деятельность в наши дни. Пособие не станет заменой другим социальным выплатам, но послужит источником достойного дохода тем, кто делает что-то полезное для общества и отдельных людей. Сегодня социальный статус человека по-прежнему в значительной степени связан с его доходами и продвижением по службе. Уважение к социально значимым профессиям потребует достойной оплаты труда и карьерных перспектив. Если все получится хорошо, то социальное инвестиционное пособие подтолкнет развитие нашей культуры в сторону большего гуманизма. Оно послужит построению лучшего общества, а не просто смягчит боль от потери работы, вызванной внедрением ИИ.

Каждая из трех признанных категорий социально значимой работы – уход и обслуживание, общественно полезная деятельность, а также воспитание и образование – будет охватывать широкий спектр занятий, причем компенсация должна зависеть от затрачиваемого времени. К первой категории могут относиться присмотр за маленькими детьми или стареющими родителями, забота о больном друге или члене семьи, помощь людям с психическими и физическими недостатками. Со временем сложится огромное сообщество, объединяющее в своих рядах близких, знакомых и незнакомых – всех, кто готов протянуть руку помощи нуждающимся в ней людям и предложить им то, чего не способно дать придуманное моим другом устройство с сенсорным экраном, – человеческое тепло. Эту деятельность возьмут на себя и некоммерческие организации, и многочисленные волонтеры, которых я видел на Тайване. В задачи волонтеров может входить забота об окружающей среде, внеклассная работа, сопровождение групп туристов в национальных парках или сбор произведений устного народного творчества в сельских общинах. Участники этих программ должны будут пройти регистрацию в соответствующей группе и отработать количество часов, требующееся для выплаты пособия. И, наконец, переобучение может варьироваться от профессиональной подготовки для работы по специальностям, востребованным в эпоху ИИ, до занятий, которые могли бы превратить хобби в профессию. Некоторые участники программы, вероятно, захотят использовать свое пособие, чтобы получить высшее образование в области машинного обучения и традиционную хорошо оплачиваемую работу.

Другие смогут тратить пособие на то, чтобы, например, брать уроки актерского мастерства или изучать цифровой маркетинг. Имейте в виду, что требовать от человека, получающего пособие, обязательного участия в каком-либо из этих конкретных видов деятельности в данном случае неправильно. Ведь люди прекрасны именно потому, что они разные: у них разные занятия, опыт, навыки, интересы и даже всяческие странности. Я не призываю ограничивать это разнообразие, поощряя только тех, кто занимается социально полезной деятельностью. Поскольку для получения пособия будет необходим определенный социальный взнос, мы должны создать идеологию, в корне иную, нежели та апология индивидуализма, которую предполагает ББД. Если люди будут получать пособие в обмен на участие в общественно полезной деятельности, это даст им четкую установку: экономическое изобилие зависит от усилий всех членов общества. Изобилие используют коллективно все члены общества, и они подтверждают свою тесную связь друг с другом, укрепляя узы сострадания и любви – чувств, свойственных только людям. Я считаю, что каждый потерявший работу из-за ИИ человек сможет выбрать дело себе по душе. Те, кому нравится работать с людьми, вероятно, предпочтут какую-либо деятельность по уходу и обслуживанию, более честолюбивые – запишутся на программы профессиональной переподготовки, а те, кого интересует социальная сфера, поступят на госслужбу или посвятят себя общественной деятельности. В эпоху, когда интеллектуальные машины начнут вытеснять нас, как ненужные детали, из механизма нашей экономики, я надеюсь, что мы по-настоящему оценим важность ухода, заботы и личного развития для построения более гуманного общества.

Открытые вопросы и серьезные трудности

Вполне закономерно возникает вопрос: должен ли размер социального инвестиционного пособия зависеть от направления деятельности? Как мы сможем узнать, насколько добросовестно человек выполняет свою «социальную работу»? А какие виды деятельности следует считать «услугами»?

Это, конечно, сложные вопросы, и четких ответов на них пока нет. Чтобы организовать выплату пособий в странах, где живут сотни миллионов людей, потребуется колоссальная работа в области делопроизводства и законодательства. Но эти проблемы не так уж непреодолимы. Правительства в развитых обществах уже занимаются решением головокружительного количества бюрократических задач только для стабильного функционирования государственных услуг, систем образования и социальной защиты. Они уже давно проводят проверки зданий, выдают лицензии школам, выплачивают пособия по безработице, мониторят санитарные условия в сотнях тысяч ресторанов и обеспечивают медицинской страховкой десятки миллионов человек. К этой рабочей нагрузке добавилась бы выплата социального инвестиционного пособия, но я считаю, что это вполне осуществимо. Учитывая огромный гуманитарный эффект от его введения, можно сказать, что дополнительные организационные затраты вполне окупят себя. Но где взять деньги? Даже если за выполнение всех перечисленных задач выплачивать людям пособия в размере прожиточного минимума, на это потребуются огромные средства, которых нет у многих стран. ИИ, безусловно, увеличит производительность труда, но сможет ли он действительно генерировать огромные суммы, способные покрыть все эти новые государственные расходы?

Это тоже остается открытым вопросом, который будет решен, только когда технологии искусственного интеллекта сами окончательно внедрятся в наши экономики. Если ИИ, в соответствии с прогнозами, повысит производительность труда и принесет компаниям огромные доходы, мы могли бы финансировать такие программы за счет чрезвычайно высоких налогов на сверхприбыли. Да, это повлияло бы на экономические стимулы для дальнейшего внедрения ИИ, но, вероятно, не сильно, так как лидеры экономики в эпоху ИИ все равно будут купаться в деньгах. Однако до того, как прибыли станут астрономическими, пройдут годы – годы, в течение которых трудящиеся будут страдать. Для смягчения переходного периода можно пойти путем медленного повышения социального инвестиционного пособия. Сразу начать выплачивать всем полную сумму, как описано выше, вероятно, не стоит. Поэтапный подход замедлит процессы замещения и поможет нам перейти к новому общественному договору. Мы могли бы начать со значительного увеличения государственного пособия для молодых родителей, чтобы дать им выбор: оставаться дома со своим ребенком или отправить его в детский сад на весь день. Родителям, выбравшим домашнее воспитание, правительство предлагало бы субсидии, эквивалентные заработной плате воспитателя, при условии прохождения ими соответствующего обучения. В системе школьного образования можно было бы, теоретически, увеличить количество учителей в десять раз, тогда на каждого из них приходилось бы меньше учащихся, а обучение могло бы строиться на основе программ, использующих ИИ. Государственные субсидии и пособия стоило бы также предоставлять работникам, проходящим профессиональную переподготовку, и людям, ухаживающим за престарелыми родителями. Эти простые меры позволили бы нам заложить основы дальнейших преобразований, направленных на изменения в культуре и построение нового общества. Поскольку ИИ продолжает создавать ценность и одновременно вытеснять трудящихся с их рабочих мест, мы можем постепенно расширять список занятий, поощряемых с помощью пособия. И как только влияние ИИ достигнет максимума – как с точки зрения производительности труда, так и с точки зрения уничтожения рабочих мест, – мы неизбежно должны будем мобилизовать ресурсы и перейти к полноценной реализации социальных программ.

Надеюсь, что эти меры помогут смягчить экономические, социальные и психологические потрясения эпохи ИИ.

Я также надеюсь, что они дадут нам возможность проявить нашу человечность и сделать то, на что не способна ни одна машина, – поделиться нашей любовью с другими людьми.

Что же впереди

Я надеюсь, что изложенные в этой главе идеи помогут предотвратить массовые потрясения, угрожающие нашему будущему в эпоху ИИ. Мы рассмотрели общие методы, направленные на плавный переход к экономике ИИ: переподготовку работников, сокращение рабочего времени и перераспределение доходов с помощью ББД. Несмотря на то что все они сыграют определенную роль, поверьте мне, этих чисто технических корректировок будет недостаточно. Я считаю, что частный сектор экономики должен внести творческий вклад в развитие симбиоза человека и машины, а инвесторы – вкладываться в создание рабочих мест в сфере услуг. Задача государства – создать социальное инвестиционное пособие, которое компенсирует людям потерю работы и подтолкнет их заниматься полезными для общества делами. Взятые вместе, эти меры приведут к «перезагрузке» нашей экономики и коренному пересмотру общественного договора, в котором впредь будет предусмотрено поощрение социально продуктивной деятельности. Их, конечно, нельзя назвать ни исчерпывающими, ни абсолютно универсальными в плане адаптации к широкомасштабной автоматизации отраслей, но, я надеюсь, они могут послужить важными ориентирами в этом процессе. Большая часть этих ориентиров основана на моем видении искусственного интеллекта и мировой технологической индустрии. Однако особенно ценным в них я считаю то, что они восходят к чему-то глубоко личному – моему опыту лечения от рака и внутренней трансформации, происшедшей благодаря таким людям, как моя жена, мастер Син-юнь и многие другие, так бескорыстно делившиеся со мной своей любовью и мудростью.

Если бы я не пережил тот страшный, но в конечном счете поучительный опыт, я так никогда бы и не понял, что основа всего в нашем мире – именно любовь. Вместо того чтобы искать способы наполнить наш мир любовью и состраданием, я бы, вероятно, рассматривал надвигающиеся кризисы так же, как и деятели Кремниевой долины, – то есть как простую проблему распределения ресурсов, которая должна решаться наиболее эффективным способом, вероятнее всего – через предоставление ББД. Только пройдя свое личное испытание огнем, я начал понимать всю тщетность такого подхода. Моя болезнь научила меня ценить мудрость скромных поступков людей во всем мире. После стольких лет, прожитых в образе Железного человека – символа профессиональных достижений, мне было необходимо спуститься с пьедестала и взглянуть в лицо смерти, чтобы оценить истины, очевидные для многих людей, которых принято считать менее успешными. Я полагаю, что вскоре мы станем свидетелями того же процесса в международном масштабе. Сверхдержавы ИИ – США и Китай – могут обладать необходимым опытом для создания самых передовых технологий, но истинный расцвет человечества в эпоху ИИ зависит от людей из всех слоев общества и из всех уголков мира. Задумываясь о будущем, мы должны найти время, чтобы оглянуться вокруг и узнать больше о настоящем.

12 июня 2005 года Стив Джобс подошел к микрофону на стадионе Стэнфордского университета и произнес перед собравшимися студентами одну из своих самых знаменитых речей. Он говорил о своих карьерных взлетах и падениях, об исключении из колледжа, об основании Apple, о вынужденном уходе из этой компании, основании Pixar и, наконец, о триумфальном возвращении в Apple десятилетие спустя. Выступая перед толпой честолюбивых студентов Стэнфорда, многие из которых страстно мечтали войти в элиту Кремниевой долины, Джобс предупредил их о том, как рискованно надолго планировать свою жизнь и карьеру. «Вы не можете соединить точки, смотря вперед, – сказал Джобс собравшимся студентам. – Вы можете соединить их, только оглядываясь в прошлое. Надо просто верить, что точки как-то соединятся в будущем»[109]. Эти слова Джобса поразили меня, когда я впервые услышал их, но сегодня они кажутся мне еще мудрее. При написании этой книги у меня была возможность соединить точки собственного роста и эволюции за четыре десятилетия работы. Я проделал путь от одной культуры к другой, от исследований ИИ к работе руководителя компании и венчурного инвестора, к написанию книг и победе над раком. На этом пути передо мной вставали вопросы как глобального, так и глубоко личного характера: подъем искусственного интеллекта, переплетение судеб и перемена мест, которые я называл домом. Из трудоголика, занятого только работой, я превратился в любящего отца и мужа.

Оглядываясь на этот путь, я могу составить представление о глобальном будущем ИИ – я могу соединить все точки и использовать получившееся созвездие в качестве ориентира. Мой опыт инженера-исследователя и предпринимателя помог мне разобраться в том, как эти технологии развиваются в Китае и США. Моя борьба с внезапной смертельной болезнью открыла мне глаза на то, почему мы должны использовать передовые технологии для построения более гуманного общества. Наконец, мой опыт жизни между двух разных культур убедил меня в ценности общего для всего человечества прогресса и взаимопонимания между странами.

Будущее без гонки ИИ

В литературе и статьях о развитии искусственного интеллекта в разных странах легко заметить военные метафоры и ссылки на тактику выматывания противника. Многие сравнивают сегодняшнюю «гонку по созданию ИИ» с космической гонкой 1960-х[110] или, хуже того, – с гонкой вооружений во времена холодной войны, в ходе которой было создано мощнейшее оружие массового поражения[111]. Даже в названии этой книги есть слово «сверхдержавы», которое многие связывают с геополитическим соперничеством. Но я использую его, чтобы отразить технический баланс возможностей ИИ, а не тотальную борьбу за военное превосходство. Однако эти различия часто игнорируют те, кто больше заинтересован в политическом позерстве, чем в процветании человечества. Если мы не будем осторожны, то однобокая риторика вокруг словосочетания «гонка по созданию ИИ» разрушит наши планы построить общее будущее, в котором мир процветает благодаря ИИ. В гонке может быть только один победитель: победа Китая – это поражение Америки, и наоборот. Понятия международного прогресса или процветания для нее не имеют значения – просто одна страна стремится опередить другую, не считаясь с потерями. Многие ораторы в США пытаются использовать прогресс ИИ в Китае как аргумент, побуждающий политиков к действию. Они утверждают, что Америке грозит опасность потерять свое преимущество в области передовых технологий, и это может привести к военному противостоянию в XXI веке. Но новой холодной войны не будет. ИИ уже имеет огромный военный потенциал, однако его истинная ценность заключается не в разрушительной мощи, а в способности к созиданию. Если его правильно понять и использовать, он действительно может привести всех нас к небывалому благоденствию.

В этом смысле нынешний подъем в области ИИ имеет гораздо больше общего с промышленной революцией или электрификацией, чем с гонкой вооружений времен холодной войны. Да, китайские и американские компании будут конкурировать друг с другом, стремясь максимально повысить производительность труда с помощью новой технологии. Но они не будут стремиться к завоеванию других стран. Когда Google продвигает TensorFlow[112] за рубежом или Alibaba реализует свой проект «Умный город» в Куала-Лумпуре, эти действия скорее сродни экспорту паровых двигателей и электрических лампочек, нежели первому раунду глобальной гонки вооружений.

Непредвзятый взгляд на долгосрочное воздействие данной технологии позволил нам увидеть отрезвляющую правду: разрушительный потенциал ИИ связан не с его военным применением, а с тем, что он может сделать с нашими рынками труда и обществом. Предвидя возможные социальные и экономические потрясения, мы должны смириться и задействовать всю свою деловую интуицию, чтобы сообща решить задачи, с которыми столкнемся все мы. Теперь наши судьбы неразрывно переплетены, независимо от экономических классов, к которым мы принадлежим, и государственных границ.

Глобальная мудрость эпохи ИИ

Уже скоро мир увидит и созидательную, и разрушительную силу ИИ. Поэтому мы должны будем учиться обращаться к друг другу за поддержкой и вдохновением.

Соединенные Штаты и Китай станут лидерами в области экономически обоснованного применения ИИ, но и другие страны и культуры, безусловно, будут и впредь вносить неоценимый вклад в социальную эволюцию человечества. Ни одна из них не найдет ответов на все сложнейшие вопросы, которые поставит перед нами будущее, но я считаю, что любую проблему мы сможем решить совместными силами, черпая мудрость из разных источников. Эта мудрость поможет нам изменить наши системы образования, культуру, понимание прогресса, конфиденциальности и механизмов управления.

В процессе модернизации наших систем образования мы можем многому научиться у Южной Кореи. Образовательные программы этой страны направлены на выявление и раскрытие потенциала технически одаренной молодежи, и это важное звено в работе по созданию материальных благ, которые затем могут быть распределены между всеми членами общества.

Школы по всему миру также могут извлечь много полезного из американских экспериментов в области социального и эмоционального воспитания, направленного на развитие навыков, которые окажутся неоценимыми в гуманном обществе будущего. С точки зрения отношения к труду было бы мудро взглянуть на культуру производства в Швейцарии и Японии, где стремление к совершенству превратило обычную работу в средство самовыражения и едва ли не искусство. Между тем насчитывающие множество участников и решающие важные задачи волонтерские программы в таких странах, как Канада и Нидерланды, демонстрируют, что пора менять наше отношение к самому понятию «работа». Китайская культура тоже может быть источником знаний и опыта, когда дело касается ухода за пожилыми людьми и взаимопонимания между поколениями. Сближение государственной политики и личных ценностей означает, что мы обязательно должны найти время для новых экспериментов в области определения и измерения прогресса, таких как решение Бутана использовать «валовое национальное счастье» в качестве ключевого показателя развития. Наконец, наши правительства должны будут постоянно работать сообща в поисках новых компромиссов в области обмена данными и их защиты, цифровых монополий, онлайн-безопасности и алгоритмической предвзятости. Мы можем многому научиться, сравнивая различные подходы к этим вопросам регулирующих органов в Европе, Соединенных Штатах и Китае. В свое время Европа выбрала жесткий подход – компания Google, например, была оштрафована за несоблюдение антимонопольного законодательства и попытки отобрать у технологических компаний контроль над данными, – но Китай и Соединенные Штаты позволяют технологиям и рынкам свободно развиваться, прежде чем вмешиваются в их деятельность. Оба подхода, по сути, компромиссные, при этом одни государства ставят конфиденциальность выше технического прогресса, а другие – наоборот. Если мы хотим построить процветающее общество на основе технологий, нам нужно отслеживать и изучать реальные последствия и той и другой политики в разных географических регионах и оставаться открытыми для разных подходов к управлению ИИ.

Как создается история ИИ

Ежедневный шквал информации об ИИ может вызвать ощущение, что люди теряют контроль над собственными судьбами. Пророчества о господстве роботов и формировании «бесполезного класса» безработных пагубно влияют на наше сознание, вызывая гнетущее чувство беспомощности перед лицом всемогущих технологий. Это чувство заставляет нас забыть об очень важном факте: будущее искусственного интеллекта зависит от действий людей.

Мы не пассивно наблюдаем за историей ИИ, а пишем ее. Это означает, что наши представления о будущем ИИ вполне могут подействовать как самосбывающееся пророчество. Если мы говорим себе, что ценность человека заключается исключительно в его вкладе в экономику, мы будем и поступать соответственно. Машины вытеснят людей с их рабочих мест, и мы можем оказаться в извращенном мире, подобном тому, который показала нам Хао Цзинфан в своем рассказе «Складной Пекин», где так называемые «полезные люди» и «бесполезные массы» разделены гранью ночи и дня. Но исход кризиса ИИ еще не предрешен. Сама угроза его возникновения связана с идеологией, определяющей роль человека всего лишь как сумму экономических показателей, и говорит о том, что человечество сбилось с верного пути. Мы были посланы на Землю не для того, чтобы постоянно делать одно и то же. И нам не нужно тратить свою жизнь, усердно накапливая богатства, чтобы после нашей смерти их могли получить наши дети, чья жизнь станет всего лишь новой итерацией общечеловеческого алгоритма.

Но если мы верим, что смысл жизни не сводится к погоне за материальным благополучием, то ИИ может оказаться просто инструментом, способным помочь нам глубже понять ее значение.

Ум и сердце человека

В самом начале своей карьеры исследователя ИИ, поступая в 1983 году в Университет Карнеги – Меллона, я украсил свое заявление некоторыми философскими отступлениями – например, я описывал ИИ как «количественную оценку человеческого мышления, объяснение человеческого поведения» и «решающий шаг» человечества к пониманию самого себя. Это была лаконичная дистилляция романтических представлений об ИИ того времени, и я черпал в них вдохновение долгие годы. С тех пор прошло 35 лет, я стал старше и, надеюсь, немного мудрее, и теперь я вижу вещи иначе. Программы на основе ИИ, созданные нами, справляются со многими задачами настолько же хорошо или даже лучше, чем мозг человека. Как исследователь и ученый, я горжусь этими достижениями. Но если первоначальной целью было по-настоящему понять себя и других людей, то эти десятилетия «прогресса» не дали мне ничего. По сути, я ошибся в анатомии. Вместо того чтобы пытаться превзойти человеческий мозг, я должен был попытаться понять человеческое сердце.

Прошло очень много времени, прежде чем я понял свою ошибку. Большую часть взрослой жизни я провел в попытках превратить свой мозг в тонко настроенный алгоритм максимизации собственного влияния. Я летал в разные страны, пересекал часовые пояса, работал, неустанно стремился к своей цели. И не задумывался, что в сердцах моих близких существовал гораздо более важный и гораздо более человечный мир. Мне потребовались страшный диагноз и бескорыстная любовь семьи, чтобы соединить точки в ясную картину и увидеть, что отделяет нас от созданных нами машин. Это изменило мою жизнь и окольными путями привело меня обратно к моей первоначальной цели – использовать ИИ, чтобы познать природу человека. Если ИИ когда-либо позволит нам по-настоящему понять самих себя, то не потому, что его алгоритмы смогут повторить механические процессы мышления, а потому, что они разрешат нам забыть об оптимизации и сосредоточиться на том, что действительно делает нас людьми, – способности любить и быть любимыми. Для этого потребуется напряженная работа и сознательный выбор каждого из нас. К счастью, как люди мы обладаем свободой воли, которой все еще нет у ИИ, а потому можем выбирать себе цели. Мы можем объединиться, невзирая на классовые предрассудки и границы стран, и придумать свое продолжение истории об искусственном интеллекте.

Давайте позволим машинам быть машинами, а людям – людьми. Давайте просто использовать придуманные нами устройства по назначению, и при этом, что более важно, – относиться друг к другу с любовью.