Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта Тегмарк Макс

Мы видели, что искусственный интеллект может помочь нам создать прекрасное будущее, если мы сумеем найти ответы на некоторые из самых старых и самых сложных философских вопросов — иногда философия тоже бывает необходима. Сейчас, по словам Ника Бострёма, мы пришли к философскому рубежу. В этой главе рассмотрим один из тех философских вопросов, в котором скрывается множество терний, — вопрос о сознании.

Кого заботит?

Говорить о сознании не просто. Если вы упоминаете «слово на С» в разговоре со специалистом по искусственному интеллекту, неврологом или психологом, они возведут глаза к небу. Если собеседник — ваш наставник, он может сжалиться над вами и попытается отговорить вас тратить напрасно свое время на безнадежную и ненаучную проблему. Действительно, мой друг Кристоф Кох, известный нейробиолог, который стоит во главе Алленовского института мозга, рассказывал мне, как его однажды отговаривали заниматься проблемами сознания, пока у него нет постоянной профессорской позиции — и это был, ни больше ни меньше, нобелевский лауреат Фрэнсис Крик. Если вы посмотрите, что написано в статье о сознании в психологическом словаре Макмиллана 1989 года издания, то узнаете, что «ничего стоящего прочтения по этой теме не было написано»^{97}. Я объясню в этой главе, что я более оптимистичен.

Хотя мыслители ломают голову над тайной сознания уже тысячи лет, появление искусственного интеллекта внезапно сделало разрешение ее насущным, в частности в том, что касается возможности предсказать, какие разумные сущности обладают способностью к субъективным переживаниям. Как мы видели в главе 3, вопрос о том, следует ли предоставлять умным машинам какие-либо права, принципиально зависит от того, действуют ли они сознательно, способны ли они страдать или испытывать радость. Как мы обсуждали в главе 7, у нас нет никакой надежды ни на какую утилитарную этику, направленную на достижение максимума положительных переживаний, если мы не знаем, какие разумные субъекты способны на них. Как уже упоминалось в главе 5, некоторые люди могут предпочитать, чтобы их роботы не обладали сознанием, так как иначе они будут ощущать себя рабовладельцами и мучиться чувством вины. С другой стороны, люди могут хотеть и прямо противоположного, когда заливают в компьютер свое сознание, освобождаясь от биологических ограничений: в конце концов, какой смысл заливать себя в робота, который разговаривает как вы и поступает как вы, если он всего лишь бессознательный зомби? В данном случае я имею под этим в виду, что после такой заливки вы и сами не будете ничего чувствовать. Разве это не будет эквивалентно самоубийству с вашей субъективной точки зрения, даже если ваши друзья не будут понимать, что ваш субъективный мир мертв?

Для долгосрочной перспективы будущей жизни в космосе (глава 6) понимание того, что делается сознательно, а что нет, становится ключевым: если развитие технологий позволяет разумной жизни процветать всей нашей Вселенной миллиарды лет, какие основания у нас могут быть для уверенности в том, что эта жизнь останется сознательной и сможет сознательно переживать происходящее? В противном случае не превратится ли все в ту самую пьесу, которую описал знаменитый физик Эрвин Шрёдингер: «[разыгрываемая] перед пустыми рядами кресел, она не существует ни для кого, и не правильнее ли тогда говорить о ней как о несуществующей»^{98}? Иными словами, если мы активируем своих высокотехнологичных потомков, которых ошибочно считаем сознательными, то не будет ли это как раз тем самым финальным зомби-апокалипсисом, превращающим наши колоссальные космические авуары в астрономическое пространство, занятое понапрасну?

Что такое сознание?

Многие споры о сознании производят больше жара, чем света, потому что спорящие не понимают друг друга, не отдавая себе отчета в том, что используют различные определения «слова на С». Так же, как для слов «жизнь» и «разум» не существует одного бесспорно правильного определения, не существует его и для слова «сознание». Вместо него есть много конкурирующих: в числе многих — чувствительность, пробужденность, внимание, обращенное на себя, внимание к ощущениям от органов чувств, способность переводить информацию в нарратив^{99}. В нашем исследовании будущего разума мы хотим занять предельно общую позицию, которая включала бы в себя все прочие и не ограничивалась только биологическими формами сознания, которые до сих пор существовали. Вот почему определение, которое я дал в главе 1 и которого придерживаюсь в этой книге, так широко:

сознание = субъективные переживания.

Другими словами, если ваше существование связано с какими-то чувствами прямо сейчас, то это означает, что вы обладаете сознанием. Это основополагающее определение, принятое нами во всех вопросах относительно искусственного интеллекта в предыдущих разделах. Что значит быть Прометеем, AlphaGo или беспилотным автомобилем Tesla? Связано ли это с какими-нибудь чувствами?

Чтобы оценить, насколько широко наше определение сознания, обратите внимание, что в нем не упоминаются ни поведение, ни восприятие, ни самоощущение, ни эмоции или внимание. Согласно этому определению, вы сознательны даже во сне, несмотря на то, что у вас нет доступа к органам чувств сенсорного ввода и вы не можете (я надеюсь!) ходить и совершать какие-то другие действия. Схожим образом любая система, которая испытывает боль, в этом смысле сознательна, даже если лишена возможности двигаться. Наше определение оставляет открытой возможность обладать сознанием для будущих систем с искусственным интеллектом, даже если они будут существовать лишь просто как «софт», без подключения к сенсорам и без роботоподобного тела.

Такое определение не оставляет возможности обойти сознание вниманием. Как писал в своей книге Homo Deus Юваль Харари: «…Если ученый берется утверждать, что ссылки на субъективные переживания в науке неуместны, то он должен, также не ссылаясь на субъективные переживания, доказать недопустимость пыток или насилия». Без такой ссылки каждый из нас представляет собой всего лишь сгусток элементарных частиц, передвигающийся в пространстве в соответствии с законами физики, — и как могут быть недопустимы какие-то действия?

В чем же проблема?

Так в чем же именно заключается то, чего мы не понимаем о сознании? Мало кто посвятил этому вопросу больше усилий, чем Дэвид Чалмерс, известный австралийский философ, со своей неизменной улыбкой и кожаным пиджаком, который так нравится моей жене, что она даже подарила мне такой же на Рождество. Он последовал зову своего сердца и стал философом, даже несмотря на победу на международной олимпиаде по математике и даже несмотря на то, что единственной четверкой, полученной им в колледже при остальных пятерках, была четверка по философии. Действительно, на него, кажется, никак не действуют язвительные замечания и острые возражения, и я был поражен его способностью вежливо выслушивать мнения неосведомленных или глубоко заблуждающихся людей относительно его работ, даже не чувствуя необходимости как-то на них реагировать.

Дэвид всегда подчеркивал, что на самом деле есть две разных тайны, связанных с работой человеческого ума. Первая тайна заключается в том, как мозг перерабатывает информацию. Отсюда проистекает то, что Дэвид называет «легкими» проблемами. Например, как мозг принимает сигналы от органов чувств, воспринимает их и откликается на них? Как он может сообщать о своем внутреннем состоянии средствами языка? Хотя эти вопросы чрезвычайно сложны, они, по нашему определению, относятся не к тайнам сознания, а к тайнам интеллекта: речь о том, как мозг запоминает, вычисляет и учится. Кроме того, мы видели в первой части книги, как специалисты по искусственному интеллекту уже начали успешно двигаться по пути решения этих «легких проблем» в приложении их к машинам — обучая машины играть в го и водить автомобиль, распознавать изображения и понимать высказывания, сделанные с помощью естественного языка.

И есть отдельная тайна: для чего вам личные переживания? И Дэвид называет ее «сложной» проблемой. Когда вы сидите за рулем автомобиля, вы реагируете на мелькающие за окном яркие пятна предметов, на услышанные звуки, испытываете эмоции и ощущаете себя собой. Для чего это все? Разве автомобиль без водителя испытывает что-нибудь подобное? Если вы поедете с таким беспилотным автомобилем наперегонки, вы оба будете получать информацию от своих сенсоров, перерабатывать ее и выдавать управляющие команды. И ваши субъективные переживания во время вождения очевидно логически отделены от самого вождения, они какие-то необязательные. Но если это так, то что их вызывает?

Я подхожу к этой трудной проблеме как физик. С моей точки зрения, обладающая сознанием личность состоит из того, что ею съедено, только съеденное вещество как-то иначе упорядочено. Так почему одни способы упорядочить то же самое вещество приводят к возникновению сознания, а другие нет? Кроме того, физика учит нас: все, что мы едим, — это просто большое количество кварков и электронов, упорядоченных определенным образом. Итак: в каком порядке должны быть расположены частицы, чтобы возникло сознание[56]?

Что мне нравится в этой физической точке зрения, так это то, что она позволяет придать трудной проблеме, с которой мы, люди, пытаемся совладать на протяжении тысячелетий, значительно более ясную форму, словно фокусируя наш взгляд, и теперь ее легче решить методами науки. Вместо того чтобы начинать с трудной проблемы, — почему определенным образом упорядоченные частицы могут обладать сознанием, — давайте начнем с твердого факта, что некоторые конгломераты упорядоченных частиц ощущают себя сознательными, в то время как прочие не ощущают. Например, вы знаете, что частицы, из которых состоит ваш мозг, в данный момент находятся в осознающей упорядоченности, но не обладают этим качеством, когда вы находитесь в состоянии глубокого сна без сновидений.

Теперь мы можем задать три сложных физических вопроса относительно сознания (см. рис. 8.1). Во-первых, какие особенности упорядочения частиц играют здесь роль? В частности, какие физические особенности отличают обладающие сознанием системы от бессознательных? Если мы можем ответить на этот вопрос, то мы можем сказать, какие интеллектуальные системы окажутся сознательными. В более близкой перспективе умение ответить на этот вопрос поможет врачам скорой помощи определить, кто из не реагирующих на внешние раздражители пациентов на самом деле находится в сознании.

Во-вторых, как физические свойства определяют тип ощущения? В частности, что определяет квалиа, основные строительные блоки сознания, такие как красный цвет розы, звон тарелок, запах стейка, вкус мандарина или боль от укола иголкой[57]?

В-третьих, почему что-то вдруг оказывается сознательным? Другими словами, есть ли какие-то глубинные, не открытые пока объяснения, почему одни сгустки вещества оказываются сознающими, или это необъяснимый факт, просто мир так устроен?

Рис. 8.1

Понимание сознания предполагает целую иерархию проблем. Та, которую Дэвид Чалмерс называет «легкой», может быть сформулирована без упоминания личных переживаний. Очевидный факт, что некоторые, хотя и далеко не все, физические системы обладают сознанием, ставит перед нами три отдельных вопроса. Если у нас есть теория, дающая ответ на вопрос, который здесь обозначен как «довольно трудный», то эта теория должна быть экспериментально проверяема. Если проверка состоялась, то можно пользоваться ею в попытках дать ответ и на вопрос в вершине пирамиды.

Специалист по информатике Скотт Ааронсон, мой бывший коллега по MIT, легкомысленно назвал первый из этих вопросов «довольно трудной проблемой» (pretty hard problem, или PHP), как перед этим поступил Дэвид Чалмерс. Следуя за ними в том же духе, назовем два других вопроса «еще более трудной проблемой» (even harder problem, или ЕНP) и «по-настоящему трудной проблемой» (really hard problem, или RHP), в соответствии с рис. 8.1[58].

Сознание за пределами науки?

Когда люди говорят мне, что изучение сознания — это пустая трата времени, их главный аргумент заключается в том, что такое исследование «ненаучно» и обречено оставаться таким навсегда. Но действительно ли это так? Выдающийся австро-британский философ Карл Поппер был автором широко признанного теперь положения, что «нефальсифицируемая теория не может считаться научной». Другими словами, суть науки состоит в проверке теорий данными наблюдений: если наблюдения не позволяют проверить теорию даже в принципе, то отсюда логически следует невозможность каким-либо образом ее опровергнуть (фальсифицировать), что, по определению Поппера, означает, что она ненаучна.

Так возможна ли научная теория, дающая ответ на любой из трех вопросов о сознании, приведенных на рис. 8.1? Позвольте мне уверить вас, что ответом должно быть решительное «Да!», — по крайней мере, для довольно трудной проблемы: «Какие физические особенности отличают обладающие сознанием системы от бессознательных?». Предположим, что у кого-то есть теория, позволяющая для любой физической системы на вопрос, обладает ли она сознанием, ответить одним из трех способов: «да», «нет» или «неизвестно». Давайте подцепим ваш мозг к устройству, считывающему кое-какую информацию, обрабатываемую в различных частях вашего мозга, и пусть эта информация поступает оттуда в компьютер, на котором установлена программа, использующая теорию сознания для указания, какая часть этой информации соответствует сознательным системам, а какая нет, и представляющая вам результаты своих прогнозов в режиме реального времени на экране, как показано на рис. 8.2. Сначала вы думаете о яблоке. На экране высвечивается сообщение, что в вашем мозгу есть информация о яблоке, в чем вы отдаете себе отчет, но в стволе мозга также есть информации о частоте вашего пульса, в чем вы не отдаете себе отчета. Вас бы это впечатлило? Хотя первые два предсказания теории были правильными, вы решили бы провести более тщательное тестирование. На этот раз вы думаете о своей матери, и компьютер сообщает вам, что в вашем мозгу есть информация о вашей матери, но вы не отдаете себе в этом отчета. Теория привела к неправильному выводу, и поэтому должна отправиться на свалку истории науки вместе с аристотелевской механикой, теорией светоносного эфира, геоцентрической космологией и уймой других неудачных идей. Но вот главное: хотя на основании этой теории был сделан ложный вывод, он был проверяем, а значит, теория была научной! Не была бы она научной, вы были бы не в состоянии подвергнуть ее испытанию и опровергнуть.

Некоторые могут не согласиться с моим выводом и сказать, что у них нет никаких доказательств, что именно вы осознавали, или даже вообще осознавали ли вы что-нибудь, хотя они слышали, как вы говорите, что у вас есть сознание: бессознательный зомби, наверное, тоже стал бы говорить то же самое. Но это не делает теорию сознания ненаучной, потому что мы можем поменяться с ними местами и провести проверку, насколько правильно будут предсказаны их собственные переживания, заново.

С другой стороны, если теория отказывается делать какие-либо прогнозы, отвечая «неизвестно» на любой запрос, то опровергнуть ее невозможно, и поэтому она ненаучна. Такое может произойти потому, что теория применима только в некоторых ситуациях, или потому, что необходимые вычисления слишком трудно осуществить на практике, или потому, что датчики, следящие за работой мозга, недостаточно чувствительны. Самые популярные из научных теорий сегодня, как правило, находятся где-то посередине, давая проверяемые ответы лишь на некоторые, а не на все наши вопросы. Например, ключевая теория современной физики отказывается давать ответы на вопросы о системах, которые одновременно и чрезвычайно малы (для этого нужна квантовая механика), и чрезвычайно массивны (для этого требуется общая теория относительности), потому что мы еще не знаем, какими математическими уравнениями надо пользоваться в данном случае. Эта ключевая теория не позволяет нам точно предсказать массы всех возможных атомов: в этом случае, как мы думаем, у нас есть необходимые уравнения, но мы не умеем решать их с нужной точностью. В чем более опасные конструкции ухитряется теория засовывать свой нос, делая при этом проверяемые предсказания, тем больше от нее пользы, и тем серьезнее мы относимся к ней, если она переживает все наши попытки убить ее. Да, мы можем проверять только некоторые из предсказаний теории сознания, но ведь так оно и для всех физических теорий. Поэтому давайте не терять время, сокрушаясь о том, что нам чего-то невозможно проверить, а займемся проверкой того, что проверяемо!

Рис. 8.2

Допустим, компьютер измеряет информацию, обрабатываемую вашим мозгом, и оценивает, какую ее часть вы осознаете в соответствии с теорией сознания. Вы можете использовать научный метод и проверить теорию, определив, насколько справедливы были априорные оценки компьютера, когда сравните их со своими личными переживаниями.

Подводя итог, мы можем сказать, что любая теория, позволяющая предсказать, какие физические системы обладают сознанием (довольно сложная проблема), научна в той мере, в какой она может распознать, какие из процессов у вас в мозгу протекают осознанно. Однако проверяемость гипотез становится менее очевидной для вопросов, расположенных выше на рис. 8.1. Что может означать, что теория предсказывает ваше субъективное восприятие красного цвета? И если мы ожидаем, что теория в первую очередь объясняет, почему существует такая вещь, как сознание, то как мы можем проверить ее экспериментально? Мы не должны избегать таких вопросов просто потому, что на них трудно ответить, и мы действительно вернемся к ним ниже. Но когда мы встречаемся с несколькими вопросами, на которые не можем дать ответа, то, я думаю, целесообразно начать с самого простого. По этой причине мои исследования сознания в MIT непосредственно сосредоточены на основании пирамиды, изображенной на рис. 8.1. Я недавно обсуждал эту стратегию с моим коллегой-физиком Питом Хатом из Принстона, который пошутил, что пытаться строить верхнюю часть пирамиды до того, как подведен фундамент, то же самое, что беспокоиться об интерпретации квантовой механики до того, как открыто уравнение Шрёдингера, — то есть создана математическая основа, позволяющая нам прогнозировать результаты наших экспериментов.

Обсуждая, что выходит за рамки науки, надо помнить, что ответ зависит от времени! Четыре столетия назад Галилео Галилей был так впечатлен возможностями физической теории, построенной на основе математики, что природу сравнил с «книгой, написанной на языке математики». Бросая виноградину или орех, он мог точно предсказать, какой формы будет их траектория и когда они упадут на землю. Но он понятия не имел, почему первая их них — зеленая, а второй — коричневый, или почему виноградина мягкая, а орех жесткий. Эти вопросы в то время лежали за пределами науки. Но это не значило, что они останутся там навсегда! Когда Джеймс Клерк Максвелл в 1861 году открыл свои уравнения, носящие теперь его имя, стало ясно, что свет и цвет также можно описать математически. Теперь мы знаем, что упомянутое выше уравнение Шрёдингера, открытое им в 1925 году, можно использовать для предсказания любых свойств материи, включая мягкость или жесткость. В то время как прогресс научных теорий позволяет теперь делать все больше научных прогнозов, технический прогресс позволяет проводить все больше экспериментальных проверок, и почти все, что мы теперь изучаем при помощи телескопов, микроскопов и ускорителей элементарных частиц, было когда-то за пределами науки. Другими словами, горизонты науки со времен Галилея резко расширились, от крошечной точки до колоссального диапазона, простирающегося от субатомных частиц до черных дыр и наших космических истоков 13,8 миллиардов лет тому назад. И поэтому теперь вполне уместно спросить: а что же осталось за ним?

Для меня сознание — это слон в комнате. Вы знаете, что обладаете сознанием, но только это вы и знаете с полной уверенностью: все остальное — это результат умозаключений, как указывал Рене Декарт еще во времена Галилея. Случится ли так, что теоретический и технологический прогресс твердой рукой перенесет в конечном счете даже сознание в сферу науки? Мы этого не знаем, точно так же, как Галилей не знал, откроем ли мы когда-нибудь природу света и вещества[59]. Гарантировано лишь одно: если мы не попытаемся, то ничего и не удастся! Вот почему я и многие другие ученые всего мира так настойчиво пытаемся формулировать и проверять теории относительно сознания.

Что говорит о сознании эксперимент?

В наших головах в каждую секунду обрабатывается огромное количество информации. Что из этого мы осознаем, а что нет? Прежде чем мы обратимся к теориям сознания и их предсказаниям, давайте посмотрим, что мы можем узнать из экспериментов, начиная от традиционных низкотехнологичных или совсем топорных наблюдений до новейших исследований, проводившихся над мозгом.

Какое поведение осознанно?

Умножая в уме 32 на 17, вы осознанно, шаг за шагом, совершаете множество внутренних вычислительных операций. Но, предположим, я показываю вам портрет Альберта Эйнштейна и прошу назвать имя изображенного на нем человека. Как мы видели в главе 2, это тоже вычислительная задача: ваш мозг производит приближенное вычисление функции, которая любой информации о множестве разноцветных точек, полученной от ваших глаз, ставит в соответствие сигналы, управляющие движением мышц вашего рта и голосовых связок. Специалисты по информатике называют эту задачу «классификация изображений» с последующим «речевым синтезом». Хотя в этом случае вычисление намного сложнее, чем простое перемножение чисел, вы справляетесь с ней гораздо быстрее, без видимых усилий и не осознавая последовательности действий, приводящих вас к успеху. Ваши субъективные переживания сводятся только к рассматриванию фотографии, опознанию лица и слуховому восприятию собственного голоса, когда он произносит: «Эйнштейн».

Психологи давно уже знают, что вы можете бессознательно совершать величайшее многообразие всевозможных поступков и действий: моргать и дышать, хватать и подбирать, наконец, сохранять равновесие. Как правило, вы осознаете, что именно вы сделали, но не осознаете как. С другой стороны, поведение в незнакомой ситуации, требующей самоконтроля и следования сложным логическим правилам, абстрактных рассуждений или языкового манипулирования, имеет тенденцию быть осознанным. Это поведенческие корреляты сознания, и они тесно связаны с трудоемким, медленным и контролируемым способом мышления, который психологи называют «Системой 2»^{100}.

Известно также, что длительной практикой многие обыденные действия превращаются из сознательных в бессознательные: вспомним ходьбу, плавание, езду на велосипеде, вождение автомобиля, набор текста на компьютере, бритье, завязывание шнурков на ботинках, игры на компьютере или игру на фортепиано^{101}. Действительно, хорошо известно, что у настоящих специалистов своего дела лучше всего выходит то, что они умеют делать «на автомате», следя за происходящим словно со стороны, и выполняют конкретные действия бессознательно, не привлекая контроль нижнего уровня. Например, попробуйте прочитать следующее предложение, осознанно проговаривая каждую букву, как вы делали, когда учились читать. Вы можете почувствовать, насколько медленнее пошло дело по сравнению с тем, когда вы просто воспринимали текст на уровне слов или идей?

Действительно, бессознательная обработка информации не только возможна, но представляется теперь скорее правилом, чем исключением. Данные свидетельствуют о том, что из примерно 10⁷ битов информации, которые каждую секунду наш мозг получает от органов чувств, мы можем осознавать только крошечную часть, не превосходящую, по разным оценкам, от 10 до 50 бит^{102}. То есть от той информации, что перерабатывает наш мозг, сознанию открыта разве что верхушка айсберга.

Все эти данные в совокупности привели некоторых исследователей к мысли, что сознательную обработку информации следует рассматривать вроде этакого генерального директора всего нашего ума, который контролирует принятие только самых важных решений, требующих сложного анализа данных всех органов чувств^{103}. Такой подход помогает объяснить, почему как раз в качестве директора компании он обычно не хочет отвлекаться на детали, находящиеся в ведении его подчиненных, но при желании он всегда может получить к ним доступ. Чтобы лучше понять, как работает эта избирательность внимания, посмотрите еще раз на слово «желании», сосредоточив взгляд на букве «а» и, не перемещая глаз, перенесите внимание на весь слог «ла», а затем и на слово целиком. Хотя информация, получаемая мозгом от вашей сетчатки, осталась той же, осознаваемые ощущения теперь иные. Метафора генерального директора также объясняет, почему при накоплении опыта растет роль бессознательного: измучившись при освоении техники чтения и печатания на клавиатуре, генеральный директор делегирует эти рутинные задачи бессознательным подчиненным, чтобы иметь возможность сосредоточить внимание на новых задачах более высокого уровня.

Где же сознание?

Остроумные эксперименты и их анализ привели к выводу, что сознание связано не только с определенными типами поведения, но и с некоторыми участками мозга. Кто в числе главных подозреваемых? Первые зацепки пришли из опыта лечения больных с локализованными повреждениями мозга, возникшими вследствие аварии на дороге, удара, опухоли или инфекции. Но они часто дают лишь предварительные сведения. Например, означает ли тот факт, что поражение задней доли коры головного мозга вызывает слепоту, участие этой доли в формировании визуального сознания, или она просто расположена на пути визуальной информации куда-то еще, где она впоследствии станет сознательной, и информация через нее только проходит, точно так же, как до этого проходила через глаз?

Хотя исследования ни повреждений головного мозга, ни последствий медицинского вмешательства не дают надежных указаний, в каком именно месте формируются осознанные ощущения, они сужают круг возможных вариантов. Например, я знаю, что, хотя я испытываю боль в руке, как будто она и в самом деле возникает именно там, ощущение боли должно зарождаться где-то в другом месте, потому что один раз хирург обезболил мою руку, ничего не делая с ней самой: он просто ввел анестетик мне в плечо поблизости от проводящего нерва, это называется проводниковой анестезией. Кроме того, некоторые люди с ампутированными конечностями испытывают фантомные боли в несуществующей конечности. Вот еще один пример: я однажды заметил, что, когда я закрываю левый глаз и смотрю только правым, часть поля зрения у меня пропадает — врач определил, что у меня отслоилась сетчатка, и прикрепил ее обратно. В отличие от меня, некоторые пациенты с определенными повреждениями головного мозга испытывают одностороннее пространственное игнорирование, из-за которого у них тоже пропадает половина поля зрения, но они даже не замечают, что что-то пропало, — например, они могут не видеть одной половины своей тарелки и съедать только половину лежащей на ней пищи. Получается так, будто половина мира исчезла из их сознания. Но можем ли мы утверждать, что поврежденные области мозга создают пространственные ощущения, или же они просто передают сознанию какую-то информацию о пространстве, как это делает сетчатка глаза?

Нейрохирург-новатор, живший в США и Канаде, Уайлдер Пенфилд, обнаружил в 1930-х годах, что его пациенты ощущают прикосновения к различным частям своего тела, когда он раздражает электричеством некоторые области их мозга, относящиеся к тому, что теперь называется соматосенсорной корой (рис. 8.3)^{104}. Он также обнаружил, что его пациенты совершают непроизвольные движения различными частями тела, когда он стимулирует области мозга, относящиеся к тому, что теперь называется моторной корой. Но означает ли это, что информация, обрабатываемая в этих областях мозга, соответствует осознанию осязания и совершения движений?

Рис. 8.3

Аудиовизуальные и соматосенсорные области коры головного мозга отвечают за зрение, слух, осязание и двигательные функции, но из этого еще не следует, что именно в этом месте происходит осознание увиденного, услышанного, ощупанного или произведенного движения. И в самом деле, последние исследования показывают, что в визуальной области коры головного мозга, как и в мозжечке или в стволе мозга, совершенно не происходит никакого осознания. Изображение предоставлено www.lachina.com

К счастью, современная технология дает нам теперь более надежные зацепки. Хотя мы все еще очень далеки от возможности измерить каждую искорку, пробежавшую по какому-нибудь из примерно 100 миллиардов ваших нейронов, технология чтения мозга развивается очень быстро, возникают все новые методы с пугающими названиями: fMRI, EEG, MEG, ECoG, ePhys[60], флуоресцентное зондирование напряжений. Функциональная магнитно-резонансная томография заключается в том, чтобы, следя за магнитными свойствами ядер водорода, делать 3D-карту мозга примерно каждую секунду с разрешением в один миллиметр. Электроэнцефалография и магнитоэнцефалография заключаются в измерении электростатического и магнитостатического полей вне головы, тысячу раз в секунду снимая карту мозга, но с невысоким разрешением, не позволяющим различать детали размером меньше нескольких сантиметров. Пугливому человеку особенно приятно, что все эти методы не инвазивные. Но если вы не против, чтобы вам вскрыли черепную коробку, у вас появляются дополнительные опции. Электрокортикография предполагает размещение, скажем, сотни проводков на поверхности вашего мозга, в то время как электрофизиология подразумевает внедрение микропроводов, иногда тоньше человеческого волоса, глубоко в мозг для записи электрического напряжения, измеряемого в нескольких тысячах точек одновременно. Многие больные эпилепсией вынуждены проводить в больнице по много дней, пока с помощью электрокортикографии выяснится, какая часть мозга вызывает судороги и должна быть удалена, и они любезно соглашаются, чтобы, пока суд да дело, неврологи проводили свои эксперименты, касающиеся сознания. Наконец, флуоресцентное зондирование напряжения состоит в том, чтобы генетическими манипуляциями над нейронами заставить их испускать вспышки света, когда по ним проходит сигнал, что позволяет следить за их активностью с помощью микроскопа. Из всех методов именно последний обеспечивает самый быстрый доступ к наибольшему количеству нейронов, по крайней мере для тех животных, у кого прозрачные мозги — например, для червя нематоды (Caenorhabditis elegans) с его 302 нейронами и личинок рыбки данио рерио (Danio rerio), у которой их около 100 000.

Хотя Фрэнсис Крик предупреждал Кристофа Коха об опасностях, связанных с изучением сознания, Кристоф отказался сдаваться, и время показало его правоту. В 1990 году они вместе написали основополагающую статью о том, что они называли «нейронными коррелятами сознания» (NCC), в которой они выясняют, какие конкретно процессы в мозгу соответствуют осознанным ощущениям. На протяжении тысячелетий мыслители могли следить за обработкой информации в мозгу только через посредство собственного субъективного опыта и поведения. Крик и Кох указывали, что новые методы исследования процессов внутри мозга внезапно предоставили независимый доступ к этой информации, позволяя ученым исследовать, как должна обрабатываться информация, чтобы возникали определенные осознанные ощущения. Что и говорить, теперь методы измерений, основанные на новых технологиях, превратили поиски нейронных коррелятов сознания в настоящий мейнстрим нейробиологии, и тысячи публикаций по этой теме поступают в самые престижные из научных журналов^{105}.

Какие выводы мы можем сделать? Чтобы получить вкус к детективному поиску нейронных коррелятов, давайте сначала выясним, обладает ли сознанием ваша сетчатка, или же она просто зомби-система, которая записывает визуальную информацию, обрабатывает ее и посылает вниз по течению куда-то еще в вашем мозгу, где и рождается субъективное переживание визуального. Вы можете указать, какой квадрат на левой половине рис. 8.4 темнее, а какой светлее — тот, что помечен буквой A, или тот, что помечен буквой B? Квадрат А, правда? А вот и нет, на самом деле оба квадрата одинаково светлые, в чем можно убедиться, рассматривая их через небольшие просветы между пальцами, закрывающими бльшую часть картинки. Это доказывает, что сетчатка не может быть всецело ответственной за ваши визуальные ощущения, иначе оба квадрата выглядели бы одинаково.

А теперь посмотрите на правую половину рисунка. Что вы видите: профили двух женщин или вазу? Если вы всматриваетесь достаточно долго, в вашем сознании будет возникать то один образ, то другой, чередуясь примерно через равные интервалы времени, хотя информация, получаемая вашей сетчаткой, остается все это время одной и той же. Проводя измерения тех процессов, которые происходят в вашем мозгу, когда меняется ощущение, можно выяснить, откуда же берется различие, — и дело явно не в сетчатке, в которой ничего не меняется.

Смертельный удар гипотезе о сознательной сетчатке наносит метод, получивший название «непрерывного подавления мерцанием», который был открыт Кристофом Кохом, Станисласом Деаном и их коллегами: как выяснилось, если одному вашему глазу показывать нечто сложно организованное и быстро меняющееся, то это будет отвлекать ваши системы визуального восприятия до такой степени, что неподвижное изображение, показываемое другому глазу, совершенно не сможет достичь вашего сознания^{106}. Иначе говоря, на вашей сетчатке может находиться изображение, которое не вызывает у вас никаких визуальных ощущений, и в то же время вы можете испытывать визуальные ощущения тогда (например, во сне), когда никакого изображения на вашей сетчатке нет. Это доказывает, что две ваши сетчатки не в большей степени способствуют возникновению у вас визуального сознания, чем видеокамера, хотя в них производятся сложнейшие вычисления с участием более ста миллионов нейронов.

Рис. 8.4

Какая из клеток темнее — А или В? Что вы видите на правой половине рисунка — вазу, силуэты двух женщин или и то и другое по очереди? Иллюзии подобные этим доказывают, что зрительное осознание не может происходить в глазу или где-то в начале вашей зрительной системы, потому что увиденное зависит далеко не только от того, что было на картинке.

Исследователи нейронных коррелятов используют непрерывные подавления мерцанием, неустойчивые визуальные / слуховые иллюзии и другие трюки также и для того, чтобы определить, какие области мозга отвечают за каждое из ваших осознанных ощущений. Основная стратегия заключается в том, чтобы сравнить, что делают ваши нейроны в двух идентичных ситуациях, когда по существу всё (в том числе и сигналы от органов чувств) одно и то же, а осознанные ощущения различаются. Те участки головного мозга, которые в измерениях обнаруживают различное поведение, и определяются как нейронные корреляты сознания.

Такие исследования доказали и то, что никаких следов вашего сознания нет в кишечнике, несмотря на то что там располагается обширная нервная сеть с полумиллиардом нейронов, которые участвуют в вычислениях, как в регуляции переваривания пищи; все же ощущения, вроде чувства голода и тошноты, возникают в мозгу. Аналогичным образом нет никаких признаков сознания и в стволе головного мозга, нижней его части, которая подключается к спинному мозгу и управляет дыханием, сердечным ритмом и артериальным давлением. Самое поразительное, что ваше сознание не зависит, очевидно, и от вашего мозжечка (рис. 8.3), который содержит около двух третей всех нейронов: пациенты с поражениями мозжечка страдают от расстройства речи, а своими неуклюжими движениями они похожи на пьяных, но по-прежнему остаются в полном сознании.

Вопрос о том, какие же части мозга ответственны за возникновение сознания, остается открытым и служит поводом для непрекращающихся споров. Некоторые недавние исследования свидетельствует о том, что ваше сознание проживает главным образом в «горячей зоне», с участием таламуса (примерно в середине вашего мозга) и задней части коры (внешнего слоя мозга, состоящего из скомканного шестислойного листа, который, будучи расправлен, сравнился бы по площади с большой обеденной скатертью)^{107}. Из этого же исследования, как это ни удивительно, следует, что первичная зрительная кора в затылочной части головы отлична от всего, что тут еще есть, тем, что так же бессознательна, как глазные яблоки и сетчатки.

Когда же возникло сознание?

До сих пор мы искали экспериментальные подсказки, которые помогли бы нам распознать, какие типы обработки информации можно считать осознанными и где сознание возникает. Но когда оно возникает? Будучи ребенком, я был уверен, что мы осознаем события в тот же самый миг, как они происходят, абсолютно без какой-либо задержки во времени. И хотя часто мне так кажется и до сих пор, это явно субъективное чувство, которое не может быть правильным, поскольку моему мозгу требуется время, чтобы обработать ту информацию, которая поступает к нему от моих органов чувств. Исследователи нейронных коррелятов тщательно измеряли, сколько именно времени на это требуется, и окончательный итог, подведенный Кристофом Кохом, сводится к тому, что проходит около четверти секунды от момента, когда свет от какого-то сложного объекта проходит через глаз, до тех пор, пока вы осознанно его воспримете таким, каков он есть^{108}. Это означает, что если вы за рулем своего автомобиля едете по шоссе со скоростью в пятьдесят пять миль в час и вдруг видите белку в нескольких метрах перед машиной, то предпринимать что-нибудь уже слишком поздно: вы ее уже переехали!

Таким образом, ваше сознание живет в прошлом, оно отстает от внешнего мира, по оценке Кристофа Коха, примерно на четверть секунды. Любопытно, что вы часто можете среагировать быстрее, чем осознаете, что происходит, и это, между прочим, доказывает, что обработка информации, нужной для самых быстрых реакций, должна быть бессознательной. Например, если к вашему глазу приближается какой-то посторонний предмет, моргательный рефлекс опускает веко в течение всего лишь десятой доли секунды. Все происходит так, как будто одна из систем вашего мозга получает угрожающую информацию от зрительной системы, производит вычисление, показывающее, что вашему глазу грозит опасность получить удар, и сразу шлет мейл мышцам глаза с инструкцией совершить моргание, одновременно информируя другим мейлом часть мозга, заведующую сознанием: «Эй, мы будет моргать!». К моменту получения этого мейла и включения его в ваш сознательный опыт, моргание уже завершилось.

Действительно, система, читающая все эти мейлы, постоянно подвергается бомбардировке сообщениями изо всех частей вашего тела, и некоторые из этих сообщений отстают больше, чем другие. Нервным сигналам от ваших пальцев требуется больше времени, чтобы добраться до мозга, чем нервным сигналам от лица, потому что расстояние от пальцев больше. На анализ изображений у вас уходит больше времени, чем на анализ звуков, потому что это сложнее: именно поэтому старт олимпийской гонке дается гонгом, а не вспышкой. И все же: если вы касаетесь пальцами своего носа, то осознанные ощущения прикосновения пальцев к носу и носа к пальцам возникнут одновременно, а если вы хлопаете в ладоши, то и вид смыкающихся ладоней, и звук хлопка, и ощущение шлепка на коже также родятся в вашем сознании в одно и то же мгновение^{109}. А это означает, что полного сознательного переживания вами события не произойдет до тех пор пока самый последний мейл не прибудет на самой медленной из улиток и не будет проанализирован.

Знаменитая серия NCC-экспериментов, начало которой положил физиолог Бенджамин Либет, показала, что действия, которые можно выполнять бессознательно, не ограничиваются быстрыми реакциями вроде моргания или отбивания ракеткой шарика в пинг-понге, иногда сюда попадают и некоторые решения, принятие которых свидетельствует, можно подумать, о свободе воли — и тем не менее, измерение иногда скажет, какое решение принято, еще прежде, чем вы сами его осознаете^{110}.

Теории сознания

Мы только что убедились, что, хотя мы до сих пор не понимаем, что такое сознание, у нас накопилось удивительно большое количество экспериментальных данных о различных его аспектах. Но все эти данные получены для мозга, — чему они могут нас научить, если говорить о сознании машин? Здесь требуется массированная экстраполяция за пределы нашей нынешней экспериментальной базы. Другими словами, здесь требуется теория.

Почему теория?

Чтобы понять почему, давайте сравним теории сознания с теориями гравитации. Ученые начали серьезно относиться к теории гравитации Ньютона потому, что они получили от нее больше, чем в нее требовалось вложить: простые уравнения, легко умещающиеся на салфетке, могут дать точное предсказание исхода любого эксперимента с силой тяжести, когда-либо проводившегося. Поэтому они так же серьезно отнеслись к его предсказаниям по поводу явлений, далеко выходящих за пределы той области, где теория проверялась, и их самые смелые экстраполяции, как оказалось, подтверждают свою пригодность даже для движения галактик и скоплений в миллионы световых лет в поперечнике. Однако прогнозы чуточку разошлись для движений Меркурия вокруг Солнца. Ученые тогда начали принимать серьезно улучшенную Эйнштейном теорию гравитации, общую теорию относительности, потому что она была, возможно, даже более элегантной и экономичной и к тому же правильно предсказывала те явления, где теория Ньютона оказалось неверной. Они последовательно и серьезно экстраполировали ее предсказания далеко за пределы той области, где ее проверяли, на явления столь экзотические, как черные дыры и гравитационные волны, в самую ткань пространственно-временного континуума и расширения нашей Вселенной, от самого ее рождения в огненном бурлящем вареве — и все со временем подтверждало эксперимент.

Аналогично, если какая-то математическая теория сознания, чьи уравнения уместятся на салфетке, будет давать успешные предсказания для результатов всех тех экспериментов, которые мы проводили со своим мозгом, то мы начнем серьезно относиться не только к самой теории, но и к ее прогнозам относительно сознания вне мозга — например, в машинах.

Сознание в физической перспективе

Хотя некоторые теории сознания возникли еще в глубокой древности, самые современные из них основываются на нейропсихологии и нейробиологии, пытаясь объяснить и предсказать осознанность с точки зрения событий, затрагивающих нейроны и происходящих в мозгу^{111}. Хотя некоторые из этих теорий дали определенные успешные прогнозы для нейронных коррелятов сознания, они не могут делать прогнозы о сознании машин и не стремятся к этому. Чтобы сделать скачок от человеческого мозга к машинам, нам понадобится обобщение нейронных коррелятов сознания — физические корреляты сознания, которые мы определим как устойчивые образования движущихся частиц, обладающие сознанием. Потому что если теория правильно предсказывает, что осознается и что не осознается, апеллируя только к физическим строительным блокам — таким, как элементарные частицы или силовые поля, то такая теория сможет делать предсказания не только для мозга, но и для иначе организованного вещества, включая будущие системы искусственного интеллекта. Поэтому давайте встанем теперь на физическую точку зрения: каким образом должно быть организовано множество частиц, чтобы оно было сознательно?

Но отсюда в действительности немедленно возникает еще один вопрос: каким образом нечто столь сложное, как сознание, может быть построено из чего-то столь простого, как частицы? Я думаю, что так происходит потому, что у самого этого явления имеются свойства, отличные от свойств составляющих его частиц. В физике мы называем такие явления «эмергентными» (от латинского emergo — возникать)^{112}. Давайте попытаемся понять, что это такое, анализируя более простое эмергентное явление, чем сознание, — смачиваемость.

Капля воды смачивает, но этого не может ни кристалл льда, ни облако пара, несмотря на то, что молекулярный состав у них у всех один и тот же. Почему? Потому что свойство смачиваемости зависит только от расположения молекул. Абсолютно бессмысленно говорить, что одна молекула воды может что-то намочить: смачивание происходит только тогда, когда большое количество молекул организовано в нечто такое, что мы называем жидкостью. Поэтому все твердые тела, все жидкости и газы представляют собой эмергентные явления: они больше, чем сумма их частей, потому что имеют свойства, лежащие за пределами свойств последних. У них есть какие-то особенности, которых лишены составляющие их частицы.

Так же как и твердые тела, жидкости и газы, так же, я думаю, и сознание — эмергентное явление, свойства которого лежат за пределами свойств составляющих его частиц. Например, погружение в глубокий сон гасит сознание простой перестановкой частиц. Таким же образом мое сознание исчезнет, если я замерзну до смерти, из-за чего составляющие меня частицы расположатся менее удачным образом.

Когда вы соединяете вместе много частиц, образуя что-то новое, от воды до мозга, возникают и новые явления с наблюдаемыми свойствами. Мы, физики, любим изучать эти возникающие эмергентные свойства, которые часто могут быть идентифицированы с помощью небольшого набора чисел, — и вы можете просто пойти и измерить их: какова у возникшего вещества вязкость, какова сжимаемость и так далее. Например, если вещество оказалось настолько вязким, что даже проявляет жесткость, мы называем его твердым телом, в противном случае мы называем его текучим. И если оно текучее, но несжимаемое, то мы называем его жидкостью, в противном случае это газ или плазма, в зависимости от того, насколько хорошо оно проводит электричество.

Сознание как информация

Так могут ли быть аналогичные количественные характеристики, которые бы квантифицировали сознание? Итальянский нейробиолог Джулио Тонони предложил такую характеристику, которую назвал «интегральной информацией» и обозначил греческой буквой Ф (фи): она указывает, как много различных частей системы знают о существовании друг друга (см. рис. 8.5).

Я впервые встретился с Джулио в 2014 году на конференции по физике в Пуэрто-Рико, куда я пригласил его и Кристофа Коха, и он сразу поразил меня как глубоко ренессансная личность, образованная словно бы смешением Галилео Галилея и Леонардо да Винчи. Его мягкие манеры не могут скрыть его феноменального знания искусства, литературы и философии, а слава о его кулинарных талантах опережает его, куда бы он ни ехал. Один всемирно известный тележурналист однажды рассказывал мне, как Джулио всего за несколько минут соорудил салат, вкуснее которого он в жизни не пробовал. Но я очень быстро понял, что за его мягкими манерами скрывается бесстрашный интеллект, который не побоится следовать за данными, куда бы они ни повели его, независимо от предубеждений и табу истеблишмента. Так же, как Галилей создавал свою математическую теорию движения несмотря на растущее давление со стороны истеблишмента, противящегося отказу от геоцентризма, так и Джулио разработал наиболее точную к настоящему времени математическую теорию сознания, в основе которой его теория интегральной (интегрированной) информации (IIT).

Рис. 8.5

Для данного физического процесса, преобразующего с течением времени начальное состояние системы в какое-то новое состояние, его интегральная информация Ф представляет из себя меру невозможности разделить этот процесс на независимые части. Если состояние каждой части определяется только ее прошлым состоянием и не зависит от того, что происходило с другой частью, то Ф = 0: то есть то, что мы называли системой, вовсе ею не является, а представляет собой две независимые системы, не коммуницирующие друг с другом.

Я уже несколько десятилетий утверждаю, что сознание — это ощущение, возникающее при обработке информации определенным сложным образом^{113}. Теория интегральной информации вполне согласуется с этим утверждением, заменяя мою расплывчатую фразу «определенным сложным образом» более точным определением: обработка информации должна быть интегрированной, то есть Ф должно быть велико. И Джулио приводит аргумент столь же сильный, сколь и простой: сознательная система должна быть интегрирована в единое целое, потому что если она будет состоять из двух независимых частей, то эти две части будут чувствовать себя как две различные сознательные сущности, а не одна единая. Другими словами, если часть мозга или компьютера, ответственная за сознание, не может коммуницировать со всеми остальными, то все остальные части не смогут участвовать в формировании его субъективного опыта.

Джулио и его коллеги измерили упрощенную версию Ф при помощи электроэнцефалографа, определявшего отклик мозга на стимуляцию магнитным полем. Их «детектор сознания» и в самом деле очень хорошо работает: прибор показывал, что пациент в сознании, если он бодрствовал или дремал (находился в состоянии легкого сна со сновидениями), и что пациент без сознания, если он был под наркозом или в состоянии глубокого сна (без сновидений). Прибор даже установил наличие сознания у двух пациентов, страдающих от синдрома «запертого человека», которые не могли ни двигаться, ни общаться каким-либо нормальным способом^{114}. Так что такая технология может оказаться очень перспективной для врачебной практики, чтобы выяснять, какие пациенты находятся в сознании, а какие нет.

Ловля сознания в физике

Теория интегральной информации определена только для дискретных систем, множество состояний которых конечно — это могут быть, например, биты компьютерной памяти или упрощенная модель нейронов, находящихся только в одном из двух состояний: включенном или выключенном, активном или пассивном. К сожалению, это означает, что теорию нельзя применить для большинства традиционных физических систем, параметры которых могут изменяться непрерывно: например, координаты частицы или сила магнитного поля могут принимать любое из бесконечного числа значений^{115}. Если вы будете пытаться применить теорию для таких систем, то получите бесполезный результат, когда Ф равно бесконечности. Квантовая система может быть дискретной, но теория изначально не определена для квантованных систем. Так как же нам заякорить теорию интегральной информации, а также любую другую теорию сознания, использующую теорию информации, на прочном физическом фундаменте?

Мы можем сделать это, основываясь на главе 2, из которой мы узнали о том, как сгустки вещества могут обладать эмергентными свойствами, имеющими отношение к информации. Мы видели, что в качестве устройства, пригодного для хранения информации, может использоваться только нечто такое, у чего есть много долгоживущих состояний. Мы также видели: чтобы быть компьютрониумом, то есть субстанцией, пригодной для проведения расчетов, кроме того, требуется сложная динамика — законы физики должны быть в состоянии заставлять эту субстанцию изменяться достаточно сложным образом, чтобы производить произвольную обработку информации. Наконец, мы видели, что нейронные сети, например, оказываются подходящим субстратом для машинного обучения, потому что, просто подчиняясь законам физики, этот субстрат способен трансформировать себя, все больше и больше приспосабливаясь к проведению нужных вычислений. А теперь мы задаем новый вопрос: что сделает сгусток вещества способным обладать субъективным опытом? Другими словами, при каких условиях сгусток вещества будет в состоянии проделывать следующие четыре вещи:

1 помнить;

2 считать;

3 учиться;

4 накапливать переживания.

Первые три вещи мы изучили в главе 2. Теперь к ним добавилась четвертая. Так же, как Марголус и Тоффоли создали термин компьютрониум для вещества, которое способно выполнять произвольные вычисления, я хотел бы предложить термин сентрониум для абстрактного вещества, которое способно иметь субъективный опыт (от латинского sentio — чувствовать, ощущать)[61].

Но как само сознание может ощущать себя настолько нефизическим, если оно на самом деле — физическое явление? Как может оно чувствовать себя настолько независимым от своего физического субстрата? Я думаю, что так происходит потому, что оно и в самом деле не зависит от своего физического субстрата, служащего ему лишь ложем! Нам уже знакомо много красивых примеров независимости от субстрата, рассмотренных в главе 2. В их числе — волны, воспоминания и вычисления. Мы видели, как во всех этих примерах не просто возникает нечто большее, чем сумма участвующих в явлении частей (то есть эмергентность), но, скорее, независимость явления от своих частей, когда оно начинает жить собственной жизнью. Например, мы видели, что симулированный разум будущего или персонаж компьютерной игры никоим образом не сможет распознать, какая операционная система при этом используется — Windows, Mac OS, Android на телефоне или еще какая-нибудь другая, потому что его функционирование совершенно не будет зависеть от субстрата. Не сможет он распознать, как именно реализованы логические гейты его компьютера — это транзисторы, оптические схемы или какой-то другой «хард». Или какие использовались фундаментальные законы физики — они могут быть какими угодно, лишь бы только позволяли создание универсального компьютера.

В целом, я думаю, сознание — это физическое явление, которое воспринимает себя нефизическим потому, что оно подобно волне и вычислению: его свойства не зависят от его конкретного физического субстрата. Это логически следует из идеи представить сознание как информацию. Такое представление приводит к еще одной радикальной идее, которая мне решительно нравится: если сознание — это ощущение, возникающее при обработке информации определенным образом, то оно обязано быть не зависящим от субстрата — ведь значение имеет структура обработки информации, а не структура того вещества, в котором эта обработка производится. Другими словами, сознание оказывается дважды не зависящим от субстрата!

Как мы видели, физика описывает возмущения пространственно-временного континуума, которые соответствуют движущимся частицам. Когда конгломераты определенным образом организованных частиц подчинены определенным принципам, они порождают явления, которые мы называем эмергентными и которые очень мало зависят от порожденного частицами субстрата, и эти явления совершенно иначе воспринимаются. Яркий пример тому — обработка информации, или компьютрониум. Но теперь мы можем перенести эту идею на новый уровень: если обработка информации ведется в соответствии с определенными принципами, то результатом может оказаться эмергентное явление более высокого уровня, которое мы называем сознанием. Это помещает ваши субъективные переживания не на один, а на два уровня выше материи. Ничего удивительного, ваш дух ощущает себя нефизическим!

Но тогда возникает вопрос: каковы должны быть принципы, следуя которым, обработка информации становится сознанием? Я не претендую на знание всех достаточных условий, гарантирующих сознание, но есть четыре необходимых условия, на которые я делаю ставку и посвящаю им свои исследования:

Как я уже говорил, по-моему, сознание — это то, что испытывает информация, когда обрабатывается определенным образом. А значит, чтобы быть сознательной, система должна иметь возможность хранить и обрабатывать информацию, что подразумевают первые два принципа. Обратите внимание, что память не должна быть долгосрочной: я очень рекомендую посмотреть трогательное видео Клайва Уэринга о человеке, который выглядит совершенно сознательным, даже несмотря на то, что его воспоминания длятся меньше минуты^{116}. Я также думаю, что сознательная система должна быть достаточно независимой от всего остального мира, потому что в противном случае у нее не возникнет субъективного ощущения самостоятельного существования. Наконец, я думаю, что сознательная система должна быть интегрирована в единое целое, как утверждал Джулио Тонони, потому что если бы она состояла из двух независимых частей, то они чувствовали бы себя как две отдельные сознательные сущности, а не одна. Первые три принципа предполагают автономию: система способна хранить и обрабатывать информацию без заметного вмешательства извне, определяя тем самым свое собственное будущее. Все четыре принципа вместе означают, что система как целое автономна, но это не относится ни к одной из ее частей.

Если эти четыре принципа верны, то значит, для нас готова новая работа: нам надо найти строгие математические теории, в которых эти принципы были бы воплощены, и провести их экспериментальную проверку. Нам необходимо также проверить, не нужны ли какие-нибудь дополнительные принципы. Независимо от того, верна ли теория интегральной информации, исследователям надо попытаться разработать конкурирующие теории и проверить их все в самых совершенных экспериментах.

Споры о сознании

Мы уже обсуждали многолетние споры о том, стоит ли заниматься изучением сознания, не оборачивается ли оно с неизбежностью ненаучной чепухой и пустой тратой времени. Вдобавок к этому недавно начались споры на самом переднем крае исследований сознания — давайте изучим те из них, которые я считаю наиболее поучительными.

Теория интегральной информации Джулио Тонони принесла ее автору не только похвалы, но и немало критики, часть которой была весьма ядовитой. Скотт Ааронсон недавно так высказался в своем блоге: «На мой взгляд, тот факт, что теория интегральной информации ошибочна, — причем явно ошибочна, по причинам, прослеживаемым к самому ее ядру, — дает ей право занять место среди лучших 2 % всех математических теорий сознания из когда-либо предложенных. Почти все конкурирующие теории сознания, кажется мне, были настолько расплывчатыми, пустыми и бесформенными, что они могут только мечтать об ошибочности»^{117}. К чести Ааронсона и Тонони надо сказать, что они ни разу не переступили черту дозволенного, когда я видел их во время обсуждения теории интегральной информации на недавнем семинаре в Нью-Йоркском университете: они вежливо выслушивали аргументы друг друга. Ааронсон показал, что у некоторых простых сетей логических гейтов чрезвычайно высокий показатель интегральной информации (Ф), и поскольку они очевидно не обладают сознанием, теория не верна. Тонони возражал, что если бы такие сети были построены, они были бы сознательны, и что утверждение Ааронсона об обратном антропоцентрически предвзято — примерно в той же степени, в какой утверждение хозяина скотобойни по поводу того, что у животных нет сознания, лишь на том основании, что они не могут говорить и совсем не похожи на людей. Мой анализ, с которым они оба согласились, заключался в том, что их разногласия относительно интегральной информации сводятся к тому, является ли интеграция лишь необходимым условием сознания (с чем Ааронсон соглашался), или это также и достаточное условие (на что претендовал Тонони). Последнее безусловно значительно более сильное и спорное утверждение, которое, я надеюсь, скоро можно будет проверить экспериментально^{118}.

Немало споров вызывает и другой вывод теории интегральной информации, в соответствии с которым архитектура сегодняшних компьютеров не может быть сознательной, потому что то, как соединяются их логические гейты, дает слишком низкий уровень интеграции^{119}. Другими словами, если вы в будущем зальетесь в мощного робота, который точно имитирует каждый ваш нейрон и каждый синапс, и даже если этот цифровой клон будет выглядеть, ходить, говорить и вести себя не так как вы, то все равно, как утверждает Тонони, он будет бессознательным зомби без субъективных ощущений, и все ваши попытки найти субъективное бессмертие закончатся чистым разочарованием[62]. Это утверждение было оспорено Дэвидом Чалмерсом и профессором Мюрреем Шанаханом, специалистом в области искусственного интеллекта, которые предложили рассмотреть, что будет происходить, если вы двинетесь в противоположном направлении и будете постепенно заменять нейронные цепи в своем мозгу гипотетическим цифровым оборудованием, идеально их симулирующим^{120}. Хотя, если мы поверим Тонони, замены никак не затронут ваше поведение, поскольку, по предположению, симуляция идеальна, ваши ощущения должны измениться от осознанных в начале к неосознанным в конце. Но что будет происходить в промежутке, по мере того как все больше и больше частей подвергаются замене? Когда части вашего мозга, отвечающие за осознанное восприятие верхней половины поля зрения, будут заменены, заметите ли вы, что часть вашего визуального пейзажа внезапно пропадет, при том что вы таинственным образом все равно знаете, что там происходит, как утверждают пациенты со «слепыми пятнами» в поле зрения^{121}? Это вызвало бы огромные сложности, потому что если вы осознаете разницу, то вы можете сказать о ней своим друзьям, когда они об этом спросят, что противоречило бы предположению об отсутствии каких-либо изменений в вашем поведении. Единственная логически непротиворечивая возможность, совместимая с этим предположением, заключается в том, что в точности в тот самый момент, когда какая-то вещь исчезает из вашего сознания, ваш ум таинственно изменяется либо так, чтобы вынудить вас лгать, отрицая изменения чувственного восприятия, либо так, чтобы вы вдруг сразу забыли, как все выглядело раньше.

С другой стороны, Мюррей Шанахан признает, что то же самое рассуждение, использующее тактику постепенной замены, может быть применено к любой теории, утверждающей, что вы можете действовать сознательно, не будучи в сознании, поэтому возникает большой соблазн сделать вывод, что действовать сознательно и быть в сознании — одно и то же и что поэтому только наблюдаемое извне поведение имеет значение. Но тогда вы попадаете в ловушку: теория заставляет вас принять ее предсказание, что во сне вы должны быть без сознания, даже если вам самому об этом известно лучше.

Третья волна споров, вызванных теорией интегральной информации, поднялась в связи с вопросом, может ли сознательная сущность быть построена из частей, каждая из которых по отдельности тоже сознательна. Например, может ли общество в целом обрести сознание, так чтобы составляющие его люди не лишились своего? Может ли обладающий сознанием мозг состоять из частей, каждая из которых тоже сама по себе обладает сознанием? Теория интегральной информации отвечает категорическим «нет», но это не всех убеждает. Например, некоторые пациенты, у которых повреждения резко снижают возможность взаимодействия между полушариями, страдают от синдрома чужой руки, когда правое полушарие их мозга вынуждает левую руку делать что-то такое, чего они сами не хотят и даже не понимают — иногда до такой степени, что используют другую руку, чтобы удерживать ею «чужую». Как мы можем быть уверены, что в них нет двух отдельных сознаний, одно из которых размещено в правом полушарии, не способном говорить, а другое в левом полушарии, контролирующем речь и утверждающем, что контролирует и оба полушария? Представьте себе будущую технологию, устанавливающую прямую связь между мозгом одного человека и мозгом другого, и представьте себе, что она совершенствуется до тех пор, пока не станет возможной коммуникация между двумя полушариями одного мозга. Наступит ли такой момент, когда два отдельных сознания внезапно исчезнут и вместо них появится одно общее, как предсказывает теория интегральной информации, или переход будет проходить постепенно, так, что индивидуальные сознания будут сосуществовать в каком-то виде и даже формировать совместные переживания?

Еще одна увлекательная дискуссия развернулась вокруг подозрения, что в экспериментах недооценивается истинный уровень нашего осознания. Мы уже видели, что как бы мы ни были уверены в том, что полностью отдаем себе отчет относительно всех свойств окружающих нас предметов — их цвета, формы, взаимного расположения — в то время, когда смотрим на них, эксперименты обнаруживают нашу весьма незначительную способность все их запомнить и потом о них отчитаться^{122}. Некоторые исследователи пытались устранить это несоответствие, предполагая, что иногда у нас может быть «сознание без доступа», то есть субъективное восприятие вещей, которые оказываются слишком сложными для сознания, чтобы вписаться в рабочую память и использоваться в дальнейшем^{123}. Например, когда у вас случается «слепота от невнимательности»: вы слишком отвлечены на другое, чтобы заметить предмет, который лежит прямо перед вами на виду, это вовсе не означает, что у вас нет осознанного визуального восприятия, просто образ этого предмета не сохранился в вашей рабочей памяти^{124}. Не следует ли отнестись к этому скорее как к забывчивости, а не как к слепоте? Другие исследователи не согласны с тем, что мы можем не доверять рассказам людей об их чувственном опыте, предупреждая о последствиях такого недоверия. Мюррей Шанахан смоделировал клиническое расследование, в ходе которого пациенты сообщают о полном избавлении от боли благодаря новому чудо-лекарству, которое, тем не менее, отклоняется правительственной комиссией: «Пациентам только кажется, что им не больно. Благодаря достижениям нейробиологии мы знаем лучше»^{125}. Но с другой стороны, известны случаи, когда пациенты случайно просыпались во время операции и им давали сильнодействующие препараты, чтобы заставить забыть о пережитом. Должны ли мы и в этом случае доверять их сообщениям, что они не испытывали никакой боли^{126}?

Что может чувствовать искусственный интеллект, обладая сознанием?

Если какая-то будущая система с искусственным интеллектом окажется обладающей сознанием, каковы могут быть ее субъективные переживания? В этом вопросе суть «еще более трудной проблемы» сознания, и это заставляет нас переместиться на второй уровень сложности (рис. 8.1). Мы не просто лишены в настоящее время какой-либо теории, позволяющей ответить на этот вопрос, но мы вообще не уверены в существовании логической возможности полностью на него ответить. В конце концов, как мог бы звучать удовлетворительный ответ? Как вы объясните слепому от рождения человеку, на что похож красный цвет?

К счастью, наша нынешняя неспособность дать полный ответ не мешает нам давать частичные ответы. Разумные инопланетяне, изучая органы чувств человека, придут, вероятно, к заключению, что цвета — это такие квалиа, которые воспринимаются связанными с каждой точкой на плоской поверхности (нашего поля зрения), в то время как звуки не воспринимаются пространственно локализованными, а боль — это квалиа, которая воспринимается привязанной к определенным частям нашего тела. Открыв, что на нашей сетчатке располагаются три типа светочувствительных колбочек, они могут прийти к заключению, что мы воспринимаем только три основных цвета и что все другие цветовые квалиа возникают в результате их сочетания. Измерив, сколько времени требуется нейронам для передачи информации через мозг, они могут заключить, что мы способны переживать не более десяти осознанных мыслей или чувственных переживаний в секунду и что, когда мы смотрим по телевизору фильмы, кадры которых сменяют друг друга по 24 раза в секунду, мы не видим каждый кадр в отдельности как неподвижную картинку, но складываем их в непрерывное движение. Измерив скорость выделения адреналина у нас в крови и время, которое он способен оставаться там не разлагаясь, они могли предсказать, что мы способны за считанные секунды впадать в гнев, испытывая приступы длительностью в несколько минут.

При помощи аналогичных, основанных на физике соображений мы можем построить некоторые ученые догадки относительно определенных аспектов самочувствия искусственного сознания. Прежде всего, пространство возможных переживаний искусственного интеллекта несопоставимо огромно в сравнении с тем, что можем испытывать мы, люди. У нас есть по одному классу квалиа для каждого из наших чувств, а у искусственного интеллекта может быть значительно больше типов датчиков и способов внутреннего представления информации, поэтому мы не должны попадать в ловушку, предполагая, что чувствовать себя искусственным интеллектом — это примерно то же самое, что чувствовать себя человеком.

Во-вторых, искусственное сознание, упакованное в коробочку размером с мозг человека, может испытывать в миллионы раз больше переживаний в секунду, чем мы, так как электромагнитные сигналы распространяются со скоростью света, — то есть в миллионы раз быстрее, чем распространяются сигналы вдоль нейронов. Однако чем больше искусственный интеллект, тем медленнее должны быть его глобальные мысли, чтобы информации хватило времени достичь каждой из его частей, как мы видели в главе 4. Поэтому мы ожидаем, что у искусственного интеллекта «Gaia» размером с Землю будет только около десяти осмысленных переживаний в секунду, как у человека, а искусственный интеллект размером с галактику может пронзить лишь одна глобальная мысль в 100 000 лет, — то есть не более сотни переживаний за все время существования нашей Вселенной до настоящего времени! Поэтому, казалось бы, у большого искусственного интеллекта должен быть мощный стимул делегировать вычисления маленьким подсистемам, способным выполнять их, чтобы не терять времени, — подобно тому, как наше сознание делегировало моргательный рефлекс в маленькую подсистему, быструю и бессознательную. Хотя мы уже видели, что сознательная обработка информации в нашем мозгу — это всего лишь верхушка нашего в общем-то бессознательного айсберга, мы должны ожидать еще бльших крайностей у больших интеллектуальных систем будущего: представляя собой единое сознание, они, вероятно, должны будут оставить без внимания почти всю обработку информации, происходящую внутри них. Кроме того, хотя осознанные переживания, которые испытывает такая система, могут быть чрезвычайно сложными, они при этом развиваются черепашьими шагами в сравнении с быстрой деятельностью ее меньших частей.

Неудивительно, что в голову в связи с этим приходит упоминавшаяся выше полемика по поводу того, могут ли части сознательной сущности также обладать сознанием. Теория интегральной информации отрицает такую возможность, и это означает, что если какая-то будущая астрономически большая система с искусственным интеллектом будет обладать сознанием, то почти вся обработка информации внутри нее будет проодить бессознательно. Отсюда следует, что если цивилизация меньших сущностей с искусственным интеллектом в процессе улучшения своих коммуникативных способностей придет к точке, когда возникает единый коллективный обладающий сознанием ум, каждое из их намного более быстрых индивидуальных сознаний внезапно угаснет. Если предсказание теории интегральной информации ошибочно, то, с другой стороны, коллективный разум сможет сосуществовать с целой армией обладающих сознанием меньших умов. Тогда мы даже можем себе представить иерархию вложенных друг в друга сознаний всех уровней, от микроскопического до космического.

Как мы видели выше, бессознательная обработка информации в нашем человеческом мозгу представляется связанной с легким, быстрым и автоматическим способом мышления, что психологи называют «системой 1»^{127}. Например, система 1 может сообщить вашему сознанию, что проведенный ею сложный анализ визуальной информации, полученной от органов чувств, выявил в приближающемся человеке вашего лучшего друга. При этом она никоим образом не сообщает, какие вычисления ею проводились. Если такая связь между системами и сознанием подтвердится, то возникнет соблазн распространить эту терминологию на искусственный интеллект, называя системой 1 все быстрые рутинные задачи, делегированные бессознательным модулям. Трудоемкая, медленная, требующая усилий и глобального контроля со стороны всего искусственного интеллекта — это система 2. У нас, людей, также есть осознанные переживания, связанные с тем, что я называю «системой 0»: никак не обрабатываемое пассивное восприятие происходит вокруг вас, когда вы сидите не двигаясь и даже не думаете, а просто наблюдаете. Системы 0, 1 и 2 кажутся непрерывно усложняющимися, и даже поразительно, что только та, что посередине, представляется бессознательной. Теория интегральной информации объясняет это тем, что пассивная сенсорная информация в системе 0 хранится в решетчатых структурах с очень высокой интеграцией, в то время как система 2 имеет высокий уровень интеграции из-за петель обратной связи, где вся информация, которой вы располагаете сейчас, может повлиять на будущие состояния вашего мозга. С другой стороны, именно предсказание сознания в решетчатых структурах вызвало критику Скотта Ааронсона в эпизодах, о которых шла речь выше. Подводя итог, можно сказать, что если теория, дающая решение довольно трудной проблемы сознания, сможет в один прекрасный день пройти через строй строгих экспериментальных проверок так, что мы начнем серьезно относиться к ее предсказаниям, то тем самым будет значительно сужен круг возможных вариантов решения еще более сложной проблемы — относительно того, что может испытывать в будущем обладающий сознанием искусственный интеллект.

Некоторые аспекты нашего субъективного опыта позволяют проследить весь путь нашей эволюции, например связать наши эмоциональные порывы с требованиями самосохранения (потребность в еде и питье, уклонение от опасности быть убитым) и размножения. Это означает, что, вероятно, возможно создать такой искусственный интеллект, которому не знакомы такие квалиа, как голод, жажда, страх или сексуальное влечение. Как мы видели в предыдущей главе, если очень умный искусственный интеллект запрограммирован так, чтобы он стремился к достижению практически любой достаточно амбициозной цели, для него весьма вероятно и стремление к самосохранению — для того, чтобы иметь возможность этих целей достигать. Если искусственный интеллект существует в сообществе аналогичных систем, у них может отсутствовать присущий человеку сильный страх смерти: делая регулярные резервные копии, максимум, что они могут потерять, это содержимое памяти, накопленное с момента последнего резервного копирования, при условии, что сохраненные копии пойдут в дело. Кроме того, возможность легко копировать информацию и программное обеспечение между различными системами искусственного интеллекта, вероятно, снизит остроту чувства индивидуальности, так свойственного нашему человеческому сознанию: между мной и вами было бы меньше различий, если бы мы могли легко делиться своими воспоминаниями и копировать свои способности, поэтому группа связанных друг с другом интеллектуальных систем может чувствовать себя единым организмом с коллективным разумом.

Будет ли искусственное сознание считать, что обладает свободой воли? Обратите внимание, что, хотя философы потратили тысячелетия на препирательства на тему, есть ли у нас свобода воли, и не приблизились к согласию даже по поводу того, как правильно поставить вопрос^{128}, я ставлю другой вопрос, на который, полагаю, значительно легче ответить. Позвольте мне попытаться убедить вас, что ответ на него прост: «Да, всякий, кто сознательно принимает решения, субъективно чувствует, что обладает свободой воли, независимо от его биологического или искусственного происхождения». Спектр решений заполняет промежуток между двумя крайностями:

1) Вы знаете точно, почему делаете именно этот выбор.

2) Вы не знаете, почему сделали именно такой выбор — кажется, это был просто случайный каприз.

Дискуссии по поводу свободы воли обычно вращаются вокруг попыток примирить наше поведение, нацеленное на принятие некоторых решений для достижения определенных целей, с законами физики. И если вам надо выбрать одно из двух приведенных ниже объяснений ваших поступков, то какое из них правильное: «Я пригласил ее на свидание, потому что она действительно мне нравится» или «Элементарные частицы, из которых состоит мое тело, вынудили сделать это, двигаясь в соответствии с законами физики»? Но в предыдущей главе мы уже увидели, что годятся оба: то, что ощущается как целенаправленное поведение, может возникать из не знающих целей детерминистских законов физики. Говоря более конкретно, когда какая-то система (головной мозг или искусственный интеллект) принимает решение типа 1, она вычисляет его, используя некоторый детерминистский алгоритм, и причина, по которой она чувствует, что приняла решение, заключается в том, что она и в самом деле приняла решение, когда производила вычисления. Кроме того, как подчеркивал Сет Ллойд^{129}, в информатике есть знаменитая теорема, которая утверждает, что почти для всех вычислений не существует более быстрого способа определить их результат, чем просто провести эти вычисления. А значит, вы обычно не можете узнать, что вы решите делать через секунду, быстрее, чем через секунду, и это помогает вам укрепить свою уверенность в свободе своей воли. Напротив, когда система (головной мозг или искусственный интеллект) принимает решение типа 2, она просто приходит к мнению, что надо основывать его на результате вычислений в какой-то подсистеме, которая в данном случае действует как генератор случайных чисел. И в мозгу, и в компьютере эффективная замена случайным числам легко создается путем усиления шума. Независимо от того, на какую часть спектра между типом 1 и типом 2 приходится решение, как биологическое, так и искусственное сознание придут к заключению, что их воля свободна: они чувствуют, что это именно они принимают решение, и они не в состоянии предсказать с уверенностью, каким оно будет, до того момента, пока не закончат его продумывать.

Некоторые люди говорят мне, что причинность их унижает, что она лишает смысла их мыслительные процессы и превращает их «просто» в машины. Я нахожу эти жалобы необоснованными и абсурдными. Во-первых, нет ничего «простого» в человеческом мозге, который, насколько я могу судить, представляет собой наиболее сложный тип физического объекта в нашей Вселенной. Во-вторых, какие альтернативы они бы предпочли? Неужели они хотят, чтобы решения принимались их собственными мыслительными процессами (вычислениями, выполняемыми в их мозгу)? Их субъективное ощущение свободы воли — это именно то, как их вычисления ощущаются изнутри: они не знают результата вычислений до тех пор, пока вычисление не завершено. То есть это то же самое, что сказать: вычисление и есть решение.

Смысл

Давайте вернемся к исходной точке этой книги: каким бы вы хотели видеть будущее жизни? В предыдущей главе вы рассмотрели, как различные культуры по всему миру стремятся к будущему полному положительных ощущений, но в поисках определения, что же считать положительным и как согласовать все то, что было бы полезно для разных форм жизни, возникают жесточайшие споры. Давайте же не позволим всем этим спорам отвлекать нас от слона в комнате: не может быть никаких положительных ощущений, когда нет никаких ощущений вовсе, то есть когда нет никакого сознания. Другими словами, без сознания не будет ни счастья, ни добра, ни красоты, ни смысла или цели — только пропащее астрономическое пространство. А значит, когда люди спрашивают о смысле жизни так, словно это дело космоса — сообщать смысл нашему существованию, они выворачивают суть наизнанку: не наша Вселенная сообщает смысл сознательным существам, но сознательные существа сообщают смысл нашей Вселенной. А значит, первым пунктом в нашем списке благих пожеланий на будущее должно стоять сохранение (а по возможности и расширение) биологического и/или искусственного сознания в нашем космосе, а не борьба за его истребление.

Если мы преуспеем в этом деле, то как мы, люди, будем чувствовать себя в условиях сосуществования со все более умными машинами? Прогресс искусственного интеллекта, представляющийся неумолимым, беспокоит ли он вас, и если да, то почему? В главе 3 мы видели, как относительно легко может вооруженная искусственным интеллектом технология удовлетворить большинство базовых нужд, касающихся дохода и безопасности, при наличии на то политической воли. Однако быть хорошо накормленным и одетым, иметь уютное жилище и возможность предаваться развлечениям — это еще не все. Если нам будет гарантировано, что искусственный интеллект позаботится обо всех наших практических нуждах и пожеланиях, не будем ли мы, тем не менее, страдать от отсутствия смысла и цели в нашей жизни, как ухоженные животные в зоопарке?

Для нас, людей, типично исходить в своей самооценке из идеи человеческой исключительности, из представления о том, что мы — самые умные существа на планете и оттого уникальные и превосходные. Появление искусственного интеллекта вынудит нас отказаться от этой мысли и стать поскромнее. Но, наверное, нам придется это сделать в любом случае: в конце концов, высокомерная уверенность в своем превосходстве над другими (личностями, этническими группами, биологическими видами) уже приводила к ужасным проблемам в прошлом, и пришла пора от нее отказаться. В самом деле, идея человеческой исключительности не только становилась причиной бед, но и кажется совершенно ненужной для процветания: если нам суждено открыть мирную внеземную цивилизацию, далеко превзошедшую нас в науках, искусствах и во всем остальном, что для нас важно, это, наверное, не сможет помешать людям продолжать находить в своих жизнях смысл и ставить перед собой цели. Мы можем сохранять верность своим семьям, друзьям и более многочисленным сообществам и продолжать заниматься всеми теми делами, которыми считали нужным и важным заниматься и раньше, не потеряв ничего, кроме своей заносчивости.

Планируя наше будущее, давайте подумаем о смысле не только для своих жизней, но и для самой Вселенной. В этом отношении два моих любимых физика, Стивен Вайнберг и Фримен Дайсон, представляют два диаметрально противоположных взгляда. Стало знаменитым высказывание Вайнберга, удостоенного Нобелевской премии за важнейший вклад в создание стандартной модели элементарных частиц: «Чем лучше мы понимаем Вселенную, тем бессмысленнее она кажется»^{130}. Дайсон, со своей стороны, гораздо оптимистичнее, как мы могли убедиться в главе 6: хотя он тоже считает, что Вселенная была бессмысленной, она стала все больше и больше наполняться смыслом с возникновением жизни, но вершина осмысленности все еще впереди — когда жизнь сможет распространиться в космосе. Он закончил свою программную статью 1979 года так: «Какая из Вселенных, моя или Вайнберга, ближе к истине? Когда-нибудь, и не так уж не скоро, мы узнаем»^{131}. Если когда-нибудь наша Вселенная навсегда вернется к своему бессознательному состоянию из-за того, что мы истребим жизнь на Земле, или из-за того, что мы позволим бессознательным зомби с искусственным интеллектом захватить нашу Вселенную, то Вайнберг возьмет верх окончательно и бесповоротно.

С этой точки зрения, хотя наше внимание в этой книге по большей части было обращено к будущему разума, будущее сознания куда как более важно, потому что это то, что создает смыслы. Когда речь заходит об этом различии, философы любят переходить на латынь, противопоставляя sapientia (способность разумно мыслить) и sentientia (способность к субъективному восприятию квалиа). Мы, люди, выстроили свою идентичность на идее принадлежности к виду Homo sapiens — самых разумных существ в природе. Сейчас мы готовимся к встрече с более разумными машинами и потому должны быть скромнее. Я предлагаю людям пройти ребрендинг и стать Homo sentiens.

Подведение итогов

• Нет общепринятого и не вызывающего споров определения сознания. Я использую достаточно широкое и не антропоцентрическое: сознание = субъективные переживания.

• Сознательны ли системы искусственного интеллекта в этом смысле — это принципиально важно для ответа на самые острые вопросы, возникающие в связи с развитием искусственного интеллекта вообще. Могут ли такие системы страдать? Могут ли они иметь права? Не окажется ли заливка человеческого разума в компьютерную память самоубийством? Не станет ли космос будущего, кишащий системами искусственного интеллекта, зомби-апокалипсисом?

• Проблема понимания разума не должна смешиваться с тремя различными проблемами понимания сознания: «довольно трудной проблемой» определения, какая физическая система обладает сознанием, «еще более трудной проблемой» предсказания квалиа и «по-настоящему трудной проблемой» — почему что-то вообще оказывается сознательным.

• «Довольно трудная проблема» научна, так как теория, предсказывающая, какие из процессов, протекающих у вас в мозгу, вами осознаются, может быть проверена экспериментально и фальсифицирована, притом что пока остается неясным, как наука может разрешить две более сложные проблемы.

• Нейробиологические эксперименты показывают, что многие действия и связанные с ними области мозга не осознаются, а бльшая часть наших осознанных переживаний складывается из апостериорного суммирования значительного количества бессознательной информации.

• Для того чтобы предсказывать появление сознания у машин, требуется теория. Сознание, по-видимому, связано не с какой-то особой разновидностью полей или частиц, а с особой разновидностью информационных процессов, в большой степени автономных и интегральных, так что вся система в целом автономна, но каждая ее часть в отдельности — нет.

• Сознание ощущается исключительно нефизическим потому, что оказывается дважды независимым от субстрата: если сознание — это самоощущение, возникающее при обработке информации определенным образом, то значение имеет только структура собственно информационного процесса, но не структура вещества, обеспечивающего этот процесс.

• Если искусственное сознание возможно, то пространство возможных переживаний искусственного интеллекта в сравнении с человеческим должно быть несопоставимо велико, охватывая широчайший спектр квалиа и временных масштабов — включая ощущение свободы воли.

• Поскольку без сознания невозможен никакой смысл, то не наша Вселенная дает смысл сознающим существам, а сознающие существа дают смысл нашей Вселенной.

• Так как людям предстоит уступить место умнейших существ во Вселеной машинам, мы должны свыкнуться с новой ролью — Homo sentiens, а не Homo sapiens.

Итак, мой дорогой читатель, мы добрались до конца книги, изучив происхождение и судьбы разума, целей и смысла. Так как же воплотить эти идеи в действия? Что конкретно мы должны сделать, чтобы наше будущее было как можно лучше? Именно этот вопрос я задаю себе прямо сейчас, сидя у окна, по пути из Сан-Франциско в Бостон 9 января 2017 года, возвращаясь с конференции по искусственному интеллекту, которую мы только что провели в Асиломаре, поэтому позвольте мне закончить эту книгу, делясь с вами своими впечатлениями.

Мейя задремала в соседнем кресле, утомленная бессонными ночами, наполненными хлопотами и приготовлениями. О, что за неделька это была! Нам удалось на несколько дней собрать вместе на сиквел в Пуэрто-Рико почти всех, упоминавшихся в этой книге, включая Илона Маска, Ларри Пейджа, ведущих исследователей по искусственному интеллекту из университетов и компаний, таких как DeepMind, Google, Facebook, Apple, IBM, Microsoft и Baidu, а также многих экономистов, юристов, философов и других блестящих мыслителей (см. рис. 9.1). Результат превзошел мои самые смелые ожидания, и я пребываю на вершине оптимизма, какого не знал долгое время, по поводу будущего жизни. Здесь, в эпилоге, я хочу объяснить вам почему.

Рождение FLI

С тех пор как в возрасте четырнадцати лет я узнал о гонке ядерных вооружений, меня тревожило, что мощь наших технологий растет быстрее, чем мудрость, с которой мы управляем ими. Поэтому я решил вставить главу об этой проблеме в мою первую книгу Our Mathematical Universe, несмотря на то, что в основном она была о физике. К началу 2014 года я дал новогоднее обещание, что больше не стану жаловаться ни на что, не подумав сначала самым серьезном образом над тем, как лично я могу что-то сделать ради исправления ситуации, и я держал свое обещание, пока ездил, представляя книгу, на протяжении всего января: мы с Мейей провели в это время не один мозговой штурм, решая, как нам создать некоммерческую организацию, служащую для всемерного улучшения будущего жизни путем адекватного управления технологической средой.

Мейя настаивала на том, что мы должны дать этой организации какое-то оптимистическое название, как можно больше отличающееся от чего-нибудь вроде «Институт кошмара и ужаса» или «Давайте побеспокоимся о будущем». Так как название «Институт будущего человечества» было уже занято, мы сошлись на «Институте будущего жизни» (Future of Life Institute, FLI), у которого было дополнительное преимущество, заключающееся в возможности расширительных толкований. 22 января мы должны были проводить презентацию книги в Санта-Крузе, и во время ужина с нашим старым другом Энтони Агирре, глядя, как калифорнийское солнце опускается в Тихий океан, мы уговорили его объединить наши силы. Он не только один из умнейших людей, кого я знаю, и всегда полон идей, но у него уже есть опыт ведения дел одной из некоммерческих организаций, Института основополагающих вопросов (Foundational Questions Institute, http://fqxi.org), созданного нами более десятилетия назад.

На следующей неделе тот же тур привел меня в Лондон. Поскольку будущее искусственного интеллекта владело моим сознанием, я связался с Демисом Хассабисом, который любезно пригласил меня посетить штаб-квартиру DeepMind. Я был потрясен, увидев, насколько они выросли с того времени, как посещали меня в MIT двумя годами раньше. Google только что купил их за 650 миллионов долларов, и, оценивая впечатляющий интеллектуальный пейзаж их офиса, наполненного самыми блестящими умами, которые устремились к дерзкой цели Хассабиса «разрешить задачу разума», я преисполнился висцеральным предчувствием реально возможного успеха.

Следующим вечером я говорил со своим другом Яаном Таллином по Skype, созданному при его участии. Я объяснял ему задачи FLI, а час спустя он решил дать нам шанс, вкладывая в наш фонд по 100 000 долларов ежегодно! Ничто не трогает меня больше, чем доверие, оказываемое мне в пределах, которых я, как мне кажется, не заслужил. И мне было особенно приятно, когда год спустя, на конференции в Пуэрто-Рико, о которой шла речь в главе 1, он пошутил, что никогда еще не делал таких удачных инвестиций.

Следующий день мой издатель оставил свободным, и я решил посвятить его посещению Лондонского музея науки. Будучи так долго одержим идеей прошлого и будущего разума, я вдруг оказался посреди физических иллюстраций своих мыслей. Они собрали фантастическую коллекцию, свидетельствующую о росте нашего знания, от паровоза «Ракета» Роберта Стефенсона до автомобиля Форд-Т, копии в натуральную величину лунного посадочного модуля Аполлона11 и компьютеров — от разностной машины Чарльза Бэббиджа до современных моделей. Здесь были представлены также эксперименты, посвященные выяснению природы разума: и реплика опыта Гальвани с лягушачьими лапками, и электроэнцефалограф, и оборудование для функциональной магнитно-резонансной томографии.

Рис. 9.1

Наша конференция в Асиломаре стала сиквелом пуэрто-риканской. Она проходила в январе 2017 года и собрала вместе многих исследователей искусственного интеллекта и представителей других, смежных с этой, исследовательских областей. В верхнем ряду стоят слева направо: Патрик Лин, Дэниел Вельд, Эриел Конн, Нэнси Чан, Том Митчел, Рэй Курцвейл, Дэниел Дьюи, Маргарет Боден, Питер Норвиг, Ник Хэй, Моше Варди, Скотт Зискинд, Ник Бострём, Франческа Росси, Шейн Легг, Мануэла Велозо, Дэвид Марбл, Катья Грейс, Ираклий Беридзе, Марти Тененбаум, Жиль Пратт, Мартин Рис, Джошуа Грин, Мэтт Шэрер, Энджела Кейн, Амара Анхелика, Джефф Мор, Мустафа Сулейман, Стив Омохундро, Кейт Кроуфорд, Виталик Бутерин, Ютака Мацуо, Стефано Эрмон, Майкл Веллман, Бас Стойнебринк, Вендель Валлах, Аллен Дафо, Тоби Орд, Томас Диттерих, Дэниел Канеман, Дарио Амодей, Эрик Дрекслер, Томазо Поджо, Эрик Шмидт, Педро Ортега, Дэвил Лик, Шон О’х Эйгертейг, Оувейн Эванс, Яан Таллин, Анка Драган, Шон Легассик, Тоби Уолш, Питер Асаро, Кей Фирт-Баттерфилд, Филип Сабеш, Пол Меройа, Барт Зельман, Такер Дэви,? Джейкоб Стейнхардт, Моше Лукс, Джош Тененбаум, Том Грубер, Эндрю Ын, Карэм Аюб, Крейг Кэлхун, Перси Лян, Хелен Тонер, Дэвид Чалмерс, Ричард Саттон, Клаудиа Пассос-Феррейра, Янош Крамар, Уильям Макаскил, Элиезер Юдковски, Брайан Цибарт, Хью Прайс, Карл Шульман, Нил Лоренс, Ричард Маллах, Юрген Шмидхубер, Дилип Джордж, Джонатан Ротберг, Ноа Ротберг; В переднем ряду: Энтони Агирре, Соня Закс, Лукас Перри, Джеффри Закс, Винцент Коницер, Стив Гуз, Виктория Краковна, Оуэн Коттон-Барратт, Даниела Рус, Дилан Хадфилд-Менель, Верити Хардинг, Шивон Зилис, Лоран Орсо, Рамана Кумар, Нейт Соареш, Эндрю Макафи, Джек Кларк, Анна Саламон, Лун Оуян, Эндрю Крич, Пол Кристиано, Иошуа Бенджо, Дэвид Сэнфорд, Катрин Олссон, Джессика Тэйлор, Мартина Кунц, Кристинн Ториссон, Стюарт Армстронг, Янн Лекюн, Александр Тамас, Роман Ямпольский, Марин Солачич, Лоуренс Краусс, Стюарт Рассел, Эрик Бриньоулфссон, Райан Кало, Сяолань Сюэ, Мейя Чита-Тегмарк, Кент Уокер, Хизер Рофф, Мередит Уиттейкер, Макс Тегмарк, Адриан Веллер, Хосе Эрнандес-Оральо, Эндрю Майнард, Джон Херинг, Абрам Демски, Николас Берггруен, Грегори Боннет, Сэм Харрис, Тим Хван, Эндрю Снайдер-Бити, Марта Халина, Себастьян Фаркар, Стивен Кейв, Ян Лейке, Таша Мак-Коли, Джозеф Гордон-Левитт.

Позже также прибыли: Гуру Банавар, Демис Хассабис, Рао Кабхампати, Илон Маск, Ларри Пейдж, Энтони Ромеро.

Я очень редко плачу, но, выходя из музея, я не мог сдержаться, и уже в метро, двигаясь по туннелю, полному пешеходов, к станции Южнй Кенсингтон, я не мог остановиться. Мимо шли люди, спешившие по своим делам, в блаженном неведении о том, чем были наполнены мои мысли. Сначала мы, люди, обнаружили, как можно скопировать некоторые естественные процессы при помощи машин, создавая свой собственный ветер и молнии и свою собственную механическую лошадиную силу. Постепенно мы начали понимать, что наши тела — это тоже машины. А потом открытие нервных клеток положило начало размыванию грани между телом и разумом. Тогда мы начали строить машины, которые могли бы превзойти нас не только по части мускулатуры, но и по части разума. И поэтому параллельно с постижением собственной природы мы неизбежно устареваем? В этом есть что-то, наполненное поэзией трагедии.

Эта мысль пугала меня, но в то же время укрепляла в стремлении следовать своему новогоднему обету. Я чувствовал, что в нашей команде не хватает еще одного члена, который мог бы возглавить компанию волонтеров-идеалистов. Логичным образом выбор пал на Викторию Краковну, блестящую магистрантку из Гарварда, только что получившую серебряную медаль на Международной олимпиаде по математике и основавшую Цитадель, которая объединила дюжину юных идеалистов, мечтающих играть более важную роль не только в своей собственной жизни, но и в жизни всего мира. Мы пригласили ее к себе пять дней спустя и рассказали о наших планах. И прежде, чем наши суши пришли к финишу, FLI был рожден.

Пуэрто-риканское приключение

Рождение института было ознаменовано началом удивительного приключения, которое продолжается до сих пор. Как уже рассказывалось в главе 1, мы стали регулярно собирать у себя дома по несколько десятков идеалистически настроенных студентов, профессоров и других мыслящих людей из числа наших соседей. Лучшие идеи становились проектами — первым среди них была та самом колонка об искусственном интеллекте, написанная вместе со Стивеном Хокингом, Стюартом Расселом и Фрэнком Вильчеком, о которой я рассказал в главе 1 и которая помогла разжечь публичные дебаты. Параллельно с первыми шагами, необходимыми при создании новой организации (регистрация, найм консультантов и запуск веб-сайта), мы провели веселую презентацию, посвященную рождению института, в переполненной аудитории MIT, в ходе которой Алан Алда побеседовал о технологиях будущего с ведущими экспертами.

Рис. 9.2

Яан Таллин, Энтони Агирре, ваш покорный слуга, Мейя Чита-Тегмар и Виктория Краковна отмечают создание FLI 23 мая 2014 года.

Всю остальную часть года мы посвятили организации конференции в Пуэрто-Рико, которая, как говорилось в главе 1, ставила своей целью привлечение ведущих мировых экспертов в области искусственного интеллекта к дискуссии о том, как обеспечить его дружественность. Мы стремились главным образом к тому, чтобы в разговорах о безопасности центр тяжести был перенесен с предупреждений об угрозах на привлечение к работе: надо было прекращать пререкаться о том, по какому поводу следует больше всего беспокоиться, и искать области общего согласия, дающие возможности объединять усилия в конкретных исследовательских проектах, в которых шанс положительного результата был бы максимален. Для начала мы собирали наиболее перспективные идеи в исследованиях безопасности искусственного интеллекта по всему миру и просили наше сообщество присылать нам свои отклики на те из них, которые мы включали в наш растущий список. С помощью Стюарта Рассела и группы молодых трудолюбивых волонтеров, среди которых выделились Дэниел Дьюи, Янош Крамар и Ричард Маллах, мы определили среди них исследовательские приоритеты, собрав их в отдельный документ, который вынесли на обсуждение в ходе пленарного заседание конференции^{132}. Достигнув общего согласия относительно наиболее ценных, достойных проведения исследований, мы надеялись поощрить людей к тому, чтобы действительно провести такие исследования. Особенно желательным было бы для нас, если бы нам удалось убедить кого-нибудь поддерживать такие исследования финансово, так как пока у нас не было фактически никакой поддержки со стороны правительственных финансовых учреждений.

Появился Илон Маск. 2 августа наши радары засекли его знаменитый твит «Стоит почитать Бострёма о сверхразуме. Нам надо быть предельно острожными в отношении искусственного интеллекта. Потенциально эта штука опаснее бомбы». Я связался с ним, чтобы рассказать о наших усилиях, а через несколько недель мне довелось поговорить с ним по телефону еще раз. Хотя я очень нервничал и его звездность меня подавляла, результат оказался потрясающим: он согласился войти в научный совет FLI, принять участие в нашей конференции и даже, может быть, профинансировать первую исследовательскую программу, посвященную проблемам безопасности искусственного интеллекта, запуск которой планировалось анонсировать на пуэрто-риканской конференции. Это наэлектризовало всех в институте, мы удвоили наши усилия, чтобы провести достойную конференцию, выявить на ней актуальные исследовательские направления и выстроить поддерживающее их сообщество.

В конце концов я встретился с Илоном Маском и лично, когда он два месяца спустя приехал в MIT для участия в симпозиуме по космонавтике. Очень странно было оказаться с ним лицом к лицу наедине в маленькой зеленой комнате всего через несколько мгновений после того, как он, словно рок-звезда, стоял, окруженной тысячами завывающих от восторга студентов MIT, но прошло еще несколько минут, и я уже не мог думать ни о чем, кроме нашего совместного проекта. Он мне сразу понравился. Я чувствовал излучаемую им искренность и был вдохновлен его неподдельной заботой о долгосрочном будущем человечества, а также тем, как решительно он превращал свои устремления в конкретные дела. Он хотел, чтобы люди продолжали исследовать Вселенную и осваивать ее. Поэтому он создал космическую компанию. Он поддерживал идею возобновляемой энергии, и поэтому начал производство солнечных батарей и электромобилей. Высокий, привлекательный внешне, красноречивый и невероятно просвещенный — совсем не удивительно, почему его так внимательно слушают.