Как работает мозг Пинкер Стивен

В поисках признаков интеллектуальной жизни во вселенной

«В поисках признаков интеллектуальной жизни во Вселенной» – название постановки комедийной актрисы Лили Томлин, в которой предметом рассмотрения становятся человеческие слабости и глупости. Название пьесы – это игра слов, основанная на двух значениях слова «интеллект» (англ, intelligence): сообразительность (как в известной шутке: интеллект – это «то, что измеряют с помощью теста на ай-кью») и способность мыслить рационально, как человек. Именно о втором значении интеллекта я и повествую в этой книге.

Пусть дать определение интеллекту не так легко, но мы сразу узнаем интеллект, когда встречаем его. Возможно, прояснить значение этого слова поможет мысленный эксперимент. Представим, что перед нами инопланетное создание, которое по всем параметрам выглядит непохожим на нас. Что ему нужно сделать, чтобы мы поняли, что оно разумно? Конечно, авторы научной фантастики сталкиваются с этой проблемой на каждом шагу; кто лучше них сможет ответить на этот вопрос! Самую удачную характеристику интеллекта, которую мне когда-либо приходилось слышать, дал писатель Дэвид Александр Смит, когда в интервью его спросили: «Каким должен быть хороший пришелец?»

Во-первых, они [пришельцы] должны реагировать на ситуацию разумно, но непонятно – так, чтобы вы, увидев поведение пришельца, сказали: «Я не понимаю правила, которыми этот пришелец руководствуется при принятии решений, но он явно действует рационально, основываясь на некоей совокупности правил»… Второе требование – они должны быть небезразличны к чему-то или кому-то, должны желать чего-то и добиваться этого, не останавливаясь перед лицом трудностей⁶³.

Принимать решения «рационально», руководствуясь совокупностью правил, означает исходить в своих решениях из неких оснований истинности: из соответствия реальности или из логичности вывода. Пришелец, который врезается на пути в деревья, шагает вниз со скалы, делает такие движения, как будто рубит дерево, когда перед ним на самом деле камень или пустое место, едва ли покажется нам разумным. То же самое можно сказать и о пришельце, который, увидев, как в пещеру вошли три хищных зверя, а из пещеры вышли только два, войдет в эту пещеру, как будто она совершенно пуста.

То же можно сказать и о втором критерии: о желании чего-то и о стремлении его получить вопреки трудностям. Если мы не знаем, чего хочет существо, нас нисколько не впечатлит все, что это существо сделает для его достижения. Кто знает, может быть, оно хочет как раз врезаться в деревья или рубить камни, и ему блестяще удается то, чего оно хочет. Более того, без указания целей существа сама идея разумности будет лишена смысла. Тогда можно вручить премию за интеллект мухомору, который с такой прицельной точностью и несгибаемым упорством выполняет сложнейшую задачу: сидит всю жизнь ровно на одном и том же месте. И тогда ничто не мешает нам согласиться с утверждением когнитивиста Зенона Пылишина, что камень умнее кошки, потому что если ударить камень ногой, у него хватит ума укатиться прочь.

Наконец, разумное существо должно использовать рациональные правила для достижения целей разными способами, в зависимости от того, какие препятствия ему приходится преодолевать на пути. Как поясняет Уильям Джеймс:

Джульетта притягивает Ромео, как магнит притягивает металлические опилки; если ему не мешают обстоятельства, он движется к ней по такой же прямой линии, как они. Но Ромео и Джульетта, если между ними будет воздвигнута стена, не будут стоять, как идиоты, прижавшись лицами к противоположным сторонам стены, как это бывает в случае, если между магнитом и опилками поставить бумагу. Ромео вскоре найдет альтернативный путь – взобравшись на стену или как-то еще – беспрепятственно припасть к губам Джульетты. В случае с металлическими опилками, их траектория движения неизменна; любая случайность может определить, достигнут они цели или нет. В случае с влюбленным Ромео, неизменной остается только цель, а траектория движения может меняться как угодно⁶⁴.

Выходит, что интеллект – это способность достичь цели, невзирая на препятствия, принимая решения, основанные на рациональных (подчиняющихся критерию истинности) правилах. Компьютерщики Алан Ньюэлл и Герберт Саймон конкретизировали эту идею, отметив, что интеллект состоит в способности определить цель, оценить текущую ситуацию, чтобы увидеть, насколько она отличается от цели, и применить ряд действий, позволяющих уменьшить это различие. С облегчением отметим, что под это определение существа, обладающего интеллектом, подходят не только инопланетяне, но и мы, люди. У нас есть желания и мы добиваемся желаемого, опираясь на наши знания, которые при хорошем раскладе являются по меньшей мере приблизительно или вероятностно истинными⁶⁵.

То, что понятие «интеллект» должно определяться через такие термины, как знание и желание, далеко не очевидный факт. Старая теория стимула и реакции, предложенная бихевиористами, предполагала, что знания и желания не имеют ничего общего с поведением – и вообще, научного в них не больше, чем в привидениях и черной магии. У людей и животных определенный стимул вызывает реакцию, потому что ранее с этой реакцией был связан триггер рефлекса (пример – выделение слюны как реакция на звук колокольчика, который ранее был связан с появлением пищи) или потому что реакция в присутствии данного стимула получила подкрепление (пример – животное получает еду, нажимая на рычажок). По словам известного бихевиориста Б. Ф. Скиннера, «вопрос не в том, может ли машина мыслить, а в том, может ли мыслить человек»⁶⁶.

Конечно же человек может мыслить; теория стимула и реакции оказалась несостоятельной. Почему Салли выбежала из здания? Потому что она была убеждена, что дом горит, и не хотела погибнуть. То, что она выбежала из здания, – предсказуемая реакция на определенный стимул, который может быть объективно описан в терминах физики и химии. Возможно, она выбежала из здания, увидев дым; возможно, это было реакцией на телефонный звонок с сообщением о том, что здание горит, или на появление перед домом пожарных машин, или на звук пожарной сигнализации. Однако ни один из этих стимулов не должен был неизбежно заставить ее выйти на улицу. Она не вышла бы, если бы знала, что дым идет от булки в тостере, или что по телефону ей позвонила подруга, которая репетирует свою роль для спектакля, или что кто-то по ошибке или ради шутки включил пожарную сигнализацию, или что сигнализацию проверяет электрик. Свет, звук, частицы, которые можно измерить физическими приборами, не могут предопределять поведение человека. Если что-то и предопределяет в данном случае поведение Салли, так это то, убеждена ли она, что находится в опасности. Естественно, убеждения Салли связаны с воздействующими на нее стимулами, но только косвенным, весьма замысловатым путем, через посредство прочих ее убеждений относительно того, где она находится и как устроен мир. В не меньшей мере поведение Салли зависит от того, насколько сильно она желает избежать опасности. Можно предположить, что она бы не выбежала из здания, если бы была членом добровольческой пожарной бригады или самоубийцей, или фанатичкой, решившей пойти на самосожжение, чтобы привлечь внимание к своим идеалам, или у нее на верхнем этаже здания остались дети.

Сам Скиннер тоже был не так глуп, чтобы утверждать, что измеряемые стимулы вроде длины волн или формы могут предопределять поведение. Он определял стимулы по наитию, удовлетворяясь такими наименованиями, как «опасность», «похвала», «красота», «английский язык». В этом заключалось определенное преимущество его теории, позволявшее ей не расходиться с реальностью, но это было преимущество грабежа над честным трудом. Мы все понимаем, что механическое устройство может реагировать на красный свет или громкий звук – мы даже можем сконструировать такое устройство, но ведь человек – единственное устройство во Вселенной, способное реагировать на опасность, похвалу, английский язык и красоту. Способность человека реагировать на что-то столь физически неуловимое, как похвала, – это один из элементов головоломки, которую мы пытаемся разгадать, а вовсе не элемент решения этой головоломки. Похвала, опасность, английский язык и все остальные вещи, на которые мы реагируем, точно так же, как красота, оказываются в глазах смотрящего. И как раз «глаза смотрящего» – это то, что нам остается объяснить. Между тем, что можно измерить приборами, и тем, что может вызывать поведение, лежит целая пропасть, и именно поэтому мы не имеем права отказывать людям в наличии у них убеждений и желаний.

В повседневной жизни мы прогнозируем и интерпретируем поведение других людей, исходя из того, что, по нашему мнению, они знают и чего, как нам кажется, они хотят. Убеждения и желания – инструменты, которыми мы пользуемся для толкования мира в нашем интуитивном мышлении, и именно психология интуиции по сей день остается наиболее полноценной и полезной наукой о поведении. Чтобы прогнозировать большинство действий человека – то, что он подойдет к холодильнику, сядет в автобус, откроет кошелек, – не нужно разрабатывать математическую модель, моделировать нейронные сети на компьютере или нанимать профессионального психолога; достаточно спросить у своей бабушки⁶⁷.

Я не хочу сказать, что психология должна больше полагаться на здравый смысл, чем физика или астрономия. И все же этот самый здравый смысл позволяет с такой точностью прогнозировать, регулировать и интерпретировать повседневное поведение по сравнению с любой другой когда-либо предложенной для этих целей альтернативой, что велика вероятность того, что он в той или иной форме будет встроен в наши лучшие научные теории. Я звоню старому другу, который живет на другом побережье, и мы договариваемся встретиться в Чикаго у входа в бар в определенном отеле в 19:45, в определенный день через два месяца. Я прогнозирую, он прогнозирует, и все, кто знает нас, прогнозируют, что в этот день мы встретимся. И мы действительно встречаемся. Поразительно! В какой еще научной области может дилетант – да и специалист тоже, собственно говоря, – прогнозировать на несколько месяцев вперед траектории двух объектов, находящихся на расстоянии тысяч миль друг от друга, с точностью до сантиметров и минут? Да еще и делать это на основе информации, которая укладывается в несколько секунд разговора? Расчеты, лежащие в основе прогнозирования, и представляют собой интуитивное мышление: знание, что я желаю встретиться со своим другом, а он желает встретиться со мной, и каждый из нас убежден, что другой будет в определенном месте в определенное время и знает последовательность перелетов, поездок и пересадок, которые необходимо совершить, чтобы туда добраться. Никакая наука, изучающая мозг и мышление, не способна достичь лучшего результата. Это не означает, что интуитивная психология убеждений и желаний сама собой представляет собой науку, однако из этого следует, что научной психологии еще предстоит объяснить, как физический объект – такой, как человеческий организм, – может иметь убеждения и желания и как выходит, что эти убеждения и желания так хорошо работают.

Традиционное объяснение сути интеллекта заключается в том, что человеческая плоть проникнута нематериальной сущностью – душой, которую обычно представляют в виде духа или привидения. Однако эта идея наталкивается на неразрешимую проблему: как этот призрак взаимодействует с твердым веществом? Как эфемерное ничто реагирует на вспышки, толчки, звуковые сигналы и заставляет наши руки и ноги двигаться? Еще одна проблема – это наличие явных доказательств того, что мышление связано с деятельностью мозга. Душу, которую называют невещественной, как мы теперь знаем, можно рассечь ножом, изменить путем воздействия химических веществ, запустить и остановить с помощью электричества, уничтожить резким ударом или недостаточным количеством кислорода. Если на мозг посмотреть в микроскоп, мы увидим, что он обладает захватывающей сложностью физической структуры, полностью соизмеримой с богатством мышления.

Есть версия, что мышление порождает некая особая форма материи – подобно тому, как Пиноккио появился из найденного Джузеппе волшебного полена, которое говорило, смеялось и двигалось само по себе. Увы, никому еще не удалось обнаружить такого чудесного вещества. Можно подумать, что таким чудесным веществом является мозговая ткань. Дарвин писал, что мозг «выделяет» мысль, а не так давно философ Джон Серль утверждал, что физико-химические свойства мозга каким-то образом позволяют ему производить мысль, как молочная железа производит молоко, а растительная ткань производит сахар. Но вспомним, что мозговая ткань всех представителей царства животных содержит одни и те же виды мембран, пор и химических веществ, не говоря уже об опухолях мозга и пробирочных культурах. Каждая частица нервной ткани обладает одними и теми же физико-химическими свойствами, но не каждая способна порождать интеллект, подобный интеллекту человека. Конечно, ткани человеческого мозга отличают некоторые свойства, необходимые для нашего интеллекта. Но одних только физических свойств недостаточно – точно так же, как физических свойств кирпичей недостаточно, чтобы объяснить особенности архитектуры, а физических свойств частиц воздуха недостаточно, чтобы объяснить музыку. Критическое значение имеет нечто в структурировании нервной ткани.

Нередко мышление пытаются объяснить за счет некоего потока энергии или силового поля. Магические шары, таинственный дым, ауры, вибрации, магнитные поля, линии силы – все это неизменные атрибуты спиритизма, псевдонауки и дешевых фильмов в жанре научной фантастики. Представители школы гештальт-психологии попытались объяснить зрительные иллюзии, ссылаясь на действие электромагнитных полей на поверхности мозга, однако обнаружить эти поля так и не удалось. Периодически поверхность мозга пытаются описать как некий носитель колебаний, который поддерживает голограммы и другие интерференционные картины, однако и эта идея не завоевала признания. Ставшая основой для теории Фрейда гидравлическая модель, подразумевающая, что психическое давление накапливается, прорывается наружу или отводится через альтернативные каналы, и по сей день прослеживается в десятках привычных для нашего уха метафор; мы говорим: накопилась злость, выпустить пар, взорваться от гнева, выплеснуть эмоции, сдержать ярость. Но даже самый большой накал страстей не означает буквально, что где-то в мозге накапливается и высвобождается энергия (в физическом смысле). В главе 6 я попытаюсь убедить вас в том, что внутреннее давление не лежит в основе деятельности мозга; скорее мозг намеренно использует его как средство ведения переговоров – как террорист, привязавший к своему телу взрывчатку.

Недостаток всех этих теорий в том, что даже если мы когда-нибудь и откроем какую-нибудь субстанцию, или вибрацию, или магический шар, который будет говорить и проказничать, как найденное Джузеппе полено, или просто будет принимать решения, основанные на совокупности рациональных правил, и преследовать свою цель, невзирая на препятствия, перед нами по-прежнему будет стоять главный вопрос: как ему это удается?

Нет, интеллект происходит не от какой-то особой разновидности духа, материи или энергии. Его источником является информация. Информация – это корреляция между двумя объектами, возникающая в результате закономерного процесса (в противоположность возникающему по чистой случайности)⁶⁸. Мы говорим, что кольца на пне коррелируют с возрастом срубленного дерева (чем старше дерево, тем больше на пне колец), и эта корреляция не случайна, а связана с тем, как деревья растут. Корреляция – понятие математическое и логическое, она не имеет ничего общего с тем, из чего состоят коррелирующие объекты.

В информации как таковой нет ничего особенного; с ней мы встречаемся каждый раз, когда причина ведет к следствию. Особенное начинается, когда речь идет об обработке информации. Мы можем рассматривать частицу материи, передающую информацию о положении дел, как символ; она может «обозначать» это положение дел. Однако будучи частицей материи, она может выполнять и другие функции – физические функции, зависящие от того, что может происходить с данным типом материи в данного типа ситуации по законам физики и химии. Годичные кольца несут информацию о возрасте деревьев, но они также способны отражать свет и поглощать красящие вещества. Следы несут информацию о передвижении животного, но они также способны удерживать воду и образовывать завихрения воздушного потока.

А сейчас давайте представим вот что. Предположим, что кто-то создал машину с деталями, действия которых зависят от физических свойств какого-либо символа. Некий рычаг, привод, фотоэлемент или магнит приводится в движение пигментом, поглощенным годичным кольцом дерева, или водой, собравшейся в отпечатке ноги, или светом, отражаемым следом мела, или магнитным зарядом на участке магнитной ленты. Предположим, что далее машина производит некое другое действие с другой массой вещества: наносит еще одну отметку на кусок дерева, оставляет отпечатки следов на мокрой земле, сообщает магнитный заряд еще одному участку магнитной ленты. Пока ничего особенного не происходит: все, что я описал, – это цепь физических действий, осуществленных бесполезным приспособлением.

А теперь перейдем к особенному. Представим, что мы пытаемся интерпретировать только что полученное материальное явление, используя схему, согласно которой исходный элемент несет в себе информацию. Например, посчитаем только что полученные годичные кольца и будем интерпретировать их как возраст данного дерева в данный момент времени, несмотря на то, что их источником вовсе не был рост дерева. Допустим, что машина была сконструирована таким образом, чтобы полученные метки действительно что-то означали – то есть чтобы они несли в себе информацию о каком-то явлении в мире. Например, представим, что машина сканирует годичные кольца на пне и выжигает на специальной доске по одной метке на каждое кольцо, потом переходит к пню более молодого дерева, срубленного в то же самое время, и стирает с доски по одной метке на каждое кольцо. Сосчитав оставшиеся отметки на доске, мы получим возраст первого дерева на тот момент, когда было посажено второе дерево. В этом случае перед нами будет разумная машина, машина, которая делает истинные выводы из истинных посылок – не за счет какого-то особого вида материи или энергии и не за счет того, что какая-то из ее деталей обладает интеллектом или рассудком. Все, что мы видим, – это тщательно сконструированная цепь самых обыкновенных физических действий, первым звеном которой было конфигурирование материи, несущей в себе информацию. Наша разумная машина своей разумностью обязана двум свойствам, неразделимо соединенным в той сущности, которую мы называем символом: символ несет в себе информацию и одновременно обусловливает другие события (годичные кольца коррелируют с возрастом дерева и могут поглощать световой луч сканера). Когда явление, обусловленное другим явлением, само несет в себе информацию, мы называем такую систему процессором данных или компьютером.

Вообще вся эта схема может показаться вам нереализуемой на практике. Кто может гарантировать, что можно соединить между собой несколько штуковин так, чтобы они падали, раскачивались, мигали ровно таким образом, что получившиеся результаты можно было интерпретировать и обнаружить некий смысл? (А еще лучше, чтобы это был смысл, вписывающийся в ранее сформулированную концепцию или закономерность, которая представляется нам интересной – в конце концов, ведь постфактум толкование можно дать любым результатам, даже самым бессмысленным.) Можем ли мы быть уверены, что подобная машина будет выдавать знаки, которые будут действительно соответствовать какой-то значимой ситуации в мире (например, возрасту дерева в тот момент, когда было посажено другое дерево, или среднему возрасту отростка этого дерева, или чему-нибудь еще), а не будут просто бессмысленным рисунком, не означающим ничего вообще?

Гарантией того, что это возможно, являются труды математика Алана Тьюринга. Он разработал гипотетическую машину, входные и выходные символы которой могут соответствовать в зависимости от специфики машины одной из огромного количества разумных интерпретаций. Машина состоит из ленты, разделенной на ячейки, головки записи-чтения, которая может печатать или считывать символ в ячейке и двигать ленту в обоих направлениях, указателя, который может указывать на фиксированное количество отметок времени на корпусе машины, и набора механических рефлексов. Каждый рефлекс запускается прочитанным символом и текущим положением указателя; машина печатает символ на ленте, передвигает ленту и/или перемещает указатель. Лента, подаваемая в машину, не ограничена по количеству. Эта конструкция получила название «машина Тьюринга».

Что может делать эта простая машина? Она может считывать символы, обозначающие цифры или совокупности цифр, и печатать символы, обозначающие новые цифры, которые являются значением той или иной математической функции, решаемой посредством пошаговой последовательности операций (сложения, умножения, возведения в степень, разложения на множители и так далее – я намеренно не закрываю список, чтобы подчеркнуть важность открытия Тьюринга, не вдаваясь в технические подробности). Она может применять правила любой применимой логической системы, чтобы получать истинные утверждения из других истинных утверждений. Она может применять правила грамматики любого языка, получая грамматически правильные предложения. Эквивалентность между машинами Тьюринга, математическими функциями, логическими правилами и грамматиками привела логика Алонсо Черча к положению о том, что любая четко определенная пошаговая инструкция, которая гарантированно дает решение данной проблемы за ограниченное время (иными словами, любой алгоритм) может быть выполнена с помощью машины Тьюринга.

Что это значит? Это значит, что в той мере, в которой наш мир подчиняется решаемым пошагово математическим уравнениям, может быть создана машина, которая имитирует мир и может делать относительно него прогнозы. В той мере, в которой рациональная мысль соответствует законам логики, может быть создана машина, которая осуществляет рациональное мышление. В той мере, в которой язык можно описать как совокупность грамматических правил, может быть создана машина, которая синтезирует грамматически правильные предложения. В той мере, в которой мысль представляет собой результат применения той или иной совокупности четко определенных правил, может быть создана машина, которая в некотором смысле этого слова думает.

Тьюринг показал, что думающие машины – машины, которые, опираясь на физические свойства символов, выдают новые символы, имеющие смысл, – создать можно; более того, создать их довольно легко. Специалист по теории вычислительной техники Джозеф Вейценбаум как-то продемонстрировал, что такую машину можно построить из штемпеля, нескольких камней и рулона туалетной бумаги. На самом деле, не нужно даже иметь кучу таких машин для разных функций – одну для сложения, другую для вычисления квадратного корня, третью – для того, чтобы писать предложения на английском языке, и так далее. Существует разновидность машины Тьюринга, которая называется универсальной машиной Тьюринга. Она может считывать описание работы любой другой машины Тьюринга, напечатанной на специальной пленке, а затем в точности воспроизводить работу этой машины. Одну и туже машину можно запрограммировать делать любую работу, которую можно описать совокупностью правил⁶⁹.

Означает ли это, что человеческий мозг – это машина Тьюринга? Конечно же нет. Машины Тьюринга не используются нигде и уж тем более не используются у нас в голове. На практике они бесполезны: слишком неудобны в использовании, слишком сложны для программирования, слишком медленны и громоздки. Но это неважно. Тьюринг хотел доказать только, что система из расположенных в определенном порядке приспособлений может функционировать как разумный процессор символов. Вскоре после его открытия были разработаны более практичные процессоры символов, некоторые из которых впоследствии превратились в универсальные вычислительные машины: в «Ай-би-эм», «Юнивак», а чуть позже – в «Макинтоши» и персональные компьютеры. Все они по сути представляли собой универсальную машину Тьюринга. Если не принимать во внимание размер и скорость и предоставить им столько памяти, сколько нужно, их можно запрограммировать таким образом, чтобы они выдавали одинаковые выходные данные в ответ на одинаковые входные данные.

Были предложены и такие процессоры символов, которые должны были симулировать работу человеческого мозга. Такие модели часто воспроизводятся на персональных компьютерах, но это условные модели. Персональный компьютер изначально запрограммирован на то, чтобы эмулировать деятельность гипотетического ментального компьютера (образуя то, что специалисты по вычислительной технике называют виртуальной машиной); примерно также можно запрограммировать «Макинтош» эмулировать работу персонального компьютера. Всерьез воспринимается только виртуальный ментальный компьютер, а не кремниевые микросхемы, которые реализуют его. Далее на виртуальном ментальном компьютере запускается программа, моделирующая тот или иной вид мозговой деятельности (решение задачи, понимание предложения). Перед нами – новый путь к пониманию человеческого интеллекта.

Позвольте показать, как работает одна из таких моделей. В наш век, когда реальные компьютеры стали столь сложными, что непосвященному человеку понять их так же невообразимо трудно, как и работу мозга, достаточно показательным будет пример вычисления в пошаговом рассмотрении. Только так можно оценить, насколько простые устройства способны, будучи соединены между собой, образовывать процессор символов, демонстрирующий реальные проявления интеллекта.

Неуклюжая машина Тьюринга – не лучшая реклама теории о том, что мозг – это компьютер, поэтому я возьму за образец модель, которая может хотя бы отдаленно претендовать на сходство с нашим ментальным компьютером. Я покажу, как она решает настолько сложную задачу из повседневной жизни (родственные отношения), чтобы способность машины решить ее действительно производила впечатление.

Модель, которую мы будем использовать, называется продукционной системой. В ней отсутствует явно небиологическая характеристика всех серийных компьютеров: упорядоченный список этапов программы, который машина выполняет последовательно и целенаправленно. Продукционная система состоит из памяти и совокупности реакций, которые иногда называют «демонами», потому что они представляют собой простые автономные сущности, которые, образно говоря, сидят и ждут, когда их запустят. Память – это что-то вроде доски, на которую вешают объявления. Каждый демон – как коленный рефлекс; он ждет, когда на доске появится конкретное объявление, и реагирует на его появление тем, что прикрепляет к ней свое собственное объявление. Все демоны в совокупности образуют программу. По мере того, как они реагируют на появление объявлений на доске тем, что вывешивают собственные объявления, и тем самым вызывают реакцию других демонов, и так далее, информация в памяти меняется и в конечном итоге превращается в правильную выходную информацию для данной входной информации. Некоторые демоны связаны с органами чувств и запускаются они не информацией в памяти, а информацией, поступающей из окружающего мира. Другие демоны связаны с конечностями и реагируют тем, что двигают конечности, а не тем, что вывешивают новые объявления на доске памяти.

Предположим, что ваша долгосрочная память содержит знание о всех ваших родственниках и близких. Содержимое этого знания может быть представлено в виде совокупности суждений вроде «Алекс – отец Эндрю». Согласно вычислительной теории сознания, эта информация воплощается в виде символов: совокупности физических знаков, которые коррелируют с состоянием мира, отраженным в суждениях⁷⁰.

В роли символов, о которых идет речь, не могут использоваться английские слова и предложения, вопреки распространенному заблуждению о том, что мы мыслим на родном языке. Как я показал в книге «Язык как инстинкт», предложения в устной форме языка – например, английского или японского – предназначены для устной коммуникации между разумными и очень нетерпеливыми членами социума. Они стремятся к краткости, поэтому опускают всю информацию, которую слушатель может мысленно восстановить, исходя из контекста. Напротив, «язык мысли», на котором формулируются суждения, не может ничего оставлять воображению, поскольку он сам и есть воображение. Еще одна проблема с использованием английского языка как посредника в передаче знания заключается в том, что предложения на естественном языке могут быть двусмысленными. Предположим, серийный убийца Тед Банди добился отсрочки приведения в исполнение смертного приговора, и в газете появляется заголовок Bundy Beats Date with Chair, но мы не сразу понимаем, о чем идет речь, потому что наш мозг приписывает этой последовательности слов два смысла (из-за многозначности слов beats, date и chair высказывание может означать «Банди избежал казни на электрическом стуле» или «Банди ударил свою девушку стулом». – Прим. пер.). Если одна последовательность слов в английском языке может соответствовать двум значениям в мышлении, значения в мышлении не могут быть последовательностями слов в английском языке. Наконец, предложения естественного языка могут быть осложнены артиклями, предлогами, суффиксами рода, другими грамматическими деталями. Они нужны для того, чтобы легче передать информацию из одной головы в другую посредством говорения и слуха, то есть через очень медленный канал связи, но они совершенно не нужны внутри головы, где информация передается напрямую по пучкам нейронов. Итак, утверждения в системе знания – это не предложения на английском языке, а конструкции на более насыщенном информацией языке мысли, «мыслекоде».

В нашем примере образец мыслекода, который выражает семейные отношения, представлен двумя типами утверждений. Пример первого типа – Alex father-of Andrew (Алекс отец Эндрю): имя, за которым следует указание на тип родственных отношений, а затем еще одно имя. Пример второго типа – Alex is-male (Алекс мужского пола): имя, за которым следует указание на пол. Пусть вас не смущает то, что в записях мыслекода я использую английскую лексику и синтаксис. Это делается только для того, чтобы вам, читатель, было легче понять, что означают символы. В случае с машиной эти символы представляют собой разные метки. Это могут быть какие угодно символы, расположенные в каком угодно порядке – при условии, что каждый символ последовательно используется для обозначения одного и того же человека (например, тот символ, который мы используем для обозначения Алекса, всегда используется для Алекса и никогда не используется для обозначения кого-либо еще), и что они располагаются в одном и том же порядке (чтобы они могли правильно передавать информацию о том, кто чей отец). Метки могут иметь форму штрихов в штрих-коде, распознаваемом сканером, или замочных скважин, к каждой из которых подходит только один ключ, или форм, которые подходят только к одному шаблону. Естественно, в случае серийных компьютеров это будут разные последовательности расположения зарядов в кристаллах микросхем, а в случае мозга – последовательности возбуждения в группах нейронов. Здесь очень важно отметить, что машина не может понимать символы таким же образом, как вы и я; элементы конструкции машины реагируют на их форму, выполняя ту или иную операцию – как автомат для продажи жвачки реагирует на вес и форму монетки, выдавая покупателю жвачку.

Приводимый ниже пример – это попытка пролить свет на суть машинного вычисления, показать вам, как машине удается это провернуть. Чтобы более наглядно представить мое положение о том, что символ может одновременно обозначать некое понятие и механическим путем обусловливать некое событие, я покажу весь процесс работы продукционной системы шаг за шагом и опишу все происходящее дважды: на концептуальном уровне, в терминах содержания задачи и логики, которая используется для ее решения, и на механическом уровне, в терминах действий машины – считывания данных и нанесения меток. Система разумна в том смысле, что эти два уровня точно соответствуют друг другу: каждая идея соответствует метке, каждый логический шаг соответствует действию.

Назовем ту часть памяти системы, в которой содержатся записи о родственных отношениях, «Долгосрочной памятью». Другую часть назовем «Краткосрочной памятью» – это нечто вроде чернового блокнота для вычислений. Часть «Краткосрочной памяти» представляет собой область задач; в ней содержится список вопросов, на которые система пытается ответить. Системе нужно узнать, является ли Горди родным дядей по отношению ко мне (условное обозначение – Я). В самом начале память выглядит следующим образом:

На концептуальном уровне наша цель – ответить на вопрос; ответ будет положительным, если факт, которого он касается, истинен. На механическом уровне система должна определить, есть ли где-нибудь в ее памяти последовательность знаков, идентичная той последовательности, которую мы видим со знаком вопроса в колонке «Задачи». Функция одного из демонов системы – отвечать на вопросы, связанные с поиском, считывая аналогичные знаки в колонках «Задачи» и «Долгосрочная память». Обнаружив совпадение, он печатает метку рядом с вопросом, что означает, что вопрос получил положительный ответ. Для удобства давайте скажем, что метка имеет форму слова Yes (Да).

IF: Goal = blah-blah-blah?

Long-Term Memory = blah-blah-blah

THEN: MARK GOAL

Yes

(ЕСЛИ: Задача = то-то и то-то?

Долгосрочная память = то-то и то-то

ТО: МЕТКА ЗАДАЧИ

Да)

Концептуальная проблема, стоящая перед системой, состоит в том, что у нее нет эксплицитного знания о том, кто чей дядя. Это знание имплицитно следует из других фактов, которые она знает. На механическом уровне то же самое будет значить вот что: в разделе «Долгосрочная память» нет метки uncle-of (дядя); там есть только метки sibling-of (брат/сестра) и parent-of (родитель). На концептуальном уровне нам нужно вывести знание о том, кто чей дядя, из знания о том, кто приходится кому родителем и братом/сестрой. На механическом уровне нам нужен демон, который сделает запись uncle-of (дядя), по обе стороны от которой будут нужные метки, обнаруженные в записях с элементами sibling-of (брат/сестра) и parent-of (родитель). На концептуальном уровне нам нужно выяснить, кто у нас родители, идентифицировать их братьев и сестер, потом выбрать из них лиц мужского пола. На механическом уровне нам нужен следующий демон, который сделает в области «Задачи» новые записи, запускающие соответствующие операции поиска в памяти:

IF: Goal = Q uncle-of Р

THEN: ADD GOAL

Find P’s Parents

Find Parents’ Siblings

Distinguish Uncles/Aunts

(ЕСЛИ: Задача = Q дядя PTO: ДОБАВИТЬ ЗАДАЧУ

Найти родителей Р

Найти братьев/сестер родителей

Различить дядь/теть)

Этот демон запускается записью uncle-of (дядя) в колонке «Задачи». В этой колонке действительно есть такая запись, поэтому демон начинает действовать и добавляет к этой колонке новые метки:

Необходим также элемент программы – еще один демон или дополнительный механизм внутри данного демона, который будет отвечать за Р и Q, то есть заменять ярлык Р списком конкретных ярлыков имен: Me (Я), Abel (Абель), Gordie (Горди) и т. д. Эти детали я здесь не привожу, чтобы не усложнять восприятие процесса.

Новые записи в колонке «Задачи» побуждают к действию других демонов. Один из них (на концептуальном уровне) ищет родителей системы, копируя (на механическом уровне) все записи, содержащие имена родителей, в раздел «Краткосрочная память» (если только там уже нет таких записей, конечно; это условие необходимо, чтобы демон не продолжал бессмысленно делать одну копию за другой, как ученик чародея):

IF: Goal = Find P’s Parents

Long-Term Memory = X parent-of P

Short-Term Memory X parent-of P

THEN: COPY TO Short-Term Memory

X parent-of P

ERASE GOAL

(ЕСЛИ: Задача = найти родителей P

Долгосрочная память = X родитель P

Краткосрочная память X родитель P

ТО: КОПИРОВАТЬ В КРАТКОСРОЧНУЮ ПАМЯТЬ

X родитель P

СТЕРЕТЬ ЗАДАЧУ)

Теперь наша доска объявлений выглядит следующим образом:

Теперь, когда мы знаем родителей, мы можем найти братьев и сестер родителей. На механическом уровне это означает, что теперь, когда имена родителей записаны в разделе «Краткосрочная память», может начинать работу демон, копирующий записи о братьях и сестрах родителей:

IF: Goal = Find Parents’ Siblings

Short-Term Memory = X parent-of Y

Long-Term Memory = Z sibling-of X

Short-Term Memory

Z sibling-of X

THEN: COPY TO Short-Term Memory

Z sibling-of X

ERASE GOAL

(ЕСЛИ: Задача = найти родителей P

Краткосрочная память = X родитель Y

Долгосрочная память = Z брат/сестра X

Краткосрочная память

Z брат/сестра X

ТО: КОПИРОВАТЬ В КРАТКОСРОЧНУЮ ПАМЯТЬ

Z брат/сестра X

СТЕРЕТЬ ЗАДАЧУ)

Вот что у него получается:

На данном этапе мы рассматриваем дядь и теть вместе. Чтобы отделить дядь от теть, нам нужно найти среди них мужчин. На механическом уровне система должна найти записи, рядом с которыми в разделе «Долгосрочная память» стоят метки is-male (мужского пола). Вот демон, который выполняет эту проверку:

IF: Goal = Distinguish Uncles/Aunts

Short-Term Memory = X parent-of Y

Long-Term Memory = Z sibling-of X

Long-Term Memory = Z is-male

THEN: STORE IN LONG-TERM MEMORY

Z uncle-of Y

ERASE GOAL

(ЕСЛИ: Задача = различить дядь/теть

Краткосрочная память = X родитель Y

Долгосрочная память = Z брат/сестра X

Долгосрочная память = Z мужского пола

ТО: ХРАНИТЬ В ДОЛГОСРОЧНОЙ ПАМЯТИ

Z дядя Y

СТЕРЕТЬ ЗАДАЧУ)

Это демон, который наиболее явно воплощает в себе понимание системой значения слова «дядя»: это человек мужского пола, брат одного из родителей. Система добавляет запись о том, кто является дядей, в раздел «Долгосрочная память», а не «Краткосрочная память», потому что эта запись представляет собой элемент знания, который всегда истинен:

На концептуальном уровне мы всего лишь логически вывели факт, который был запрошен. На механическом уровне мы только что создали идентичные друг другу вплоть до последней метки записи в колонках «Задачи» и «Долгосрочная память». Запускается самый первый из упомянутых мной демонов, который осуществляет поиск таких пар; он ставит метку, обозначающую, что задача решена:

Чего мы достигли? Мы построили из безжизненных деталей автомата по продаже жвачки систему, которая делает нечто, отдаленно напоминающее работу мышления: она устанавливает истинность утверждения, с которым ранее никогда не имела дела. Из утверждений о конкретных родителях, братьях и сестрах и знания о том, что значит быть чьим-то дядей, она выработала истинные утверждения о конкретных дядях. И все это, повторю еще раз, было сделано путем обработки символов – материальных изображений, обладающих репрезентативными и каузальными свойствами, то есть одновременно способных нести в себе информацию о чем-либо и принимать участие в цепочке физических событий. Указанные события и составляют процесс вычисления: вычислительные механизмы задуманы таким образом, что если интерпретация символов, запускающих машину, является истинным утверждением, тогда и интерпретация символов, синтезированная машиной, тоже является истинным утверждением. Вычислительная теория сознания – это гипотеза о том, что интеллект как раз представляет собой вычисление в этом значении слова.

«Это значение» довольно широко и позволяет избежать дополнительных посылок, связанных с другими определениями вычисления. Так, нам не нужно принимать в качестве исходного положения, что вычисление состоит из последовательности отдельных шагов, что символы должны либо явно наличествовать, либо явно отсутствовать (в противопоставление градации признака: более выраженный – менее выраженный, более активный – менее активный), что мы гарантированно получим правильный ответ за ограниченный промежуток времени, или что истинное значение должно быть «абсолютно истинным» или «абсолютно ложным», а не подразумевать вероятность или некоторую степень уверенности. Таким образом, вычислительная теория охватывает и альтернативный вариант компьютера с множеством элементов, активных в той или иной степени, в зависимости от вероятности того, что то или иное утверждение истинно или ложно; компьютера, в котором уровень активности может постепенно меняться, отражая новые и приближенно точные вероятности. (Как будет показано ниже, вполне возможно, что именно так работает мозг.) Главная идея заключается в том, что ответ на вопрос «Что делает систему умной?» – не материя, из которой сделана система, и не какая-то особенная энергия, протекающая через нее, а то, для чего предназначен каждый из элементов машины, и каким образом закономерности изменений внутри системы отражают соответствующие параметру истинности отношения (включая случаи, когда истинность является вероятностной или недостаточно четко определенной)⁷¹.

Естественные вычисления

Почему вычислительной теории сознания можно верить? Потому что это теория, которая позволила разрешить многовековые проблемы философии, стала началом компьютерной революции, подняла ключевые вопросы нейробиологии и дала психологии потрясающе плодотворное поле для исследований.

Целые поколения мыслителей безрезультатно ломали головы над тем, каким образом мышление взаимодействует с материей. Как сказал Джерри Фодор, «жалость к себе может довести до слез, и лук тоже». Как могут наши неосязаемые убеждения, желания, представления, планы, цели отражать мир вокруг нас и давить на рычаги, с помощью которых мы, в свою очередь, меняем мир? Декарт через много столетий после смерти стал посмешищем для ученых (и совершенно незаслуженно), потому что высказал идею о том, что мышление и материя – разные виды вещества, которые каким-то образом взаимодействуют в части мозга, называемой шишковидной железой. Философ Гилберт Райл высмеял эту идею, назвав ее «доктриной призрака в машине»⁷² (эту фразу позже использовали в качестве заголовка для книг писатель Артур Кестлер и психолог Стивен Косслин и рок-группа «Полис» в качестве названия своего альбома). Райл и другие философы утверждали, что такие термины ментализма, как «убеждения», «желания» и «представления», бессмысленны и происходят от небрежной, неправильной трактовки языка. Имеющие схожие взгляды бихевиористы заявляли, что говорить о невидимых сущностях так же ненаучно, как верить в Зубную Фею, и старались полностью исключить их из своих психологических теорий.

А потом появились компьютеры: не имеющие ничего общего с феями и невидимыми сущностями куски железа, работу которых никак нельзя было объяснить без полного арсенала «запретных» словечек ментализма. «Почему мой компьютер не печатает документ?» – «Потому что программа не знает, что ты заменил струйный принтер на лазерный. Она до сих пор думает, что говорит со струйным принтером, и пытается распечатать документ, прося принтер подтвердить получение сообщения. Но принтер не понимает ее сообщение и игнорирует его, потому что ожидает, что вводные данные будут начинаться с символа “%”! Программа отказывается вернуть управление, пока она продолжает разговаривать с принтером, поэтому тебе нужно привлечь внимание диспетчера задач, чтобы он отобрал управление у программы. Как только программа узнает, какой принтер к ней подключен, они начнут общаться». Чем сложнее система и чем опытнее пользователи, тем больше обсуждение технических деталей напоминает сюжет мыльной оперы.

Философы-бихевиористы все-таки продолжали бы настаивать на том, что все это праздные разговоры. Машины на самом деле ничего не понимают и не пытаются, сказали бы они; просто пользователи легкомысленно подходят к выбору слов и поэтому рискуют поддаться на соблазн серьезных концептуальных ошибок. И все же, что здесь не так? Философы обвиняют компьютерщиков в недостаточной ясности мышления? Да ведь компьютер – это самый формальный, педантичный, реалистичный, неумолимый ревнитель точности и недвусмысленности во Вселенной. Судя по формулировке обвинения, можно подумать, что это компьютерщики в замешательстве зовут на помощь философов, когда у них перестают работать компьютеры, а не наоборот. Гораздо лучшее объяснение состоит в том, что вычислительная теория наконец позволила развеять туман мистики, окутывавший менталистские термины: убеждения – это записи в памяти, желания – это записи в разделе задач, мышление – это вычисления, запускаемые датчиками, попытка – это выполнение операции, запускаемое задачей.

(Вы возразите, что мы, люди, что-то чувствуем, когда у нас возникает убеждение или желание или ощущение, а обычная запись в памяти не способна создавать такие чувства. Справедливое замечание. Но давайте попытаемся не смешивать проблему объяснения интеллекта с проблемой объяснения осознанных ощущений. Пока я пытаюсь объяснить, что такое интеллект; а до сознания мы дойдем чуть позже в этой же главе.)

Вычислительная теория сознания также позволяет реабилитировать раз и навсегда печально известного гомункула. Типичное возражение против идеи, что мысли – это внутренние репрезентации (это возражение очень популярно среди ученых, старающихся всячески показать, насколько они прагматичны), состоит в том, что если есть образ, то в голове должен быть маленький человечек, который на него смотрит, а если есть маленький человечек, то должен быть человечек еще меньше, который смотрит на образы в голове первого человека, и так далее, до бесконечности. Но вот перед нами в очередной раз тот же самый спор: теоретик упорно убеждает инженера-электрика в том, что, если инженер прав, то в его рабочей станции должны жить толпы крошечных человечков. В вычислительной технике без гомункулов не обойтись. Здесь постоянно считываются, интерпретируются, анализируются, распознаются и проверяются структуры данных, и подпрограммы, которые за это отвечают, без зазрения совести называют «агентами», «демонами», «контроллерами», «диспетчерами», «интерпретаторами». Почему все эти разговоры о гомункулах не ведут к бесконечному регрессу? Потому что внутренняя репрезентация – это не реалистичная фотография мира, а гомункул, который «смотрит на нее», – не миниатюрная копия всей системы, обладающая таким же интеллектом. В этом случае это бы и в самом деле ничего не объясняло. Нет, репрезентация – это совокупность символов, соответствующая тому или иному аспекту мира, и каждому гомункулу остается только реагировать несколькими заранее предписанными действиями на некоторые из этих символов: эта задача гораздо проще того, что делает вся система в целом. Интеллект системы образован действиями не столь интеллектуальных механических демонов внутри нее. Эту мысль, впервые высказанную в 1968 году Джерри Фодором, следующим образом сформулировал Дэниел Деннетт:

Гомункулы превращаются в призраков только в тех случаях, когда они полностью дублируют те способности, которые они должны были объяснить… Когда получается сделать так, чтобы команда или комитет относительно невежественных, ограниченных и зашоренных гомункулов обеспечивали разумное поведение в целом, это уже успех. Блок-схема программы обычно представляет собой схему организационной структуры комитета гомункулов (экспертов, библиотекарей, счетоводов, администраторов); каждый блок схемы определяет гомункула, предписывая некую функцию, но не уточняя, как ее выполнить (в самом деле, мы ведь говорим «назначить человечка выполнять ту или иную работу»). Далее, если мы посмотрим повнимательнее на отдельные блоки, то увидим, что функция каждого из них выполняется путем ее разбиения при помощи другой блок-схемы на еще более мелких и более глупых гомункулов. В конце концов, помещая одни блоки внутрь других, мы придем к гомункулам настолько глупым (все, что от них требуется, это отвечать на вопросы «да» или «нет»), что их можно, так сказать, «заменить машиной». Мы можем исключить из схемы сказочных гомункулов, организовав для выполнения работы целые армии идиотов⁷³.

Вероятно, вы по-прежнему задаетесь вопросом, каким образом метки, которые пишут и стирают демоны внутри компьютера, представляют или обозначают вещи в реальном мире. Кто решает, что данная метка в системе соответствует данному кусочку мира? В случае с компьютером ответ очевиден: мы решаем, что обозначают эти символы, потому что мы создаем машину. Но кто определяет значение символов, которые якобы присутствуют в нашей голове? В философии данная проблема известна как проблема «интенциональности» (этот термин может ввести в заблуждение, потому что интенциональность не имеет ничего общего с намерениями; англ, intentionality образовано от intention, у которого помимо специального логического значения «интенция» есть также общеязыковое значение «намерение». – Прим. пер.) На этот вопрос есть два широкоизвестных ответа. Первый – что символ связан с референтом (обозначаемым объектом) в реальном мире посредством наших органов чувств. Лицо матери отражает свет, который возбуждает зрительные рецепторы, что приводит к каскаду эталонов или подобных схем, которые вписывают символ мать в ваше мышление. Второй ответ – что уникальный паттерн манипуляций с символами, запускаемый первым символом, отражает уникальный паттерн взаимоотношений между референтом первого символа и референтами инициируемых символов. Если мы условимся (какими бы ни были причины) говорить, что символ мать обозначает мать, дядя обозначает дядю, и так далее, все новые утверждения о взаимном родстве, генерируемые демонами, чудесным образом вновь и вновь будут оказываться истинными. Устройство напечатает утверждение Bella mother-of Me (Белла мать Я) – и будет право, потому что Белла и впрямь моя мать. Символ мать обозначает мать, потому что он выполняет определенную роль во всех умозаключениях о матерях.

Эти две теории известны как теория причинно-следственной связи и теория инференциальных ролей, и для опровержения каждой из них оппонентами было выдумано немало нелепых мысленных экспериментов. Эдип не хотел жениться на своей матери, но все равно это сделал. Почему? Потому что эта женщина вызвала в его сознании символ Иокаста, а не символ мать, а его желание было сформулировано как «Если это мама, не женись на ней». Причинное влияние символа Иокаста (а это женщина, которая на самом деле была матерью Эдипа) здесь были нерелевантны; единственное, что имело значение, – это инференциальная роль, которую играли в голове Эдипа символы Иокаста и мать. Молния ударяет в сухое дерево посреди болота, и каким-то чудесным образом болотная тина сливается в точную копию меня в данный момент, воспроизводящую меня вплоть до молекулы, включая мои воспоминания. Этот Болотный человек никогда не видел мою мать, но большинство людей сказали бы, что его мысли о матери будут о моей матери – точно так же, как и мои собственные мысли. Отсюда также следует вывод, что символу не обязательно быть связанным причинно-следственными связями с чем-либо в этом мире, чтобы напоминать о чем-то; достаточно его инференциальной роли⁷⁴.

И все-таки… Предположим, что последовательность действий по обработке информации, выполняемых компьютером, играющим в шахматы, оказывается по какому-то удивительному стечению обстоятельств аналогичной событиям на поле боя в ходе Шестидневной войны[8]: королевский конь = Моше Даян, ладья на с7 = израильская армия захватывает Голанские высоты и т. д. Можно ли будет сказать, что эта программа в такой же степени воспроизводит Шестидневную войну, в какой она воспроизводит игру в шахматы? Предположим, однажды мы обнаружим, что кошки – вовсе не животные, а очень похожие на животных роботы, управляемые с Марса. Любое правило логического вывода, которое приведет к выводу «если это существо – кошка, то это животное», будет недействительным. Инференциальная роль нашего ментального символа кошка в этом случае изменится до неузнаваемости. Однако значение символа кошка останется неизменным: вы все равно подумаете «кошка», увидев крадущегося мимо робота по кличке Феликс. Уже два очка в пользу теории причинно-следственной связи.

Третью точку зрения можно кратко выразить фразой из пародии на телерекламу в передаче «Субботним вечером в прямом эфире»: «Вы оба правы – это мастика для натирки пола и украшение для десерта». Что обозначает символ, определяют каузальная и инференциальная роли символа в сочетании. (С этой точки зрения мысли Болотного человека будут о моей матери, потому что у него будет ориентированная на будущее каузальная связь с ней: он узнает мою мать, если встретит ее). Каузальная и инференциальная роли обычно бывают синхронизированы, поскольку благодаря естественному отбору наши системы восприятия и модули логического вывода в этом мире по большей части работают правильно. Не все философы согласятся с тем, что сочетания причинности, инференции и естественного отбора достаточно для такого описания понятия «значение», которое будет идеально работать в любой альтернативной Вселенной. («Предположим, у Болотного человека есть идентичный близнец на другой планете…») Но если его и достаточно, ответим мы, тем хуже для этой концепции значения. Значение может иметь смысл только относительно устройства, которое было создано (инженерами или естественным отбором) для работы в данном, конкретном мире. Иными словами, насчет Марса, Болотной страны или Сумеречной зоны сказать наверняка ничего нельзя. Даже если с философской точки зрения наша теория каузальности в сочетании с инференцией не совсем совершенна, она по крайней мере снимает покров тайны с того, каким образом символ в нашей голове или в компьютере может что-то обозначать⁷⁵.

Еще один признак того, что вычислительная теория сознания на правильном пути, – существование искусственного интеллекта: компьютеров, которые выполняют интеллектуальные задачи, посильные только для человека. В любом магазине подержанной аппаратуры вам продадут компьютер, который превосходит человека по способности вычислять, хранить и находить данные, строить чертежи, проверять орфографию, переправлять почту и набирать текст. В хорошо укомплектованном магазине программного обеспечения вам предложат программы, которые отлично играют в шахматы, распознают буквы алфавита и отчетливую речь. Покупатель с кошельком потолще может позволить себе программы, способные поддерживать разговор по-английски на ряд тем и управлять роботизированной рукой, выполняющей сварку и покраску, и не уступающие человеку по мастерству в сотнях областей – таких, как подбор акций, диагностика болезней, назначение лекарств, устранение неполадок в оборудовании. В 1996 году компьютер «Дип Блю» обыграл в одиночной партии чемпиона мира по шахматам Гарри Каспарова. Еще две партии закончились вничью, а последнюю компьютер проиграл; можно сказать, что всего лишь вопрос времени, когда компьютер окончательно победит чемпиона мира. Роботов такого класса, как Терминатор, в мире пока нет, однако есть тысячи менее масштабных программ искусственного интеллекта – в том числе они есть у вас в компьютере, в машине и в телевизоре. И это не предел.

Эти скромные успехи заслуживают внимания в связи с горячими спорами по поводу того, что компьютеры вскоре смогут или, наоборот, никогда не смогут делать. Одна сторона дебатов заявляет, что появление роботов уже не за горами (что доказывает, что мозг – это компьютер), а вторая утверждает, что этого никогда не будет (что доказывает обратное)⁷⁶. Создается ощущение, что эта дискуссия сошла со страниц книги «Говорят эксперты» Кристофера Серфа и Виктора Наваски:

Знающие люди уверены, что передавать голос по проводам невозможно, а если даже это и было бы возможно, то не принесло бы никакой практической пользы.

Редакционная статья в журнале «Бостон пост», 1865 год

Пятьдесят лет спустя… мы откажемся без абсурдной необходимости выращивать целую курицу, чтобы съесть грудку или крылышко, и начнем выращивать эти части по отдельности в подходящих условиях.

Уинстон Черчилль, 1932 год

Летающие машины тяжелее воздуха невозможны.

Лорд Кельвин, исследователь в области термодинамики и электричества, 1895 год

[К 1965 году] автомобиль высшего класса будет около 20 футов длиной, работать будет на энергии газотурбинного двигателя, младшего брата реактивного двигателя.

Лео Черне, издатель-редактор «Ресерч инститьют оф Америка», 1955 год

Человек никогда не долетит до Луны, невзирая на все будущие научные достижения.

Ли Дефорест, изобретатель вакуумной лампы, 1957 год

Пылесосы, работающие за счет ядерной энергии, станут реальностью через 10 лет.

Алекс Льюит, производитель пылесосов, 1955 год⁷⁷

Единственное явно справедливое утверждение, следующее из рассуждений футурологов, – что в будущем все их рассуждения будут выглядеть глупо. Мы не можем знать пределов возможностей искусственного интеллекта, его достижения будут зависеть от того, с какими практическими сложностями столкнется его развитие. Не подлежит сомнению лишь одно: вычислительные машины могут обладать интеллектом.

Связь между научным пониманием и технологическими достижениями очень слаба. Мы уже достаточно давно обладаем значительными знаниями о суставах и о сердце, но вот искусственные суставы уже стали привычным делом, а искусственных сердец пока не наблюдается. Об этой пропасти между теорией и практикой нужно помнить и тогда, когда мы ищем в искусственном интеллекте ответы на вопросы о компьютере и мышлении. Более подходящим названием для изучения мышления с опорой на информацию о компьютерах будет не «искусственный интеллект», а «естественное вычисление»⁷⁸.

Вычислительная теория сознания незаметно закрепилась в качестве основы нейробиологии – науки, изучающей мозг и нервную систему. Ни один уголок этой науки не остался незатронутым идеей о том, что обработка информации – это основная деятельность мозга. Именно обработка информации заставляет нейробиологов больше интересоваться нейронами, чем глиальными клетками, несмотря на то, что глии занимают больше места в мозге. Аксон (длинный отросток) нейрона вплоть до молекулы специально предназначен для того, чтобы распространять информацию с высокой точностью на большое расстояние, а когда электрический сигнал преобразуется в химический в синапсе (месте соприкосновения нейронов), физический формат информации меняется, в то время как информация остается той же. Как мы увидим далее, дерево дендритов (подводящих волокон) на каждом нейроне, по-видимому, выполняет основные логические и статистические операции, лежащие в основе вычисления. Язык нейробиологии насыщен такими терминами теории информации, как «сигналы», «коды», «репрезентации», «трансформации», «обработка»⁷⁹.

Обработка информации определяет и вполне закономерные вопросы, имеющие отношение к этой сфере. Если изображение на сетчатке перевернуто, как же получается, что мы видим мир правильной стороной кверху? Если зрительная зона коры располагается в задней части головного мозга, почему нам не кажется, что мы видим картинку в задней части головы? Как это возможно, что человек чувствует фантомную конечность на месте ампутированной? Как мы можем воспринимать зеленый кубик с помощью нейронов, которые не имеют форму кубика и не окрашены в зеленый цвет? Каждый нейробиолог знает, что это псевдовопросы, но почему? Потому что речь в них идет о свойствах мозга, которые не имеют никакого отношения к передаче и обработке информации.

Если ценность научной теории определяется ее способностью объяснять факты и вдохновлять ученых на открытия, то самый большой плюс вычислительной теории сознания – это то влияние, которое она оказала на психологию. Скиннер и другие бихевиористы утверждали, что все разговоры о ментальных событиях – бесплодные рассуждения; в лабораторных и полевых условиях можно изучать только стимул и реакцию. Оказалось, что справедливо все с точностью до наоборот. До того, как в 1950-1960-е годы Ньюэлл и Саймон и психологи Джордж Миллер и Дональд Бродбент привнесли в психологию идеи вычислительной теории, она была бесконечно скучной. В обязательную программу психологии входила физиологическая психология (рефлексы), восприятие (звуковые сигналы), обучение (крысы), память (бессмысленные слоги), интеллект (коэффициент интеллекта) и личность (тесты личности). За прошедшее время психологи привлекли в свои лаборатории вопросы, волновавшие лучших мыслителей в истории, сделали по каждому из аспектов мышления тысячи открытий, о которых несколько десятилетий назад нельзя было и мечтать.

Причиной этого расцвета стала главная задача, поставленная перед психологией вычислительной теорией: выявить форму ментальных репрезентаций (символических записей, используемых мозгом) и процессов (демонов), которые их оценивают. Платон сказал, что мы заперты в пещере и знаем мир только по теням, которые он отбрасывает на стене. Наша пещера – это череп, а тени – ментальные репрезентации. Информация во внутренней репрезентации – вот все, что мы знаем о мире. Рассмотрим в качестве аналогии то, как работают внешние репрезентации. В выписке из моего банковского счета каждый вклад указывается как единая сумма. Если я сделал вклад, состоящий из нескольких чеков и некоторой суммы наличности, я не могу проверить, есть ли среди них конкретный чек; эта информация в репрезентации утрачена. Более того, сама форма репрезентации определяет, какие выводы из нее можно сделать, потому что символы и их расположение – это единственное, на что может реагировать гомункул, который достаточно глуп, чтобы его могла заменить машина. Наша репрезентация чисел ценна потому, что она позволяет выполнять сложение, используя набор полуавтоматических операций: нам достаточно найти нужную отметку в таблице сложения и разряды переноса. Римские числа практически не используются (разве что в названиях и в декоративных целях), потому что с ними сложение становится значительно сложнее, а умножение и деление практически невозможны.

Определение ментальных репрезентаций – это путь к точности в психологии. Многие определения поведения производят впечатление чего-то несерьезного, потому что в них психологические явления объясняются в терминах других, не менее загадочных психологических явлений. Почему людям это задание труднее выполнить, чем то? Потому что первое задание «более сложное». Почему люди распространяют информацию об одном объекте на другой объект? Потому что эти объекты «похожи». Почему люди замечают одно событие, но не замечают другое? Потому что первое событие «более заметно». Все эти объяснения – сплошное надувательство. Сложность, схожесть, важность – все это зависит от обладателя мышления, и как раз это мы и должны попытаться объяснить. Компьютеру сложнее запомнить сюжет «Красной Шапочки», чем двадцатиразрядное число; нам сложнее запомнить число, чем сюжет. Два комка из смятой газеты нам кажутся похожими, хотя по форме они могут быть совершенно разными, а лица двух людей – разными, хотя их форма почти одинакова. Для мигрирующих птиц, ориентирующихся по звездам на небе, положение созвездий в разные периоды ночи будет весьма примечательным; среднестатистический человек вообще едва ли заметит их положение.

Но если мы опускаемся на уровень репрезентаций, мы сталкиваемся с менее эфемерными сущностями, которые можно точно сосчитать и сравнить. Хорошая теория психологии должна предполагать, что репрезентации, требующиеся для более «сложной» задачи, содержат больше символов или запускают более длинную цепочку демонов, чем репрезентации, требующиеся для «легкой» задачи. Она должна предполагать, что репрезентации «похожих» объектов содержат больше общих символов и меньше различных символов, чем репрезентации «непохожих» объектов. «Примечательные» объекты должны иметь репрезентации, отличные от всех соседних объектов; «незаметные» объекты должны иметь одинаковые репрезентации.

Исследователи в русле когнитивной психологии пытались рассматривать под разными углами вопрос о внутренних ментальных репрезентациях, анализируя сообщения людей, время реакции и совершенные ошибки в то время, когда эти люди запоминали, решали задачи, узнавали объекты и делали выводы из опыта. То, как люди обобщают опыт, пожалуй, самое наглядное доказательство того, что мозг использует ментальные репрезентации, причем в огромном количестве.

Предположим, вам требуется некоторое время, чтобы научиться читать слова, написанные новым причудливым шрифтом, украшенным завитушками. Вы потренировались на нескольких словах и теперь читаете этот шрифт также быстро, как любой другой. Теперь вы видите знакомое вам слово, которого не было в вашем тренировочном упражнении, – скажем, слово elk («лось»). Придется ли вам заново узнавать, что это слово – существительное? Придется ли вам заново учиться произносить его? Узнавать, что референт этого слова – животное, как этот референт выглядит, что он обладает весом, дышит и кормит детенышей молоком? Конечно, нет. Но это тривиальное умение кое о чем говорит. Ваше знание о слове elk не привязано напрямую к физическим очертаниям напечатанных букв. Если бы это было так, то при использовании нового шрифта ваше знание не имело бы связи с буквами, написанными иначе, и было бы недоступно до тех пор, пока вы не выучите заново все связи. Значит, ваше знание должно быть связано с неким узлом, номером, адресом в памяти или статьей в ментальном словаре, представляющей абстрактное слово elk, причем эта статья должна быть нейтральна по отношению к тому, как это слово пишется и произносится. Запомнив новый шрифт, вы создали новый визуальный механизм запускания для букв алфавита, которые, в свою очередь, запускают старую статью, соответствующую слову elk; в результате все, что связано с этой статьей, моментально становится доступно для использования – вам не нужно заново привязывать по кусочку все, что вы знаете о лосях, к новой форме букв, составляющих это слово. Это доказывает, что наше мышление содержит ментальные репрезентации, привязанные к абстрактным статьям на каждое слово, а не к форме слов, напечатанных на бумаге⁸⁰.

Такие неожиданные изменения и арсенал внутренних репрезентаций, о котором они свидетельствуют, представляют собой отличительную особенность когнитивной способности человека. Если бы вы узнали, что другое название лося – wapiti («вапити»), вы бы взяли все факты, привязанные к слову elk, и моментально перенесли их на слово wapiti вместо того, чтобы по одной переносить каждую связь на новое слово. Конечно, перенесенными оказались бы только ваши познания в области зоологии; вы же не станете произносить слово wapiti так же, как и слово elk. Это наводит на мысль, что мышление обладает уровнем репрезентации, специфичным для концептов, стоящих за словами, а не для самих слов. Наше знание фактов о лосях привязано к концепту; слова elk и wapiti тоже привязаны к концепту, а написание е-1-k и произношение [elk] привязаны к слову elk.

До сих пор мы двигались от шрифта вверх; теперь давайте попробуем двигаться вниз. Если вы научились распознавать этот шрифт написанным черными чернилами на белой бумаге, то вам не придется переучиваться, чтобы распознать его написанным белыми чернилами на красной бумаге. Здесь мы подходим к уровню визуальных границ. Любой цвет, стыкующийся с любым другим цветом, воспринимается как граница; границы определяют очертание штрихов; определенное расположение штрихов составляет буквенно-цифровой символ.

Разнообразные ментальные репрезентации, связанные с концептом «лось», могут быть представлены с помощью одной диаграммы, которую иногда называют семантической сетью, репрезентацией знаний или пропозициональной базой данных.

Это лишь фрагмент гигантского мультимедийного словаря, совмещенного с энциклопедией и инструкцией по применению, который содержится у нас в голове. Из таких же многослойных репрезентаций состоит все наше мышление. Скажем, я попросил вас написать слово elk любым шрифтом на ваш выбор, но только левой рукой (если вы правша), или написать его на песке большим пальцем ноги, или мини-фонариком, зажатым в зубах. Результат будет небрежным, но узнаваемым. Вероятно, вам придется потренироваться, чтобы движения выходили более плавными, но вам не придется заново переучиваться писать штрихи, из которых состоит каждая буква, не говоря уже про алфавит или написание каждого слова в английском языке. Этот перенос опыта основан на уровне репрезентации двигательного контроля, который определяет геометрическую траекторию, а не сокращения мышц или движения конечностей, которые ее образуют. Траектория будет преобразована в реальные движения управляющей программой низшего уровня для каждой конечности.

Вспомним историю Салли, выбежавшей из горящего здания, которую мы обсуждали в начале этой главы. Ее желание было сформулировано в виде абстрактной репрезентации «спасайся от опасности». Оно не могло быть сформулировано как «убегай от дыма», потому что желание спастись могло быть инициировано не только дымом, но и другими признаками (а бывают случаи, когда дым не инициирует это желание), а спастись из горящего дома она могла не только бегом, но и с помощью других действий. И все же ее поведенческая реакция была сформирована мгновенно и впервые. Значит, мышление Салли должно быть модульным: один его элемент оценил опасность, другой решил, нужно ли спасаться, а третий определил, каким образом это сделать.

Комбинаторный анализ мыслекода и других репрезентаций, состоящих из частей, позволяет объяснить неистощимый репертуар человеческих мыслей и действий. Используя несколько элементов и несколько правил их сочетаемости, можно получить неизмеримо огромное количество самых разных репрезентаций, поскольку количество возможных репрезентаций увеличивается в геометрической прогрессии относительно их размера. Очевидный пример – язык. Скажем, у вас есть десять вариантов слова, с которого вы начнете предложение, десять вариантов второго слова (а это уже сто вариантов начала предложения из двух слов), десять вариантов третьего слова (а это тысяча вариантов начала из трех слов), и т. д. (Кстати, десять – это среднее геометрическое значение количества вариантов слов, имеющихся в нашем распоряжении в каждый момент, когда мы составляем грамматически правильное и имеющее смысл предложение). Элементарная арифметика показывает, что количество предложений из двадцати и менее слов (это достаточно распространенная длина предложения) составляет примерно 10²⁰, то есть единица и еще двадцать нолей, или сто миллионов триллионов, или в сто раз больше количества секунд, прошедших с момента рождения Вселенной. Я привел этот пример не для того, чтобы поразить вас богатством языка, а чтобы поразить вас богатством нашего мышления. Ведь язык, в конце концов, это не подражание голосом музыкальному инструменту в джазе: каждое предложение выражает ясную мысль. (Не существует совершенно синонимичных друг другу предложений.) Так что если у людей и есть мысли, которые сложно выразить словами, помимо них есть еще примерно сотня миллионов триллионов других, вполне выразимых⁸¹.

Комбинаторное богатство теоретически возможных структур мы находим во многих сферах человеческой деятельности. Юный Джон Стюарт Милль с тревогой обнаружил, что, поскольку количество музыкальных нот ограничено и максимальный размер музыкального произведения тоже не бесконечен, это означает, что запас мелодий в мире скоро истощится⁸². В то время, когда он грустил по этому поводу, Брамс, Чайковский, Рахманинов и Стравинский еще даже не родились, не говоря уже о целом ряде новых жанров – таких, как рэгтайм, джаз, бродвейские мюзиклы, электрик-блюз, кантри-энд-вестерн, рок-н-ролл, регги, панк. И запас мелодий в ближайшее время вряд ли истощится, потому что музыка по своей сути основана на комбинировании: если каждую ноту мелодии мы выбираем, скажем, в среднем из восьми нот, то получается 64 пар нот, 512 мотивов из трех нот, 4096 музыкальных фраз из четырех нот, и так далее – до множества триллионов музыкальных произведений.

То, с какой будничной легкостью мы обобщаем свои знания, – лишь одно из доказательств того, что в нашей голове есть несколько типов репрезентации данных. Ментальные репрезентации также можно выявить в психологической лаборатории⁸³. Используя тонкие приемы, психологи способны поймать мозг в процессе перехода от одной репрезентации к другой. Прекрасным примером может служить эксперимент, который предлагает нашему вниманию психолог Майкл Познер и его коллеги. Испытуемые сидят перед видеоэкраном, на котором на короткое время появляются буквы: например, «АА». Испытуемых просят нажать одну кнопку, если это одинаковые буквы, и другую кнопку, если буквы разные (например, «АВ»). Иногда обе буквы на экране бывают верхнего регистра или нижнего регистра («АА» или «аа»), то есть они идентичны по физической форме. Иногда одна из букв бывает верхнего регистра, а вторая – нижнего («Аа» или «аА»); это одна и та же буква алфавита, но по физической форме буквы разные. Когда буквы физически идентичны, люди нажимают на кнопки быстрее и правильнее, чем когда они видят физически разные буквы – по-видимому, потому, что люди обрабатывают буквы как зрительные образы и могут сравнивать их по геометрической форме, как шаблоны. Когда одна буква – «А», а другая – «а», людям нужно еще преобразовать их в тот формат, в котором они окажутся эквивалентными, а именно – «буква “а”»; это преобразование добавляет еще около десятой доли секунды к тому времени, которое затрачивается на реакцию. Но вот если две буквы появляются на экране с перерывом в несколько секунд, то не имеет значения, были ли они идентичны по физической форме: последовательность из «А» и «А» обрабатывается так же медленно, как из «А» и «а». Быстрое сравнение с шаблоном уже невозможно. Очевидно, через несколько секунд мозг автоматически преобразует визуальную репрезентацию в алфавитную, не учитывая информацию о геометрической форме.

Подобные эксперименты свидетельствуют о том, что человеческий мозг использует как минимум четыре основных формата репрезентаций. Один из форматов – визуальный образ: это что-то вроде шаблона в виде двухмерной мозаики. (О визуальных образах будет подробнее рассказано в главе 4.) Второй – это фонологическая репрезентация, последовательность слогов, которые мы проигрываем в голове, как петлю магнитной ленты, планируя движения рта и представляя, как будут звучать слоги. Такая линейная репрезентация – важный компонент нашей краткосрочной памяти: например, найдя в справочнике нужный телефонный номер, мы повторяем его про себя, пока не наберем его на телефоне. Фонологическая краткосрочная память может удерживать от четырех до семи «кусков» информации в течение времени от одной до пяти секунд. (Краткосрочная память измеряется «кусками», а не звуками, потому что каждый из таких «кусков» может быть ярлыком, указывающим на более крупную структуру информации в долгосрочной памяти – такую, как содержание целой фразы или предложения.) Третий формат – это грамматическая репрезентация: существительные и глаголы, фразы и предложения, основы и корни, фонемы и слоги – все это образует иерархические структуры. В книге «Язык как инстинкт» я объясняю, каким образом эти репрезентации предопределяют, из чего будет состоять предложение, и как люди общаются и играют с языком⁸⁴.

Четвертый формат – это мыслекод, язык мыслей, которым формулируются наши концептуальные знания. Отложив в сторону книгу, вы забываете практически все про то, какие в ней были фразы, каким шрифтом были напечатаны предложения и как они были расположены на странице, а запоминаете только их содержание, основную суть. (Участники тестов на память уверенно «узнают» предложения, которые они никогда не видели, если они представляют собой перифразы предложений, которые они действительно видели.) Мыслекод – это язык-посредник, которым выражается содержание или суть; некоторые элементы мыслекода я уже приводил, когда говорил о «доске объявлений» продукционной системы и об уровнях «знания» и «концептах» в семантической сети (см. схему на с. 102). Мыслекод – это лингва-франка нашего мышления, поток информации между ментальными модулями, позволяющий нам описывать то, что мы видим, представлять то, что нам рассказывают, выполнять указания, и т. д.⁸⁵ Этот информационный поток отражает и анатомия мозга. Гиппокамп и связанные с ним структуры, помещающие наши воспоминания в долгосрочную память, и лобные доли мозга, в которых размещаются зоны принятия решений, не связаны напрямую с зонами мозга, обрабатывающими входные сигналы от органов чувств (мозаику цветов и цветовых переходов, ленту изменения высоты звука). По большинству подводящих волокон к ним подается то, что нейробиологи называют данными «с высокой степенью переработки»; он поступает из областей, расположенных на один-два уровня ниже зон первоначального сенсорного восприятия. Эта входная информация состоит из кодов, соответствующих объектам, словам и другим сложным концептам⁸⁶.

Зачем нам столько разных видов репрезентаций? Не проще было бы мозгу оперировать чем-то вроде языка эсперанто? На самом деле, это было бы ужасно сложно. Модульная организация ментального «программного обеспечения», предусматривающая пакетирование разных типов данных в отдельные форматы, – отличный пример того, как эволюция и инженерная мысль приходят к одинаковым решениям. Брайан Керниган, настоящий знаток программирования, написал в соавторстве с П.Ж.Плоджером книгу под названием «Элементы стиля программирования», в названии которой обыгрывается заголовок известного учебника Странка и Уайта по писательскому мастерству «Элементы стиля»⁸⁷. Авторы дают советы относительно того, что нужно, чтобы программа отличалась высокой производительностью, эффективностью работы и способностью правильно развиваться. Один из их главных принципов – «Заменяйте повторяющиеся выражения обращениями к функциям». К примеру, если программа должна вычислить площадь трех треугольников, для этого ей не нужно иметь три разные команды, в каждой из которых содержится отдельная копия формулы вычисления площади треугольника с координатами одного из треугольников. Вместо этого формула должна быть указана в программе один раз. Должна быть функция «вычисление площади треугольника» и слоты X, Y и Z, которые могут заполняться любъини координатами треугольника. Эта функция может использоваться трижды, при этом слоты X, Y и Z будут заполняться координатами, полученными из вводных данных. Описанный принцип устройства приобретает еще большую значимость, когда функция превращается из линейной формулы в многоступенчатую подпрограмму; на этом принципе основаны следующие ниже взаимосвязанные максимы, которым, кажется, следовал и естественный отбор, когда создавал наше модульное, многоформатное мышление:

Разбивайте программу на модули.

Используйте подпрограммы.

Каждый модуль должен выполнять одну функцию, но хорошо.

Убедитесь в том, что в каждом модуле что-то локализовано.

Ввод и вывод выделяйте в подпрограммы.

Второй принцип отражен в следующей максиме:

Выбирайте такое представление данных, которое упрощает программу[9].

Керниган и Плоджер приводят пример программы, которая считывает строку текста, а потом должна распечатать ее с выравниванием по центру. Строка текста может храниться в разных форматах (как последовательность знаков, как список координат и т. д.), но только один из форматов делает центрирование по-настоящему простой задачей: выделение в памяти восьмидесяти последовательных слотов, отражающих восемьдесят возможных положений символа на дисплее ввода-вывода. В этом случае центрирование может быть безошибочно выполнено в несколько шагов для входных данных любого объема; при использовании любого другого формата потребуется гораздо более сложная программа. Предположительно, разные форматы репрезентации, используемые человеческим мозгом, – изображения, фонологические петли, иерархические структуры, мыслекод – сформировались в процессе эволюции потому, что они позволяют простым программам (глупым демонам или гомункулам) получать полезные для них результаты.

А если вас привлекает интеллектуальная стратосфера, в которой объединены «сложные системы» всех типов, вас, вероятно, заинтересует аргумент Герберта Саймона о том, что модульная структура компьютера и мозга – это лишь частный случай модульной, иерархической организации всех сложных систем. Тела состоят из тканей, сделанных из клеток, состоящих из органелл; вооруженные силы включают в себя армии, каждая из которых состоит из дивизий, разделенных на батальоны, состоящие из взводов; книги состоят из глав, разделенных на части, разделы, абзацы и предложения; империи состоят из стран, областей и территорий. Эти «почти разложимые» системы определяются масштабными взаимодействиями между элементами одного и того же компонента и менее многочисленными взаимодействиями между элементами разных компонентов. Сложные системы представляют собой иерархии модулей, потому что только элементы, увязанные друг с другом в пределах одного модуля, могут оставаться стабильными достаточно долго, чтобы монтироваться в более крупные и еще более крупные модули⁸⁸. Саймон приводит аналогию с двумя часовщиками, которых звали Хора и Темпус:

Каждые часы, изготовленные мастерами, состояли примерно из 1000 деталей. Темпус сконструировал свои таким образом, что если одни часы были частично собраны и ему приходилось отложить их – скажем, чтобы ответить на звонок, – они тут же рассыпались на части, и приходилось собирать их сначала…

Часы, которые изготавливал Хора, были не менее сложными, чем у Темпуса. Но он спроектировал их таким образом, что мог собирать узлы, состоящие примерно из десяти элементов каждый. Десять таких узлов, опять же, можно было объединить в более крупный узел, а система из десяти больших узлов составляла готовые часы. Таким образом, когда Хора был вынужден отложить незаконченные часы, чтобы ответить на телефонный звонок, он терял лишь малую часть своей работы, и на сборку у него уходила лишь часть того времени, которое затрачивал Темпус⁸⁹.

Наша сложная умственная деятельность подобна мудрости Хоры. Проживая свою жизнь, нам совсем не нужно продумывать каждую закорючку и планировать каждое сокращение мышц. Благодаря словесным символам, любой шрифт может пробудить в сознании какой угодно элемент знаний. Благодаря символам целей, любой признак опасности может активизировать любой способ защиты.

Смею надеяться, что вознаграждением за долгие рассуждения о ментальных вычислениях и ментальных репрезентациях, через которые я вас провел, стало понимание того, на какую сложность, тонкость и гибкость способен человеческий разум, даже если он – всего лишь машина, всего-навсего бортовой компьютер робота, сделанного из живых тканей. Нам не нужны духи или оккультные силы, чтобы объяснить интеллект. Не нужно нам и игнорировать очевидное в надежде сделать свое объяснение более научным, утверждая, что человек – всего лишь куча обусловленных ассоциаций, марионетка генов или раб примитивных инстинктов. Мы можем совместить живость и проницательность человеческого ума с механистической основой, без которой сложно его объяснить. Последующие главы, в которых предпринимается попытка дать объяснение здравому смыслу, эмоциям, общественным отношениям, юмору, искусству, основаны на фундаменте представлений о сложной вычислительной психике.

Действующий чемпион

Конечно, если бы никто не взялся оспаривать истинность вычислительной теории, это означало бы, что она бессодержательна. На самом деле она подвергалась самой жесткой критике. Как в случае с любой теорией, которая стала столь незаменимой, обыкновенных придирок было недостаточно; чтобы разрушить ее, нужно было подорвать ее основания, никак не меньше. За эту задачу решили взяться два ярких автора. Оба выбрали оружие вполне подходящее для такого случая, но совершенно разное: один решил прибегнуть к здравому смыслу; второй – к понятным лишь посвященным физике и математике.

Первым с критикой выступил философ Джон Серль. Серль считает, что опроверг вычислительную теорию сознания еще в 1980 году с помощью мысленного эксперимента, который он с небольшими изменениями позаимствовал у другого философа, Неда Блока (который, как ни парадоксально, был одним из наиболее активных сторонников вычислительной теории). Версия Серля стала известна под названием «китайская комната». Человека, который не знает китайского языка, помещают в комнату. Под дверь подсовывают листки бумаги с какими-то закорючками. Человеку дают целый список сложных указаний вроде следующего: «Если увидите надпись [закорючка закорючка закорючка], напишите [каракули каракули каракули]». Некоторые из этих правил предписывают подсовывать написанные им каракули обратно под дверь. Он достаточно прилежно выполняет инструкции, не подозревая, что закорючки и каракули – это китайские иероглифы, а инструкции – это программа искусственного интеллекта, предназначенная для того, чтобы отвечать на вопросы о рассказах на китайском языке. Человек, находящийся по другую сторону двери, делает вывод, что в комнате находится человек, владеющий китайским как родным. Так вот, если понимание заключается в том, чтобы запустить подходящую компьютерную программу, значит, участник эксперимента понимает китайский, потому что он как раз использует подходящую программу. Но этот человек не понимает ни слова по-китайски; он просто манипулирует символами. Следовательно, понимание – и, если уж на то пошло, любой другой аспект интеллекта – не то же самое, что манипуляция символами или вычисление⁹⁰.

Серль утверждает, что программе не хватает интенциональности: связи между символом и тем, что он обозначает. Многие интерпретировали его слова так, будто программе не хватает сознания. Действительно, Серль считает, что сознание и интенциональность тесно связаны, ведь мы осознаем, что мы имеем в виду, когда думаем о чем-то или используем какое-либо слово. Интенциональность, сознание, другие явления мыслительной деятельности обусловлены не обработкой информации, заключает Серль, а «реальными физико-химическими свойствами реального человеческого мозга» (хотя что это за свойства, он так и не уточняет)⁹¹.

«Китайский эксперимент» вызвал поистине невообразимые дебаты. В ответ на него было опубликовано более сотни статей, и для меня это стало прекрасной причиной удалить свое имя из всех списков участников интернет-обсуждений. Тем, кто утверждает, что вся комната в целом (человек плюс список инструкций) понимает китайский язык, Серль отвечает: ладно, представим, что этот парень выучил наизусть все правила, теперь он производит все вычисления в уме и работает вне комнаты. Комнаты больше нет, но наш с вами манипулятор символами по-прежнему не понимает по-китайски. Тем, кто заявляет, что у этого человека нет никакой сенсорно-двигательной связи с миром, и что именно это – главное недостающее звено, Серль отвечает: предположим, что поступающие в комнату каракули – выходной сигнал телевизионной камеры, а закорючки, поступающие из комнаты, – команды роботизированной руке. Теперь у него есть связь с миром, но он по-прежнему не говорит на китайском языке. Тем, кто говорит, что эта программа не отражает деятельность мозга, Серль приводит аналог «китайской комнаты», придуманный Блоком, – «китайский спортзал»: миллионы людей в огромном спортзале ведут себя так, словно они – нейроны; они кричат друг другу по рации сообщения, воспроизводя работу нейронной сети, которая отвечает на вопросы к рассказам на китайском языке. Но и люди в этом спортзале понимают по-китайски не больше, чем тот парень в закрытой комнате.

Тактика Серля заключается в том, чтобы вновь и вновь обращаться к нашему здравому смыслу. Так и кажется, что он говорит: «Эй, да ладно! Вы что, хотите сказать, что этот парень понимает по-китайски??!!! Да хватит вам! Он не понимает ни слова! Он всю жизнь прожил в Бруклине!!» и так далее. И все же история доказывает, что наука, мягко говоря, не слишком снисходительно относится к простодушной интуиции здравого смысла. Философы Патриция и Пол Черчленд предлагают нам представить, как аргумент Серля можно использовать против теории Максвелла о том, что свет состоит из электромагнитных волн. Человек держит в руке магнит и машет им вверх-вниз. Человек создает электромагнитное излучение, но никакого света не видно; следовательно, свет – это не электромагнитные волны. Мысленный эксперимент замедляет волны до такого диапазона, при котором мы, люди, уже не видим их как свет. Доверяя своему восприятию в ходе мысленного эксперимента, мы можем прийти к ложным выводам о том, что быстрые волны тоже не могут быть светом⁹². Серль аналогичным образом свел мысленные вычисления к тому скоростному диапазону, в котором мы, люди, уже не воспринимаем его как понимание (ведь понимание обычно происходит гораздо быстрее). Доверяя своей интуиции во время мысленного эксперимента, мы приходим к ложному заключению о том, что быстрое вычисление тоже не может быть пониманием. Если бы ускоренная версия нелепой истории, предложенной Серлем, стала реальностью, и мы бы встретили человека, который производил впечатление свободно общающегося на китайском языке, но на самом деле за доли секунды осуществлял бы миллионы мысленных операций в соответствии с выученными правилами, неясно, стали ли бы мы отрицать, что он понимает по-китайски.

Мое личное мнение – что Серль просто исследует факты, связанные с английским словом understand («понимать»). Люди не хотят использовать это слово, если ситуация не характеризуется определенными стереотипными условиями: правила языка используются быстро и неосознанно, а содержание языка связано с убеждениями человека как единого целого. Если люди отказываются описывать этим повседневным словом экзотические условия, разрушающие стереотип, но при этом сохраняющие суть этого явления, то с научной точки зрения мы ничем особенно не рискуем. Можно подобрать другое слово или условиться использовать старое слово в специальном значении, какая разница! Трактовка того, как устроено понимание, останется той же. В конце концов, цель науки – исследовать устройство вещей, а не определять, какие из этих вещей «действительно» являются примерами знакомого всем слова. Если какой-нибудь ученый объясняет функционирование локтевого сустава человека, говоря, что это рычаг второго рода, что за опровержение будет, если мы попросим представить человека, держащего в руке рычаг второго рода, и заявим: «Посмотрите, ведь у этого человека не три локтя\\»

Что касается «физико-химических свойств» мозга, я уже обозначил основную проблему: опухоли мозга, мышиные мозги, нервные ткани в пробирке понимать не могут, но их физико-химические свойства остаются такими же, как и у нашего мозга. Вычислительная теория так объясняет различие: эти куски нервной ткани не образуют структуру связей, нужную для данного типа обработки информации. Например, у них нет компонентов, которые отличают глагол от существительного; их модели деятельности не рассчитаны на соблюдение правил синтаксиса, семантики, здравого смысла. Конечно, это всегда можно назвать различием в физико-химических свойствах (в том же самом смысле, в котором две книги различаются своими физико-химическими свойствами), но тогда этот термин будет бессмысленным, потому что он уже не будет определяться языком физики и химии.

В том, что касается мысленных экспериментов, переход на другую сторону – привычное дело. Вероятно, самый весомый контраргумент «китайской комнате» Серля мы находим в рассказе фантаста Терри Биссона, получившем широкое распространение в Интернете. Рассказ написан в форме разговора между предводителем межпланетного флота исследовательских космических кораблей и его главнокомандующим, и начинается этот диалог так:

– Они сделаны из мяса.

– Из мяса?

…

– В этом не может быть сомнений. Мы отобрали нескольких представителей из разных мест планеты, доставили их на борт нашей лаборатории и исследовали их до мельчайших подробностей. Они полностью мясные.

– Это невозможно! А как же радиосигналы? Послания к звездам?

– Они используют радиоволны для общения, но сигналы исходят не от них, а от машин.

– Так кто сделал машины? Вот с кем нам надо найти контакт!

– ОНИ сделали машины. Об этом я тебе и пытаюсь сказать. Мясо сделало машины.

– Это смешно! Как может мясо сделать машину? Ты просишь меня поверить в разумное мясо?

– Я не прошу, я говорю. Эти создания – единственная разумная раса в этом секторе, и они сделаны из мяса.

– Может, они как орфоли? Ну тот углеводный интеллект, который проходит через стадию мяса?

– Вовсе нет. Они как рождаются мясом, так мясом и умирают. Мы изучили их в нескольких поколениях, которые очень недолговечны. Как ты думаешь, сколько живет мясо?

– Не до того! Хорошо, может они только частично мясные. Знаешь, как веддили. Мясная голова, а внутри мозг из электронной плазмы.

– И снова мимо. Мы подумали об этом сразу как увидели эти мясные головы, похожие на веддилические. Но я же сказал, что мы проверили их. Они мясные целиком, сплошь.

– Ну то есть мозга нет?

– О, у них нормальный мозг. Просто этот мозг СДЕЛАН ИЗ МЯСА! Я давно уже пытаюсь тебе это сказать!

– Так… а что же думает?

– Ты что, не понимаешь? Ты не слышишь, что я говорю? Мозг думает! Мясо.

– Думающее мясо! Ты просишь меня поверить в думающее мясо!

– Да, думающее мясо! Сознательное мясо! Любящее мясо. Мечтающее мясо. Всё в мясе. Ты начинаешь понимать или мне начать все с начала?[10]⁹³

Второй критик вычислительной теории сознания – математик и физик Роджер Пенроуз – в своем бестселлере под названием «Новый ум короля» (вот это я понимаю, сильное опровержение!) строит критику не на обращении к здравому смыслу, а на глубокомысленных вопросах логики и физики. Он утверждает, что из знаменитой теоремы Гёделя следует, что все математики – и, соответственно, все люди вообще – не компьютерные программы.

Грубо говоря, Гёдель доказал, что любая формальная система (такая, как компьютерная программа или совокупность аксиом и правил логического вывода в математике), даже умеренно эффективная (достаточно эффективная, чтобы констатировать арифметические истины) и последовательная (не порождающая противоречащих друг другу утверждений) может генерировать утверждения, которые истинны, но истинность которых не может быть доказана системой. Поскольку мы, математики, будучи людьми, можем просто увидеть, что эти утверждения истинны, мы не являемся формальными системами, как компьютеры. Пенроуз считает, что способности математика происходят от аспекта сознания, который не может быть интерпретирован как вычисление. Более того, не может он объясняться и деятельностью нейронов – они слишком велики для этого. Он не может объясняться теорией эволюции Дарвина. Он не может быть объяснен даже физикой в современном понимании этого слова. В микротрубочках, составляющих миниатюрный скелет нейронов, имеют место квантово-механические эффекты, которые должны интерпретироваться в рамках пока не сформулированной квантовой теории гравитации. Эффекты эти настолько непостижимы, что это сравнимо с непостижимостью самого сознания⁹⁴.

Математический аргумент Пенроуза логики назвали ошибочным; другие его утверждения получили нелестные отзывы от специалистов в других областях, относящихся к предмету. Одна из главных проблем заключается в том, что реальные математики не обладают талантами, которые Пенроуз приписывает идеализируемому математику: такими, как уверенность в том, что система правил, на которую он полагается, последовательна. Другая проблема – в том, что квантовые эффекты почти наверняка сводятся на нет в нервной ткани. Третья – в том, что микротрубочки имеются во всех видах клеток и, по-видимому, не играют никакой роли для наличия у мозга интеллекта. Четвертая – в том, что сложно даже представить себе, как сознание может возникнуть из квантовой механики.

Аргументы Пенроуза и Серля объединяет нечто большее, чем общий противник. В отличие от теории, против которой они направлены, они имеют так ничтожно мало общего с открытием и интерпретацией явлений в научной практике, что остаются эмпирически стерильными; они не позволяют проникнуть в суть вещей и не вдохновляют на научные открытия относительно того, как работает мышление. Собственно, на самый интересный вывод, следующий из «Нового ума короля», указывает Деннетт. Выдвигая обвинения в адрес вычислительной теории сознания, Пенроуз, сам того не желая, делает ей комплимент. Вычислительная теория так хорошо вписывается в наше понимание мира, что для того, чтобы ее опровергнуть, Пенроузу приходится отвергнуть подавляющую часть современных достижений нейробиологии, эволюционной биологии и физики!⁹⁵

Заменят ли нас машины?

В рассказе Льюиса Кэрролла «Что Черепаха сказала Ахиллу» быстроногий греческий воин догоняет неспешную черепаху, тем самым опровергая апорию Зенона о том, что, сколь бы малое преимущество на старте ни получила черепаха, Ахилл не сможет ее догнать. (За то время, которое потребуется Ахиллу, чтобы преодолеть это расстояние, черепаха пройдет еще небольшую часть пути; за то время, которое потребуется Ахиллу, чтобы преодолеть это небольшое расстояние, черепаха пройдет еще немного, и так до бесконечности.) Черепаха предлагает Ахиллу аналогичный парадокс из области логики. Ахилл достает из своего шлема огромный блокнот и карандаш, а черепаха диктует ему первую аксиому Евклида: