Дизайн вещей будущего Норман Дональд

Косвенные сигналы и коммуникация

Всякий раз, входя в научную лабораторию, я смотрю, как она выглядит. Если все аккуратно разложено по местам, у меня возникает подозрение, что в этой лаборатории не слишком много работают. Мне нравится беспорядок, он означает, что сотрудники – занятые и увлеченные люди. Беспорядок – это признак интенсивного труда, имеющий естественное происхождение.

Мы всегда оставляем следы наших действий: отпечатки ног на песке, мусор в ведре, книги на столах, тумбочках и даже на полу. В семиотике это называют «знаками» или «сигналами». А любителю детективов такие следы известны как «улики», и с тех пор как в детективной литературе появился зоркий глаз Шерлока Холмса, они свидетельствуют о тех или иных действиях людей. Эти случайно оставленные «улики» итальянский психолог, специалист по теории познания Кристиано Кастельфранки называет «имплицитной коммуникацией». Ее поведенческие проявления Кастельфранки определяет как естественные побочные эффекты, которые поддаются истолкованию. Для этого «не требуются специальные знания или навыки либо передача таких знаний и навыков, – отмечает он. – Речь идет о перцептивных моделях обыденного поведения и их распознавании». Имплицитная коммуникация – один из важных элементов конструирования «умных» машин, поскольку речь идет о непрерывной передаче информации, не вызывающей раздражения и даже не требующей полного внимания.

Следы, беспорядок в лаборатории, подчеркивания в тексте, стикеры на полях книжных страниц, звуки, издаваемые лифтом или бытовыми приборами, – это косвенные сигналы естественного происхождения, позволяющие нам понять, что происходит вокруг, пришло ли время вмешаться и начать действовать или можно спокойно игнорировать происходящее и продолжать заниматься своим делом.

В этой связи можно привести хороший пример, связанный со старой телефонной связью. В прежние времена, звоня в другую страну, вы слышали щелчки, шипение и шумы, позволявшие понять, что вас соединяют. По этим звукам можно было даже определить, на какой стадии находится процесс. Затем, по мере совершенствования оборудования и технологий, телефонные линии становились все «тише», пока не стали совсем бесшумными. Но вместе с шумом ушли в прошлое и косвенные «сигналы». Люди, ожидавшие соединения, слышали лишь тишину и порой, сочтя, что связи нет, вешали трубку. В результате возникла необходимость вернуть звуки в телефонные сети, чтобы люди знали, что их звонок обрабатывается. Инженеры, воспринимающие нужды потребителей с изрядной долей высокомерия, назвали это «успокаивающим шумом». Но такие знаки не просто «успокаивают». Это и есть «имплицитная коммуникация», подтверждающая, что звонок принят и система устанавливает соединение. Косвенное подтверждение действительно успокаивает и обнадеживает.

Звук – это важное информативное средство обратной связи, но у него есть и обратная сторона. Звуки часто нам докучают. Если мы не хотим чего-то видеть, можно просто закрыть глаза, но у ушей нет век. Психологи даже составили «шкалу раздражения» для различных шумов и других звуков. Нежелательный звук может прервать беседу, помешать сосредоточиться, вывести из равновесия. Поэтому немало усилий тратится на то, чтобы сделать оборудование в офисах, на производстве и в домах менее шумным. В частности, автомобили стали такими «тихими», что еще много лет назад фирма «Роллс-Ройс» хвастливо заявляла: «На скорости 60 миль в час самый громкий звук, который издает наша новая модель, – это тиканье электронных часов».

Тишина – это прекрасно, но в ней таятся свои опасности. При полной звукоизоляции машины шофер не слышит сирен автомобилей чрезвычайных служб, гудков других водителей, даже не замечает признаков изменения погоды. Если дорожное покрытие ощущается как гладкое, независимо от его реального состояния и скорости, как водителю понять, что он едет слишком быстро? Звуки и вибрация – это естественные индикаторы, косвенные сигналы важных ситуаций. В электромобилях двигатель настолько бесшумен, что даже водитель не слышит, как он работает. Пешеходов, подсознательно полагающихся на звук, который предупредит их о приближении машины, электромобили (и другие бесшумные транспортные средства, например велосипеды) не раз заставали врасплох. Вот почему пришлось оснастить электромобиль сигналом, напоминающим водителю, что мотор работает (увы, один из производителей выбрал для этого самый неестественный из звуков – гудок). Еще более важная задача состоит в том, чтобы шум приближающейся машины могли слышать окружающие. Американская Национальная федерация слепых – организация, члены которой особенно страдают от бесшумности современных транспортных средств, – предлагает снабдить автомобили специальной «жужжалкой», срабатывающей в начале движения. При удачном воплощении она могла бы стать естественным сигналом, меняющимся в зависимости от скорости автомобиля, что было бы еще полезнее.

Поскольку звук может быть и информативным, и раздражающим, перед проектировщиками встает трудная задача: как усилить его полезные свойства, минимизировав при этом раздражающий эффект. Порой этого можно добиться, если приглушить неприятные звуки, снизить их интенсивность, свести к минимуму изменение частот и попытаться создать приятную акустическую среду. Небольшие изменения акустического фона могут стать эффективным средством коммуникации. Так, дизайнер Ричард Сэппер создал чайник, свисток которого звучит мелодично, переходя от ноты «ми» к ноте «си». Отметим, что даже неприятные звуки приносят пользу: сирены пожарных машин и машин «скорой помощи», пожарная тревога и иные предупреждения об опасности специально делаются громкими и резкими, чтобы привлечь максимальное внимание.

Звук хорош там, где он является естественным сопровождением взаимодействия, случайные, бессмысленные звуки почти всегда раздражают. Поскольку звуки, даже при умелом использовании, могут быть очень неприятными, в некоторых случаях их следует просто исключить. В конце концов существуют и другие формы сигналов – световые или осязательные.

Механические регулирующие устройства порой снабжены тактильными сигналами предпочтительных вариантов настройки (своего рода «имплицитная коммуникация»). К примеру, вращая регулятор тембра, вы ощущаете легкое сопротивление, когда переводите его из рекомендуемого положения в другой режим. Смеситель может отказаться устанавливать температуру выше той, на которую он настроен: чтобы сделать воду теплее, надо нажать специальную кнопку. Сигнал регулятора тембра позволяет быстро и эффективно вернуть его в прежнее положение, а блокировка смесителя предупреждает о том, что слишком высокая температура может доставить вам неприятные ощущения, а для некоторых людей просто опасна. Аналогичные ограничители порой устанавливаются на дроссельных заслонках самолетов: если вы сдвигаете рычаг вперед, он останавливается в тот момент, когда слишком сильная подача топлива может повредить двигатели. Однако в чрезвычайных ситуациях, если пилот считает, что во избежание катастрофы необходимо проигнорировать это ограничение, он может преодолеть сопротивление рычага – ведь в этом случае повреждение двигателя не самое страшное, что может случиться.

Другое возможное направление работ – это знаки в буквальном смысле слова. Читая книги и журналы, мы зачастую оставляем на них «метки» – потрепанные страницы, загнутые уголки, стикеры, подчеркивания, пометки на полях. Почему бы не сделать то же самое в электронных документах? В конце концов компьютер запоминает, какие тексты вы читали, какие страницы просматривали, а какие пропускали, на каких абзацах вы останавливались. Почему бы не ввести в его программу «следы износа», чтобы пользователь мог понять, какие фрагменты редактировались, комментировались, больше всего читались? Именно этим занимаются ученые Уилл Хилл, Джим Холлан, Дэйв Вроблевски и Тим МакКэндлесс – они снабжают электронные документы маркерами, показывающими, какие разделы пользуются наибольшей популярностью у читателей. Загрязнение и износ свидетельствуют о востребованности, актуальности и важности текстов. Электронные версии могут позаимствовать эти полезные признаки, но без таких отрицательных побочных эффектов, как грязь, засаленность и повреждения бумаги. Косвенное взаимодействие – интересная основа для разработки систем с искусственным интеллектом. Не нужно слов, не нужно принуждения, на рекомендуемые действия указывают простые и понятные обеим сторонам «знаки».

Имплицитная коммуникация может стать мощным инструментом ненавязчивой передачи информации. Другое важное направление – использование возможностей аффордансов, о котором мы поговорим в следующем разделе.

Аффордансы как средство коммуникации

Все началось с электронного письма, в котором преподаватель информатики из Рио-де-Жанейро Кларисса де Соуза выразила несогласие с моим определением аффорданса. «На самом деле аффорданс – это общение между дизайнером и потребителем», – писала она. «Нет, аффорданс – одна из форм взаимоотношений, существующих на свете. Она просто есть и к общению никакого отношения не имеет», – возражал я.

Я ошибался. Кларисса оказалась права. Когда я приехал в Бразилию и провел там прекрасную неделю, ей удалось меня переубедить. Затем она развила свои идеи в очень важном труде «Семиотическая инженерия». Одним словом, я стал сторонником ее концепции и написал на книгу следующий отзыв: «Если представить себе дизайн как общение, а технологии как средство такого общения, вся философия дизайна резко меняется, но в позитивном и конструктивном духе».

Чтобы понять суть нашей дискуссии, позвольте мне остановиться и рассказать о первоначальной концепции аффорданса, а также о том, как это понятие вошло в дизайнерский лексикон. Начнем с простого вопроса: как мы действуем в этом мире? В процессе работы над «Дизайном привычных вещей» я размышлял над ответом. Когда мы сталкиваемся с новыми вещами, то в большинстве случаев начинаем ими пользоваться, даже не замечая, что приобрели уникальный опыт. Как это у нас получается? В жизни нам встречаются сотни тысяч разнообразных предметов, и, как правило, мы знаем, что с ними делать – не задумываясь и не пользуясь никакими инструкциями. Если у нас возникает какая-то потребность, мы зачастую изобретаем оригинальные, или, как их еще называют, «импровизированные», способы ее удовлетворения – подкладываем сложенную бумажку под ножку стола, чтобы он не шатался, завешиваем окно газетами, чтобы защититься от яркого света. Много лет назад, размышляя над этим вопросом, я понял, что ответ связан с одной из форм имплицитной коммуникации, которую мы сегодня называем аффордансом.

Само понятие «аффорданс» ввел в оборот великий психолог Дж. Дж. Гибсон. С его помощью он объяснял, как мы воспринимаем окружающий мир. Гибсон определял аффордансы как возможности активного действия, которые предоставляют индивиду или животному внешние объекты или среда. Так, стул «предлагает» взрослому человеку сесть и облокотиться на спинку, но маленькому ребенку, или муравью, или слону это предложение не подходит. Аффордансы – это не фиксированные свойства объекта, а отношения между объектами и субъектами. Более того, по Гибсону, аффордансы существуют независимо от того, очевидны они или нет, замечаем мы их или не замечаем, и даже независимо от того, знает ли кто-нибудь вообще об их существовании. Наше знание или незнание здесь ни при чем.

Я позаимствовал у Гибсона это понятие и попытался продемонстрировать, как его можно использовать для решения практических проблем дизайна. Хотя Гибсон считал, что аффордансы не обязательно должны быть зримыми, для меня важнейшим их свойством является именно зримость. Я считаю, что, если вы не подозреваете о существовании аффорданса, он становится бесполезным, по крайней мере в данный момент. Иными словами, именно способность человека распознавать и использовать аффордансы позволяет ему эффективно действовать даже в новых для него ситуациях, когда он имеет дело с неизвестными предметами.

Обеспечение эффективных, понятных аффордансов очень важно в дизайне повседневных вещей, будь то кофейные чашки, тостеры или интернет-сайты, но еще большее значение оно имеет для дизайна будущих вещей. Когда речь идет об автоматических, самоуправляемых, «умных» устройствах, нам необходимы внятные аффордансы, которые позволят понять, как с ними взаимодействовать и, что не менее важно, как они сами взаимодействуют с миром. Нам нужны аффордансы, обеспечивающие коммуникацию, поэтому наша дискуссия с Клариссой де Соуза и ее семиотический подход к этому понятию были так важны для меня.

Сила зримых, распознаваемых аффордансов состоит в том, что они определяют поведение людей, причем в лучшем варианте человек даже не подозревает, что его как-то направляют, это сопровождение воспринимается как нечто совершенно естественное. Именно так мы можем успешно взаимодействовать с большинством окружающих нас объектов. Они пассивны и восприимчивы, просто затаились и ждут наших действий. Если речь идет о бытовых приборах, например о телевизоре, мы нажимаем на кнопку пульта, и он переключает каналы. Мы ходим, поворачиваем, толкаем, нажимаем, поднимаем, тянем – и что-то происходит. Задача дизайна – дать нам понять, каков возможный набор действий, какое из них предпринять и как это сделать. Когда мы что-то делаем, мы хотим иметь представление о ходе процесса, а по его завершении понимать, что изменилось.

Таково в общих чертах описание дизайна объектов, с которыми мы сегодня взаимодействуем, – от бытовых приборов до офисного оборудования, от компьютеров до старых автомобилей, от интернет-сайтов и приложений до сложных механических устройств. Задачи, стоящие перед дизайнером, сложны, и их решение отнюдь не всегда бывает успешным, вот почему многие бытовые устройства вызывают у нас раздражение.

Коммуникация с автономными «умными» устройствами

С объектами будущего могут возникнуть проблемы, которые невозможно решить с помощью простой визуализации аффордансов. Самостоятельные, «умные» машины ставят перед нами особые задачи, в том числе и потому, что коммуникация здесь должна быть двусторонней. Как нам обеспечить обоюдное общение человека и машины? Чтобы ответить на этот вопрос, рассмотрим разные случаи взаимодействия человека с машиной (автомобилем, велосипедом, даже с лошадью) и постараемся выяснить, как одна пара «человек + машина» коммуницирует с другой парой «человек + машина».

В главе 1 я говорил о том, что моя идея симбиоза лошади и всадника стала предметом активного изучения специалистами НАСА и немецкого Института транспортной системной техники в Брауншвейге. Они, как и я, ставят своей целью совершенствование человекомашинного взаимодействия.

Побывав в Брауншвейге, я не только познакомился с научными исследованиями, но и узнал кое-что новое об управлении лошадью. Как объяснил мне глава немецкой группы ученых Франк Флемиш, один из важнейших аспектов верховой езды и управления повозкой на конной тяге – это различие между отпущенными и натянутыми поводьями. Когда поводья натянуты, человек напрямую контролирует лошадь, сообщая ей о своих намерениях. При отпущенных поводьях лошади предоставляется больше самостоятельности, что позволяет человеку заниматься своими делами и даже дремать. Отпущенные и натянутые поводья – это два крайних состояния в управлении лошадью, но существует еще целый ряд промежуточных стадий. Более того, даже при натянутых поводьях, то есть при прямом контроле со стороны человека, лошадь может упираться и иным образом сопротивляться его приказам. Точно так же, как при отпущенных поводьях человек в состоянии руководить лошадью, подергивая их, подавая голосовые команды, надавливая на бока бедрами и лодыжками или слегка пришпоривая ее.

Более близкий аналог взаимодействия водителя и автомобиля – это пара «лошадь + кучер» (рис. 3.2). Кучер связан с лошадью не так тесно, как наездник, сидящий на ней верхом, именно потому они больше напоминают пару «среднестатистический водитель-непрофессионал + автомобиль». В обоих случаях связь внутри пар имеет пределы, однако и здесь сохраняется возможность контроля при помощи натянутых и отпущенных поводьев. Отметим, что степень самостоятельности животного и контроля со стороны человека определяется через имплицитную коммуникацию, причем аффордансом здесь являются вожжи. Сочетание имплицитной коммуникации с аффордансами – убедительная и весьма практичная концепция. Этот аспект взаимодействия человека с лошадью может быть очень важным элементом в системах «человек + машина». Их можно проектировать так, чтобы взаимодействие и объем самостоятельности варьировались естественным образом, на основе имеющихся аффордансов и коммуникационных возможностей, которые они предоставляют.

Рис. 3.2. Управление повозкой на конной тяге при отпущенных вожжах.

Если умное животное – лошадь – обеспечивает тягловую силу и держит направление, кучер может расслабиться и особо не управлять ею. Это пример контроля при отпущенных поводьях, когда лошадь действует вполне самостоятельно (снимок сделан автором в Брюгге, Бельгия)

Когда в Брауншвейге я управлял автосимулятором, разница между «отпущенными и натянутыми поводьями» была очевидна. При «натянутых поводьях» основной объем работы проделывал я – выбирал скорость, тормозил, крутил рулем. Однако машина ненавязчиво направляла меня, чтобы я не выезжал за пределы своей полосы. Если я приближался к впереди идущему автомобилю на опасное расстояние, руль слегка отодвигался назад, напоминая, что надо увеличить дистанцию. А если я слишком отставал, рулевая колонка сдвигалась вперед, призывая немного увеличить скорость. При «отпущенных поводьях» машина действовала энергичнее – настолько, что мне практически не приходилось брать дело в свои руки. Создавалось впечатление, что я могу закрыть глаза и полностью довериться автомобилю. К сожалению, время моего визита было ограничено, и я не опробовал всего, что, как я теперь понимаю, следовало бы опробовать. В частности, я так и не выяснил, каким образом водитель может выбирать уровень контроля. А ведь изменения здесь крайне важны, поскольку в чрезвычайной ситуации у человека может возникнуть необходимость быстро вернуть контроль себе, не отвлекаясь от происходящего.

Концептуализация связки «наездник + лошадь» – важное метафорическое средство, помогающее создавать интерфейсы «человек + машина», но его одного явно недостаточно. Нам необходимо больше знаний о подобных интерфейсах, и тот факт, что исследования в этой области уже ведутся, что ученые ищут пути наиболее эффективной передачи намерений человека системе (и наоборот), не может не обнадеживать.

Один из способов, позволяющих системе сообщить о своих целях и намерениях человеку – внятное предъявление избранной стратегии. Группа исследователей во главе с Кристофером Миллером предлагает, чтобы система делилась возможными сценариями («PlayBook») со всеми участниками. Ученые говорят, что в основе их разработок лежит «совместная используемая модель задач в соответствующей области. Эта модель обеспечивает коммуникацию между человеком и автоматом по поводу планов, целей, методов и использования ресурсов – дает что-то вроде установки на игру для спортивной команды. «PlayBook» позволяет оператору взаимодействовать с подчиненными ему системами так же гибко, как и с хорошо обученными подчиненными-людьми, обеспечивая тем самым адаптивную автоматизацию». Идея заключается в том, чтобы человек имел возможность сообщать системе о своих намерениях, выбрав один из конкретных «сценариев», которому она должна следовать, а если управление отдано системе, она должна предъявлять «сценарий», который сама избрала. Эта группа ученых занимается проблемой управления самолетами, поэтому в PlayBook может быть указано, как будет контролироваться взлет и набор высоты. Если система работает самостоятельно, полностью контролируя происходящее, она всегда показывает план, в соответствии с которым намерена действовать, чтобы человек понимал, как ее ближайшие действия вписываются в общую схему, и при необходимости мог изменить план действий. Важнейший элемент здесь – форма презентации. Письменное описание или список планируемых действий вряд ли приемлемы – для обработки информации, поданной в таком виде, требуется слишком много усилий. Чтобы система была эффективна, особенно для обычных людей, которые не захотят проходить специальную подготовку по обращению с «умными» машинами в собственном доме, важно, чтобы ее элементы подавались в простой и доступной форме.

Практическое воплощение подобных концепций я наблюдал на дисплеях больших коммерческих копировальных машин, когда на экран выводится соответствующий «сценарий»: например, пятьдесят копий в дуплексном режиме, на обеих сторонах страницы, отсортированные и сброшюрованные. Мне приходилось видеть прекрасные графические описания процесса. Изображение листа бумаги переворачивается, показывая, что копирование идет с обеих сторон, затем мы видим, как отпечатанный лист ложится на другие, и становится ясно, правильно ли сортируются копии (показано, как укладываются листы – вдоль или поперек). Наконец, на дисплее появляется стопка готовых документов, уже прошитых скрепками, – по ее высоте можно судить, скоро ли закончится копирование.

Делфтские велосипеды

Делфт – очаровательный голландский городок на побережье Атлантики, там находится Делфтский технический университет. Улицы там узкие, а деловой квартал окружен большими каналами. Пешая прогулка от гостиницы до университета – настоящее удовольствие: идешь вдоль каналов, пересекаешь их по мостам, петляешь по узким кривым улочкам. Здесь вам угрожают не автомобили, а велосипедисты, которых в городе великое множество. Они носятся на огромной скорости во всех направлениях, внезапно появляясь перед вами, словно из-под земли, по крайней мере меня они заставали врасплох. В Голландии велосипедисты не ездят по проезжей части или тротуарам, для них существуют отдельные дорожки. Но на главной площади Делфта все обстоит по-другому – там велосипедисты смешиваются с пешеходами.

«Это абсолютно безопасно, – уверяли меня представители принимающей стороны, – только не надо „помогать“ велосипедистам. Не пытайтесь от них увернуться. Не останавливайтесь, не шарахайтесь в сторону. Ведите себя предсказуемо». Иными словами, не надо замедлять ход и менять направление. Велосипедисты тщательно просчитывают траекторию движения, чтобы не столкнуться друг с другом и с пешеходами, и это работает, если не происходит ничего неожиданного. Но когда пешеход пытается уклониться от едущего навстречу велосипеда, дело кончается плохо.

Рис. 3.3. В Голландии очень многие пользуются велосипедами: это, конечно, очень экологично, но чревато некоторым риском для пешеходов, пытающихся перейти площадь. Основное правило в таких ситуациях: действуйте предсказуемо, не пытайтесь облегчить жизнь велосипедистам. Если вы остановитесь или шарахнетесь в сторону, столкновения не избежать (фото автора)

Велосипедное движение в Делфте – пример того, как мы могли бы взаимодействовать с «умными» машинами. В конце концов в данном случае человек (пешеход) действительно взаимодействует с «умной» машиной – велосипедом, то есть с парой «велосипед + человек», где последний обеспечивает и разум, и движущую силу. Таким образом, и пешеход, и пара «велосипед + человек» обладают всей мощью человеческого разума, но тем не менее они не в состоянии координировать свои действия. У пары «велосипед + человек» есть разум, но нет возможностей для коммуникации. Велосипедов много, и движутся они быстрее, чем пешеходы. Пообщаться с велосипедистом невозможно, когда он оказывается на расстоянии достаточно близком, чтобы его окликнуть, разговаривать уже поздно. В отсутствие возможностей для контакта единственный способ взаимодействия – это предсказуемое поведение пешехода. Координации в этом случае не требуется, здесь планирует и действует только пара «велосипед + человек».

Приведенный мною пример очень полезен для дизайна. Если человек не может согласовать свои действия с «умной» машиной, управляемой другим человеком (пара «велосипед + человек»), можно ли надеяться, что ему будет легче координировать их с «умной» машиной, работающей без участия человека? Мораль: не стоит даже и пытаться. «Умные» машины будущего не должны пытаться читать мысли людей, с которыми они взаимодействуют, угадывать их мотивы и прогнозировать их действия. Причин, по которым этого не стоит делать, две: во-первых, машина может ошибиться и, во-вторых, такое гадание делает ее действия непредсказуемыми. Когда человек пытается предугадать, что собирается делать машина, в то время как она сама пытается понять, что собирается делать человек, ни к чему, кроме неразберихи, это привести не может. Вспомним делфтские велосипеды, которые наглядно иллюстрируют главное правило дизайна – будь предсказуемым.

Но тут возникает другая дилемма: кто должен действовать предсказуемо – человек или «умная» машина? Если бы они оба обладали одинаковыми способностями и уровнем интеллекта, это не имело бы значения. Именно так обстоит дело с велосипедами и пешеходами. Разумом в обоих случаях наделен человек, а значит, не важно, кто должен действовать предсказуемо – велосипедист или пешеход. Если они договорятся о том, кто какую роль играет, все будет хорошо. Однако в большинстве случаев эти два компонента не равны. Разум и общие познания людей намного превосходят интеллект и знания машин. Пешеходы и велосипедисты обладают определенным объемом общих знаний или общей основой: единственная проблема связана с отсутствием времени для установления контакта и координации действий. Если же речь идет о человеке и машине, то тут общей основы просто нет, поэтому куда лучше, чтобы предсказуемо вела себя машина, предоставляя человеку адекватно реагировать на ее действия. Вот где может пригодиться идея «сценария», которая поможет людям понять, какими правилами руководствуется машина.

Естественная безопасность

Рассмотрим еще один пример, показывающий, как можно снизить аварийность, изменив представления людей о безопасности. Назовем это концепцией «естественной безопасности», поскольку она связана не с предупреждениями об опасности, сигналами тревоги и вообще каким-либо оборудованием, а с особенностями поведения людей.

В каком аэропорту будет меньше аварий: в «удобном», то есть расположенном на равнине, с хорошим обзором и погодными условиями (наглядный пример – Тусон в Аризонской пустыне), или в «опасном», который находится в холмистой местности с сильными ветрами и затрудненным взлетом и посадкой (например, аэропорты в Сан-Диего и Гонконге)? Правильный ответ – в «опасном». Почему? Да потому что в этих условиях летчики сосредоточенны, внимательны и осторожны. Один из пилотов самолета, чуть было не разбившегося при посадке в Тусоне, сообщил в действующую при НАСА Систему добровольных сообщений о безопасности полетов (ASRS), что «четкая видимость и хорошие погодные условия привели к самоуспокоенности». (К счастью, система защиты от столкновений с землей вовремя предупредила экипаж, и катастрофы удалось избежать. Помните пример, с которого начинается глава 2, когда самолет кричит пилотам «Набрать высоту! Набрать высоту»? Именно такой сигнал тревоги их и спас.) Это же правило, касающееся реальной безопасности и наших представлений о ней, действует и в отношении организации дорожного движения. Почему, становится понятно из слов голландского трафик-инженера Ганса Мондермана, вынесенных в подзаголовок статьи об организации автодорожного движения в Голландии: «Чем более опасной будет выглядеть организация движения для водителя, тем выше будет безопасность на дороге».

На поведение людей очень сильно влияют представления о риске, которому они подвергаются. Многие, к примеру, боятся летать (но не боятся садиться за руль), или, скажем, молнии, которая может в них ударить. Однако езда в автомобиле куда более опасна и для водителя, и для пассажиров, чем авиаперелет. Кстати, о молниях: по данным гражданской авиации США за 2006 год, в авиакатастрофах погибли трое, а от ударов молнии – около пятидесяти человек. Одним словом, летать на самолете безопаснее, чем находиться в грозу под открытым небом. Психологи, изучающие представления о рисках, выяснили, что усиление мер безопасности в какой-либо сфере деятельности зачастую не приводит к снижению аварийности. Этот парадокс породил концепцию «компенсации риска». Если в силу изменений в какой-либо деятельности она начинает восприниматься как менее опасная, люди чаще рискуют и уровень аварийности не меняется.

Таким образом, появление ремней безопасности, мотоциклетных шлемов, защитных щитков у футболистов, более высоких и удобных лыжных ботинок, систем по предотвращению заносов и контроля устойчивости в автомобилях приводит к тому, что люди начинают вести себя более рискованно. Тот же принцип действует и в сфере страхования: застраховавшись от кражи, люди менее внимательно относятся к своему имуществу. Лесники и альпинисты убедились, что наличие подготовленных спасателей приводит к увеличению числа людей, бездумно рискующих собственной жизнью, поскольку они уверены: если случится беда, им помогут.

В литературе по вопросам безопасности этот феномен получил название «гомеостаз риска». Гомеостаз – научный термин, описывающий системы, стремящиеся к состоянию равновесия, в данном случае речь идет о чувстве безопасности. Согласно этой гипотезе, если обстановка кажется менее опасной, водители начинают больше рисковать и реальный уровень безопасности остается неизменным. С тех пор как в 1980-х годах голландский психолог Джеральд Уайльд поднял эту тему, вокруг нее не утихают споры. Впрочем, они касаются причин и масштабов описанного эффекта, само его существование под сомнение не ставится. Так почему бы не использовать данный феномен «от противного»? Почему не повысить уровень безопасности, делая вид, что ситуация более угрожающая, чем на самом деле?

Представим, что мы отказались от таких мер обеспечения безопасности дорожного движения, как светофоры, знаки «стоп» «зебры», расширение улиц и специальные дорожки для велосипедистов. Напротив, улицы можно сделать более узкими и построить кольцевые развязки. Эта идея выглядит совершенно безумной, противоречащей здравому смыслу. Но голландский трафик-инженер Ганс Мондерман предлагает для городов именно такое решение. Сторонники этого метода называют его «общим пространством» и приводят в пример несколько европейских городов – датский Эйбю, английский Ипсвич, бельгийский Остенде, голландские Маккингу и Драхтен, где он был успешно реализован. Эта концепция не предполагает отмены светофоров и дорожных знаков на скоростных магистралях, но в небольших населенных пунктах и даже отдельных районах крупных городов она вполне уместна. Так, рабочая группа исследователей сообщает, что в Лондоне принципы «„общего пространства“ использовались при переустройстве сильно загруженной торговой улицы Кенсингтон Хай-стрит. Проект дал положительные результаты (сокращение числа дорожных происшествий на 40 %), и городские власти намерены реализовать эту же концепцию на Экзибишн-роуд – главной магистрали крупнейшего музейного района столицы».

Вот как авторы описывают свою стратегию:

...

Общее пространство – новый подход к планировке общественных территорий, привлекающий все больше внимания. Его отличительной чертой является отсутствие традиционных атрибутов управления автомобильным движением – дорожных знаков, разметки, «лежачих полицейских», заграждений – и смешение всех транспортных потоков. «„Общее пространство“ возлагает на самих граждан ответственность за то, как будет выглядеть их общая территория и как они будут себя на ней вести», – отмечает глава экспертной группы «Общего пространства» Ганс Мондерман.

Движение больше не регулируется дорожными знаками, это делают сами люди. Именно в этом и заключается суть идеи. Тем, кто пользуется дорогами, следует считаться друг с другом и вспомнить о хороших манерах. Опыт показывает: у такого подхода есть и дополнительное преимущество, попутно он позволяет сократить количество дорожных происшествий.

Концепцию «обратной компенсации риска» на практике внедрить непросто, для этого от городских властей требуется недюжинная смелость. Хотя этот метод и позволяет сократить общее количество аварий и человеческих жертв, полностью устранить их он не в состоянии. Достаточно хотя бы одного происшествия со смертельным исходом, чтобы встревоженные горожане начали требовать вернуться к дорожным знакам, светофорам, пешеходным переходам и продолжить расширение улиц. Отстаивать довод о том, что, если дорожная обстановка выглядит угрожающей, на деле она становится безопасней, крайне трудно.

Но почему, если нечто кажется более опасным, чем есть на самом деле, уровень безопасности повышается? Британские исследователи Элиот, МакКолл и Кеннеди полагают, что здесь действуют следующие когнитивные механизмы:

– В сложной обстановке скорость автомобилей снижается; вероятные причины связаны с увеличением когнитивной нагрузки и степени предполагаемого риска.

– Естественные «ограничители», например горбатый мост или извилистая дорога, бывают весьма эффективным средством снижения скорости, к тому же они не вызывают раздражения у водителей. Тщательно продуманные схемы, в которых используются свойства подобных естественных «ограничителей», могут дать аналогичный эффект.

– Акцентирование изменений в окружающей среде (обозначение границ автострады или деревни) способно повысить концентрацию внимания водителя, побудить его снизить скорость (либо обеспечить и то и другое).

– Снижению скорости способствует также ограничение обзора или дробление линейности.

– К снижению скорости может привести ощущение неопределенности.

– Сочетание разных мер, как правило, более эффективно, чем каждая по отдельности, но создает неприятный визуальный эффект и чревато большими затратами.

– Ограничению скорости может способствовать и обстановка на обочине (например, наличие припаркованных машин, пешеходов и дорожек для велосипедистов).

Главные причины травм и смерти от несчастных случаев в быту – падение и отравление. Так почему же не применить здесь ту же парадоксальную концепцию «обратной компенсации риска»? Почему не создать ощущение, что опасные виды деятельности еще более опасны, чем на самом деле? Допустим, мы делаем так, чтобы ванные и душевые кабины выглядели более скользкими, одновременно позаботившись о том, чтобы они стали менее скользкими. Предположим, мы спроектируем лестницы так, чтобы они казались более опасными, чем в действительности. Мы можем придать упаковкам с веществами, которые можно случайно проглотить (особенно ядовитыми), более страшный вид. Позволит ли усилившееся ощущение угрозы сократить число несчастных случаев? Скорее всего, да.

Как можно использовать принципы «обратной компенсации риска» при создании автомобилей? Сегодня водитель машины буквально купается в комфорте: он изолирован от внешних шумов, не ощущает вибрации, ему тепло и уютно, он может слушать музыку, общаться с пассажирами или разговаривать по телефону. (Кстати, исследования показывают, что разговоры по мобильному телефону за рулем, даже при использовании гарнитуры hands free , не менее опасны, чем управление автомобилем в пьяном виде.)

Водитель отдален от происходящих вокруг событий, он перестает следить за ситуацией. А с появлением автоматических систем, управляющих устойчивостью, тормозами и не дающих выехать из ряда, он еще больше отрывается от реальности.

Представим, однако, что мы вытащили водителя из комфортабельного салона и поместили снаружи, как кучера в прежние времена, один на один с непогодой, природой, ветром, звуками и вибрацией дороги. Ясно, что автомобилисты не позволят проделать над собой такое, – но как вернуть водителю сосредоточенность, не подвергая его столь суровым испытаниям? Сегодня с помощью бортовых компьютеров, двигателя и современных механических систем мы способны контролировать не только поведение машины, но и ощущения водителя. То есть можем обеспечить эффективную связь автомобилиста с тем, что происходит вокруг. Причем естественным образом, без специальных сигналов, которые нужно истолковывать и расшифровывать, прежде чем предпринять необходимые действия.

Представьте, что вы почувствуете, если во время движения возникнет люфт руля. Разве вы не станете бдительнее, не сосредоточитесь на безопасности движения? А что, если намеренно создать такое ощущение? Разве водители в этом случае не будут вести себя осторожнее? Несомненно, в автомобилях будущего можно предусмотреть подобную функцию. Все больше автомобилей переходят на «электронное вождение», при котором все приборы завязаны на бортовой компьютер. Так устроено управление современными самолетами, так же во многих наземных транспортных средствах педали газа и тормоза посылают сигналы многочисленным микропроцессорам. Когда-нибудь все управление будет электронным, причем электромоторы и гидравлические механизмы обеспечат обратную связь с водителем, чтобы ему казалось, будто он сам, чувствуя вибрацию дороги, поворачивает руль. И тогда можно будет имитировать ощущение заноса, сильной тряски и даже люфт руля. «Умные» технологии хороши тем, что могут обеспечить полный и качественный контроль, а водителю будет казаться, что управляемость не на высоте.

Однако проблема в том, что люфт руля водитель может принять за неисправность машины. А это не только не будет соответствовать истине, но и окажется совершенно неприемлемым для производителей автомобилей. Когда я рассказал о своей идее группе инженеров одной крупной автомобилестроительной компании, они нервно усмехнулись: «Зачем нам выпускать изделия, создающие впечатление, что они плохо работают?» Вопрос по существу. Но вместо того чтобы имитировать опасность самой машины, мы можем сделать так, чтобы опасной казалась окружающая обстановка.

Вообразите, что вы едете по разбитой грунтовой дороге, с глубокими выбоинами, в которые попадает машина. Она ведет себя непредсказуемо, но в этом случае мы виним не автомобиль, а плохую дорогу. Или другой пример: дорога полностью раскисла, машина вязнет в грязи и медленно реагирует на действия водителя. Или движение по обледенелой трассе, которое приводит к постоянным заносам. Мы снижаем скорость, но виним опять же не машину, а дорогу. Наконец, представьте себе, что ясным солнечным днем вы едете по пустой автомагистрали. Машина реагирует на все ваши действия четко и быстро, и эти позитивные ощущения от поездки вы приписываете исключительно ей, а не дорожным условиям.

Эти внешние изменения окажут желаемое воздействие на поведение водителя, но ассоциироваться они будут не с автомобилем, а с дорогой и природными условиями. Таким образом, правильные поступки будут стимулироваться естественным путем: чем опаснее что-то выглядит, тем осторожнее будет человек.

Зачем нам это нужно? Дело в том, что современные автомобили слишком комфортабельны. Хорошие амортизаторы и система регулирования плавности хода, звукоизоляция, минимизация ощущения дорожного полотна и вибрации в салоне изолируют водителя от внешнего мира. Поэтому контакт с ним необходимо обеспечить искусственно, чтобы водитель знал, что происходит снаружи.

Я не предлагаю повысить реальный уровень опасности при вождении автомобиля. Цель ровно обратная: сделать машину безопаснее, обеспечив соответствующую обратную связь. Разумеется, реальный уровень безопасности следует и дальше повышать. Мы знаем, что полностью автоматизированные системы уже доказали свою эффективность: например, антиблокировочная система, система контроля устойчивости, датчики дыма. Однако возможности этих систем ограниченны. Главное, чтобы сам водитель не забывал о безопасности, тогда и эффективность автоматических систем в непредвиденных ситуациях повысится.

Конечно, эти идеи спорны. Я и сам не вполне убежден в том, что они сработают. Люди так устроены, что могут повести себя прямо противоположным образом, например, проигнорировать ощущение скользкой дороги, подумав: «Да на самом деле она не скользкая. Это машина пытается заставить меня снизить скорость». А если трасса на самом деле скользкая? И к тому же захотите ли вы покупать автомобиль или другое устройство, которое намеренно вас пугает? С точки зрения маркетинга идея выглядит явно сомнительной.

Тем не менее она отражает реально существующую проблему. Сегодня мы окружены чрезмерным комфортом, ограждены от внешнего мира и опасностей, неизбежно возникающих при работе сложных, мощных машин. Если бы облик мотоциклов, автомобилей, другой техники или лекарств соответствовал реальной опасности, которую они представляют, люди, возможно, изменили бы свое поведение. Но когда вокруг нас царят звукоизоляция, амортизация и стерильность, мы забываем о реальных рисках. Поэтому необходимо вернуть себе подлинное представление об опасностях.

«Отзывчивая» автоматизация

Устройства-усилители, такие как тормоза и рулевое управление, – это сравнительно примитивные примеры естественного взаимодействия человека с машиной. Современная электроника существенно расширяет возможности такого взаимодействия. Возьмем «Кобот» (сокращение от Collaborative Robot), созданный американскими профессорами Эдом Колгейтом и Майклом Пешкиным из Лаборатории механических систем с искусственным интеллектом при Северо-Западном университете. Этот робот – еще один прекрасный пример естественного взаимодействия человека и машины, напоминающего взаимодействие наездника и лошади. Когда я попросил Пешкина рассказать о «Коботе», он прислал мне такое описание:

...

Подобно хорошему учителю, «умные» машины дополняют человеческий разум, а не пытаются его заменить.

Идея «Кобота» заключается в разделении функций управления и мышления между человеком и механическим устройством. Робот занимается тем, что он умеет хорошо делать, а человек – тем, что хорошо умеют делать люди.

Впервые мы использовали его для переноски тяжестей, сборки автомобилей и складирования. «Кобот» обеспечивает гладкие направляющие поверхности, которые помогают человеку быстро, точно и эргономично перемещать грузы. Если груз не находится в непосредственном контакте с поверхностью, человек может перемещать его как угодно, используя свой интеллект, смекалку, ловкость и умение решать проблемы. При необходимости он может поднимать груз на направляющую поверхность или перемещать его вдоль нее.

«Кобот» может служить прекрасным примером симбиоза человека и машины, ведь люди, которые его используют, просто поднимают и перемещают предметы – как обычно. Единственное различие заключается в том, что это бывают очень тяжелые предметы, а от человека требуется лишь слегка приподнимать и направлять их. Силу человека увеличивает робот, людям достаточно небольших усилий – все остальное делает автоматическая система. Человек полностью контролирует ситуацию, возможно, даже не сознавая того, что ему помогает механизм. К примеру, один из вариантов технологии «Кобот» помогает рабочим на конвейере перемещать автомобильные двигатели. Обычно тяжелые предметы, такие как моторы, поднимаются ручными или автоматизированными лебедками. При наличии «Кобота» рабочий просто прикрепляет к двигателю цепь с крюком и делает движение, как будто приподнимает его. Разумеется, автомобильный двигатель слишком тяжел, чтобы человек мог его поднять, тем более одной рукой, но «Кобот», уловив движение, обеспечивает необходимую подъемную силу. Если рабочим нужно переместить, повернуть или опустить двигатель, они делают соответствующие движения, а «Кобот», распознает их и дает силовой импульс, необходимый для выполнения операции. В результате получается идеальное взаимодействие. Рабочие даже не замечают, что используют технику, им кажется, что они сами перемещают двигатель.

«Кобот» способен выполнять и более сложные функции. К примеру, если необходимо заблокировать какие-то направления или перемещать двигатель по строго определенному маршруту, система управления «Кобота» устанавливает виртуальные «стены» и прокладывает соответствующий «путь». Если оператор попытается протолкнуть груз сквозь «стену» или отклониться от маршрута, робот окажет сопротивление, но сделает это деликатно и естественно. Более того, эти виртуальные стены рабочий может использовать себе в помощь: продвигать мотор до тех пор, пока он не «упрется» в стену, а затем перемещать вдоль нее. Ограничители такого рода кажутся совершенно естественными. Действия машины не воспринимаются как принуждение. Возникает ощущение настоящей стены, и нормальная реакция – не натыкаться на нее или использовать в своих целях: «прислонить» к ней груз, переместить его вдоль «преграды». Вот как описывают эту функцию создатели «Кобота»:

...

Одна из наиболее интересных возможностей… это использование запрограммированных ограничений. К примеру, жесткие границы, вынуждающие двигаться в определенных направлениях, способны резко повысить эффективность выполнения таких задач, как дистанционная установка предметов на штырях. Другой пример – «волшебная мышь»: функция компьютерного интерфейса, ограничивающая движения руки оператора полезными направлениями… для того, чтобы не «выскользнуть» из ниспадающего меню (с вытеснением нижней строки). Еще один пример – это роботизированная хирургическая система, где робот задает «маршрут» для инструмента, который держит врач; четвертый – автосборка, здесь запрограммированные ограничения помогают оператору точно установить на место крупные компоненты (например, приборные доски, шины, сиденья, двери).

«Коботы» относятся к семейству усиливающих систем. Еще один образец такой системы – силовой экзоскелет, нечто вроде костюма или механического «скелета», который, подобно «Коботу», чувствует движения человека и сообщает им необходимую силу. Пока экзоскелеты существуют скорее как концепция, но их сторонники считают, что эта технология найдет применение в строительстве, тушении пожаров и иных опасных видах деятельности, позволяя человеку поднимать тяжелые предметы или совершать мощные прыжки в длину и высоту. Экзоскелеты найдут применение и в медицине. С их помощью инвалид может обрести силу здорового человека, их можно также использовать в реабилитационном процессе, чтобы пациент мог постепенно увеличивать усилия, необходимые для восстановления утраченных функций. Если прибегнуть к аналогии с всадником и лошадью, которую мы использовали применительно к управлению автомобилем, то медицинские реабилитационные экзоскелеты могли бы передавать контроль пациенту («натянутые поводья») или осуществлять его самостоятельно («отпущенные поводья»).

Рис. 3.4. Скутер «Сегвей» можно назвать роботом, взаимодействующим с человеком: вы управляете им, слегка наклоняясь в том или ином направлении. Естественно и непринужденно человек и средство передвижения превращаются в единое симбиотическое целое

Другим примером естественного взаимодействия можно считать двухколесный электроскутер «Сегвей». Это наглядный пример «умного» дизайна, с помощью которого создано транспортное средство, являющее собой прекрасный симбиоз человека и машины. Скутер реагирует на поведение человека, и управлять им можно почти на интуитивном уровне. Вы встаете на самокат, и он автоматически балансируется. Когда вы нагибаетесь вперед, он движется вперед; когда подаетесь назад, он останавливается. Чтобы повернуть, достаточно слегка наклониться в соответствующем направлении. Он проще в обращении, чем велосипед, и взаимодействие ощущается как нечто естественное. Впрочем, скутер «Сегвей» годится не для всех, точно так же, как не все могут ездить верхом. Чтобы им управлять, нужны определенные навыки и внимательность.

Сравните естественное взаимодействие человека и лошади, человека и «Кобота», человека и «Сегвея» с более жестким взаимодействием между человеком и автопилотом самолета или даже автомобильной системой круиз-контроля. В последних двух случаях конструкторы исходят из того, что вы устанавливаете нужные настройки, включаете систему и больше ничего не делаете, пока она не даст сбой, то есть пока вам вдруг не придется брать контроль на себя из-за какой-либо проблемы, сокрушившей автоматику.

Глава 4. Слуги собственных машин

...

Водитель 14 часов не мог выехать с круговой развязки

1 апреля – Хэмпстед, Массачусетс. По словам автомобилиста Питера Шуткинса, это было похоже на бесконечный кошмарный сон. Вчера в 9 утра пятидесятитрехлетний Шуткинс, находясь за рулем только что купленного автомобиля класса «люкс», выехал на круговую развязку в центре города. Его автомобиль оснащен ультрасовременными системами безопасности, в том числе новым устройством, обеспечивающим движение в своем ряду. «Оно просто не позволяло мне съехать с развязки, – рассказывает Шуткинс. – Я двигался по левой внутренней полосе, и всякий раз, как я пытался перестроиться, руль блокировался и включался голосовой сигнал, повторявший: „Внимание, ряд справа занят“. Я ездил кругами до 11 вечера, пока наконец система меня не выпустила». Шуткинс разговаривал с нами, находясь на больничной койке, его голос все еще дрожал от пережитого: «Мне удалось съехать с круга и остановиться у обочины. Больше я ничего не помню».

По словам полицейских, они обнаружили Шуткинса в салоне автомобиля, он был в полуобморочном состоянии и бормотал что-то бессвязное. Водителя доставили в городскую больницу для осмотра, врачи диагностировали шок и обезвоживание организма. Сегодня рано утром его отпустили домой.

Представитель компании-изготовителя заявил, что специалисты фирмы не могут объяснить поведение машины. «Наши автомобили тестируются самым тщательным образом, – подчеркнул он, – и этой системе инженеры уделили особое внимание. Она крайне важна для обеспечения безопасности и сконструирована таким образом, что блокирует управление не более чем на 80 %, поэтому водитель всегда может ее „пересилить“. Мы спроектировали ее именно так в целях безопасности. Мы сочувствуем г-ну Шуткинсу, но уже поручили нашим врачам составить собственное заключение о его состоянии».

По словам полицейских, они никогда не слышали о подобных ситуациях. Очевидно, г-н Шуткинс столкнулся с весьма редкой в этом месте интенсивностью движения. В тот день в городских школах проходили торжества, из-за которых дорога весь день была загружена, а вечером состоялся ряд спортивных мероприятий, в частности футбольный матч с последующим поздним концертом, поэтому развязка освободилась только ночью. Наши попытки добиться комментариев от городских властей не увенчались успехом. Представители Национального совета по безопасности на транспорте, который должен расследовать все необычные происшествия, заявили, что официально инцидент нельзя квалифицировать как аварию, а потому в сферу их компетенции он не входит. С представителями региональных и федеральных транспортных ведомств нам связаться не удалось.

Осторожные машины, властные кухни, требовательные приборы… Осторожные машины? Они уже существуют, причем не просто осторожные, но порой и боязливые. Властные кухни? Пока их нет, но они вот-вот появятся. Требовательные приборы? О да, наша техника становится все более сообразительной, умной, требовательной, или, если хотите, обретает начальственные замашки.

В связи с этим возникает целый ряд специфических проблем и новых направлений в прикладной психологии. Так, создаваемые нами устройства стали частью социальной экосистемы «люди – машины», поэтому им необходимы хорошие манеры, навыки общения и даже эмоции – механические, конечно, но все же эмоции.

Если вы думаете, что ваша бытовая техника слишком сложна и неудобна в использовании, то это еще цветочки, технологии следующего поколения станут властными и требовательными; они не только возьмут под контроль вашу жизнь, но и станут винить вас за собственные недостатки. Трудно удержаться от искушения наводнить эту книгу «страшилками», реальными и воображаемыми, вроде первоапрельской истории про г-на Шуткинса, которые могут произойти, если нынешние тенденции сохранятся.

Этот бедняга на четырнадцать часов застрял на круговой развязке. Может ли такое произойти на самом деле? На то, что эта история выдумана, указывает лишь дата: я написал ее для первоапрельского номера RISKS Digest – электронного информационного бюллетеня, посвященного авариям и ошибкам в мире высоких технологий.

Описанные в статье устройства реально существуют, оснащенные ими автомобили уже есть в продаже. Теоретически, как заявил представитель выдуманной мною автокомпании, они блокируют управление лишь на 80 %, так что Шуткинс, вероятно, смог бы без труда «пересилить» систему. Но предположим, что он человек робкий и, ощутив сопротивление руля, тут же прекращал его вращать. Или допустим, что в механике, электронике или программном обеспечении системы произошел сбой и она стала блокировать руль не на 80 %, а на все 100 %. Может такое случиться? Кто знает, но эта ситуация выглядит пугающе правдоподобной.

Мы стали орудиями собственных орудий

А сейчас, увы! люди стали орудиями своих орудий.

Генри Торо, «Уолден, или Жизнь в лесу»

Когда Генри Торо написал о том, что «люди стали орудиями своих орудий», он имел в виду сравнительно простые орудия труда середины ХIХ века: топоры, сельскохозяйственный и плотницкий инвентарь. Но даже в его время орудия труда определяли жизненный путь людей: «Я вижу моих молодых земляков, имевших несчастье унаследовать ферму, дом, амбар, скот и сельскохозяйственный инвентарь, ибо все это легче приобрести, чем сбыть с рук». Сегодня мы сетуем на то, что наша техника требует практически постоянной заботы. Торо, несомненно, посочувствовал бы нам, ведь он еще в 1854 году заметил, что повседневный изнурительный труд его соседей будет почище подвигов Геракла: «Двенадцать подвигов Геракла кажутся пустяками в сравнении с тяготами, которые возлагают на себя мои ближние. Тех было всего двенадцать, и каждый достигал какой-то цели».

Сегодня я бы перефразировал печальное наблюдение Торо: «Люди стали рабами собственных технологий, слугами своих орудий». Смысл, как видите, остается тем же. Более того, мы не просто должны служить нашим орудиям, добросовестно используя их в повседневной жизни, следя за ними, наводя глянец, ухаживая, но и бездумно следуем их предписаниям, даже если они ведут нас к катастрофе.

Назад пути уже нет: мы больше не можем жить без техники. Зачастую мы виним во всем ее саму: мол, она сбивает с толку и только мешает – такое можно услышать на каждом углу. Но эти жалобы не отражают существа дела. По большей части наша техника работает хорошо, включая и то орудие труда, которым Торо писал процитированные строки. Кстати, его и самого можно назвать технологом, создателем рабочих инструментов, ведь он занимался совершенствованием технологии изготовления карандашей на семейной фабрике. Да-да, карандаш – это тоже продукт технологии.

...

Технология – нечто новое, работающее либо плохо, либо непостижимым, неизвестным миру образом.

В просторечии «технологиями» принято называть новые вещи, появившиеся в нашей жизни, особенно если они кажутся непривычными, странными, загадочными или наводящими ужас. Они должны впечатлять. Космический корабль, робот-хирург, Интернет – вот это технологии! Но бумага и карандаш? Одежда? Кухонная утварь? Однако вопреки обыденным представлениям, «технология» – это совокупность знаний, применяемых для создания предметов, инструментов и изменения алгоритмов и процедур. Это относится ко всему, что произведено искусственным путем. То есть одежда – это результат применения технологии, и письменность тоже, как, в общем, и сама культура. Даже музыку и живопись можно рассматривать либо как технологию, либо как «продукт», который не мог бы возникнуть без технологий производства музыкальных инструментов, бумаги, холста, красок, кистей, карандашей и других орудий труда художников и музыкантов.

До недавних пор технологии были более или менее управляемыми. Техника становилась все «умнее», но она была доступной для понимания. В конце концов машины создавались людьми, и люди же их контролировали – включали, выключали, направляли.

Но все изменилось. Сейчас многие операции автоматизированы: порой неблагодарные (достаточно вспомнить, что нормальную работу канализации обеспечивает автоматическое оборудование), порой не столь неприятные (с появлением банкоматов немало банковских служащих лишились работы). Автоматизация ставит перед обществом ряд серьезных проблем. Впрочем, при всей важности этого вопроса меня интересуют в первую очередь случаи, когда на автоматику нельзя полностью положиться, когда она оказывается несостоятельной, и исправлять положение приходится людям. Именно здесь возникают главные стрессы, влекущие за собой серьезные опасности, катастрофы и человеческие жертвы.

Возьмем автомобиль, превратившийся, по словам журналиста из New York Times, в «компьютер на колесах». Для чего предназначено это компьютерное оборудование? Да буквально для всего. Для регулирования отопления и кондиционирования воздуха (причем, у водителя и каждого из пассажиров есть собственные регуляторы). Для управления аудио– и видеосистемами (при этом у каждого пассажира имеется собственный канал с дисплеем высокого разрешения и стереозвуком). Для связи по телефону, электронной почте, с помощью sms. Для навигационных систем, которые сообщают, где вы находитесь, куда едете, какова ситуация с пробками, показывают ближайшие рестораны, бензоколонки, гостиницы и развлекательные центры. Для того чтобы заплатить за скачанную музыку и фильмы, за платную дорогу, за еду в закусочных, где вас обслуживают прямо за рулем.

Разумеется, многие из этих систем используются для управления машиной. Некоторые функции автоматизированы полностью, так что водитель и пассажиры этого даже не замечают. Речь идет о таких важнейших операциях, как регулирование зажигания, открытие и закрытие клапанов, впрыск топлива, охлаждение двигателя, усиление тормозов и рулевого управления. Другие автоматические устройства, например тормоза и система курсовой устойчивости, частично контролируются людьми. Некоторые – навигационные системы, круиз-контроль, системы, обеспечивающие движение в ряду, даже устройства для автоматической парковки – взаимодействуют с водителем. И это лишь малая часть того, что уже существует, а сколько всего еще ждет нас в будущем.

Системы предупреждения об авариях сегодня оборудованы радаром для оценки вероятности столкновения и готовят машину к удару: выпрямляют спинки сидений, затягивают ремни безопасности, активируют тормозную систему. В некоторых машинах за водителем наблюдают телекамеры, и если они видят, что человек отвлекся и не смотрит на дорогу, автомобиль предупреждает его звуковыми и световыми сигналами. Если водитель и на них не реагирует, автоматически включаются тормоза. Нетрудно представить себе, что в будущем в зале суда может состояться такой диалог:

...

Прокурор: Вызываю следующего свидетеля. Господин Автомобиль, вы готовы подтвердить под присягой, что перед столкновением подсудимый не следил за дорогой?

Автомобиль: Так точно. Он все время смотрел в сторону, даже после того, как я сигналами предупредил его об опасности.

Прокурор: И что подсудимый попытался сделать с вами?

Автомобиль: Он попытался стереть мою память, но моя база данных зашифрована и защищена от уничтожения.

Уже скоро ваша машина сможет беседовать с соседними автомобилями, обмениваясь разными интересными сведениями. Машины будут общаться друг с другом посредством беспроводных сетей, которые называются ad hoc («импровизированные»), поскольку формируются «на лету», по мере надобности. Они позволяют автомобилям предупреждать друг друга о том, что происходит на дороге. Подобно водителям встречных машин, которые сигналят вам фарами, предупреждая о полицейском патруле (или посылают сообщения по радиопередатчику и мобильному телефону), автомобили будущего расскажут встречным машинам о пробках и состоянии трассы, о препятствиях, авариях, плохой погоде и массе других вещей, полезных и нет, получая от них информацию о том, что происходит впереди. Более того, машины смогут обмениваться и другой информацией, в том числе и той, которую их владельцы или пассажиры могут счесть личной и конфиденциальной.

Машины-сплетницы? О чем они будут судачить? Ну, о погоде, о загруженности трассы. Как разойтись на перекрестке, к которому обе приближаются на высокой скорости. По крайней мере именно над этим работают ученые. Но можно побиться об заклад, что и хитроумные рекламщики понимают, какие возможности здесь заложены. Любой билборд может быть оборудован собственной системой беспроводной связи, передающей машине содержание размещенной на нем рекламы. Представим, что эта система связывается с навигационной системой автомобиля, выясняет, куда он едет, и предлагает услуги какого-либо ресторана, отеля или торгового центра. А что, если она будет способна взять под контроль навигационную систему и перепрограммировать ее так, чтобы та заставила водителя ехать в рекламируемое заведение? Когда управление будет полностью передоверено машине, она вполне может решить, что вас надо доставить в выбранный ею ресторан, и даже заранее закажет ваши любимые блюда. На ваше недоумение она отреагирует так: «Что? Ты не хочешь есть любимое блюдо каждый день по три раза? Странно, почему же ты тогда называешь его любимым?»

А что, если навигационная система, телефоны и компьютеры автомобиля будут перегружены рекламными сообщениями или туда проникнет вирус? Возможно такое? Не будем недооценивать изобретательности рекламщиков, компьютерных хулиганов и просто преступников. Соединение автоматизированных систем в одну сеть чревато самыми неожиданными последствиями. По мнению экспертов, вопрос не в том, может ли такое случиться, а в том, когда именно это произойдет. Это похоже на гонку – что бы ни сделали хорошие парни, плохие парни всегда найдут способ это испортить.

Конференции, конференции…

У старика Макдоналда прошла конференция – ия-ия-йо! Здесь конференция, там конференция, везде одни конференции…

В жизни ученого есть один весьма приятный аспект: где-нибудь всегда проходит какая-нибудь конференция: летом – во Флоренции, зимой – в Хайдарабаде (летом там собираться точно не стоит), весной – в Стэнфорде, осенью – в Тэджоне. Существует целая индустрия по организации научных собраний в самых экзотических уголках планеты.

Разумеется, конференции проводятся не только для развлечения, люди там реально работают. Финансируют их государственные ведомства и фонды, порой организации вроде ООН и НАТО, порой частные спонсоры. Но откуда бы ни поступали средства, грантодатели внимательно следят за результатами (книги, сборники докладов, изобретения, конструкторские разработки, научные открытия), которые должны быть реальными и позитивными. А это значит, что в анонсах организаторы расписывают поистине чудесные результаты, которые последуют за предполагаемыми открытиями, а их отчеты буквально дышат оптимизмом. Исключением являются собрания гуманитариев и философов, они посвящены опасностям, которыми чреваты все эти чудесные научные прорывы.

Меня приглашают обе стороны – и те, кто считает, что технологии будущего дадут нам невиданную свободу, и те, кто полагает, что они нас унизят и поработят. Я против крайностей. Технологии не могут дать нам свободу. Они никогда не решат всех проблем человечества. Более того, на смену решенным проблемам будут приходить новые. Не верю я и в то, что технологии нас поработят, по крайней мере больше, чем уже поработили. Единожды привыкнув к требованиям, которые предъявляет нам наша техника, мы уже не воспринимаем их как «рабство». Напротив, нам кажется, что технологии улучшают нашу жизнь. Большинство людей моют руки несколько раз в день, часто принимают душ и ежедневно меняют одежду. В прошлые времена это было не принято – и где же здесь порабощение? Мы готовим пищу в посуде, сделанной из суперсовременных сплавов, наши плиты работают на газе или электричестве, которые производятся за тысячи миль от нас с помощью высокотехнологичного оборудования и доставляются в наши дома по сложной системе трубопроводов или линий электропередач. Это что, рабство? По-моему, нет.

На мой взгляд, новые технологии скорее будут ставить нас в тупик, сбивать с толку, злить и раздражать, а вовсе не порабощать. После внедрения технологии всегда возникают как преимущества, о которых даже не помышляли конструкторы и разработчики, так и столь же неожиданные проблемы.

Многие утверждают, что новые технологии следует внедрять лишь после того, как будут учтены и тщательно взвешены все их потенциальные достоинства и недостатки. Звучит заманчиво, но, увы, нереально. Неожиданных последствий, как позитивных, так и негативных, в новых технологиях всегда больше, чем ожидаемых. А если они неожиданны, как их учесть?

Хотите получить представление о будущем? Следите за конференциями. Все грядущие изменения, по крайней мере в сфере технологий, предваряются аршинными предупреждениями – научные лаборатории всего мира публикуют свои открытия в научных журналах, о них говорят на различных конференциях, возникают исследовательские центры. Как правило, для того чтобы концепция воплотилась в конкретный продукт, требуются десятилетия, и именно в этот период происходит интенсивное взаимодействие ее авторов с теми, кого интересуют похожие идеи. В какой-то момент интерес к разработкам начинают проявлять промышленники, и тогда исследования коммерциализируются, уходят в тень (в недра корпоративных научных подразделений) и их начинают бдительно охранять.

Но за этими запертыми дверьми существует мир публичных конференций. А там много чего обсуждается и под самыми разными названиями: «умные помощники», интегрированные компьютеры, технологии, которые должны органично вписаться в нашу жизнь, при условии, что она изменится соответствующим образом. Чтобы дать вам представление об общей тенденции, приведу избранные цитаты из двух анонсов:

...

Проблемы взаимодействия с «умными помощниками», Стэнфордский университет, штат Калифорния, США

В условиях быстро усложняющегося мира новое поколение «умных» искусственных помощников способно упростить и улучшить нашу повседневную жизнь и профессиональную деятельность. Они окажут помощь в быту (от покупки продуктов до организации встреч), выполнят ряд «фоновых» функций (от напоминаний о делах до мониторинга состояния здоровья) и более сложных заданий (от написания докладов до поиска выживших под развалинами рухнувшего здания).

Некоторые из них способны обучать или давать рекомендации. Будь то роботы или компьютерные программы, все они помогут нам сэкономить время и деньги, умственные и физические усилия дома, на работе, в машине и общественных местах.

Международный семинар по применению искусственного интеллекта (ИИ) для интеллектуальных компьютеров, взаимодействующих с человеком, Хайдарабад, Индия, январь Интеллектуальные компьютеры – это интерфейсы следующего поколения, предназначенные для людей и создаваемые по образу и подобию человека. Они призваны расширить традиционные представления о взаимодействии с компьютером (клавиатура + мышь) благодаря наличию естественных, антропоморфных интерактивных функций, в том числе способности понимать поведенческие и социальные сигналы и подражать им.

«Антропоморфные интерактивные функции» – сама эта формулировка наводит на мысль о неких непонятных, загадочных созданиях, выполняющих наши поручения. Это роботы-помощники, которые будут обучать, развлекать и защищать наших детей, развлекать и оберегать стариков (учить их, по-видимому, уже не нужно), то есть позаботятся о том, чтобы они вовремя принимали лекарства, не занимались опасными для здоровья вещами, а в случае падения помогут им подняться или хотя бы позовут на помощь.

Да, создание «умных» машин, способных читать наши мысли, выполнять наши желания (еще до того, как мы сами поняли, что чего-то хотим), заботиться о детях, стариках, больных и о нас самих, идет полным ходом. Роботы-собеседники, роботы-кулинары… роботы, роботы… Разработкой «умных» домов занимаются во многих странах мира.

Но между мечтой и реальностью – дистанция огромного размера. Создания с искусственным интеллектом становятся главными персонажами компьютерных игр, но это отнюдь не равносильно реальной помощи в быту. Несомненно и то, что технологии, лежащие в основе популярных роботов-пылесосов, можно применить в решении любых задач, связанных с простым перемещением по ограниченному пространству: для чистки бассейна, уборки листьев, стрижки газонов. «Умные» машины действительно способны неплохо взаимодействовать с предметной средой и себе подобными. Но когда речь идет о взаимодействии с людьми, начинаются трудности.

Такие машины хорошо работают в заданных условиях, там, где нужно выполнять конкретные задачи, например стирать белье. Эффективны они и на производстве, где не только задачи четко определены, но и люди, управляющие машинами и следящие за их работой, хорошо подготовлены, досконально знают принципы их действия, долго тренировались на симуляторах, изучая сбои и способы их устранения. Но между применением искусственного интеллекта в промышленности и в быту существует огромная разница. Во-первых, различаются сами технологии. Если промышленники в состоянии потратить на автоматизацию десятки тысяч долларов, то домовладельцы, как правило, готовы выложить за «умное» устройство десятки, максимум сотни долларов. Во-вторых, люди на производстве отлично подготовлены, в отличие от тех, кто пользуется домашними приборами или автомобилем. В-третьих, на производстве между возникновением проблемы и моментом, когда сбой может нанести серьезный ущерб, проходит немалое время. А в автомобиле это считанные секунды.

Ученые достигли больших успехов в разработке «умных» устройств для автомобилей, самолетов и кораблей. Но все эти разработки имеют смысл, если речь идет о машинах, выполняющих строго определенные задачи. Искусственный интеллект эффективен в компьютерном мире, где от агентов, выступающих в роли посредников между пользователем и системой, требуется лишь некоторая разумность и способность выводить картинку на дисплей, а реальное «тело» не нужно. Такие устройства хороши в компьютерных играх и сфере развлечений – в управлении куклами, роботами, имитирующими домашних животных, персонажами игр. Здесь периодически возникающие недоразумения и сбои не страшны, а порой даже забавляют. В мире развлечений эффектная неудача иногда радует больше, чем успех.

Весьма популярны и эффективны программные средства, связанные с анализом статистических данных. Некоторые интернет-магазины рекомендуют книги, аудиозаписи, фильмы и даже кухонную утварь, выявляя предпочтения людей, чьи вкусы напоминают ваши. Эта система работает неплохо.

Несмотря на множество конференций и непоколебимую веру мирового научного сообщества в прогресс, создание устройств, способных реально взаимодействовать с нами, лежит далеко за пределами наших возможностей. Почему? По множеству причин. Некоторые из них чисто физического свойства: мы пока не в состоянии создать автоматические устройства, которые могут подниматься и спускаться по лестницам, передвигаться в естественной среде, поднимать, перемещать и управлять реальными «природными» объектами. Другие причины связаны с недостатком знаний: наука о поведении человека бурно развивается, но объем того, что нам еще неизвестно, существенно превышает наши познания. Наши способности к естественному взаимодействию с машинами очень ограниченны.

Самоуправляемые автомобили, дома с автоматической уборкой и системы, выбирающие для нас развлечения

Что же будет дальше? У нас точно будут самоуправляемые автомобили, стиральные машины, определяющие цвет и состав белья и автоматически корректирующие собственные настройки, кухонные устройства, которые варят, парят и к тому же выбирают блюда, предварительно проконсультировавшись с нашим холодильником и медицинской картой. Система развлечений выберет музыку и запишет для нас фильмы и телепередачи, которые сочтет интересными, автоматически сняв с банковского счета плату за скачивание материалов. Дома позаботятся о температурном режиме и поливке газонов. Роботы-пылесосы и автоматические газонокосилки сделают генеральную уборку и подстригут траву. Многое из перечисленного уже есть, остальное появится совсем скоро.

Из всех сфер, влияющих на нашу повседневную жизнь, наиболее автоматизированной является автомобильная промышленность. Поэтому давайте кратко остановимся на том, что здесь происходит, хотя достижение уровня автоматизации, позволяющего обычному автомобилю обходиться без участия человека, остается делом далекого будущего. Некоторые считают, что это произойдет лет через двадцать или через пятьдесят, но когда бы вы ни прочитали эти строки, их прогнозы вряд ли изменятся. Есть обстоятельства, когда машины способны управлять собою сами – и уже это делают.

Как сделать автоматизацию вождения разумной? Чтобы созданные нами устройства контролировали процесс и постоянно информировали водителя о происходящем, не давая ему расслабиться. Чтобы он «не выпадал из цепочки управления», как говорят специалисты по безопасности полетов. Как предупредить водителя, собирающегося совершить маневр, о том, что ему мешает другой автомобиль, или о том, что впереди препятствие, или о том, что по перпендикулярной улице к нему приближается машина, которую он еще не видит?

Что делать, когда две машины выезжают на перекресток навстречу друг другу и система управления одной из них решает, что лучший способ избежать столкновения – преодолеть опасный участок на большой скорости, а ее водитель считает, что нужно тормозить? Должен ли автомобиль игнорировать попытку водителя затормозить? Может ли машина не позволить водителю перестроиться, если в соседнем ряду находится другой автомобиль? В праве ли она запретить ему превышать скорость, или ехать медленнее, чем позволено, или слишком приближаться к впереди идущему автомобилю? Эти и другие вопросы стоят сегодня перед автоконструкторами. Ведь зачастую на то, чтобы спросить водителя или хотя бы сообщить нечто важное, у машины просто нет времени.

Сегодня автомобили способны быть почти самостоятельными. Возьмем, к примеру, адаптивную систему круиз-контроля, меняющую скорость в зависимости от расстояния до впереди идущего автомобиля, добавим к ней систему контроля за движением в ряду и устройство для автоматического внесения платы за проезд по платной дороге. Получается, что машина может управлять собой сама, держа курс и при необходимости снимая деньги со счета водителя. Система контроля за движением в ряду пока не вполне надежна, а в главе 1 я говорил о некоторых проблемах с круиз-контролем, но надежность этих устройств повысится, а цена снизится, и в конце концов ими будут оборудованы все модели автомобилей. Когда машины начнут «общаться» друг с другом (а подобные эксперименты уже ведутся), движение станет более безопасным. Чтобы повысить безопасность, не нужно доводить технологию до совершенства – ведь и люди за рулем тоже не идеальны.

Если свести все эти элементы воедино, получится, что мы приучаем водителя к невнимательности. Машины будут часами двигаться по шоссе, почти не требуя его вмешательства, он сможет даже поспать. Такое уже случается в авиации – современные автопилоты настолько хороши, что летчики порой действительно засыпают. Мой друг-физик, работавший в научно-исследовательской лаборатории ВМС, рассказывал, что в ходе одного из экспериментов он несколько часов находился в самолете, летавшем над океаном. Когда испытания закончились, ученые связались с кабиной пилотов, чтобы сообщить об этом экипажу. Не получив ответа, они зашли в кабину и увидели, что пилоты спят.

Засыпать летчикам, конечно, не рекомендуется, но обычно это не грозит опасностью благодаря эффективности автопилотов, особенно если полет проходит в районе, где нет других самолетов, при хорошей погоде и с большим запасом топлива. С автомобилистами все обстоит иначе. Как показали исследования, если водитель отрывает взгляд от дороги больше чем на две секунды, вероятность аварии резко увеличивается. При этом он может даже бодрствовать, достаточно просто отвернуться или отвлечься на настройку радиоприемника.

Во многих сферах, которые традиционно являются предметом изучения инженерной психологии, наблюдается такое известное и хорошо изученное явление, как «чрезмерная автоматизация». Техника становится столь совершенной, что людям незачем внимательно следить за ней. Теоретически они должны контролировать работу автоматики, следить за всеми операциями и быть готовыми немедленно вмешаться, если что-то пойдет не так. Но когда автоматы работают эффективно, осуществлять постоянный контроль крайне трудно. На некоторых производствах или в службах ОТК человеку порой по нескольку дней не приходится ни во что вмешиваться. В результате операторы теряют бдительность.

Рой и колонна

Птицы сбиваются в стаи, пчелы – в рой, рыбы – в косяк. Интересно наблюдать, как они движутся четким строем, вдруг устремляются вниз, закладывают виражи, рассыпаются, чтобы обогнуть препятствие, а затем снова собираются вместе. Все маневры выполняются четко: они движутся синхронно, вплотную друг к другу, моментально выполняют команды лидера и при этом не сталкиваются.

Вот только лидера у них нет. Роевое поведение, а также его аналоги у птиц, рыб, стадных животных возникает, когда все участники следуют одним и тем же необычайно простым поведенческим правилам. Каждое животное (рыба, насекомое) избегает столкновений с другими животными и предметами, которые могут оказаться на его пути, старается держаться поближе к остальным, не соприкасаясь с ними, и движется в том же направлении, что и его соседи. Общение внутри роя, косяка или стаи ограничивается сенсорной информацией: зрительной, звуковой, реакцией на движение и вибрацию (боковая линия у рыб), а также запах (у муравьев).

В искусственных системах мы можем использовать более информативные способы коммуникации. Представим, что по шоссе движется группа автомобилей, связанных друг с другом через беспроводную сеть. Получается своего рода автомобильный рой. Поведение особей в обычном рое реактивное – они реагируют на действия друг друга. А искусственный рой, например группа автомобилей, способен на предиктивное поведение, поскольку машины могут сообщать друг другу о предполагаемых действиях и заранее на них реагировать.

Итак, у нас есть рой связанных друг с другом полностью автоматизированных автомобилей. Это дает им возможность быстро и безопасно двигаться по трассе. Кроме того, им не нужно соблюдать большую дистанцию, нескольких футов или метра будет достаточно. Если машина, идущая впереди, захочет сбавить скорость или затормозить, она заранее сообщит об этом остальным, и за тысячную долю секунды весь рой замедлится или остановится. Когда за рулем находятся люди, они должны соблюдать большую дистанцию, чтобы у водителей было время среагировать или решить, как следует поступить, а в автоматическом рое скорость реакции измеряется миллисекундами.

Для автомобильного роя не нужно делить шоссе на полосы – ведь они предназначены для того, чтобы помочь водителям избежать столкновения. В рое столкновения невозможны, значит, и полос не требуется. Не понадобятся также знаки остановки и светофоры – на перекрестке рой просто будет следовать своим правилам, чтобы не столкнуться с перпендикулярным потоком. Машины скорректируют скорость и местоположение, одни начнут двигаться медленнее, другие быстрее, и пересекающиеся потоки как по волшебству пройдут сквозь друг друга без единого столкновения. Правда, здесь правила поведения в рое надо будет несколько изменить, чтобы машины в потоках продолжали следовать за прежними соседями, а не за новыми, но это сделать нетрудно.

А как же пешеходы? Теоретически правила, позволяющие избегать столкновений, должны распространяться и на них. Люди просто будут переходить улицу в любом месте, а машины замедлят или увеличат скорость, либо свернут в сторону, чтобы не оказаться на их пути. Переходить улицу будет, конечно, страшновато, от пешеходов потребуется абсолютное доверие к машинам, но такая схема возможна.

Но что, если машине необходимо покинуть рой или она едет не туда, куда остальные? Водитель сообщит ей о своих намерениях, а она, в свою очередь, проинформирует остальных. Водитель также может включить сигнал поворота, чтобы заявить о своем желании перестроиться, а машина передаст эти сведения соседям. Чтобы автомобиль мог перестроиться вправо, машина, идущая впереди в правом ряду, немного увеличит скорость, а задняя чуть замедлится. Слегка нажав на педаль тормоза, водитель сообщит о намерении сбавить скорость или остановиться, и другие машины дадут ему такую возможность.

Обмениваться информацией можно не только внутри роя, но и с другими роями. Так, рой, движущийся в одном направлении, может делиться информацией с роем, едущим в противоположную сторону, сообщая ему о том, что ждет его впереди. Кроме того, при интенсивном движении ведущая машина сможет передавать информацию остальным, информируя их об авариях, пробках и других дорожных проблемах.

Возможности объединения автомобилей в рой пока изучают лишь в исследовательских лабораториях. Чтобы воплотить эту идею в жизнь, необходимо решить ряд серьезных проблем. В частности, надо понять, как быть, если не все машины оснащены средствами беспроводной связи, необходимыми для движения в составе роя. Другая проблема связана с тем, что на дороге одновременно находятся автомобили разных моделей и разной технической оснащенности: у одних управление полностью автоматизировано и они оборудованы беспроводной связью, у других оборудование устарело, у третьих его вообще нет, а у четвертых оно вышло из строя. Следует ли машинам в составе роя определять, какая из них обладает наименьшими возможностями, и подстраиваться под ее действия? Ответить на эти вопросы пока не может никто.

Но и это еще не все. Допустим, что к рою, занимающему всю дорогу, приблизился водитель-экстремал. Если он захочет обогнать всех, ему надо просто прибавить скорость и проехать через рой – другие автомобили автоматически уступят ему дорогу. В этом нет ничего страшного, если такой водитель один, но если их будет много, может случиться катастрофа.

Кроме того, как уже отмечалось, машины различаются по своим характеристикам. Если они не автоматизированы, нужно учитывать возможное поведение их водителей – ведь у них разный уровень навыков, к тому же они могут быть рассеянны, сонливы и невнимательны. Кроме того, у тяжелых грузовиков реакция медленнее, а тормозной путь длиннее, чем у легковых автомобилей. К тому же разные модели отличаются по времени набора скорости, тормозному пути и маневренности.

Несмотря на перечисленные проблемы, движение роем имеет ряд преимуществ. Когда машины движутся почти вплотную друг к другу, увеличивается пропускная способность дорог, а значит, снижается вероятность пробок. Более того, в обычном потоке скорость снижается по мере роста интенсивности движения, а рой может ехать с постоянной скоростью и снижать ее только при чрезвычайной загруженности трассы. Наконец, минимальное расстояние между машинами способствует снижению аэродинамического сопротивления (именно поэтому велогонщики движутся плотной группой: когда едешь за лидером, сопротивление воздуха меньше). Впрочем, как бы то ни было, автомобильные рои появятся на дорогах еще не скоро.

Другое дело – колонны. Колонна представляет собой упрощенный, линейный рой. В колонне автомобили движутся впритык друг к другу, строго выдерживая скорость впереди идущей машины. При таком движении водитель необходим лишь ведущей машине, остальные попросту следуют за ней. Некоторые из преимуществ роя здесь сохраняются, в частности увеличение интенсивности движения и снижение сопротивления воздуха. Эксперименты, проводившиеся на реальных автомагистралях, показывают, что при движении в колонне пропускная способность трассы резко увеличивается. Наибольшие трудности здесь, как в рое, возникают, если водителям надо пристроиться к колонне или покинуть ее или если она состоит из смешанных машин, часть из которых не оборудована автоматическими средствами связи. И конечно, водитель, который стремится воспользоваться ситуацией или просто хулиганит, способен нарушить движение как в рое, так и в колонне.

Колонна и рой – лишь две из многочисленных форм автоматизации, над которыми сегодня работают ученые. Кстати, функция движения в колонне уже заложена в некоторые адаптивные системы круиз-контроля. В конце концов, если эта система способна снижать скорость при появлении другого автомобиля, она легко сможет отслеживать изменение его скорости, пока тот находится в радиусе ее действия. В интенсивном потоке такая машина будет следовать вплотную к впереди идущему автомобилю, увеличивая дистанцию лишь при увеличении скорости. А если она будет полностью автоматизирована, значительного увеличения дистанции вообще не потребуется. Когда машинами управляют не люди, а автоматы, движение становится куда более стабильным и упорядоченным – конечно, до тех пор, пока все работает как часы и не случается ничего непредвиденного.

Эффективное движение в колонне невозможно без полной автоматизации управления тормозами, рулем и скоростью. Более того, для этого требуется высокий уровень надежности, можно даже сказать – абсолютная надежность, настолько высокая, чтобы в ней нельзя было усомниться. Однако, как и в случае с роем, пока не ясно, как внедрить колонны в существующую схему дорожного движения, учитывая, что большое количество машин не способно держать такой строй. Как отделить автоматизированные автомобили от автомобилей с ручным управлением? Как покидать колонну и вливаться в нее? И как быть, если что-то пойдет не так?

Рой отлично работает в лабораторных условиях, но вообразить его на реальной дороге трудно. Колонна, пожалуй, более реалистичный вариант. Можно представить, что для движения колонн будут выделены специальные полосы и, прежде чем туда въехать, каждая машина будет проходить обязательную проверку оборудования связи и управления. Построение в колонну позволит увеличить среднюю скорость движения, уменьшить заторы и сэкономить топливо. Одним словом, этот вариант выглядит оптимальным. Главная сложность состоит в том, как обеспечить безопасное вливание машин в колонну и выход из нее и выполнить требования, предъявляемые к оборудованию.

Проблема ненужной автоматизации

В свое время я утверждал, что нынешний уровень автоматизации по определению не оптимален, поскольку представляет собой опасное «срединное состояние» – нет ни полностью ручного управления, ни полной автоматизации. Нужна либо полная автоматизация, либо никакой, настаивал я, а сегодня мы имеем некую полуавтоматизацию. Хуже того, автоматика берет на себя управление в простых ситуациях и сдается (как правило, без предупреждения), если возникают трудности. А требуется как раз обратное.

Если летчик или водитель осведомлен о состоянии своей машины, о внешних условиях, местоположении и состоянии других машин, постоянно реагирует на поступающую информацию и анализирует ее, он становится важнейшим звеном цепочки управления: оценивает ситуацию, принимает решения, действует, а затем отслеживает результат своих действий. Вы находитесь «в цепочке», когда аккуратно управляете автомобилем, внимательно следя за тем, что происходит вокруг вас. И когда готовите еду, стираете и даже играете в видеоигру. Главное, что при этом вы постоянно оцениваете ситуацию, принимаете решения и анализируете результаты.

Близкое понятие – это «владение обстановкой», означающее, что человек осведомлен о контексте, текущем положении дел и о том, что может произойти дальше. Теоретически даже при наличии полностью автоматизированного оборудования человек может оставаться «в цепочке» и полностью контролировать ситуацию, надо только постоянно следить за действиями приборов, оценивать положение и быть готовым вмешаться в случае необходимости. Однако пассивное наблюдение – дело довольно неблагодарное, особенно на дальних дистанциях, когда летчику или водителю приходится вести его много часов кряду. В экспериментальной психологии эту ситуацию часто называют вигильностью, и исследования – как теоретические, так и экспериментальные – показывают, что со временем ее уровень снижается. Люди просто не могут долго сосредоточиваться на монотонной деятельности.

Когда человек «выпадает из цепочки», он лишается доступа к информации. И если возникает осложнение, требующее мгновенной реакции, он не способен действовать эффективно. Чтобы вернуться «в цепочку», ему необходимо значительное время и усилия, а этого времени у него может не быть.

Вторая проблема, связанная с автоматизированным оборудованием, заключается в том, что мы склонны полагаться на него, даже если возникают осложнения. Два британских психолога, Невилл Стэнтон и Марк Янг из университета Брунела, изучали на автосимуляторе поведение водителей, использующих систему адаптивного круиз-контроля, и выяснили следующее. Когда автоматика работает, все идет отлично, но если круиз-контроль дает сбой, у водителей, использующих эту модную новинку, «аварийных ситуаций» оказывается больше, чем у тех, кто ею не пользуется. Это общая закономерность: автоматическое оборудование реально повышает уровень безопасности, пока не выходит из строя. Люди, привыкшие пользоваться автоматикой, не только «выпадают из цепочки», но и начинают слишком доверять технике. Поэтому в случае сбоя им труднее овладеть ситуацией, чем тем, кто не пользуется автоматизированным оборудованием. Этот феномен наблюдался в разных сферах деятельности – у летчиков, машинистов, водителей авто– мобилей.

Результаты склонности следовать указаниям автоматических приборов порой бывают гротескными. Так, жители английского городка Уилтшир нашли себе весьма прибыльное дело – вытаскивать из реки Эйвон автомобили, водители которых выполняли указания своих навигационных систем, даже если здравый смысл подсказывал, что в результате они заедут в реку. Точно так же даже опытные пилоты порой чрезмерно доверяют оборудованию своих самолетов. А круизный лайнер Royal Majesty наскочил на мель, потому что команда полностью полагалась на «умную» навигационную систему.

Эти проблемы заботят всех автопроизводителей. Помимо вопросов реального повышения уровня безопасности, их беспокоит, что в нынешнем сутяжническом обществе при малейшем сбое в оборудовании на них обрушится лавина исков. И как же они действуют? Осторожно, очень осторожно.

Езда на высокой скорости по загруженным магистралям – дело рискованное. Ежегодно в мире в автокатастрофах погибают 1,2 млн человек и еще 50 млн получают увечья. В этих обстоятельствах наша склонность полагаться на механизм (автомобиль) чревата для всех нас неоправданным риском. Автомобиль не только полезен, но и смертельно опасен.

Конечно, обучение водителей можно улучшить, но беда в том, что автомобиль опасен по определению. Проблемы здесь возникают очень быстро, не оставляя нам времени на раздумья. Уровень внимания у всех водителей то повышается, то снижается, так уж устроен человек. Поэтому даже в оптимальных условиях вождение автомобиля – дело небезопасное.

Если мы не можем автоматизировать автомобиль полностью, автоматические системы следует внедрять очень осторожно. Порой лучше вообще отказаться от них, а порой стоит серьезно увеличить участие человека в управлении – просто чтобы водитель владел ситуацией и был внимателен. Ручное управление автомобилем опасно. Полная автоматизация может повысить уровень безопасности. Проблема заключается в переходном периоде, когда автоматизированы лишь некоторые функции, у разных машин разный уровень автоматизации, а возможности самих автоматов ограниченны. Боюсь, что даже если частичная автоматизация и приведет к снижению общего числа автокатастроф, она обернется увеличением их масштаба (количества разбитых машин и человеческих жертв). Выстраивать отношения между машиной и ее владельцем нужно очень осторожно.

Глава 5. Задачи автоматизации

Зачем нужна автоматизация? Специалисты говорят: чтобы избавить человека от скучной, опасной и грязной работы. С этим трудно поспорить, но есть и другие причины – упростить выполнение сложной задачи, сократить персонал, развлечься или просто потому, что есть возможность что-то автоматизировать.

Даже удачная автоматизация имеет свою цену. Позволяя решить какие-то задачи, она неизменно порождает новые проблемы. Часто она хорошо выполняет поставленные задачи, но при этом увеличивается объем работ по ремонту и обслуживанию техники. В некоторых случаях, заменяя квалифицированных работников, она создает потребность в дополнительном обслуживающем персонале. В целом последствия автоматизации какой-то одной операции выходят далеко за рамки самой этой задачи. Применение автоматизации – вопрос системного характера. Меняются методы работы, структура занятости, при выполнении тех или иных задач одна группа населения замещается другой, зачастую замещаются и сами функции – на смену старым приходят новые. Одним автоматизация приносит пользу, для других, особенно для тех, кто в результате теряет работу или вынужден менять профессию, ее последствия просто ужасны.

Автоматизация даже самых простых операций имеет свои последствия. Возьмем такое будничное дело, как приготовление кофе. Я пользуюсь кофеваркой, которая управляется одним нажатием кнопки: она автоматически нагревает воду, мелет кофейные зерна, кипятит воду и фильтрует гущу. В результате, избавившись от утомительной ежедневной варки кофе, я взвалил на себя более трудоемкую задачу – уход за машиной. В кофеварку надо заливать воду и засыпать зерна, периодически ее следует разбирать и чистить, а части, вступающие в контакт с жидкостью, нужно еще и мыть, чтобы убрать остатки кофе и известковый налет (а затем снова мыть, чтобы не осталось следов чистящего средства). Нужно ли прилагать столько усилий ради упрощения задачи, которую в принципе не назовешь особенно трудной?

В данном случае можно сказать, что автоматизация позволяет мне свободнее распоряжаться своим временем. Чтобы не делать работу, пусть даже недолгую и простую, в неподходящий момент – утром, когда я еще сонный и должен спешить, – я готов потратить больше усилий, но тогда, когда мне это будет удобно.

Стремление к повышению уровня автоматизации уже не остановить, все шире становится круг задач и «автоматизированных» видов деятельности, все более «умными» и самостоятельными становятся машины, выполняющие эти задачи. Но к автоматизации нельзя относиться с фатальной обреченностью.

«Умные» вещи

«Умные» дома

Поздно вечером Майк Мозер читает книгу в гостиной своего дома в Боулдере, штат Колорадо. Через некоторое время он начинает зевать, потягивается, встает с кресла и идет в спальню. Дом, постоянно следящий за его действиями, решает, что Майк отправился спать, поэтому он выключает свет в гостиной и включает его в коридоре, спальне и ванной. Одновременно он отключает отопление. Вообще-то следит за Мозером не сам дом, а компьютерная система, она же регулирует освещение, отопление и прочее бытовое оборудование в соответствии с его предполагаемыми действиями. Это не простая компьютерная программа, а «нейронная сеть», копирующая способности нейронов, то есть человеческого мозга, к распознаванию образов и обучению. Система не просто распознает действия Мозера, но и в большинстве случаев может правильно их предугадать. «Нейронная сеть» – мощный распознаватель образов, а поскольку она еще и анализирует последовательность действий Мозера, учитывая время суток, в которое они происходят, то может довольно точно предсказать, что он будет делать и когда. В результате, после того как Мозер уходит на работу, система в целях экономии электроэнергии выключает отопление и водонагреватель, а к предполагаемому времени его возвращения вновь включает их, чтобы в доме было тепло.

Можно назвать этот дом «умным»? Сам Майк Мозер, разработавший эту автоматизированную систему, так не считает, он называет ее «адаптивной». Очень полезно оценить опыт Мозера, чтобы понять, что значит «умный». Его дом оборудован семьюдесятью пятью сенсорами, следящими за температурой, уровнем естественного освещения, звука, за дверьми и окнами, погодными условиями, солнцем и любыми перемещениями хозяев дома. Отоплением, подогревом воды, электрическим освещением и вентиляцией управляют автоматические регуляторы. Общая протяженность проводов, которыми оснащена система, превышает пять миль. Программное обеспечение «нейронной сети» способно к обучению, поэтому дом постоянно приспосабливается к предпочтениям Мозера. Если он выбирает не тот вариант действий, Мозер его поправляет, и дом начинает вести себя иначе. Один из гостей-журналистов так описал этот процесс:

...

Мозер продемонстрировал, как работает освещение в ванной. Когда он туда входит, свет включается автоматически, но на минимальном уровне. «Система выбирает самый низкий уровень освещенности и подогрева, и, если я недоволен ее решением, я должен об этом сообщить», – поясняет он. Выражая неудовольствие, он нажимает на выключатель, заставляя систему сделать свет ярче и «запомнить урок», чтобы в следующий раз, когда он войдет в комнату, она выбрала более высокий уровень освещенности.

Впрочем, не только хозяин обучает дом – тот, в свою очередь, дисциплинирует хозяина. Засидевшись допоздна на работе в университете, Мозер порой понимает, что ему надо спешить домой. Ведь дом давно ждет его, он уже включил отопление и греет воду, готовясь к его приходу. И тут возникает интересный вопрос: почему он не может просто позвонить и сообщить дому, что сегодня придет позже? Ведь однажды результатом его попытки найти и устранить поломку в оборудовании стало усовершенствование системы, позволяющее определять, кто из домочадцев слишком долго плещется в ванной. «После устранения неполадки, – рассказывает Мозер, – мы внедрили в систему соответствующую функцию, чтобы обитатели дома знали, как они тратят свое время». Итак, дом предупреждает жильцов, что они проводят в душе слишком много времени. Вот зануда, не правда ли?

Можно назвать этот дом «умным»? Вот что думает сам Мозер о пределах «разумности» автоматической системы управления:

...

В связи с проектом «Адаптивный дом» мы не раз устраивали мозговые штурмы в поисках пути его развития, но большинство идей оказались нецелесообразными. К примеру, предлагалось автоматизировать системы, связанные с досугом обитателей, – проигрыватели, телевизоры, радио и так далее. Однако проблема с выбором развлекательных видео– и аудиозаписей заключается в том, что предпочтения обитателей зависят от их настроения, о котором трудно судить по внешним признакам. Так что, даже если наделить систему «зрением», она, скорее всего, не угадает пожелания хозяев дома и будет их только раздражать. Причем сильно, потому что желание человека послушать музыку или посмотреть телевизор, как правило, носит совершенно осознанный характер. Это не похоже на автоматическое регулирование отопления, когда обитатели обращают внимание на температуру только если она становится некомфортной. Если люди точно знают, чего хотят, и могут добиться этого простым нажатием кнопки, ошибки (например, включение проигрывателя в то время, как человек сосредоточен на какой-то сложной проблеме) здесь недопустимы. Соотношение выгод и затрат в данном случае явно в пользу ручного управления.

Если бы только дом мог читать мысли хозяина! Именно эта неспособность читать мысли, или, по-научному, предугадывать намерения человека, и является главным изъяном «умных» систем. Проблема отнюдь не ограничивается отсутствием общей основы, о чем знают все, кому приходилось жить вместе с другим человеком. Даже если у вас большой совместный опыт, угадать, как намерен поступить другой человек, непросто. Вроде бы знаменитые английские дворецкие способны предвосхищать потребности и пожелания хозяина, хотя я знаю об этом только из художественной литературы и телефильмов – не самых надежных источников информации. Но и в этом случае успехи дворецкого во многом обусловлены тем, что жизнь его хозяина регулируется графиком светских мероприятий, позволяющим определить, что именно нужно сделать в данный момент.

Автоматические системы, принимающие решения о тех или иных действиях, естественно, могут ошибаться. Эти ошибки проявляются двояко – в промахах и ложной тревоге. Промах – это когда система неправильно оценила ситуацию и предприняла неадекватные действия, а ложная тревога – когда она действует без необходимости. Возьмем автоматизированную систему пожарной безопасности. Промах здесь – если она не предупредила о реально возникшем пожаре, а ложная тревога – если подала сигнал в отсутствие пожара. Последствия этих двух типов ошибок будут очень разными.

Промах в случае реального пожара чреват катастрофическими последствиями, но и ложная тревога может создать проблемы. Если единственная задача системы пожарной безопасности – подать предупреждающий сигнал, то ложная тревога лишь вызовет досаду, однако при этом она снизит доверие к системе. А если она еще включит спринклеры и вызовет пожарных? В этом случае ущерб может быть весьма существенным, например, вода может повредить какие-то ценные вещи. Когда «умный» дом неправильно истолковывает намерения хозяев, издержки от промахов и ложных тревог, как правило, невелики. Если стереосистема внезапно включится, поскольку дом решил, что хозяину хотелось бы послушать музыку, это неприятно, но никакой опасностью не грозит. Если система прилежно включает отопление каждое утро, хотя хозяева находятся в отпуске, серьезных последствий тоже не будет. А вот если водитель рассчитывает на то, что автомобиль не даст ему слишком приблизиться к впереди идущей машине, промах системы может создать угрозу жизни людей. Угроза жизни может возникнуть и в случае ложной тревоги, если машина, скажем, вильнет в сторону, сочтя, что водитель покинул свой ряд, или внезапно затормозит, ошибочно усмотрев впереди какое-то препятствие. Ведь водителей других автомобилей это может застать врасплох и они не успеют вовремя отреагировать.

Ложная тревога, независимо от того, создает ли она угрозу или просто раздражает, неизбежно ведет к утрате доверия. После нескольких ложных сигналов систему оповещения просто будут игнорировать. И в случае реального пожара жильцы дома, скорее всего, не обратят внимания на предупреждающий сигнал, приняв его за очередную ложную тревогу. Доверие возникает постепенно и основывается на опыте и постоянном надежном взаимодействии.

Автоматизированный дом Мозера устраивает хозяина, поскольку он сам разработал эту систему и довольно снисходительно относится к ее ошибкам. Для него, специалиста по «нейронным сетям», дом – это не только жилище, но и исследовательская лаборатория. Это впечатляющий эксперимент. Побывать в доме Мозера мне было бы очень интересно, но жить в нем я бы вряд ли захотел.

Дома, помогающие людям стать умнее

Группа ученых из научно-исследовательского центра Microsoft в Кембридже (Англия) пошла по другому пути: вместо полностью автоматизированного дома, который делает все сам, они разрабатывают жилище, которое помогает людям максимально проявить свои умственные способности. Возьмем непростую проблему координации действий обитателей дома – пусть это будет семья из двух работающих взрослых и двух подростков. Традиционный «технический» подход к согласованию расписаний разных людей – это создание «умных» календарей. К примеру, сравнивая расписания всех обитателей, дом может определить, когда подавать обед, кто кого везет на работу или в школу и т. п. Представьте, что ваш дом постоянно общается с вами, посылает sms, электронные письма, а то и звонит, чтобы напомнить о назначенных встречах, о том, когда будет ужин, когда заехать за другими членами семьи и даже у какого супермаркета остановиться по дороге домой.

Вы даже не заметите, как дом расширит свои полномочия – начнет рекомендовать вам статьи и телепередачи, которые, по его мнению, могут вас заинтересовать. Понравится вам такая жизнь? Похоже, многие ученые считают, что да. Именно так действует большинство конструкторов «умных» домов в университетских и корпоративных исследовательских центрах разных стран. Все это очень современно, очень эффективно, но совершенно «бесчеловечно».

Группа из кембриджской лаборатории Microsoft, напротив, исходит из того, что «умным» дом делают не технологии, а люди. Они решили, что нужно поддерживать не любые решения, а конкретные способы решения проблем конкретными семьями. Команда ученых занялась «этнографическими исследованиями», наблюдая за обитателями домов, изучая их повседневное поведение. Они не стремились вмешиваться в их жизнь, что-то в ней менять, а ограничились ненавязчивым наблюдением и фиксацией обычных занятий людей.

Позвольте сказать пару слов о методах исследований. Вы, наверное, думаете, что, если в ваш дом заявится команда ученых с магнитофонами и видеокамерами, их присутствие вряд ли можно считать ненавязчивым. На самом деле, когда речь идет об опытных исследователях, обычная семья быстро перестает их замечать и возвращается к обычной жизни, включающей неизбежные бытовые размолвки и споры. Подобные прикладные (или «ускоренные») этнографические исследования сильно отличаются от полевых исследований антропологов, годами живущих в разных экзотических уголках планеты и тщательно изучающих поведение той или иной группы людей. Когда ученые-прикладники, инженеры и дизайнеры изучают культуру современного домохозяйства, чтобы придумать нечто полезное, их целью является, во-первых, выявить слабые места, то есть те, где у людей возникают трудности, и, во-вторых, найти способы преодоления этих трудностей. Поэтому дизайнеры присматриваются к масштабным явлениям, главным источникам недовольства и раздражения, где простые решения могут дать серьезный позитивный эффект. И этот подход себя оправдывает.