Дизайн вещей будущего Норман Дональд

Дональд А. Норман

Дизайн вещей будущего

Права на перевод предоставлены Sandra Dijkstra Literary Agency

Впервые опубликовано Basic Books

Перевод с английского Максим Коробочкин

Редактор Марина Голубовская

Дизайн серии Михаил Сметана

Фотография на обложке CityCar, дизайн Франко Вайрани / MIT Smart Cities group

Предисловие к русскому изданию

Хочу особо поприветствовать моих российских читателей!

Сегодня мы живем в глобальном обществе, где у каждого человека, у каждой страны есть возможность внести свой вклад в мировое процветание. В будущем дизайн станет играть все более важную роль, ведь он распространяется не только на компьютеры, но и на все, что с ними связано.

«Умные» машины – прекрасная идея! Она самым серьезным образом меняет процессы разработки и использования создаваемых нами устройств, даже наше представление о них. Но действительно ли машины обладают интеллектом? На мой взгляд, нет. Их ум – это ум конструктора, пытающегося представить себе все ситуации, в которых может оказаться машина, и решить, что ей следует делать. Обретут ли машины интеллект в дальнейшем? Думаю, да: в конце книги я даже привожу запись своей беседы с «умными» машинами.

Путь в будущее всегда труден. Когда-нибудь у нас появятся «умные» машины, работающие совершенно самостоятельно. И трудности здесь связаны с переходным этапом, когда машины уже пытаются принимать осмысленные, разумные решения и действовать соответственно, но у них еще ничего не получается. Именно эти промежуточные состояния волнуют и заботят меня. И именно этой проблеме посвящен «Дизайн вещей будущего».

Телефоны во всем мире могут быть устроены одинаково, а «умные» машины – нет. Такая машина должна быть восприимчивой к культурным различиям. Поэтому очень важно, чтобы люди, где бы они ни жили, имели это в виду. Машины нового типа следует разрабатывать в рамках тех культур, где они будут использоваться. Машины будущего будут создаваться в странах будущего, во всех уголках планеты.

Я очень благодарен за возможность представить эту книгу российскому читателю. Все мы живем в интереснейшее время, когда товары, услуги и таланты выходят на подлинно глобальный уровень. У всех у нас появятся друзья и коллеги по всему миру, а изделия будут разрабатываться во многих странах. Поэтому я очень рад, что мои книги издаются в России. Перед нами стоят поистине гигантские задачи, и решать их надо совместными усилиями.

Пало Альто (штат Калифорния), США

www.jnd.org

Глава 1. Осторожные автомобили и властные кухни

Как машины берут власть

Я выезжаю из дому на горный серпантин, что проходит вдоль побережья Тихого океана. Дорога вьется между гигантскими секвойями; за крутыми поворотами открываются виды на Калифорнийский залив или бесконечный простор океана. Я наслаждаюсь поездкой, машина превосходно слушается руля и изящно вписывается в повороты. Но вдруг я замечаю, как напряглась сидящая рядом жена. Ей страшно – она съежилась, уперлась ногами в пол, вцепились руками в приборную панель. «Что с тобой? – спрашиваю я. – Успокойся, я знаю, что делаю».

А теперь представим другой сюжет. Я еду по тому же серпантину и замечаю, как напряглась моя машина – ей страшно. Откинутые спинки сидений сами собой выпрямляются, ремни безопасности туго затягиваются, индикаторы на приборной панели тревожно мигают и пищат. Затем сами собой включаются тормоза. «Вот те на, – мелькает у меня в голове. – Надо снизить скорость».

Считаете, что испуганный автомобиль – это нечто из области фантастики? Уверяю вас, вы ошибаетесь. Так уже ведут себя некоторые автомобили класса «люкс». И то ли еще будет. Стоит вам случайно выехать из своей полосы – и машина начинает протестовать: она гудит, руль и сиденья вибрируют, на боковых зеркалах загораются лампочки. Автомобильные компании экспериментируют с системами корректировки траектории движения, помогающими водителю вернуть машину на полосу. Указатели поворота были придуманы для того, чтобы другие водители видели, что вы собираетесь повернуть или перестроиться. Теперь с их помощью вы даете понять собственной машине, что делаете это не по ошибке, а намеренно. Вы словно говорите ей: «Не мешай. Я действительно хочу совершить маневр».

Как-то раз я входил в группу консультантов одной крупной автомобилестроительной фирмы. На одном из заседаний я сказал, что буду по-разному реагировать на испуг жены и машины. «Как это? – удивилась моя коллега Шерри Теркл, профессор Массачусетского технологического университета, признанный авторитет в вопросах человекомашинного взаимодействия. – Вы что же, к машине прислушиваетесь больше, чем к жене?»

Действительно странно. Конечно, я могу привести кучу рациональных доводов, но они ничего не объяснят. Сегодня, когда мы наделяем творения своих рук все большей самостоятельностью, разумом, эмоциями и индивидуальностью, пора уже задуматься о том, как мы взаимодействуем с этими механизмами.

Почему я обращаю больше внимания на поведение машины, а не жены? В двух словах ответить трудно, но в конечном счете все дело в коммуникации. Когда жене что-то не нравится, я могу спросить ее о причине и, выслушав ответ, либо согласиться, либо переубедить ее. Кроме того, чтобы она успокоилась, я могу изменить манеру вождения. Но с автомобилем в беседу не вступишь, коммуникация здесь носит односторонний характер.

– И как тебе новая машина? – спросил я Тома, когда он вез меня в аэропорт после затянувшегося совещания. – Нравится навигационная система?

– Машина отличная, – ответил он, – но навигационной системой я вообще не пользуюсь. Я хочу сам выбирать маршрут, а она все решает за меня.

Техника обслуживает нас, и поэтому у нее больше власти. Не логично? Да, но именно так обстоит дело. Задумайтесь: если при заключении контракта вы не хотите идти на уступки, кого вы пошлете на переговоры – генерального директора или кого-нибудь рангом пониже? Как это ни странно, рядовой сотрудник зачастую может добиться более выгодных условий. Почему? Да потому что, какие бы обоснованные аргументы ни приводила другая сторона, переговорщик с ограниченными полномочиями не может принять окончательного решения. И выслушав самые убедительные доводы, он вправе сказать лишь: «Извините, но я дам вам ответ после того, как проконсультируюсь с начальством». А на следующий день, вернувшись за стол переговоров, он разведет руками: «Увы, я не сумел переубедить босса». Если же ваш представитель наделен широкими полномочиями, его можно убедить, и он примет предложение, пусть даже впоследствии вы все об этом пожалеете.

Искушенные переговорщики хорошо знают эту уловку и не позволяют оппонентам к ней прибегать. Когда я обсуждал этот вопрос с моей знакомой, преуспевающим адвокатом, она только посмеялась: «Если противная сторона попробует провернуть нечто подобное, я их быстро выведу на чистую воду. Со мной в такие игры не поиграешь». Но техника играет с нами в такие игры, и мы ничего с этим не можем поделать. Когда машина вмешивается в наши действия, нам остается только подчиниться. Она фактически говорит нам: «Будет либо по-моему, либо никак», причем вариант «никак» заведомо исключен.

Возьмем случай Тома. Он дает навигационной системе задание проложить маршрут, и та это делает. Казалось бы, все просто. Такое вот идеальное взаимодействие человека и техники – конструктивный диалог. Но вспомним, как Том жаловался: «Она все решает за меня». Разработчики передовых технологий гордятся тем, что закладывают в свои системы «коммуникационные способности». Но при тщательном анализе выясняется, что здесь происходит подмена понятий: нет никакой «коммуникации», никакого обмена мнениями, характерного для подлинного диалога. Есть два монолога. Мы отдаем приказы машине, а она – нам. А два монолога – это никакой не диалог.

В нашем случае у Тома есть выбор. Если он отключит навигационную систему, автомобиль не перестанет функционировать. Поэтому Том, недовольный тем, как она прокладывает маршрут, этой системой просто не пользуется. Но с другими системами такой вариант невозможен: не пользоваться ими значит не пользоваться автомобилем. Проблема в том, что они зачастую крайне полезны и при всех своих недостатках спасают жизни людей. То есть вопрос должен звучать так: как нам изменить способ взаимодействия с техникой, чтобы, эффективно используя ее достоинства, попытаться исключить назойливые, а порой и опасные действия?

Чем могущественнее техника, тем более насущной становится проблема коммуникации и сотрудничества с ней. Сотрудничество предполагает не только координацию действий, но еще объяснения и обмен мнениями. Для этого необходимо доверие, которое возникает лишь на основе опыта и взаимопонимания. Имея дело с автоматизированными «умными» машинами, мы порой необоснованно им доверяем – или столь же необоснованно не доверяем. Том не доверяет указаниям навигационной системы, но в некоторых случаях нежелание полагаться на технику чревато опасными последствиями. Скажем, что может случиться, если Том отключит антиблокировочную систему тормозов или систему курсовой устойчивости? Многие водители считают, что способны управлять машиной лучше, чем любая автоматика. Однако системы, предотвращающие заносы и обеспечивающие устойчивость, действуют эффективнее, чем любой водитель, за исключением разве что самых опытных профессионалов. Они спасают немало жизней. Но как автомобилисту определить, каким системам можно доверять?

Конструкторы, как правило, сосредоточиваются на технологиях, пытаясь ради нашей безопасности и комфорта автоматизировать все, что только можно. Их цель – полная автоматизация, если этому не препятствуют технические ограничения или соображения рентабельности. Однако наличие этих ограничительных факторов означает, что некоторые функции можно автоматизировать лишь частично, то есть человек должен постоянно следить за работой машины и брать дело в свои руки, если она не может действовать самостоятельно. Поэтому, когда функции автоматизированы не полностью, необходимо, чтобы каждая из сторон – человек и механизм – понимала, что делает другая и зачем.

Два монолога еще не диалог

Сократ: В этом, Федр, дурная особенность письменности… ее порождения стоят как живые, а спроси их – они величаво и гордо молчат. То же самое и с сочинениями: думаешь, будто они говорят как разумные существа, но если кто спросит о чем-нибудь из того, что они говорят, желая это усвоить, они всегда отвечают одно и то же.

Платон, «Федр»

Две тысячи лет назад Сократ утверждал, что появление книг подрывает способность людей к логическому мышлению. Он верил в диалог, в беседу и спор. Но с книгой не вступишь в дискуссию: письменный текст не ответит на ваши доводы. Сегодня, когда книга стала символом знаний, мы можем лишь посмеяться над подобными аргументами. Но попробуем отнестись к ним всерьез. Вопреки мнению Сократа, письменные сочинения дают нам навыки самостоятельного мышления, поскольку нам попросту незачем полемизировать с их авторами. Мы обсуждаем их и спорим друг с другом на занятиях, в дискуссионных группах, а если речь идет о важном тексте, то к нашим услугам все средства массовой коммуникации. Тем не менее доводы Сократа верны: технологии, не создающие возможностей для дискуссий, разъяснений, дебатов, по определению ущербны.

За годы, проведенные в бизнесе и во главе университетской кафедры, я понял, что процесс принятия решения часто бывает важнее, чем само решение. Когда человек принимает решение, никак его не объясняя и ни с кем не советуясь, люди не доверяют результату и не одобряют его, даже если после обсуждения они сами поступили бы точно так же. Многие бизнесмены задаются вопросом: «Зачем тратить время на обсуждения, если конечный результат будет тем же самым?» Но это не так. Даже в случае принятия аналогичного решения сам процесс его принятия и реализации – особенно в незапланированных обстоятельствах – будет совершенно иным, если им займется команда, не просто выполняющая приказ, а понимающая суть дела и принимающая участие в реализации замысла.

Тома не устраивает навигационная система в его автомобиле, хотя он понимает, что порой она может быть полезна. Однако он не может взаимодействовать с системой, чтобы приспособить ее к своим потребностям. Даже если некоторые важные решения: «самый быстрый путь», «самый короткий», «с самыми живописными видами», «без проезда по платным дорогам» – Том принимает сам, он не может обсудить с навигационной системой причины, по которым выбран именно этот, а не другой маршрут. Он не знает, почему для нее маршрут А предпочтительнее маршрута Б. Учитывает ли она время ожидания на светофорах и количество знаков «стоп»? А вдруг маршруты отличаются только тем, что один из них экономит минуту на час езды? Том не знает альтернативы, которую, возможно, предпочтет, несмотря на потерю во времени. Методы работы системы неизвестны, поэтому, даже если бы он был склонен ей доверять, молчание и тайна подрывают это доверие – как подрывает доверие единоличное принятие решений в бизнесе.

Что, если бы навигационные системы могли обсуждать маршрут с водителем? Если бы они предлагали ему альтернативные варианты, демонстрируя их и на карте, и в виде таблицы, на которой указаны протяженность маршрута, предполагаемое время в пути и расходы на проезд по платным дорогам, чтобы водитель имел возможность выбирать? В некоторых навигационных системах это уже предусмотрено, и таблица для поездки в Пало-Альто из долины Напа может выглядеть следующим образом:

Маршрут Сент-Хелена – Пало-Альто, Калифорния

Это, конечно, явное усовершенствование, но до диалога и здесь далеко. Система говорит: вот три варианта, выбирай один из них. Узнать подробности или изменить маршрут вы не можете. Я знаком со всеми тремя дорогами и знаю: самая быстрая, короткая и дешевая проходит по наименее живописным местам, а та, где виды будут лучше всего, даже не предлагается. Но если водитель не имеет об этом представления? Понятно, что такой уровень общения машины с человеком не может нас удовлетворить. И то, что создание навигационных систем, предлагающих автомобилистам хотя бы такой выбор, считается большим шагом вперед, лишь показывает, как плохи остальные системы и как мы еще далеки от искомого результата.

Если моя машина сочтет, что авария неизбежна, она выпрямит спинки кресел или включит тормоза и ни о чем меня не спросит, не посоветуется со мной, даже не сообщит, в чем причина. Может, ей лучше знать, поскольку она напичкана механическими и электронными приборами, безошибочно делающими нужные расчеты? Не обязательно. Да, с арифметикой у приборов все в порядке, но, прежде чем делать расчеты, нужно еще учесть состояние дороги, поток и квалификацию водителя. Водители-профессионалы порой отключают автоматику, поскольку она не позволяет им использовать все их навыки. Точнее, они отключают то, что им позволено отключить: многие из современных машин столь авторитарны, что не оставляют водителю даже этой возможности.

Не думайте, что это относится только к автомобилям. В будущем аналогичная проблема возникнет при обращении с очень многими видами устройств. Так, в банках уже существуют автоматизированные системы, определяющие, можно ли дать вам кредит, а автоматизированные медицинские системы решают, какое лечение или лекарство вам назначить. Скоро машины станут следить за тем, что вы едите, что читаете, какую музыку любите и какие телепередачи предпочитаете смотреть. Специальные системы будут наблюдать, как вы ведете себя за рулем, и если они решат, что вы нарушили правила, то уведомят страховую компанию, прокатную контору, а то и полицию. Другие системы отслеживают нарушение авторских прав, принимая решения о том, что можно разрешить, а что нет. Во всех этих случаях речь идет о произвольных решениях: машины делают важнейшие выводы о ваших намерениях на основе далеко не полной картины вашего поведения.

Так называемые «умные» системы стали чересчур самоуверенными. Они убеждены, будто знают, что для нас лучше. Но их интеллект ограничен. И это ограниченность фундаментального свойства: машина по определению не может знать все факторы, которые человек учитывает при принятии решений. Это, впрочем, не означает, что нам следует отказываться от помощи «умных» машин. В то же время, поскольку машины берут на себя все больше и больше, их нужно социализировать – они должны стать более коммуникабельными и лучше понимать пределы своих возможностей. Только тогда они смогут приносить настоящую пользу. Именно этой теме и посвящена моя книга.

Когда я только начинал над ней работать, я думал, что ключевым в социализации машин является создание более совершенных систем, способных к диалогу. Но я ошибался. Для конструктивного диалога нужны общие знания и опыт. Нужно уметь учитывать обстановку и контекст, предшествующие события, а также множество различных целей и мотивов, которыми руководствуются участники процесса. И в этом, как я теперь понимаю, заключено одно из главных ограничений, не позволяющих современным технологиям полноценно взаимодействовать с человеком. Если даже людям непросто найти полное взаимопонимание, откуда оно возьмется у людей и машин?

Куда мы движемся? И кто направляет движение?

– Моя машина чуть не устроила мне аварию, – сказал мне Джим.

– Твоя машина? Как это? – удивился я.

– Я ехал по шоссе, включив круиз-контроль. Знаешь, это такая система, которая поддерживает постоянную скорость, но если впереди появляется другая машина, она снижается, чтобы сохранять безопасную дистанцию. Так вот, через какое-то время движение на дороге стало более интенсивным, и моя машина замедлила ход. Наконец я добрался до нужного съезда, перестроился в правый ряд и свернул с шоссе. Я так давно включил круиз-контроль и ехал так медленно, что попросту о нем забыл. А вот машина не забыла. Она небось сказала себе: «Ура! Наконец-то впереди никого нет», и начала разгоняться до прежней скорости, хотя на съезде надо ехать медленно. Хорошо, что я не растерялся и вовремя нажал на тормоза. Иначе кто знает, что могло бы случиться.

Сегодня наши отношения с техникой резко меняются. До недавнего времени люди ее контролировали. Мы включали и выключали ее, указывали, что делать, и следили за процессом исполнения. Но по мере того как техника становилась все сложнее и изощреннее, мы стали хуже понимать принципы ее работы и хуже предугадывать ее действия. С тех пор как в нашей жизни появились компьютеры и микропроцессоры, мы все чаще испытывали растерянность, замешательство, раздражение и злость. Но мы продолжали считать, что контролируем ситуацию. Увы, уже нет. Машины берут верх. Они ведут себя так, будто обладают интеллектом и свободой воли, хотя ни того, ни другого у них нет.

Естественно, машины присматривают за нами с наилучшими намерениями – ради нашей безопасности и удобства. Если все идет как надо, эти «умные» машины весьма полезны: они делают нашу жизнь спокойнее, избавляют нас от рутинной работы, создают комфорт и выполняют многие задания точнее, чем мы сами. Действительно, ведь удобно же, что автомобиль автоматически снижает скорость, если перед вами на опасно близком расстоянии появилась другая машина, что он тихо и плавно переключает передачи, что микроволновая печь знает, когда испеклась картошка. Ну а если техника дает сбой? Что, если она действует неправильно или выходит из повиновения? Вспомним про машину Джима, заметившую, что дорога свободна, и увеличившую скорость, хотя он уже съехал с шоссе? Те же устройства, которые помогают нам в нормальных условиях, в случае каких-то неожиданностей снижают уровень безопасности, комфорта, точности, что чревато для нас угрожающими последствиями, дискомфортом, раздражением и злостью.

Сегодня машины сообщают о своем состоянии в основном с помощью сигналов тревоги, то есть только если с ними что-то не в порядке. Когда механизм дает сбой, человек должен взять ситуацию под контроль; зачастую это происходит неожиданно и времени, чтобы нормально отреагировать, у него нет. Джиму удалось исправить ошибку своего автомобиля. А если бы он не сумел этого сделать, в аварии обвинили бы его. Да-да, если действия «умной» машины приводят к аварии, ответственность за нее, скорее всего, возложат на человека.

Чтобы наладить взаимодействие людей с «умными» механизмами, нужно совершенствовать координацию и кооперацию обеих сторон – человека и машины. Но конструкторы, разрабатывающие сложные системы, зачастую этого не понимают. Как машина может определить, что важно, а что нет, особенно если то, что важно в одной ситуации, в другой теряет значение?

Я рассказывал историю о Джиме и его ретивом автомобиле инженерам нескольких автомобилестроительных компаний, и они неизменно реагировали следующим образом. Сперва они пытались обвинить во всем водителя: почему он не выключил круиз-контроль перед тем, как съехать с шоссе? Я объяснял: он просто забыл. Ну, тогда он плохой водитель, говорили они. Принцип «сам виноват» очень удобен для обвинителя, будь то страховая компания, органы власти или общество в целом: если люди совершают ошибку, их надо наказать. Но так проблему не решить. На самом деле подлинные виновники – это неудачная конструкция, несовершенные алгоритмы, плохая инфраструктура, изъяны в технологическом режиме. А человек – лишь последнее звено в этой сложной цепи.

И хотя с технической точки зрения специалисты из автокомпаний правы – водитель должен помнить, как работает автоматика его машины, – это не оправдывает конструктивных недоработок. Новые технологии следует разрабатывать, имея в виду реальное поведение людей, а не то, каким мы хотели бы его видеть. Более того, автомобиль никак не помогает водителю вспомнить, что нужно сделать. Похоже, он сконструирован именно так, чтобы помочь ему забыть! Понять, включен круиз-контроль или нет, практически невозможно. Было бы куда лучше, если бы в машине имелось специальное напоминающее устройство.

И здесь инженеры переходили к следующему этапу: «Да, проблема есть, но волноваться не стоит. Мы все исправим. Вы правы, навигационная система автомобиля должна фиксировать, что он съехал с дороги, и либо автоматически отключить круиз-контроль, либо настроить его на безопасную скорость».

Этот ответ наглядно иллюстрирует суть проблемы. Машина не обладает умом: ее интеллект – это интеллект конструкторов. Они сидят в своих кабинетах, пытаясь представить себе все, что может произойти с машиной и водителем, и выработать правильные решения. Но как заложить правильную реакцию на неожиданное событие? Если такое случается с человеком, можно предположить, что он решит проблему с помощью воображения и смекалки. Но «интеллект» наших машин заключен не в них самих, а в головах инженеров. Поэтому в непредвиденных обстоятельствах, когда конструктора нет рядом, машина, как правило, не справляется с задачей.

О неожиданностях мы знаем две вещи: во-первых, они обязательно случаются, во-вторых, всегда застают нас врасплох.

Как-то раз инженер одной автомобильной компании отреагировал на мой рассказ о Джиме не так, как другие. Он смущенно признал, что нечто подобное на съезде с шоссе случилось и с ним самим, но у него была другая проблема – смена ряда. Если на шоссе с интенсивным движением водитель хочет перестроиться, он ждет, когда на соседней полосе возникнет достаточно большой просвет, а затем совершает маневр. Обычно при этом его автомобиль оказывается на небольшом расстоянии от машин, идущих впереди и сзади. Адаптивный круиз-контроль может решить, что передняя машина находится в опасной близости, и включить тормоза.

– Ну и в чем здесь проблема? – удивился я. – Это, конечно, раздражает, но вроде ничем не грозит.

– Нет, – пояснил инженер. – Это опасно, потому что едущий за вами водитель не ожидает, что после перестроения вы неожиданно затормозите. И если он не слишком внимателен, то может в вас врезаться. Но даже если этого не случится, ваша манера езды вряд ли ему понравится.

– Возможно, – засмеялся он, – у машины должен быть специальный стоп-сигнал, который будет загораться, если тормоза включаются автоматически, предупреждая водителя сзади: эй, я не виноват, это моя машина тормозит.

Инженер, конечно, шутил, но его слова указывают на различия в поведении людей и машин. Человек может вести себя по-разному, плохо или хорошо, обдуманно или беспечно. Машины более последовательны, они анализируют ситуацию в соответствии с логикой и правилами, на которые запрограммированы. Но в их действиях есть принципиальное ограничение: они воспринимают окружающий мир не так, как человек, у них нет «высших целей», и они не понимают целей и мотивов людей, с которыми должны взаимодействовать. Иными словами, машины не такие, как мы. В чем-то они нас превосходят, например в скорости, мощи, последовательности, а в чем-то уступают – прежде всего в навыках общения, в креативности и воображении. Машины лишены эмпатии и не способны понять, как их действия отразятся на окружающих. Из-за этих различий, связанных в первую очередь со способностью к общению и наличием эмпатии, и возникают проблемы. Более того, такие различия, а значит, и возникающие противоречия, носят фундаментальный характер, их нельзя устранить, изменив какой-нибудь алгоритм или добавив лишний датчик.

В результате действия машин вступают в противоречие с действиями людей. Зачастую ничего страшного в этом нет: если моя стиральная машина стирает белье не так, как я, какое мне дело – ведь в результате я получаю чистую одежду. Здесь автоматизация эффективна, поскольку мне нужно только загрузить белье и включить машину, а все остальное она делает сама. Она, так сказать, берет дело в свои руки, и, если я не вмешиваюсь, все работает без сбоев.

Но как быть в ситуациях, когда люди и техника должны взаимодействовать? И что произойдет с моей стиральной машиной, если, включив ее, я захочу изменить режим? Как мне сообщить ей об этом? И когда она его изменит, если программа уже запущена – сразу же или при следующей стирке? Здесь различия между реакцией людей и машин становятся очень важными. Иногда кажется, что машина действует абсолютно волюнтаристски, хотя если бы она умела мыслить и говорить, то объяснила бы, что, с ее точки зрения, это я творю произвол. На человека, вовлеченного в процесс, эта борьба за превосходство может действовать угнетающе. А стороннего наблюдателя она ставит в тупик: не ясно, кто здесь главный и почему происходит то или иное действие. И не важно, кто в данном случае прав – человек или машина. Значение имеет сама несогласованность действий – ведь именно из-за нее возникают злость, раздражение, а порой даже поломки или травмы.

Конфликт между действиями человека и машины возникает оттого, что машины, какими бы «умными» они ни были, плохо представляют себе внешние условия, цели и мотивы людей, а также особые обстоятельства, неизбежно сопутствующие тем или иным действиям. Машины прекрасно работают в заданных условиях, когда им не мешают назойливые люди и не происходит ничего неожиданного, то есть все можно точно спрогнозировать. Здесь автоматизация дает превосходные результаты.

Но даже в заданных условиях, когда машины функционируют наилучшим образом, они не всегда действуют так, как действовали бы мы. Возьмем «умную» микроволновую печь. Она знает, сколько электроэнергии и времени необходимо, чтобы приготовить нужное блюдо. Если печка исправна, все очень просто и приятно: вы кладете в нее кусок сырого лосося и сообщаете, что ей предстоит готовить рыбу. Через некоторое время вы получаете готовое блюдо – нечто среднее между вареной рыбой и тушеной, но по-своему превосходное. В инструкции говорится: «Сенсор фиксирует избыточную влагу, выделяемую при готовке, и печь автоматически корректирует время приготовления в соответствии с типом и количеством пищи». Заметим, однако, что ни слова не сказано о том, что микроволновка готовит пищу так же, как человек. Человек проверил бы, стала ли рыба достаточно мягкой, приобрела ли нужный цвет, возможно, измерил бы внутреннюю температуру. Печка всего этого не умеет, поэтому делает, что может – следит за выделением влаги. Именно по уровню влажности она определяет, готово ли блюдо. Для рыбы и овощей этого достаточно, а для других продуктов – нет. Кроме того, сама сенсорная система не идеальна. Если после завершения программы блюдо оказалось сыроватым, включать печь еще раз не рекомендуется: «Не применяйте сенсорную функцию дважды при приготовлении одной и той же порции – это может привести к тому, что пища окажется пережаренной или подгоревшей». Вот вам и «умная» микроволновка!

Помогает ли техника нам в быту? И да, и нет. Если можно говорить о том, что у нее есть «голос», она определенно говорит с нами свысока, не объясняя, как и зачем она что-то делает, что именно она делает, какой уровень прожарки, чистоты или сухости устраивает ее сенсоры и как быть, если что-то идет не так. Многие люди, на мой взгляд, совершенно оправданно чураются таких приборов. Они хотят знать, что происходит и почему, но прибор хранит молчание, да и инструкция к нему мало что объясняет.

В лабораториях по всему миру ученые изобретают все новые способы внедрения искусственного интеллекта в нашу жизнь. Уже созданы экспериментальные образцы «умных» домов, чувствующих все, что делают их обитатели. Они автоматически включают и выключают свет, корректируют температуру и даже выбирают для вас музыку. Список проектов, находящихся в разработке, впечатляет: холодильники, не дающие вам есть неподходящую пищу, унитазы-«доносчики», тайно сообщающие вашему врачу о состоянии ваших биологических жидкостей. Казалось бы, между холодильником и унитазом мало общего, но они становятся компонентами системы, следящей за вашим питанием – первый контролирует то, что попадает внутрь, а второй измеряет и анализирует то, что выходит наружу. У нас уже есть весы-«ворчуны», следящие за избыточным весом, и тренажеры, требующие, чтобы ими пользовались. Даже чайники издают громкий свист, чтобы привлечь максимальное внимание.

Окружая себя все большим количеством «умных» устройств, мы меняем нашу жизнь не только к лучшему, но и к худшему. Когда они работают нормально – это хорошо, но когда они дают сбой или превращают работоспособных творческих людей в прислужников, занятых исключительно заботой о них, их обслуживанием и ремонтом, ничего хорошего в этом нет. Так не должно быть, но так есть. Неужели уже поздно что-то изменить? Неужели мы ничего не можем сделать?

Нашествие «умных» машин

Вперед – к естественному симбиозу

Есть надежда, что уже недалек тот день, когда человеческий мозг и вычислительные машины будут взаимодействовать весьма тесно, и мыслительные способности этого партнерства превзойдут все, на что способен человеческий ум.

Дж. Ликлайдер, «Симбиоз человека и компьютера» (1960)

В 1950-х психолог Джозеф Ликлайдер попытался определить, каким образом люди и машины могли бы установить гармоничные, или, как он говорил, «симбиотические», отношения, чтобы в результате этого партнерства повысилось качество нашей жизни. Что такое гармоничный симбиоз людей и техники? Для этого необходимо естественное, непринужденное взаимодействие на уровне подсознания, чтобы контакт с обеих сторон происходил сам собой, без каких-либо усилий, и в результате человек и машина, совместно решая задачу, сливались бы в единое целое.

В нашей жизни существует немало примеров «естественного взаимодействия». Возьмем четыре примера, демонстрирующих разные формы таких взаимоотношений: между людьми и традиционными орудиями труда, между лошадью и всадником, между водителем и автомобилем, между человеком и «рекомендательным» сервисом, предлагающим ему книги, музыку или фильмы.

Искусный мастер взаимодействует с орудием своего труда так же, как музыкант со своим инструментом. Для художника или скульптора, краснодеревщика или музыканта инструмент – это продолжение руки. Кажется, что они не пользуются инструментом, а работают непосредственно с материалом – холстом и красками, камнем, деревом, звуками. Чувство материала, то гладкого и звонкого, то неподатливого и шершавого, обеспечивает обратную связь. Это взаимодействие непростое, но приятное. Правда, такого рода «симбиотические» отношения возможны лишь тогда, когда человек хорошо знает свое дело и инструменты у него хорошие. В этих случаях взаимодействие становится плодотворным, приятным и эффективным.

Возьмем искусного наездника. Он понимает коня, а конь понимает всадника. И каждый из них передает другому информацию о том, что им предстоит. Лошадь общается с наездником с помощью языка тела, аллюра, готовности продолжать скачку и общей линии поведения. Она может быть настороженной, капризной, пугливой или, напротив, энергичной, живой и игривой. Всадник тоже общается с лошадью посредством языка тела, посадки, того, как он давит коленями, ступнями или шпорами на ее бока, команд, которые он отдает, натягивая или отпуская поводья. Конь отлично понимает, кто на нем сидит – опытный наездник, чувствующий себя непринужденно, или напряженный, не уверенный в себе новичок. Это еще один позитивный пример взаимодействия. Он особенно интересен тем, что в данном случае речь идет о двух системах – всаднике и коне, которые наделены чувствами, интеллектом, способны воспринимать окружающий мир и сообщать друг другу результаты этого восприятия.

Третий пример похож на предыдущий, однако речь здесь идет о взаимодействии разумного существа со сложным, но неразумным механизмом. В идеале – это тонкая взаимосвязь между тем, как водитель ощущает машину и дорогу, и тем, как он действует.

Я думаю об этом, сидя рядом с сыном, ведущим мою немецкую спортивную машину по гоночному треку, который мы арендовали на несколько часов. Мы приближаемся к резкому повороту, сын плавно тормозит, перемещая вес машины на нос, а затем поворачивает руль, переводя машину в состояние управляемого заноса. Завершив поворот, он возвращает руль в прежнее положение и увеличивает скорость, перемещая вес машины на задние колеса, и мы снова несемся по прямой, наслаждаясь приятным ощущением полного контроля над ситуацией. Это доставляет удовольствие всем участникам процесса: мне, сыну и автомобилю.

Четвертый пример, с рекомендательными сервисами, сильно отличается от первых трех: здесь все происходит медленнее, не так изящно и носит более интеллектуальный характер. Тем не менее это прекрасная иллюстрация позитивного взаимодействия между людьми и сложными системами, прежде всего потому, что последние не управляют нами, а предлагают, и мы вольны принять или отклонить их рекомендации. Эти системы устроены по-разному, но все они рекомендуют различные изделия или виды деятельности, которые могут нам понравиться: анализируют то, что мы уже выбирали, ищут похожие вещи в своих базах данных и изучают предпочтения других людей, чьи интересы, как им кажется, напоминают наши. А поскольку эти рекомендации даются ненавязчиво (вы знакомитесь с ними и следуете им исключительно по собственному желанию), они могут быть полезны. Скажем, если вы ищете книгу в Интернете, возможность прочесть отрывки из текста, оглавление, указатель и рецензии помогает вам решить, стоит ли ее покупать.

На некоторых сайтах вам даже объяснят, откуда взялись те или иные рекомендации, и предложат скорректировать методику выбора. В научных лабораториях мне приходилось сталкиваться с рекомендательными системами, которые следят за вашей деятельностью, и, когда вы что-то читаете или пишете, они рекомендуют вам статьи, похожие по содержанию на то, что выведено на экран вашего компьютера. Эффективность этих систем обусловлена несколькими причинами. Во-первых, они предлагают вам нечто ценное, их рекомендации часто актуальны и полезны. Во-вторых, сами рекомендации даются ненавязчиво, они не отвлекают вас от основного занятия и остаются доступными до тех пор, пока вы не пожелаете с ними ознакомиться. Не все подобные системы столь же эффективны, некоторые своей навязчивостью нарушают неприкосновенность вашей частной жизни. Но если они сделаны хорошо, то убедительно доказывают, что «умные» системы способны сделать наше взаимодействие с машинами полезным и приятным.

Пояснение

Когда я езжу верхом, это занятие не доставляет удовольствия ни мне, ни лошади. Для непринужденного, спокойного взаимодействия с ней нужно немалое умение, которого у меня нет. Я плохо представляю себе, что делаю, и лошадь понимает это не хуже меня. Точно так же, наблюдая с пассажирского места, как неумелый и не уверенный в себе водитель борется с собственной машиной, я не чувствую себя в безопасности. Симбиоз – отличная идея, ведь речь идет о взаимовыгодном сотрудничестве. Но в некоторых случаях, в частности в первых трех из приведенных мной примеров, оно требует немалых усилий, подготовки и навыков. В других случаях, таких как четвертый пример, специальных навыков и обучения не требуется, но разработчики должны всегда помнить об уместности того или иного способа социального взаимодействия.

Когда я разместил на своем сайте первый вариант этой главы, мне пришло письмо от группы ученых, изучающих возможность применения принципов взаимодействия лошади и всадника в системах управления автомобилями и самолетами. Они называют эту концепцию «метафорой Л», где Л обозначает лошадь. Чтобы понять, как могут быть созданы такие системы, усилия объединили специалисты из исследовательского центра НАСА в Лэнгли (штат Вирджиния) и ученые из Института транспортной системной техники Германского центра авиации и космонавтики (DLR) в Брауншвейге. Я специально побывал в Брауншвейге, чтобы поближе познакомиться с их работой (это потрясающие исследования, подробнее я расскажу о них в главе 3). Всадник регулирует степень контроля над ситуацией, делегируемого коню: отпустив поводья, он позволяет ему действовать самостоятельно, а натянув их, берет управление на себя. Искусные наездники постоянно ведут переговоры со своими лошадьми, приспосабливая степень своего контроля к конкретным обстоятельствам. Американские и немецкие ученые пытаются внедрить этот подход в сферу взаимодействия между человеком и машиной – причем это касается не только автомобилей, но также домов и бытовой техники.

Симбиоз в том смысле, который полвека назад вкладывал в это понятие Ликлайдер, означает гармоничное и эффективное объединение двух компонентов – человеческого и механического, с тем чтобы возникающее в результате сотрудничество превосходило возможности каждого из них по отдельности. Нам необходимо понять, как достичь оптимального взаимодействия, как сделать его настолько естественным, чтобы оно не требовало ни усилий, ни особых навыков.

Норовистые кони, норовистые машины

Что означает взаимодействие водителя и автомобиля, построенное по тому же принципу, что и взаимодействие умелого наездника и лошади? Что будет, если машина встает на дыбы или начинает артачиться, оказавшись слишком близко к впереди идущему автомобилю или сочтя, что скорость движения слишком высока? А если она движется плавно и ровно в ответ на правильные команды, но медленно и неохотно реагирует на неправильные? Можно ли сконструировать автомобиль, который будет физически реагировать на ситуацию, сообщая таким образом водителю об опасности?

А как насчет вашего дома? «Норовистое» жилище – что это такое? Порой мой пылесос или плита начинают бунтовать. Я хочу, чтобы они делали одно, а они хотят делать что-то другое. Но дом! Сегодня инженеры уже готовятся превратить ваше жилище в автоматизированное существо, постоянно заботящееся о вашем благе, удовлетворяющее все ваши потребности и желания еще до того, как эти желания и потребности у вас возникли. Многие фирмы жаждут заняться оборудованием и управлением этими «умными» домами, которые меняют освещение в зависимости от своих представлений о вашем настроении, выбирают и включают для вас музыку, перемещают изображение с одного телеэкрана на другой, если вы бродите по дому. Эти системы так интеллектуальны, что возникает вопрос: сможем ли мы найти с ними контакт? Если вы хотите научиться ездить верхом, вам нужна практика, а еще лучше – обучение на специальных курсах. Так что же, нам теперь придется упражняться в обращении с собственным домом, идти на курсы, чтобы научиться ладить с собственной бытовой техникой?

Что, если мы сможем придумать способ органичного взаимодействия между людьми и машинами? Пригодится нам для этого опыт взаимодействия умелого наездника с конем? Возможно. Мы должны найти поведенческие соответствия, возникающие в отношениях всадника с лошадью и водителя с автомобилем. Как машина проявляет нервозность? Что означает лошадиный норов применительно к машине? Если лошадь выражает свои эмоции, шарахаясь назад или напрягая шею, как в аналогичной ситуации должен вести себя автомобиль? Что, если он внезапно встанет на задние колеса и начнет раскачиваться из стороны в сторону?

В научных лабораториях уже работают над аналогами сигналов, которые наездник посылает лошади. Ученые из исследовательских подразделений автомобильных компаний ставят эксперименты, измеряя уровни волнения и внимания, и минимум у одной модели автомобиля, уже поступившей в продажу, на рулевой колонке есть телекамера, которая следит за водителем, определяя, насколько он сосредоточен. Если машина приходит к выводу, что водитель отвлекся и столкновение неминуемо, она автоматически включает тормоза.

Аналогичным образом разрабатываются «умные» дома, которые наблюдают за своими обитателями, оценивают их настроение и эмоциональное состояние, чтобы выбрать подходящие температуру, освещение и фоновую музыку. В исследовательском центре одного европейского университета группе испытуемых было предложено сыграть в напряженную видеоигру, а затем отдохнуть в специальной комнате с удобными креслами, красивой мебелью и мягким освещением, помогающим расслабиться. Я побывал в этой комнате, там действительно можно расслабиться и отдохнуть. Цель эксперимента – понять, как создать жилую среду, соответствующую эмоциональному состоянию человека. Может ли дом, определив, что хозяева находятся в состоянии стресса, автоматически его снять? Или, напротив, привести своих вялых обитателей в бодрое состояние духа, включив яркий свет, веселую музыку, изменив цветовую гамму?

Машинам легче думать, чем действовать; они воспринимают логику, но лишены эмоций

«Следуй за мной», – говорит Манфред Макикс, герой книги Чарльза Стросса «Акселерандо», только что купленному чемодану. Так и происходит. Манфред поворачивается и уходит, а «новый чемодан катится за ним».

Многие из нас выросли на фантастических романах, фильмах и телесериалах о всемогущих роботах и гигантских компьютерах. Порой они неуклюжи (вспомним Си Трипио из «Звездных войн»), порой всеведущи (как компьютер ЭАЛ из «Космической одиссеи»), а порой неотличимы от людей (непонятно, кто же такой Рик Декард, герой «Бегущего по лезвию», – человек или репликант). Реальность, однако, сильно отличается от фантастики. Роботы ХХI века не способны на осмысленное общение с людьми, более того – они и ходить-то умеют плохо, не говоря уж о способности обращаться с реальными предметами. В результате большая часть «умных» машин – особенно бытовых, которые должны быть недорогими, надежными и простыми в обращении, – предназначена для выполнения элементарных функций, вроде приготовления кофе, стирки, мытья посуды, регулирования освещения и отопления, кондиционирования воздуха, уборки дома и стрижки газонов.

Если поставлена конкретная задача и ничего неожиданного не происходит, «умные» машины способны действовать логично и осмысленно. Они измеряют температуру и уровень влажности, количество жидкости, вес одежды или пищи и определяют, высохло ли белье и готова ли еда. Последние модели стиральных машин способны даже распознавать, из каких тканей сделано белье, каков его вес и степень загрязнения, и выбирать соответствующие настройки.

Автоматизированные пылесосы (в том числе, моющие) прекрасно работают, если поверхность относительно гладкая и на их пути не встречается препятствий, но чемодан, следующий за хозяином, как в «Акселерандо», по-прежнему остается за пределами возможностей обычной бытовой техники. Хотя создать нечто подобное вполне возможно, ведь здесь не требуется реального взаимодействия с людьми – ни общения, ни специальных мер безопасности. Чемодан должен просто катиться за владельцем. На случай, если кто-то попытается его украсть, чемодан можно запрограммировать так, чтобы он реагировал на опасность громким воем. У Стросса чемодан еще и распознает «отпечатки пальцев хозяина – в оцифрованном виде и по фенотипическим признакам», украсть его можно, а вот открыть нельзя.

Но способен ли такой чемодан реально передвигаться по многолюдным городским улицам? Ведь у него, в отличие от нас, нет ног. Он не сможет обходить препятствия или перешагивать через них, спускаться и подниматься по лестницам, переходить с дороги на тротуар и – со своими колесами – окажется в положении инвалида: ему придется искать специальные съезды на уличных перекрестках, а внутри зданий пользоваться пандусами и лифтами. Даже людям в инвалидных колясках зачастую нелегко преодолеть эти препятствия, а уж самодвижущемуся чемодану придется куда труднее. Кроме того, передвижение по улицам, скорее всего, ляжет непосильной нагрузкой на его системы обработки визуальных данных. Способность чемодана не упускать из виду хозяина, огибать препятствия, находить путь, пригодный для передвижения на колесах, избегая столкновения с автомобилями, велосипедистами и пешеходами, резко снизится.

Существуют интересные расхождения в том, что люди и машины считают легким и сложным. В том, что касается мышления, некогда считавшегося привилегией человека, машины достигли наибольшего прогресса, особенно если речь идет о логике и внимании к деталям. А вот физические действия – когда надо стоять, ходить, прыгать, избегать препятствий – сравнительно легко даются людям, но для машин они сложны, а то и непосильны. Наконец, важнейшую роль в поведении людей и животных играют эмоции. Они помогают нам понять, что хорошо, а что плохо, что опасно, а что нет, и служат мощным коммуникативным средством для передачи друг другу чувств и убеждений, реакций и намерений. У машин же существуют лишь примитивные эмоции.

Несмотря на эти ограничения, многие ученые по-прежнему пытаются воплотить в жизнь мечту об «умных» машинах, способных эффективно общаться с людьми. Ученые по природе оптимисты, им необходимо верить, что их работа важнее всего на свете, и более того, что они уже близки к прорыву исторического масштаба. В результате в СМИ появляются статьи такого содержания:

По словам ученых, роботы скоро смогут выполнять для людей ряд важных задач – от ухода за детьми до вождения автомобиля за престарелых граждан. В субботу на ежегодное заседание Американской ассоциации развития науки собрались ведущие специалисты страны в области робототехники, чтобы рассказать о последних исследованиях в этой области и о нашей будущей жизни в окружении роботов…

Например, у вас будет милый плюшевый мишка, обучающий детей испанскому или французскому языку, машина, которая сама отвезет вас на работу, пока вы будете дремать на сиденье, есть или готовить доклад на PowerPoint; динозаврик размером с чихуахуа, понимающий, когда нужно приласкаться и поиграть с вами, а когда оставить вас в покое; компьютер, меняющий положение экрана в зависимости от вашей позы, выполняемой работы или настроения; робот-мажордом, встречающий ваших гостей, представляющий их друг другу на случай, если вы забыли, кого как зовут, развлекающий собравшихся музыкой и анекдотами, разносящий закуски и напитки.

Достижениям в создании «умной» среды обитания посвящено немало научных конференций. Приведу текст одного из приглашений на такое мероприятие:

Симпозиум по проблемам создания эмоциональной «умной» среды обитания ( Ньюкасл-на-Тайне, Великобритания ).

Бытовой искусственный интеллект – новая популярная сфера исследований, нацеленных на создание «умной» среды обитания, чутко, гибко и активно реагирующей на присутствие и действия человека, обеспечивая услуги, которые обитатели этой среды запрашивают или которые могут им понадобиться.

Искусственный интеллект все больше проникает в наш быт. Многие привычные приборы, такие как телевизоры, кухонное оборудование или системы центрального отопления, уже оснащаются встроенными компьютерами, которые будут объединены в интегрированные сети… Датчики биологической активности позволят системе распознавать присутствие и состояние пользователей, а также определять их потребности с целью улучшения бытовых условий и повышения реального благополучия людей.

Верите ли вы в то, что ваш дом лучше знает, что вам нужно? Хотите ли вы, чтобы ваша кухня консультировалась с вашими напольными весами, или чтобы ваш унитаз автоматически исследовал вашу мочу, а затем сообщал результаты вашему лечащему врачу? И как, собственно, кухня узнает, что именно вы ели? Как она поймет, что масло, яйца или сливки, которые вы вынули из холодильника, предназначены для вас, а не для других обитателей дома, гостей или, скажем, школьного проекта?

Еще недавно надзор за вашим питанием был невозможен, но сегодня уже появились крохотные, едва видимые датчики, которые можно прикреплять к чему угодно – к одежде, товарам, продуктам, даже к людям и домашним животным – и отслеживать все, что с ними происходит. Их называют радиочастотными идентификационными метками (RFID). Им не нужны батарейки: метки получают энергию от считывателя, посылающего запрос об их назначении, идентификационном номере и других сведениях о человеке или объекте, которые в них заложены. Если все продукты снабжены такими метками, «умный» дом может проследить за вашим питанием. Наличие RFID-меток, а также телекамер, микрофонов и других сенсорных устройств равносильно приказам: «Ешь брокколи», «Не трогай масло», «Делай зарядку». Властная кухня? Это еще мягко сказано!

«Как научить бытовые приборы понимать, что вам нужно?» – таким вопросом задалась группа исследователей из Медиа-лаборатории Массачусетского технологического института. Они создали кухню, напичканную сенсорами, телекамерами и датчиками давления в полу, которые позволяют определить, где в тот или иной момент стоит человек. Благодаря этой системе разработчики пришли к следующему выводу: если человек открыл холодильник, а затем оказался перед микроволновой печью, он/она с высокой степенью вероятности разогревает пищу. Свое детище они назвали «здравомыслящей кухней» (KitchenSense). Вот ее описание:

KitchenSense – это экспериментальная платформа для изучения кухонного пространства, снабженная множеством датчиков и подключенная к сети, где для упрощения контрольных интерфейсов и расширения зоны взаимодействия используется логика здравого смысла (CommonSence). С помощью сети датчиков система интерпретирует намерения людей, чтобы создать надежную базу для безопасной, эффективной и эстетичной деятельности. Анализ совокупной информации, поступающей с датчиков, в сочетании со знаниями о повседневной жизни человека позволяет централизованной «открытой» системе (OpenMind) создать общий контекст для работы различных устройств.

Если человек открыл дверцу холодильника, а затем прошел к микроволновой печи, он «с высокой степенью вероятности» собирается разогреть пищу. В переводе с изысканного научного жаргона на простой язык получается обычная догадка. Конечно, чрезвычайно высокоумная, но все же догадка. Этот пример отражает самую суть дела: «система», то есть компьютеры, управляющие «умной» кухней, ничего не знает наверняка. Она попросту строит догадки – догадки, подтвержденные некими статистическими данными, в основе которых лежат наблюдения и интуиция разработчиков. Но системе не дано знать, каковы реальные намерения человека.

Объективности ради отметим, что статистические закономерности бывают полезны. В данном случае кухня ничего не делает, она скорее готовится к действию, предлагая набор вероятных вариантов, и, если один из них совпадает с вашими намерениями, вам останется только нажать на кнопку. Если же система не угадала, вы можете ее проигнорировать – насколько вообще можно игнорировать дом, постоянно проецирующий разные предложения на кухонный стол, стены и пол.

Работа системы основана на «здравом смысле», но в действительности здравым смыслом эта кухня не обладает. Все ее «здравомыслие» заложено программистами, и уровень его невысок, поскольку знать, что происходит на самом деле, она не может.

А если вы решите сделать что-то такое, что «умный» дом сочтет вредным или просто неправильным? «Нет, – скажет он, – так готовить нельзя. Если вы поступите именно так, я не отвечаю за результат. Вот, загляните в эту поваренную книгу. Видите? Не заставляйте меня говорить: „Я же вас предупреждал“». Этот сценарий смахивает на фильм Стивена Спилберга «Особое мнение» по одноименному рассказу великого фантаста Филипа Дика. Его герой Джон Андертон, убегая от правительственных агентов, пробирается через многолюдный торговый центр. Рекламные дисплеи узнают его, окликают по имени и соблазняют заманчивыми скидками – только для него. Дисплей, рекламирующий автомобили, призывает: «Это не просто машина, мистер Андертон! Это обитель, призванная утешить и успокоить израненную душу». Реклама турагентства искушает: «Устал, Джон Андертон? Нуждаешься в отдыхе? Мы организуем тебе поездку в Арубу!» Эй, дисплеи, человек спасается от полиции, он вряд ли остановится, чтобы купить какую-нибудь тряпку.

«Особое мнение» – художественный фильм, но показанные в нем технологии были придуманы умными, творческими людьми, которые стремились к максимальному правдоподобию. Активные рекламные дисплеи скоро станут реальностью. В ряде городов билборды распознают владельцев автомобиля MINI Cooper по RFID-меткам. Его реклама безобидна – водителю показывают слоганы, в выборе которых он лично участвовал. Но лиха беда начало. Сегодня для распространения рекламы нужны радиометки, но это лишь временная уловка. Ученые уже работают над тем, чтобы телекамеры, наблюдающие за людьми и автомобилями, распознавали их по лицу и осанке, а их машины – по модели, году выпуска, цвету и номерному знаку. Так в Лондоне отслеживают машины, въезжающие в центр города. Так спецслужбы смогут следить за подозреваемыми в терроризме. Так рекламные агентства будут выискивать потенциальных клиентов. Станут ли дисплеи в магазинах предлагать завсегдатаям специальные скидки? Будут ли ресторанные меню автоматически выводить на экран ваши любимые блюда? Сначала мы читаем об этом в научно-фантастическом рассказе, потом видим в кино, а затем – на городских улицах. Так что ищите активную рекламу в соседнем магазине… Впрочем, можете не трудиться – она сама вас найдет.

Общение с машинами: мы и они – два разных вида

Я представляю себе: на дворе ночь, но мне не спится. Тихо, чтобы не разбудить жену, я встаю с постели. Раз уж одолела бессонница, лучше не тратить время впустую, а поработать. Но мой дом, уловив движение, радостно желает мне доброго утра, включает свет и радиоприемник, настроенный на программу новостей. Жена, естественно, просыпается и ворчит: «Зачем ты разбудил меня так рано?!»

Как мне объяснить «умному» дому, что его действия, абсолютно правильные в одной ситуации, в другой могут оказаться совершенно неуместными? Должен ли я программировать его на определенное время суток? Нет, не годится: порой нам с женой приходится вставать среди ночи, например чтобы успеть на утренний самолет или позвонить коллеге из Индии. Чтобы правильно реагировать, дом должен понимать контекст, мотивы моих действий. Я намеренно встал так рано? Следует ли будить мою жену? Хочу ли я, чтобы он включил радио и кофеварку? Чтобы понять причины моего пробуждения, дом должен знать мои намерения, а для этого требуется коммуникация такого уровня, который недостижим ни сегодня, ни в обозримом будущем. Пока что «умными» машинами по-прежнему должны управлять люди. В худшем случае это может приводить к конфликтам, в лучшем – человеку и машине удается создать эффективный симбиотический союз. Заметим, что своим «умом» машины обязаны людям.

Инженеры скажут, что все новые технологии поначалу бывают сырыми, но потом они совершенствуются и становятся надежными и безопасными. В этом есть своя правда. Было время, когда паровые двигатели локомотивов и пароходов взрывались, а теперь этого практически не случается. В начале развития авиации катастрофы происходили часто, а теперь очень редко. Помните проблему Джима с круиз-контролем, который увеличил скорость не там, где надо? Уверен, что в будущих моделях автомобилей таких ситуаций удастся избежать, соединив управление скоростным режимом с навигационной системой, либо создав устройства, с помощью которых шоссе само сможет информировать машину о разрешенной скорости (тогда превысить ее станет невозможно). Не исключено даже, что машины научатся самостоятельно определять безопасную скорость в зависимости от состояния дорожного полотна, количества поворотов, погодных условий, наличия на шоссе другого транспорта или людей.

Я инженер. Я верю, что наука и техника способны сделать нашу жизнь богаче и приятнее. Но пока мы идем не туда. Сегодня мы имеем дело с новым поколением «умных» и самостоятельных машин, которые в состоянии реально заменить нас во многих ситуациях. Они могут существенно облегчить нашу жизнь, сделать ее более приятной и безопасной. А могут начать действовать нам на нервы, мешать и даже подвергнуть опасности. Мы впервые имеем дело с машинами, которые пытаются с нами общаться.

Фундаментальные проблемы, возникшие в сфере технологий, невозможно преодолеть, действуя прежними методами. Здесь нужен более взвешенный, надежный и гуманитарный подход. Нужна не автоматизация, а совершенствование.

Глава 2. Психология людей и машин

Сегодня в нашей жизни вполне реальны три таких сценария:

– Набрать высоту! Набрать высоту! – громко предупреждает самолет, если считает, что самолет летит слишком низко.

– Би-би, – сигналит автомобиль, пытаясь привлечь внимание водителя. Одновременно он выпрямляет спинки сидений, туже затягивает ремни безопасности и готовится включить тормоза. Машина наблюдает за шофером с помощью встроенной видеокамеры и, если тот отвлекся от дороги, автоматически тормозит.

– Динь-динь, – это посудомоечная машина сообщает, что посуда помыта, даже если дело происходит в три часа утра и ее звонок способен разве что разбудить вас.

А вот три возможных сценария из недалекого будущего:

– Нет, – говорит холодильник, – яйца тебе есть нельзя, пока ты не похудеешь и у тебя не снизится уровень холестерина. Весы сообщили мне, что тебе надо сбросить еще три кило, а клиника продолжает упрекать меня за избыток холестерина у тебя в организме. Сам знаешь, все это делается для твоего же блага.

– Я только что проверил твое расписание в смартфоне, – говорит автомобиль, когда ты садишься в него после работы. – У тебя есть свободное время, поэтому я запрограммировал маршрут не по трассе, а по дороге с живописными видами и поворотами, которую ты так любишь. И кстати, чтоб было веселее в пути, я подобрал твои любимые мелодии.

– Слушай, – говорит дом, пока ты утром собираешься на работу, – куда ты спешишь? Мусор я выбросил, мог бы, кстати, и спасибо сказать. И хорошо бы нам поговорить насчет этого симпатичного регулятора – помнишь, я показывал тебе его на фото? С ним я буду работать куда эффективнее, и, между прочим, у дома Джона он уже есть.

Некоторые машины упрямы, другие темпераментны, одни деликатны, другие грубоваты. Мы часто наделяем машины человеческими чертами, и порой эти характеристики весьма точны, хотя мы употребляем их в переносном смысле. Однако новые типы «интеллектуальных» механизмов вполне самостоятельны: они сами делают выводы и принимают решения. Чтобы действовать, им уже не требуются санкции людей. Так наши метафоры обретают буквальный смысл, превращаясь в конкретные параметры.

Три моих первых примера взяты из реальной жизни. Системы предупреждения действительно кричат «Набрать высоту» (обычно женским голосом). Как минимум одна автомобильная компания уже заявила, что выпускает машину, оснащенную системой видеонаблюдения за водителем. Если он не следит за дорогой, а радиолокационное устройство сообщает о возможности столкновения, автомобиль подает сигнал тревоги – пусть не голосом (по крайней мере, пока), но гудками и вибрацией. Если водитель по-прежнему не реагирует, система включает тормоза и готовится к аварии. Что же касается посудомоечной машины, то она уже не раз будила меня среди ночи своими звонками.

Мы хорошо осведомлены об устройстве автоматизированных систем, но куда меньше знаем о том, как они взаимодействуют с людьми, хотя эта проблема изучается уже несколько десятков лет. Однако эти исследования касаются промышленности или армии, где люди постоянно работают с машинами. А как насчет простого человека, не имеющего специальной подготовки и пользующегося тем или иным прибором от случая к случаю? Об этом мы почти ничего не знаем, но именно такие ситуации заботят меня больше всего – когда обычные, неподготовленные люди, вроде нас с вами, пользуются бытовой техникой, аудио– и видеоаппаратурой, автомобилями.

Как простому человеку научиться обращаться с «умными» машинами нового поколения? Увы – постепенно, методом проб и ошибок, постоянно портя себе нервы. Конструкторы, похоже, убеждены в том, будто их создания столь умны и совершенны, что и учиться ничему не надо. Достаточно просто сказать им, что нужно сделать, и не мешать. Конечно, у приборов всегда есть инструкция, порой весьма объемная, но в ней ничего не объясняется, и к тому же она, как правило, очень невразумительная. В большинстве инструкций ничего не говорится о том, как работает сам механизм. Вместо этого приборам даются магические названия, броские, но лишенные смысла, скажем «Умный бытовой сенсор», как будто завлекательное название равносильно объяснению.

В научных кругах этот подход называют «автомагизационным» (автоматика плюс магия). Производители хотят, чтобы мы верили в магию и полагались на нее. И даже если прибор работает без сбоев, ты испытываешь некоторый дискомфорт, потому что не знаешь, как он действует и почему. Но реальные проблемы начинаются, если что-то идет не так: ведь мы просто не понимаем, что надо делать. Мы оказываемся наедине с ужасами промежуточного состояния. С одной стороны, мир научной фантастики, населенный умными, самостоятельными, идеально функционирующими роботами, еще не стал реальностью. С другой – мы все дальше уходим от мира ручного управления, где нет автоматизации, где люди сами приводят в действие устройство, которое выполняет их задание.

«Мы просто облегчаем вам жизнь, – внушают мне производители. – Мы делаем ее более безопасной, здоровой и приятной. Что в этом плохого?» Да, мы были бы счастливы, если бы эти «умные» приборы работали идеально. Будь они стопроцентно надежны, нам действительно незачем было бы знать, как они устроены, «автомагизация» нас вполне бы удовлетворила. Но, оказавшись в промежуточном мире автоматизированной техники, которую мы не понимаем, которая работает не так, как мы хотим, не выполняет порученное, мы явно не чувствуем, что наша жизнь стала легче и приятнее.

Краткое введение в психологию людей и машин

История «умных» машин начинается с попыток создания механических автоматов, в частности заводных устройств и шахматных машин. Из первых шахматных автоматов самым удачным был «Турок» Вольфганга фон Кемпелена, торжественно представленный европейским монархам в 1769 году. Впоследствии выяснилось, что это был обман – «автоматом» управлял спрятанный внутри опытный шахматист. Но сам факт удавшейся мистификации свидетельствует о том, что люди были готовы поверить в возможность создания разумных механизмов. Настоящий же бум в разработке «умных» машин начался в середине ХХ века, после появления теории управления, сервосистем, кибернетики, информатики и теории автоматизации. Одновременно шло ускоренное развитие электроники и компьютерной техники, чья мощность удваивалась примерно раз в два года. И сегодня, через сорок с лишним лет, эти системы в миллион раз мощнее первых гигантских «искусственных мозгов». А теперь подумайте, что случится через двадцать лет, когда машины будут в тысячу раз мощнее нынешних, или через сорок лет, когда их мощность возрастет в миллион раз.

Первые попытки создания искусственного интеллекта (ИИ) тоже относятся к середине прошлого века. При создании «умных» устройств ученые попытались руководствоваться не холодной, жесткой математической логикой, а пластичным мышлением, близким к человеческому, которое основано не на точных алгоритмах, а на здравом смысле, гибкой логике, вероятностях, качественных критериях и эмпирических правилах. В результате сегодняшние системы с искусственным интеллектом (СИИ) способны видеть и распознавать предметы, понимать устную и письменную речь, говорить, перемещаться в пространстве и решать сложные задачи.

Пожалуй, наиболее успешно в повседневной жизни ИИ применяется в компьютерных играх – для создания «мыслящих» персонажей, играющих против людей, этих сообразительных, но несносных героев, которые, словно нарочно, делают все, чтобы вывести из себя создателей-игроков. ИИ так же успешно применяется для борьбы с банковскими махинациями, мошенничеством с кредитными картами и другой подозрительной деятельностью. В автомобильном оборудовании ИИ применяется в системах торможения, обеспечения устойчивости, круиз-контроля, автоматической парковки и др. В быту простейшие системы, обладающие ИИ, управляют стиральными машинами: они определяют тип белья, степень его загрязнения и соответствующим образом корректируют настройки. СИИ в микроволновых печах распознают, готова ли пища. Простые устройства в цифровых фотоаппаратах и видеокамерах помогают контролировать фокус и экспозицию, умеют распознавать лица и следить за ними, чтобы даже в движении обеспечивать нужную резкость и четкость изображения. Со временем возможности и надежность СИИ будут увеличиваться, а стоимость – снижаться, их будут использовать в самой разной технике, а не только в дорогих моделях. Вспомним, что мощность компьютеров каждые двадцать лет повышается в тысячу раз, а каждые сорок лет – в миллион раз.

По своему устройству машины, конечно, сильно отличаются от живых существ. Ведь они в основном состоят из деталей с прямыми линиями, правильными углами или дугами, а в биологии царит гибкость: ткани, связки, мышцы. Мозг живого существа работает за счет мощных параллельных вычислительных механизмов, химических и электрических, и посредством перехода в устойчивые состояния. Мозг машины, точнее – ее система обработки информации, действует гораздо быстрее биологических нейронов, но параллелизма у ее систем гораздо меньше. Человеческий мозг крепок, надежен и креативен, он отлично распознает образы. Мы, люди, обладаем способностью к творчеству, воображением и отлично адаптируемся к меняющимся обстоятельствам. Мы выявляем сходство между событиями и с помощью метафорического расширения идей создаем новые области знаний. Более того, человеческая память, хоть она и ненадежна, умеет находить связи и сходство между предметами, которые машина попросту не сочтет похожими. Наконец, человек обладает мощным здравомыслием, а у машин здравый смысл вообще отсутствует.

Эволюция технологий сильно отличается от эволюции биологических видов. В том, что касается механических систем, она полностью зависит от конструктора, изучающего существующие устройства и вносящего в них изменения. Многовековая история развития машин отчасти обусловлена тем, что наши технические знания, способность к изобретательству и конструированию техники постоянно совершенствуются за счет развития науки, изменения потребностей человека и самой среды его обитания.

Однако между эволюцией человека и «умных» самостоятельных машин существует одна интересная параллель. И люди, и машины должны эффективно, надежно и безопасно функционировать в реальном мире. Таким образом, сам мир предъявляет одинаковые требования ко всем созданиям: животным, людям и механизмам. У животных и людей выработались сложные системы восприятия и поведения, эмоциональные и когнитивные. Машинам нужны аналогичные системы, чтобы постигать окружающий мир и действовать соответствующим образом. Им нужно думать и принимать решения, решать проблемы и делать выводы. А еще им требуется нечто вроде человеческих эмоций, конечно не точное подобие, но машинный аналог, чтобы противостоять внешним угрозам и опасностям, пользоваться предоставляющимися возможностями, предвидеть последствия своих действий, осмыслять то, что уже произошло, и думать о том, что может произойти, то есть извлекать уроки и совершенствоваться. Это относится ко всем автономным системам, наделенным интеллектом, – животным, людям и машинам.

Появление нового организма: гибрид машины и человека

Долгое время ученые полагали, что трехуровневое описание мозга во многих отношениях полезно, пусть даже оно резко упрощает его эволюцию, биологию и функционирование. Это описание основано на теории «триединого мозга», выдвинутой Полом Маклином. Уровни определяются переходом от нижних областей мозга (его стволовой части) к верхним (коре и лобной доле), что отражает как историю эволюции мозга, так и усложнение его функций по обработке информации. В книге «Эмоциональный дизайн» я еще больше упростил это определение, чтобы его могли использовать конструкторы и инженеры. Представим себе три уровня обработки информации в мозгу:

– инстинктивный (висцеральный): самый простой, на этом уровне обработка информации происходит автоматически, неосознанно и определяется нашими биологическими особенностями;

– поведенческий: это сфера приобретенных навыков, но процесс тоже в основном идет неосознанно. На этом уровне запускается и контролируется значительная часть наших действий. Одна из важных функций – управление ожиданиями результатов наших действий;

– рефлексивный: это «сознательная» часть мозга, в которой заложены наше «я» и наши представления о самих себе, здесь происходит анализ прошлого и рождаются образы будущего, которого мы ждем или боимся.

Рис. 2.1. Машина + водитель = новый гибридный организм. Скульптура Марты Тома

«Р-р-разбег». Фото автора. Боуден-парк, Пало-Альто (Калифорния)

Если бы мы сумели заложить в машины наши эмоциональные состояния, это было бы для них очень полезно. Так же, как для нас полезны некоторые свойства машин: быстрота реакции, позволяющая избежать опасностей и несчастных случаев, безопасность для окружающих, мощные способности к обучению, позволяющие улучшать результаты и повышать эффективность. Кое-что мы уже можем наблюдать. Закрывающиеся двери лифтов распахиваются, если на пути возникает препятствие (как правило, зазевавшийся человек). Пылесосы-роботы избегают крутых спусков: страх перед падением заложен в их программы. В данном случае речь идет об автоматической, «инстинктивной» реакции – о страхе, который в человеке заложен биологически, а в машине – ее создателем. Но на рефлексию и эмоции, основанные на собственном позитивном или негативном опыте, машины пока не способны. Когда-нибудь это случится, и тогда их прогностические способности и способности к обучению станут еще выше.

Будущее окружающих нас вещей принадлежит тем, которые наделены знаниями, интеллектом, понимают, где их место и кому они принадлежат, способны обмениваться информацией с другими объектами и окружающей средой. Будущее машин целиком и полностью связано с их мобильностью, способностью физически управлять средой, сознательно взаимодействовать с другими машинами и людьми.

Из технологий будущего наибольший интерес представляют те, что смогут установить с нами симбиотические отношения: «машина + человек». Можно ли назвать связку «автомобиль + водитель» симбиозом в том же смысле, что и связку «конь + всадник»? В конце концов взаимодействие автомобиля и водителя означает разделение уровней обработки информации: машина берет на себя «инстинктивную» часть, человек – «рефлексивную», а «поведенческая» часть у них общая, как у коня и всадника.

Подобно лошади, обладающей достаточным уровнем интеллекта, чтобы взять на себя «инстинктивные» аспекты движения (избегать опасных мест, корректировать скорость в соответствии с качеством дороги, обходить препятствия), современные автомобили могут чувствовать опасность, контролировать собственную устойчивость, тормоза, скорость. Лошади усваивают сложные поведенческие режимы, позволяющие двигаться по сильно пересеченной местности, перепрыгивать через препятствия, менять при необходимости аллюр и держать нужную дистанцию. Современный автомобиль тоже действует на поведенческом уровне: меняет скорость, держится в своей полосе, тормозит при возникновении опасности и контролирует другие аспекты движения.

Связку «конь + всадник» можно рассматривать как симбиотическую систему: конь обеспечивает инстинктивный уровень восприятия, а всадник – рефлексивный. При этом на поведенческом уровне они действуют совместно. То же самое можно сказать и о связке «автомобиль + водитель»: последний отвечает за рефлексивный уровень, а машина постепенно берет на себя инстинктивный. Кроме того, и на поведенческом уровне у них много общего. Отметим также, что и конь, и «умная» машина пытаются контролировать ситуацию на рефлексивном уровне.

Рефлексия не всегда удел наездника или водителя. К примеру, лошадь может замедлить аллюр или решить вернуться домой. Либо, вместо того чтобы слушаться наездника, попытается его сбросить или просто будет игнорировать его команды. Нетрудно представить, что когда-нибудь машина сама будет выбирать маршрут или вдруг съедет на обочину, решив, что ей пора заправиться или водителю надо отдохнуть или перекусить. Не исключено также, что она может отреагировать на сообщения, поступающие от придорожных коммерческих заведений.

«Машина + водитель» – сложная система, наделенная чувствами и разумом. В начале ХХ века, когда автомобили только входили в нашу жизнь, водитель отвечал за все уровни обработки информации – инстинктивный, поведенческий и рефлексивный. Однако по мере развития техники в машину закладывалось все больше «инстинктивных» элементов: она брала на себя корректировку работы двигателя, впрыск топлива и управление. С появлением антиблокировочных тормозных устройств, систем обеспечения устойчивости, круиз-контроля, а теперь и системы предупреждения о выходе за пределы полосы движения автомобиль все больше отвечает за «поведенческие» аспекты вождения. Таким образом, современные машины действуют на «инстинктивном» уровне, водитель – на «рефлексивном», и оба они – на «поведенческом».

Автомобиль ХХI века становится все более «рефлексивным», в связке «машина + водитель» он постепенно берет на себя и те аспекты, которые связаны с осмыслением ситуации. Так, рефлексия несомненно присутствует в адаптивной системе круиз-контроля, постоянно оценивающей расстояние между автомобилем и другими машинами, в навигационной системе, следящей за тем, насколько точно водитель выполняет ее инструкции, и во всех прочих устройствах, наблюдающих за поведением водителя. Когда эти системы обнаруживают проблему, они либо подают человеку сигнал, чтобы он изменил свои действия, либо, по возможности, корректируют их сами. Но если машина решит, что это необходимо, она полностью возьмет управление на себя.

Придет время, когда водители машинам вообще будут не нужны. Люди превратятся в пассажиров, они смогут болтать, читать и даже дремать, пока автомобиль везет их к месту назначения. А если человеку нравится водить? Что ж, для таких любителей будут устроены специальные полигоны, где они смогут сесть за руль – подобно тому, как сегодня существуют особые места для верховой езды. Когда такие времена наступят – а это, как мне кажется, произойдет уже в ХХI веке, – система «автомобиль + водитель» уйдет в прошлое. Вместо нее, как и прежде, будут автомобили и будут люди, только автомобиль станет по-настоящему разумной, самостоятельной машиной, по крайней мере в том, что касается перевозки людей. И отвечать он будет не только за навигацию и управление, но и за комфорт и хорошее настроение пассажиров, обеспечивая нужное освещение и температуру, развлекая их, угощая едой и напитками.

Различия в целях, действиях и восприятии

Люди обладают множеством уникальных способностей, воспроизвести которые в машинах невозможно, по крайней мере сегодня. Автоматизируя и наделяя интеллектом технику, которой мы пользуемся, мы должны смиренно признать существование некоторых проблем и возможность будущих неудач. Необходимо также понимать, что в действиях людей и машин существуют гигантские различия.

Многие устройства, которыми мы пользуемся в повседневной жизни, снабжены «интеллектуальными системами». У нас есть «умные» стиральные и посудомоечные машины, роботы-пылесосы, автомобили, компьютеры, телефоны и компьютерные игры. Можно ли назвать эти системы подлинно разумными? Нет, они способны реагировать, но их разум заключен в головах у конструкторов, которые пытаются учесть все возможные ситуации и заложить в систему соответствующие действия. Иными словами, конструкторы пытаются прочесть наши мысли, оценить весь спектр возможных обстоятельств и то, как в этих обстоятельствах будет действовать человек. В целом создаваемые ими «реактивные» системы ценны и полезны, но они часто дают сбой.

Почему? Потому что эти системы, как правило, не могут напрямую оценить предмет нашего интереса: они способны лишь анализировать данные, полученные от сенсоров. Человек обладает развитой сенсорно-двигательной системой, позволяющей постоянно оценивать состояние окружающего мира и собственного организма. У нас есть сотни миллионов специализированных нервных клеток, реагирующих на свет и звук, прикосновение и вкус, равновесие и температуру, давление и боль, а также рецепторы, определяющие состояние мышц и положение тела. Кроме того, у нас выработались сложные представления об окружающем мире и наших действиях, а также определенные ожидания, основанные на длительном опыте взаимодействия с ним. У машин нет ничего, даже отдаленно напоминающего эти способности.

Их сенсоры не просто ограничены в своих возможностях – они реагируют не на то, на что реагируют наши органы чувств. Физическое ощущение и психологическое восприятие – вещи разные. Машины могут распознавать ультрафиолетовые и инфракрасные частоты, радиоволны, а мы – нет. Они способны слышать звуковые частоты, недоступные человеческому восприятию. И еще многое другое. Мы, люди, обладаем гибкими мышцами и ловкими пальцами. Машины уступают нам в гибкости, зато они гораздо сильнее.

Наконец, цели людей резко отличаются от целей машин. Более того, многие люди считают, что у машин вообще не может быть целей. Однако по мере совершенствования машины смогут все лучше оценивать ситуацию и действовать сообразно целям, которых они хотят достичь. Что же касается чувств и эмоций, которые играют главную роль в нашем мировосприятии и поведении, то машины ими не обладают. И даже если они когда-нибудь обзаведутся элементарными эмоциями, эти эмоции будут мало похожи на человеческие.

Общая основа: главное ограничение во взаимодействии людей и машин

Алан и Барбара изначально обладают некоторой совокупностью знаний, убеждений и предположений, которые, по их мнению, являются общими. Это я и называю их общей основой… Под общей основой они понимают то, что происходило в ходе бесед, в которых они оба участвовали, включая и нынешнюю. Чем больше времени Алан и Барбара проводят вместе, тем больше становится эта общая основа… Они уже не могут согласовывать свои действия, не обращаясь к ней.

Герберт Кларк, «Использование языка»

Для общения и переговоров требуется то, что лингвисты называют «общей основой»: единая понятийная база, на которой строится взаимодействие. В приведенной выше цитате из работы психолингвиста Герберта Кларка у выдуманной автором пары – Алана и Барбары – общая основа присутствует в любых совместных действиях. Когда взаимодействуют люди, принадлежащие к одной и той же культурной и социальной группе, общность взглядов и опыта обеспечивает быстроту и эффективность их взаимодействия. Вы когда-нибудь подслушивали чужие разговоры? Я часто это делаю, гуляя по паркам или бродя по гипермаркетам, – из чисто научного интереса, разумеется. При этом меня неизменно поражает бессодержательность этих разговоров, даже если люди что-то увлеченно обсуждают. Типичный отрывок из такого разговора может звучать так:

Алан: Знаешь? Барбара: Ага.

Вполне вероятно, что для Алана и Барбары этот обмен репликами вполне содержателен и исполнен глубокого смысла. Но нам с вами этого не понять, поскольку мы не знаем, что имеется в виду. Их общая основа для нас недоступна.

Отсутствие общей основы – главная причина нашей неспособности общаться с машинами. Ведь у людей и машин так мало общего. У человека с человеком и у машины с машиной все обстоит иначе, такие пары взаимодействуют эффективно. Люди могут делиться информацией друг с другом. Машины могут делиться информацией с машинами. А вот люди с машинами – нет.

Вероятно, вас удивит, что я говорю о наличии у машин общей основы, но это связано с тем, что инженеры-конструкторы прилагают большие усилия, чтобы их создания могли делиться базовой информацией, необходимой для эффективной совместной работы. Когда две машины начинают взаимодействовать, запускается стандартная процедура согласования общей информации, состояния и даже синтаксической структуры взаимодействия. На жаргоне специалистов по технике связи это называется «рукопожатие». Это представляется настолько важным, что инженерное сообщество создало разветвленную систему международных комиссий для выработки единых общемировых стандартов, гарантирующих идентичность допущений и базовых знаний у «общающихся» друг с другом машин. Стандарты согласовать непросто, поскольку для этого нужно провести сложные переговоры между компаниями-конкурентами, а также решить вопросы технического, юридического, политического характера. Однако игра стоит свеч, ведь результатом станут общий язык, протоколы и базовые знания, необходимые для создания общей основы и, соответственно, эффективного общения машин.

Хотите пример того, как две машины вырабатывают общую основу? Пожалуйста. Для нас, людей, рукопожатие – это процесс тихий и незаметный. Но когда мы пользуемся электронными приборами, связывающимися друг с другом, оно присутствует почти всегда. Так, телевизор «разговаривает» с кабельным блоком, а тот, в свою очередь, – с передатчиком; компьютер соединяется с веб-сайтами, когда вы включаете мобильный телефон, он ищет сеть. Впрочем, самый обыденный пример связан со странными звуками, которые издает факс. Набрав номер (заметим, что сигнал готовности к набору и гудки – это тоже разновидность рукопожатия), мы слышим серию скрипучих звуков, означающих, что ваш факс ведет переговоры с принимающим факсом о стандарте кода, скорости передачи и качестве изображения. Затем происходит собственно передача информации: первый факс транслирует сигналы, а второй подтверждает прием. Мы имеем дело с «урезанным» и механизированным вариантом взаимодействия между двумя людьми, которые впервые встретились и пытаются установить, есть ли у них общие знакомые и общие интересы.

Люди способны находить общую основу с другими людьми. Машины способны договариваться об общей основе с другими машинами. Но машины и люди живут в разных мирах: в первом взаимодействие определяется строгими логическими правилами, а во втором царят сложные ситуативные действия, когда одно и то же объективное условие может порождать разные поступки, поскольку «обстоятельства различны». Более того, это основополагающее несовпадение целей, представлений и действий означает, что машины и люди не способны договориться даже о базовых вещах – о том, что происходит в мире, что мы можем сделать, чего мы добиваемся. Отсутствие общей основы – это настоящая пропасть, разделяющая машины и людей.

Люди учатся на собственном опыте, корректируя свое поведение с учетом усвоенных уроков. Это значит, что со временем их общая основа расширяется. Более того, люди чувствительны к опыту совместных действий, поэтому даже в одинаковых обстоятельствах Алан будет взаимодействовать с Барбарой не так, как с Чарльзом: ведь он понимает, что с Барбарой у него одна общая основа, а с Чарльзом – другая. Алан, Чарльз и Барбара способны делиться новой информацией, учиться на личном опыте и, соответственно, менять свое поведение.

Машины учиться практически не способны. Да, они могут корректировать свои действия в зависимости от достигнутых результатов, но способность к обобщению у них либо отсутствует, либо, если речь идет о некоторых экспериментальных образцах, крайне слаба. Правда, благодаря ученым, возможности машин постоянно совершенствуются. Но пропасть между общим у людей и общим у человека и машины столь глубока, что в обозримом будущем вряд ли удастся ее преодолеть.

Вспомним три возможных сценария из начала главы. Насколько они реалистичны? Как машина сможет узнать, о чем думает человек? Как она узнает о том, что происходит вне зоны действия ее сенсоров? Как машинам накопить достаточно информации о людях, чтобы иметь право давать им самые дерзкие советы? Ответ прост: никак.

Мой холодильник не разрешает мне есть яйца? Но, может быть, я вообще не собирался их есть или хочу приготовить яичницу для другого человека. Да, холодильник может определить, что я вынимаю из него яйца, он может узнать мой вес и уровень холестерина с помощью информационной медицинской сети, в которую входят мой дом и фрагменты записей моего врача, но все это, увы, не дает ему возможности читать мои мысли и угадывать мои намерения.

Может ли машина свериться с моим расписанием и выбрать для меня интересный маршрут? Что ж, в этом сценарии нет ничего невозможного, кроме разве что непринужденного обмена репликами, но уже сегодня говорящие системы отличаются неплохим качеством, так что и это не исключено. Согласился бы я с выбором машины? Если бы она действовала как сказано, вопрос не имел бы смысла: мне предлагается нечто интересное (до чего я сам мог бы и не додуматься), но выбор остается за мной. Это пример дружеского, полезного взаимодействия, которое можно только приветствовать.

А может ли мой дом позавидовать соседям? Вряд ли, хотя сравнение собственного оборудования и возможностей с возможностями соседних домов – очень разумный способ идти в ногу с временем. В бизнесе это называется «эталонным анализом» и «внедрением передового опыта». Так что и этот сценарий вполне возможен, хотя дому вовсе не обязательно быть таким развязным.

Способности машин к обучению и прогнозированию последствий потенциального взаимодействия крайне ограниченны. Конструкторы закладывают в них набор сенсоров, соответствующий уровню финансирования и развития технологий. В остальном они вынуждены полагаться на собственное воображение, пытаясь угадать, каким может представляться машине окружающий мир. Их задача – сделать так, чтобы машина, основываясь на ограниченных данных, поступающих от сенсоров, могла понять, что происходит и что ей следует предпринять. Если задача сформулирована достаточно четко и не возникает непредвиденных ситуаций, такие системы работают отлично. Но как только ситуация выходит за рамки элементарных параметров, «простые» сенсоры и «интеллектуальные» процедуры принятия решений, заложенные в конструкцию, становятся неэффективными. Пропасть, разделяющая людей и машины, поистине бездонна.

Глава 3. Естественное взаимодействие

Рис. 3.1. Чайник со свистком – простейшее устройство, заставляющее нас выполнять его приказы. Услышал мой свисток? Иди и займись мною!

Свисток сигнализирует. Люди общаются друг с другом. Разница огромна. Конструкторы могут думать, что их изделия способны к общению, но в действительности они лишь подают сигналы, ведь коммуникация здесь односторонняя. Мы должны научиться координировать наши действия и сотрудничать с самостоятельными машинами, чтобы решать задачи легко и к всеобщему удовольствию.

Естественное взаимодействие: уроки, которые следует усвоить

Почти все современные механические устройства способны подавать световые и звуковые сигналы, оповещающие нас о грядущем событии или предупреждающие об опасности. Но у нас, как правило, не одно, а несколько таких устройств, каждое из которых оснащено разнообразными сигнальными системами. В современном доме или автомобиле их могут быть десятки, а то и сотни, а на промышленных предприятиях и в медицинских учреждениях количество таких устройств увеличивается многократно. Если так будет продолжаться и дальше, в наших домах будет стоять непрерывный вой от звуковых сигналов. И хотя каждый из них несет какую-то полезную информацию, эта какофония отвлекает и раздражает человека, а значит, несет в себе потенциальную опасность. Даже в доме, где особых опасностей ожидать не приходится, сигналы нескольких включенных приборов легко перепутать:

– Это стиральная машина сейчас пищала? – спрашивает жена.

– А я думал – посудомоечная, – отвечаю я, бросаясь из кухни в ванную в попытке определить, откуда исходит звук.

– А, это таймер в микроволновке. Я его включила, чтобы не забыть, что мне нужно позвонить по телефону.

Техника будущего, если в ней будут применяться те же методы звукового оповещения, что и сегодня, обещает ввергнуть нас в еще большее смятение и фрустрацию. Однако существует такой прекрасный способ, как система естественного взаимодействия, она более эффективна и меньше действует на нервы. Ведь в природной среде мы неплохо справляемся с распознаванием знаков и сигналов, исходящих от окружающего мира и его обитателей. Благодаря гармоничному сочетанию зрения и слуха, обоняния и осязания наша система восприятия дает нам объемную картину окружающего мира. Наша проприоцептивная система воспринимает информацию от костных полукружных каналов костного лабиринта внутреннего уха, а также от рецепторов мускулов, суставов, связок и сухожилий, благодаря чему мы ощущаем положение своего тела и ориентируемся в пространстве. Мы быстро идентифицируем события и объекты при минимальном наборе раздражителей – что-то промелькнет или раздастся какой-то звук. Кроме того, и это очень важно для нашей темы, природные сигналы дают нам нужную информацию не раздражая, мы естественным, непринужденным образом узнаем о том, что происходит вокруг.

Возьмем, к примеру, природные звуки. Не гудки и звонки механизмов и даже не человеческую речь, а звуки окружающего мира. В них заключена богатая картина происходящего вокруг нас, поскольку любое перемещение объектов в пространстве, когда они соприкасаются, задевают друг друга, сталкиваются, сопротивляются, сопровождается звуками. Звуки сообщают нам не только о том, где именно находятся объекты, но и о том, каковы они (листья, ветки, металл, дерево, стекло) и что с ними происходит (падают, скользят, ломаются, закрываются). Даже неподвижные объекты помогают воспринимать мир на слух: они отражают и преломляют звуки, давая нам возможность ориентироваться в пространстве и определять собственное местоположение. Все это происходит автоматически и так естественно, что зачастую мы даже не понимаем, как зависим от звуков, помогающих нам чувствовать окружающий мир и понимать, что в нем происходит.

Из опыта естественного взаимодействия с природной средой можно извлечь важные уроки. Хотя сигнальные системы в виде незамысловатых звуков, белых или разноцветных мигающих лампочек с конструктивной точки зрения самые простые, они наименее естественны, крайне неинформативны и больше всего раздражают. При создании бытовых устройств будущего стоило бы использовать более разнообразные, дающие больше информации и не вызывающие дискомфорта сигналы – естественные. Богатые и сложные, они позволят людям понять, откуда исходит звук – спереди или сзади, сверху или снизу, из чего сделан и как выглядит объект, когда произойдет ожидаемое событие – вот-вот или не скоро, важно оно или нет. Естественные сигналы не только меньше раздражают – они могут нести куда больше информации, попутно сообщая нам, пусть даже на подсознательном уровне, о том, что происходит в данный момент. К тому же их легче распознать и нам не надо будет метаться в попытках найти источник сигнала. Естественность при полном понимании происходящего. Природный мир звука и цвета обеспечивает гармоничное взаимодействие. Вам нужен пример? Вспомните чайник со свистком.

Звук кипящей воды – естественный, понятный и полезный

Страницы: 12345 » »»