Машина, платформа, толпа. Наше цифровое будущее Бриньолфсон Эрик

Семье Макафи из Бетесды, Мэриленд. Дэвид, Шеннон, Амелия, Аврора и Эйвери Мэй, спасибо, что позволяли мне какое-то время оставлять часть денег на покерном столе

Энди

Моей матери Маргерит, улыбки, любовь и неизменная вера которой поддерживают меня

Эрик

Глава 1. Тройная революция

Эти параллели достаточно близки и очевидны, чтобы быть почти уверенным в том, что, как и в случае предыдущих промышленных революций, основное воздействие информационной революции на общество будущего все еще впереди.

Питер Друкер[1], 2001 г.

Компьютеры и го

Людям всегда было трудно научиться хорошо играть в го, а научить этому компьютер казалось и вовсе невозможным.

Игра го построена на чистой стратегии, в ней нет места везению[2]. Она была создана в Китае минимум 2500 лет назад[3]. Играют в нее два человека: один белыми камнями, другой черными, – по очереди выставляя их на пересечения линий решетки размером 19  19 (пунктов). Если группа камней или один камень лишаются всех точек свободы, то есть незанятых соседних пунктов по горизонтали и вертикали – а такое, как правило, происходит, когда они оказываются окружены камнями противоположного цвета, – то считаются захваченными и снимаются с доски. Побеждает[4] игрок, который захватил большую территорию.

Те, кому нравится стратегия, любят и го. Конфуций говорил, что «благородные мужи не должны тратить время на простые игры – они должны изучать го»[5]. Во многих кругах го ставят выше, чем шахматы – сложную стратегическую игру для двух человек, победа в которой не зависит от удачи. Гроссмейстер Эдуард Ласкер[6] заметил: «Тогда как вычурные правила шахмат могли быть созданы только людьми, правила го настолько элегантны, органичны и строго логичны, что иные разумные формы жизни, если они существуют где-то во Вселенной, почти наверняка играют в эту игру»[7].

Очевидная простота игры скрывает сложность, которую даже трудно осознать. Большая доска и широкий выбор мест, куда можно ставить камни, приводят к числу 2  10170 (к двойке со 170 нулями)[8] – столько в го позиций. Насколько велико это число? Вот вам очень приблизительный ориентир. Наблюдаемая Вселенная содержит примерно 1082 атомов[9]. Если бы каждый из них стал Вселенной размером с нашу, то число возможных позиций в го по-прежнему было бы больше, чем количество атомов во всех этих вселенных.

ИГРА, КОТОРУЮ НИКТО НЕ В СИЛАХ ОБЪЯСНИТЬ

Каким образом лучшие мастера го ориентируются в безумной сложности игры и делают хорошие ходы? Никто не знает, даже сами игроки. Они изучили некоторый набор эвристических приемов и стараются их придерживаться[10]. Но этим все и ограничивается – даже мастера часто затрудняются объяснить свою стратегию. Майкл Редмонд, один из немногих игроков неазиатского происхождения, достигших высшего ранга в игре, поясняет: «Я вижу ход и уверен в его правильности, но я не могу сказать вам точно, как я это узнаю. Я просто вижу»[11].

Дело не в том, что игроки в го косноязычны. Просто у всех нас нет полного доступа к собственным знаниям. Когда мы распознаем чье-то лицо или едем на велосипеде, мы не способны четко объяснить, как и почему делаем то или другое. Трудно изложить скрытое знание. Такое состояние прекрасно описал Майкл Полани[12]: «Мы знаем больше, чем способны рассказать».

Парадокс Полани, назовем его так, был серьезным препятствием для всех, кто попытался построить компьютер, играющий в го. Как написать программу, основанную на оптимальных стратегиях игры, когда никто из людей не в силах сформулировать стратегии? Можно запрограммировать некоторые эвристические правила, но это не обеспечит победу над сильными игроками, выходящими за их рамки, но не способными объяснить, как они это делают.

Чтобы ориентироваться в сложных средах, например во всех возможных позициях игры го, разработчики часто опираются на моделирование. Они пишут программы, которые делают ход, выглядящий хорошим, затем исследуют все разумные ответы противника на него, все разумные ответы на каждый такой ответ и так далее. В конечном счете обычно выбирается тот ход, что обеспечивает больше всего хороших вариантов и меньше всего плохих. Однако из-за того, что существует такое огромное количество возможных партий в го – так много вселенных, ими полных, – у вас получится смоделировать ничтожно малую их долю, будь у вас хоть цех, полный суперкомпьютеров.

Вследствие недоступности ключевых знаний и неэффективного моделирования прогресс у программистов, занимавшихся го, шел медленно. Давая характеристику нынешней ситуации с компьютерами, играющими в го, и ожидаемым перспективам, профессор философии Алан Левиновиц заключил в мае 2014 года в журнале Wired: «Может оказаться, что появление в течение десяти лет компьютера-чемпиона – слишком оптимистичный прогноз»[13]. Статья в Wall Street Journal, написанная в декабре 2015 года профессором психологии Крисом Чабрисом, ведущим в журнале колонку об играх, называлась «Почему го по-прежнему не дается компьютерам».

ПРЕОДОЛЕНИЕ ПАРАДОКСА ПОЛАНИ

В научной статье, опубликованной буквально в следующем номере Wall Street Journal (в январе 2016 года), рассказывалось о компьютере, который уже нельзя одурачить. Группа из лондонской компании DeepMind, принадлежащей Google и специализирующейся на машинном обучении (эту область искусственного интеллекта мы обсудим в главе 3), опубликовала статью «Освоение игры го с помощью нейронных сетей и поиска по дереву»[14], и престижный журнал Nature сделал ее темой номера. Статья описывала программу AlphaGo, которую создатели научили играть в го, обойдя парадокс Полани.

Они не пытались напичкать программу лучшими стратегиями и эвристическими правилами. Вместо этого они создали систему, самообучающуюся в ходе анализа игровых позиций во множестве партий. AlphaGo должна была замечать в большом количестве данных мельчайшие паттерны и связывать действия игроков, например постановку камня на конкретное место, с результатами, скажем с выигрышем[15].

Дав программе доступ к тридцати миллионам позиций, записанных в онлайновом хранилище, ей, по сути, сказали: «Используй их и выясни, как выигрывать». AlphaGo также сыграла множество партий против самой себя, сгенерировав еще 30 миллионов позиций, которые затем проанализировала. Во время игры система вела моделирование, однако весьма узкое: она использовала знания, полученные от изучения миллионов позиций, чтобы моделировать только те ходы, которые, по ее мнению, вели к победе с наибольшей вероятностью.

Работа над AlphaGo началась в 2014 году[16]. К октябрю 2015 года она была готова к тестированию. AlphaGo – какое-то время это держалось в тайне[17] – сыграла матч из пяти партий с Фань Хуэем, который тогда был чемпионом Европы, и выиграла со счетом 5:0.

Победа компьютера в го на таком высоком уровне, оказавшаяся для всех неожиданной, произвела впечатление на сообщество ученых и разработчиков в области искусственного интеллекта. Практически все аналитики и комментаторы назвали достижение AlphaGo настоящим порывом. Однако начались споры о масштабе победы. Нейробиолог Гэри Маркус заметил: «В Европе го едва ли является спортом, и этот чемпион занимает в мировом рейтинге всего 633-е место. Победу робота над 633-м в рейтинге профессиональным теннисистом тоже назвали бы впечатляющим достижением, однако неверно было бы говорить, что он достиг мастерства в игре»[18].

Команда DeepMind, очевидно, сочла замечание справедливым, поскольку бросила вызов Ли Седолю, предложив сыграть матч из пяти партий в Сеуле в марте 2016 года. Многие считали Седоля лучшим игроком в го на планете[19] и одним из лучших, которых помнят современники. Его стиль характеризовали как «интуитивный, непредсказуемый, творческий, напряженный, неистовый, запутанный, глубокий, стремительный, спонтанный»[20]. Эти качества, по мнению самого Седоля, давали ему преимущество перед любым компьютером. Он говорил: «В игре го есть красота, и я не думаю, что машины ее понимают… Я считаю, что человеческая интуиция слишком совершенна, чтобы искусственный интеллект мог достичь чего-то подобного»[21]. Седоль предположил, что выиграет минимум четыре партии из пяти, заметив: «Что касается матча в октябре, мне кажется, что уровень AlphaGo не соответствует моему»[22].

Партии между Седолем и AlphaGo привлекли огромное внимание общественности в Корее и других странах Восточной Азии. AlphaGo выиграла первые три партии, обеспечив себе победу во всем матче. Седоль взял верх в четвертой встрече. Его победа дала кое-кому из наблюдателей надежду, что человеческий ум обнаружил недостатки цифрового противника, которые Седоль мог бы использовать в дальнейшем. Если это и было правдой, то все равно не помогло Седолю в следующей партии. AlphaGo снова выиграла, завершив матч со счетом 4:1 в свою пользу.

Седоль счел матч изматывающим и после поражения сказал: «Я ощущаю своего рода бессилие… У меня огромный опыт игры в го, но никогда не было случая, чтобы я чувствовал такой напор со стороны противника»[23].

Новые технологии обошли мастеров го.

Что случилось с активами?

В марте 2015 года специалист по стратегии Том Гудвин обратил внимание на некий общий принцип. Он написал: «Uber, крупнейшая в мире служба такси, не владеет автомобилями. Facebook, самая популярная социальная сеть, не создает контент. Alibaba, наиболее дорогостоящая торговая компания, не имеет собственных товарных запасов. Airbnb, самая большая онлайн-площадка для поиска съемного жилья, не владеет недвижимостью»[24].

Читатель-скептик может возразить, что некоторые из этих проектов не такие уж революционные, какими кажутся на первый взгляд. Например, многие таксомоторные компании не имеют собственных автомобилей. Они владеют лицензиями, что дает им право оказывать услуги в каком-либо городе, и предоставляют их владельцам и водителям транспортных средств. Аналогично многие крупные гостиничные компании на деле не владеют всеми заведениями, носящими их название, предпочитая вместо этого работать с владельцами недвижимости.

Во всех таких случаях компании имеют долгосрочные активы, такие как лицензии и договоры, важные для данной сферы и потому ценные. У Uber и Airbnb ничего такого нет. Uber не претендует ни на одно транспортное средство, ни на одну лицензию на услуги такси, а Airbnb не имеет долговременного договора ни с одним владельцем жилья. Тем не менее обе компании быстро привлекли миллионы клиентов, достигнув миллиардной рыночной стоимости. Подобный успех, по наблюдению Гудвина, становится все более примечательным. В то время, когда он писал свою заметку в колонку, свыше миллиона человек ежедневно пользовались Uber[25], чтобы попасть в нужное место в одном из 300 городов в 60 странах[26], а Airbnb предлагала 640 тысяч различных вариантов проживания[27] в 191 стране[28], начиная с юрты в Монголии[29] и заканчивая домом в Ирландии, где провел детство Джеймс Джойс[30].

Китайская компания Alibaba привнесла этот подход в сферу розничной торговли, где большой охват всегда означал обладание огромным количеством вещей. Например, компании Walmart к концу 2016 года принадлежало более 150 дистрибьюторских центров и шесть тысяч грузовых автомобилей, которые за год проезжали 700 миллионов миль, чтобы доставить товары на полки 4500 магазинов в Соединенных Штатах[31]. На 31 октября 2016 года на балансе компании числились разная собственность и оборудование на сумму 180 миллиардов долларов[32]. В то же время общая рыночная стоимость Walmart была меньше, чем стоимость Alibaba, которая в 2016 году обеспечила продажи на более чем 0,5 триллиона долларов.

Компания Alibaba, основанная в 1999 году школьным учителем Джеком Ма и его семнадцатью компаньонами, действовала как онлайн-посредник, соединяющий покупателей с продавцами. Наиболее популярными площадками были Taobao, где люди и мелкие фирмы продавали товары потребителям, и Tmall, где тем же самым занимались крупные компании. К концу 2016 года количество китайцев, ежемесячно использующих приложения Alibaba, превысило население США[33].

В 2009 году площадка Tmall начала продвигать День холостяков в Китае. Изначально это был праздник людей, не состоящих в браке; он появился в середине 1990-х в Нанкинском университете. Праздник отмечается в одиннадцатый день одиннадцатого месяца, поскольку в этой дате больше всего единиц, символизирующих одиночество. В первом Дне холостяков, организованном Tmall, приняло участие всего 27 предпринимателей, однако новый праздник быстро стал самым важным торговым событием в стране, поскольку в этот день люди делали покупки не только для себя, но и для интересных им персон. И к 11 ноября 2016 года площадки Alibaba обеспечили продажи на 17,8 миллиарда долларов[34] – втрое больше, чем американские «черная пятница» и «киберпонедельник», вместе взятые[35].

Возможно, из всех компаний, упомянутых Гудвином, самую необычную историю имеет Facebook. Появившаяся в комнате Марка Цукерберга в гарвардском общежитии, через одиннадцать лет она из социальной сети для нескольких элитных университетов США превратилась в глобальную систему для общения, социализации и обмена контентом, куда ежедневно заходят 936 миллионов человек[36]. Как заметил Гудвин, Facebook затягивает всех их и держит в среднем 50 минут в день[37], но сама не создает при этом никакой информации. Обновления статуса, комментарии, фотографии, видеоролики, ссылки и прочий пользовательский контент льется на людей все увеличивающимся потоком и заставляет их возвращаться снова и снова.

Предоставляя весь этот контент пользователям, Facebook показывает им рекламу, а иногда очень много рекламы. Доходы компании во втором квартале 2016 года, по сути, полностью полученные от рекламы, составили 6,4 миллиарда долларов, а прибыль равнялась двум миллиардам[38].

Новостные организации и прочие онлайн-системы, которые разрабатывают контент традиционными способами, тратя деньги на зарплаты, командировки и тому подобное, были встревожены не только тем, что Facebook расходовала меньше, но и тем, что в глазах рекламодателей эффективность объявлений в социальной сети оказалась выше. Facebook знала о своих участниках очень много, ведь они сами рассказали системе о себе через контент и действия, поэтому могла более прицельно доносить до них объявления.

Каждый рекламодатель, так или иначе, сталкивается с печальным явлением, которое хорошо характеризуют слова, часто приписываемые Джону Уэйнмейкеру[39]: «Половина денег, что я трачу на рекламу, пропадает впустую. Беда в том, что я не знаю, какая это половина»[40]. Реклама всегда считалась недостаточно сфокусированным средством воздействия, поскольку ее невозможно было показывать только тем людям, что откликнутся на нее с большой вероятностью. Facebook предложил рекламодателям такой уровень избирательности в воздействии на целевую аудиторию – причем воздействии постоянном, глобальном и в любом нужном масштабе, – до которого традиционным сетевым средствам было очень далеко.

ТОНКАЯ, БЫСТРО РАСПРОСТРАНИВШАЯСЯ ПРОСЛОЙКА

Гудвин назвал такие компании «неописуемо тонкой прослойкой»[41], он сказал: «Нет лучшего бизнеса, чем участие здесь». В силу своей тонкости, поскольку эти компании владеют главным образом приложениями и кодом, а не материальными активами и инфраструктурой, они могут быстро расти. Например, за двенадцать месяцев после выхода статьи Гудвина Airbnb удвоила количество ночей, заказываемых на сайте, и стала настолько популярной, что администрации некоторых городов, включая Париж, Барселону, Лиссабон, Берлин и Сан-Франциско, начали беспокоиться, не повлияет ли это плохо на исторические жилые кварталы. Рост компании был таким быстрым и устойчивым, что в июле 2016 года исследователь Том Сли написал в блоге на сайте Harvard Business Review, что «Airbnb столкнулась с жизненно важной проблемой расширения»[42], поскольку все больше городов и регионов начинали противостоять экспансии этой компании.

Uber также продолжает быстро расти, часто ввязываясь в конфликты и тестируя новые предложения. Ее сервис совместных поездок UberPool, появившийся в 2014 году[43], быстро стал популярным во многих городах, включая Нью-Йорк. В мае 2016 года компания объявила, что любая поездка в час пик на Манхэттене ниже 125-й улицы будет оцениваться по фиксированной ставке пять долларов[44], а в июле того же года специальное предложение позволило жителям города покупать четыре недели поездок за 79 долларов[45]. При такой стоимости для многих людей такси стало дешевле метро.

Facebook, уже бывшая огромной успешной компанией тогда, когда Гудвин написал о ней в марте 2015 года, продолжила расти и расширять свое влияние, и это сильно бьет по производителям традиционного контента, заставляя их вкладываться в инновации. В августе 2015 года компания Parse.ly, занимающаяся анализом интернет-трафика, выпустила отчет, где видно, что на отслеживаемые ею крупные новостные и информационные порталы через Facebook пришло больше людей, чем через Google и другие поисковики[46]. В марте 2016 года Марк Цукерберг обнародовал десятилетний план развития компании[47], который включал значительные инициативы в области искусственного интеллекта, виртуальной и дополненной реальности и даже самолетов на солнечной энергии (их будут использовать, чтобы открыть доступ в интернет миллионам людей, живущим далеко от телекоммуникационной инфраструктуры).

Как компаниям из этой «неописуемо тонкой прослойки» удалось добиться такого влияния и успеха?

По мнению Гудвина, «мы наблюдаем кое-что интересное»[48].

Гигант выходит к людям

С какой стороны ни взгляни, General Electric – одна из самых успешных компаний США. Ведущая свою историю от прославленного изобретателя Томаса Эдисона и его Edison Electric Light Company, в 1896 году General Electric стала одной из двенадцати компаний, включенных в первоначальный промышленный индекс Доу – Джонса[49]. И она единственная остается в этой группе до сегодняшнего дня. GE отметилась – иногда приходя, иногда уходя – во многих областях, включая выработку электроэнергии, аэрокосмическую и оборонную промышленность, производство пластмасс, здравоохранение и финансы, но в течение всей своей долгой истории она всегда разрабатывала товары для потребителей – от эдисоновских электрических лампочек до радио, телевизоров и бытовой техники.

General Electric одной из первых развернулась в огромную диверсифицированную глобальную корпорацию, добившись в этом превосходных результатов. Она много вкладывала в исследования и разработки, часто сотрудничая с университетами. GE также была одной из первых крупных компаний, которые потратили немало времени и усилий не только на продвижение технологий, но и на повышение квалификации менеджеров. В 1956 году General Electric создала первый специальный корпоративный университет в Кротонвилле, и название этого места стало синонимом профессионализации работы менеджера.

В XXI веке в Кротонвилле и в компании в целом появилась масштабная инициатива по расширению возможностей в маркетинге, предполагающих понимание и последующее удовлетворение потребностей клиентов во всех сферах бизнеса. Обзор 2013 года, посвященный усилиям General Electric в этой области, показал, что самой востребованной способностью компании было «внутреннее создание инноваций в маркетинге»[50].

Так почему же General Electric, чей годовой бюджет НИОКР составляет 5,2 миллиарда долларов[51], которая тратит 393 миллиона на маркетинг только в Соединенных Штатах[52], в 2015 году предпочитает работать через интернет с группой незнакомцев, помогающих придумать и разработать новый товар для потребителей? И почему компания с рыночной капитализацией в 280 миллиардов долларов и с 90 миллионами кассовой наличности просит потенциальных клиентов делать предварительные заказы на несколько сотен долларов задолго до появления товара?

КУБИКИ ЛЬДА И НЕМНОГО ЗДРАВОГО СМЫСЛА

В 2014 году General Electric и Луисвиллский университет запустили инициативу под названием FirstBuild – «основанное на совместном творчестве сообщество, которое влияет на появление товаров на рынке»[53]. Эта инициатива включает как онлайн-присутствие, так и что-то вроде маленькой фабрики, где есть инструменты и материалы для изготовления опытных образцов.

Алан Митчелл, инженер-проектировщик из General Electric Appliances в Луисвилле, решил использовать FirstBuild как экспериментальный стенд. Он заинтересовался, нельзя ли удовлетворить потребность многих людей в определенном сорте льда.

Обычно кубики льда – просто кусочки замороженной воды различного размера и формы. Но есть еще и жевательный лед, а это уже нечто другое. Его маленькие цилиндрические кусочки пористые и замороженные только наполовину. Такой лед способен впитывать ароматизаторы, а еще его можно жевать, и многим людям это нравится. Илан Брат в статье, опубликованной в Wall Street Journal в 2008 году, утверждал, что «жевательный лед разлетается как горячие пирожки»[54]. Сотрудники сети быстрого питания Sonic, где такой лед кладут в напитки, обнаружили, что многие клиенты хотят просто лед. Поэтому компания начала продавать кубики льда в любой таре – от чашек до пятикилограммовых пакетов.

Поскольку изготовить жевательный лед намного сложнее, чем просто заморозить воду[55], машины для их производства стоят несколько тысяч долларов, а это слишком дорого для большинства семей[56]. Алан Митчелл хотел увидеть, сможет ли сообщество FirstBuild спроектировать и сделать опытный образец машины для домашнего изготовления жевательного льда, и в 2015 году был объявлен онлайн-конкурс.

Победителем стал Исмаэль Рамос, дизайнер из Гвадалахары (Мексика); его проект Stone Cold представлял кубическую машину, хорошо подходящую для кухонных столов, со съемным прозрачным пластиковым ведерком для льда. Рамос получил премию в две тысячи долларов и один из первых рабочих экземпляров своего детища (еще два призера также получили денежные премии и машины для льда).

На экспериментальной фабрике FirstBuild начали изготавливать и дорабатывать опытные образцы машины для жевательного льда. Все это время сотрудники взаимодействовали и с сетевым сообществом, сформировавшимся вокруг проекта, интересуясь, как, по мнению пользователей, должно выглядеть съемное ведерко для льда, как определить, что оно наполнилось, нужен ли машине совок, и тому подобными вопросами.

НРАВИТСЯ? ТАК КУПИТЕ, ДАЖЕ ЕСЛИ ЭТОГО ПОКА НЕ СУЩЕСТВУЕТ!

Пока шла конструкторская работа, General Electric включилась в другую инициативу, возникшую на стыке маркетинга и исследований рынка. В июле 2015 года она запустила на сайте Indiegogo кампанию по сбору средств на разработку машины для льда под названием Opal. Indiegogo – платформа для привлечения общественного финансирования, или краудфандинга; создатели характеризуют ее как «стартовую площадку для креативных и предпринимательских идей любого типа и масштаба»[57]. Люди, которые обеспечивают финансовую поддержку этих идей, не инвесторы: они не получают за свои деньги долю в собственности либо процент от доходов или прибылей. Тем не менее жертвователям очень часто сулят какие-то выгоды. Например, если они субсидируют фильм, их пригласят на предварительный показ, а если они оплатили создаваемый товар, то могут оказаться среди первых получивших его. Собственно говоря, они заранее заказывают то, чего пока еще не существует и что, вероятно, никогда не появится без их содействия.

Сайт Indiegogo изначально предназначался для частных предпринимателей и мелких фирм, не имеющих доступа к финансированию для реализации своих идей, но к середине 2015 года крупные компании стали обращаться к нему, чтобы проверить спрос на потенциальные товары. В случае кампании с машиной для льда General Electric и FirstBuild просили жертвователей внести 399 долларов (позднее взнос увеличился до 499 долларов); целью было собрать 150 тысяч долларов. За несколько часов кампания привлекла вдвое больше средств[58], а через неделю сумма превысила 1,3 миллиона[59]. К моменту закрытия в конце августа 2015 года кампания собрала на Indiegogo более 2,7 миллиона долларов[60], попав в десятку самых популярных. В итоге, прежде чем поступить в широкую продажу, продукт в течение последних трех месяцев 2016 года сначала был отправлен более чем пяти тысячам клиентов, заказавших его заранее[61]. Компанию General Electric не особо интересовали деньги от предварительных заказов – ей очень нужно было изучить рынок.

General Electric обнаружила новый способ подключения к множеству умов, которым не надо платить за работу, а заодно исследовала рынок для нового продукта.

Машина. Платформа. Толпа

Три описанных примера – победа AlphaGo над лучшими игроками мира, успех компаний нового типа вроде Facebook и Airbnb, не обладающих традиционными активами, и использование GE мудрости толпы для помощи в проектировании и выводе на рынок продукта – иллюстрируют три масштабные тенденции, которые в корне меняют мир бизнеса.

Первая тенденция включает быстрорастущие и расширяющиеся возможности машин, что подтверждается неожиданным появлением нового лучшего игрока в мире – AlphaGo.

Вторая тенденция была выявлена в ходе наблюдений Гудвина за недавно возникшими крупными и влиятельными молодыми компаниями, которые мало напоминают прежних лидеров в своих областях и уже побеждают их. Такие выскочки – это платформы, и они – серьезный вызов традиционному бизнесу.

Третья тенденция, представленная нетрадиционным процессом разработки машины для льда Opal, – проявление толпы. Этим словом принято называть тот поразительный объем знаний, опыта и энтузиазма, что распределен по всему миру и доступен онлайн.

Потрясения и изменения в экономике, от взлета миллиардных стартапов Кремниевой долины до заката или реорганизации тяжеловесов из списка Fortune 500, могут выглядеть хаотичными и ничем не обусловленными. Однако явления, о которых мы говорим в книге – машины, платформы и толпа, – основаны на принципах экономики и других научных дисциплин. Применять эти принципы не всегда просто, однако в определенном смысле хаос становится путем к порядку, а сложность оборачивается простотой. Наша цель в книге – показать правильную точку зрения.

ПРЕДСТОЯЩАЯ РАБОТА: ТРИ ИЗМЕНЕНИЯ БАЛАНСА

Во всех компаниях и областях промышленности машине, платформе и толпе соответствуют противостоящие им и одновременно дополняющие их вещи. В случае машинного интеллекта это человеческий разум. Бухгалтеры с их ведомостями, инженеры с программным обеспечением для проектирования и рабочие у конвейера, похожие на роботов, – все это примеры совместной работы разума и машины.

Платформам соответствуют продукты – другими словами, товары и услуги. Поездка по городу – это продукт (услуга), в то время как Uber – платформа, которую люди используют для доступа к нему. То же самое верно для аренды жилья и Airbnb или для новостей и Facebook.

Толпе противостоит ядро – накопленные в компании и во всех связанных с ней коммерческих структурах знания, процессы, опыт и возможности. Ядро General Electric Appliances проектирует, производит и выводит на рынок холодильники и печи; ядро NASA строит космические корабли и пытается понять Вселенную; возможности ядра Microsoft включают разработку операционных систем и приложений.

Нет, мы не хотим сказать, что разум, продукты и ядро устарели или скоро устареют. Такое заявление было бы абсурдным. Напротив, мы раз за разом демонстрируем, что возможности человеческого разума, качественные товары и услуги и хорошо налаженные структуры организации по-прежнему важны для преуспевания бизнеса. Однако мы попытаемся убедить вас, что вследствие недавних изменений в технологиях компаниям пришла пора переосмыслить баланс между разумом и машинами, продуктами и платформами, ядром и толпой. В каждой паре за последние несколько лет второй, более современный элемент стал намного более эффективным, поэтому нужно взглянуть на него свежим взглядом. Понимание того, когда, где, как и почему машины, платформы и толпы приносят пользу, дает ключ к успеху в современной экономике. Цель книги – помочь вам разобраться в этих вещах, ведь понять их не просто важно, а жизненно важно.

ПОЧЕМУ СЕЙЧАС?

Мы убедительно продемонстрировали, насколько быстро сегодня движется вперед технический прогресс, и обрисовали некоторые его экономические последствия в предыдущей книге «Вторая эра машин: работа, прогресс и процветание в эпоху новейших технологий»[62]. После публикации нам стали задавать вопросы, и одним из самых распространенных был такой: «Когда началась новая эра?» Это серьезный вопрос, и ответить на него удивительно трудно. Цифровые устройства есть у нас уже больше полувека, а почти все революционные изменения, описанные нами в предыдущей книге, случились не так давно. Так когда же началась вторая эра машин?

Нам кажется, что это происходило в два этапа. Первым из них можно назвать время, когда цифровые технологии начали оказывать влияние на мир и взяли на себя большое количество рутины вроде обработки платежных ведомостей, сварки корпусов автомобилей и отправки счетов клиентам. В июле 1987 года Роберт Солоу, экономист из Массачусетского технологического института, который позже в том же году получил Нобелевскую премию за работы по теории экономического роста, написал: «Вы можете видеть наступление эры компьютеров повсюду, но на показателях производительности это не отразилось»[63]. К середине 1990-х его слова уже не соответствовали действительности; производительность стала расти намного быстрее, чем раньше, и большое количество исследований – часть из них была проведена Эриком[64] и его коллегами – показали, что главной причиной этого стали компьютеры и другие цифровые технологии. Таким образом, мы можем датировать начало первого этапа новой эры серединой 1990-х.

Точку отсчета для второго этапа, который, по нашему мнению, мы сейчас наблюдаем, установить труднее. Это время, когда в реальном мире начали появляться технологии из научной фантастики – фильмов, книг и секретных исследовательских лабораторий. В 2010 году Google неожиданно объявила, что по американским дорогам безо всяких аварий передвигается множество полностью автономных машин. В 2011 году суперкомпьютер Watson, созданный IBM, обыграл двух чемпионов в телевизионной викторине Jeopardy! К третьему кварталу 2012 года более миллиарда человек пользовались смартфонами[65] – коммуникационные и сенсорные возможности этих устройств знакомы нам по бесчисленным фантастическим фильмам. И, разумеется, три достижения, описанные в начале главы, также случились за последние несколько лет. Как мы увидим далее, помимо этих в тот период произошло немало других прорывов. И они были не исключениями, а, напротив, провозвестниками серьезных изменений в бизнесе, которые объясняются как значительными технологическими инновациями, так и фундаментальными экономическими принципами.

Второй этап новой эры значительно отличается от первого. Сегодня мы видим, что технологии могут делать многое, что, как нам раньше казалось, нельзя запрограммировать или назвать рутиной, например: побеждают в игре го, точно диагностируют болезни, естественным образом взаимодействуют с людьми, участвуют в творческой работе, такой как написание музыки или проектирование предметов. За последние несколько лет они помогли изжить парадокс Полани и прочие ограничения, стоявшие на пути к новым территориям. Машины не просто аккуратно выполняют закодированные инструкции, данные им людьми-программистами[66], – они учатся самостоятельно решать задачи. Все это невероятно расширяет рамки того, с чем теперь способна справиться машина.

Кроме того, у сотен миллионов людей сегодня постоянно под рукой мощные и универсальные компьютеры. Это смартфоны и другие гаджеты, которые распространяются по миру с потрясающей скоростью. К 2015 году, всего через восемь лет после появления iPhone, смартфоны были уже у более чем 40 процентов взрослых людей в двух десятках развивающихся стран, за которыми наблюдает Исследовательский центр Пью[67]. В 2016 году удалось продать примерно 1,5 миллиарда устройств.

Впервые в истории человечества большинство людей в мире стали связаны друг с другом цифровыми средствами и имеют доступ к огромным массивам знаний. Более того, люди снова и снова вносят в эти знания собственный вклад. Еще они могут участвовать в разного рода обменах и сделках, таким образом, в современную глобальную экономику вливаются новые миллиарды участников.

Мы считаем, что важность всех этих изменений трудно переоценить. До недавнего времени доступ к гигантским хранилищам знаний, например к хорошим библиотекам, и продвинутым технологиям связи и обработки информации был ограничен благосостоянием. Он имелся только у тех, кому повезло родиться в обеспеченной семье и развитой стране. Теперь все иначе. И в ближайшие годы в мире будут распространяться все более и более мощные технологии.

И компьютеры, преуспевающие в «нешаблонной» работе, и цифровая связь между людьми – все это явления последних нескольких лет. Вот почему мы считаем подходящей начальной точкой для второго этапа новой эры машин 2010-е годы. Разум и машины, продукты и платформы, ядро и толпа быстро соединились – и посыпались искры. Многие традиционные представления были опровергнуты, а некогда успешные практики оказались устаревшими.

Экскурс в историю

Сто лет назад эпоха пара в промышленности сдавала позиции эпохе электричества. Мы обращаемся к этому периоду, поскольку из него стоит вынести важный урок: многие успешные компании-старожилы (да что там, большинство из них!) не пережили перехода от одного источника энергии к другому. Если бизнес желает развиваться в наступающей цифровой эпохе, он должен понять, что и почему случилось сто лет назад, и сделать важные выводы.

К 1910-м годам экономика Соединенных Штатов Америки стала крупнейшей в мире, обогнав британскую. В значительной степени причиной этого была мощность производственных компаний в США, которые в то время создавали примерно 50 процентов ВВП.

Сначала американские заводы получали энергию из воды, вращавшей колеса, а затем из пара. Примерно в начале XX века еще одним экономически оправданным источником стало электричество. Сначала оно набирало популярность исключительно в качестве эффективной замены паровых двигателей, приводивших в движение машины на большинстве заводов. Однако по мере накопления опыта в работе с новыми технологиями предприниматели начали понимать, что электричество дает и другие преимущества. В 1901 году профессор Колумбийского университета Крокер писал:

Множество заводов перешли на электрическую энергию, поскольку она позволяет сократить расходы на уголь на 20-60 процентов; однако не экономия вызвала ту невероятную активность в сфере оборудования для электроснабжения, охватившую сегодня всю страну… Те, кто первыми перешел на электроэнергию, обнаружили, что получили экономию сверх той, на которую рассчитывали, что можно назвать косвенной экономией[68].

Поборники новых технологий в конечном счете пришли к выводу, что некоторые традиционные ограничения больше не имеют значения. Источники энергии, став электрическими, могли широко применяться в зданиях, ведь возле них уже не нужно было возводить дымовые трубы и громоздить кучи угля. Теперь вместо одного крупного источника, передававшего энергию каждой машине на фабрике через сложную и легко выходившую из строя систему валов, шестерен, шкивов и ремней, можно было применять несколько разных источников.

Большинство производителей со временем пришли к определенной форме группового привода: в такой конфигурации на заводе есть несколько крупных электродвигателей, каждый из которых приводит в действие группу машин[69]. Кое-кто стремился пойти еще дальше и говорил об индивидуальном приводе, то есть о возможности оснастить каждую машину собственным электрическим двигателем. В конце концов, в отличие от парового, его можно сделать довольно маленьким без значительной потери мощности.

Разумеется, сейчас смешно представить что-то иное; в действительности многие современные машины имеют несколько встроенных двигателей. Тем не менее идея индивидуального привода была встречена скептически и удивительно долго считалась несерьезной. Специалист по истории экономики Уоррен Дивайн-младший обнаружил следующее:

Выгоды группового и индивидуального приводов машин обсуждались в технической литературе в течение первой четверти XX века. Между 1895 и 1904 годами эта тема серьезно дебатировалась на собраниях технических обществ; ни об одном из методов нельзя было сказать, что он лучше во всех случаях… Более чем через двадцать лет для многих областей все еще строго рекомендовался групповой привод… Два учебника, напечатанные в 1928 году, разъясняли, что использование такого типа привода оправдано во множестве ситуаций[70].

ЕСЛИ ЭТО ТАК ОЧЕВИДНО, ПОЧЕМУ МЫ НЕ ЗАМЕТИЛИ ЭТОГО ВОВРЕМЯ?

Почему шаги, которые следовало сделать на пути технического прогресса, кажутся очевидными нам, но так трудно давались людям тогда, когда технологии только появлялись? И почему те компании и люди, умные и квалифицированные, которых сильнее всего затрагивали изменения, менее остальных были способны найти правильные шаги?

Исследования в самых разных областях подводят к одному заключению: преуспевающие компании, опытные в своей области, застыли в настоящем состоянии, поэтому не способны увидеть грядущие перемены, разглядеть нереализованный потенциал и пути эволюции новых технологий. Этот феномен известен под названиями «проклятие знания» и «отклонение в сторону статус-кво»[71], и он затрагивает даже успешные компании с хорошим управлением. Представления об имеющихся процессах, клиентах и поставщиках, квалификации персонала, как и мысли более широкого плана, иногда ослепляют руководство крупнейших компаний в отношении вещей, которые впоследствии кажутся очевидными, например возможностей новых технологий, сильно отличающихся от того, что существует сегодня.

Именно так и было с электрификацией заводов. Тогда проводилось огромное количество исследований, и многие из них подтверждали одну мысль. Вот как сформулировали ее экономисты Эндрю Аткесон и Патрик Кехо: «В начале этого перехода [на электроэнергию] производители не желали отказываться от накопленных знаний и принимать то, что первоначально казалось передовой технологией с очень ограниченным применением»[72][73]. Двое других ученых, специалисты по истории экономики Пол Дэвид и Гэвин Райт, установили, что основной причиной того, почему компании так медленно переходили на электричество, была «необходимость организационных и, главное, концептуальных изменений в методах, которыми определяются и структурируются задачи и продукты»[74]. Примеры таких концептуальных изменений – сборочные линии, конвейеры и мостовые краны. Они были необходимы, чтобы полностью раскрыть потенциал электроэнергии, невообразимый для многих крупных и успешных компаний эпохи пара.

ЭЛЕКТРОШОК

Клейтон Кристенсен стал «звездой» в сфере бизнес-обучения благодаря тому, что выявил, насколько часто подрывные технологии[75] сбивают «высоко летящие» компании. Электрификация была одной из самых подрывных технологий в истории: в первые десятилетия XX века она привела к чему-то вроде массового вымирания промышленных компаний в Соединенных Штатах Америки.

В начале того века в США доминировали так называемые промышленные трасты. Эти крупные компании появились в результате слияния; их владельцы делали ставку на преимущество за счет масштабов в производстве, закупках, распространении, маркетинге и прочем. Некоторые создатели трастов также надеялись сделать свои компании такими большими, чтобы те стали монополиями и получили возможность единолично устанавливать цены. По результатам исследования, опубликованного в 1904 году, тогда в США насчитывалось более трехсот таких трастов[76].

В то время казалось, что промышленным трастам предстоит еще долго доминировать на рынке. У них имелся достаточный капитал, ими управляло первое поколение профессиональных менеджеров, и они не чурались новых технологий. Трасты легко научились пользоваться телеграфом и доставлять товары по железной дороге, владельцы заводов охотно переходили от технологий эпохи пара к электроэнергии. Однако с массовым распространением электрификации всех ресурсов и возможностей трастов не хватило, чтобы удержаться наверху, а иногда и в бизнесе.

По данным исследования, проведенного экономистом Шоу Ливермором и опубликованного в 1935 году, свыше 40 процентов промышленных трастов, появившихся между 1888 и 1905 годами, исчезли в начале 1930-х. Еще 11 процентов «хромали, а в их документации смешивалось хорошее и плохое… В целом неудовлетворительные результаты наблюдались в годы непосредственно перед исследованием»[77]. Из выживших трастов большинство значительно уменьшились в размерах. Работа Ричарда Кейвза и его коллег по изучению сорока двух производственных компаний, которые считались доминирующими в 1905-м и продолжали существовать в 1929 году, показала, что их средняя доля на рынке уменьшилась на треть, с 69 до 45 процентов[78].

Эти и другие исследования позволяют предположить, что в XX веке конкурентная обстановка в промышленности США стала скверной и к концу 1920-х многие компании оказались выбитыми со своих ранее прочных позиций. Было ли это хотя бы отчасти следствием электрификации? На наш взгляд, да. Ясно, что она сделала заводы более производительными по сравнению с теми, что работали по старинке. Однако причиной существенного прироста эффективности стала не простая замена паровых машин электродвигателями, а перестройка производственного процесса. Рационально электрифицированные заводы – те, где двигатели имелись у каждой машины, где появились сборочные линии, конвейеры, мостовые краны и тому подобные новшества, – были грозным оружием в любом конкурентном противостоянии. Такие предприятия могли производить больше с меньшими затратами, что позволяло владельцам продавать товары по более низким ценам и с большей гибкостью, чем конкуренты, и заполнить рынок своей продукцией. Мы также знаем, что не все заводы можно было электрифицировать рационально. Некоторые компании и их руководители видели потенциал в индивидуальном приводе и приветствовали его, в то время как другие обсуждали этот вопрос десятилетиями. Из всего вышеперечисленного мы делаем вывод, что заводы, быстро перешедшие к использованию новых технологий, прямо причастны к гибели многих старых трастов.

Масштабная встряска в американской промышленности в начале XX века имела много причин, включая Первую мировую войну и «крестовый поход» президента Тедди Рузвельта против монополий, но одним из основных объяснений того, почему так много крупнейших компаний погибло или оказалось в сложном положении, было «поражение электричеством».

Владельцы заводов, которые считали его всего лишь улучшенным источником энергии, упустили из виду главное и лишь спустя время поняли, что отстали от конкурентов. Предприятия старого типа все еще могли производить чудесные товары, эффективно их рекламировать и продавать через хорошо налаженные системы продаж лояльным клиентам. Однако если на заводах не было рациональной электрификации, в конечном счете они уходили из бизнеса, поскольку не могли держать низкие цены, выводить продукт на рынок так же быстро, как конкуренты, и не были способны легко переключаться с одной линейки продуктов на другую. Они просто стали неконкурентоспособными, несмотря на то что (или, вернее сказать, из-за того что) делали в точности то же, что раньше приводило их к успеху.

УНИВЕРСАЛЬНАЯ МАШИНА

Сегодня мы наблюдаем ранние стадии нового промышленного потрясения, причем более широкого и масштабного. Трудно вспомнить какую-нибудь значительную компанию в любой сфере рынка, которую не затронула бы накатывающаяся технологическая волна. В новую эпоху успешными будут те компании, что объединяют в себе разум и машины, продукты и платформы, ядро и толпу, причем делают это совершенно не так, как большинство современных предприятий. Владельцы бизнеса, которые не берутся за преобразования, предпочитая поддерживать нынешнее технологическое и организационное состояние, делают тот же выбор, что и трасты, решившие полагаться на пар или групповой привод. И судьба их ждет такая же.

Наша цель в этой книге – помочь вам увидеть, где в вашей компании имеются «паровые машины» или «групповые приводы» (с поправкой на реалии начала XXI века), и понять, как заменить их чем-то, что позволит вам воспользоваться технологиями сегодняшнего и завтрашнего дня.

Коротко о книге

Эта книга – путеводитель по миру, создаваемому новыми машинами, платформами и толпами. Разумеется, ее нельзя назвать законченной и исчерпывающей. Мир бизнеса всегда был и будет изменчив, а во время коренных преобразований, таких как те, что мы видим сегодня, он оказывается еще более нестабильным, чем обычно. Так что мы не претендуем и никогда не претендовали на то, что нашли окончательные и полные ответы на вопросы бизнеса, поскольку технологические изменения все больше охватывают экономику и общество. На изменение баланса между разумом и машиной, продуктом и платформой, ядром и толпой, которые мы описываем, уйдут годы, и сейчас еще неясно, каковы их конечные точки и траектории.

Хаос рождает новые возможности. Из истории, предыдущих исследований, недавних примеров и собственных работ мы знаем достаточно, чтобы утверждать, что некоторые вещи, в которых мы уверены, одновременно точные и ценные. Как вы увидите далее, множество таких выводов основываются на законах экономики, а к этой науке в своей работе мы обращаемся чаще всего.

Почему? В 1870 году австрийский экономист Карл Менгер дал хороший ответ на этот вопрос: «Экономическая теория связана… с условиями, в которых люди участвуют в рациональной деятельности, направленной на удовлетворение их потребностей»[79]. Экономика изучает, как организации и люди понимают и формируют окружающую среду и будущее, а также что происходит, когда люди собираются и обмениваются продуктами, услугами и информацией для достижения своих целей. Эта дисциплина развилась в огромную фундаментальную область знаний, что делает ее хорошим базисом для книги о том, как машины, платформы и толпа потрясают устои общества.

Впрочем, мы не можем опираться только на экономику. Явления, которых мы касаемся, слишком масштабны для одной дисциплины и требуют привлечения многих наук. Поэтому мы также будем обращаться к технике, информатике, психологии, социологии, истории, теории управления и другим областям знаний. Захлестнувший нас технологический вал поднялся недавно, но у этих событий богатое и интересное прошлое, так что мы будем обращаться к истории при описании того, что происходит сейчас и что может произойти завтра.

Свой рассказ мы поделили на три части. В первой говорится о соединении умов и машин, во второй – о продуктах и платформах, а в третьей – о ядре и толпе. Общий ход рассуждений в каждой части одинаков: поскольку второй элемент каждой пары в последние годы становится все мощнее и обширнее, сейчас жизненно важно переосмыслить, как лучше всего удержать их вместе.

Часть I показывает, как новые принципы взаимодействия разума и машин быстро меняют способы, с помощью которых бизнес осуществляет наиболее важные процессы. Часть II демонстрирует, как инновационные компании сочетают продукты и платформы, чтобы трансформировать свои предложения. В части III мы говорим, что ядро и толпа меняют вид и методы работы организации.

Во вступительной главе каждой части мы возвращаемся к первому этапу новой машины и описываем как существовавшее положение вещей, так и ранние признаки перемен. Эти главы показывают, что примерно двадцать лет назад установилось стандартное партнерство между разумом и машинами, продуктами и платформами, ядром и толпой. Они также дают понять, где такое партнерство начинает испытывать напряжение по мере развития технологий и накопления опыта.

В оставшихся главах каждой части мы анализируем то, что видели и узнали за последние годы применительно к каждой из трех пар противопоставленных друг другу, но и взаимодополняющих вещей. Мы демонстрируем сегодняшнюю и завтрашнюю мощь машин, платформ и толпы. Внутри каждой части главы расположены по мере возрастания фантастичности технологий. Мы описываем всё более нестандартные разработки, инновации и модели бизнеса. Итоговая глава в каждой части поднимает вопросы о том, могут ли компьютеры быть творческими, сведется ли вскоре вся экономика к услугам по требованию и стоит ли считать компании как таковые вымирающим видом[80].

Каждая глава в книге заканчивается коротким разделом с основными выводами и практическими рекомендациями. Эта книга не учебное пособие, мы не излагаем в ней подробные сценарии того, как преуспеть, делая бизнес с машинами, платформами и толпой. У нас есть подозрение, что авторы, создающие такие сборники сценариев, обманывают либо себя, либо своих читателей. Сейчас в мире происходит слишком много перемен и слишком много накопилось неопределенности. В самом деле, даже если можно было бы написать такую «книгу рецептов», мы все равно не сумели бы дать кому-нибудь конкурентное преимущество через понимание глубинных сил и работоспособных принципов. Так что лучше мы будем заканчивать главы резюме из основных идей, а заодно добавим вопросы, чтобы вы могли поразмыслить над применением этих идей в своей организации.

Часть I. Разум и машина

Глава 2. Неприятная правда обо всех нас

Предназначение этих новых машин состоит скорее в замене человеческих суждений на всех уровнях, кроме довольно высокого, чем в замене энергии и сил человека энергией и силами машины.

Норберт Винер[81], 1949 г.

Примерно двадцать лет назад мировой бизнес принял разделение труда между человеком и машиной, что казалось весьма разумным. Машины взяли на себя вычисления, ведение документации и работу с данными. Это позволило людям сосредоточиться на принятии решений и оценке результатов, чаще использовать творческие силы и интуицию и взаимодействовать с другими людьми, чтобы решать проблемы и заботиться о клиентах.

От бумажных залежей до стандартного партнерства

Такой подход получил настолько широкое распространение, что сейчас трудно вспомнить канцелярскую работу прежней эпохи, когда бумаги между сотрудниками и отделами приходилось возить на тележках. Однако и сегодня существует страшный пережиток тех времен: там, где в подземельях Управления кадровой службы США в условиях кошмарной неэффективности «разрабатываются» бумажные залежи[82]. Назначение этой инстанции – осуществлять необходимые административные действия, когда какой-либо федеральный служащий уходит на пенсию. Поскольку работа здесь не была компьютеризирована, ею занимаются 600 сотрудников, которые сидят в помещении размером с супермаркет, заполненном высокими шкафами с досье. По причудливому стечению обстоятельств оно находится под землей, на глубине 60 метров, в бывшей известняковой шахте. В 1977 году выполнение всей бумажной (в буквальном смысле слова) работы, которую нужно было проделать в случае ухода на пенсию одного служащего, в среднем занимало 61 день. Сегодня, поскольку процедуры не изменились, это по-прежнему занимает 61 день. В штате Техас, где работу с документами перенесли на компьютеры, ту же самую задачу выполняют за два дня.

Разумный план преодоления бумажной волокиты в мировом масштабе предложили в 1993 году Майкл Хаммер и Джеймс Чампи в книге «Реинжиниринг корпорации»[83]. Эта книга пользовалась невероятным успехом. Было продано более двух миллионов экземпляров, а журнал Time назвал ее одной из двадцати пяти наиболее значительных книг о бизнесе[84].

Основной посыл Хаммера и Чампи состоял в том, что компании должны представлять себя по-другому – не выполняющими задачи внутри отделов, скажем закупку сырья в рамках отдела закупок, а ведущими бизнес-процессы, которые последовательно проходят через отделы, например принятие, сборка и отправка заказа клиенту. Сейчас это звучит банально, но в то время считалось новым и важным. Питер Друкер, один из главных бизнес-авторитетов XX века, сказал тогда: «Реинжиниринг – это что-то новое, и это именно то, что нужно сделать»[85]. Такой подход, как правило, позволял выявить множество ненужных операций, которые можно было убрать, или, как говорили Хаммер и Чампи, «уничтожить».

Реинжиниринг бизнес-процессов ускорился в середине 1990-х благодаря двум новым вещам: корпоративным информационным системам и интернету. До появления корпоративных систем[86] компании пользовались множеством компьютерных программ, большей частью между собой не связанных. Чем крупнее была компания, тем большей оказывалась неразбериха. Корпоративные системы позволили заменить эту мешанину единым большим программным объектом[87], разработанным специально для выполнения конкретного множества универсальных бизнес-процессов. Такое ПО можно было купить «в стандартной комплектации» у поставщиков вроде SAP и Oracle, а потом настроить и подогнать в нужной степени под интересы конкретного пользователя.

Корпоративные системы быстро стали популярными; по одной оценке, к 1999 году свыше 60 процентов компаний из списка Fortune 1000 стали пользоваться хотя бы одной из таких систем[88]. Они могли быть весьма дорогостоящими и требовали много времени для установки и поддержания, но в большинстве случаев выполняли свою работу. Эрик и его коллеги Синан Арал и У Дон-джун, например, установили, что компании, начавшие пользоваться новыми системами, значительно улучшили производительность труда, оборачиваемость запасов и использование активов[89].

С появлением интернета доступ к системам, сравнимым с корпоративными, получили и отдельные пользователи – с помощью своих компьютеров, а позднее планшетов и телефонов. Всемирная паутина появилась в 1989 году[90], когда Тим Бернерс-Ли разработал набор протоколов, позволяющих фрагментам контента, например тексту и изображениям, связываться друг с другом; тем самым он воплотил концепцию гипертекста, впервые описанную ученым и инженером Вэниваром Бушем в 1945 году (предложившим использовать микропленку) и первопроходцем компьютерных технологий Тедом Нельсоном, чей проект Xanadu[91] так и не был реализован.

Интернет быстро превратился из чисто текстовой сети в систему, способную работать с изображениями, звуками и прочими видами данных. Это мультимедийное чудо, удобное в навигации, возможности которого были намного больше, чем у всего существовавшего ранее, повсеместно распространилось в 1994 году, когда компания Netscape выпустила первый коммерческий веб-браузер, названный Navigator[92]. (Одним из основателей Netscape был Марк Андриссен, в то время 22-летний программист, работавший над первыми веб-браузерами. В главе 11 вы узнаете о нем больше.) Это совпало с коммерциализацией интернета, которым ранее пользовались преимущественно ученые[93].

Сеть дала возможность вывести бизнес-процессы за пределы четырех стен компании и даже достучаться до потребителя; этот тренд стал известен под названием интернет-торговли (или электронной торговли). Люди начали использовать сеть не только для того, чтобы искать и изучать продукты, но и чтобы заказывать и оплачивать их. Такое сочетание эффективности и удобства не могло не повлиять на бизнес. Всего через десять лет после запуска Netscape Navigator электронная торговля составляла 10 процентов всех розничных продаж, если не считать продукты питания и автомобили, в Соединенных Штатах[94].

За два десятилетия корпоративные системы и интернет все больше и больше способствовали развитию бизнес-процессов, помогая делать рутинные вещи: отслеживать сделки и сальдо на счетах, определять правильное количество и время поставки сырья, отправлять чеки работникам, предоставлять клиентам возможность выбирать и оплачивать товары и тому подобное.

ЕСЛИ НАМ СЛЕДУЕТ ПОЛАГАТЬСЯ НА СВОЕ СУЖДЕНИЕ…

Чем же сотрудникам занять то время, которое освободилось у них благодаря корпоративному ПО и интернету? Хаммер и Чампи в «Реинжиниринге корпорации» дали четкий ответ: по мере того как компьютеры все больше берут на себя рутину, людям следует заняться оценкой и вынесением суждений. «Реинжиниринг исключает не только непродуктивные затраты, но и работу, которая не добавляет ценность: большую часть проверок, сверок, ожиданий, отслеживаний… Процесс после реинжиниринга требует от исполнителей расширенных полномочий. Они должны думать, взаимодействовать, применять здравый смысл и принимать решения»[95].

Эта цитата отражает широко распространенное мнение, что даже в мире, полном компьютеров, программ и сетей, люди остаются ценными благодаря способности мыслить неалгоритмически. Большинство из нас согласны с тем, что, если бы наши навыки исчерпывались умением выполнять рутинные задачи, мы уже остались бы без работы, поскольку компьютеры делают это намного лучше. И большинство из нас согласны с тем, что мы способны на большее, чем цифровые технологии, сколь бы мощными и дешевыми они ни становились благодаря действию закона Мура.

Десятилетия исследований подтвердили идею: люди мыслят двумя разными способами. Это фундаментальное открытие принесло Нобелевскую премию Даниэлю Канеману, который вместе с Амосом Тверски стал пионером поведенческой экономики[96]. Работа Канемана и его коллег показала, что у всех нас есть два режима мышления, названные Системой 1 и Системой 2[97]. Система 1 быстрая, автоматическая, древняя с эволюционной точки зрения, требующая малых усилий; она тесно связана с тем, что мы называем интуицией. Система 2, наоборот, медленная, относительно недавно возникшая, нуждающаяся в сознательном приложении значительных усилий. Как писал Канеман в своей книге «Думай медленно… решай быстро»[98]:

Система 1 срабатывает автоматически и очень быстро, не требуя или почти не требуя усилий и не давая ощущения намеренного контроля.

Система 2 выделяет внимание, необходимое для сознательных умственных усилий, в том числе для сложных вычислений. Действия Системы 2 часто связаны с субъективным ощущением деятельности, выбора и концентрации[99].

Обе системы со временем способны становиться лучше. Систему 2 можно отточить, пройдя курс математики или логики, в то время как Система 1 совершенствуется более естественным и обобщенным способом: нужно просто жить своей жизнью и наблюдать за происходящим вокруг. Пожарные, например, развивают способность ощущать, как огонь распространяется по зданию; у менеджеров по персоналу после интервьюирования множества кандидатов появляется чутье на хороших сотрудников, а игроки в го становятся мастерами, обдуманно играя партию за партией. Конечно, обе системы можно и следует улучшать одновременно. Патологи (медицинские специалисты, диагностирующие определенные болезни) оттачивают свои навыки, одновременно изучая биохимию и наблюдая множество примеров больных и здоровых тканей. Совершенствование часто бывает глубже и происходит быстрее, когда мы понимаем его принципы и можем проиллюстрировать их убедительными примерами.

Ведущий стиль в бизнес-обучении сочетает эти две системы. Студенты бизнес-школы оттачивают навыки Системы 2, проходя курсы бухгалтерского учета, финансов и микроэкономики. Но они также обсуждают множество практических примеров из области предпринимательства, руководства, этики и прочего, чтобы сделать тоньше свою интуицию и способность выносить суждения – то есть умения Системы 1. Многие курсы MBA комбинируют эти подходы. Аналогично обстоит дело в медицинских и юридических учебных заведениях.

Давно известно и доказано, что склонности разных людей к Системе 1 и Системе 2 весьма различны. Кто-то превосходно решает уравнения и разгадывает головоломки, но ему не хватает интуиции и смекалки. Другой не в силах понять арифметику, но отличается замечательным чутьем.

В ситуации, когда технологии распространяются все шире, люди, склонные к Системе 1, отнюдь не оказываются в невыгодном положении. Напротив, они получают преимущество: компьютер делает всю логическую, алгоритмическую работу, а они освобождаются для того, о чем писали Хаммер и Чампи, – для вынесения суждений, принятия решений и взаимодействия с другими людьми; для того, чтобы искать возможности и заботиться о клиентах.

Нам кажется, что в бизнес-сообществе сегодня доминирует Система 1. Бывшие топ-менеджеры пишут книги под названиями вроде «Из самого нутра»[100] и «Трудный выбор»[101][102]. Слово «технократ» стало ругательством, оно обозначает руководителя, зациклившегося на данных и не готового принять сложность реального мира. В вышедшей в 2010 году книге «Переосмысление MBA: бизнес-обучение на распутье» (Rethinking the MBA: Business Education at a Crossroads) одной из важнейших неудовлетворенных потребностей программ MBA называется умение задействовать суждения и интуицию в запутанных неструктурированных ситуациях[103]. Аргументация там была та же, что и в «Реинжиниринге корпорации»: надо дать людям возможность учиться использовать интуицию и суждения, чтобы принимать толковые решения, раз уж компьютеры взяли на себя расчеты и делопроизводство. Мы наблюдали такое разделение труда между разумом и машиной настолько часто, что назвали это «стандартным партнерством».

…ТО ЛУЧШЕ ДЕЛАТЬ ЭТО НЕ ТАК СКВЕРНО, КАК СЕЙЧАС

Стандартное партнерство кажется хорошей идеей, но иногда его результаты далеки от совершенства. Часто выходит лучше, если вообще избавиться от человеческого фактора, даже когда речь идет об опытных специалистах, и опираться исключительно на числа и формулы.

Этот вывод кажется противоречащим здравому смыслу и, по вполне очевидным причинам, даже неприемлемым. Нам понадобится тщательное обоснование. Перед тем как заняться им, мы хотим подчеркнуть, что Система 1 вовсе не бесполезна в бизнесе. Отнюдь нет. Далее вы увидите, что человеческая интуиция, способность давать оценку и быстро принимать решения все еще играют в бизнесе важнейшую роль. Самые успешные компании используют эти качества нестандартными, гениальными способами – теми, что указывают на возможность лучшего партнерства между разумом и машиной.

Сначала нам нужно продемонстрировать кое-какие слабости Системы 1. Давайте рассмотрим несколько новаторских исследований, которые показывают ограниченность оценочного суждения и интуиции даже у опытных людей.

• Профессор социологии Крис Снейдерс на основании информации о 5200 закупках компьютерного оборудования, сделанных голландскими компаниями, построил математическую модель, определяющую соответствие каждой сделки бюджету, своевременность поставки и удовлетворенность покупателей[104]. Затем он использовал эту модель, чтобы предсказать результаты ряда других сделок, совершенных в нескольких различных областях, после чего попросил группу менеджеров, специализирующихся на закупках именно этих вещей, дать прогнозы о том же наборе сделок. Со своей моделью Снейдерс обошел специалистов, даже тех, что считались профессионалами. Он также обнаружил, что опытные менеджеры в прогнозах не превзошли новичков и что в целом результаты экспертов в их собственной области не выглядели лучше, чем результаты в других отраслях.

• Профессор экономики Орли Ашенфельтер построил простую модель всего на четырех общедоступных переменных, касающихся погоды, чтобы успешно предсказывать качество бордоских вин и цену на них задолго до того, как они будут готовы к употреблению. Сложилось так, что на стоимость таких молодых вин существенно влияет мнение квалифицированных экспертов, но Ашенфельтер писал, что «одним из наиболее интересных моментов [в исследованиях вроде этого] является роль, которую оно играет… Есть подтверждения, что мнение экспертов не связано с основными качествами вина… Это естественным образом приводит нас к вопросу, ответа на который у нас нет, о том, что же определяет востребованность мнения экспертов»[105].

• Эрик работал с Линн Ву[106] (ныне профессором в Уортонской школе бизнеса) над созданием простой модели, предсказывающей объем продаж жилой недвижимости и цены на нее. Исследователи использовали данные Google Trends, в которых сообщалось, насколько часто в каждом из пятидесяти штатов США ежемесячно в поиске используют запросы вроде «агент по недвижимости», «ипотека», «цены на жилье» и тому подобное. Эрик и Ву использовали эту модель, чтобы предсказать будущие продажи жилья, и сравнивали свои прогнозы с теми, что публиковали эксперты из Национальной ассоциации риелторов. Когда появились результаты, оказалось, что модель превзошла экспертов на впечатляющие 23,6 процента. Это демонстрирует, какие возможности открывает статистика Google.

• Еще один проект Эрика был ближе к образованию; в нем разрабатывалась модель в стиле Moneyball[107] для научных кругов[108]. Он работал с Димитрисом Берцимасом, Джоном Зильберхольцем и Шахаром Райхманом (все из Массачусетского технологического института). Целью эксперимента было предсказать, кого зачислят в штат крупнейших университетов. Эрик и коллеги смотрели на данные по ранним публикациям и цитированию работ молодых ученых, а также использовали некоторые понятия теории сетей, чтобы увидеть, чьи труды оказываются самыми эффективными и имеют наибольшее влияние. Модель прогнозировала, какие ученые получат должность в сфере технологических исследований. Результат на 70 процентов совпал с реальными назначениями. В остальных 30 процентах в составленных алгоритмом списках оказались люди, которые в итоге написали больше статей в ведущие научные журналы и чаще цитировались, чем те, что получили должности.

• Исследование Шая Данцигера и его коллег показало, что израильские судьи чаще предоставляют условно-досрочное освобождение в начале дня и после обеденного перерыва[109]. А вот непосредственно перед обедом, когда они, вероятно, устали или у них снизился уровень сахара в крови, они чаще рекомендуют оставить заключенного в тюрьме. Другое исследование подтвердило, что на судебные решения часто влияют факторы, находящиеся за рамками рассматриваемого дела. Экономисты Озкан Эрен и Наджи Моджан выявили, что в одном штате США судьи, которые были выпускниками известного местного университета, выносили значительно более строгие приговоры сразу после того, как команда их альма-матер неожиданно проигрывала футбольный матч, и эти приговоры были необъяснимо более суровыми для чернокожих обвиняемых[110].

• В округе Броуард штата Флорида детей в программы для одаренных записывают обычно по рекомендациям родителей и учителей[111]. При этом 56 процентов школьников в программах для одаренных – белые, хотя в Броуарде они составляют меньшинство. В первом десятилетии XXI века было принято решение отказаться от субъективного метода и попытаться применить максимально системный и объективный подход. Все дети прошли невербальный тест IQ. Экономисты Дэвид Кард и Лора Джулиано документально подтверждают поразительные результаты этой новации: среди одаренных оказалось на 80 процентов больше школьников-афроамериканцев и на 130 процентов больше испаноязычных.

• Профессора права Тед Ругер и Полин Ким совместно с политологами Эндрю Мартином и Кевином Куинном провели тест, чтобы проверить, может ли простая модель с шестью переменными предсказать решения Верховного суда США на 2002 год лучше, чем группа из восьмидесяти трех известных экспертов[112]. Из привлеченных к эксперименту юристов 38 человек работали помощниками судей Верховного суда, 33 были профессорами права, а шестеро в настоящее время или в прошлом возглавляли юридические факультеты. В среднем представителям этой группы удалось предсказать чуть меньше 60 процентов судебных постановлений. Алгоритм же дал 75 процентов правильных результатов.

Является ли этот список репрезентативным и честным, или мы намеренно, а может, даже неосознанно выбрали случаи, когда человеческое суждение проигрывало алгоритму, оставив без внимания примеры превосходства человека? Впечатляющий объем исследований показывает, что статистика все же на нашей стороне.

Группа под руководством психолога Уильяма Гроува просмотрела литературу за пятьдесят лет в поисках опубликованных рецензируемых примеров прямых сравнений между клиническими и статистическими прогнозами (то есть сравнений оценок квалифицированных экспертов и прогнозов на основе компьютерного анализа данных) в сфере психологии и медицины[113]. Они нашли 136 таких исследований, которые охватывали всё – от тестирования IQ до диагностики сердечных заболеваний. В 48 процентах этих работ значимой разницы обнаружено не было – иными словами, эксперты в среднем угадывали правильный результат не лучше компьютера.

Гораздо более сильный удар по идее превосходства человека в оценочном суждении нанес тот факт, что в 46 процентах рассмотренных исследований эксперты действовали значительно хуже, чем алгоритм. Это означает, что люди продемонстрировали явное превосходство только в 6 процентах случаев. Авторы пришли к заключению, что почти во всех исследованиях, где люди оказывались лучше, «у специалистов было больше данных, чем у программы»[114]. Как заметил легендарный психолог Пол Мил, который еще в начале 1950-х годов описывал посредственные результаты суждений людей-экспертов:

В социальных науках не ведутся споры о том, что именно показывает настолько масштабный корпус появившихся недавно качественно разнообразных исследований, ведущихся в едином направлении, одним из которых является это [сравнение статистического и клинического прогнозов]. Когда у вас больше ста работ, прогнозирующих всё – от результатов футбольных матчей до диагностики заболеваний печени, – и при этом вы с трудом можете наскрести полдюжины исследований, где есть хотя бы слабый уклон в пользу клинического прогноза, самое время сделать некий практический вывод[115].

Мы считаем, что этот практический вывод таков: нам нужно меньше полагаться на суждения и прогнозы экспертов.

Все больше и больше американских компаний приходят к тому же заключению. Работая с Бюро переписи населения США, Эрик и Кристина Макэлерен (сейчас профессор Университета Торонто) при изучении репрезентативной выборки из 18 тысяч заводов установили, что переход к принятию решений на основе данных значительно ускорился. Катализатором этого стало активное применение информационных технологий и значительное улучшение работы компаний, принявших такой подход[116].

Несмотря на убедительные примеры, нам стоит перестать петь дифирамбы алгоритмам и сделать несколько важных оговорок. Прежде всего, чтобы сравнивать человеческое суждение с его математической моделью, нужно иметь такую модель. Согласно парадоксу Полани, это не всегда возможно. Модели нужно тестировать и оттачивать на многочисленных сходных примерах, поскольку каждая из них описывает только какое-то подмножество решений, которые могут принимать люди. Впрочем, общая идея ясна и подтверждается раз за разом: если грамотно создать и испытать модель, то в целом она будет работать так же хорошо, как эксперты, принимающие аналогичные решения (или даже лучше). Тем не менее мы продолжаем опираться на человеческие суждения там, где лучше справляются машины.

Человеческий ум: гениальный, но склонный к ошибкам

Как может компьютер, опирающийся только на Систему 2, то есть на вычисления, производимые с числовыми данными, быть явно лучше, чем человек, который пользуется Системой 2 и Системой 1 – глубинными, врожденными, инстинктивно используемыми возможностями мышления, которые есть у всех нас? В конце концов, Система 1 работает довольно давно, она помогла нам выжить и благополучно провела через все препятствия эволюции (ведь мы все еще существуем, и нас уже 7,5 миллиарда[117]). Как она могла нас так подвести?!

Это слишком большой вопрос для одной книги, тем более для одной главы. Но в своей работе «Думай медленно… решай быстро» Канеман дал краткую сводку множества исследований (многие из которых провел сам):

Поскольку Система 1 работает автоматически и не может быть отключена по желанию, ошибки интуитивного мышления трудно предотвратить. Предубеждений не всегда можно избежать, поскольку Система 2 может просто не знать об ошибке[118].

Если говорить коротко, то Система 1 очень хороша, но склонна к ошибкам. Она часто срезает углы, не любит долгих размышлений и удивительно часто сбивается. Исследователи, работавшие в области экономической психологии и поведенческой экономики (дисциплины, которую помогал создавать Канеман), выявили большое количество искажений Системы 1 и даже дали им названия. Полный их список навел бы на вас скуку и вогнал в депрессию; в посвященной этой теме книге Рольфа Добелли «Территория заблуждений»[119] 99 глав, а в «Списке когнитивных искажений»[120] в «Википедии» было 175 пунктов, когда мы заглядывали туда в последний раз. Бастер Бенсон, менеджер по продукции софтверной компании Slack, придумал, по нашему мнению, прекрасный способ сгруппировать эти искажения и удержать в голове все связанные с ними проблемы[121].

1. Информационная перегрузка – паршивая вещь, потому мы интенсивно фильтруем входящий поток… [Однако] часть отсеиваемой информации на самом деле полезна и важна.

2. Не понимая чего-нибудь до конца, мы путаемся, поэтому нам свойственно заполнять пробелы в знаниях… [Однако] в ходе этого возникают иллюзии. Иногда мы принимаем за истину додуманные нами подробности и конструируем концепции и истории, которых на самом деле не было[122].

3. [Нам] нужно действовать быстро, чтобы не упустить свой шанс, так что мы всегда спешим с выводами… [Однако] это может иметь неприятные последствия. Некоторые из наших мгновенных реакций и принятых второпях решений оказываются вредными, эгоистичными и контрпродуктивными.

4. Запутавшись, мы пытаемся восстановить в уме важные детали… [Однако] память подкрепляет ошибки. Некоторые из вещей, что впоследствии мы считаем истинными, на самом деле лишь усугубляют вышеназванные проблемы, в результате чего нашим мыслительным процессам наносится больший вред[123].

Мы хотим обратить внимание на еще одну серьезную проблему когнитивных способностей человека: мы не в силах точно узнать, когда Система 1 работает хорошо, а когда нет. Другими словами, у нас слабое представление о собственной интуиции. Мы не знаем, правильно наше мгновенное решение или вынесенное суждение или оно подверглось воздействию одного или нескольких искажений. В этом видится странная параллель с парадоксом Полани: мы также знаем меньше, чем способны сказать, в данном случае меньше о результатах работы Системы 1. Вычисления и рассуждения Системы 2 чаще всего можно проверить, но, как указывает Канеман, Систему 1 проверить сложнее, тем более самостоятельно.

Недавние исследования выявили один особо коварный сбой, связанный с парадоксом Полани: часто Система 1 выдает заключение, а затем просит Систему 2 объяснить его. Психолог Джонатан Хайдт утверждает: «Суждение и обоснование – это два разных процесса»[124]. Вынесение суждений Системой 1 происходит почти непрерывно. Затем каждое из них подтверждается на рациональном и убедительном языке Системы 2[125]. Такая хитрость часто обманывает не только другие умы, но даже тот самый, что ее придумал. Мы часто «говорим больше, чем знаем»[126], как заметили психологи Ричард Несбитт и Тимоти де Камп Уилсон. Характеристики поведения, которые мы называем рационализацией и самооправданием, – не всегда упражнения в отговорках. Это также нечто более фундаментальное, это Система 1 за работой.

В 2006 году Авинаш Каушик и Ронни Кохави, два специалиста по анализу данных, которые в то время работали в Intuit и Microsoft соответственно, придумали акроним HiPPO[127] для обозначения доминантного стиля принятия решений в большинстве компаний. Аббревиатура означает «мнение самого высокооплачиваемого лица»[128]. Нам нравится это сокращение, и мы часто его используем, поскольку оно ярко иллюстрирует стандартное партнерство. Даже если решения принимаются не самым высокооплачиваемым работником, они часто, слишком часто бывают основаны на мнениях, суждениях, интуиции, чутье и Системе 1. Очевидно, что такой подход во многих случаях не срабатывает и что HiPPO часто наносят ущерб.

Вперед, к новому партнерству разума и машины

Как использовать все, что мы узнали о несовершенстве человеческого разума? Как эта информация может привести нас к более эффективному принятию решений? Наиболее очевидный подход – позволить машинам принимать решения в тех случаях, когда они способны это делать. Пусть компьютерные аналоги человеческой Системы 2 с их экспоненциальным прогрессом по закону Мура и огромным потоком входящих данных выдают нам ответы без применения Системы 1. Именно такой подход выбирают все больше и больше компаний.

АВТОМАТИЧЕСКАЯ «НЕВИДИМАЯ ЭКОНОМИКА»

Насколько нам известно, одним из самых ранних (он появился на заре компьютеризации корпораций) примеров полностью автоматического принятия решений была разработка кредитного рейтинга, отражающего платежеспособность людей, то есть вероятность того, что они возвратят ссуду определенного размера. Ранее это весьма важное решение традиционно принимали специалисты по кредитованию в филиалах банков, которые оценивали заявления на основе собственного опыта, иногда в сочетании с директивами или инструкциями. Однако Билл Фейр и Эрл Айзек подумали, что машины справились бы лучше. В 1956 году они основали Fair Isaac Corporation и начали вычислять кредитные рейтинги FICO.

Вскоре автоматическая оценка платежеспособности для получения кредита вошла в норму. Издание American Banker сообщало, что к 1999 году «ни один сотрудник не рассматривает просьбы о кредите на сумму в 50 тысяч долларов или меньше – все делает компьютер»[129]. Было подтверждено, что рейтинг FICO и его эквиваленты весьма надежно прогнозируют возврат кредита, а поскольку в последние годы увеличилось количество и разнообразие цифровой информации о людях, эти большие данные стали использоваться для улучшения и расширения кредитных рейтингов.

Их разработчики должны быть осторожны, чтобы не перейти «красную черту» и не начать незаконно отказывать или ограничивать размер кредита людям по географическому, расовому или этническому признаку. Впрочем, в целом эти рейтинги полезны, поскольку дают возможность взять кредит большему количеству человек и позволяют заемщикам уверенно расширять свой бизнес. Есть фактические свидетельства того, что случаев пересечения «красной черты» стало действительно меньше, когда решения о выдаче кредитов стали приниматься преимущественно компьютерами. В 2007 году Федеральная резервная система сообщила, что модель кредитного рейтинга «ограничила возможность совершения незаконных дискриминирующих действий… [и] способна уменьшить вероятность того, что на решения о кредитах будут оказывать влияние личностные характеристики или другие факторы, запрещенные законом, включая расовую или национальную принадлежность»[130].

Сегодня можно увидеть массу примеров полезных, эффективных решений, стопроцентно принимаемых компьютерами. Amazon и другие площадки, занимающиеся торговлей в интернете, генерируют рекомендации для покупателя при каждом посещении сайта, и, хотя многие предложения не попадают в цель, некоторые оказываются вполне интересны. Amazon оценивает, что 35 процентов ее сделок становятся возможны в результате кросс-продажной деятельности, например после рекомендации других товаров[131]. Цены на авиабилеты и номера в гостиницах постоянно меняются, реагируя на предполагаемое развитие спроса и предложения. Такой подход к ценообразованию, известный как управление доходами, жизненно важен для несметного множества компаний (в главе 8 мы вернемся к этой теме), и очень редко при автоматическом генерировании цен их перепроверяет человек – если такое вообще бывает. Цены на физические товары сейчас тоже часто меняются автоматически. В 2015 году на следующий день после Дня благодарения Amazon и Walmart изменили цены на все товары в США на 16 и 13 процентов соответственно[132].

Сегодня столько решений целиком принимается компьютерами, что экономист Брайан Артур использует понятие «невидимой экономики»[133], имея в виду процесс, при котором сделки происходят без человеческого участия – «масштабно, негласно, комплексно, невидимо и независимо от нас». Постепенно эта автоматическая вторая экономика вторгается в традиционную, в которой есть люди-посредники, и алгоритмы берут на себя то, что делали эксперты и лица, принимающие решения. Поскольку все больше и больше информации переходит в цифровую форму, мир представляет собой изобилие данных, помогающих улучшить принятие решений там, где интуицию можно заменить алгоритмом.

Рекламные агентства уже давно помогают клиентам не только в творческой работе над созданием роликов, но и в определении того, когда и где их нужно показывать, – во время каких телепрограмм, на каких рынках и в какое время они будут лучше соответствовать целям и бюджету рекламы. Для этой работы уже не одно десятилетие используются данные и технологии. Так, агентство в популярном телесериале «Безумцы» (Mad Men) в 1969 году применяет свой первый компьютер, IBM System/360, чтобы эффективнее размещать рекламу (и производить впечатление на клиентов)[134], но все-таки в основном опирается на суждения и решения людей.

Будучи старшим аналитиком во время второй успешной избирательной кампании Барака Обамы в 2012 году, Дэн Вагнер видел, насколько большей точности можно добиться в работе и насколько это выгодно. Вагнер с коллегами составили реестр американских избирателей. С помощью машинного обучения, которое мы обсудим в следующей главе, аналитики создали три индивидуальные оценки для каждого избирателя в реестре: оценку поддержки, прогнозировавшую, насколько вероятна поддержка человеком Обамы (по сравнению с его противником Миттом Ромни); оценку явки, прогнозировавшую вероятность, с которой человек придет на выборы и проголосует в ноябре; оценку убежденности, или прогноз вероятности того, что он будет более благожелательно относиться к Обаме после его выступления[135].

За долгие годы накопились социально-демографические данные по каждой телепередаче – например, сколько мужчин в районе Денвера в возрасте от 18 до 24 лет смотрят повторы анимационного ситкома «Гриффины» по вторникам в 22:00. Специалисты и компании, покупающие эфирное время для рекламы, традиционно опираются на эту информацию в принятии решений. Если бы у кампании Обамы в 2012 году было намерение донести его обращение до мужчин в возрасте от 18 до 24 лет, живущих в Колорадо, множество компаний и людей посоветовали бы запускать рекламу вечером во вторник во время повтора «Гриффинов».

Подобно большинству других специалистов по закупке рекламного времени, люди в команде Обамы знали, что на такие социально-демографические данные лучше не полагаться, так как они очень неточны. Не исключено, что рекламу увидели бы преимущественно сторонники Ромни или же люди, которые уже приняли решение голосовать за Обаму (что тоже было неподходящим вариантом, поскольку средства расходовались впустую). Опираться на демографию – все равно что полагаться на суждения и оценки, которые на деле немногим лучше догадок. Кто сказал, что к мужчинам в возрасте от 18 до 24 лет можно обращаться как к единой группе или что зрители «Гриффинов» (либо мультфильмов в целом) более восприимчивы к выступлениям Обамы?

Вагнер и его коллеги поняли, что, составив всеобъемлющий реестр избирателей, они уже прошли полпути к более эффективной покупке эфирного времени. С его помощью можно было бы вычислить людей, находящихся в тех двух группах, до которых желательнее всего достучаться: сторонников Обамы, не собирающихся идти голосовать, и колеблющихся избирателей, которых нужно уговорить поддержать Обаму. Первая группа получила название «идите голосовать» (GOTV, get out the vote), вторая – «поддающиеся убеждению». Команда аналитиков обнаружила, что участники этих групп принадлежат к самым разным категориям, поэтому выбор телепередач только на основе демографических сведений не позволил бы обратиться к целевой аудитории. Команда также узнала из более ранних экспериментов, что эти две группы реагируют на разные виды агитации, так что при покупке времени на телевидении необходимо было их дифференцировать.

К 2012 году некоторые рейтинговые компании вышли далеко за рамки использования одних только демографических данных и были в состоянии указать, какие отдельные люди их смотрят[136]. Этих-то данных и не хватало Вагнеру и его коллегам. Они предоставили таким компаниям списки GOTV («идите голосовать») и «поддающихся убеждению», а взамен получили информацию о том, сколько людей в каждой группе смотрят ту или иную телепередачу[137]. Это позволило легко определить наилучшее эфирное время – то есть те телепрограммы, которые собирают у экранов больше всего GOTV и «поддающихся убеждению» в расчете на доллар рекламных расходов. Вагнер рассказывал: «Мы пришли к мысли покупать время поздних вечерних программ вроде тех, что крутят на TV Land, хотя это и казалось странным. Они считались в целом невыгодными и потому были дешевы. Но их смотрело множество избирателей, поддающихся убеждению, так что мы купили время»[138].

После выборов Вагнер основал компанию под названием Civis Analytics, которая трансформировала этот подход к покупке эфирного времени в готовый продукт и стала предлагать его рекламодателям. По мнению Вагнера, сейчас самое время продавать такие услуги – в основном по той причине, что у многих компаний есть огромные списки отдельных людей: перспективных клиентов, активных клиентов, людей, возможно, склонных к дополнительным покупкам, и прочих. Он говорил нам: «Если вы продаете дорогие шины, то существует сколько-то людей, желающих потратить уйму денег на дорогие шины, и 90 процентов тех, кому на них наплевать, потому что они не водят машину или склонны экономить. У вас есть вполне пригодное представление о вашей целевой аудитории, но раньше вы не знали наверняка, какие телепередачи она смотрит. Что ж, теперь вам это известно»[139]. Для рекламодателей размещение роликов в телеэфире – важное решение, оно принимается на основе определенных данных, но на него также сильно влияют человеческие суждения. Компания Civis стремится изменить эту ситуацию и сделать покупку рекламного времени в меньшей степени интуитивной и в большей степени рациональной.

Разумеется, даже прекрасно отлаженная система, основанная на данных, далека от совершенства, особенно если она имеет дело с неточной информацией. В 2016 году во время кампании Хиллари Клинтон применялись аналогичные методы, но Клинтон проиграла выборы, в частности, потому, что данные опросов ошибочно показали, что у нее будет большой отрыв в трех штатах Среднего Запада, где она в итоге немного уступила.

Еще одна проблема состоит в том, что лица, принимающие решение, не всегда правильно ставят конечную цель; Ронни Кохави (один из авторов термина HiPPO) называет это явление критерием общей оценки[140]. Даже если бы группа Вагнера смогла максимально точно выявить преимущество Клинтон в разных штатах, такая цель не была бы правильной. Президент США избирается коллегией выборщиков, а не прямым народным голосованием, следовательно, здесь требуется более тонкая стратегия, зависящая от штата. Аналогичным образом легко измерить количество просмотров страницы сайта или количество кликов, которые обеспечила сетевая рекламная кампания, однако бизнес больше интересуют долговременные продажи, которые обычно максимизируют иначе. Способность тщательно отбирать входные данные и определять правильные показатели работы – ключевой навык для лиц, принимающих решения на основе данных.

КОГДА АЛГОРИТМЫ ВЕДУТ СЕБЯ ПЛОХО

У передачи решений машинам есть вполне реальное неприятное следствие: ошибки и недочеты в алгоритмах могут закрепить или даже усилить некоторые из вредных предрассудков нашего общества. Например, Латания Суини, известный профессор из Гарварда, встревожилась, после того как ввела свое имя в Google. Вместе с результатами появилось объявление:

Латания Суини. Арестована? 1. Введите имя и штат. 2. Получите доступ ко всей информации. Мгновенные проверки – www.instantcheckmate.com[141]

Такое объявление предполагало, что у нее криминальное прошлое, хотя она никогда не подвергалась задержанию.

Решив исследовать это явление, Суини обнаружила, что поиск по именам, более распространенным среди афроамериканцев (например, Тревон, Лакиша или – да, Латания), с гораздо большей вероятностью приводил к появлению сообщения «Арестована?», чем по именам, чаще ассоциирующимся с белыми (например, Лори или Брендан)[142]. О причинах этого феномена нельзя сказать ничего точно, но Суини дала ему такое объяснение: алгоритм Google, обеспечивающий показ рекламы, заметил, что клики более вероятны, когда объявления связаны с именами, характерными для чернокожих. Это не отражение сознательных дискриминирующих действий людей, размещающих объявления или работающих в Google. Просто алгоритм отражает и усиливает распространенный в обществе расовый предрассудок, проявляющийся в решениях миллионов людей кликнуть по определенным объявлениям. Аналогичным образом по словам «ученый» и «бабушка», набранным в январе 2017 года в сервисе поиска изображений Google, выдавалось ошеломляющее количество фотографий белых людей.

В статье в Nature Кейт Кроуфорд и Райан Кало отмечали опасность того, «что в ряде контекстов недостатки систем искусственного интеллекта чрезвычайно влияют на группы, которые и без того находятся в невыгодном положении из-за таких факторов, как расовая принадлежность, пол или социально-экономические условия», и подчеркивали, насколько важно при проектировании таких систем учитывать социальные воздействия – как намеренные, так и непреднамеренные[143].

Мы разделяем эту озабоченность и видим в тенденции к алгоритмическому принятию решений как вероятные проблемы, так и благоприятные возможности. Проблемы состоят в том, что такой подход способен укоренить и закрепить несправедливые, опасные и нежелательные искажения. Хуже того, такие искажения могут возникать, несмотря на искреннее желание разработчиков создавать по-настоящему беспристрастные системы, и, вероятно, их будет трудно обнаружить без масштабного тестирования. Любой проект обязательно столкнется с такой проблемой.

Благоприятные возможности состоят в том, что компьютерные системы, как правило, легко поддаются тестированию и улучшению. И если какую-то ошибку однажды исправить, то маловероятно, что она проявится снова. Людям, напротив, крайне трудно разобраться в своих предрассудках (сколько явных расистов и сексистов вы знаете?), не говоря уже о том, сколько труда нужно для их преодоления. Если смотреть на ситуацию реалистично, то для систем, принимающих решение, идеальным не будет ни один стандарт – хоть на основе компьютера, хоть на основе человека, хоть на их сочетании. Любая система, скорее всего, будет содержать искажения и делать ошибки. Так что лучше поставить цель выработать такой подход, который сведет их к минимуму и позволит легко и быстро их исправлять.

ИСПОЛЬЗУЙТЕ РАЗУМ ДЛЯ ПРИНЯТИЯ РЕШЕНИЙ – НО ДЕЛАЙТЕ ЭТО РАЗУМНО

Какую роль в принятии решений должны играть люди (и должны ли вообще)? Мы уже знаем об искажениях и ошибках Системы 1, у нас есть океаны данных и растущие с каждым годом вычислительные мощности, так что можно сделать вывод, что «невидимая экономика» вот-вот вытеснит традиционную, а цифровые аналоги Системы 2 вскоре станут принимать большинство решений. Есть такая старая шутка: в будущем на каждом заводе останется всего два работника – человек и собака. Обязанностью человека будет кормить собаку, а обязанностью собаки – следить, чтобы человек не касался машин[144]. А может, действительно компании завтрашнего станут такими?

Мы так не думаем. Да, у нас есть предрассудки, которых нет у компьютеров. Но у нас есть и сильные стороны, которых лишены машины. Начнем с того, что мы постоянно получаем от своих органов чувств невообразимое количество данных и при этом не занимаемся предварительным отбором – просто вбираем их целиком по мере поступления. Нам трудно слышать только некоторые звуки или видеть только некоторые вещи – даже в течение короткого времени. Компьютеры ведут себя наоборот: они испытывают огромные трудности в сборе разнородных данных или данных, отличных от тех, с которыми им позволили работать конструкторы и программисты.

Эта разница приводит к появлению важной работы для людей – Мил назвал ее «ролью сломанной ноги»[145]. Для иллюстрации своей идеи он придумал такой пример. Некий профессор каждый вторник в течение нескольких лет ходит в кино. Разумеется, компьютер спрогнозирует, что он снова пойдет туда и на следующей неделе. И вдруг в ближайший вторник утром профессор ломает ногу, и гипс на бедре не позволяет ему втиснуться в кресло кинотеатра (пример был придуман в 1954 году). Любой человек мгновенно поймет, что вечер у профессора не задался, но такую догадливость непросто включить в алгоритм компьютера. Существует слишком много различных непредвиденных факторов, влияющих на поведение профессора[146]. Кто бы ни разрабатывал компьютерную систему, он не в силах собрать достаточно данных обо всех факторах, чтобы программа могла их учесть. Единственный способ сделать это – иметь всеобъемлющую модель мира, в отличие от той, что есть у компьютера.

Еще одно огромное преимущество человека – старый добрый здравый смысл. У одних его меньше, чем у других, но у любого из нас здравого смысла неизмеримо больше, чем у самых совершенных компьютеров. Как только мы рождаемся, мы начинаем изучать важные вещи о том, как устроен мир, и исследуем его уверенно и быстро. Однако, несмотря на десятилетия экспериментов, мы всё еще слишком мало знаем о том, как приобретается здравый смысл, и наши попытки привить его компьютерам до сих пор заканчивались грандиозными провалами (мы поговорим о них в следующей главе).

Таким образом, во многих случаях хорошо иметь под рукой человека, который будет проверять решения компьютера, чтобы убедиться, что они имеют смысл. Томас Дэвенпорт, специалист по аналитике и технологиям, называет такой надзор «взглядом из окна»[147]. Это не просто выразительная метафора. Эти слова произнес его знакомый пилот, который рассказывал, что вполне полагается на приборы самолета, но считает важным иногда самому взглянуть на линию горизонта. Такой подход может быть в высшей степени полезным не только для предотвращения ошибок, но и для сохранения репутации компании.

Сервис Uber познал это на горьком опыте в конце 2014 года. Тогда компания была хорошо известна тем, что временно повышала тарифы в часы интенсивного спроса, хотя многие пользователи считали подобную тактику неприемлемой. Руководство Uber полагало (и мы с ним согласны), что такое ценообразование полезно для баланса спроса и предложения. Алгоритмы компании подталкивали цены вверх, чтобы привлечь к участию больше водителей в те моменты, когда реальное или ожидаемое число свободных автомобилей не соответствовало спросу клиентов.

Практика привела к негативным отзывам о компании, когда в декабре 2014 года в Сиднее выходец из Ирана взял в заложники восемнадцать человек в кафе[148]. Множество людей спешили покинуть опасное место, и некоторые пытались уехать на такси Uber. Компьютерные системы компании в ответ на внезапный рост спроса повысили цены. Многим людям это показалось совершенно неадекватной реакцией на ситуацию, и компанию стали активно критиковать.

Uber обнародовала заявление: «Мы не могли немедленно остановить повышение цен [во время инцидента в Сиднее]. Это наша ошибка»[149]. После того случая компания добавила в программу возможность заблокировать автоматическое повышение цен при некоторых обстоятельствах. Вечером 13 ноября 2015 года исламские террористы произвели серию терактов в Париже. В течение 30 минут после первого из них Uber отменила повышение цен в городе[150], предупредив об опасности всех своих пользователей[151].

Примеры наподобие описанного показывают действенность совместного использования человеческого разума и алгоритмов. Однако если бизнес решится на такое, ему придется быть внимательным. Поскольку мы, люди, так зависим от своих суждений, так уверены в них и столь самонадеянны, многие из нас (если не большинство) поспешат заблокировать принятое компьютером решение, даже если оно будет лучшим. Но Крис Снейдерс, который исследовал прогнозы о закупках (мы рассказывали о нем ранее в этой главе), обнаружил, что «обычно по правильности решений эксперты, имеющие вспомогательные средства, находятся где-то между компьютерной моделью и экспертами без вспомогательных средств. Поэтому люди действуют эффективнее, если вы даете им модель. Но сама по себе модель все равно работает лучше»[152].

Мы поддерживаем идею о том, что человек должен участвовать в принятии решений, по тем причинам, что описали Мил и Дэвенпорт, но также выступаем за то, чтобы компании «следили за счетом» везде, где возможно. Им следует все время сравнивать эффективность решений компьютера и людей. Если блокирующие действия человека правильнее, чем поведение алгоритма по умолчанию, все идет хорошо. Если же дела обстоят не так, значит, нужно что-то менять, и первым делом стоит уведомить людей об их низком коэффициенте эффективности.

Обратная связь крайне важна, поскольку именно так обучается и улучшается Система 1. Вот что пишут Канеман и психолог Гэри Кляйн: «Вам не следует верить своему чутью. Нужно рассматривать его как важный ориентир, но всегда осознанно и обдуманно оценивать эти предположения, чтобы понять, имеют ли они смысл в данном контексте»[153]. Лучший способ сделать Систему 1 точнее и свести к минимуму ее искажения – показывать ей много примеров и давать обратную связь настолько быстро и часто, насколько это возможно.

ПЕРЕВЕРНИТЕ СТАНДАРТНОЕ ПАРТНЕРСТВО ДЛЯ БОЛЬШЕЙ ЯСНОСТИ

Самый современный метод принятия решений (его только начинают использовать некоторые компании) заключается в переворачивании обычного порядка с ног на голову: не машины предоставляют данные, чтобы человек на их основании принял решение, а суждение человека используется в качестве данных для работы компьютера. Компания Google стала пионером в применении такого метода к найму сотрудников. Это была важнейшая область для компании, поскольку обычный подход там давал плохие результаты.

Когда Ласло Бок был главой отдела по работе с персоналом в Google, он понял, что большая часть методов, используемых для отбора новых сотрудников, бесполезна. Его команда стала думать, чем объясняется разница в фактической производительности людей, и обнаружила, что от предварительной проверки рекомендаций она зависит примерно на 7 процентов, от прошлого опыта – на 3 процента, а от результатов бессистемных собеседований, которые по-прежнему широко распространены и начинаются типичными вопросами «Каковы ваши сильные стороны?» и «Пройдемся по вашему резюме?» – всего на 14 процентов. Бок говорил, что проблема с этими собеседованиями состояла в следующем:

Сложилась ситуация, когда собеседования проводились для того, чтобы подтвердить наше мнение о людях, а не для их истинного оценивания. Психологи называют это предвзятостью подтверждения. На основании ничтожно малого взаимодействия мы неосознанно выносим скоропалительное суждение, на которое значительно влияют наши собственные предрассудки и убеждения. Не сознавая этого, мы переходим от оценивания кандидата к выискиванию подтверждений того, что он соответствует нашему первоначальному впечатлению[154].

В этом случае в действие снова вступает Система 1, которая вносит в принятие важного решения искажения и ошибки.

Итак, как лучше нанимать сотрудников? Компания Google стала в значительной степени опираться на структурированные, формализованные собеседования, которые объясняют более 25 процентов дальнейшей фактической производительности. Процедура состоит из набора заранее определенных вопросов, предназначенных для оценивания, например, общей когнитивной способности человека. Все люди, проводящие собеседования в Google, используют этот подход и в целом задают одни и те же вопросы. Как объяснял Бок, «в итоге мы получили собеседование с согласованными критериями… Интервьюер должен указывать, как действовал кандидат в том или ином случае, каждый уровень выполнения задания четко установлен… Такие четкие критерии… изменили прежде путаные, размытые и сложные процедуры, сведя их к ряду задач с измеримыми результатами»[155].

При таком подходе суждения отдельных людей, проводящих собеседование, по-прежнему остаются ценными, однако они оцениваются количественно и используются для того, чтобы присвоить кандидатам какие-то численные оценки. Бок считает, что этот подход не обезличивает собеседование, не превращает его в формальность, а наоборот. Люди, устраивающиеся на работу в Google, ценят то, что с ними обращаются объективно и справедливо (80 процентов отвергнутых кандидатов, которые прошли собеседование по новой форме, сказали, что они рекомендовали бы друзьям подать заявление в Google), а решения о найме стали проще. Как заметил Бок: «Это позволяет увидеть четкую границу между превосходным и средним уровнем»[156].

РЕШЕНИЯ – СЛИШКОМ СЕРЬЕЗНОЕ ДЕЛО, ЧТОБЫ ДОВЕРЯТЬ ЕГО ЛЮДЯМ, ПРИНИМАЮЩИМ РЕШЕНИЯ[157]

Мысль о предстоящих изменениях в привычном взаимодействии разума и машины, в некоторых случаях даже переставляющих их местами, заставляет многих людей чувствовать себя неуютно. Большинство из нас верят в человеческую интуицию, в способность выносить суждения и принимать решения, особенно если речь идет не о ком-то постороннем, а именно о нас (мы обсуждали эту тему в разных аудиториях и практически не встречали человека, который бы признал, что его интуиция или рассудительность ниже среднего). Однако доказательства обратного настолько очевидны, что просто ошеломляют: в большинстве случаев, когда есть возможность сравнивать оба варианта, решения компьютерного аналога Системы 2 оказываются лучше, чем решения, принятые нами на основе обеих систем в нашем мозге. Но не стоит думать, что наши суждения бесполезны. Нет, просто их стоит улучшить. Это можно сделать с помощью рассмотренных нами подходов: позволить алгоритмам и компьютерным системам принимать решения, иногда используя в качестве входных данных человеческие суждения, а также разрешить людям в случае необходимости нажимать кнопку «стоп».

Кое-кто называет такой подход бесчеловечным. Некоторым кажется, что, если компьютеры станут играть главную роль в принятии решений, люди окажутся на обочине и будут выглядеть жалкими. Мы понимаем, что никого не радует мысль лишиться возможности принимать решения[158] и чувствовать себя кем-то вроде слуги компьютера. Однако значит ли это, что нужно и дальше незаслуженно выпускать заключенных на свободу или по ошибке оставлять их в тюрьме, лишь бы только судьи и комитеты, занимающиеся досрочным освобождением, могли продолжать работать так, как для них привычно? Значит ли это, что число неверных медицинских диагнозов должно и дальше оставаться выше, чем могло бы быть, лишь бы только врачи и психологи продолжали работать так, как они привыкли? Что компании должны и дальше принимать на работу неподходящих людей, лишь бы только менеджеры, проводящие собеседования, продолжали считать себя умными?

Нам кажется, что ответ на все эти вопросы – нет. Правильные решения очень важны для нормального существования общества: они помогают делать так, чтобы нужные ресурсы (от поездок на работу до здравоохранения) попадали к нужным людям в нужном месте в нужное время. Стандартное партнерство в понимании Хаммера и Чампи, в котором компьютеры ведут документацию, а HiPPO выносят оценки и принимают решения, часто не самый лучший способ этого добиться.

Сейчас вы уже, вероятно, не особо удивитесь, если мы скажем, что люди весьма плохо предсказывают будущее. В конце концов, прогнозирование и принятие решений почти неразделимые действия. Чтобы принять хорошее решение, обычно нужен точный прогноз в отношении некоторых аспектов будущего – иначе говоря, мы должны знать, что произойдет, если мы поступим так или иначе. Соответственно, если мы плохи в чем-то одном, то, очевидно, также плохи и в другом. И правда, многие ошибки Системы 1 и ее попытки срезать углы мешают нам делать хорошие прогнозы.

В 1984 году политолог Филип Тетлок и его коллеги взялись за многолетний проект: они собирались оценить точность прогнозов во многих сферах, таких как политика, экономика и международные отношения. Результаты проведенного исследования, как и многих других, упомянутых в этой главе, поразительны и не допускают различных толкований. После проверки более 82 тысяч прогнозов Тетлок обнаружил, что по точности предсказаний «люди едва превосходят шимпанзе»[159], бросающего дротики в мишень.

Страницы: 123456 »»

Читать бесплатно другие книги:

Нет, никак не удается Володе Старинову спокойно жить в том мире, куда он вынужден был отправиться из...
Книга написана на стыке психологии, неврологии и созерцательной практики, предлагает самые эффективн...
В книге рассказывается про современные удары, стратегию и тренировки в настольном теннисе.Рассматрив...
Карен Визнер, опытный автор, в арсенале которой более 120 опубликованных работ, предлагает действенн...
В эту книгу, написанную автором знаменитой «Республики Шкид», вошли рассказы о детях: «Честное слово...
Юрий Чемша, по профессии инженер, член Российского союза писателей, утверждает, что в жизни есть мно...