Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти Зубофф Шошана

I. Инструментаризм как новый вид власти

Надзорный капитализм – кукловод, который навязывает людям свою волю с помощью повсеместного цифрового аппарата. Теперь я буду называть этот аппарат Большим Другим: это чувствующая, вычисляющая, подключенная к сети марионетка, которая оцифровывает, отслеживает, вычисляет и изменяет поведение человека. Большой Другой объединяет в себе эти функции знания и действия, образуя всепроникающее и беспрецедентное средство модификации поведения. Экономическая логика надзорного капитализма, работающая через огромные мощности Большого Другого, создает инструментарную власть, заменяя инженерию душ инженерией поведения.

Инструментарная власть культивирует необычный «способ познания», который сочетает в себе «формальное безразличие» неолиберального мировоззрения с точкой зрения внешнего наблюдателя, заимствованной у радикального бихевиоризма (см. рис. 4 на с. 516–517). Благодаря мощностям Большого Другого, инструментарная власть сводит человеческий опыт к измеримому и наблюдаемому поведению, неизменно оставаясь безразличной к смыслу этого опыта. Я называю этот новый способ познания радикальным безразличием. Это форма наблюдения без свидетелей, которая порождает некий перевертыш интимной насильственной политической религии и несет с собой хаос совершенно другого рода – отдаленное и отвлеченное презрение непроницаемо сложной системы и интересов, которые ее создали, стремительным потоком несущих людей к исполнению чужих желаний. То, что можно назвать социальными отношениями и экономическим обменом, сегодня осуществляется через посредство этой роботизированной завесы абстракции.

Радикальное безразличие инструментаризма воплощается в дегуманизированных методах оценки со стороны Большого Другого, которые создают эквивалентность без равенства. Эти методы сводят людей к наименьшему общему знаменателю сходства – организмам среди организмов – несмотря на все жизненно важные различия между нами. С точки зрения Большого Другого, мы всего лишь Другие – организмы, демонстрирующие поведение. Большой Другой образует точку зрения Другого, присутствующую в глобальном масштабе. Тут нет никакого Брата, большого или маленького, злого или доброго; никаких родственных связей, даже самых мрачных. Нет никаких отношений между Большим Другим и его отчужденными объектами, как не было никаких отношений между «исследователями и исследуемыми» Б. Ф. Скиннера. Нет господства над душой, которое заменяет всю близость и привязанность на страх, – гораздо лучше, если будет цвести множество взаимоотношений. Большому Другому нет дела до того, что мы думаем, чувствуем или делаем, до тех пор пока миллионы, миллиарды и триллионы его воспринимающих и реагирующих компьютерных глаз и ушей могут наблюдать, оцифровывать, датафицировать и инструментализировать бездонные резервуары поведенческого излишка, извлекаемого из вселенского живого клубка человеческих связей и общения.

При этом новом режиме моральной средой, в которой разворачивается наша жизнь, становится объективация. Хотя Большой Другой может имитировать близость благодаря неутомимой преданности Единого Голоса – услугам бодрой амазоновской Алексы, напоминаниям и бесконечной информации Google-ассистента – не стоит принимать эти успокоительные звуки ни за что другое, кроме эксплуатации ваших потребностей. Я представляю себе слона, величественнейшее из млекопитающих: Большой Другой браконьерствует в нашем поведении ради излишка и отбрасывает все смыслы, заложенные в наших телах, наших мозгах и наших бьющихся сердцах, что мало чем отличается от чудовищной резни слонов из-за слоновой кости. Забудьте клише, что если нечто бесплатно, то «товар – вы сами». Вы не товар; вы – разлагающиеся останки. «Товар» изготовят из излишка, вырезанного из вашей жизни.

Большой Другой позволяет наконец использовать ту универсальную технологию поведения, которая, как настаивали Скиннер, Стюарт Маккей, Марк Уайзер и Джо Парадизо, тихо, но настойчиво достигает своих целей, используя методы, которые намеренно скрыты из нашего поля зрения, растворенные в виде незаметного фона всех вещей. Вспомним, какую бурю негодования вызвал в 2015 году Эрик Шмидт из Alphabet/Google, когда в ответ на вопрос о будущем сети сказал, что «интернет исчезнет». На самом деле он имел в виду, что «интернет исчезнет в Большом Другом».

Благодаря мощностям Большого Другого, инструментарная власть стремится создать состояние определенности без страха в форме «гарантированных исходов». Поскольку она не претендует на наши тела, чтобы подвергнуть их какому-нибудь чудовищному режиму боли и убийств, мы склонны недооценивать ее последствия действий и снижать бдительность. Вместо смерти, пыток, перевоспитания или обращения, инструментаризм, по сути, изгоняет нас из нашего собственного поведения. Он отрывает нашу внутреннюю жизнь от внешней, нашу субъективность и глубину от наблюдаемых действий. Он придает правдоподобия гипотезе поведенческих экономистов о слабости человеческого разума, делая его таковым, поскольку отчужденное поведение обретает собственную жизнь, которая отдает наше будущее на потребу целям и интересам надзорного капитализма.

В инструментаристской утопии Большой Другой имитирует водоворот стимулов, превращая «естественный отбор» в «неестественный отбор» вариаций и подкреплений, созданных участниками рынка и их конкуренцией за надзорные доходы. Мы можем принять Большого Другого за бихевиористского бога водоворота стимулов, но только потому, что он успешно скрывает махинации надзорного капитала, которые и есть настоящий волшебник за цифровым занавесом. Соблазнительный голос, созданный по ту сторону завесы, – Гугл, ты ли это? – мягко подталкивает нас на путь, который обещает выдать максимальный поведенческий излишек и максимальное приближение к определенности. Не вздумайте задремать в этом опиумном тумане на обочине сети. За этим всезнающим голосом стоят цели и правила того самого места, из которого мы когда-то надеялись сбежать, с его коммерческими ритуалами конкуренции, презрения и унижения. Один неверный шаг, одно отклонение от накатанного пути гладкой предсказуемости, и в том же самом голосе мгновенно появятся стальные нотки, когда он будет распоряжаться, чтобы «система мониторинга автомобиля не включала зажигание».

При режиме инструментарной власти ментальная свобода выбора и обладание человеком правом на будущее время постепенно оттеснятся новым типом автоматизма, когда живой опыт стимула-реакции-подкрепления агрегируется в виде появления и исчезновения «всего лишь организмов». Для успеха инструментаризма не требуется наше послушание. Нет нужды в массовом подчинении социальным нормам, никакой утраты самого себя в пользу коллектива, вызванной террором и принуждением, никаких перспектив принятия и принадлежности в качестве награды за уступку требованиям группы. Все это заменяется цифровым порядком, который процветает в вещах и телах, превращая волю в подкрепление, а действие – в условный рефлекс.

Таким образом инструментарная власть создает для надзорных капиталистов бесконечное накопление знания и бесконечно уменьшает свободу для нас, постоянно возобновляя господство надзорного капитализма над общественным разделением знания. Ложное сознание больше не порождается скрытыми фактами класса и их отношением к производству; вместо этого его создают скрытые факты господства инструментарной власти над общественным разделением знания, узурпирующей право отвечать на главные вопросы: Кто знает? Кто принимает решения? Кто определяет, кому принимать решения? Когда-то власть отождествлялась с собственностью на средства производства, но сегодня она отождествляется с собственностью на средства изменения поведения – на Большого Другого.

II. Рыночный проект тотальной определенности

Большой Другой и инструментарная власть, которую он делает возможной, представляют собой реализацию видения Скиннера для человечества. Еще в 1948 году во «Втором Уолдене» Скиннер мечтал о новых измерительных и вычислительных мощностях, которые раскрыли бы тайны водоворота стимулов и прояснили бы нам те акты невежества, которые мы по глупости своей ценим как свободную волю. «Я не утверждаю, что поведение всегда предсказуемо, как не утверждаю, что погода всегда предсказуема, – говорит Фрейзер, главный герой „Второго Уолдена“. – Часто приходится учитывать слишком много факторов. Мы не можем их все точно измерить, и даже если бы могли, у нас нет возможности выполнить все расчеты, необходимые для прогнозирования»[973].

Для Скиннера, злая ирония судьбы состояла в том, что ему было дано предвидеть возможность инструментарной власти и ее воплощения в Большом Другом до того, как появились инструменты для реализации этого видения. Его лаборатория всегда была фантастическим миром инженерных инноваций для его поведенческих экспериментов – лабиринты и коробки для создания у животных условных рефлексов, измерительные инструменты и записывающие устройства. Полноценно действующая технология поведения была вожделенной целью, которая всю жизнь ускользала от Скиннера, что стало для него источником постоянного разочарования, которое сквозило в каждой его статье и лекции, вплоть до самых последних.

Хотя Скиннер был уверен, что наука в конце концов преодолеет сложности, связанные с практическим воплощением поведенческой технологии, он был больше обеспокоен культурными препятствиями для развития науки о прогнозировании и контроле над человеческим поведением, основанной на точке зрения Другого. Он ненавидел силы трения, производимые людьми в их упорной привязанности к ценностям и идеалам свободы, унаследованным от философов XVIII века; не меньше презирал он и экзистенциальный проект послевоенных философов, который заложил аутентичность, свободу воли и автономное действие в самое сердце устремлений второго модерна.

В своем предпоследнем эссе, написанном в 1990 году, меньше чем за три года до смерти, Скиннер попрощался с перспективами поведенческого прогнозирования как основы нового общества, построенного на научном знании: «Сказать, что человек – это просто место, где что-то происходит, кажется еще более угрожающим, когда это связано с вопросом о том, что мы сделаем, а не о том, что мы уже сделали»[974]. В эти последние годы он, казалось, почти смирился с неизбежностью создаваемой человеком силы трения и упрямой человеческой приверженностью чему-то вроде свободы воли, и голос Скиннера звучал менее возмущенно и агрессивно, чем у автора книги «По ту сторону свободы и достоинства» двумя десятилетиями раньше. В его последних раздумьях гнев и презрение перерастают в усталость и отчаяние:

Могут сказать, что это очень обескураживающий взгляд на поведение человека и что мы с большей вероятностью будем что-то делать ради будущего, если будем продолжать верить, что наша судьба в наших руках. Эта вера сохранялась на протяжении многих веков и привела к замечательным достижениям, но эти достижения были лишь непосредственными последствиями того, что было сделано. Теперь мы знаем, что были и другие последствия и что они угрожают нашему будущему. То, что мы сделали с нашей судьбой, может оказаться не тем памятником, который мы хотим оставить миру[975].

В наши времена надзорной чрезвычайщины, когда удивление уступает беспомощности и смирению, сопротивление, на которое жаловался Скиннер, идет на спад. Вера в то, что мы можем выбрать свою судьбу, поставлена под сомнение, и в результате драматического разворота событий мечта о технологии поведенческого прогнозирования и контроля – за которую на Скиннера вылилось столько публичного презрения – теперь свершившийся факт. Эта желанная добыча теперь в огромных количествах привлекает капитал, человеческий гений, научные разработки, государственную защиту, институциональные экосистемы и очарование, которые всегда сопровождали и всегда будут сопровождать власть.

Возвышение инструментаризма идет по пути «проливающих свет событий», которые, как пишет Ханна Арендт, раскрывают «в прошлом некое начало, которое прежде было скрыто»[976]. В самой природе инструментарной власти заложена тенденция действовать на расстоянии и двигаться скрытно. Она растет не с помощью террора, убийств, отмены демократических институтов, расправ или изгнаний. Она растет благодаря декларациям, самоуправству, риторическим подменам, эвфемизмам и тихим, дерзким закулисным действиям, специально задуманным так, чтобы остаться незамеченными, в этом процессе заменяя индивидуальную свободу чужим знанием, а общество – определенностью. Она не противостоит демократии, а разрушает ее изнутри, подрывая человеческие способности и самопонимание, необходимые для поддержания демократической жизни.

История экспериментальных маневров Facebook, Pokmon Go как прообраз общества, в котором правят бал рынки поведенческих фьючерсов, бесконечные примеры цифровых инноваций, сокрушенных пятой надзорной идеологии, – что это, как не публичное объявление «проливающих свет на историю» перемен, проходящих по нам и среди нас, необратимо изменяя жизнь, какой мы ее знали. Здесь нет никакого насилия, только постепенное удушение воли к воле, воплощенной в самоопределении, выраженной в говорящем от первого лица голосе, и получающей подпитку и подкрепление в святилище, существование которого зависит от возможности личной жизни и обещания общественной свободы.

Инструментарная власть, как Фауст Гёте, морально нейтральна. Единственный ее моральный императив извлечен из мировоззрения пустой утопической похлебки. Если есть какой-то грех, то это грех автономии – смелость отвергнуть поток, несущий нас всех к предсказуемости. Силы трения – единственное зло. Попытки чинить ей препятствия – законом, действием или риторикой – просто ретроградство. Норма – подчинение предполагаемым железным законам технологической неизбежности, которые не терпят возражений. Здравый смысл, как считается, требует сдаться и возрадоваться новоприобретенным удобствам и гармониям, погрузиться в первый текст и приветствовать насильственное неведение о его теневом собрате.

Тоталитаризм представлял собой преобразование государства в тотального владельца. Инструментаризм и Большой Другой знаменуют превращение рынка в проект тотальной определенности, который невозможно себе представить за пределами цифровой среды, но он так же невообразим вне логики накопления надзорного капитализма. Эта новая власть – порождение беспрецедентной конвергенции двух процессов: роста надзорных и активирующих действие возможностей Большого Другого и открытия и монетизации поведенческого излишка. Только в контексте этой конвергенции мы можем себе представить экономические принципы, которые используют и контролируют человеческий опыт, чтобы систематически и предсказуемо формировать поведение в денежных интересах других.

Инструментарная власть занимает точку зрения Другого, сводя людей к простому животному поведению, лишенному внутреннего смысла. Она видит только организмы, принуждаемые служить новым законам капитала, в подчинение которым сегодня поставлено все поведение. Арендт десятилетия назад предвидела разрушительный потенциал бихевиоризма, когда оплакивала низведение нами «мышления» до чего-то, что осуществляется «мозгом» и поэтому может быть перенесено на «электронные инструменты»:

На своей завершающей стадии трудовой социум превращается в социум jobholders, обладателей рабочего места, а он не требует от принадлежащих к нему почти ничего кроме автоматического функционирования, как если бы жизнь индивида уже полностью погрузилась в поток жизненного процесса, правящего жизнью рода, и как если бы единственно активное, индивидуальное решение заключалось уже лишь в том чтобы неким образом отпустить себя, отрешиться от своей индивидуальности, приглушить ощущения, пока еще регистрирующие жизненную тяготу и нужду, чтобы тогда уж вполне «успокоившись» тем лучше и беспроблемнее «функционировать».

В современных теориях бихевиоризма тревожны не их неувязки, а то, что они, наоборот, могут оказаться слишком верны, что они, возможно, лишь в теоретически абсолютизированной форме описывают нечто действительно происходящее в современном обществе. Вплне мыслимо что Новое время, начавшееся такой неслыханной и неслыханно многообещающей активизацией всех человеческих способностей и деятельностей, завершится в конечном счете самой мертвенной, самой стерильной пассивностью, какую когда-либо знала история[977].

Неужели это и должно стать нашим домом – автоматизация наших «я» как необходимое условие автоматизации общества, и все это ради требуемых другими людьми гарантированных результатов?

III. Проклятие этого века

Одно место, с которого можно начать размышление над этим вопросом, – «Заключительные замечания» Арендт в первом издании «Истоков тоталитаризма», слова которые преследуют меня с тех пор, как я впервые прочитала их много лет назад. Они были написаны в то время, когда тоталитаризм, побежденный в Европе, безоговорочно господствовал в сталинском СССР. Это было время, когда большую часть мира объединяла насущная необходимость понимания и воспоминания, не только ради завещания потомкам, но также и в качестве прививки от будущего террора.

Размышления Арендт суммируют не только «тщету» и «нелепость» тоталитаризма, но и ее ощущение «тревожной актуальности тоталитарных режимов». Она предостерегала, что тоталитаризм нельзя списывать как случайный поворот к трагедии, утверждая, что он «глубоко связан с кризисом этого столетия». Она заключила: «Дело в том, что подлинные проблемы нашего времени нельзя понять, не говоря уже о том, чтобы решить, не признав, что тоталитаризм стал проклятием нашего столетия лишь потому, что он так чудовищно стал решать его проблемы»[978].

Теперь представьте себе, что спустя десятилетия другой мыслитель задумался бы о «тревожной актуальности» инструментарной власти и пришел к выводу, что «подлинные проблемы нашего времени нельзя понять, не говоря уже о том, чтобы решить, не признав, что инструментаризм стал проклятием нашего столетия лишь потому, что он так чудовищно стал решать его проблемы».

Какие проблемы? Я утверждала, что надзорный капитализм и его инструментарная власть питаются неустойчивыми «условиями существования», которые я обобщенно назвала «коллизией». Надзорный капитализм предлагает людям решения в форме социальных связей, доступа к информации, удобной экономии времени и зачастую иллюзию поддержки. Это ресурсы первого текста. Что еще более важно, он предлагает решения и для учреждений – в форме всеведения, контроля и определенности. Смысл не в том, чтобы излечить нестабильность – коррозию социального доверия, разрушение связей взаимности, опасные крайности неравенства, режимы исключения – а в том, чтобы использовать уязвимости, создаваемые этими обстоятельствами.

Полезно отметить, что, несмотря на широко разрекламированные социальные преимущества постоянного доступа в интернет, социальное доверие в США резко упало именно в тот период, когда расцвел надзорный капитализм. Согласно замерам «установки на межличностное доверие», осуществляемым в ходе регулярного Общего социального опроса (General Social Survey) в США, процентная доля американцев, которые «считают, что большинству людей можно доверять», оставалась относительно стабильной в период между 1972 и 1985 годами. Несмотря на небольшие отклонения, в 1972 году 46 % американцев выказывали высокий уровень межличностного доверия, а в 1985 году – почти 50 %. По мере того как последствия неолиберальных мер начинали чувствоваться все сильнее, этот процент стал неуклонно снижаться и опустился до 34 % в 1995 году, когда возник общедоступный интернет. С конца 1990-х устойчивое снижение продолжилось и в 2014 году достигло 30 %[979].

Общества с низким уровнем межличностного доверия обычно демонстрируют еще и низкий уровень доверия к законной власти; и действительно, уровень доверия к правительству в США также значительно снизился, особенно в течение полутора десятилетий роста интернета и распространения надзорного капитализма. В 1958 году более 75 % американцев заявляли, что всегда или как правило доверяют правительству, в 1985 году – около 45 %, в 2015 году – около 20 %, и в 2017 году – только 18 %[980]. Социальное доверие тесно связано с мирным коллективным принятием решений и гражданским участием. В его отсутствие авторитет общих ценностей и взаимных обязательств начинает таять. Оставшаяся пустота – громкий сигнал социальной уязвимости. Растерянность, неуверенность и недоверие позволяют власти заполнить эту социальную пустоту. Они прямо-таки напрашиваются на это.

В эпоху надзорного капитализма эту пустоту заполняет именно инструментарная власть, заменяя социальные отношения машинами, что равносильно замене общества на определенность. В этой воображаемой коллективной жизни свобода утрачивается в пользу чужих знаний, достижение, которое возможно только благодаря ресурсам теневого текста.

Во главе этих амбициозных преобразований коллективной жизни и индивидуального опыта идут частные институты капитала, но они находят необходимую поддержку со стороны институтов государства, особенно в связи с тем, что объявление «войны с террором» узаконило все поползновения на закрепление машинной определенности как окончательного решения проблемы социальной неопределенности. Это взаимное сродство гарантирует, что инструментарная власть будет не пасынком, а равным партнером или даже, все чаще и чаще, господином и хозяином, на которого полагается государство в его стремлении к «тотальной осведомленности».

То, что инструментарная власть рассматривается как надежное решение для неопределенных социальных обстоятельств, проявляется в том, как ее привлекает к работе государство. Разнообразные и сложные институциональные модели, создаваемые в ходе этих взаимодействий, – важное поле для изучения и демократического обсуждения. Но моя цель сейчас состоит в том, чтобы просто указать на несколько примеров, которые иллюстрируют постоянный спрос со стороны государства на интенсификацию производства инструментарной власти надзорным капитализмом, состоящую в росте и усложнении Большого Другого в качестве предпочтительного решения проблем социального распада, недоверия и неопределенности. Хотя мы потеряли чувствительность к, по-видимому, бесконечной череде таких примеров, важно понимать, что в этих запутанных ситуациях государственные и рыночные институты демонстрируют общую приверженность неустанному стремлению к гарантированным исходам. Их взаимное сродство может помочь нам определить проблему, которая угрожает сделать инструментарную власть проклятием нашего столетия.

Неудивительно, что инструментарная власть неизменно задействуется в качестве одного из ответов, если не главного ответа, на угрозу терроризма. Акты террора отвергают авторитет цивилизационных норм и обнажают невозможность общества без взаимного доверия. Сегодня правительства обращаются к инструментарной власти в качестве решения этой новой проблемы социальной неопределенности, требуя машины определенности, обещающие прямые, надежные средства обнаружения, прогнозирования и даже автоматической активации контрмер.

В течение шестнадцати лет администраций Буша и Обамы «прогресс в области информационных технологий» понимался как «наиболее эффективный ответ» на эту угрозу. Питер Суайр отмечает, что государственные чиновники «знают, что частный сектор разрабатывает много новых методов сбора и обработки данных и принятия решений на основе этих данных». Следствием этого является «продолжающийся масштабный переход к информационно емким стратегиям», опирающимся на эти рыночные возможности[981].

Это положение вещей было нарушено в 2013 году, когда Эдвард Сноуден обнародовал информацию о скрытом взаимодействии между спецслужбами и техническими компаниями. В последовавшем за этим скандале надзорные капиталисты столкнулись с новыми проблемами в сфере связей с общественностью, связанные с тем, что они изображали как непростой или даже нежеланный союз между частной властью и нуждами государственной безопасности. Тем не менее новые террористические угрозы неизменно ориентируют государственных чиновников на усиление и дальнейшее развертывание Большого Другого и инструментарной власти, которую он дает. Их способность пользоваться этой огромной властью, однако, чревата трениями. Она не просто то, чем они вольны повелевать. Они должны действовать, хотя бы отчасти, через надзорных капиталистов.

К примеру, после терактов в декабре 2015 года в Париже президент Обама, американские законодатели и государственные чиновники по всему миру призвали технические компании, особенно Google, Facebook и Twitter, идентифицировать и удалять террористский контент. По сообщениям, компании были не слишком готовы стать, или по крайней мере восприниматься, «инструментами государства»[982]. Журналисты заметили, что государственные чиновники разработали «обходные пути», направленные на получение доступа к инструментарной власти, не создавая новых проблем для репутации этих компаний у публики. Скажем, государственное учреждение может заявить, что опасный онлайн-контент нарушает условия предоставления услуг интернет-компании, и инициировать быстрое удаление искомых материалов, «не оставляя бумажного следа, который возник бы при судебном решении». Аналогичным образом Google расширил программу «доверенных модераторов», с помощью которой чиновники и другие лица могли идентифицировать проблемный контент, требующий незамедлительных действий[983].

Компании ответили инициативами со своей стороны. Эрик Шмидт предложил новые инструменты, в том числе «проверку на ненависть», для выявления и устранения аккаунтов террористов, удаления контента до того, как он успел разойтись, и ускорения распространения контрсообщений[984]. Высокопоставленные чиновники администрации Обамы поддержали эту перспективу в ходе паломничества в Кремниевую долину в январе 2016 года на «антитеррористический саммит» с технологическими лидерами. Повестка дня включала дискуссии о том, как срывать террористическую деятельность в интернете, продвигать альтернативный контент, нарушить пути к радикализации и дать возможность органам безопасности предотвращать атаки[985]. Меморандум с брифинга в Белом доме призвал компании разработать «алгоритм радикализма», который бы просеивал социальные сети и другие источники излишка для получения чего-то вроде кредитного рейтинга, но нацеленного на оценку степени «радикальности» онлайн-контента[986].

Обращение к инструментарной власти как к решению проблемы неопределенности не ограничивается правительством США. Терроризм вызывает аналогичные реакции в Германии, Франции, Великобритании и многих других странах. После нападения 2016 года на берлинской рождественской ярмарке немецкие чиновники объявили о планах требовать от подозреваемых экстремистов носить электронные метки для постоянного отслеживания[987]. В 2017 году надзорные капиталисты, включая Facebook, Microsoft, Google и Twitter, создали Глобальный интернет-форум по противодействию терроризму. Задача состояла в том, чтобы крепче затянуть сеть инструментарной власти посредством «сотрудничества в разработке технических решений проблемы совместного использования методов классификации контента», «продвижения антитеррористических точек зрения» и создания общей базы данных «уникальных цифровых отпечатков» изображений террористического характера, чтобы ускорить идентификацию учетных записей террористов[988]. В 2017 году в совместный доклад пяти стран – Австралии, Канады, Новой Зеландии, Великобритании и Соединенных Штатов – были включены четыре ключевых обязательства, самым первым из которых было взаимодействие с интернет-компаниями для борьбы с террористической деятельностью в интернете и поддержки отраслевого форума во главе с Google и Facebook[989]. В том же году Европейский совет объявил, что рассчитывает, что «представители отрасли» окажутся на высоте своей обязанности «разрабатывать новые технологии и инструменты для совершенствования автоматического обнаружения и удаления контента, подстрекающего к террористическим актам»[990]. Собравшись в Гамбурге в 2017 году, страны «большой двадцатки» пообещали работать с интернет-компаниями, настаивая на необходимости более совершенных инструментов фильтрации, обнаружения и удаления контента, а также «поощряя» бизнесы инвестировать в технологии и человеческий капитал, способные обнаруживать и пресекать террористическую активность в интернете[991].

Появляются и другие комбинации инструментарной и государственной власти. Так, в 2016 году бывший директор Национальной разведки США Джеймс Клэппер заявил конгрессу, что разведывательные службы могут использовать «интернет вещей» для «идентификации, надзора, мониторинга, отслеживания местоположения и отбора кандидатов для вербовки или для получения доступа к сетям или учетным данным пользователя»[992]. Более того, исследовательский отчет гарвардского Центра Беркмана Кляйна по изучению интернета и общества показал, что волна «умных» приборов и продуктов, сетевых датчиков и «интернета вещей» надзорного капитализма откроет «широкие возможности для государственных органов требовать доступ как к записанным сообщениям, так и к коммуникациям в режиме реального времени»[993].

То, что «умное» и «подключенное к интернету» означает новые каналы для коммерческого и государственного надзора, – не домысел и не удел одних лишь спецслужб. В одном деле об убийстве 2015 года полиция использовала для установления личности подозреваемого данные с «умного» бытового счетчика и с iPhone 6s Plus, а также аудиофайлы, захваченные устройством Amazon Echo[994]. В 2014 году данные с браслета Fitbit использовались в деле о телесных повреждениях, а в 2017 году полиция использовала данные кардиостимулятора, чтобы обвинить мужчину в поджоге и страховом мошенничестве[995].

В США к очереди учреждений, стремящихся получить доступ к инструментарной власти, присоединились местные правоохранительные органы. Компании, занятые «надзором как услугой», охотно продают свой товар местным полицейским управлениям, которые также решили найти короткий путь к определенности. Один из стартапов под названием Geofeedia специализируется на точном отслеживании местоположения активистов и протестующих, таких как члены Greenpeace или профсоюзные организаторы, и на вычислении представляемой каждым из них «степени угрозы», используя данные, взятые из социальных сетей. Среди самых ценных клиентов Geofeedia – правоохранительные органы[996]. Когда в 2016 году бостонское полицейское управление объявило о своем желании присоединиться к этому списку, городской комиссар полиции заявил в интервью газете Boston Globe, что верит в машинную определенность как противоядие от социального хаоса: «Нападение <…> на кампус Университета штата Огайо – лишь последняя иллюстрация того, почему местным правоохранительным органам нужно осваивать все доступные инструменты, которые могут помочь остановить терроризм и другие акты насилия еще до того, как они будут совершены»[997]. Юрист из Американского союза защиты гражданских свобод возражал, что правительство использует технологические компании «для создания подробных досье на людей», основанных только на их высказываниях, защищенных конституционной поправкой о свободе слова[998]. Еще одна, более известная, компания по «надзору как услуге», Palantir, некогда разрекламированная изданием Bloomberg Businessweek как «секретное оружие в войне с терроризмом», оказалась замешана в тайном сотрудничестве с департаментом полиции Нового Орлеана, тестируя свою технологию «предиктивной полицейской деятельности». Программное обеспечение Palantir не только идентифицировало членов банд, но также «отслеживало связи людей с другими членами банд, выявляло криминальное прошлое, анализировало социальные сети и предсказывало вероятность того, что человек применит насилие или станет его жертвой»[999].

IV. Китайский синдром

Одно логическое следствие этой тенденции к подмене общества определенностью теперь уже можно себе представить, потому что правительство Китая разрабатывает всеобъемлющую систему «социального кредита», которую один китайский ученый назвал «ядром» китайской интернет-программы. Ее цель состоит в том, чтобы «использовать взрывной рост количества персональных данных <…> для улучшения поведения граждан <…> Предприятия и отдельные лица будут оцениваться по различным аспектам их поведения – куда вы ходите, что покупаете и кого знаете – и эти оценки будут интегрированы в комплексную базу данных, которая увязана не только на информацию от государственных органов, но и на данные, собранные частным бизнесом»[1000].

Система отслеживает «хорошее» и «плохое» поведение в различных сферах финансовой и социальной деятельности, автоматически назначая наказания и награды, чтобы решительно толкать поведение в направлении «укрепления честности» в экономической, социальной и политической жизни:

Цель заключается в том, чтобы за каждым гражданином Китая закрепить файл, накапливающий данные из открытых и частных источников <…> с возможностью поиска по отпечаткам пальцев и другим биометрическим характеристикам[1001].

Хотя проект введения социальных кредитов в Китае неизменно рассматривается как «цифровой тоталитаризм» и часто сравнивается с миром оруэлловского «1984», его лучше понимать как апофеоз инструментарной власти, питаемой государственными и частными источниками данных и контролируемой авторитарным государством. Сообщения о его пилотных программах полны ярких примеров присущей надзорному капитализму экономии за счет действия и тонкого выстраивания сверхмассовых средств изменения поведения. Цель в том, чтобы автоматизировать общество путем подстройки, понуждения и обусловливания для получения заранее отобранных форм поведения, которые государство сочло желательными и, значит, способными «не допустить дестабилизации», как выразился один из экспертов по стратегическим исследованиям[1002]. Другими словами, цель состоит в том, чтобы, используя инструментарные средства изменения поведения, достичь гарантированных социальных, а не рыночных исходов. Результатом является формирующаяся на наших глазах система, которая позволяет нам подсмотреть одну из версий будущего, определяемого всесторонним слиянием инструментарной и государственной власти.

Китайский проект задуман как ответ на уникальный китайский вариант социального распада. В статье в журнале Foreign Policy журналистка Эми Хокинс объясняет, что проблема, лекарством для которой призвана стать система социальных кредитов – это эпидемия социального недоверия в Китае:

Быть китайцем сегодня – значит жить в обществе недоверия, где каждая открывающаяся возможность – потенциальная подстава, а каждый акт великодушия может быть использован в корыстных целях другими[1003].

Захватывающее эмпирическое исследование социального доверия в современном Китае в действительности обнаруживает высокий уровень доверия к «своим», но при этом коррелирует с негативными последствиями для здоровья. Вывод этого исследования в том, что многие китайцы доверяют только тому, кого хорошо знают. Все остальные взаимоотношения связаны с подозрительностью и тревогой, что имеет очевидные последствия для социального доверия, равно как и для социального благополучия[1004]. Эта вакханалия недоверия, обычно связываемая с травмой быстрой модернизации и переходом к квазикапиталистической экономике, также является наследием китайского тоталитаризма. Коммунистическая партия Китая разрушила традиционные сферы, создавшие принадлежность, идентичность и социальный смысл – семью, религию, гражданское общество, интеллектуальный дискурс, политическую свободу – вызывая в памяти описание Арендт «атомизации», разрушающей узы доверия[1005]. Хокинс пишет:

Но вместо того, чтобы ради сокращения пропасти недоверия способствовать органичному возвращению традиционной морали, китайское правительство предпочло направить свою энергию на технологические решения <…> и это только приветствует публика, уставшая от незнания, кому доверять <…> отчасти потому, что не видит альтернативы[1006].

Китайское правительство намерено задействовать инструментарную власть, чтобы заменить разрушенное общество гарантированными исходами.

В 2015 году китайский Центральный банк объявил о пилотном проекте, в рамках которого ведущие компании, занимающиеся электронной торговлей, опробуют интеграцию данных и разработку программного обеспечения для создания персонального кредитного рейтинга. Среди крупнейших участников была Ant Financial (входящая в Alibaba Group) и ее система «персонального кредитного рейтинга» под названием Sesame Credit. Система Sesame Credit производит «целостную» оценку «характера» с применением алгоритмического обучения, которая выходит далеко за рамки своевременной оплаты счетов и займов. Алгоритмы оценивают и ранжируют покупки (видеоигры против детских книг), уровень образования, а также количество и «качество» друзей. Опыт одной журналистки с Sesame Credit говорит о том, что алгоритм занимается чистым «шаманизмом», учитывая кредитные рейтинги ее социальных контактов, марку ее машины, ее работу, ее вуз и множество не уточняемых поведенческих переменных, которые предположительно «коррелируют с хорошим кредитным рейтингом». Теневой текст находится вне досягаемости, и пользователям остается только гадать, как можно улучшить свой рейтинг, в том числе избавляясь от друзей с низкими показателями и набирая побольше друзей с высокими показателями, которые, как полагают некоторые, могут повысить ваш собственный рейтинг[1007].

Генеральный директор компании гордится тем, что система рейтингования «гарантирует, что плохим людям в обществе будет некуда пойти, в то время как хорошие люди могут передвигаться свободно и безо всяких помех». Те, кто заработал высокий рейтинг, получают награды и поощрения от клиентов Sesame Credit на рынках его поведенческих фьючерсов. Они могут взять напрокат автомобиль без залога, получить кредит на выгодных условиях и арендовать квартиру, рассчитывать на ускоренное прохождение процедур на получение визы, получать больше показов своего профиля в приложениях для знакомств и получить множество других льгот. Тем не менее один отчет предупреждает, что привилегии, связанные с высоким личным кредитным рейтингом, могут внезапно пропасть по причинам, не связанным с потребительским поведением, например в результате жульничества на экзамене в университете[1008].

В 2017 году центральный банк отказался от поддержки частных программ по ведению личного кредитного рейтинга, возможно, потому, что они оказались слишком успешными, а концентрация знаний и власти в них были чересчур велики. Всего за два года компания Sesame Credit приобрела более 400 миллионов пользователей, застолбив себе практически все аспекты жизни этих пользователей[1009]. Журналист, написавший книгу об Ant Financial, ожидает, что государство готовится установить контроль над всей системой: «Государство не хочет, чтобы эта важнейшая инфраструктура рейтингования людей находилась в руках одной крупной компании». Китайское правительство, похоже, понимает, что власть достается владельцам средств изменения поведения. Именно владельцы устанавливают поведенческие параметры, которые определяют гарантированные результаты. Так слияние продвигается вперед.

Некоторое представление о том социальном мире, который может возникнуть в результате слияния инструментарной и государственной власти, можно получить, например, из «списка нарушителей», названного в журнале Economist сердцем системы социального кредита и, возможно, наилучшим индикатором ее широких амбиций. В этот список входят должники и все, кто когда-либо нарушал судебный приказ:

Лицам, включенным в этот список, могут не позволить купить билеты на самолет или поезд (в скоростном поезде либо в первом или бизнес-классе); продать, купить или построить дом; отправить детей в дорогую платную школу. Для нарушителей существуют ограничения на прием и продвижение в партии и армии, на получение наград и званий. Если нарушителем является компания, она не может выпускать акции или облигации, получать иностранные инвестиции или участвовать в государственных проектах[1010].

Согласно статье в газете China Daily, должники из этого черного списка с момента его создания в 2013 году 6,15 миллиона раз подпадали под автоматический запрет на полеты. Не исполнившим судебные решения 2,22 миллиона раз было отказано в продаже билетов на скоростные поезда. Около 71 000 неплательщиков упустили из-за своих долгов назначение на руководящие должности на предприятиях. Китайский банк промышленности и торговли заявил, что отказал должникам из списка в кредитах на общую сумму более 6,97 миллиарда юаней (1,01 миллиарда долларов)[1011]. Никого не отправляют на перевоспитание в лагеря, но каждому могут запретить покупать предметы роскоши. По словам директора Института изучения кредита Китайской академии международной торговли и экономического сотрудничества, «Из-за этого неудобства 10 % людей, попавших в список, спонтанно начали выплачивать деньги, которые за ними числились. Это говорит о том, что система начинает работать»[1012]. Экономия за счет действия работает по плану.

Слияние инструментарной и государственной власти больно ударило по 400 миллионам пользователей Sesame Credit. Тот, кто оказывается в черном списке, обнаруживает, что эта кредитная система устроена так, что его рейтинг начинает катиться вниз по наклонной:

Сначала ваш рейтинг падает. Потом ваши друзья узнают, что вы попали в черный список, и, опасаясь, что может пострадать их рейтинг, потихоньку удаляют вас из списка контактов. Алгоритм замечает это, и ваш рейтинг падает еще ниже[1013].

Планы китайского правительства, возможно, чересчур амбициозны – великая мечта о полной осведомленности и полной определенности, на службу которой поставлены алгоритмы, фильтрующие постоянный поток данных из частных и общественных онлайн- и офлайн-источников из всех сфер жизни. Этот поток способен срикошетить обратно в жизнь каждого из 1,5 миллиарда человек, автоматизируя социальное поведение по мере того, как алгоритмы вознаграждают, наказывают и формируют действия вплоть до покупки билета на последний автобус. Пока что проект разбит на множество мелких пилотных проектов, не только в технологических компаниях, но также в городах и регионах, так что трудно по-настоящему оценить масштабы задуманного правительством. Многие эксперты считают, что единую систему такого размаха и сложности запустить будет трудно, если не невозможно.

Есть и другие веские причины, по которым система социального кредита может оказаться для нас не очень актуальной. Очевидно, что Китай не является демократической страной и его культура сильно отличается от западной. Исследователь из Сиракузского университета Ян Ван отмечает, что китайская культура придает меньшее значение неприкосновенности частной жизни, чем западная, и что большинство китайцев приспособились к неотвратимости государственного надзора и цензуры в интернете. До середины 1990-х годов в популярных китайских словарях даже не было самого распространенного сегодня слова для обозначения неприкосновенности частной жизни, yinsi[1014]. Граждане Китая смирились с национальными удостоверениями личности с биометрическими чипами, «разрешениями на рождение ребенка», а теперь и с рейтингами «социального кредита», потому что их общество уже на протяжении десятилетий насыщено надзором и профилированием. Например, «dang’an» – это обширное личное досье, которое начинает составляться на сотни миллионов горожан с самого детства и ведется на протяжении всей жизни. Эта «система эпохи Мао для фиксирования самых интимных подробностей жизни» обновляется учителями, функционерами Коммунистической партии и работодателями. Граждане не имеют права просматривать его содержимое, не говоря уже о том, чтобы оспаривать его.

Такое досье – это всего лишь одна из черт давно устоявшихся и всепроникающих административных систем поведенческого контроля и надзора в повседневной жизни, которые награждают одних и наказывают других. С ростом интернета программы социального контроля расширились. Скажем, программа «Золотой щит» – это обширная система надзора в интернете. Китайские киберцензоры могут приостанавливать действие учетных записей в интернете или социальных сетях, если их пользователи отправляют сообщения, содержащие опасные слова, такие как «независимость Тибета» или «события на площади Тяньаньмэнь»[1015].

Но как бы ни были различны наши культуры и политические системы, имеющиеся у нас свидетельства китайских инициатив в области социального кредита передают логику надзорного капитализма и создаваемой им инструментарной власти. Sesame Credit усугубляет все аспекты работы надзорного капитализма, когда сотни миллионов людей увязли в шестеренках системы автоматической модификации поведения и связанных с ней оживленных рынков поведенческих фьючерсов, раздающих бонусы и поощрения, вроде волшебной пыли Pokmon Go, в обмен на гарантированные исходы.

С каждым их действием китайских пользователей оцифровывают, классифицируют и ставят в очередь на составление прогнозов, и ровно то же самое происходит и с нами. Нас оценивают Uber, eBay, Facebook и многие другие веб-компании, и это только те рейтинги, которые мы видим. Китайским пользователям присваивается балл за «поведение», тогда как правительство США призывает технические компании обучать алгоритмы ставить баллы за «экстремизм». В этом и состоит задача теневого текста – оценивать, классифицировать и прогнозировать наше поведение миллионами разных способов, о которых мы не можем ни знать, ни противостоять им – это уже наши цифровые досье. Если уж говорить о кредитных рейтингах, американские и британские банки и компании, предоставляющие финансовые услуги, разработали массу бизнес-моделей, основанных на извлечении и анализе данных социальных сетей для оценки кредитоспособности. Сам Facebook намекнул на свою заинтересованность и даже подал заявку на патент[1016]. Эти попытки пошли на спад только потому, что Федеральная торговая комиссия пригрозила ввести регулирование[1017].

Китаевед из Оксфордского университета Роджер Кримерс, который перевел некоторые из первых документов по системе социального кредита, отмечает, что «тенденция к социальной инженерии и „подталкиванию“ людей к „улучшению“ поведения – также составная часть подхода Крмниевой долины, в соответствии с которым человеческие проблемы можно раз и навсегда разрешить с помощью разрушительного могущества техники <…> В этом смысле, пожалуй, самым шокирующим элементом этой истории являются не планы китайского правительства, а то, насколько они похожи на те пути развития, по которым пошла технология и в других местах»[1018].

В 2017 году на выставке-ярмарке надзорных технологий, проходившей в Шэньчжэне, было полно американских компаний, предлагающих свой новейший товар, особенно камеры, оснащенные искусственным интеллектом и системой распознавания лиц. Среди посетителей был управляющий директор компании CCTV direct, британского дистрибьютора оборудования для надзора. Он сетовал, «насколько сильно отстали страны Запада» на фоне опыта и взрывного развития надзорной инфраструктуры в Китае, но также и утешал себя той мыслью, что «то, что начинается здесь, в итоге окажется в домах, аэропортах и на предприятиях Америки»[1019].

Разница между надзорным капитализмом на Западе и формирующейся системой социального кредита в Китае кроется в разных моделях переплетения и взаимодействия между инструментарной и государственной властью. Между ними есть структурные различия. На Западе, как мы уже видели, эти модели приняли самые разнообразные формы. Государство начинало как материнское лоно и укрытие, а потом становилось нетерпеливым учеником и завистливым кузеном. Надзорный капитализм и его инструменты сегодня уже достигли совершеннолетия, что привело к неровному, но неизбежному партнерству. Основные инструментарные мощности принадлежат крупным надзорным капиталистическим фирмам, и государство, чтобы получить доступ к той власти, к которой оно стремится, должно действовать в согласии с этими фирмами и через них.

В китайском контексте командовать парадом будет государство, и это будет не рыночный, а политический проект, машинное решение, которое формирует новое общество автоматизированного поведения для гарантированных политических и социальных исходов – определенности без террора. Все каналы всех цепочек поставок будут нести поведенческий излишек на потребу этому новому комплексному средству изменения поведения. Роль бихевиористского бога, владеющего теневым текстом и определяющего график подкреплений, и формируемые им способы поведения, возьмет на себя государство. Свободу променяют на знание, но это будет государственное знание, с помощью которого государство будут не извлекать прибыль, а продлевать свое собственное существование.

V. Развилка на дороге

Вспомним наблюдение Карла Фридриха о том, как трудно постичь голые факты тоталитаризма: «практически никто до 1914 года не предвидел того пути развития, по которому пошла с тех пор западная цивилизация <…> Этой неспособности предвидеть соответствовало неумение постичь»[1020]. Вспомним и ухмыляющегося, довольного «дядюшку Джо» – Сталина – красующегося среди голливудских знаменитостей на глянцевых страницах журнала Look 1939 года. Окажемся ли мы такими же недальновидными, как те, кто не мог осмыслить взлет тоталитаризма, парализованные одним лишь могуществом Большого Другого и бесконечными отголосками последствий его действий, отвлеченные нашими потребностями и сбитые с толку его стремительностью, скрытностью и успешностью?

Две разновидности власти

РИС. 4. Две разновидности власти

Чтобы проснуться от этого сна, нужно возродить в себе изумление. Оно необходимо, но оно не должно заставить нас застыть в недоверчивости. Мерный барабанный бой «предначертанной судьбы» Большого Другого, захватывающая дух стремительность его действий, неясность его замыслов и целей призваны обезоружить, дезориентировать и поставить в тупик. Идеология неизбежности стремится приравнять надзорный капитализм и его инструментарную власть к силам природы – не дело рук человека, а нечто больше похожее на реку или ледник, то, к чему можно только присоединиться или перетерпеть. Тем больше оснований спросить: не обернутся ли, с высоты столетий, банальности сегодняшних деклараций («поручить системе мониторинга транспортного средства отключить зажигание») семенами величайшего кошмара нашего столетия? Как насчет авторов инструментарного проекта? Как мы будем смотреть на улыбающиеся, довольные лица технических титанов, когда вернемся к этим фото в глянцевых пикселях какого-нибудь аналога журнала Look XXI века? Путь из Шэньчжэня в американский или европейский аэропорт также ведет к пылесосу Roomba, составляющему карту вашей гостиной, к вашему завтраку с Alexa. Это дорога к машинной определенности, навязанной инструментарной властью и созданной надзорным капитализмом. Этот маршрут короче, чем вы думаете.

Но на дороге есть развилка.

В одну сторону – возможность синтетической декларации о третьей современности, основанной на укреплении демократических институтов и творческом построении «двойного процесса» для нашего времени. На этом пути мы отдаем цифровую среду тем формам информационного капитализма, которые, воссоединяя спрос и предложение, действительно делают жизнь лучше, и это совместимо с процветающим демократическим общественным строем. Первый шаг на этом пути – назвать вещи своими именами, установить ориентиры, пробудить спящее изумление и поделиться друг с другом чувством праведного негодования.

Если мы пойдем по другой дороге, той, которая связывает нас с Шэньчжэнем, то найдем путь к антидемократическому третьему модерну, сформированному инструментарной властью, каким его видит надзорный капитализм. Это будущее, полное определенности, достигнутой без применения насилия. Мы расплатимся за это будущее не своими телами, а своей свободой. Это будущее еще не наступило, но, как и во сне Скруджа о будущих Святках, все нужные детали на месте и готовы к сборке. Глава 14 рассматривает эту следующую станцию на пути, который начался с беспрецедентного капитализма, повернул к беспрецедентной власти и теперь ведет к беспрецедентному обществу, осмысляемому и легитимируемому растущей как на дрожжах интеллектуальной экосистемой мыслителей, исследователей и практиков. Что это за новое место, которое они хотят, чтобы мы назвали своим домом?

I. Общество как Другой

Хотя он и не дал ей никакого имени, пророк повсеместной компьютеризации Марк Уайзер предвидел необъятность инструментарной власти как тотального общественного проекта. Из его слов ясно, что он понимал и полную его беспрецедентность, и то, насколько опасно было бы спутать его с чем-то происходившим прежде: «сотни компьютеров в каждой комнате, способных воспринимать находящихся рядом с ними людей и связанных высокоскоростными сетями, имеют такой потенциал, что тоталитаризм, который мы знали до сих пор, покажется чистейшей анархией»[1022]. На деле все эти компьютеры не ведут к цифровому гипертоталитаризму. Они, как, я думаю, чувствовал и Уайзер, создают фундамент для беспрецедентной власти, которая может изменить общество беспрецедентным образом. Если по сравнению с инструментарной властью тоталитаризм может казаться анархией, то что она может нам готовить?

Семь десятилетий назад протоинструментарная бихевиористская утопия Скиннера, «Второй Уолден», была встречена с отвращением. Сегодня она – источник вдохновения для риторики надзорного капитализма, в то время как его лдеры продвигают инструменты и схемы, которые воплотят идеи стародавнего профессора в жизнь… в наши жизни. Процессы нормализации и привыкания начались. Мы уже видели, что стремление надзорного капитализма к определенности – проистекающее из императива прогнозирования – требует непрерывного приближения к тотальной информации как идеальному условию работы машинного интеллекта. В погоне за тотальностью надзорные капиталисты расширили охват с виртуального на реальный мир. Реалити-бизнес оцифровывает всех людей, вещи и процессы, превращая их в компьютерные объекты, выстраивающиеся в бесконечную очередь эквивалентности без равенства. Сегодня, когда реалити-бизнес интенсифицируется, гонка за тотальностью неизбежно ведет к аннексии «общества», «социальных отношений» и ключевых общесоциальных процессов как новой территории для оцифровки, расчета, модификации и прогнозирования.

Перед вездесущностью Большого Другого склоняются как перед неизбежностью, но это еще не финал. Целью на этом новом этапе является всесторонняя видимость, координация, слияние, контроль и гармонизация социальных процессов в погоне за масштабом, охватом и действием. Хотя инструментаризм и тоталитаризм – это два разных зверя, они оба жаждут тотальности, хотя и совершенно по-разному. Тоталитаризм стремится к тотальности как политическому условию и, чтобы расчистить к нему путь, полагается на насилие. Инструментализм стремится к тотальности как к условию доминирования на рынке и, расчищая путь, полагается на контроль над разделением общественного знания, которое обеспечивается и поддерживается Большим Другим. Результатом является применение инструментарной власти для оптимизации общества во имя рыночных целей – утопия определенности.

Хотя они во многом перекликаются с инструментарным социальным видением политической элиты Китая, у надзорных капиталистов есть собственные цели. С их точки зрения, инструментарное общество – это рыночная возможность. Все навязываемые ими нормы и ценности призваны способствовать гарантированному достижению рыночных целей. Общество, как и человеческая жизнь, ставится в подчинение динамике рынка и перерождается в виде объективированных вычислительных поведенческих метрик, доступных надзорным капиталистам для экономии за счет масштаба, охвата и действия в погоне за самыми прибыльными залежами поведенческого излишка. Для достижения этих целей надзорные капиталисты вызвали к жизни пугающие видения. Они стремятся создать новое общество по образцу машинного обучения, во многом так же, как индустриальное общество строилось по лекалам методов и норм фабричного производства. В этом видении инструментарная власть заменяет собой социальное доверие, Большой Другой подменяет социальные отношения определенностью, и общество, каким мы его знаем, мало-помалу уходит в прошлое.

II. Тотальность включает в себя общество

Как генералы, горделиво ведущие учет своим армиям, лидеры надзорного капитализма заботятся о том, чтобы убедить союзников в своей непобедимости. Обычно это выражается в перечне инструментарных войск, сосредоточенных на границе, готовых к оцифровке всего и вся в погоне за тотальностью. Эта погоня, как становится ясно, не просто имеет последствия для общества; она включает в себя общество.

Весной 2017 года генеральный директор Microsoft Сатья Наделла взобрался на сцену, чтобы открыть ежегодную конференцию разработчиков компании; его тонкий профиль подчеркивали дежурные черная рубашка поло, черные джинсы и модные черные кеды. Он быстро ослепил аудиторию перекличкой своих войск. Наделла рассказал о 500 миллионах устройств с Windows 10; 100 миллионах ежемесячных пользователей Office; 140 миллионах ежемесячных пользователей цифрового «помощника» корпорации – Cortana; и о более чем 12 миллионах организаций, использующих ее облачные сервисы, в том числе 90 % фирм из списка Fortune 500.

Наделла не преминул напомнить слушателям о сокрушительной стремительности инструментарного проекта, вызывающей колоссальный шок и трепет, особенно в последние годы, когда надзорный капитализм стал доминировать в цифровых услугах: интернет-трафик увеличился в 17,5 миллиона раз по сравнению с 100 гигабайтами в день в 1992 году; 90 % данных, существовавших в 2017 году, были генерированы в предыдущие два года; один беспилотный автомобиль будет генерировать 100 гигабайт в секунду; по оценкам, к 2020 году будет около 25 миллиардов умных устройств.

Потрясающе видеть, как прогресс распространяется во всю ширь и глубь нашего общества и нашей экономики и то, насколько всепроникающими стали цифровые технологии <…> Вопрос в том, что вы можете сделать с этой технологией, чтобы это имело широкие последствия.

Его заключительный призыв к собравшимся разработчикам – «Измените мир!» – вызвал бурные аплодисменты[1023].

Генеральный директор Google Сундар Пичаи, расписывая амбиции компании перед ее разработчиками в 2017 году, вторил Наделле, демонстрируя численность своих войск, пока батальоны Google расходятся по всем уголкам общественной жизни, показывая широту и глубину инструментарной мощи корпорации с рвением, которое порадовало бы профессора Скиннера. Пичаи сообщает, что семь из наиболее заметных «продуктов и платформ» компании, включая Gmail, Android, Chrome, Карты, Поиск, YouTube и Google Play Store, привлекают миллиард активных пользователей в месяц; два миллиарда активных Android-устройств; 800 миллионов активных ежемесячных пользователей Google Drive, каждую неделю загружающих три миллиарда объектов; каждый день 500 миллионов пользователей Google Фото загружают 1,2 миллиарда фотографий; 100 миллионов устройств используют Помощника Google. Каждое устройство превращается в носитель Помощника, который будет доступен «в течение всего дня, дома и в дороге» для выполнения любых задач или социальных функций. Пичаи хочет еще большего, говоря своей команде: «Мы должны идти глубже». Помощник должен быть везде, где «люди могут захотеть попросить о помощи». Руководители Google разделяют его энтузиазм. «Технологии сейчас находятся на пороге того, чтобы перенести нас в век волшебства, – пишет Эрик Шмидт, – уже сегодня решая проблемы, которые мы просто не смогли бы решить самостоятельно»[1024]. Машинное обучение, по его словам, будет делать все, от лечения слепоты до спасения вымирающих видов животных.

Всех, однако, превзошел основатель Google Ларри Пейдж, который уже давно устремил взгляд на преобразование общества. «Наша главная цель – социальная», заявил Пейдж газете Financial Times в 2016 году[1025]. «Нам нужны революционные сдвиги, а не постепенные перемены, – сказал он в том же году в другом интервью. – Вероятно, мы могли бы решить многие проблемы, стоящие перед человеком»[1026]. По большей части, его видение будущего – это стандартные утопические мотивы, повторяющиеся уже на протяжении тысячелетий. Пейдж предвидит машинный интеллект, который вернет человечество в райский сад, вознеся нас от тяжкого труда и борьбы в новое царство досуга и исполнения желаний. Он говорит, например, что в обществе будущего будет «изобилие» во всем, а работа по найму останется лишь далеким «безумным» воспоминанием[1027].

Крайне необычно, однако, что Пейдж изображает тоталистические амбиции Google логическим следствием его приверженности усовершенствованию общества. С его точки зрения, мы должны приветствовать возможность опереться на Большого Другого и добровольно подчинить все свои знания и права на принятие решений планам Google. Ради этих планов общество во всей его полноте – вплоть до каждого человека, объекта и процесса – должно быть подключено к цепочкам поставок, питающих машины, которые, в свою очередь, задействуют алгоритмы, оживляющие Большого Другого, чтобы компенсировать нашу слабость:

Чего вы должны от нас хотеть, так это чтобы мы создавали действительно потрясающие продукты и чтобы на самом деле сделать это <…> мы должны разбираться в приложениях, и мы должны разбираться во всем, что вы можете захотеть купить, и мы должны разбираться в авиабилетах. Мы должны разбираться во всем, что вы будете искать. И люди – это важная вещь, которую вы будете искать <…> Мы будем рассматривать людей как первостепенный объект для поиска <…> чтобы мы могли хорошо поработать, удовлетворяя ваши информационные потребности, нам на самом деле нужно разбираться во всем, и мы должны разбираться очень основательно[1028].

Тотальное знание преподносится как необходимое условие для оказания «упреждающих» услуг, что ведет к решению в виде всезнающего, оснащенного искусственным интеллектом Ассистента Google:

Он действительно пытается понимать все на свете и разобраться в этом <…> Многие запросы на самом деле касаются разных мест, поэтому мы должны понимать места. <…> Многие запросы касаются контента, который мы не можем найти. Мы занимались книгами и так далее <…> Итак, мы постепенно расширяем это <…> может быть, вы не хотите спрашивать. Может быть, вы хотите иметь ответ до того, как успели задать вопрос. Это было бы лучше[1029].

Google зародился, имея в виду оптимальную организацию информации всего мира, но Пейдж хочет, чтобы корпорация оптимизировала организацию самого общества:

В моем очень долгосрочном видении, – сказал он в 2013 году, – наше программное обеспечение глубоко понимает, в чем вы хорошо осведомлены и в чем нет и как организовать мир так, чтобы мир мог решить важные проблемы[1030].

Генеральный директор Facebook Марк Цукерберг разделяет эти тотальные амбиции, и он все откровеннее говорит об «обществе», а не только об отдельных его членах, как о чем-то подчиненном охвату Facebook. Среди его «трех больших целей компании» – «соединение всех; понимание мира; и построение экономики знаний, чтобы у каждого пользователя было „больше инструментов“ для обмена „различными видами контента“»[1031]. Прекрасное понимание Цукербергом слабых мест второго модерна – и присущей ему жажды поддержки и коммуникации, которая является одной из его самых ярких особенностей, вселяет в него уверенность, как было раньше и с экономистом Google Хэлом Вэрианом. Корпорация будет знать каждую книгу, фильм и песню, которые человек когда-либо читал, смотрел или слушал. Прогнозирующие модели позволят корпорации «сказать вам, в какой бар пойти», когда вы прибудете в незнакомый город. Видение вполне детализировано: когда вы приходите в бар, бармен уже приготовил ваш любимый напиток, и, если осмотреться кругом, то можно увидеть людей, похожих на вас.

Цукерберг сказал, что поток поведенческого излишка «растет экспоненциально <…> что позволяет нам заглядывать в будущее <…> через два года люди будут делиться вдвое больше <…> через четыре – в восемь раз больше…». И, намекая на уже достаточно острую конкуренцию за тотальность, Цукерберг предвидел, что социальный граф Facebook «станет лучше отображать то, как вы пользуетесь интернетом, чем традиционная структура ссылок»[1032].

С этой целью, сообщил генеральный директор инвесторам, Facebook донесет доступный интернет «до каждого человека на планете», так что каждый пользователь будет иметь «больше инструментов», чтобы делиться «различными видами контента»[1033]. Ничто не может помешать успехам корпорации на социальном фронте, утверждал он, потому что «у людей есть такое глубокое стремление к самовыражению»[1034].

В 2017 году Цукерберг, формулируя свои социальные амбиции, пошел еще дальше, на этот раз нацелившись в самое сердце страхов второго модерна: «Люди чувствуют себя неустроенными. Многого из того, что в прошлом давало чувство устроенности, больше не существует». Цукерберг считает, что он и его компания могут обеспечить будущее, «которое сработает для всех» и удовлетворит «личные, эмоциональные и духовные потребности» «иметь цель и надежду», «моральное подтверждение» и «утешение тем, что мы не одиноки». «Для прогресса сейчас необходимо, чтобы человечество объединилось не просто в рамках городов или отдельных стран, – призывал Цукерберг, – но и как глобальное сообщество <…> самое важное, что мы можем сделать в Facebook, – это развитие социальной инфраструктуры <…> для создания глобального сообщества…». Ссылаясь на Авраама Линкольна, основатель Facebook определил миссию своей компании в рамках эволюционной схемы развития цивилизации, когда человечество организовывалось сначала в племена, затем в города, а потом в нации. Следующим этапом социальной эволюции станет «глобальное сообщество», и Facebook должен проложить этот путь, создавая средства и присматривая за целями[1035].

Выступая на конференции разработчиков Facebook в 2017 году, Цукерберг связал свое утверждение об исторической роли компании в создании «глобального сообщества» со стандартным мифом современной утопии, заверив своих последователей:

В будущем технология <…> освободит нас и позволит тратить больше времени на вещи, которые по-настоящему важны для всех нас, например, общаться друг с другом и выражать себя по-новому <…> Гораздо больше людей будут заниматься тем, что сегодня считается искусством, и это станет основой многих наших сообществ[1036].

В то время как Наделла и другие надзорные капиталисты лелеют свои утопические мечты, они забывают упомянуть, что за век волшебства придется заплатить: Большой Другой должен расширяться в сторону тотальности, стирая все границы и подавляя все источники трения в угоду своим экономическим императивам. Любая власть жаждет тотальности, и на пути стоят только существующие институты: демократия; законы и подзаконные акты; права и обязанности; контракты и внутренние нормы организаций; обычные рыночные ограничения, создаваемые потребителями, конкурентами и работниками; гражданское общество; политическая власть народа; и моральная власть отдельных людей, которые не утратили своих ориентиров.

Этот момент обыгрывается в басне Гёте об ученике чародея, когда, в отсутствие чародея с его умением направлять и сдерживать чары, ученик превращает веник в демоническую силу неимоверной мощи:

III. Прикладной утопизм

Инструментарная власть, как и веник ученика, развернулась в отсутствие чародея, когда не было авторитета, способного ее сдержать, и аппетиты надзорных капиталистов к тотальности росли по мере развития этих успехов. Утопическая риторика про век волшебства имела решающее значение для этих побед. Представление о том, что Большой Другой решит все проблемы человечества, в то же время расширяя возможности каждого человека, обычно отвергается как «техноутопизм», но для нас было бы ошибкой игнорировать эту риторику, не присмотревшись к ее целям. Подобные речи – не простая болтовня. Это саперный взвод, который идет впереди пехотинцев, и хитрый дипломат, заранее засланный, чтобы разоружить врага и облегчить дорогу к тихой капитуляции. Обещание века волшебства играет критическую стратегическую роль, отвлекая нас от тотальных амбиций надзорного капитализма, которые неизбежно включают «людей» в качестве «первостепенного объекта», и одновременно узаконивая эти амбиции.

«Общесоциальная цель», сформулированная ведущими надзорными капиталистами, идеально сочетается с идеей безграничного технического прогресса, которая преобладала в утопической мысли с конца XVIII до конца XIX века, и кульминацией которой стал Маркс. Действительно, у надзорных капиталистов, таких как Наделла, Пейдж и Цукерберг, можно найти пять из шести черт, с помощью которых выдающиеся знатоки утопической мысли, Фрэнк и Фрици Мануэль, рисуют классический портрет наиболее амбициозных современных утопистов: (1) склонность к узко сфокусированному туннельному зрению, которое упрощает задачу утописта, (2) более раннее и более проницательное понимание «нового состояния бытия», чем у других современников, (3) одержимость и отстаивание ide fixe, (4) непоколебимая вера в неизбежность того, что идея осуществится и (5) стремление к полному преобразованию на уровне человеческого рода и всей мировой системы[1038].

Фрэнк и Фрици Мануэль выделяют и шестую характеристику ориентированного на будущее современного провидца, и вот здесь-то рассматриваемые нами люди и корпорации оказываются резким исключением из правила:

Часто утопист предвидит дальнейший ход и последствия технического прогресса, уже присутствующие в зародыше; у него могут быть чувствительные к будущему антенны. Его гаджеты, однако, редко выходят за рамки механических возможностей его века. Как ни старается он изобрести что-то совершенно новое, он не может сотворить целый мир из ничего[1039].

В наше время, однако, надзорные капиталисты могут и творят такой мир – отклонение от нормы подлинно исторического масштаба.

Знанию, власти и богатству, которыми располагают надзорные капиталисты, индивидуально и коллективно, позавидовал бы любой властитель древности, точно так же как о них мечтают сегодня современные государства. Имея, на счетах и в ценных бумагах, по итогам 2017 года, 126 миллиардов долларов в случае Microsoft, 92 миллиарда долларов у Google и около 30 миллиардов долларов у Facebook и заручившись одобрением своих постоянно расширяющихся инструментарных режимов со стороны финансовых рынков, обеспечивших им рыночную капитализацию в размере более чем 1,6 триллиона долларов в середине 2017 года, они оказались теми редкими утопистами, которые способны проследить за воплощением своих фантазий в жизнь, не прибегая к армиям и кровопролитию[1040].

В этом отношении лидеры надзорного капитализма – утописты особого рода. Маркс постигал мир c помощью своей тщательно проработанной теории, но силой одних лишь идей он не мог реализовать свое видение. Такие люди, как Ленин, Сталин и Мао, применили теории Маркса к реальной жизни спустя много лет после их публикации. Собственно, Фрэнк и Фрици Мануэль и называют Ленина специалистом по «прикладному утопизму»[1041]. В отличие от всех них надзорные капиталисты захватывают мир на практике. Их теории скудны – по крайней мере это касается взглядов, которыми они делятся с общественностью. Обратное можно сказать об их власти, которая монументальна и почти не встречает препятствий на своем пути.

В том что касается теории и практики, то обычная последовательность состоит в том, что теорию можно изучить, проанализировать и обсудить перед тем, как начинать действовать. Это позволяет наблюдателям судить о пригодности теории для применения, учесть непредвиденные последствия применения и оценить соответствие применения теории, из которой оно возникло. Неизбежный разрыв между теорией и практикой создает пространство для критического исследования. Например, мы можем задаться вопросом, соответствует ли закон или действия правительства конституции страны, хартии прав и руководящим принципам, потому что мы можем изучать, интерпретировать и обсуждать эти документы. Если разрыв слишком велик, граждане предпринимают действия для его устранения, оспаривая соответствующий закон или практику.

Надзорные капиталисты переворачивают нормальную последовательность теории и практики. Их практика стремительно движется вперед в отсутствие явной и проверяемой теории. Они специализируются на применении уникальной инструментаристской разновидности тактики шока и трепета, которая оставляет зрителей ошеломленными, неуверенными и беспомощными. В отсутствие четкой формулировки теории нам, остальным, остается самим осмысливать ее практические последствия – систему мониторинга транспортных средств, которая отключает двигатель вашей машины; пункт назначения, который отображается вместе с маршрутом; рекомендуемую покупку, которая всплывает на вашем телефоне в тот самый момент, когда уровень эндорфинов на максимуме; непрерывное отслеживание Большим Другим вашего местоположения, поведения и настроения; то, как бодро он сгоняет горожан к клиентам надзорного капитализма.

Какими бы скудными и скрытными ни были теории надзорных капиталистов, инструментарная власть, которой они обладают, способна воплотить в жизнь их мечты или по крайней мере вызвать ураган последствий, когда они попытаются это сделать. Единственный способ понять теорию, продвигаемую в их прикладном утопизме – это проанализировать их действия и тщательно изучить их смысл, как мы это делаем на этих страницах.

В Facebook, Google и Microsoft прикладной утопизм пришел в движение, когда рубежи извлечения поведенческого излишка стали перемещаться в сферы жизни, традиционно понимаемые как социальные и организуемые в рамках какого-то сочетания гражданских институтов и государственного руководства. Цукерберговская формулировка миссии Facebook в 2017 году, представленной как «построение глобального сообщества», возвестила о новом этапе прикладного утопизма:

В целом важно, чтобы управление нашим сообществом масштабировалось в соответствии с его сложностью и потребностями его людей. Мы стремимся к постоянному улучшению, даже если это означает создание всемирной системы голосования, чтобы дать вам больше голоса и контроля. Мы надеемся, что эта модель даст примеры того, как коллективное принятие решений может работать в других сферах деятельности мирового сообщества[1042].

Позже в том же году, выступая перед разработчиками, Цукерберг сказал:

у нас есть детальная дорожная карта продуктов, которые помогут созданию групп и сообществ, помогут построить более информированное общество, помогут обеспечивать безопасность наших сообществ, и нам предстоит сделать еще многое другое[1043].

Весной 2017 года глава Microsoft Наделла с той же сцены призывал своих разработчиков:

Будь то точная медицина или точное сельское хозяйство, будь то цифровые носители или промышленный интернет, у нас, как у разработчиков, никогда еще не было более широких возможностей оказать повсеместное, глубокое влияние на все компоненты общества и все компоненты экономики[1044].

Видение, которое Наделла обнародовал в тот день, символизирует более широкий план надзорного капитализма для нашего будущего. Куда, по их мнению, они нас ведут?

IV. Слияние как отношения между машинами

Для того чтобы прочувствовать подлинный вкус инструментарного общества, оставим в стороне шелуху «века волшебства» и вместо этого сосредоточимся на практиках прикладного утопизма и образе общества, который они предполагают. Наделла предоставил нам ценную возможность, когда представил серию практических приложений, подразумевающих широкое новое видение машинных отношений как шаблона для социальных отношений новой эры.

Откровения начинаются с рассказа Наделлы о сотрудничестве Microsoft со шведским производителем высокоточного металлорежущего оборудования с полуторавековой историей, который в XI веке изобрел себя заново. Этот проект – новейшая иллюстрация того, что Наделла называет «фундаментальным сдвигом в парадигме приложений, которые мы создаем, изменение в мировоззрении <…> от <…> мобильного и облачного мира к новому миру, который будет состоять из интеллектуального облака и интеллектуальной технологии (intelligent edge)». Искусственный интеллект, говорит он, «учится на информации и взаимодействует с физическим миром», тем самым ссылаясь на возможности, необходимые для экономии за счет действия[1045].

Сначала Наделла описывает машины, в рамках новой заводской среды связанные между собой с помощью телеметрии, которые непрерывно передают данные в «центр интернета вещей» в «облаке», где анализ Microsoft выявляет аномалии, которые могут подвергать машины риску. Каждая аномалия прослеживается по потоку данных до ее причины, и машинный интеллект в центре учится выявлять причинно-следственные связи, с тем чтобы превентивно отключать находящееся под угрозой оборудование, примерно за две секунды, прежде чем успеет произойти потенциально опасное событие.

Затем Наделла описывает новый «прорыв», когда компьютерный «активирующий действия» датчик встраивается непосредственно в машину, что резко сокращает время до превентивного отключения: «Эта логика теперь работает локально, поэтому нет необходимости обращаться к облаку». «Интеллектуальная технология» немедленно понимает, что машина столкнулась с событием, которое предвещает будущую аномалию, и отключает оборудование в течение 100 миллисекунд после получения этого результата, «20-кратное улучшение». Это превозносится как «сила облака, работающая в гармонии с интеллектуальной технологией», чтобы предвидеть и упреждать отклонения от нормы «до того, как они произойдут»[1046].

Возможности машинного обучения растут в геометрической прогрессии, поскольку устройства учатся на опыте друг друга, подпитываясь интеллектом центра и опираясь на него. При таком сценарии дело не в том, что целое больше суммы его частей; скорее, частей уже нет. Целое повсюду, полностью явленное в каждом устройстве, встроенном в каждую машину. Наделла переводит эти факты в плоскость практического применения, замечая, что, когда вокруг вас накапливается достаточно много устройств, «импровизированный центр обработки данных» создается «на производстве, дома или в любом другом месте… Вы можете превратить что угодно в безопасное управляемое искусственным интеллектом место»[1047].

После этого утверждения, наконец, становится ясно, что «безопасный» означает «автоматически лишенный аномалий». На фабрике Наделлы на смену незнанию мгновенно приходит машинное знание, подгоняя все машинное поведение под заранее установленные нормы. Вместо того чтобы беспокоиться об умножении рисков и цепной реакции отказов в случае, если с машинным обучением что-то пойдет не так, Наделла восхваляет синхронность и универсальность гарантированных исходов, когда все машины будут одинаковыми и работающими в унисон.

Как и столетие назад, когда логика массового производства и связанная с ним управленческая вертикаль стали прототипом индустриального общества и всей связанной с ним цивилизационной среды, так и фабрика нового века, какой она видится Наделле, оказалась лабораторией для его социального видения – надзорно-капиталистического видения – инструментарного общества, ставшего возможным благодаря новой форме коллективного действия. Машинное обучение представляется здесь коллективным разумом – разумом улья, – в котором каждый элемент учится и действует в согласии с любым другим элементом, модель коллективного действия, в которой все машины в сетевой системе плавно идут к слиянию, обладая одним и тем же пониманием и согласованно работая с максимальной эффективностью ради достижения одних и тех же результатов. Слияние действий означает, что «свобода» каждой отдельной машины уступает место знанию, которым она делится между собой. Как и предсказывали бихевиористы – Планк, Мейер и Скиннер – эта жертва означает тотальную войну со случайностью, ошибкой и непредсказуемостью в целом.

Наделла берет эту схему новых отношений между машинами и применяет ее для иллюстрации работы более сложной системы, состоящей из людей и машин, хотя все еще из «сферы экономики». На этот раз это строительная площадка, где поведение человека и машины настроено в соответствии с заранее заданными параметрами, установленными вышестоящими инстанциями и называемыми политикой. Алгоритмические «недоговоры» применяют правила и заменяют собой социальные функции, такие как надзор, переговоры, общение и решение проблем. Каждый человек и единица оборудования занимают место среди эквивалентных объектов, каждый из которых «узнаваем» для «системы» через устройства с искусственным интеллектом, распределенные по всей стройплощадке.

Например, квалификация каждого человека, уровень допуска, история трудоустройства и другая справочная информация немедленно отображаются в системе. «Политика» может оговаривать, что «отбойный молоток могут использовать только сотрудники, обладающие соответствующим допуском». Если к инструменту подходит сотрудник, не имеющий разрешения на работу с отбойным молотком, передается сообщение о возможном нарушении и отбойный молоток испускает сигнал тревоги и мгновенно отключается.

Важно отметить, что не только объединенные действия неодушевленных предметов на площадке выстраиваются в соответствии с «политикой». Мобилизуется и слияние человеческих действий, когда в упреждающей работе по предотвращению аномалий запускаются процессы социального влияния. В случае с отбойным молотком люди на площадке мобилизуются, чтобы броситься к месту ожидаемого искусственным интеллектом аномального проступка, чтобы «быстро решить вопрос». «Интеллектуальная технология, – сказано разработчикам Microsoft, – это интерфейс между компьютером и реальным миром <…> вы можете находить в реальном мире людей, объекты и действия и применять к ним политики…»[1048].

Как только люди и их отношения будут оцифрованы и предстанут отчужденными, эквивалентными друг другу «объектами в облаке», можно будет мобилизовать 25 миллиардов компьютерных устройств, способных активировать действия, для формирования поведения вокруг безопасных и гармоничных параметров, заданных в «политиках». Самый «глубокий сдвиг», объяснил Наделла, заключается в том, что «люди и их отношения с другими людьми теперь являются в облаке объектом первостепенной важности. Не только люди, но и их отношения, их отношения ко всем рабочим артефактам, их графикам, планам проектов, их документам – все это теперь отражается в графе Microsoft». Эти потоки тотальной информации являются ключом к оптимизации «будущей производительности», восторгался Наделла[1049].

В инструментарном обществе Microsoft фабрики и рабочие места напоминают лаборатории Скиннера, а машины заменяют собой голубей и крыс. Именно там архитектура инструментарной власти и присущий ей стремительный образ действий подготавливаются к переводу в общество, к строительству «Второго Уолдена» цифровой эпохи, когда машинные отношения станут моделью социальных отношений. Стройплощадка Наделлы иллюстрирует грандиозное слияние, в котором машины и люди становятся объектами в облаке, в равной степени подчиненными аранжировке и оркестровке, заданной «политиками». Блеск «политик» заключается именно в том, что они появляются на сцене в виде гарантированных результатов, которые автоматически навязываются, контролируются и поддерживаются «системой». Они изначально заложены в операции Большого Другого, в бесконечную вереницу «недоговоров», оторванных от каких бы то ни было социальных процессов, связанных с частным или государственным управлением – конфликтов и переговоров, обещаний и компромиссов, согласия и общих ценностей, демократической состязательности, легитимации и авторитета.

В результате «политики» оказываются функционально эквивалентны планам, в соответствии с которыми Большой Другой направляет действия людей и машин. От них зависит, будут ли заблокированы или разблокированы двери, замолчат или оживут автомобильные двигатели, просигналит ли отбойный молоток свое «нет» в самоубийственном самопожертвовании, будет ли рабочий придерживаться норм, ринется ли группа устранять аномалию. Мы все будем в безопасности, когда каждый организм будет мирно трудиться в гармонии со всеми остальными организмами, не столько обществом, сколько населением, сливающимися воедино из ничем не замутненных потоков, управляемых средствами изменения поведения, которые ускользают от нашего сознания и потому не вызовут ни возмущения, ни сопротивления.

Так же, как в XX веке разделение труда распространилось из экономической сферы на общество в целом, стройплощадка Наделлы является экономической чашкой Петри, в которой, мутируя, рождается новое разделение знания, готовое к переносу на все общество. В XX веке важнейшие факторы успеха промышленного капитализма – эффективность, производительность, стандартизация, взаимозаменяемость, детальное разделение труда, дисциплина, внимание, планирование, конформизм, иерархическое управление, разделение знания и действия и т. д. – были открыты и доведены до ума на производстве и затем перенесены в общество, где были институционализированы в школах, больницах, семейной жизни и чертах личности. Как подтверждает уже не одно поколение ученых, общество стало напоминать фабрику, чтобы мы могли обучать своих детей, воспитывая в них соответствие новым требованиям массового производства.

Мы заново вступили в этот цикл, но теперь цель состоит в том, чтобы преобразовать общество XXI века в «вещь первостепенной важности», организованную по образу машинного улья, чтобы обеспечить определенность для других. Связи, к которым мы когда-то стремились ради личной поддержки и эффективности, преобразуются в средство распространения нового вида власти и социального слияния, которое ведет к гарантированным результатам.

V. Слияние как общество

Ученые Microsoft годами работают над тем, чтобы создать способы взять ту же логику автоматического упреждающего контроля, которая применяется на передовом крае сетевых технологий, и перенести ее на социальные отношения. Как заметил Наделла в 2017 году, если «мы» можем сделать это в «физическом месте», это можно сделать «повсеместно» и «где угодно». Он советовал собравшимся прикладным утопистам: «Вы можете начать рассуждать о людях, об их связях с другими людьми, с находящимися в этом месте вещами…»[1050]

Творческий диапазон этого нового мышления демонстрирует заявка Microsoft на патент от 2013 года, обновленная и переизданная в 2016 году под заголовком «Мониторинг поведения пользователя на компьютеризированном устройстве»[1051]. Подкрепленное нескрываемо скудной теорией в сочетании с богатой практикой, запатентованное устройство призвано отслеживать поведение пользователя с целью упреждающего обнаружения «любого отклонения от нормального или приемлемого поведения, которое могло бы повлиять на психологическое состояние пользователя. Прогностическую модель, охватывающую признаки одного или нескольких психологических состояний, можно сравнить с признаками, основанными на текущем поведении пользователя».

Ученые предлагают приложение, которое можно встроить в операционную систему, сервер, браузер, телефон или носимое устройство, и оно будет постоянно отслеживать поведенческие данные человека: взаимодействие с другими людьми или компьютерами, сообщения в социальных сетях, поисковые запросы и онлайн-действия. Приложение может активировать датчики для записи голоса и речи, видео и изображений, движения и обнаруживать, например, «когда пользователь слишком много кричит, проверяя телефонные звонки пользователя и сравнивая соответствующие характеристики с прогностической моделью».

Все эти поведенческие данные хранятся для будущего ретроспективного анализа с целью улучшения прогностической модели. Если пользователь обычно ограничивает громкость своего голоса, то внезапный громкий крик может указывать на некое «психосоциальное событие». В другом варианте поведение может быть оценено в отношении «распределения признаков, представляющих нормальное и/или приемлемое поведение для среднестатистического представителя популяции <…> статистически значимое отклонение от этого базового уровня поведения указывает на ряд возможных психологических событий». Вначале предполагается, что в случае обнаружения аномалии устройство будет предупреждать «доверенных лиц», таких как члены семьи, врачи и лица, обеспечивающие уход. Но по мере углубления в детали патента этот круг расширяется. Ученые отмечают полезность подобных сигналов для медицинских учреждений, страховых компаний и сотрудников правоохранительных органов. Это новая возможность «надзора как услуги», предусматривающая предотвращение любого поведения на выбор клиентов.

Патент Microsoft возвращает нас к Планку, Мейеру и Скиннеру, а также к точке зрения Другого. В их восходящем в своих истоках к физике представлении о человеческом поведении, аномалии – это «случайности», которые называются свободой, но на самом деле указывают на незнание; они просто еще не могут быть объяснены фактами. Планк/Мейер/Скиннер полагали, что утрата этой свободы – необходимая цена за «безопасность» и «гармонию» общества, свободного от аномалий, в котором все процессы оптимизированы для достижения наибольшего блага. Скиннер надеялся, что при правильной технологии поведения знание будет превентивно устранять аномалии, подгоняя все поведение под заранее установленные параметры, которые соответствуют социальным нормам и целям. «Если бы мы могли показать, что члены нашего общества предпочитают жизнь во Втором Уолдене, – говорит Фрейзер-Скиннер, – это было бы наилучшим возможным доказательством того, что мы достигли безопасной и продуктивной социальной структуры»[1052].

В этой модели социальных отношений поведенческая модификация действует за порогом человеческого сознания, чтобы побуждать, поощрять, подталкивать, наказывать и подкреплять поведение в соответствии с «правильной политикой». Так, Facebook обнаруживает, что может предсказуемо отклонять стрелки общественного мнения в том, что касается моделей голосования, эмоциональных состояний или чего-то еще, на выбор. Niantic Labs и Google обнаруживают, что они могут предсказуемо пополнить кошельки McDonald’s или любых других своих клиентов. В каждом случае корпоративные цели определяют «политику», в направлении которой гармонично течет слияние поведений.

Машинный улей – слитое воедино сознание, созданное машинным обучением, – это материальное средство для окончательного устранения хаотических элементов, которые не дают гарантированных результатов. Эрик Шмидт и Себастьян Трун, гуру машинного интеллекта, который когда-то руководил X Lab в Google и помогал руководить разработкой Просмотра улиц и беспилотного автомобиля Google, говорят именно об этом, когда отстаивают самоуправляемые машины Alphabet. «Давайте перестанем психовать каждый раз, когда речь заходит об искусственном интеллекте», – пишут они.