Эпоха надзорного капитализма. Битва за человеческое будущее на новых рубежах власти Зубофф Шошана

II. Оцифровка личности

«Мы привыкли к общению лицом к лицу, когда слова растворяются в воздухе <…> Я предполагал, что клавиатурное общение будет похоже на письмо или телефонный звонок, но теперь я понимаю, что оно не растворяется. То, что электронное общение невидимо – миф…»[725] Это был блестящий ученый-исследователь в крупной фармацевтической компании, которую в своей книге 1988 года «Эпоха умных машин» я назвала «Корпорация Лекарство» (Drug Corp)[726]. Я тогда провела несколько лет, посещая их исследовательскую группу, и они как раз переводили большую часть своего повседневного общения с личных встреч на DIALOG, одну из первых в мире систем «компьютерных конференций». DIALOG был предшественником технологии, которую мы теперь называем социальной сетью. Платформа DIALOG создала новое социальное пространство, в котором научное сообщество Корпорации Лекарство расширяло и совершенствовало «сети своих отношений, доступа к информации, вдумчивого диалога и простой болтовни», как я описывала это тогда. Они встретили DIALOG с большим энтузиазмом, но закончилось все печально. «Со временем, – писала я, – стало ясно, что они также невольно поставили все то мимолетное и неощутимое, что было в их социальном обмене, под беспрецедентный контроль сверху». По интервью, которые охватывают те годы, можно документально проследить постепенное осознание учеными новых опасностей по мере того, как те стороны личного опыта, которые были прежде неявными и приватными, внезапно становились явными и публичными, чего они не ожидали и что имело последствия, о которых они глубоко пожалели.

Благодаря новой компьютерной среде профессиональные разговоры и дружеское общение ученых теперь стали электронным текстом – видимым, доступным для изучения и отправки другим. Во многих отношениях это помогало в работе, но это также создало неожиданные уязвимости, поскольку склонности, ценности, отношения и социальные взаимодействия превратились в объекты проверки. В ходе серии конфликтов, которые разворачивались на протяжении этих лет, я наблюдала, как менеджеры и руководители Корпорации Лекарство просто не могли удержаться от того, чтобы не использовать новый социальный текст в качестве средства оценки, критики и наказания. Не раз я наблюдала за тем, как менеджеры распечатывали страницы разговоров из DIALOG, чтобы разложить их на полу и проанализировать мнения по конкретному вопросу, иногда даже доставая ножницы и сортируя записи по темам или персоналиям. Во многих случаях эти расследования были просто сбором информации, но нередко менеджеры хотели идентифицировать людей, согласных или не согласных с их распоряжениями.

Неустранимое свидетельство текста было адаптировано в качестве средства, с помощью которого менеджеры пытались «контролировать и направлять то, что всегда было наиболее эфемерными аспектами поведения подчиненных»[727]. Весь первоначальный энтузиазм и все надежды растворились в цинизме и тревоге, и ученые постепенно стали уходить с DIALOG, предпочитая ему обычное почтовое приложение и более формальные, безличные сообщения.

Спустя десятилетия дети и внуки этих ученых наряду с большинством из нас свободно общаются через смартфоны и социальные сети, не понимая, что нам предстоит вновь выучить горькие уроки Корпорации Лекарство, но теперь на совершенно новом витке оцифровки. Ученые были потрясены, увидев свои случайные разговоры в овеществленном виде, превращенные в объект иерархической проверки. Сегодня уже наша внутренняя жизнь – упрощенно обозначаемая как «индивидуальность» или «эмоции» – превращаются в сырье, доступное каждому, кто может изготовить или купить новое поколение аксессуаров для поставок излишка и средства производства, чтобы анализировать этот новый род поведенческого излишка и фабриковать крайне прибыльные прогнозные продукты.

«Персонализация» – это снова тот эвфемизм, который прокладывает путь поколению прогнозных продуктов, фабрикуемых из сырья психологии личности. Эти нововведения продолжают логику более ранних витков цикла изъятия – от просмотра страниц в интернете через просмотр реальности – к просмотру личности. Как было и на предыдущих витках, идеи и методы, которые когда-то должны были помогать и обогащать, быстро исчезают в магнитном поле проекта коммерческого надзора, чтобы потом вновь возникнуть в качестве все более хитроумных способов поставки, производства и продаж.

Два с лишним миллиарда пользователей Facebook – это и есть потомки ученых из Корпорации Лекарство. Многие из них пришли в Facebook, чтобы избежать всепроникающего иерархического контроля над коммуникациями на рабочем месте, который стал обычным явлением в годы, прошедшие после первых экспериментов Корпорации Лекарство. Facebook, как они когда-то думали, был «их местом», столь же невинным и само собой разумеющимся, как старая добрая «Мамаша Белл»[728] необходимым местом сбора, общения и участия. Вместо этого Facebook стал одним из самых влиятельных и опасных источников прогнозного поведенческого излишка из глубин личности. С приходом нового поколения исследовательских инструментов он научился грабить ваше «я» вплоть до его самой интимной сердцевины. Новые операции по снабжению могут оцифровать в виде измеримого поведения все, от нюансов вашей личности до вашего чувства времени, сексуальной ориентации, интеллекта и десятков других психологических характеристик. Огромные мощности машинного интеллекта, которыми располагает корпорация, превращают эти данные в яркие прогнозные продукты.

Почва для осознания того, с какой легкостью можно обобрать ваш профиль в Facebook, начала готовиться в 2010 году, когда коллектив немецких и американских ученых пришел к неожиданному выводу, что профили Facebook – вовсе не идеализированные автопортреты пользователей, как многие думали. Вместо этого они обнаружили, что информация на Facebook отражает реальные черты личности пользователя, которые можно выявить с помощью проверенной процедуры «пятифакторной модели личности» и которые можно сопоставить с тем, как сами участники исследования описывали свое «идеальное Я»[729].

Как мы увидим в главе 16, есть убедительные данные, позволяющие предположить, что уникальная динамика среды Facebook в конечном итоге усложняет эту картину «реальной личности», но в 2011 году эти первые результаты побудили трех исследователей из Университета Мэриленда сделать следующий логический шаг. Они разработали метод, который, опираясь на сложную аналитику и машинный интеллект, способен точно установить личность пользователя, исходя из общедоступной информации в его или ее профиле Facebook[730].

В ходе этого исследования команда сполна оценила магию поведенческого излишка, обнаружив, к примеру, что раскрытие человеком определенной личной информации, такой как религиозная принадлежность или политические симпатии, в меньшей степени способствует надежному анализу личности, чем сам тот факт, что человек готов поделиться такой информацией. Это понимание навело команду на мысль о новой перспективной поведенческой метрике. Вместо того чтобы анализировать содержимое пользовательских списков, вроде любимых телешоу, способов времяпрепровождения или музыки, они поняли, что простые «метаданные», такие как объем открытой самими пользователями информации, «оказались гораздо более полезными и предсказательными, чем исходные сырые данные». Расчеты, произведенные на основе этих поведенческих метрик, в сочетании с автоматизированным лингвистическим анализом и внутренней статистикой Facebook привели исследовательскую группу к выводу, что «мы можем предсказать, сколько баллов пользователь набирает по каждой черте личности с точностью до более чем одной десятой от действительного значения»[731]. Команда Университета Мэриленда начала то, что станет многолетним путешествием к инструментализации данных из глубин личности в рамках совершенно сознательной программы манипулирования и модификации поведения. Хотя исследователи не могли заглянуть очень далеко, они тем не менее предвидели полезность своих выводов для нетерпеливой аудитории надзорных капиталистов:

Имея возможность определять черты личности пользователя, веб-сайты социальных сетей, магазины электронной коммерции и даже рекламные серверы, можно приспособить к тому, чтобы они учитывали личность пользователя и подавали информацию так, чтобы пользователи были наиболее восприимчивыми к ней <…> Показ рекламы в Facebook можно скорректировать на основе личности пользователя <…> Можно выделять обзоры продуктов, написанные авторами с тем же типом личности, что и пользователь, что повысит доверие и создаст ощущение полезности…[732]

Оказалось, что эти новые методы также работают на материале метаданных других социальных сетей. Позднее в том же году команда из Мэриленда опубликовала результаты исследований, в которых, используя общедоступные данные Twitter, удалось спрогнозировать результаты по каждому из пяти параметров личности, находящиеся в пределах 11–18 % от фактических значений. Результаты других подобных исследований станут центральными в поведенческой оцифровке профилей Facebook ради новых тайников глубинного излишка[733].

Группа исследователей из Великобритании, куда входили Михал Косински из Кембриджского университета и заместитель директора Центра психометрических исследований Кембриджа Дэвид Стилвел, развила эту линию исследований дальше[734]. К тому времени Стилвел уже разработал базу данных myPersonality, «стороннее» приложение для Facebook, позволяющее пользователям проходить психометрические тесты, подобные тестам, основанным на пятифакторной модели, и получать отзывы о своих результатах. Запущенная в 2007 году и размещенная в Центре психометрических исследований, к 2016 году эта база данных содержала более шести миллионов профилей личности, в дополнение к четырем миллионам индивидуальных профилей Facebook. Когда-то считавшаяся уникальным, хотя и нестандартным источником психологических данных, myPersonality стала излюбленной базой данных для масштабирования, стандартизации и проверки новых моделей, способных предсказывать результаты по личностным шкалам на основе все меньшего количества данных и метаданных Facebook. Позже она станет образцом для работы небольшой консалтинговой компании под названием Cambridge Analytica, которая использовала эти новые кладези поведенческого излишка для широкой кампании политически мотивированного поведенческого микротаргетинга.

В статье 2012 года Косински и Стилвел пришли к выводу, что «личность пользователя можно легко и надежно предсказать на основе общедоступных данных», и предупредили, что пользователи социальных сетей, при всей опасности этого, понятия не имеют об уязвимостях, которые они создают, когда открывают всем желающим большие массивы вполне невинной информации. В тексте они, в частности, упоминают об одностороннем нарушении генеральным директором Facebook Марком Цукербергом установленных норм конфиденциальности в 2010 году, когда он сделал свое знаменитое заявление, что пользователи Facebook больше не рассчитывают на конфиденциальность. Цукерберг сообщил о решении корпорации об одностороннем раскрытии личной информации пользователей: «Мы пошли на это, потому что решили, что теперь это и будет социальной нормой»[735].

Выразив определенные опасения, авторы тем не менее предполагают, что их выводы будут актуальными для «маркетинга», «дизайна пользовательского интерфейса» и систем рекомендаций[736]. В 2013 году другое провокационное исследование, выполненное Косински, Стилвелом и Тором Грэпелом из Microsoft показало, что «лайки» на Facebook позволяют «автоматически и точно определить широкий спектр личных данных, которые люди обычно считают приватными», включая сексуальную ориентацию, этническую принадлежность, религиозность и политические взгляды, черты личности, интеллект, счастье, употребление алкоголя и наркотиков, проживание с родителями или отдельно, возраст и пол[737].

Авторы выказывали все более двойственное отношение к социальным последствиям своих исследований. С одной стороны, они объявили, что эти новые возможности прогнозирования можно использовать для «улучшения многочисленных продуктов и услуг». Они пришли к выводу, что интернет-компании могут корректировать свои действия в соответствии с личностными особенностями каждого пользователя, психологически адаптируя маркетинг и рекомендации продуктов к конкретному человеку. Но авторы также предостерегают, что автоматизированные системы прогнозирования под управлением частных компаний, государства или самого Facebook, способны построить миллионы профилей без индивидуального согласия или ведома и обнаруживать факты, «которыми человек, возможно, не намеревался делиться». Исследователи предупредили, что «можно представить ситуации, в которых такие догадки, даже будучи ошибочными, способны представлять угрозу для благополучия, свободы или даже жизни человека»[738].

Несмотря на подобные этические затруднения, к 2015 году Косинский перешел в Стэнфордский университет (сначала на факультет компьютерных наук, затем в Высшую школу бизнеса), где его исследования быстро привлекли финансирование со стороны таких компаний, как Microsoft, Boeing, Google, Национальный научный фонд и Управление перспективных исследовательских проектов Министерства обороны США (DARPA)[739]. Косински вместе с целым рядом соавторов, среди которых часто был Стилвел, продолжал публиковать многочисленные статьи, где уточнялись и расширялись возможности, продемонстрированные в первых работах, и совершенствовались процедуры, которые позволяют «быстро и дешево оценивать большие группы участников с минимальным привлечением их самих»[740].

Работа, опубликованная в 2015 году, вновь открыла новые горизонты, объявив, что точность компьютерных прогнозов группы сравнялась с точностью оценщиков-людей или превысила ее, как в использовании «лайков» Facebook для оценки личностных качеств на основе пятифакторной модели, так и в предсказании «результатов в реальной жизни», таких как «удовлетворенность жизнью», «употребление психоактивных веществ» или «депрессия»[741]. Исследование показало, что настоящим прорывом в прогнозировании на основе Facebook стало достижение экономии в использовании этих интимнейших поведенческих глубин с помощью «автоматизированных, точных и дешевых инструментов оценки личности», которые эффективно нацелены на новый класс «объектов», когда-то известных как ваша «личность»[742]. То, что подобной экономии можно достичь без ведома «вольных животных», делает эти методы еще более привлекательными; как подчеркивает одна исследовательская группа, «традиционный метод оценки личности чрезвычайно дорог с точки зрения затрат времени и труда, и с его помощью нельзя получить информацию о личности клиента без его ведома…»[743]

Анализ личности ради получения коммерческого преимущества основан на поведенческом излишке – так называемых метаданных или метриках среднего уровня, отточенных и протестированных исследователями, и результаты этого анализа заставят задуматься любого, кто считает, что он или она контролирует «объем» персональной информации, которую раскрывает в социальных сетях. Скажем, для получения доступной автомобильной страховки вы должны значиться как добросовестный, доброжелательный и открытый человек. Это не так легко подделать, потому что излишки, привлекаемые для анализа, для нас неизбежно непрозрачны. Нас изучают не на предмет содержания, а на предмет формы. Предложенная вам цена зависит не от того, что вы пишете, а от того, как вы это пишете. Дело не в смысле ваших предложений, а в их длине и сложности, не в том, что вы включили в список, а в том, что вы вообще его составили, не в картинке, а в выборе фильтра и степени насыщенности, не в том, что вы раскрываете, а в том, как вы делитесь или не делитесь, не где вы планируете встретиться с друзьями, но как вы это делаете: бросаете небрежное «увидимся» или оговариваете точное время и место? Восклицательные знаки и выбор наречий действуют как откровенные сигналы о вашем «я», за которые вы можете поплатиться.

То, что эти «личностные» откровения сами по себе банальны, не должно отвлекать нас от того факта, что объем и глубина новых запасов излишка, обеспечиваемых этими операциями по добыче, беспрецедентны; ни о чем подобном раньше нельзя было и помыслить[744]. Как сказал Косински в одном интервью 2015 года, мало кто понимает, что такие компании, как «Facebook, Snapchat, Microsoft, Google и другие имеют доступ к таким данным, о которых ученым всегда оставалось только мечтать»[745]. Специалисты по данным успешно предсказали черты личности согласно пятифакторной модели на основе излишка, извлеченного из фотографий профилей Twitter (цвет, композиция, тип изображения, демографическая информация, поворот головы, выражение лица…), селфи (цвет, стили фотографии, визуальная текстура…) и снимков в Instagram (оттенок, яркость, насыщенность…). Другие проверили альтернативные алгоритмы и модели личности. Одна исследовательская группа продемонстрировала способность предугадать по сообщениям в Facebook «удовлетворенность жизнью»[746]. В этом новом мире менеджеры не стоят на четвереньках или на коленках, кромсая ножницами бумажные страницы с сообщениями компьютерной конференции и раскладывая вырезки в тематические стопки. Ползают не по офисному полу. Ползают по вам.

В том интервью 2015 года Косински заметил, что «все наши взаимодействия осуществляются через цифровые продукты и услуги, что, в общем, означает, что все они записываются». Он даже назвал свои собственные исследования «жутковатыми»: «Я хочу подчеркнуть, что, на мой взгляд, многое из того, что <…> корпорации и государство могут сделать, они ни в коем случае не должны делать без согласия пользователей». Признавая крайне асимметричное разделение знания, он посетовал на отказ Facebook и других интернет-фирм делиться своими данными с «широкой публикой», заключив, что «Дело не в том, что они такие злодеи, а в том, что сама публика жутко тормозит <…> как общество, мы утратили способность убеждать крупные компании, имеющие огромные бюджеты и доступ к огромным массивам данных, что им следует делиться этими благами с нами. По сути, мы должны, наконец, повзрослеть и прекратить это»[747].

При капитализме, однако, скрытый спрос создает поставщиков и поставки. При надзорном капитализме происходит точно то же самое. Императив прогнозирования спускает надзорных гончих, чтобы они выследили поведение в глубинах психики, и добросовестные исследователи, ничего не подозревая, играют им на руку, оставляя за собой залежи дешевого сырого мяса, которое надзорным капиталистам остается лишь найти и заглотить. Что они и делают. К началу 2015 года IBM объявила, что служба Watson Personality Insights открыта для бизнеса[748]. Инструменты машинного интеллекта корпорации даже более сложны и агрессивны, чем те, что используются в большинстве академических исследований. В дополнение к пятифакторной модели личности IBM оценивает каждого человека по двенадцати категориям «потребностей», включая «Возбудимость, Гармония, Любопытство, Идеал, Близость, Самовыражение, Свобода, Любовь, Практичность, Стабильность, Вызов и Структура». Затем идентифицируются «ценности», определяемые как «мотивирующие факторы, которые влияют на процессы принятия человеком решений в пяти измерениях: Преодоление себя/помощь другим, Консерватизм/традиция, Гедонизм/удовольствие от жизни, Самосовершенствование/достижение успеха, и Открытость к изменениям/возбудимость»[749].

IBM заявляет, что существуют «безграничные» возможности применения ее новых запасов излишков и обещает «глубинный портрет каждого клиента». Как и следовало ожидать, эти операции тестируются на подневольных сотрудниках, которые после приучения могут стать послушными представителями поведенчески чистого общества. Теперь можно определять «личностные корреляты», которые предсказывают, как в точности каждый клиент будет реагировать на маркетинговые усилия. Кто воспользуется купоном? Кто и какой продукт купит? Корпорация утверждает, что «контент и поведение в социальных сетях» можно использовать для «извлечения выгоды из таргетированных возможностей получения дохода», имея «правила, связывающие личностные черты с поведением». Отправку сообщений и обращения службы поддержки, страховых агентов, турагентств, риелторов, инвестиционных брокеров и т. д. можно будет «соотнести» с «личностью» клиента, причем психологические данные будут показаны агенту в самый момент контакта[750]. Исследования IBM показывают, что агенты, обладающие выраженными чертами личности, связанными с «доброжелательностью» и «добросовестностью», обеспечивают значительно более высокий уровень удовлетворенности клиентов. Это же подсказывает и здравый смысл, за исключением того, что теперь эти взаимодействия измеряются и контролируются в реальном времени и в большом масштабе, с прицелом на то, чтобы вознаграждать или вытеснять то или иное поведение в зависимости от его рыночного эффекта[751].

Благодаря оцифровке, несколько уже измеримых сегодня личностных характеристик, включая «потребность в любви», можно использовать для предсказания вероятности «симпатий по отношению к бренду»[752]. В эксперименте по таргетированной рекламе в твиттере IBM обнаружила, что это может значительно увеличить показатели кликабельности и количество «читателей», ориентируясь на людей с высокими показателями «открытости» и низкими показателями «невротизма» в рамках пятифакторного анализа личности. В другом исследовании IBM получила поведенческие данные 2000 пользователей Twitter для определения таких показателей, как количество ответов, уровень активности и промежуток времени между твитами, помимо обычного психолингвистического анализа твитов и пятифакторного анализа личности. IBM «обучила» свою прогностическую модель, задавая этим двум тысячам пользователей вопросы, связанные либо с их местоположением, либо с каким-либо продуктом. Результаты показали, что личностная информация предсказывала вероятность ответа. Люди, которых машины оценили как моральных, доверчивых, дружелюбных, экстравертированных и доброжелательных, обычно отвечали, по сравнению с низким уровнем ответов людей, оцененных как осторожные и тревожные. Многие черты, которые мы пытаемся воспитать в своих детях и культивировать в своем собственном поведении, для скрытых машинных процессов оцифровки оказываются просто благоприятными возможностями для изъятия излишка. В этом новом мире паранойя и тревожность становятся механизмами защиты от машинного вторжения с целью получения прибыли. Должны ли мы учить наших детей быть тревожными и подозрительными?

IBM, конечно, не одинока. Новая, изобретательная порода наемников, специализирующихся на грабеже личностных черт, быстро принялась за институционализацию этих новых процессов снабжения. Их усилия показывают, как быстро мы теряем ориентиры, когда институционализация сначала дает ощущение нормальности и общественного принятия, а затем постепенно приводит к онемению, сопровождающему привыкание. Процесс начинается с бизнес-планов и маркетинговых подач, новых продуктов и услуг и журналистских материалов, в которых новые факты будто бы принимаются как данность[753].

К этой новой когорте наемников принадлежит и британская консалтинговая фирма Cambridge Analytica, которой владеет нелюдимый миллиардер и спонсор Дональда Трампа Роберт Мерсер. Генеральный директор компании Александр Никс хвастался применением «микроповеденческого таргетирования» на основе личностных черт для поддержки брексита во время подготовки к голосованию за выход Великобритании из ЕС 2016 года и избирательной кампании Трампа в ходе предвыборной гонки перед президентскими выборами в США[754]. Никс утверждал, что в его распоряжении находятся данные «на индивидуальном уровне, где мы имеем примерно по четыре или пять тысяч точек данных на каждого взрослого в Соединенных Штатах»[755]. Пока ученые и журналисты пытались определить истинность этих утверждений и роль, которую эти методы могли сыграть в обоих драматических голосованиях 2016 года, новый директор по доходам этой фирмы тихо объявил о менее эффектной, но более прибыльной послевыборной стратегии: «После этих выборов она полностью переориентирована на работу с коммерческими компаниями». Сразу после американских выборов в журнале, адресованном автодилерам, он говорит им, что его новые аналитические методы показывают, «какой именно подход нужен к клиенту, какой у него тип личности и какие методы убеждения наиболее эффективны <…> Что он делает, так это изменяет поведение людей c помощью тщательно продуманных сообщений, которые находят у них отклик… Для того чтобы увидеть существенный сдвиг в доходах, требуется лишь небольшое повышение процента людей, выбравших ваш салон»[756].

Внутренний документ Facebook, оказавшийся в 2018 году в распоряжении издания Intercept, иллюстрирует важность данных, извлеченных из глубин психики при изготовлении прогнозных продуктов Facebook, подтверждая, что компания ориентируется прежде всего на свои поведенческие фьючерсные рынки и показывая степень, в которой спорные практики Cambridge Analytica отражают стандартные операционные процедуры в Facebook[757]. В этом конфиденциальном документе упоминается беспрецедентная «экспертиза Facebook в области машинного обучения», нацеленная на решение «основных бизнес-задач» ее клиентов. С этой целью в нем описывается способность Facebook использовать свои непревзойденные хранилища в высшей степени личных данных «для прогнозирования будущего поведения» человека, таргетирования его на основе того, как он будет себя вести, совершать покупки и рассуждать: прямо сейчас, в ближайшем и более отдаленном будущем. Документ увязывает предсказание с вмешательством и изменением поведения. Так, сервис Facebook под названием «прогнозирование лояльности» восхваляется за его способность анализировать поведенческий излишек с целью выявления лиц, находящихся «в зоне риска» в плане готовности уйти к другому бренду. Идея состоит в том, что эти прогнозы могут побудить рекламодателей к оперативному вмешательству, подразумевающему агрессивные таргетированные сообщения, призванные стабилизировать лояльность и тем самым достичь гарантированных результатов путем изменения будущего.

«Прогнозный движок» Facebook построен на новой платформе искусственного интеллекта FBLearner Flow, которую компания называет новым «костяком» своего искусственного интеллекта и ключом к «персонализированному опыту», обеспечивающему «наиболее актуальный контент». Система машинного обучения «ежедневно переваривает триллионы точек данных, обучает тысячи моделей – в автономном режиме или в режиме реального времени – и затем развертывает их на наших серверах для применения в текущих прогнозах». Компания объясняет: «с момента создания платформы прошли обучение более миллиона моделей и наша система прогнозирования выросла настолько, что делает больше 6 миллионов прогнозов в секунду»[758].

Как мы уже видели, «персонализация» зависит от точности предсказания, а точность предсказания зависит от наличия все более богатых источников поведенческого излишка и, следовательно, от все более безжалостных операций по оцифровке. Действительно, в конфиденциальном документе приводятся некоторые примеры ключевого сырья, которое используется для этой высокоскоростной, крупносерийной и глубинной производственной операции, среди которых – не только местоположение, сведения о сети Wi-Fi и информация об устройстве, но также данные из видео, анализ связей, детали дружб и общие черты с друзьями.

Вероятно, не случайно, что утечка презентации Facebook произошла примерно в то же время, когда один из молодых гениев Cambridge Analytica, ставший разоблачителем, Крис Уайли, обрушил на публику целый поток информации о тайных усилиях этой компании по прогнозированию и влиянию на голосование индивидуальных избирателей, сразу приковав внимание всего мира к этой небольшой фирме по политической аналитике и исполинскому источнику ее данных – Facebook. Без ответа осталось много вопросов о законности запутанных операций Cambridge Analytica, о масштабах ее реального влияния на политические события и об ее отношениях с Facebook. Наш интерес здесь ограничен тем ярким светом, который ее махинации проливают на могущество надзорного капитализма, особенно на его решимость оцифровывать данные из самых глубин психики.

Уже Косински и Стилвел обратили внимание на коммерческую ценность своих методов, понимая, что глубинный излишек открывает новые возможности для манипулирования поведением и его модификации. Уайли вспоминает о том, как захватили его мысли об этой перспективе, и в результате сложной цепочки событий именно он убедил Cambridge Analytica использовать данные Косински и Стилвела для продвижения политических целей ее владельца. Целью было «поведенческое микротаргетирование <…> влияние на избирателей, основанное не на демографических параметрах, а на чертах их личности…»[759] Когда переговоры с Косински и Стилвелом не привели к успеху, фирма наняла еще одного кембриджского ученого, Александра Когана, для накопления аналогичного кэша персональных данных из Facebook.

В Facebook Когана хорошо знали. Он сотрудничал со специалистами компании по данным в рамках проекта 2013 года, когда Facebook предоставила данные о 57 миллиардах «дружб». На этот раз он привлек примерно 270 000 человек, заплатив им, чтобы они прошли личностный тест. Втайне от участников, приложение Когана позволило ему получить доступ к их профилям в Facebook, а также к профилям в среднем 160 друзей каждого из тестируемых, «ни один из которых не знал» об этом вторжении и «не имел оснований подозревать» его[760]. Это была масштабная операция по оцифровке, которая позволила Когану успешно создать психологические профили от 50 до 87 миллионов пользователей Facebook, данные, которые он затем продал Cambridge Analytica[761]. Когда в Facebook возникли вопросы относительно его приложения, Коган заверил компанию, что его исследование проводилось исключительно в академических целях. Действительно, взаимное уважение между двумя сторонами было настолько велико, что Facebook принял одного из помощников Когана в свою собственную команду исследователей-психологов[762].

«Мы использовали Facebook, чтобы собрать профили миллионов людей, – признал Уайли, – и построить модели, чтобы использовать то, что мы о них знаем, метя в их внутренних демонов». Это краткое изложение достижений Cambridge Analytica резюмирует весь проект надзорного капитализма и объясняет его решимость вести оцифровку вглубь. Это те самые возможности, которые набрали силу в течение почти двух десятилетий инкубационного периода надзорного капитализма на территориях беззакония. Действия Cambridge Analytica вызвали возмущение во всем мире, хотя на самом деле это обычная часть ежедневного усовершенствования методов и целей надзорного капитализма, как в Facebook, так и в других капиталистических компаниях, занимающихся надзором. Cambridge Analytica просто переориентировала механизмы надзорного капитализма с коммерческих рынков поведенческих фьючерсов на достижение гарантированных результатов в политической сфере. Именно Эрик Шмидт, а не Уайли, первым открыл этот ящик Пандоры, когда он подготовил почву для переноса ключевых механизмов надзорного капитализма в избирательный процесс, скрепив взаимное сродство политики и экономики, породившее надзорную чрезвычайщину. На самом деле Уайли в свое время даже прошел обучение под руководством этого обамовского «директора по таргетингу»[763]. Инновации Шмидта, теперь превратившиеся в грозное оружие, стали предметом зависти со стороны любой политической кампании и, что опаснее, со стороны любого врага демократии[764].

В дополнение к использованию основополагающих для надзорного капитализма механизмов – оцифровки, поведенческого излишка, машинного интеллекта, прогнозных продуктов, экономии за счет масштаба, охвата и действия – темная афера Cambridge Analytica также иллюстрирует тактические требования надзорного капитализма. Ее операции разрабатывались так, чтобы проходить в неведении для публики, – они должны были быть тайными и тщательно избегать обнаружения со стороны пользователей. Уайли называет это «информационной войной», справедливо признавая асимметрию знания и власти, необходимую для работы средств изменения поведения:

Я думаю, что это хуже, чем травля, потому что люди не обязательно знают, что с ними так поступают. Травля по крайней мере признает за человеком право выбора, потому что он знает <…> если вы перестаете признавать за человеком право выбора, то все, что вы делаете с этого момента, уже не способствует демократии. И информационная война по самой своей сути не способствует демократии[765].

Эта «война» и применяемые в ее ходе механизмы вторжения и завоевания представляют собой стандартные операционные процедуры надзорного капитализма, которым ежедневно подвергаются миллиарды ничего не подозревающих людей, когда операции по оцифровке нарушают все границы, а операции по изменению поведения требуют господства над всеми людьми. Надзорный капитализм навязывает эту сделку, предлагая расстаться с «правом выбора» в обмен на информацию и связь, постоянно распространяя оцифровку на новые территории. В ходе военных действий такие компании, как Facebook и Google, нанимают на свою службу каждого пригодного солдата, включая социологов вроде Когана, которые добровольно впрягаются в лямку, помогая компании открывать, совершенствовать и интегрировать передовые методы, способствующие взятию следующих рубежей – явление, которое мы подробнее рассмотрим в главе 10.

Независимо от фактических возможностей компании Cambridge Analytica и реальных политических последствий ее действий, замыслы и планы, стоявшие за ее амбициями, останутся свидетельством центральной роли глубинной оцифровки в прогнозировании и изменении поведения в вечной погоне за предсказуемостью. Миллиардеры, такие как Цукерберг и Мерсер, обнаружили, что могут проложить себе путь к господству над общественным разделением знания, если приберут к рукам эти операции оцифровки и человеческие судьбы, которые они предскажут. Их цель – обладание безраздельной властью знать, решать, кто будет знать, и определять, кому принимать решения. Оцифровка «личности» стала важной вехой в этом стремлении – рубеж, да, но не последний рубеж.

III. Машинные эмоции

В 2015 году основанный за восемь лет до этого стартап под названием Realeyes выиграл грант Европейской комиссии в размере 3,6 миллиона евро на проект под кодовым названием «SEWA: Автоматический анализ настроений в полевых условиях». Цель состояла в том, чтобы «разработать автоматизированную технологию, которая сможет читать эмоции человека, просматривающего контент, а затем установить, как они связаны с тем, насколько ему понравился этот контент». Директор по видео в компании AOL International назвал этот проект «огромным шагом вперед в технологии видеорекламы» и «Святым Граалем видеомаркетинга»[766]. Всего через год Realeyes получил от Европейской комиссии награду за инновации Horizon 2020 благодаря «основанным на машинном обучении инструментам, которые помогают маркетологам анализировать влияние своей рекламы и повышать ее актуальность»[767].

Проект SEWA – окно в бурно растущую новую область операций по оцифровке и снабжению поведенческим излишком, известную как «аффективные вычисления», «аналитика эмоций» и «анализ настроений». Благодаря этим новым инструментам, проект персонализации спускается еще глубже к океанскому ложу, претендуя на еще один рубеж оцифровки, которая настроена уже не только на вашу личность, но и на вашу эмоциональную жизнь. Если этому проекту добычи глубинного излишка суждено быть успешным, то ваше бессознательное – где формируются чувства, еще до того, как появятся слова для их выражения, – должно быть преобразовано во всего лишь еще один источник сырья для машинной оцифровки и анализа, и все это ради более точного прогнозирования. Как объясняется в отчете об исследовании рынка аффективных вычислений, «знание эмоционального состояния в реальном времени может помочь фирмам продавать свой продукт и тем самым увеличить доходы»[768].

Продукты аналитики эмоций, такие как SEWA, используют специализированное программное обеспечение для прочесывания лиц, голосов, жестов, тел и мозгов, по мере того как все это считывается «биометрическими» и «глубинными» датчиками, часто в сочетании с крошечными «ненавязчивыми» камерами. Этот комплекс машинного интеллекта обучен изолировать, фиксировать и оцифровывать тончайшие и интимнейшие формы поведения, от случайного моргания до длящегося долю секунды расслабления челюсти от неожиданности. Различные комбинации датчиков и программного обеспечения могут распознавать и идентифицировать лица; оценить возраст, этническую принадлежность и пол; анализировать направление взгляда и движения век; отслеживать определенные точки лица, чтобы интерпретировать «микровыражения», движения глаз, эмоции, настроения, стресс, ложь, скуку, растерянность, намерения и многое другое, – и все это происходит мгновенно[769]. Как говорится в описании проекта SEWA:

Технологии, способные надежно и точно анализировать выражения лица, равно как и голосовое и речевое поведение и взаимодействия в естественных условиях, на основе информации веб-камер цифровых устройств, окажут глубокое влияние как на фундаментальные науки, так и на коммерческий сектор. Они <…> замеряют индикаторы поведения, которые до сих пор сопротивлялись измерению, потому что были слишком тонкими или мимолетными, чтобы регистрироваться человеческим глазом и ухом…[770]

Это поведение ускользает и от сознания. Машины фиксируют на лице молодой женщины наносекундный эпизод отвращения, за которым следует быстрая череда гнева, понимания и, наконец, радости, пока она смотрит несколько кадров фильма; при этом все, что она сумеет сказать вслух, – это «Мне понравилось!» В официальной документации Realeyes объясняется, что его веб-камеры снимают людей, которые смотрят видео у себя дома, «чтобы мы могли запечатлеть подлинные реакции». Алгоритмы обрабатывают выражения лица, и «эмоции обнаруживаются, агрегируются и передаются онлайн в режиме реального времени, каждую секунду <…> это позволяет нашим клиентам принимать лучшие бизнес-решения». Realeyes делает упор на свои собственные «проприетарные метрики», помогающие маркетологам «нацеливаться на конкретную аудиторию» и «прогнозировать результаты»[771].

И снова – ключевая тема машинного интеллекта состоит в том, что качество зависит от количества. Realeyes говорит, что его наборы данных содержат более 5,5 миллионов аннотированных видеозаписей более чем 7000 человек со всего мира:

Мы постоянно работаем над созданием самых больших в мире наборов данных о выражениях лиц и поведении, повышая качество и объем наших уже существующих категорий, и создавая новые – для других выражений и эмоций, других поведенческих подсказок, для эмоций другой интенсивности <…> Автоматизировав этот процесс, мы можем теперь масштабировать его, чтобы одновременно отслеживать эмоции всей аудитории[772].

Клиентам рекомендуется «играть эмоциями своей аудитории, чтобы оставаться хозяевами положения»[773]. Веб-сайт компании предлагает краткий обзор истории исследования человеческих эмоций, включая вывод, что «чем больше люди чувствуют, тем больше они тратят <…> Нематериальные „эмоции“ превращаются в конкретную социальную активность, узнаваемость бренда и прибыль»[774].

Председатель отраслевого консультативного совета SEWA откровенен в отношении этой затеи; он отмечает, что расшифровка смысла «невербального языка всего тела и интерпретация сложных эмоциональных реакций <…> будет замечательной вещью для интерпретации реакций на маркетинговые материалы», добавляя, что «просто глупо не учитывать эмоциональный отклик при оценке любых маркетинговых материалов». Действительно, эти «бессознательные инструменты» извлекают из вашей внутренней жизни новые, более тонкие, грани поведенческого излишка, чтобы предсказать, что вы купите, и точно ухватить нужный момент, когда вы наиболее уязвимы для воздействия. Председатель совета говорит, что эмоциональная аналитика «похожа на определение отдельных музыкальных нот». Тогда каждый потенциальный клиент представляет собой небольшую прозрачную музыкальную композицию: «Мы сможем выявить каждую нотку человеческих реакций, таких как симпатия, скука и т. д. <…> Когда-нибудь мы научимся мастерски читать чувства и намерения друг друга»[775].

Это не первый случай, когда наше бессознательное становится инструментом для достижения чужих целей. В пропаганду и рекламу всегда закладывалось обращение к нашим непризнанным страхам и стремлениям. Эти сферы больше полагались на искусство, чем на науку, используя для целей массовой коммуникации очень грубые данные или профессиональную интуицию[776]. Подобные методы нельзя сравнивать и с научным применением сегодняшних исторически беспрецедентных вычислительных мощностей к точно выверенной, непрерывной оцифровке наших более или менее реальных чувств. Производители новых инструментов не собираются отнять у вас вашу внутреннюю жизнь, они намерены лишь следить за ней и пользоваться ею. Все, что они хотят, – это знать о вас больше, чем вы сами.

Хотя на протяжении тысячелетий сокровищница бессознательного понималась по-разному – от духа через душу к психике, – древнего жреца и современного психотерапевта объединяет вековое почтение к изначальной целительной силе бессознательного, приходящей через открытие своего «я», овладение им, обретение целостности, восстановление и трансценденцию. Напротив, понимание эмоций как наблюдаемых поведенческих данных впервые укоренилось в середине 1960-х годов в трудах Пола Экмана, тогда еще молодого профессора Калифорнийского университета в Сан-Франциско. Начиная со своих самых первых работ Экман утверждал, что «дела говорят громче, чем слова»[777]. Он исходил из того, что даже когда человек полон решимости подвергать цензуре или контролировать выражение своих эмоций, что некоторые виды невербальных сигналов «ускользают от контроля и дают утечку»[778]. С самого начала он видел потенциальную полезность «категориальной схемы», которая надежно связывала внешние выражения (следствия) с эмоциями (причинами)[779], и в 1978 году Экман, совместно с Уоллесом Фризеном (с которым он нередко сотрудничал), опубликовал знаменитую «Систему кодирования выражений лица» (Facial Action Coding System, FACS), в которой и описывались эти связи.

FACS различает базовые движения лицевых мышц, разбивая их на двадцать семь «двигательных единиц» для лица, наряду с двигательными единицами для головы, глаз, языка и т. д. Позже Экман пришел к выводу, что шесть «базовых эмоций» (гнев, страх, печаль, радость, отвращение и удивление) представляют собой основу для широкого спектра выражения человеческих эмоций[780]. FACS и модель шести эмоций стали доминирующей парадигмой для изучения выражения лица и эмоций, во многом подобно тому, как пятифакторная модель доминирует в исследованиях личности.

Программа оцифровки эмоций началась вполне невинно. У ее истоков стояла профессор MIT Media Lab Розалинд Пикард, которая назвала новую область компьютерной науки «аффективными вычислениями». Она была одной из первых, кто осознал возможность для вычислительной системы автоматизировать анализ конфигураций лица по Экману и соотнести микровыражения лица с эмоциями, лежащими в их основе[781]. Она стремилась объединить выражение лица с вычислением вокальной интонации и других физиологических сигналов эмоций, которые можно измерить как поведение. В 1997 году она опубликовала книгу под названием «Аффективные вычисления», в которой предложила практическую реализацию идеи, что одни эмоции доступны сознательному разуму и могут быть выражены «когнитивно» («мне страшно»), в то время как другие могут ускользать от сознания, но тем не менее выражаться физически в виде капель пота, расширения глаз или едва уловимого сжатия челюстей.

Ключом к аффективным вычислениям, утверждала Пикард, является соотнесение сознательных и бессознательных эмоций с наблюдаемым поведением, доступным для кодирования и расчетов. Компьютер, рассуждала она, сможет представить ваши эмоции в виде информации о поведении. Распознавание аффекта, по ее выражению, сводится к «распознаванию определенных комбинаций движений», а «выражение аффекта» – к синтезу этих комбинаций. Основной тезис состоял в том, что «компьютер способен распознавать эмоции не хуже, чем сторонний наблюдатель-человек».

Пикард надеялась, что ее находки относительно эмоций послужат какому-нибудь доброму или на худой конец безобидному делу. Большинство описываемых ею применений остаются в рамках логики «Осведомленного дома»: любые полученные знания будут принадлежать исходному индивиду и использоваться для помощи в его или ее самопознании. Например, она представляла себе «компьютер-интервьюер», который мог бы служить «аффективным зеркалом», тренирующим учащегося при подготовке к собеседованию или свиданию, а также автоматического помощника, который предупреждал бы вас о враждебных нотках в вашем собственном тексте до того, как вы нажмете «отправить». Пикард предвидела и другие инструменты, сочетающие в себе программное обеспечение и сенсоры, которые, как она полагала, улучшат повседневную жизнь в целом ряде ситуаций, таких как помощь детям с аутизмом в развитии эмоциональных навыков, предоставление разработчикам программного обеспечения обратной связи по уровню разочарования пользователей, назначение очков игрокам в видеоиграх для поощрения смелости или снижения стресса, создание учебных модулей, которые стимулируют любопытство и минимизируют беспокойство, и анализ эмоциональной динамики в классе. Она представляла себе цифровых помощников, которые изучат ваши предпочтения и найдут для вас новости, одежду или произведения искусства, которые вызовут у вас улыбку[782]. Каким бы ни было наше отношение к подобным идеям, они следуют одной ключевой закономерности: в отличие от модели SEWA, предполагалось, что данные Пикард были для вас, а не просто про вас.

Еще в 1997 году Пикард признавала необходимость обеспечения конфиденциальности, «с тем, чтобы вы могли контролировать, кто получает доступ к этой информации». Для нас важно, что на последних страницах своей книги она выразила определенные опасения:

есть веские причины не транслировать свою эмоциональную жизнь на весь свет <…> Вы можете похвастать перед друзьями хорошим настроением <…> вы вряд ли хотите, чтобы об этих вещах прознали армии продавцов, горящих желанием использовать зависящие от настроения покупательские привычки, или рекламодателей, жаждущих убедить вас, что ваше настроение поднимется, если попробуете их новую газировку прямо сейчас.

Она отметила возможность навязчивого мониторинга на рабочем месте и сделала оговорки о возможности антиутопического будущего, в котором «злокозненное» государство использует аффективные вычисления, чтобы контролировать эмоции населения и манипулировать ими[783].

Несмотря на эти опасения, уместившиеся в несколько абзацев, ее выводы были успокоительными. Каждая технология имеет свои «за и против», писала она. Эти проблемы не являются «непреодолимыми», потому что «могут быть разработаны защитные меры». Пикард была уверена, что технологии и технические методы могут решить любую проблему, и представляла себе «носимые компьютеры», которые «собирают информацию исключительно для вашего собственного использования…» Она подчеркнула важность обеспечения «того, чтобы владелец сохранял полный контроль над устройствами, которые он решил носить, чтобы они были инструментами расширения возможностей, а не подчинения враждебным силам»[784].

Следуя теперь уже слишком хорошо знакомой закономерности, защитные меры не поспевали за событиями, а надзорный капитализм процветал. К началу 2014 года Facebook уже подал заявку на патент на «обнаружение эмоций», призванный реализовать все то, чего опасалась Пикард[785]. Идея заключалась в «одном или нескольких программных модулях, способных распознавать эмоции, выражения лица или другие характеристики пользователя по информации, содержащейся в изображении». Как всегда, цели компании были амбициозны. Список эмоций, подлежащих распознаванию, «приводимый в качестве примера, а не конечного перечня» включал в себя такие слова, как «улыбка, радость, юмор, изумление, радостное волнение, удивление, недовольство, грусть, разочарование, растерянность, ревность, безразличие, скука, гнев, депрессия или боль». Авторы патента надеялись, что «со временем» этот модуль сможет оценивать «интерес пользователя к отображаемому контенту» в целях «тонкой подстройки на основе эмоционального состояния»[786].

К 2017 году, ровно через двадцать лет после публикации книги Пикард, ведущая компания по исследованию рынка прогнозировала, что «рынок аффективных вычислений», охватывающий программы распознавания речи, жестов и выражений лица, а также датчики, камеры, устройства хранения и процессоры, вырастет с 9,35 миллиарда долларов в 2015 году до 53,98 миллиарда долларов в 2021 году, предсказав среднегодовой темп роста почти в 35 %. Что произошло такого, что могло повлечь за собой этот взрыв? В отчете делается вывод, что во главе списка «триггеров» подобного резкого роста стоит «растущий спрос на распознавание человеческих эмоций, особенно со стороны маркетингового и рекламного секторов…»[787] Благие намерения Пикард оказались похожи на невинные железные опилки в присутствии магнита, когда рыночный спрос, созданный императивом прогнозирования, втянул аффективные вычисления в мощное силовое поле надзорного капитализма.

В конечном итоге Пикард станет частью этой новой индустрии изъятия излишка, основав, совместно со своей протеже, научным сотрудником MIT Media Lab Раной эль Калиуби, компанию Affectiva. Перерождение этой компании, перешедшей от добрых дел к надзорному капитализму, – метафора судьбы всего предприятия по анализу эмоций в целом, которое быстро втягивается в конкурентный водоворот погони за надзорными доходами.

Пикард и Калиуби разделяли мысль о применении своих исследований в медицинских и терапевтических условиях. Проблемы детей с аутизмом, казалось, идеально подходили для решения с помощью их открытий, поэтому они обучили машинную систему под названием MindReader распознавать эмоции, наняв актеров, которые изображали определенные эмоциональные реакции и мимику. С самого начала корпоративные спонсоры MIT Media Lab – Pepsi, Microsoft, Bank of America, Nokia, Toyota, Procter and Gamble, Gillette, Unilever и другие – забросали исследовательниц вопросами о возможности использования их системы для замера эмоциональных откликов клиентов. Калиуби описывает сомнения женщин и их решимость сосредоточиться на применении «добрых дел». По ее словам, лаборатория поощряла их воспользоваться своими результатами для создания стартапа, который они назвали Affectiva и который представляли себе как «маленькую IBM для эмоционально интеллектуальных машин»[788].

Очень быстро новая компания почувствовала живой интерес к себе со стороны рекламных агентств и маркетинговых компаний, которым не терпелось приступить к автоматизированной оцифровке и анализу глубин психики. Характеризуя то время, Пикард сказала одному журналисту: «нашего генерального директора совершенно не устраивало медицинское направление». В результате Пикард «вытеснили» из фирмы через три года после ее основания. Как рассказал один из научных сотрудников Affectiva,

мы начали с мощного набора продуктов, которые могли помочь людям, испытывающим трудности с восприятием эмоций <…> Затем они начали делать акцент только на лице, чтобы сосредоточиться на рекламе и предугадывать, нравится ли кому-то какой-либо продукт, и совершенно ушли от первоначальной миссии[789].

Такие компании, как исследовательская фирма Millward Brown и рекламный гигант McCann Erickson, конкурирующие в новом мире таргетированной «персонализированной» рекламы, уже стремились получить доступ к бездонным глубинам потребительских эмоциональных реакций. В Millward Brown даже сформировали свое нейробиологическое подразделение, но обнаружили, что не могут масштабировать его операции. И анализ одной особенно тонкой рекламы для Millward Brown, сделанный Affectiva, поразил руководство компании и решительно переломил ход событий для стартапа. «Эта программа сообщала нам то, чего мы потенциально не видели, – сказал один из руководителей Millward Brown. – Люди обычно не могут сформулировать такие детали за шестьдесят секунд»[790].

К 2016 году Калиуби стала генеральным директором компании, переосмыслив ее бизнес как «Эмоциональный искусственный интеллект» и назвав его «следующим рубежом искусственного интеллекта»[791]. Компания привлекла венчурный капитал в размере 34 миллионов долларов, включила в число своих клиентов 32 компании из списка Fortune 100 и 1400 брендов со всего мира и утверждала, что располагает крупнейшим в мире хранилищем эмоциональных данных, содержащим 4,8 миллиона видеозаписей лиц людей из 75 стран, в то же время продолжая расширять маршруты поставок за счет данных, полученных от онлайн-просмотра, участия в видеоиграх, разговоров и вождения автомобилей[792].

Именно в этом коммерческом контексте Калиуби сочла возможным утверждать, что «чип эмоций» станет базовой операционной единицей новой «экономики эмоций». Она любит рассказывать своим слушателям о чипе, встроенном во все, что угодно и где угодно, постоянно работающем в фоновом режиме и генерирующем «эмоциональный пульс» всякий раз, когда вы проверяете свой телефон: «Я думаю, в будущем мы станем исходить из того, что каждое устройство просто знает, как читать ваши эмоции»[793]. По крайней мере одна компания, Emoshape, отнеслась к ее прогнозам серьезно. Фирма, чей слоган звучит как «Жизнь – главная ценность», выпускает микрочип, который называет «первым в отрасли движком синтеза эмоций», обеспечивающим «высокопроизводительное автоматическое распознавание эмоций». Компания пишет, что ее чип может классифицировать двенадцать эмоций с 98-процентной точностью, что позволяет «искусственному интеллекту или роботу воспринимать 64 триллиона возможных различных эмоциональных состояний»[794].

Калиуби предвидит, что повсеместное «сканирование эмоций» будет такой же само собой разумеющейся вещью, как файлы cookie, установленные на вашем компьютере для отслеживания вашей активности в интернете. В конце концов такие cookie когда-то вызывали возмущение, а теперь без них в интернете и шагу не ступить. Например, по ее ожиданиям, YouTube будет сканировать эмоции своих зрителей, пока они смотрят видео. Ее уверенность подкрепляется спросом, создаваемым императивом прогнозирования: «Я смотрю на это так: не важно, что у вашего Fitbit нет камеры, потому что она есть в телефоне, есть в ноутбуке и будет в телевизоре. Все эти данные объединяются с биометрическими данными ваших носимых устройств и создают ваш эмоциональный профиль». Для начала Affectiva ввела понятие «эмоции как услуги», предлагая свою аналитику как услугу по требованию: «Просто отснимите людей, выражающих эмоции, а затем отправьте нам эти видео или фото, чтобы получить мощные метрики эмоций»[795].

Возможности оцифровки вглубь кажутся безграничными, и, возможно, так и будет, если Affectiva, ее клиенты и попутчики получат свободу рук, чтобы подвергать разграблению наши «я» по своему усмотрению. Есть признаки того, что эти амбиции простираются гораздо дальше и что «эмоция как услуга» может перейти от наблюдения к модификации. До «счастья как услуги» уже недалеко. «Я действительно считаю, что если у нас будет информация о ваших эмоциональных переживаниях, то мы можем помочь вам быть в хорошем настроении», – говорит Калиуби. Она предвидит системы распознавания эмоций, выдающие призовые баллы за счастье, потому что, в конце концов, счастливых клиентов легче «увлечь»[796].

IV. Когда они придут за моей правдой

На сегодняшний день оцифровка стала глобальным проектом надзорного капитала, и в ходе ее распространения вглубь мы наблюдаем ее самые пагубные проявления. Интимные территории «я», такие как наша личность и эмоции, объявлены наблюдаемым поведением и стали желанным источником богатых залежей прогнозного излишка. Сегодня новое племя торговцев личностью, полных решимости разложить по полочкам и упаковать нашу внутреннюю жизнь ради надзорных прибылей, официально перевело личные границы, защищающие эту жизнь, в категорию «плохо для бизнеса». Накопленные ими знания и опыт подрывают само понятие автономного индивида, вознаграждая «безграничность» любыми доступными средствами – предложениями элитного статуса, бонусами, баллами счастья, скидками, кнопкой «купить», всплывающей на вашем устройстве в точный момент наиболее вероятного успеха – так, чтобы нам оставалось лишь разоблачиться и сдаться на милость загребущих лап и любопытных глаз машин, стоящих на службе нового рыночного космоса.

Я сознательно ухожу от более детального обсуждения того, что такое «личность» или «эмоция», «сознательно» или «бессознательно», в пользу, как я надеюсь, менее капризной истины, которую четко высветила эта последняя фаза вторжения. Опыт – это не нечто данное мне, а то, что я сделаю с этой данностью. Опыт, который высмеиваю я, у вас может вызвать энтузиазм. Я – это внутреннее пространство жизненного опыта, из которого создаются подобные значения. В этом творении я опираюсь на фундамент личной свободы: «фундамент», потому что я не могу жить без осмысления своего опыта.

Сколько бы у меня ни забрали, эта внутренняя свобода создавать смысл остается моим последним убежищем. Жан-Поль Сартр писал, что «свобода есть не что иное, как существование нашей воли», и уточнял: «На самом деле недостаточно иметь волю; нужно иметь волю к воле»[797]. Это восстание воли к воле – внутренний акт, делающий нас автономными существами, которые проецируют свой выбор в мир и демонстрируют качества самоопределяющегося морального суждения – необходимый и конечный оплот цивилизации. В этом и заключается смысл другого прозрения Сартра: «Без ориентиров, толкаемых лишь безымянной тоской, словам трудно <…> Голос рождается из риска: либо потеряешь себя, либо заслужишь право говорить от первого лица»[798].

По мере того как императив прогнозирования проникает в глубины личности, устоять перед ценностью добываемого по его велению излишка становится невозможно, и операции по его привлечению поднимаются на новый уровень. Что произойдет с правом говорить от первого лица, от самого себя, когда все более безумная институционализация, запущенная императивом прогнозирования, станет тренироваться, вылавливая мои вздохи, моргания и высказывания, в попытке добраться до моих мыслей, чтобы использовать их как средства для достижения чужих целей? Сегодня надзорный капитал извлекает излишек не просто из того, что я ищу, покупаю и просматриваю. Он больше не довольствуется одними только координатами моего тела во времени и пространстве. Теперь он вторгается в самое сокровенное внутреннее пространство, когда машины и их алгоритмы начинают определять значение моего дыхания и моих глаз, мышц моих челюстей, дрожи в моем голосе и восклицательных знаков, поставленных невинно и с надеждой.

Что станет с моей волей к воле существовать от первого лица, когда окружающий рыночный космос будет притворяться моим зеркалом, меняя форму в соответствии с тем, что, по его мнению, я чувствую, или чувствовал, или буду чувствовать – игнорируя, подстрекая, упрекая, подбадривая или наказывая меня? Надзорный капитал не может удержаться от того, чтобы хотеть меня всего, так глубоко и так далеко, насколько сможет зайти. Одна фирма, специализирующаяся на «человеческой аналитике» и аффективных вычислениях, предлагает своим маркетинговым клиентам такой заголовок: «Стань ближе к истине. Узнай подлинную причину». Что произойдет, когда они придут за моей «истиной», не прошеные, но полные решимости пройтись по моему «я», забирая все то, что будет питать их машины для достижения их целей? Загнанному в угол своего «я», человеку уже некуда бежать[799].

Похоже, что подобные вопросы могли все же беспокоить Пикард. В лекции «На пути к машинам, которые отрицают своего создателя», которую она прочитала в 2016 году в Германии, на смену успокоительным заверениям книги 1997 года, что «могут быть разработаны защитные меры», что новые технологии и технические методы могут решить любую проблему и что «носимые компьютеры» будут «собирать информацию исключительно для вашего собственного использования», будучи «инструментами расширения ваших возможностей, а не подчинения враждебным силам»[800], пришли новые размышления. «Некоторые организации хотят прощупывать человеческие эмоции, оставляя людей в неведении об этом и не спрашивая их согласия, – говорит она. – Некоторые ученые хотят создать компьютеры, которые будут намного превосходить людей и будут способны не только воспроизводить себе подобных <…> Как сделать так, чтобы новые аффективные технологии меняли человеческую жизнь к лучшему?»[801]

Пикард представить себе не могла, что рыночные силы превратят оцифровку эмоций в прибыльный излишек, в средство для достижения чужих целей. То, что ее видение реализовано сегодня в тысячах видов деятельности, должно было быть триумфом, но триумф ослабляется тем фактом, что многие из этих видов деятельности связаны с проектом коммерческого надзора. Неспособность установить ориентиры раз за разом способствует привыканию, нормализации и в конечном итоге легитимации. Подчиненный более широким целям надзорного капитализма, смысл аффективного проекта изменился, как будто исказился в кривом зеркале парка развлечений.

Этот цикл заставляет вспомнить слова другого профессора Массачусетского технологического института, специалиста по компьютерной науке и гуманиста Джозефа Вейценбаума, который не раз красноречиво говорил о непреднамеренном сговоре ученых-компьютерщиков, направленном на создание ужасающих систем вооружений. Я полагаю, что он метал бы молнии в адрес сегодняшних иногда невольных, а иногда добровольных торговцев личностью, так что уместно будет закончить главу его словами:

Я не совсем понимаю, вся ли компьютерная наука в целом или только ее раздел, занимающийся искусственным интеллектом, проявляет столь безграничное пристрастие к эвфемизмам. Мы так эффектно и с такой готовностью говорим о компьютерных системах, которые понимают, видят, решают, выносят суждения <…> не сознавая свою собственную поверхностность и неизмеримую наивность в отношении этих концепций. И в процессе подобных разговоров мы притупляем свою способность <…> осознавать их конечное назначение <…> Нельзя выйти из этого состояния, не спрашивая снова и снова: «Что я на самом деле делаю? Каково окончательное применение и использование плодов моего труда?» и в конечном счете: «Устраивает ли меня то, как они применяются, или мне стыдно за это?»[802]

Глава 10

Пусть они попляшут

• Но вот чей-то плач.
• Ах, причина известна —
• Растление душ и паденье столиц,
• Ибо зло неизбывно, ибо даже сам принц,
• Ко лжи прибегая, царит в Поднебесной.

У. Х. Оден, Сонеты из Китая, XI[803]