Неизведанная территория. Как «большие данные» помогают раскрывать тайны прошлого и предсказывать будущее нашей культуры Эйден Эрец
Представьте себе потопление океанского лайнера «Лузитания», после которого Америка вступила в Первую мировую войну. Через несколько десятилетий после трагедии она начинает забываться (как мы и предполагали), а затем ненадолго вспоминается перед Второй мировой войной – возможно, из-за беспокойства, что события, предшествовавшие первой войне, могут повториться еще раз. Память такого рода, связанная с эффектом ассоциации, представляет собой большую проблему – ее невозможно учесть и невозможно предсказать.
Не менее сложная проблема связана с тем, что со временем меняющиеся ассоциации заставляют людей вспоминать одни и те же события различным образом, используя разные слова. И вновь в пример можно привести мировые войны. Первая мировая война поначалу называлась «Великой войной», поскольку до определенного момента была самой кровопролитной войной в истории западной цивилизации. Однако после начала Второй мировой войны в конце 1930-х термин «Великая война» быстро исчез, а на его место пришел термин «Первая мировая война». И дело не в том, что люди перестали думать о «Великой войне». Эти события продолжали храниться глубоко в их коллективной памяти. Однако они начали думать о войне иначе, в более широком контексте обоих конфликтов, поэтому стали использовать другой язык. И вновь эффект такого рода было невозможно ни учесть, ни предсказать.
Для того чтобы эффективно измерить забывание, нам нужно было пройти по пути Эббингауза, то есть минимизировать эффект всех этих ассоциаций с помощью тщательно отобранного словаря.
Для этого мы решили протестировать коллективную память с помощью одних лишь чисел, соответствовавших годам, например 1816 и 1952. Определяя, насколько часто люди упоминают тот или иной год, мы можем почувствовать, в какой степени в их мышлении присутствуют события этого года. Ни один год не имеет каких-либо уникальных недостатков или внешних связей, делающих этот подход менее достоверным.
Но вы можете возразить – что, если фраза, из которой мы взяли число, звучит как «1876 устриц и бокал вина»? В этом случае число представляет собой отсылку к количеству заказанных устриц.
Судя по всему, это довольно малозначительная проблема. Прежде всего, было бы довольно странным заказывать 1876 устриц (особенно с одним только бокалом вина). Но что более важно, было бы крайне странно заказывать, просить или записывать данные о 1876 единицах чего-либо. Число 1876 возникает крайне редко – за исключением случаев, когда люди имеют в виду 1876 год[172]. Даже названия книг, вроде «1984» Джорджа Оруэлла, и фильмов, вроде «2001: Космическая Одиссея» Стэнли Кубрика, совершенно незначительно влияют на общее количество соответствующих чисел.
201 число, располагающееся между 1800 и 2000, может сыграть такую же роль в изучении коллективного забывания, какую сыграл придуманный Эббингаузом словарь для изучения индивидуального забывания. Чему могут научить нас эти цифры?
Кривая забывания
Позвольте рассказать вам историю про 1950 год.
На протяжении почти всей человеческой истории 1950 год никого не беспокоил. Это не было интересно в 1700 году, никто не думал о нем в 1800-м и не интересовался им в 1900-м. Та же апатия царила и в 20-е, 30-е и в начале 40-х годов XX века.
Однако после этого началась какая-то мания – люди поняли, что 1950 год настанет и что в нем вполне может произойти что-нибудь значительное.
При этом ничто не интересовало людей, живших в 1950 году, так же сильно, как сам этот год.
Внезапно он превратился в какое-то наваждение. Казалось, что люди просто не могут перестать говорить о том, что произойдет в 1950 году, что они планируют в нем сделать и от чего избавиться.
По сути, 1950 год оказался настолько увлекательным, что в течение нескольких последующих лет люди никак не могли остановиться. Они продолжали говорить о множестве потрясающих вещей, случившихся в 1950 году, и в 1952, и в 1952, и в 1953. Наконец в 1954 году кто-то – возможно, любитель всего нового и модного – вдруг проснулся и понял, что 1950 год уже как-то устарел.
И в этот момент пузырь взорвался.
Несмотря на всю свою трагичность, история 1950-х совсем не уникальна. Она вполне соответствует истории каждого года, по которому мы проводили исследование, – парень встречает год X, влюбляется в год X, потом бросает год X ради новой подружки и затем вспоминает о годе X все меньше и меньше.
Подобные истории с одним и тем же процессом можно создать для каждого года. Описанная нами история любви и утраты заметна на каждом из графиков, однако в этом нет ничего удивительного. Более неожиданными оказываются другие свойства этих графиков.
Одним из них является общая форма кривых забывания. Судя по всему, процесс забывания состоит из двух этапов – интерес к определенному году сначала быстро падает в первые несколько десятилетий, а затем темп падения замедляется. Сходные вещи возникают и в отношении коллективного и индивидуального вспоминания – общество имеет как краткосрочную, так и долгосрочную память.
Мы можем задаться количественным вопросом. Например, при изучении краткосрочной памяти общества мы можем спросить: насколько быстро лопается пузырь? Иными словами, как быстро люди теряют интерес к определенному году после его завершения?
Простое решение этой проблемы заключается в подсчете времени, которое требуется для снижения до половины пикового значения частоты упоминания года, – то есть сколько времени составляет период полураспада коллективной памяти. Это значение сильно различается от года к году. Частота упоминаний 1872-го снизилась до половины своего пикового значения в 1896 году, то есть через 24 года. Напротив, частота упоминаний 1973-го снизилось до величины половины пика к 1983 году, всего лишь через 10 лет.
Более быстрое снижение 1973-го представляет собой симптом более общего порядка – с течением времени период полураспада коллективного забывания становится все короче и короче. Это наблюдение говорит нам об изменении отношения общества к прошлому. Мы все быстрее и быстрее теряем интерес к давно случившимся событиям.
Что привело к такому изменению? В точности неизвестно. Пока что у нас есть лишь примеры голой корреляции – то есть того, что мы открываем, глядя на коллективную память через цифровую линзу нашего нового «скопа». Возможно, для того чтобы разобраться с механизмом работы, нам потребуется некоторое время.
Это – крайняя граница науки. У нас нет карт, нам приходится идти наугад, и перед нами множество тупиков, но мы не променяли бы это место ни на какое другое.
Долой старое, да здравствует новое
Разумеется, наше коллективное сознание способно не только забывать. Если мы хотим понять смысл коллективной памяти, нам нужно разобраться и с другой стороной медали. Каким образом новая информация проникает в общество?
Мы думаем о нынешней эпохе как об информационной – о периоде, отмеченном поразительной скоростью перемещения информации от человека к человеку и из одного места в другое. Однако мы часто не замечаем, насколько быстро передавалась чистая информация в прошлые столетия с помощью механизмов, возможности которых кажутся нам теперь скудными[173]. К примеру, в Лондоне XVII и XVIII веков обычная почта могла поступать к адресату до пятнадцати раз в день. Письма, отправленные утром, прибывали в течение четырех часов. Конечно, это не так быстро, как электронная почта в наши дни, но и не так медленно, как оставшаяся в наши дни традиционная почта (к XIX столетию лондонцы могли отправлять посылки по всему городу на скорости до 25 миль в час с помощью заброшенной в наши дни системы пневматической почты). На протяжении столетий люди находили массу способов распространять серьезные новости достаточно быстро.
Книги – это нечто другое. Конечно, они представляют собой важный источник информации, однако работа над большинством книг – это серьезное предприятие, а для создания и публикации книги могут потребоваться многие годы. Книги – слишком медленный источник для важных и срочных новостей.
Зачастую это не вызывает проблем. Поскольку коллективное забывание – как минимум забывание самых важных вещей – происходит сравнительно медленно, на протяжении многих лет, десятилетий и столетий, мы вполне можем создавать на основе данных из книг свои n-грамы.
Однако множество вещей входит в коллективное сознание быстро – за считаные дни, недели, месяцы или немногие годы. Для того чтобы n-грам 1872 года перешел от «никакого» состояния до пика популярности, потребовался всего год. Для Перл-Харбора этот срок составил один день. Проблема состоит в том, что n-грамы, связанные с книгами, не особенно полезны при оценке столь быстрых процессов. Для того чтобы сфотографировать быстро летящий мяч, нужна специальная фотокамера. Поэтому если мы хотим использовать n-грамы для того, чтобы что-то узнать о процессе обучения, нам нужно посмотреть на что-то, что перемещается медленнее крупных новостей.
Эврика
Авива, жена Эреца Эйдена, начала изучать подход к коллективному обучению, который показался нам особенно многообещающим. Она принялась изучать изобретения. Успешные изобретения представляют собой подлинное воплощение коллективного обучения. Они отражают способность общества создавать новое знание о мире и адаптировать передовые научные и инженерные разработки для преодоления повседневных сложностей. Именно по этим причинам для распространения изобретений требуется больше времени, чем для обычных новостей.
Важнейшее отличие состоит в том, что изобретение – это не просто информация в чистом виде, которую можно легко сообщить в электронном письме или отправить с курьером. Для того чтобы общество восприняло новую технологическую идею, нужны и инженерное ноу-хау, позволяющее создать изобретение, и технические навыки для его применения, и экономическая модель для продаж и распространения, и инфраструктура, позволяющая перевозить изобретение. В отличие от слов о заслуживающем внимания событии, для распространения изобретения могут потребоваться десятилетия.
Исследовать эти длинные временные шкалы с помощью n-грамов довольно легко. Отличным примером может служить факсимильный аппарат.
В 1980-х годах почти моментально выскакивает «факс-машина», сразу же достигая пика популярности. Кажется, что это – стопроцентная новинка. Когда же, если судить по n-грамам, был изобретен факс?
80-е, правильно? Нет. 70-е? Нет. 60-е? 50-е? 40-е?
Да, факс-машина была изобретена в сороковых. Но первый патент на факс-машину был выдан шотландскому изобретателю Александру Бейну в 1843 году. К 1865 году между Парижем и Лионом уже существовала коммерческая служба – так называемый телефакс[174].
Одна из самых поразительных технологий 1980-х годов получила поддержку Наполеона III, императора Франции. Крупные новости путешествуют быстро – в отличие от больших идей.
Патентные заявки
Для того чтобы понять, сколько времени требуется на распространение изобретения, нам нужно начать с длинного списка и вычислить, когда в действительности было изобретено каждое из новшеств.
Поначалу эта задача может показаться простой. Правительства столетиями выдавали патенты на новые изобретения, обеспечивая их изобретателям эксклюзивные права на плоды их ума. Как сказал Авраам Линкольн – единственный президент США, владевший патентом, «патентная система добавляет топлива интереса пламени гения». Патентное законодательство поощряет изобретателей на раскрытие своих новых технологий при первой же возможности. Поэтому все, что нам нужно для того, чтобы понять дату изобретения, это узнать, когда на него был выдан патент.
Но заявить об этом легче, чем сделать.
Возьмем, к примеру, телефон. В Соединенных Штатах Америки изобретение телефона приписывается Александру Грэму Беллу. 10 марта 1876 года Белл написал в своем блокноте:
Затем я прокричал в динамик следующее предложение: «Мистер Уотсон, подойдите ко мне – я хочу вас видеть» [175]. К моему восторгу, он тут же пришел и объявил, что услышал и понял сказанное мной.
Позднее Белл коммерциализировал эту технологию, создав несколько компаний, потомки и отпрыски которых до сих пор доминируют в телекоммуникационной отрасли. Для американцев Белл является настоящим героем мира технологии, который заложил множество основ, сделавших возможной появление современной информационной эпохи.
Но в Италии эту историю рассказывают совсем иначе. Итальянцы считают изобретателем телефона Антонио Меуччи. Этот американец итальянского происхождения заявлял о том, что изобрел telettrofono примерно в 1854 году и продолжал совершенствовать его конструкцию до 1870 года, когда ему удалось наконец передать голос по проводам на расстояние выше одной мили. Уотсон, работавший с Беллом в 1876 году, сидел в соседней комнате[176].
А что насчет Элиши Грея? Грей основал в 1872 году компанию Western Electric Manufacturing Company, снабжавшую Western Union телеграфическим оборудованием. Заинтересовавшись этой технологией, Грей изобрел микрофон с переменным сопротивлением. Это устройство позволило кодировать многотональные звуки, например человеческие голоса, для дальнейшей передачи по проводам. В сущности, и Грея можно считать изобретателем телефона.
Список великих умов, которые изобрели (или не изобрели) телефон, напоминает перечень лучших новаторов конца XIX века. У многих из них имелись патенты, описывавшие их вклад в это изобретение. Меуччи подал патентную заявку – своего рода предварительный патент – в 1871 году, назвав свою технологию «говорящим телеграфом». Но значит ли это, что Меуччи может считаться полноценным владельцем патента? Как ни странно, через несколько лет он отказался от заявки, и она так и не стала полноценным патентом. Кроме того, не до конца понятно, удалось ли Меуччи действительно сконструировать то, о чем он заявлял. 14 февраля 1876 года, через пять лет после подачи заявки Меуччи, адвокат Грея вошел в офис патентного ведомства в Вашингтоне, чтобы подать свою заявку на изобретение телефона. Получается, что полноценным изобретателем стоит считать Грея. Однако чуть раньше ту же контору посетил и адвокат Белла. Он подал заявку на – совершенно верно! – изобретение телефона.
И даже не просите нас рассказать историю изобретения электрической лампочки[177]!
147 свиданий вслепую
Однозначно определить, когда и что было изобретено, невозможно. Нам был необходим компромисс. Один вариант состоял в том, чтобы изучить все изобретения типа телефона одно за другим и принять наилучшее решение на основании имеющихся свидетельств. Однако такой подход опасен. На результат могли повлиять наши сознательные или несознательные искажения. Поэтому Авива сделала самое разумное, что только могла в тот момент, – она сдалась и воспользовалась «Википедией».
В «Википедии» перечислены даты возникновения множества значительных изобретений. Мы знаем, что некоторые из них не вполне точны. Однако поскольку эти данные предложили не мы, они не отражали наши собственные искажения и поэтому вряд ли могли систематически влиять на качество нашего эксперимента. В общем, иногда свидания вслепую значительно лучше.
Авива проверила каждый элемент данных, чтобы убедиться в его правдоподобии – иными словами, что на определенный момент, как минимум, была подана хотя бы одна из патентных заявок на определенное изобретение и что – судя по n-грамам – технология не использовалась до этой даты ни под одним названием (ни как «факс-машина», ни как «телефакс»). Если дата не казалась правдоподобной, Авива просто исключала изобретение из нашего небольшого реестра. В остальных случаях изменения не вносились.
В конечном итоге у Авивы остался список из 147 больших идей и 147 дней их рождения. Он включает в себя всевозможные хитроумные устройства[178]. Одно из них – это пишущая машинка, запатентованная в 1843 году Шарлем Турбером (забавно, что сам изобретатель думал о ней как о чем-то особенно полезном для «слепых… и нервных»). Еще одним выдающимся участником списка является бюстгальтер, запатентованный в 1913 году Зигмундом Линдауэром. Список включает в себя молекулы (морфин и тиамин), материалы (пирекс и бакелит), методы транспортировки (вертолет и эскалатор) и уничтожения (динамит и автомат), а также массу полезных изобретений (степлер, резиновая лента, безопасная бритва) и методов (пастеризация). В нем, как в хорошем супермаркете, можно было найти все необходимое – и пару джинсов, и лампочку. А также – опять же как в хорошем супермаркете – там можно было найти массу вещей, которые, скорее всего, никогда вам не понадобятся, – например, канатную дорогу и нефтяную вышку.
С помощью этого списка мы смогли изучить историю жизни многих великих изобретений. В некоторых случаях (таких как джинсы Ливая Стросса) история только начинается – даже в наши дни их роль продолжает расти. Другие изобретения, типа целлофана, уже прошли пик своего влияния. Они чему-то нас научили; мы продолжаем их время от времени использовать; а их наследие было передано новому поколению идей. Однако с точки зрения нашей коллективной памяти это уже пройденный этап.
Разумеется, самое поразительное в этом списке то, что, подобно бессмысленным словосочетаниям Эббингауза, он помогает нам лучше понять суть обучения – на этот раз в масштабе целых обществ. В главе 4 мы задались вопросом, в каком возрасте самые знаменитые люди начинают оказывать влияние на развитие культуры. Теперь давайте зададимся тем же вопросом, но уже в отношении технологий. Сколько времени требуется тому или иному изобретению, чтобы дойти до определенного уровня своего культурного влияния (а именно четверти от максимума), измеренного с помощью n-грамов?
Посмотрим на револьвер. Он был запатентован в 1835 году Сэмюелом Кольтом. В 1918 году это шестизарядное оружие достигло пика своего влияния при частоте шесть упоминаний на каждый миллион слов (это в три раза больше, чем сочетание «Билл Клинтон» на его пике). Отметки полтора упоминания на миллион – четверти от максимума – слово достигло в 1859 году. Длина периода между 1835 и 1859 годами (24 года) позволяет нам оценить, сколько времени потребовалось револьверу, чтобы зажечь наш коллективный энтузиазм. Этот показатель позволяет определить, насколько быстро общество в целом узнает о новой идее.
Судя по всему, этот показатель варьируется для изобретений значительно сильнее, чем для знаменитостей. Плееру Walkman, изобретенному компанией Sony в 1978 году, потребовалось лишь десять лет для достижения четверти от максимума своего влияния. Не меньшим хитом был и iPod компании Apple – судя по всему, если вы хотите, чтобы ваше изобретение оказало свое влияние максимально быстро, вам стоит заняться портативными музыкальными плеерами. Как и револьверу, целлофану понадобилось около четверти столетия для достижения той же отметки. Для печатной машинки этот процесс занял 45 лет, а для джинсов – 103 года. При таких темпах Стросс мог бы добиться гораздо большего, займись он математикой.
Однако эти цифры – сто лет для распространения новой технологии – кажутся слишком большими. В наши дни новые технологии меняют повседневную жизнь значительно быстрее. С чем это связано? Не происходит ли ускорение процесса коллективного обучения?
Сингулярность или смерть!
И найти ответ на этот вопрос мы можем с помощью n-грамов.
Для этого мы совместили свой вдохновленный Эббингаузом список изобретений с методом когорт Андворда. Мы распределили 147 технологий по датам изобретения, начиная с жаккардового ткацкого станка (1801) и заканчивая терменвоксом, одним из первых электронных музыкальных инструментов (1920). После этого мы разбили список на три периода – изобретения начала XIX столетия, изобретения середины XIX столетия и изобретения более позднего периода.
Различия в коллективном обучении со временем оказались вполне очевидными. Изобретениям начала XIX века потребовалось 66 лет на достижение отметки четверти влияния. А для изобретений конца XIX и начала XX века – всего 27 лет. Кривая коллективного обучения становилась все короче и короче, ужимаясь примерно на 2,5 года в течение каждого десятилетия. Общество обучается все быстрее и быстрее.
Почему так происходит? Как и в случае с коллективным забыванием, дать точный ответ сложно. Однако стоит поразмышлять о потенциальных последствиях.
Одна из самых интригующих перспектив, связанных с постоянно ужимающейся кривой коллективного обучения, была сформулирована в разговоре между физиком Станиславом Уламом и эрудитом Джоном фон Нейманом[179]. Улам отлично разбирался в серьезных изобретениях – ведь он изобрел водородную бомбу. Нейман был знаменитым математиком, физиком и основателем теории игр, а также считается отцом-основателем компьютерных наук. Также Нейман высказал идею «взаимного гарантированного уничтожения» (Mutually Assured Destruction) и его сокращения MAD (буквально: «безумный»). Думается, что разговоры Неймана и Улама были невероятно увлекательными. Несмотря на свою неспособность дать точную количественную оценку, Нейман чувствовал, что скорость технического развития постоянно возрастает. В общении с Уламом он заметил:
Постоянно ускоряющийся прогресс в области технологий и изменения в человеческой жизни… создают ощущение того, что мы приближаемся к некоей значительной сингулярности в истории человечества, за пределами которой развитие цивилизации в прежнем виде уже не может продолжаться.
Эта идея была популяризирована футурологом Рэймондом Курцвейлом[180], заметившим, что скорость, с которой компьютерные чипы обретают все большую мощность, – знаменитая закономерность, известная под названием «закона Мура», – приведет к тому, что к 2045 году обычный компьютер будет иметь больше вычислительной мощности, чем мозги всего человечества, слитые воедино. Согласно его предсказанию, в этот момент мы обретем возможность закачивать свои мысли на диск и тем самым обретем вечную жизнь в мире машин. Именно это Курцвейл и называет «технологической сингулярностью».
Подобная концепция может показаться довольно странной, однако Курцвейл – далеко не сумасшедший. Он продал свою первую компанию, будучи еще студентом Массачусетского технологического, и изобрел множество широко применяющихся технологий. Билл Гейтс называл Курцвейла «лучшим из известных предсказателей будущего искусственного интеллекта», а журнал Forbes наделил его титулом «идеальной думающей машины». В 2001 году Курцвейл получил награду Lemelson-MIT в размере 500 000 долларов – крупнейший в мире приз для изобретателей, – а также национальную медаль в области технологий от Билла Клинтона, человека более знаменитого, чем большинство ингредиентов в вашем салате. Так что не приходится сомневаться в том, что Курцвейл знает свое дело. Но прав ли он?
Это пока непонятно. n-грамы рассказывают нам о прошлом. К сожалению, они не предсказывают будущего. Пока что.
Дух народа, культура, культуромика
Наши довольно грубые расчеты, связанные с памятью, заставляют верить, что мы совсем скоро сможем достичь того, что «Венский кружок» считал невозможным еще сто лет назад. Мы сможем дать количественную оценку духу народа с помощью эмпирического измерения аспектов коллективного бессознательного и коллективной памяти.
Однако мы до сих пор не говорили вам о том, что это путешествие может оказаться крайне опасным.
«Дух народа» – это вовсе не безвредная концепция. Изначально она была предложена немецким философом Иоганном Готфридом Гердером в XVIII веке[181]. Сам Гердер был человеком широких взглядов, отвергавшим рабство, колониализм и саму идею о наличии фундаментальных биологических различий между расами. Он верил, что между народами имеются различия – и эти различия формируют то, что он назвал «дух народа», – однако он не верил, что они как-то связаны с главенством одного из них.
Однако если смешать понятие «духа народа» с агрессивным национализмом, легко заметить, что идея Гердера может стать фиговым листком для расизма – я лучше потому, что у моего народа выше уровень «духа».
В некоторых случаях именно так и произошло. Давайте еще раз вспомним, о чем говорили студенты в 12 тезисах, приведших к сожжению книг по всей Германии. Они хотели «уважать традиции народа», отвергая при этом все, что отражало антигерманский дух. И когда мы говорим о расизме в XIX и XX столетиях, концепция «духа народа» оказывается тут как тут.
Однако существуют и более здоровые подходы к «духу народа». Немецко-американский ученый Франц Боас[182], которого часто называют отцом современной антропологии, говорил в своей работе об историческом определении «духа народа». Однако он категорически отказывался смешивать «дух народа» и ультранационалистическую идеологию, понимая, что это опасное слияние приведет к интеллектуальному и моральному обеднению[183].
Вместо этого он попытался выявить «дух народа» эмпирическими методами (теми же самыми, которыми руководствовался Эббингауз). С точки зрения Боаса, культура постоянно меняется, однако при этом всегда допускает наблюдения и описание ее фактов. Объединив две традиции, Боас заложил основы научного исследования культуры и создал то, что мы в наше время называем антропологией.
И когда мы в разговоре с учеными называем свои занятия словом «культуромика», мы каждый раз вспоминаем о Боасе.
«-омика» предполагает работу с большими данными в современной биологии и не только[184].
«Культура» – это культура в понимании Боаса, эмпирически познаваемая и многогранная, основанная на бесконечной любознательности и искреннем восхищении.
2010 год. В затемненной комнате штаб-квартиры гарвардской программы «Эволюционная динамика» на столе стоит компьютер со снятым защитным корпусом. Юань только что вернулся из офиса Google в Кембридже и привез с собой жесткие диски с данными n-грамов. Эти результаты были получены всего несколькими часами ранее. Подсоединив диски, мы нажали на кнопку включения компьютера, приготовившись увидеть результаты трех лет своей работы. Единственным звуком в те минуты, пока компьютер загружался, было успокаивающее жужжание вращающихся дисков.
И вот наконец на экране появилась командная строка.
С чего начать?
«Эволюция» – то, что привело нас туда, где мы оказались
Прошла еще минута, на экране появилось несколько строк программы, и вдруг командная строка сменилась графиком. Мы увидели, как через плавную и тонкую линию с нами начинают говорить миллионы голосов через столетия. Кривая, возникшая из океана данных, нарисовала нам простую, но впечатляющую историю, понять которую мог бы каждый.
Поднялся одобрительный гул. Увиденное представляло собой вполне наглядный пример действия эволюции.
И тут же в комнате раздался еще один звук – звук откупориваемой бутылки вина.
Первая выборка всегда бесплатна
В прошлом мы активно пытались убедить людей из Google, что создание общедоступного инструмента для изучения n-грамов (который мы предложили назвать Bookworm, то есть «Книжный червь») представляет собой хорошую идею. Нас быстро ставили на место, задавая вопросы типа «Кто будет его использовать? Преподаватели. Теперь представьте себе, что каждый преподаватель в мире пользуется Bookworm и таких людей 100 тысяч. В масштабах Google 100 тысяч пользователей не способны ни на что повлиять».
Спорить с этим было сложно.
Однако как только у нас оказались данные и мы начали с ними играть, тут же стало происходить нечто странное: n-грамы занимали в нашей жизни все больше места. Не смотреть на них было просто невозможно. Мы начали работу со слова «эволюция». А что, если посмотреть на неправильные глаголы? А как насчет президентов? Или Эйнштейна? Иногда на вечеринке нам могли задать вопрос: когда появился термин «сексизм»? Мы вытаскивали компьютер и отвечали: в начале 1970-х. Когда люди начали писать donut вместо doughnut («пончик»)? Мы вновь доставали ноутбук и отвечали: в 50-х, сразу же после создания компании Dunkin’ Donuts.
Мы стали встречаться и обсуждать научное исследование, в котором бы описали наши самые интересные открытия. Мы думали, что написание научной работы поможет нам сделать следующий шаг вперед. Но каждый раз, когда мы начинали писать на эту тему, нас отвлекал от работы новый набор n-грамов. Закуски! Компании! Динозавры! К концу каждой встречи мы понимали, что любые наши предыдущие открытия меркли в сравнении с тем, что мы проверили только что. Ситуация казалась попросту невозможной. Мы никак не могли понять, как же нам справиться с этой одержимостью.
Нам стало ясно, что для того, чтобы собраться с мыслями, потребуется помощь других. Поэтому мы взяли четыре ноутбука, имевших доступ к базе данных n-грамов, – единственные четыре ноутбука в мире, способные работать с нашим прототипом интерфейса Bookworm, – и раздали их. Один отправился к Пинкеру, который принялся быстро создавать с его помощью графики для включения в книгу, которую писал в то время. Другой ушел Авиве, жене Эреца. Она тут же сообщила о новых открытиях – проверка n-грама для фамилии Мендельсон заставила ее углубиться в изучение темы цензуры. Теперь на этот наркотик подсела и она.
Третья машина отправилась к Мартину Новаку. Как-то раз, вернувшись домой, он показал Bookworm своему сыну Себастьяну, которому в то время было 16 лет. Себастьян ввел запрос. На экране появился график. Заинтересовавшись, он попробовал еще; а после еще двух запросов он забрал машину у Мартина и удалился. Уже через несколько минут работы он позвонил другу: «Ты должен сейчас же прийти и увидеть, что у меня есть». Друг пришел, и они отправляли запрос за запросом до глубокой ночи.
Последняя машина отправилась на Библиотечный саммит 2010 года, проводившийся компанией Google. Нас пригласили сделать на этом мероприятии доклад. Именно на этом саммите Google обычно рассказывала главам многих библиотек мира о последних новостях своего проекта по оцифровке.
Наверное, вы считаете библиотекарей тихими и спокойными людьми. Мы столкнулись с обратной картиной.
После того как мы объяснили базовую концепцию того, чем занимаемся, уровень энтузиазма в зале резко возрос – никто и никогда не слышал ни о чем подобном (по крайней мере в таких масштабах). Мы смогли привлечь внимание каждого человека, находившегося в переполненном зале. Ко времени, когда мы стали показывать примеры, комната наполнилась удивительной энергией. Наконец, после 45 минут общения мы перестали разговаривать и загрузили Bookworm.
Мы поинтересовались у аудитории: «А теперь… какие мы отправим запросы?» В ответ раздались бурные аплодисменты, подобных которым мы не слышали никогда в жизни. Но библиотекари еще и принялись кричать, не в силах сдержать эмоции:
– Сравните слова «он» и «она»!
– Давайте попробуем «глобальное потепление»!
– «Пираты» против «ниндзя»!
Комната буквально взорвалась от восторга, любопытства и ликования.
N-грамы очаровывали, манили и моментально вызывали привыкание. Казалось, будто мы открыли новую разновидность героина для «ботаников».
Боремся с зависимостью: новая стратегия
Сидевший в первом ряду Дэн Клэнси понимал, что наше странное изобретение будет интересным не только для нас самих и кучки библиотекарей, но и для множества пользователей Google. Он пообещал, что Google займется адаптацией нашего прототипа и выпустит его в свет в рамках проекта Google Books. Мы были в восторге.
Внезапно наш проект превратился из черепахи научного метода в стремительного кролика, работающего на энергии Google. Ровно через две недели потрясающие программисты из Google Йон Орвант, Мэттью Грей и Уильям Брокман создали прекрасную веб-версию Bookworm. Чтобы избежать длительного процесса согласования новых торговых марок внутри компании, мы были вынуждены сменить прежнее название на более простое и технологичное – Ngram Viewer. В 14:00 16 декабря 2010 г. журнал Science опубликовал нашу статью с описанием исследования, и одновременно с этим Google выпустила Ngram Viewer в свет.
За первые же 24 часа на сайт зашло три миллиона посетителей. Тут же стали появляться сообщения в Twitter. Обзоры Ngram Viewer варьировались от «вызывает привыкание» (@gbilder) до «вызывает тотальное привыкание» (@paulfroberts) и «божежтымой google ngram viewer вызывает привыкание, с каким я никогда прежде в жизни не сталкивался» (@rachsyme). Журнал Mother Jones окрестила его «возможно, величайшим расточителем времени в истории Интернета» [185]. Прочитав на следующее утро газету New York Times, мы с удивлением увидели рассказ о нашей работе на первой полосе.
Проблема была решена: раз уж мы не могли избавиться от парализующей волю тяги к n-грамам, то мы решили подсадить на них весь мир.
Мамочка, откуда берутся марсиане?
В сентябре 1610 года Галилей начал серию наблюдений планеты Марс. К декабрю того же года он заметил нечто примечательное – казалось, что Марс становится все меньше и меньше, и теперь его размер составлял всего треть от сентябрьского[186]. Галилей пришел к выводу, что за несколько месяцев планета удалилась от Земли на огромное расстояние, – и это стало одним из важнейших доказательств того, что Земля не находится в центре Вселенной. Однако, помимо этого, Галилей не мог увидеть практически ничего другого. Его телескоп был слишком примитивен, чтобы что-то рассказать о поверхности планеты.
Через несколько столетий Джованни Скиапарелли навел на Красную планету значительно более мощный телескоп[187]. Он увидел совершенно потрясающую вещь – поверхность планеты была испещрена массивными линиями. Рассказы Скиапарелли настолько вдохновили человека по имени Персиваль Лоуэлл, что в 1894 году тот решил выстроить свой собственный телескоп, чтобы увидеть эту же картину своими глазами. И он действительно увидел те же линии из своей обсерватории, созданной в городе Флагстафф, штат Аризона. Другие люди, работавшие в обсерватории Лоуэлла, подтвердили его открытия. На основе прямых наблюдений команда смогла создать подробные карты с указанием линий, формировавших на поверхности планеты плотную сеть.
Чем же могли быть эти протяженные линии на поверхности Марса?
Объяснение Лоуэлла базировалось на знании, широко распространенном уже сто лет назад. Ученым было известно, что на Марсе практически нет воды, за исключением ледяных шапок на полюсах планеты. Лоуэлл считал, что линии представляли собой масштабную систему ирригационных каналов, созданных жителями умиравшей планеты для доставки воды из полярных регионов. Рассматривая систему линий в свой телескоп, Лоуэлл пришел к заключению, что на Марсе есть разумная жизнь[188]. Мы не одиноки.
В ученой среде разгорелись ожесточенные споры по поводу работы Лоуэлла. Многие из ученых выражали сомнение. Но были и энтузиасты. Генри Норрис Рассел, которого называют иногда «отцом» американских астрономов[189], говорил о марсианских каналах: «Возможно, лучшая из существующих ныне и наиболее активно стимулирующая наше воображение теория была предложена мистером Лоуэллом и его коллегами из обсерватории в Аризоне» [190].
Эмоциональный заряд идей Лоуэлла произвел впечатление не только в научных кругах. Эти идеи, популярно изложенные в трех книгах, захватили весь мир. Тут же появились и другие новости. Один наблюдатель даже обнаружил в переплетенной сетке каналов, описанной Лоуэллом, трехбуквенное имя Бога на иврите (йгщ). К 1898 году Герберт Уэллс уже написал «Войну миров» [191]. Задолго до того, как на открытиях Лоуэлла осела пыль, марсиане захватили Землю – или, по крайней мере, наше воображение.
Научный энтузиазм по отношению к идеям Лоуэлла стих к 1910-м годам, когда для наблюдений стали использоваться более качественные телескопы. Тем не менее период полураспада идеи (особенно столь увлекательной) достаточно долог, и утверждения Лоуэлла, а также его карты ирригационной системы долго сохраняли свое влияние. Когда НАСА отправило первые непилотируемые аппараты для того, чтобы сделать изображения Красной планеты, глобус Марса, использовавшийся для планирования миссии, сопровождался детальными аннотациями и отметками, взятыми из работ Лоуэлла[192]. В 1964 году, когда аппараты «Маринер» пробились через глубины космоса к конечной точке своего путешествия, энтузиазм относительно жизни на Марсе достиг новых высот[193].
Изображения, присланные аппаратом «Маринер-4» при первом облете планеты, принесли немало разочарований. На планете не было каналов. Не было там и имени Бога. Никаких очевидных признаков разумной жизни. Ни одной из указанных Лоуэллом линий. Все, что было видно на фотографиях, – это масса обезвоженной красной почвы, на которой возвышались редкие кратеры.
Великая сила нового «скопа» состоит в том, что он может отправить нас в неизведанные миры. Однако его великая опасность состоит в том, что, увлекшись, мы склонны быстро переходить от того, что видим, к тому, что хотим увидеть. Даже самые серьезные данные уступают под натиском интерпретатора. Марсиане не прибыли к нам с Марса – они возникли благодаря воображению человека по имени Персиваль Лоуэлл.
Через всевозможные «скопы» мы смотрим на самих себя. Каждая новая линза представляет собой и новое зеркало.
Глава 7
Утопия, антиутопия и дат(а)топия
В книге пророка Самуила рассказывается, как царь Давид задался вопросом: сколько людей находится под его властью? Он распорядился провести перепись. Через девять месяцев он узнал результат – 1,3 миллиона боеспособных воинов[194]. Однако подсчеты Давида разгневали Господа, и тот наслал на его землю чуму.
На протяжении тысяч лет люди, так или иначе напоминавшие Давида, пытались дать количественную оценку различным аспектам жизни общества. И это время от времени оказывалось крайне рискованным предприятием.
В этой книге мы показали, как цифровые исторические записи позволяют совершенно по-новому оценить наш коллективный опыт. В наши дни мы не просто считаем овец или головы. Мы способны произвести тщательные замеры важнейших аспектов нашей истории, языка и культуры. Простые графики, продемонстрированные нами, представляют собой верхушку огромного айсберга. В грядущие десятилетия личные, цифровые и исторические данные полностью изменят наше представление о себе и об окружающем нас мире. И перед тем как попрощаться с вами, мы бы хотели поделиться своими соображениями относительно того, что происходит или что будет происходить в будущем с точки зрения науки, обучения и нового зарождающегося общества.
А затем мы зададимся, хотя и ненадолго, последним вопросом: хорошо ли все это? Окажутся ли большие данные очередной землей обетованной? Не приведут ли наши сегодняшние решения к бедствиям в будущем?
Цифровое прошлое
Данные n-грамов, о которых мы вам рассказывали, взяты из миллионов книг. По современным стандартам это действительно большие данные. Но пройдет много лет, и мы станем иначе оценивать происходящее сейчас. В конце концов, пара миллионов книг – это всего лишь крошечный кусочек нашего обширнейшего культурного наследия.
Вспомним хотя бы Эдгара Аллана По[195]. В отличие от многих писателей прежних эпох, По стремился обеспечивать себя исключительно писательским трудом. Однако при отсутствии международного закона об авторских правах это была не самая простая задача для писателя XIX века. Из финансовых соображений По публиковал свои произведения везде, где только мог, и во множестве жанров. Он писал стихи, рассказы, книги, пьесы, новеллы, обзоры, газетные статьи, эссе и письма. Он даже сфабриковал историю о путешествии на воздушном шаре через Атлантику и смог опубликовать ее на первой полосе нью-йоркской газеты Sun.
Когда мы думаем о будущем исторических записей и о том, что с ними станет, если их оцифровать, произведения По заставляют нас сразу же задаться массой вопросов. Какие части его наследия были оцифрованы в первую очередь? Как они оказались в цифровом мире? И что делать со всем остальным? Эти вопросы будут направлять наш короткий, но извилистый путь по историческим записям, имеющимся в настоящее время.
Книги. Поначалу наш Ngram Viewer черпал информацию из 4% всех когда-либо опубликованных книг, или примерно одной из каждых двадцати пяти. В 2012 году мы помогли Юрию Лину, Славу Петрову и другим работникам Google обновить версию Ngram Viewer[196] и включить в базу около 6% всех книг, или одну из каждых семнадцати. Разумеется, мы использовали лишь книги, предоставленные Google. Если же включить все тридцать миллионов оцифрованных на данный момент книг, то мы получим немногим более 20% от общего количества[197]. Что же ждет остальные 80%? Когда они смогут попасть в цифровые архивы?
К счастью, все больше новых книг появляется в цифровой форме и распространяется в электронном виде сразу же с момента публикации. Поскольку сейчас издается больше книг, чем когда-либо прежде в человеческой истории, доля книг, существующих в цифровой форме, значительно увеличивается с каждым днем.
Тем не менее у нас все равно остается проблема старых книг, существующих, к нашему неудобству, лишь в виде физических объектов. Именно здесь должны быть сконцентрированы основные усилия в области оцифровки. Частные корпорации и правительства занимаются этим вопросом, желая как сохранить наше коллективное наследие, так и заработать на нем. Во главе процесса остается Google. Компания уже оцифровала свыше 30 из 130 миллионов книг, существующих в наши дни. По ее расчетам, работа будет завершена к 2020 году. Иными словами, есть основания полагать, что вскоре подавляющее большинство имеющихся книг будет доступно в цифровом формате.
С количественной точки зрения это 25-кратное увеличение базы – с 4 до 100% – окажет огромное влияние на качество наблюдений, доступных для нашего культурного телескопа. Как не вспомнить о Галилее, вытолкнувшем Землю с центрального места во Вселенной с помощью телескопа, который был всего в тридцать раз более зорким, чем невооруженный глаз.
Несмотря на это, у нашего процесса изучения книг имеется целый ряд серьезных трудностей.
Первая из них связана с законодательством об авторском праве – более агрессивным, чем во времена По, и настолько же устаревшим. Хорошим примером может служить закон о продлении срока копирайта 1998 года. Согласно этому акту, авторские права на произведения сохраняются в течение 70 лет после смерти автора. По сути, это препятствует онлайновому изучению почти всех книг, опубликованных после 1923 года, причем в законе не делалось исключений для цифровых исследований или цифровых библиотек. Организации наподобие Internet Archive, HathiTrust и проекта «Гутенберг» прилагают массу усилий, чтобы сделать книги максимально доступными[198]. Однако состояние законодательства в области авторского права таково, что они практически бессильны, когда речь заходит о книгах, опубликованных в прошлом столетии.
Это оказывает влияние на остальные элементы нашей информационной экосистемы. Например, наша исследовательская группа под названием «Культурная обсерватория» создала открытые инструменты, более мощные, чем Ngram Viewer, и способные разделять и анализировать данные книг множеством разных способов. Мы способны моментально изучить, как использовалось слово «ворон» на территории Соединенных Штатов в поэтических произведениях авторов в возрасте чуть за тридцать. Но мы можем сделать это только по данным до 1923 года. Когда дело касается прошлого столетия, то любой юрист, стоящий на страже корпоративных интересов, воскликнет (на манер ворона – героя стихотворения По): «Никогда!»
Есть и еще одна, значительно более серьезная опасность, с которой сталкиваются книги. По мере того как цифровые книги и цифровая информация получают все большее распространение, выживание физических книг оказывается под угрозой сразу на нескольких фронтах. Уже через три года после появления на рынке платформы Kindle для чтения электронных книг продажи книг в формате Kindle на сайте Amazon превысили по объему продажи бумажных[199]. И это происходит не только в Amazon – в последние годы произошел вполне заметный сдвиг в сторону электронных книг на любых платформах и от любых продавцов. Разумеется, в долгосрочной перспективе печатный вид сохранят тексты огромной важности и значения, вроде Библии. Однако таких текстов немного. Длинный хвост ципфовского распределения показывает, что печать книг пойдет по пути развития неправильных глаголов. Через несколько лет книги наподобие нашей не будут иметь печатного вида.
Книги в своем физическом виде находятся под угрозой даже в своей привычной цитадели – библиотеке[200]. На протяжении тысячелетий библиотека была единственным учреждением, призванным сохранять исторические записи. Однако в отличие от активно развивающихся онлайн-библиотек, их традиционные физические сородичи сталкиваются с большими проблемами. Через несколько лет у 60% библиотек бюджет снизится или вообще исчезнет. При отсутствии достаточного объема площадей и финансов библиотекам придется избавляться от целого ряда старых книг, чтобы выделить место для новых. Проблема состоит в том, что библиотеки не могут просто раздать свои старые книги. В библиотечные книги встроены специальные устройства, препятствующие воровству. И это приведет к тому, что честные люди будут время от времени считать, что эти книги были когда-то похищены из библиотек, и приносить их обратно. Удалять эти отслеживающие устройства довольно дорого. Поэтому библиотеки часто предпочитают сделать то, что кажется нам немыслимым, – они тайно уничтожают книги. Это происходит в огромных масштабах. Крупные библиотеки иногда разом избавляются от сотен тысяч книг.
Какие же книги покидают библиотеки? Практика варьируется, однако в целом библиотеки не особенно церемонятся с книгами. Мало кто прилагает усилия для отслеживания того, что мы теряем. В одном недавнем случае были уничтожены книги из библиотеки бывшего британского премьер-министра Дэвида Ллойд-Джорджа. Время от времени библиотека будет решать, от каких книг избавиться, проверяя, какие из них уже оцифровала Google. В результате мы внезапно можем лишиться значительной доли своего культурного наследия. Несколько глав назад мы рассказали о том, как цензура способна задавить те или иные идеи. Здесь же происходит обратное – попытки сделать книги более доступными угрожают их физическому выживанию. Оцифровка книг приводит к весьма противоречивым результатам.
Газеты. Разумеется, исторические записи не ограничиваются одними лишь книгами. К примеру, «кругосветный розыгрыш» По появился в газете. Старые газеты представляют собой уникальный ресурс, в котором отражены повседневные проблемы городов, общественных движений и других социальных групп. Насколько велики шансы найти цифровое издание «кругосветного розыгрыша» По?
Поначалу мы считали, что шансы на это велики. Оцифровка старых газет приобрела значительные масштабы. К настоящему времени ведущие газеты вроде New York Times, Boston Globe и многих других уже полностью оцифровали свои архивы. Национальный фонд гуманитарных наук профинансировал оцифровку старых американских газет – около шести миллионов страниц, отражавших историю целого столетия. Прогрессировали и другие страны. В рамках одного лишь проекта Australia’s Trove было оцифровано около ста миллионов газетных статей. Этой деятельностью в течение какого-то периода занималась и Google, оцифровав архивы двух тысяч газет[201].
Однако, несмотря на эти впечатляющие шаги, никакие усилия по оцифровке газет не сопоставимы по масштабу и покрытию с книжным проектом Google.
Идеальным примером этого неравенства может считаться «кругосветный розыгрыш» По. Найти цифровое издание этого розыгрыша несложно. Однако это связано с успехом оцифровки книг, а не газет. Хвост этой истории настолько велик, что рассказ о ней возникает во множестве книг, описывающих жизнь и работу По. Эти книги, как и книги самого По, уже были оцифрованы.
Однако вам не удастся найти цифровую копию газеты, которая изначально опубликовала эту историю. Национальный гуманитарный фонд профинансировал оцифровку выпусков нью-йоркской газеты Sun лишь за период с 1859 по 1920 год. Розыгрыш, опубликованный в 1844 году, оказывается очередным «белым пятном» в процессе оцифровки газет. Основная масса газетных статей, написанных По, не оцифрована, и никто не знает, когда это будет сделано.
Неопубликованные тексты. Книгопечатание представляет собой сравнительно недавнее изобретение. До появления печатного станка тексты распространялись в виде рукописей, написанных и скопированных от руки. В наши дни множество прекрасных текстов выживает лишь в этой форме. Многие знаменитые рукописи, наподобие манускриптов Мертвого моря, уже были оцифрованы, также как и другие важные коллекции, например греческие рукописи в Британской библиотеке. Однако систематические усилия по оцифровке рукописей предпринимаются лишь на местном уровне[202].
Разумеется, создание неопубликованных текстов не остановилось с появлением книгопечатания. После По осталось 422 письма. В его случае письма были оцифрованы, однако история напоминает то, что приключилось с его «кругосветным розыгрышем»: письма По подверглись цифровой обработке только потому, что он был очень знаменит и они упоминались во множестве источников. Другие материалы самого По и других авторов о нем были оцифрованы в рамках любительских проектов (например, проекта Austin’s Harry Ransom Center в университете штата Техас). В университете можно найти цифровые изображения отдельных рукописей По, адресованных ему писем и некоторых незаконченных произведений. Образ Эдгара Аллана По можно увидеть даже на карточках-вкладышах в сигаретные пачки. До наступления тех времен, когда определенную культурную нишу в США заняли карточки с изображениями бейсболистов, многие актеры, модели и писатели вносили свой посильный вклад в стимулирование продаж табака.
Но когда речь заходит о неопубликованном материале, наследие По оказывается значительно менее репрезентативным. Люди вроде него имеют звездный статус. Почти все, связанное с ними, будет найдено и оцифровано. А что насчет всех остальных? Заметки, журналы и переписка 99% других людей пылится на чердаках и в старых сундуках. Разобраться с ними крайне сложно, и усилия по их оцифровке представляют собой редкие исключения.
Один из немногих примеров успешной попытки разобраться с материалом такого рода был предпринят Афсане Наджамбади, преподавательницей из Гарварда, изучающей иранских женщин. Она буквально ходила от двери к двери в иранских городах, спрашивая жителей о том, не сохранились ли у них какие-нибудь исторические документы, связанные с жизнью женщин. Затем она тщательно создавала цифровые образы всего, что удавалось найти. Результат – архив под названием «Миры женщин в Иране при династии Каджаров» – открыт в свободном доступе по адресу: http://www.qajarwomen.org. Это настоящая сокровищница всего, от завещаний до почтовых открыток и брачных контрактов. Подобные сокровища имеются во всех обществах. Однако время медленно убивает их.
И, как ни печально, для остановки этого процесса не предпринимается никаких систематических усилий.
Физические объекты. Неподалеку от старого дома По в Ричмонде, штат Виргиния, располагается музей, где можно увидеть его трость, кровать, на которой он спал подростком, кое-что из его старой одежды, фортепьяно его жены, портрет его отчима и даже прядь волос. Такие музеи напоминают нам, что человеческая история представляет собой нечто большее, чем могут сказать слова. Историю можно найти и в картах, которые мы рисовали, и в созданных нами скульптурах. Ее можно встретить и в выстроенных нами домах, и в полях, которые мы возделывали, и в одежде, которую мы носили. Она присутствует и в еде, которой мы питались, и в музыке, которую мы играли, и в богах, в которых мы верили. Она живет и в пещерах, которые мы украшали рисунками, и в окаменелостях созданий, живших до нас.
Большая часть этого материала будет неминуемо утрачена – создавать новое мы умеем гораздо лучше, чем хранить уже созданное. Но в наши дни становится возможным сохранить куда больше, чем когда-либо в прошлом. Проекты типа Europeana пытаются придать цифровую форму и разместить в сети Интернет миллионы культурных артефактов из музеев, архивов и хранилищ по всей Европе[203]. Объекты искусства можно сфотографировать с огромным разрешением, в двух или даже трех измерениях. Это позволяет сайтам вроде http://www.artsy.net помогать людям увидеть множество самых значительных произведений искусства в мире. Вам нравится горшок, созданный в эпоху неолита? В наши дни вы можете отсканировать его в трех измерениях, а затем воспользоваться 3D-принтером, чтобы создать его копию. Какую часть истории мы сможем сохранить, пока она не исчезла?
Для того чтобы что-то изменить, нам нужно мыслить масштабно.
Уже сейчас мы живем в эпоху большой науки. Большой адронный коллайдер, предназначенный для поисков бозона Хиггса, обошелся в 9 миллиардов долларов. Проект «Геном человека» (цель которого состоит в определении последовательности символов, записывающих химический код, лежащий в основе человеческой жизни) стоил 3 миллиарда. Средства, которые мы вкладываем в понимание человеческой истории, значительно меньше – весь годовой бюджет Национального гуманитарного фонда наук составляет около 150 миллионов долларов.
Оцифровка исторических данных представляет собой беспрецедентную возможность для организации работы в области гуманитарных наук по новым принципам. Если мы способны оправдать проекты с миллиардными бюджетами в области точных наук, то нам стоит подумать и о потенциальном влиянии многомиллиардного проекта, направленного на фиксирование, сохранение и обмен самыми важными и деликатными примерами нашей истории. Эти данные должны быть доступны нам и нашим детям. Работая сообща, команды ученых и инженеров могут создать невероятно мощные общие ресурсы. И эти усилия способны легко привести к появлению аналогов Google и Facebook завтрашнего дня. В конечном счете обе эти компании начали с попыток оцифровать те или иные аспекты нашего общества. Мир больших данных в области гуманитарных наук еще ждет своего часа.
Тем не менее, несмотря на значительный объем работ, который нам предстоит, оцифровка исторических данных уже сделала значительный шаг вперед. Наличие ресурсов, доступ к которым можно получить одним нажатием клавиши, меняет наше восприятие прошлого и позволяет без проблем показывать нашим детям то, что в прежние времена требовало путешествия в Лувр или Смитсоновский институт. Эти ресурсы изменят стиль общения ученых с прошлым. Они помогут нам лучше наблюдать и понимать, каким образом литература и искусство, а также вопросы войны и любви заняли свое теперешнее место.
Цифровое настоящее
Эдгар Аллан По изобрел жанр детектива, драматическая суть которого состоит в том, что даже у кажущихся обычными людей могут иметься свои темные секреты. Давайте представим себе, что вы – исторический сыщик, желающий узнать темные секреты самого По (суть его внутреннего мира или самые сокровенные мысли). Для начала было бы неплохо взглянуть на его личную корреспонденцию. Оставшиеся после По 422 потрясающих письма еще ждут своего исследователя.
Но знаете, чье наследие сохранено еще лучше, чем наследие По? Ваше. Если вы – обычный взрослый американец, то вы отправляете 422 электронных письма каждые две недели. Не исключено, что в вашем почтовом ящике сейчас можно найти письма за последние 10 лет. Это в сотни раз больше, чем объем материала, оставшийся от По. И такой фантастический архив есть не только у вас. В 2010 году два миллиарда людей отправили 10 триллионов электронных писем, не считая спама[204]. В наши дни корреспонденция среднего человека сохраняется куда лучше, чем послания большинства экс-президентов США.
Данные электронных писем представляют собой мощный ресурс. Они не только документируют детали нашего прошлого, но и позволяют нам понять себя по-новому. Возьмем, к примеру, электронную корреспонденцию одного из нас – авторов данной книги. Простой анализ n-грамов его почтового ящика способен многое сказать о его жизни. Вы можете увидеть, как с годами он все чаще переходит с французского языка на английский, что связано с его переездом из Франции в США. У него появляются и исчезают друзья. Падает уровень юношеского энтузиазма – в переписке все реже можно встретить слово «вечеринка». В то же время мы видим, как постепенно место вечеринок начинает занимать имя любви всей его жизни. Изучая свои собственные n-грамы подобным образом, мы раз за разом открываем вещи, которые когда-то были для нас важными, но потом начали постепенно забываться. Большие данные необязательно должны быть сложными. Они вполне могут стать окном в нашу собственную жизнь, в нашу «количественную» личность.
Человеческие цифровые воспоминания не ограничиваются перепиской. Помимо пятнадцати тысяч электронных писем, обычный человек ежегодно отправляет и получает 5 тысяч приложений к электронным письмам. Он «лайкает» около 140 сообщений и загружает 18 изображений на Facebook и еще два – в Instagram. Он пишет 9 твитов. Он просматривает 20 секунд видео на YouTube. Он добавляет 52 файла в Dropbox. Он взаимодействует с 53 друзьями в социальной сети. И эти впечатляющие средние значения еще не включают в себя все образы, документы, видео и музыку, которые мы создаем, но не выкладываем в общий доступ в сеть Интернет. И, конечно же, не стоит забывать о том, что пока что у почти трех четвертей населения мира отсутствует доступ в Интернет.
Взятый в совокупности, этот материал содержит удивительно подробные данные о жизни миллиардов людей – данные, которые просто не существовали еще десять лет назад[205]. У такой ситуации еще не было прецедента в человеческой истории. Наша цивилизация передает с помощью «Твиттера» больше слов каждый час, чем имеется во всех доживших до наших дней текстах из Древней Греции. В сравнении с обычным человеком наших дней человек типа По выглядит куда более загадочным и непонятным.
Но и сегодняшние люди представляют собой подлинную тайну в сравнении с людьми завтрашнего дня.
Цифровое будущее
В самом начале этой книги мы сказали, что обычный современный человек создает немногим менее одного терабайта данных каждый год. Но некоторые люди превосходят усредненный показатель. Один из таких людей – Дуэйн Рой, младенец, живущий в Бостоне. Он регулярно производит подобный объем данных в течение каждых выходных.
Почему же Дуэйн создает так много битов? Нужно сказать, что он – сын профессора Деба Роя, управляющего работой группы Cognitive Machines в MIT Media Lab, и профессора Рупал Пател, изучающей патологию речи в Северо-Западном университете. Оба родителя Дуэйна с большим интересом изучают то, как дети учатся говорить. Это важно для Пател, поскольку именно это входит в выбранную ею область исследований. Для Роя это важно, поскольку он хочет использовать те же самые принципы для обучения роботов общению на человеческом языке. Супруги поняли, что для понимания того, как дети овладевают речью, нам недостаточно данных. Никто и никогда подробно не документировал того, как развиваются по мере взросления отношения детей и языка.
Когда Пател забеременела, пара решила заняться этой проблемой. Для этого родители стали тщательно фиксировать все, происходящее в первые три года жизни их новорожденного ребенка. Получив грант от Национального научного фонда на проект Human Speechome Project (проект «Речома человека», по аналогии с «геномом»), Рой оснастил свой дом одиннадцатью видеокамерами с высоким разрешением и четырнадцатью микрофонами. Около тысячи километров кабелей соединяют эти устройства с центром обработки данных, расположенным в подвале. Каждый день в этом подвале накапливается более 300 гигабайт информации о Дуэйне. Каждый его шаг, любой производимый им шум, всякий слышимый звук и все, что он видит, фиксируется для научных целей (камеры выключаются, когда ребенок засыпает, и, очевидно, не могут проследить за ним, когда он находится за пределами дома).
Очевидно, что при столь большом объеме входящей информации центр обработки данных, расположенный в подвале, постепенно заполняется до предела. Именно поэтому старшему Рою приходится регулярно вытаскивать из компьютера множество жестких дисков и архивировать эти данные на более мощной компьютерной системе, созданной им на работе. Для отслеживания происходящего с одним маленьким мальчиком он использует целую сеть дорогостоящих процессоров и дисков, способных хранить петабайт, или один миллион гигабайт информации. Название этого проекта в точности отражает его суть: TotalRecall («Вспомнить все») [206].
В наши дни Дуэйн Рой может считаться исключением. Жизнь мало кого из нас пытаются записать и сохранить на видео. Однако по мере того как цифровые СМИ и человеческая жизнь переплетаются все теснее, информационный след такого рода станет вполне привычным.
Мы уже можем наблюдать, как некоторые типы устройств участвуют в этой трансформации. Не так давно Google представила очки Google Glass, систему добавленной реальности, веб-камера которой отслеживает все, находящееся в поле вашего зрения, а небольшой монитор снабжает вас информацией о том, что вы видите и делаете в режиме реального времени. Вы собираетесь готовить пирог? Очки распознают это, найдут для вас рецепт и покажут пошаговую инструкцию. Вы не узнаете подошедшего к вам человека? Нет проблем – с помощью системы распознавания лиц Google Glass напомнит вам его имя. Пока что эти очки кажутся глупыми. Но помните ли вы, насколько глупо выглядели люди, громко разговаривавшие сами с собой, на заре существования мобильных телефонов? Вне зависимости от успеха идеи Google Glass у технологии подобного рода впереди большое будущее.
Подобные устройства значительно упрощают фиксацию происходящего в нашей жизни в стиле Дуэйна Роя[207]. Поначалу они не будут особенно популярны – ведь это явное вторжение в частную жизнь. Однако Интернет уже меняет наши представления о нормах частной жизни, побуждая людей делиться все большими объемами личной информации, будь то дневники или объявление об изменении семейного положения. Мы знаем, как заканчиваются истории такого рода: кто-нибудь неминуемо начнет добровольно фиксировать малейшие подробности своей жизни, и появится множество веб-сайтов, помогающих в этом.
У этого есть очевидные преимущества. При такой фиксации жизни вы ничего не забудете: вам будет достаточно просто пересмотреть информацию о том или ином пережитом сенсорном опыте. И это может быть благом (иногда). Это обезопасит нашу жизнь. В конце концов, кто будет причинять вред другому человеку, если информация о любом преступлении тут же попадает в эфир? Вы будете получать от людей со всего мира советы, как поступить в каждой жизненной ситуации (хотя это может вам быстро надоесть). Время от времени вы захотите выйти из Сети, отключить устройство фиксации своей жизни для какого-то интимного момента или принятия ванной. Скорее всего, так будут поступать большинство людей (но не все).
Подобная запись жизни станет одновременно окном и в населяемый нами мир, и в наши тела.
«Носимая» электроника вроде Nike+ FuelBand и Fitbit уже отслеживает, сколько шагов вы сделали, на сколько ступенек взобрались и сколько калорий сожгли в течение дня. Устройство под названием Scanadu Scout выполняет более важную задачу. Этот небольшой диск за несколько секунд отслеживает и фиксирует температуру вашего тела, пульс и уровень кислорода в крови. Также он способен сделать электрокардиограмму и даже проанализировать состав мочи. По сути, Scout представляет собой устройство, которое раньше можно было увидеть разве что в фантастических фильмах типа «Звездного пути». Полученные данные позволят превратить информацию о вашем состоянии в своеобразный медицинский отчет, наполненный подробностями обо всех бессознательных процессах, заставляющих функционировать наши тела. Если что-то идет не так, устройства такого рода смогут немедленно уведомить об этом врачей. Привычная сегодня практика посещения доктора в рамках ежегодной диспансеризации в корне изменится. Используя подобные устройства телемедицины, врачи смогут постоянно отслеживать происходящее с вами. При необходимости они позвонят вам даже раньше, чем вы к ним обратитесь.
Регистрация жизни позволит нам записывать в мельчайших подробностях все происходящее как в нашем теле, так и вне его. Но как насчет нашего самого изменчивого опыта – человеческой мысли?
Мы думаем, что описанные в научной фантастике приборы, способные расшифровывать каждую мысль пользователя, вряд ли станут реальностью в ближайшем будущем. Основная проблема здесь состоит в том, что машину сложно научить придавать смысл обычным волнам, возникающим в мозге. Однако возможны и другие, достаточно мощные обходные пути. В течение последнего десятилетия ученые успешно разрабатывают интерфейсы «мозг – машина», позволяющие парализованным людям двигать протезы силой мысли или без проводов передавать команды для перемещения компьютерной мыши[208]. Некоторые интерфейсы используются для общения с людьми, которые, по обычному медицинскому определению, находятся в коме. Иногда такие интерфейсы уже используются в игрушках.
Эти интерфейсы основаны на том обстоятельстве, что, хотя обычные мозговые волны непонятны для механического считывающего устройства, мы можем натренировать свой мозг так, чтобы сделать его деятельность более ясной для машины. Это достигается за счет сознательной генерации конкретных нейронных сигналов, которые машина уже может распознать. В каждом интерфейсе такого рода – будь то сканер функционального МРТ, отслеживающий ток крови в мозге, электроэнцефалограмма, отслеживающая его электрическую активность, или имплантант, присоединенный к небольшой группе клеток мозга, – все, что делает машина, это ищет согласованный заранее сигнал и отвечает на него заранее спрограммированным образом. Данный подход оказался невероятно успешным. Несложно представить себе системы, позволяющие нам использовать собственный мозг для управления различными приспособлениями или даже отправки сообщений друг другу. И это – лишь начало.
Когда мы думаем, наши размышления часто приобретают форму последовательности слов. Для описания этого процесса используется специальное выражение – поток сознания[209]. Существование потока сознания не может по-своему не удивлять. Слова используются для общения с другими людьми. Не вполне очевидно, почему мы также используем их для организации своих внутренних мыслей, когда в процесс не вовлечен никто со стороны. Но тем не менее мы все это делаем.
С точки зрения мозга, нервный сигнал для интерфейса между мозгом и машиной не особенно отличается от слова, произнесенного вслух. По сути, клетки мозга всего лишь «выстреливают» определенные последовательности. Основное отличие состоит в том, что вместо использования этой последовательности для разговора с человеком мы применяем его для разговора с машиной. Нет ничего невероятного в том, что люди в какой-то момент привыкнут сопровождать свой внутренний монолог определенными специфическими терминами, создавая работающую в режиме реального времени закрытую систему, взаимодействующую с компьютерами. Тем самым мы сможем зафиксировать свой внутренний монолог.
Каждый чувственный опыт, каждое биение нашего сердца, каждое урчание в животе и каждая мысль, возникающая у нас в мозгу, – все это, в принципе, может быть загружено в память компьютера. На самом деле регистрация всех этих состояний может невероятно изменить нашу жизнь. И изменится не только сама жизнь. Эта система позволит записям о нашей жизни пережить нас самих. Нам удастся оставить полную хронику своего существования детям и любимым. Они запомнят наши триумфы и сожаления, нашу мудрость и нашу глупость – цифровую загробную жизнь. При желании вы могли бы продать эту запись своей жизни какой-нибудь компании или поделиться ею с учеными. В библиотеке будущего биографический раздел будет содержать не только истории людских жизней, но и полную их трансляцию.
Правда и последствия
15 апреля 2013 года в 200 метрах от финишной черты бостонского марафона взорвались две бомбы. Шрапнель врезалась в толпу, собравшуюся у финиша. Трое зрителей были убиты. Сотни ранены. Не менее четырнадцати были госпитализированы с тяжелыми травмами, приведшими к ампутации. В течение нескольких дней после этого события ФБР отчаянно искала улики, но их было крайне мало. Бомбы были изготовлены из скороварок, начиненных гвоздями, шариками от подшипников и металлическим ломом. Любой из этих предметов абсолютно доступен. За соревнованием наблюдало полмиллиона зрителей. Кто же из них привел в действие бомбы? Это была детективная история невероятного напряжения.
Однако в рукаве у ФБР был сильный козырь – цифровая история[210]. Сотрудники бюро поняли, что в каком-то смысле присутствие огромного количества людей на месте преступления было большим благом. Зрители делали фотографии. Над магазинами вдоль улицы, на которой проводился марафон, висело множество камер. При наличии такого количества камер в столь небольшом пространстве и множества изображений, снятых за столь короткое время, кто-то должен был наверняка сфотографировать подозреваемого с рюкзаком.
Эта догадка оказалась верной, и уже через несколько дней следователи опубликовали фотографии, сделанные камерами наблюдения магазина Lord & Taylor, на которых четко видны двое террористов. Тут же объявились очевидцы со своими фотографиями, запечатлевшими лица подозреваемых со значительно более высоким разрешением. После того как фотографии террористов распространились в Интернете, расплата настала быстро. Один преступник был убит в перестрелке с полицией, другого удалось задержать. Так был предотвращен еще один взрыв на нью-йоркской площади Таймс-сквер. Плохие парни, зарубите себе на носу: где бы и с кем вы ни были, большие данные способны вас найти.
Однако оцифрованная история способна не только выследить плохих парней, но и повредить невиновным.
В ноябре 2011 года 15-летняя Ретея Парсонс отправилась на вечеринку, где, по некоторым свидетельствам, была изнасилована четырьмя парнями. Насильники фотографировали происходящее, а затем эти фотографии стали распространяться через электронные письма и Facebook. Вместо того чтобы посочувствовать Ретее, ровесники превратили ее жизнь в кошмар. Столкнувшись с постоянными издевательствами, она принялась менять школы. Ее семья переехала в другое место. Порой она на несколько недель ложилась в больницу, но так и не могла скрыться от стыда как в Сети, так и вне ее. Однажды появившись, эти цифровые фотографии уже не могли никуда деться. В апреле 2013 года Ретея Парсонс покончила с собой[211].
Данные – это власть
С момента зарождения фотографии ее сопровождало странное суеверие, согласно которому фотокамера, создающая ваше изображение, крадет крошечный кусочек вашей души. В этой идее что-то есть. Как мы только что увидели, одно-единственное изображение человека способно порой дать над ним власть. Могут ли большие данные украсть вашу душу?
Ответ на этот вопрос нужно отыскать как можно быстрее. В былые времена требовалось немало сознательных усилий для сохранения информации о нашей жизни для потомков, поэтому люди фиксировали довольно мало. Но мы прошли немалый путь с тех пор, как стали делать изображения на стенах пещер. Совсем скоро нам будет настолько просто фиксировать все, происходящее с нами, что многие станут это делать не задумываясь. И каждый раз придется вновь решать, что нужно фиксировать, а что – нет. В результате сохранение информации превращается из технологической загадки в моральную дилемму, которая касается огромного количества вещей. Что лучше не фиксировать? А если у нас есть запись всего происходящего с нами, то кто имеет к ней доступ?
Сложно сказать, какими будут ответы на эти вопросы. Нам куда проще размышлять о будущем технологий, чем о будущем наших собственных ценностей. Возьмем пример Дуэйна Роя. Даже если проект призван развивать науку, нормально ли, что степень защиты частной жизни у двухлетнего мальчика меньше, чем у президента Соединенных Штатов? Многие люди будут выступать против того, чтобы их жизнь документировалась таким образом. Однако социальные сети стремительно меняют социальные нормы. Сейчас мы делимся в Сети множеством вещей, которые тщательно охранялись 20 или даже 5 лет назад. Возможно, это будет неважно для ребят из поколения Дуэйна. Возможно, они даже будут думать, что не иметь записи всего, происходившего с ними в первые годы жизни, – это совсем не круто.
Считайте нас старомодными, однако нам очевидна вся опасность публичных записей происходящего в частной жизни. Конечно же, специалисты по маркетингу будут использовать их для того, чтобы и дальше топить нас в море раздражающей рекламы. Уже сейчас розничная сеть Target может использовать свои аналитические данные для вычисления того, кто из его клиенток ожидает ребенка. Как-то раз купоны Target донесли информацию о беременности девушки-подростка ее ничего не подозревавшим родителям. Можно только представить себе, насколько неприятным для нас будет нерегулируемый доступ специалистов по маркетингу и глобальных корпораций к нашей личной информации[212].
Однако вмешательство со стороны корпораций – это не главное, чего стоит опасаться. Нужно помнить о том, что может сделать правительство[213]. Уже сейчас компании типа Google и Facebook открывают свои записи для федерального правительства в случаях, когда на кону стоит национальная безопасность. Иногда правительству удается получить доступ к этой информации, нравится это компании или нет. В сентябре 2012 года уголовный суд Нью-Йорка обязал Twitter предоставить доступ к частным сообщениям Малкольма Харриса, одного из лидеров движения Occupy Wall Street («Захвати Уолл-стрит»). В 2013 году разоблачения Эдварда Сноудена вызвали немалое возмущение в стране и заставили президента Обаму убеждать американцев в том, что никто не прослушивает их телефонные звонки. Где проходит граница между законным общественным интересом и деятельностью Большого Брата? Очевидно, что она должна существовать. В мире, где правительство может получить доступ к личной информации любого человека в любой момент времени, сопротивление будет бесполезным.
Еще страшнее антиутопии, представляющиеся в том случае, если регистрация мышления станет технически возможной. Представьте себе, что некое тоталитарное правительство вынудит всех жителей постоянно фиксировать каждую свою мысль. Граждан будут наказывать за отказ это делать, а частные мысли станут делом прошлого. И это еще не самый пугающий сценарий. Представьте себе, что правительство станет навязывать гражданам определенный тип мыслей, граждане будут обязаны повторять их раз за разом, подобно школьникам, заучивающим наизусть клятву верности или катехизис. Потерявшись в обязательном потоке сознания, граждане станут узниками собственных мыслей.
Это не может не пугать. Хотя регистрация жизни разрабатывается пока лишь в теории, уже заметны некоторые шаги в обратном направлении[214]. Так, владельцы кафе 5 Point в Сиэтле обеспокоены, что присутствие технологий регистрации жизни помешает людям заниматься привычными для них развлечениями. Очевидно, что отказ от развлечений плохо скажется на бизнесе, поэтому владельцы бара запретили заходить туда людям, носящим Google Glass. Сетевой стартап под названием Snapchat предлагает своим пользователям отправлять сообщения, которые удаляются после определенного периода времени[215]. По мере того как регистрация жизни становится все более распространенным делом, возникает необходимость в незаписываемых местах, незаписываемом времени и незаписываемом общении.
Наша жизнь всегда отбрасывает цифровую тень. Уже началась битва за большие тени, за право владеть собственной историей и контроль над доступом к ней. Чем станут новые цифровые права? Огромной и занимательной детской площадкой? Мощным инструментом правоохранительных органов? Нравственным наследием для будущих поколений? Или же становым хребтом государственного надзора? Этот вопрос будет лежать в основе самого значительного морального конфликта грядущего столетия.
Родственные души
Телескоп Галилея – две линзы, обращенные друг к другу, – знаменовал собой поворотную точку в истории нашей цивилизации. Увиденное Галилеем противоречило доктрине Католической церкви. Инквизиция посадила Галилея под домашний арест, где он оставался до конца своих дней. Однако Церковь не могла арестовать его идеи. После Галилея – и в значительной степени благодаря ему – долгое господство Церкви над западной мыслью стало угасать.
На ее месте возникли две великие интеллектуальные традиции. Первой стали точные науки, призванные разобраться с природой Вселенной с помощью эмпирического наблюдения. Второй стали гуманитарные науки – изучение человеческой природы с помощью тщательного критического анализа. В совокупности эти две традиции сделали множество подарков для западной цивилизации – начиная со свободы и демократии и заканчивая инженерными и технологическими новшествами.
Однако эти близкие направления оказались отрезаны друг от друга. И сегодня обычному студенту приходится выбирать между точными или гуманитарными науками; редко встречаются учебные программы, охватывающие обе области. Типичный исследователь должен примкнуть к одной или другой группе. Эти границы начинают пролегать в школах, университетах и во всей экосистеме знаний. Мы изучаем математику. Мы изучаем творчество Шекспира. Но мы не изучаем их вместе.
По крайней мере, так было до недавних пор[216]. Работавший в Стэнфорде итальянский ученый Франко Моретти обратился к цифровым книгам для изучения системы персонажей и их взаимодействия в произведениях Шекспира, применяя методы и подходы из областей компьютерных наук и статистической физики в совершенно непривычной области. Мэттью Джокерс, преподаватель литературы в Университете штата Небраска, изучает такие вещи, как статистическое распределение местоимений, что позволяет ему анализировать литературные связи в романах XIX века. Работающий в Национальном гуманитарном фонде Бретт Бобли возглавляет работу инновационной программы Digging into Data Challenge («Вызов: поройся в данных»), помогающей гуманитариям по всей территории Соединенных Штатов разобраться, что полезного могут привнести новые доступные данные в их работу. Все эти люди заходят на территории, куда математика прежде не добиралась.
Исключением может считаться Дартмут, где математик по имени Дэниел Рокмор использует цифровые книги для изучения влияния стиля одних авторов на других. Он использует значительно больше математики, чем Моретти, но сам читает значительно меньше. Однако их можно считать родственными душами. Стоит вспомнить и об университете штата Техас в Остине, где психолог Джеймс Пеннебейкер отслеживает связь между распределением местоимений в тексте и настроением автора. Пеннебейкер и Джокерс представляют совершенно разные интеллектуальные традиции, но их тоже можно считать родственными душами. А работающий в департаменте научной и технологической политики Белого дома Том Калил реализует, по личной просьбе президента Обамы, еще один значительный проект в области больших данных. Калил и Бобли помогают разным людям, но делают, по сути, одно и то же дело.
Происходящее меняет саму природу исторических данных и позволяет стирать границы между точными и гуманитарными науками. Возникающая в результате неразбериха имеет множество названий. Историки, занимающиеся подобными вещами, начинают называть себя «цифровыми гуманитариями». На факультетах лингвистики появились «корпусные лингвисты». Психологи и социологи иногда говорят, что ведут «вычислительные исследования в общественных науках». А многие возникающие в Кремниевой долине стартапы считают подобную динамичную неразбериху само собой разумеющейся.
Читать бесплатно другие книги:
