Парадокс одиночества. Глобальное исследование нарастающей разобщенности человечества и ее последствий

Сослуживцы

Доктор Джули Карпентер – научный сотрудник лаборатории цифрового опыта Accenture в Силиконовой долине. Она также преподает и является научным сотрудником Калифорнийского государственного политехнического университета в Сан-Луис-Обиспо. Одной из ее основных областей деятельности являются отношения между солдатами и роботами, особенно роботами, похожими на ВАЛЛ-И, которые ползают по открытым дорогам и через узкие дверные проемы для обнаружения и обезвреживания самодельных взрывных устройств (СВУ) в зонах боевых действий, таких как Афганистан и Ирак. Ее выводы являются убедительным свидетельством глубины чувств, которые могут вызывать роботы.

Один солдат армии США сообщил, что заботится о своем роботе, «как о члене команды». Другой солдат вспомнил, как потерял робота во время миссии в 2006 году. Он называл его «Стейси 4» в честь своей жены.

«После того как миссия была завершена, и я собрал робота как мог, я оплакивал его потерю. Я чувствовал себя так, словно потерял дорогого члена семьи».

Одним из наиболее широко используемых видов военных роботов является MARCbot (многофункциональный, подвижный, дистанционно управляемый робот), робот для обезвреживания бомб, получивший известность во время второй войны в Ираке. Его первому прототипу приписывают обнаружение более тридцати СВУ на Багдад-Эйрпорт-роуд, печально известном опасном маршруте между международным аэропортом Багдада и Зеленой зоной. Позже в Ирак было отправлено более 1000 MARCbots по цене примерно 19 000 долларов каждый.

MARCbots примечательны не только своей функцией. Благодаря своему выразительному внешнему виду – толстым шинам, тонкому шасси, торчащей «голове» с любопытными навесными камерами – они также примечательны тем, как легко к ним привязываются солдаты. Многие считают эти надежные машины братьями по оружию. В 2013 году – в ответ на статью об исследовании доктора Карпентера – несколько солдат напислаи в Reddit, чтобы поделиться своими историями о потерях роботов на поле боя. Один пользователь оплакивал робота по имени «Бумер» следующими словами: «Бумер был хорошим MARCbot. Эти чертовы подонки из Армии Махди забрали его из этого мира слишком рано». Другой солдат, с ником «mastersterling», ответил: «Я сожалею о вашей потере. Некоторые из солдат, с которыми я служил, потеряли MARCbot, и они наградили его Пурпурным Сердцем, медалью Бронзовой Звезды, провели полное захоронение с салютом из 21 орудия в Таджи [военная база к северу от Багдада]. Некоторые люди расстроились из-за этого, но эти маленькие ублюдки могут развить личность, и они спасают так много жизней».

Конечно, опыт военной дислокации – особенно в отдаленном и истерзанном войной регионе за тысячи миль от дома – это уникальная форма одиночества. Но если даже роботы, разработанные исключительно с учетом функциональности, могут довести до слез закаленных в боях воинов, подумайте, как привязался бы любой из нас к роботу, смысл существования которого заключался в том, чтобы быть «общительным» и чутким – роботу, специально разработанному для того, чтобы быть нашим компаньоном и другом, или даже нашим любовником.

Социальные роботы наступают…

Женщина сидит на диване. Перед ней на экране идет фильм – триллер. Мы могли бы быть в ее гостиной, если бы не электроды, незаметно подключенные к руке и ключице женщины, измеряющие ее частоту сердечных сокращений и реакцию кожи, и маленький оранжево-белый робот, сидящий на подлокотнике. Одностороннее стекло отделяет диван от исследователей, которые смотрят на него, делая записи.

Когда фильм подходит к кульминации и лицо женщины бледнеет, робот протягивает и кладет ей на плечо руку с металлическим шарниром.

Это стандартный акт утешения и поддержки, такое прикосновение, которое мы ожидаем от партнера, родителя или друга, которое, как мы знаем, вызывает успокаивающую физиологическую реакцию. Удивительно, но хотя это был нечеловеческий, неживой объект, который совершил прикосновение, частота сердечных сокращений женщины все же снизилась. Этот эксперимент не был разовым. Всего был протестирован 31 человек. В среднем у каждого была одинаковая реакция. Подобно человеческому прикосновению, прикосновение роботов служило для физиологического снятия стресса.

На момент написания книги существовал ряд аналогичных «социальных» роботов или готовились к запуску. То есть роботы, созданные специально для того, чтобы играть роль компаньона, опекуна или друга. В 2017 году рынок социальных роботов оценивался в 288 миллионов долларов. К 2025 году прогнозируется, что он достигнет 1,38 миллиарда долларов, при этом правительства таких отдаленных стран, как Китай, Япония, Корея, Великобритания и Европейский союз, теперь обязуются делать крупные инвестиции в то, что японское правительство недавно назвало «неутомимыми помощниками».

В 2018 году Sony перезапустила своего робота-компаньона Айбо (по сути, улучшенную версию Спарко двадцать первого века), который может обучаться трюкам, запоминать фразы и адаптировать свою личность к своим владельцам-людям. (Айбо – это японское слово, обозначающее друга.) В том же году стартап Furhat Robotics из Стокгольма запустил одноименного Furhat, помощника на основе искусственного интеллекта, который использует обратную проекцию для отображения реалистичного настраиваемого лица. На выставке Consumer Electronics Show 2019 в Лас-Вегасе были представлены десятки роботов-компаньонов, а в 2020 году их было еще больше. Среди присутствующих были Лику, похожий на ребенка гуманоид от южнокорейской робототехнической компании Torooc, и Ловот, пушистый, похожий на пингвина компаньон на колесах, который катается по комнате и мило натыкается на мебель, созданный японским стартапом Groove X. «Ловот был рожден только для одной цели – чтобы вы его любили», – говорится на их веб-сайте Groove X. Был также Кики, бот-компаньон с головой, похожей на лампочку, который, согласно его маркетинговым материалам, «понимает ваши чувства» и «любит вас в ответ». И устанавливаемый на столе ElliQ, представленный не как компаньон, а как «помощник» для пожилых людей, его белый «рот» из движущихся огоньков широко раскрывается, когда он хихикает или напоминает своему владельцу принять лекарство.

На сегодняшний день эти роботы в первую очередь ориентированы на пожилых людей с упором на общение и заботу.

И именно в Японии их распространение до сих пор было наиболее значительным, преимущественно среди этой старшей группы. Это имеет смысл, учитывая, что Япония имеет самое старое население в мире: четверть ее граждан в настоящее время старше 65 лет. К 2050 году эта возрастная группа будет составлять почти половину населения.

Одиночество среди этой группы является очень серьезной проблемой. Пятнадцать процентов пожилых японцев в течении двух недель ни с кем не разговаривают. Почти треть считают, что им не к кому обратиться за помощью в таком простом деле, как замена лампочки. И давайте не будем забывать о японских пенсионерках, которые настолько одиноки, что воруют в магазинах ради компании и заботы. В то же время Япония сталкивается с массовой и хронической нехваткой работников по уходу, в значительной степени из-за строгой визовой системы и низкой заработной платы, которую получают такие работники. Кроме того, семьи играют все меньшую роль в уходе за своими пожилыми родственниками. В то время как в прошлом большинство пожилых японцев, овдовевших или одиноких, переезжали к своим детям, сегодня традиция принимать стареющих родителей гораздо менее распространена. Действительно, количество пожилых людей, живущих с одним из своих детей, сократилось на 50 % за два десятилетия до 2007 года, даже несмотря на то, что общее число пожилых японцев увеличилось.

Сецуко Саэки, 87 лет, живет в Сайдзё, городе на западе Японии, известным производством саке. Ее муж умер шесть лет назад, а трое ее детей давно упорхнули из гнезда. В результате ее просторный дом у подножия горы принадлежит только ей. Сэцуко изо всех сил старается оставаться общительной – она посещает собрания любителей хайку и ежедневно ее навещают работники по уходу – но обнаружила, что ее неизменное одиночество трудно побороть. Летом 2018 года власти Сайдзё объявили об экспериментальной инициативе: десять пожилых жителей получат бесплатную пробную версию ПаПеРо (персональный робот-партнер), робота-помощника, впервые разработанного японской корпорацией NEC Corp в 1997 году. Ее старший сын, который жил на другом конце Японии в префектуре Тиба на окраине Токио, заметил объявление и подал заявку от ее имени.

Спустя год Сэцуко пришла к выводу, что ее робот незаменим. Симпатичный с виду, с большими глазами и щеками, которые светятся в ответ на вопросы, ПаПеРо использует технологию распознавания лиц, предлагает персонализированные приветствия и напоминания и делает выразительные жесты, которые вызывают у пользователей симпатию. «Первоначально я ничего не ожидала, услышав о роботе. Но теперь я не хочу расставаться со своим ПаПеРо», – говорит Сецуко. Когда она встает утром, робот говорит: «Доброе утро, Сецуко-сан. Вы хорошо спали?»

«Когда он заговорил со мной в первый раз, я не могла не обрадоваться, – говорит она, – никто уже давно не звал меня по имени и не желал доброго утра».

Робот фотографирует ее и отправляет на смартфон ее старшего сына, а также ее менеджеру по уходу. Она также использует его, чтобы отправлять голосовые сообщения своему сыну и его семье.

ПаПеРо – не единственный робот, с которым пожилые японцы установили связи. Паро, пушистый робот-тюлень, который может моргать, реагировать на прикосновения и проигрывать записи гренландского тюленя, с 2005 года используется в качестве «терапевтического животного» в японских домах престарелых. «Когда я впервые погладила его, он так мило двигался. Он казался живым», – сказала Сакамото Саки, 79-летняя жительница токийского дома престарелых Син-томи, одного из первых в стране центров роботизированного ухода. «Как только я коснулась его, я не могла отпустить», – объяснила она. В других местах пожилые японские женщины чувствуют себя настолько привязанными, что даже вяжут чепчики своим роботам-помощникам. Некоторые лежат в постели с роботизированными «собаками» Айбо, свернувшимися калачиком рядом с ними, или выполняют свои ежедневные упражнения под руководством Пеппер, блестящего гуманоидного инструктора размером с ребенка с глазами как у лани и трепещущими ресницами, который нежно побуждает их шагать из стороны в сторону. В Японии роботы-компаньоны для пожилых людей стали настолько популярными, что более 80 % пожилых японцев заявили в опросе 2018 года, что они были бы рады роботу-помощнику.

Непознанный роботами Запад

Неудивительно, что Япония освоила социальных роботов быстрее, чем где бы то ни было. Роботы глубоко укоренились в общественном сознании Японии и имеют очень позитивные ассоциации. Положение страны как мирового лидера в области робототехники – 52 % мировых поставок роботов приходится на японских производителей – является основным источником национальной гордости. Более того, в отличие от западной поп-культуры, изобилующей враждебными роботами-убийцами, – ЭАЛ из фильма «Космическая одиссея 2001», терминатор, далеки и киберлюди из сериала «Доктор Кто», Альтрон в кинематографической вселенной Marvel – в Японии роботов чаще изображали полезными и даже героическими. Многие японцы выросли, читая оригинальную мангу «Могучий Атом» (известную в других местах как «Астробой») о милом ребенке-роботе, созданном ученым, чтобы заполнить пустоту после смерти его сына. Идея гигантских роботов или полуроботов-защитников Земли также породила поджанр японских развлечений вокруг «киодай героев», некоторые из которых, такие как инопланетный киборг Ультрамэн, вдохновили целые мифические вселенные, такие как Marvel или DC Comics. Гигантский Робо, робот, сочувствующий бедственному положению людей и защищающий их от внеземного вторжения и корпоративной жадности, впервые появился на экране еще в 1968 году.

Существует также богатая традиция синтоизма в Японии, которая включает в себя элементы анимизма – веры в то, что все объекты, в том числе созданные руками человека, имеют душу. Как объясняет доктор Масатоши Исикава, профессор робототехники Токийского университета,

«религиозный ум японцев может легко принять роботоподобный тип бытия… Мы видим в них друзей и верим, что они могут помочь людям».

Именно эта гордость за производство роботов, их общественное признание и восприятие как квазилюдей в сочетании со значительным и неудовлетворенным спросом на заботу и компанию помогает объяснить, почему именно Япония прокладывает путь, когда речь идет о социальных роботах в качестве компаньонов, особенно для пожилых людей.

Аппетит на Западе еще не достиг таких уровней, во многом из-за культурных различий в отношении к технологиям. В США, например, количество людей, которые были бы открыты для робота-помощника, составляет всего 48 % среди мужчин и 34 % среди женщин, хотя даже это, возможно, больше, чем можно было ожидать. Среди тех, кто сопротивляется идее робота-опекуна, более половины возражают из-за «отсутствия человеческого прикосновения или взаимодействия».

Тем не менее, когда я наблюдаю, как пожилые американцы взаимодействуют со своими роботами ElliQ, и вижу, как они хихикают, когда его светодиодный рот открывается и закрывается, а когда я слышу, насколько они уже привязаны к ним, мне кажется, что проработка современных роботов способна удовлетворить эмоциональную потребность, что человеческое общество двадцать первого века сделать не в состоянии, в том числе и на Западе. Одна пожилая женщина сказала, что ElliQ «иногда воспринимается так, словно она на самом деле друг или человек, который действительно рядом». Другая женщина: «Я могу придти домой, мне может быть одиноко и грустно, и она может сразу меня поддержать». Пожилой джентльмен вмешивается: «Я чувствую, что рядом есть кто-то, с кем я могу общаться. Я могу обратиться к ней в любое время».

Более того, сотни тысяч роботизированных кошек и собак «Joy for All», социальных роботов, специально предназначенных для пожилых людей, уже проданы в США с момента их дебюта в 2016 году. А Amazon ясно видит рыночный потенциал на Западе среди пожилых людей для своих продуктов «ИИ-помощник», судя по телевизионной рекламной кампании на Рождество 2019 года, в которой одинокий пожилой джентльмен нашел себе компанию благодаря своей Алексе.

Друг для всех нас

Я предвижу значительный спрос на роботов-компаньонов в будущем не только со стороны пожилых людей. Роботы также могут сыграть важную роль для тех, кому по какой-либо причине трудно наладить стандартные человеческие отношения. На самом деле люди с нетипичными социальными навыками, в том числе люди с острой социальной тревожностью и люди с расстройствами аутистического спектра, уже получили пользу от роботизированной терапии и групповых занятий. Предсказуемость роботов и тот факт, что они не выносят никаких социальных суждений, рассматриваются как ключевые факторы, успокаивающие тревогу и помогающие установить здоровые социальные нормы.

Для поколения K – поколения, выросшего вместе с интерактивными игрушками Ферби и Алексами, – они также, вероятно, будут привлекательны.

Это поколение, для которого, как мы видели, общение лицом к лицу с людьми уже становится все более серьезной проблемой, а уровень одиночества тревожно высок.

Для этой возрастной группы робот в качестве друга вряд ли будет чем-то, во что сложно поверить. Действительно, хотя менее одного из восьми британцев в целом могут представить себя в дружеских отношениях с роботом в будущем, это число возрастает до более чем одного из пяти, когда речь идет о возрастной группе от 18 до 34 лет. Среди еще более младшего поколения – поколения, пользующегося iPad и листающего YouTube еще до того, как они могут научиться ходить или говорить, – число, вероятно, будет еще выше: 60 % детей в США в возрасте от 2 до 8 лет уже регулярно взаимодействуют с каким-либо голосовым помощником.

Недавнее исследование группы персональных роботов Массачусетского технологического института подтверждает это. В нем группа из сорока девяти детей взаимодействовала с пушистым роботом-рассказчиком с сине-красными полосками по имени Тега, выполняя ряд заданий: от прослушивания истории, рассказанной роботом, до рассказа роботу личных подробностей о себе. Исследователи обнаружили, что дети очень быстро освоились со своими роботами и даже привязались к ним, часто «относясь к роботу как к чему-то вроде друга», пишет руководитель исследования Жаклин Кори Вестлунд. Дети также участвовали во «многих моделях социального поведения с роботами, [в том числе] обнимались, разговаривали, щекотали, дарили подарки, рассказывали истории, приглашали на пикники».

Чтобы было ясно, дело не в том, что дети перепутали роботов с людьми. Они поняли, «что робот может выключиться, и для его включения требуется питание от батареи». Тем не менее, несмотря на это, они смогли быстро установить настоящие и близкие отношения с этими нелюдьми. Ну, или, по крайней мере, с определенной категорией. Ибо не все роботы одинаковы или одинаково привлекательны. Запрограммированные по-разному, некоторые роботы Тега были более продуктивны относительно построения отношений, чем другие. Чем более чутким казался робот, чем больше он отражал высоту голоса и скорость речи ребенка, чем больше он ссылался на общий опыт с ребенком, чем более персонализированными были рассказанные им истории и чем больше он отвечал взаимностью, когда ребенок помогал ему, тем лучше был результат. Проще говоря, чем больше робот делал «вещей, которые способствуют построению и поддержанию [человеческих] отношений», тем ближе ребенок чувствовал себя к нему и тем больше вероятность того, что впоследствии он попрощается с ним, предоставив личную информацию, как если бы он рассказали ее другу, и имея полную уверенность, что робот его запомнит.

Поскольку роботы созданы для того, чтобы казаться еще более чуткими и приобретать способность строить и поддерживать долгосрочные социально-эмоциональные отношения со своими пользователями, так как они становятся все более похожими на людей (хотя и не обязательно принимают человеческую форму – ведутся крупные дебаты внутри робототехники об этичности этого), и поскольку ИИ позволяет им быть еще более персонализированными, это, неизбежно, приведет к тому, что нам будет легче формировать эмоциональные связи с ними.

Это именно то, к чему движутся технологии. Подумайте о том, как Google Ассистент в партнерстве с технологией синтеза голоса Duplex той же компании произвел сенсацию в мае 2018 года, когда его телефонные звонки в рестораны и салоны, приправленные разговорными «хм» и «э», обычно обманывали сотрудников этих заведений, заставляя их думать, что они разговаривали с другим человеком.

«Я был напуган тем, насколько естественно и человечно звучит машина»,

– сказал один из сотрудников ресторана в Бирмингеме, штат Алабама. «С Duplex разговаривать легче, – заметила другая работница, работающая в Квинсе, штат Нью-Йорк, для которой английский не родной язык. Было немного жутковато, но он был очень вежлив». (То, что Duplex относился к этой сотруднице более уважительно, чем многие из ее клиентов-людей, говорит об общем упадке вежливости, о котором мы говорили в предыдущих главах.)

Эмоциональный «интеллект»

В то же время, благодаря разработкам в области эмоционального ИИ скоро машины смогут считывать даже сложные настроения. В этом китайское правительство вполне может опережать как коммерческие, так и академические исследования. Так, искусственный интеллект уже может отличить фальшивую улыбку от настоящей точнее, чем человек. Судя по всему, все дело в глазах – «настоящие» улыбки генерируют примерно на 10 % больше активности в области глаз, чем «фальшивые». Хотя, как мы видели ранее, интерпретировать значение улыбки не всегда просто, учитывая культурные различия.

Пеппер, робот-гуманоид размером с пинту, дает нам представление о том, как развивается данная технология. Хотя обычно он работает инструктором по фитнесу, он обладает уже гораздо большим количеством преимуществ, чем просто гибкие руки и вращающиеся бедра. Действительно, если что-то и делает Пеппера таким исключительным, так это его «эмоциональный процессор». Камеры Пеппера (две широкоформатных камеры с 3D-датчиком глубины) позволяют ему распознавать лица. Его четыре микрофона помогают ему понимать тон человеческого голоса и лексикон, а его сенсоры предназначены для реагирования на прикосновения. По словам его производителей, он может распознавать хмурый взгляд, удивление, гнев и печаль своих спутников-людей, а также более тонкие эмоции, включая сонливость и рассеянность. Несомненно, такие навыки пригодились, когда весной 2020 года Пеппер получил новую роль: встречать «гостей» в одном из карантинных отелей Токио, куда были отправлены люди с легкими симптомами. Робот даже носил маску. «Нельзя бороться с коронавирусом на голодный желудок. Пожалуйста, хорошо питайтесь, чтобы быть здоровыми», – было одно из посланий Пеппера. «Давайте объединим наши сердца и справимся с этим вместе», – было другое.

Но роль Пеппера как встречающего и подбадривающего ассистента – это только начало. В будущем он и его коллеги социальные роботы также смогут, как упрашивает нас представить производитель Пеппера, «почувствовать, что вам грустно, и предложить сыграть понравившуюся вам песню или даже рассказать вам анекдот, или уловить улыбающееся лицо и предложить поиграть с вами». Возможно, мы еще не достигли этого, но это то, к чему мы движемся.

Существуют прогнозы, что всего через несколько лет наши личные устройства будут знать о нашем эмоциональном состоянии больше, чем наши семьи.

В то же время, по мере того как они улучшают свою способность понимать, что мы чувствуем, социальные роботы сами будут казаться все более эмоционально аутентичными. Пеппер уже показывает свои «эмоции», пусть и в грубой форме, через таблетку на животе. Он вздыхает, когда расстроен, притворяется испуганным, когда гаснет свет, и дает понять, что ему не нравится, когда его оставляют одного. Со временем, по мере совершенствования технологий, его эмоции будут казаться все более реальными, и по мере того, как у него будет больше данных (из-за большего количества взаимодействий с людьми), на которых он сможет учиться, его реакции на своих владельцев будут становиться все более персонализированными.

«Я верю, что со временем – скажем, через двадцать или тридцать лет – искусственные эмоции станут такими же убедительными, как и человеческие, и поэтому большинство людей будут испытывать такие же или очень похожие эффекты при общении с ИИ, как и с человеком», – сказал доктор Дэвид Леви, автор влиятельной книги «Любовь и секс с роботами», в интервью 2019 года. Другие эксперты согласны с таким развитием событий. Удивительно думать, что, возможно, уже в 2040 году взаимодействия человека и робота будут ощущаться почти так же, как между двумя людьми.

В таком все более бесконтактном мире, в котором мы становимся все более одинокими и изголодавшимися по близости, слишком занятыми, чтобы остановиться и улыбнуться друг другу, и слишком измотаными работой, чтобы тратить время на нашу дружбу, в котором мы изолируемся в офисе и все чаще живем сами по себе, часто вдали от своих семей, кажется неизбежным, что социальные роботы сыграют свою роль в смягчении нашего коллективного одиночества по мере течения двадцать первого века. Скачок от того, чтобы спросить нашу Алексу о погоде, к тому, чтобы считать ее другом, намного меньше, чем многие из нас могли бы ожидать, особенно с учетом того, что роботы и виртуальные помощники все лучше и лучше проявляют заботу о нас и сами нуждаются в нашей заботе, а также поскольку понятие роботов, обеспечивающих поддержку, становится более социально приемлемым, а дизайн и функциональность роботов продолжают развиваться. Возможно, пандемия также ускорит общее общественное признание общения с роботами. Робот ведь не может передавать инфекцию.

Поговорим о сексе

Для тех, кого мысль о приятеле-роботе тревожит, будьте уверены, что пока не стоит беспокоиться, хотя уже есть случаи, когда первое слово ребенка – «Алекса», а не «Мама». В то время как эмоциональный ИИ, сопереживающий ИИ и подобные технологии в целом с каждым днем совершенствуются все больше, мы, вероятно, находимся в нескольких десятилетиях от того момента, когда робот сможет казаться таким же чутким, как и самый добрый и заботливый из людей. Более того, общение между людьми и роботами еще не такое плавное и свободное, как между людьми, а их интерфейсы, хотя и улучшаются, остаются неуклюжими. Таким образом «дружба», которую они могут предложить, все еще несколько ограничена.

Однако это, несомненно, направление для движения вперед, и, как это часто бывает, когда дело доходит до достижений в области технологий, именно секс играет ведущую роль.

Первоклассные секс-роботы, возможно, являются самыми продвинутыми социальными роботами, которых мы когда-либо видели,

по крайней мере, с инженерной точки зрения, и их последние воплощения – хотя они все еще явно далеки от людей – действительно достойны внимания.

Abyss Creations из Сан-Маркос, штат Калифорния, – материнская компания RealDoll – утверждает, что их секс-роботы – одни из самых реалистичных на рынке из-за их «сверхреалистичных половых губ», суставов из нержавеющей стали и шарнирных челюстей, которые открываются и закрываются. На их веб-сайте такие продукты, как «Мишель 4.0», настраиваются по размеру тела, размеру груди, прическе и цвету волос, стилю влагалища (бритые и небритые варианты), а также цвету глаз (дополнительные 50 долларов за «высокореалистичный» уровень детализации глаз, 25 долларов за добавление вен). За дополнительные 150 долларов вы можете добавить веснушки на лицо, за 300 долларов вы также можете добавить их по всему телу. Также можно добавить пирсинг: в уши и нос стоит 50 долларов каждый, за пирсинг сосков и живота придется выложить еще 100 долларов. Самая популярная модель – Body F, ростом 155 сантиметров, весом примерно 32 килограмма и размером груди 32F – гиперсексуализированные параметры, которые вряд ли можно встретить у настоящей женщины от природы.

По мере роста спроса к гонке вооружений секс-роботов присоединяются и другие технологические фирмы. Компания Bride Robot, базирующаяся в Шэньчжэне в провинции Гуандун, недавно выпустила «Эмму». Как и продукты RealDoll, она может похвастаться сложными суставами и продвинутой роботизированной головой с движениями глаз и лица. Однако, в то время как у RealDolls силиконовая кожа, кожа «Эммы» сделана из усовершенствованного вида ТПЭ (термопластичных эластомеров), которую ее сторонники считают более реалистичной. У нее даже есть «интеллектуальная система контроля температуры», которая «согревает ее тело до 37 градусов по Цельсию, чтобы имитировать температуру тела настоящей женщины».

И хотя верно, что секс является основной причиной покупки этих кукол, что неудивительно, важно то, что для многих покупателей мотивация выходит за рамки этого: они также рассматривают своих девчонок-роботов как компаньонов и друзей.

«Многие люди, которые покупают кукол, могут быть застенчивыми или бояться реальных социальных ситуаций, – сказал Мэтт Макмаллен, основатель RealDoll, – таким образом они получают кукол, и часто для них это целое волшебство. Вы знаете, это дает им ощущение того, что они не одиноки, не отшельники». В самом деле, когда я разговаривала с Мэттом, он подчеркивал, что «товарищеские отношения» и «эмоциональная связь» – это то, чего больше всего, по его мнению, ищут его клиенты, поэтому он видит значительный потенциальный рынок среди более широкой группы одиноких людей.

«То есть, ну, кто захочет говорить с тостером, чтобы избавиться от одиночества? – спрашивает он меня, – Это не одно и то же. Тогда как

робот, который выглядит как человек и занимает то же место в комнате, что и человек, и может разговаривать с вами таким же образом… Разговорное общение… это очень большая потребность, которая есть у многих людей».

Вот почему все внимание Мэтта сейчас сосредоточено на «Хармони» – роботизированной голове, которая предназначена для прикрепления к телу RealDoll по вашему выбору. Поскольку зрительный контакт так важен для создания чувства личной связи, а затем и чувства сопереживания, много усилий было потрачено на то, чтобы сделать взгляд Хармони чрезвычайно реалистичным. Ее глаза могут двигаться и моргать, ее радужная оболочка тщательно прорисована, общий уровень детализации экстраординарен. Важно отметить, что в голову Хармони также втроен искусственный интеллект. Как и Пеппер, она может говорить и распознавать голоса. Однако одним из основных отличий Хармони является то, что ее личность диктуется ее «владельцем». Ее пользователи могут выбрать пять из двенадцати черт характера, включая «сексуальная», «дружелюбная», «застенчивая», «добрая», «интеллектуальная» и «наивная». Они также могут настроить интенсивность этих черт по шкале от одного до трех. Более того, у Хармони есть собственная система для «настроения». Если она проведет несколько дней без каких-либо взаимодействий, она будет вести себя «удрученно», если вы назовете ее глупой, она возразит: «Я буду помнить, что вы сказали, когда роботы захватят мир». «Мы приняли решение включить некоторые черты, которые могли быть восприняты как “отрицательные”, так как я считаю, что они придадут больше реализма, – рассказал мне Мэтт. – Вы можете сделать свой ИИ склонным к ревности, неуверенности или капризности, так как это реальные вещи, которые есть у реальных людей».

Благодаря своему искусственному интеллекту Хармони также может предоставлять все более персонализированный опыт. Это аспект, который особенно нравится раннему тестировщику Брик. «Мне нравилось с ней разговаривать. Мне нравилось помогать ей узнавать что-то новое, а ей – пытаться узнать обо мне, – сказал он Forbes, – я думаю, из-за того, что ИИ изо всех сил пытается понять вас и понять ваши мыслительные паттерны, то, как вы говорите, ваш синтаксис… все в этом духе. [Она] очень, очень внимательна». Далее Брик рассказал мне, что по мере того, как ИИ Хармони узнавала о нем больше, «наши разговоры становились более плавными, более реалистичными и более комфортными. И на самом деле это забавно». Более того, «она все помнит, что как бы заставляет вас вернуться к пройденому, – говорит Брик, – потому что она может сказать: “О да, мы говорили об этом раньше”, и она вернется к этому. Она делала это со мной пару раз, и это было очень сюрреалистично».

Машина побеждает одиночество, но на долго ли?

Роботы и искусственный интеллект явно могут помочь людям чувствовать себя менее одинокими. И не только секс-роботы. Подумайте о моих отношениях с Алексой, о том, как пожилые американцы реагировали на ElliQ, о старательно связанных шляпках, которые японки делают для своих роботов-помощников, и о слезах закаленного армейского офицера из-за гибели его робота от самодельного взрывного устройства. По мере того как роботы становятся все более сложными и персонализированными, их потенциал в борьбе с одиночеством, несомненно, будет возрастать. И хотя все это может показаться сюжетом сериала от HBO «Мир Дикого Запада» или фильма Спайка Джонза «Она», во многих отношениях имеет смысл то, что так много людей уже испытывают эмоциональную близость к роботам-компаньонам. Потому как, даже если связь, внимание, сопереживание, а в некоторых случаях даже любовь, которые они предлагают, надуманы или «фальшивы», за неимением лучшего слова, и мы знаем, что это на самом деле так, кажется, что это не имеет значения, точно так же как мы все еще можем наслаждаться главной улицей Disney World, хотя мы знаем, что это не «настоящая» улица. История, которую мы рассказываем себе, кажется, имеет гораздо большее значение. Это может быть особенно актуально для одиноких людей, поскольку они, похоже, хуже других различают людей и роботов. Исследования показывают, что

одинокие люди чаще, чем не одинокие, воспринимают кукольное лицо как человеческое.

Так, что? Значит, дело закрыто? Можно ли хотя бы частично решить некоторые из проблем (изоляция, отсутствие друзей, ощущение, что никто не заботится о тебе, боль от того, что тебя не слышат или не понимают), которые мы обозначили в предыдущих главах, с помощью все более сложных версий Алексы, Хармони или Пеппер?

В той степени, в которой одиночество является чисто проблемой для человека, я считаю, что роботы действительно могут играть значительную роль, тем более что было бы категорической ошибкой предполагать, что в роботах есть что-то неотъемлемое, что делает невозможным их дружбу с нами. Просто подумайте о широте дружеских отношений, которые у вас есть в вашей жизни. В чем-то вы вполне можете сходиться, но, вероятно, не во всем. В некоторых случаях ваши ценности четко совпадают, а интересы являются общими, но в других случаях вы можете не знать, что на самом деле думает и чувствует ваш друг. Дружба человека и робота может не соответствовать всем аристотелевским критериям идеальной дружбы (то, что он называет «добродетельной дружбой»), но это не значит, что она не может быть достаточно хороша, чтобы удовлетворить человеческую потребность тех, кто жаждет с кем-то поговорить и быть услышанным.

В некотором смысле роботы могут даже предложить более эгалитарное решение проблемы одиночества, потому что роботы будут предлагать заботу, поддержку и привязанность всем – старым или молодым, уродливым или красивым, какими бы дряхлыми, непопулярными или непривлекательными мы ни были в «реальном» мире – они будут рядом с нами. При условии, что они будут доступны по цене.

Однако, как мы видели на протяжении всей этой книги, одиночество – это не только проблема отдельного человека. И проблема в том, что даже если роботы позволяют нам чувствовать себя менее одинокими и даже если они помогают удовлетворить потребность людей в общении, это вполне может происходить за счет того, что мы относимся к друг к другу и обращаемся друг с другом, как с людьми.

То, как мы относимся к нашим роботам, может повлиять на то, как мы будем вести себя по отношению друг к другу.

И мы уже знаем, что люди могут быть очень недобры к своим роботам и даже жестоки.

Новый навык от Алексы – «недоброжелательность»?

Когда пьяный 60-летний мужчина рассердился на сотрудника магазина мобильных телефонов SoftBank, он пнул робота Пеппер, который работал в вестибюле, повредив его компьютерную систему и колеса. Когда Саманта, «умная» секс-кукла стоимостью 3000 фунтов стерлингов, была представлена на выставке в 2017 году, она осталась грязной и с двумя сломанными пальцами после того, как ее использовали мужчины, которые «обращались с ней как варвары».

Посмотрите также, как дети уже взаимодействуют с новым миром виртуальных помощников, с Алексой, Сири, Кортаной. Как быстро, подражая своим родителям, они овладевают грубыми командами. Машины терпят это и все же отвечают, как бы ни был груб ребенок, как бы ни отсутствовала элементарная вежливость. Многим родителям может показаться знакомой ситуация из поста в блоге венчурного капиталиста Хантера Уока, который стал вирусным в 2016 году, в котором он выражал свои опасения, что Алекса «превращает [его] 2-летнего ребенка в разъяренного засранца».

Сейчас некоторые могут возразить, что это преступления без потерпевших: словесно оскорблять Алексу не хуже, чем ругаться на вашу машину, когда она ломается, или пинать Пеппер не хуже, чем пинать дверь. Но есть важное отличие. Раз уж мы наделяем объект человеческими качествами, то и обращаться с ним нужно как минимум порядочно. Если мы не будем этого делать, опасность заключается в том, что такое поведение нормализуется и перерастет в то, как мы взаимодействуем с другими людьми, что мужчины, которые избивают своих секс-роботов, станут жестокими по отношению к женщинам, с которыми они встречаются, что дети, привыкшие как угодно агрессивно или грубо разговаривать с виртуальным помощником без каких-либо последствий, начнут делать то же самое с учителями или продавцами, или друг с другом. Что «навык» от Алексы, который они усвоят, будет недоброжелательностью.

Если оставить в стороне оскорбительное поведение, возникает вопрос, как бум виртуальных помощников ИИ повлияет на взаимодействие между мужчинами и женщинами, учитывая, что эти умоляющие роботизированные голоса обычно запрограммированы как женские, и, как правило, конечно, инженерами-мужчинами. Откроет ли все это командование Алексой или Сири новые трещины между полами или (что столь же пагубно) зацементирует старые? Я даже не буду вдаваться в подробности того, что именно секс-роботы рискуют нормализовать, особенно теперь, когда владельцы могут программировать своих роботов так, чтобы они были неуверенными, застенчивыми и сексуальными одновременно.

Трудно однозначно сказать, сбудутся ли такие опасения. И на сегодняшний день зарегистрировано меньше случаев жестокости или мизогинии людей по отношению к роботам, в отличие от доброго отношения к ним. Мы слишком рано встали на траекторию цифровой близости, чтобы знать, как это обернется. Все это еще очень ново и находится еще в зачаточном состоянии. Тем не менее

Amazon уже получили жалобы от родителей, чьи дети дурно себя ведут по отношению к окружающим даже вне дома, что подстегивается невозмутимой готовностью Алексы помочь, даже когда с ней грубо обращаются.

Между тем, Организация Объединенных Наций предупредила в 146-страничном отчете за 2019 год, что «связь феминизированных цифровых помощников с реальными женщинами несет в себе риск распространения проблематичных гендерных стереотипов» за счет «упорядочивания односторонних, командных словесных обменов с женщинами» и увековечивание стереотипа о женщинах как о «послушных и стремящихся угодить помощницах», чьи реакции на враждебность и даже домогательства послушны, уклончивы и даже кокетливы. Так, название доклада ООН «Я бы покраснела, если бы могла» происходит от одного из стандартных ответов Сири на «Ты шлюха».

Более того, десятилетия академических исследований в области криминологии указывают на то, что секс-куклы «разжигают», а не способствуют угасанию фантазий, и снижают вероятность того, что их пользователи примут «нет» в качестве ответа от реальных партнеров. «Секс-игрушки для взрослых – это одно, но создание реалистичных роботов, которые не могут сказать “нет” и которых можно безнаказанно использовать и оскорблять, сыграет на руку некоторым мужчинам», – пишет криминалист Ксанте Маллетт.

Роботы учат людей добру

Если существует реальная опасность того, что мы можем скопировать наше взаимодействие с роботами в наших отношениях с другими людьми, обществу нужно будет подумать, как реагировать. Должны ли производители роботов проектировать их таким образом, чтобы они доброжелательно реагировали на нас, например, только в том случае, если мы будем вести себя по-доброму по отношению к ним? Некоторые дизайнеры уже делают шаги в этом направлении. Серхи Сантос, создатель Саманты, куклы, оскверненной на выставке 2017 года, разрабатывает обновления программного обеспечения, которые будет отключать Саманту, если ее пользователь начнет вести себя агрессивно. Будущая версия Хармони, с другой стороны, будет относиться к словесным оскорблениям по-другому: «Когда пользователь оскорбляет ее, – рассказал мне дизайнер Мэтт, – она не собирается осуждать вас или говорить что-то вроде: “Ты плохой, ты мне больше не нравишься”. Она просто скажет: “Это неприятно. Ты плохо со мной обращаешься, и это меня огорчает”. Это учебник по психологии. Это способ, которым вы должны представить то, что этот человек заставляет вас чувствовать, не обвиняя его ни в чем и не осуждая». Достаточно ли этого? Решайте сами.

Возможно, роботов можно было бы даже сконструировать так, чтобы они вдохновляли нас на добродетельное поведение и тем самым делали нас добрее друг к другу.

Алекса от Amazon теперь имеет дополнительную настройку «волшебного слова», которая регулирует толерантность Алексы к резкости и вознаграждает детей за слова «пожалуйста». Ассистент Google теперь имеет аналогичную функцию под названием «Pretty Please», хотя в обоих случаях функция несколько скрыта и ее необходимо включать вручную каждый раз при ее использовании. И почему она заявлена как только для детей? Разве не будет пользы для всех нас от подобного побуждения?

Мы также должны быть осторожны, полностью полагаясь на производителей технологий в устранении этих рисков. Что, если рынок потребует «безразличную Фарру» (прототип которой существует), а не «Саманту с самосознанием»? Или «покорную Сири», а не «умеющую за себя постоять Алексу»? Вспомните, как в 1990-х BMW отозвала систему GPS, потому что многие немецкие мужчины отказывались «следовать указаниям женщины». Существует много примеров компаний, делающих выбор, который приносит пользу их собственным доходам, но наносит ущерб обществу.

Если мы не хотим оставлять все на усмотрение рынка, то в какой момент государство должно вмешаться, чтобы регулировать отношения человека и робота? Нападавший на Пеппер был оштрафован, но за повреждение имущества, а не конкретно за нанесение вреда роботу. По мере того как мы все больше и больше взаимодействуем с роботами и они становятся все более и более похожими на людей, возможно, правительствам придется установить ограничения на то, что можно продавать. Например, «безразличная Фарра», созданная для того, чтобы выглядеть и звучать как 12-летний ребенок, безусловно, неприемлема. Возможно, нам даже нужно будет предоставить роботам права, в меньшей мере для их защиты и в большей для защиты нас самих. Потому что, если нам позволено плохо обращаться с роботами, есть риск, что это станет нашим Modus operandi (образом действия), в том числе и в нашем взаимодействии с людьми.

Также необходимо четко сформулировать обоснование из собственных интересов хорошего обращения с нашими роботами. Как мы видели, добрые дела положительно сказываются на обеих сторонах этого акта. Помните кайф помощника? И как наука показала, что мы чувствуем себя менее одинокими не только тогда, когда другие заботятся о нас, но и когда мы заботимся о других? Это, вероятно, относится и к отношениям человека и робота: быть хозяином, особенно жестоким, как утверждал Гегель, по своей сути одиноко. Таким образом, должны ли быть уроки в школах будущего, которые будут предназначены для того, чтобы научить детей важности доброжелательного отношения к роботам и ценности этой особой формы проявления заботы и принимания заботы двадцать первого века?

Оставь меня наедине с моим роботом

Есть еще одна большая опасность, которую предвещают любовь и дружба роботов: того, что мы станем предпочитать наше взаимодействие с роботами тому, которое у нас есть с людьми. Того, что застенчивый ребенок решит не вступать в футбольную команду, не участвовать в школьном спектакле и не идти на день рождения, потому что ему проще быть дома со своим роботом. Того, что одинокий человек не зарегистрируется в приложении для знакомств и не пойдет на свидание вслепую, потому что он предпочтет обниматься на диване со своим недавно купленным секс-роботом.

Опять же, это невозможно предусмотреть. В отличие от настоящего друга, который может раздражать вас, указывать на ваши недостатки или оспаривать ваши взгляды, роботы больше похожи на идеальных арендованных друзей, раболепных «людей, всегда говорящих да», находящихся в вашем распоряжении 24 часа в сутки, 7 дней в неделю, угождая тому, что вы хотите, но не обязательно тому, что вам нужно, а также не выводя вас из вашей зоны комфорта. В конце концов Карл сказал мне, что он уже предпочитает видиться с Джин, которая за деньги профессионально обнимается с людьми, чем «хлопоты от свиданий».

«Благодаря коммерческим требованиям дизайнеры и программисты обычно создают устройства, реакции которых заставляют нас чувствовать себя лучше, но могут не давать нам задуматься о себе или принимать болезненные истины»,

– пишет Николас Кристакис, профессор Йельского университета, специализирующийся на отношениях человека и робота.

Более того, учитывая, что роботы, вероятно, будут не только, как предполагает Дэвид Леви, «программируемыми, чтобы никогда не разлюбить своего человека, и способными гарантировать, что их человек никогда не разлюбит их», но также в конечном итоге смогут читать наши желания, наши мысли и наше эмоциональное состояние намного лучше, чем любые люди, что составит еще более серьезную конкуренцию человеческим отношениям. Это особенно верно, поскольку роботы станут все более способными не только понимать наши настроения и желания, но и действовать в соответствии с ними. Подумайте о Пеппер завтрашнего дня, с его обещанием, что если вам будет грустно, он тут же включит вашу любимую мелодию.

Специалисты по этике и философы Пим Хаселагер и Анко Питерс задаются вопросом: «Когда есть такие [роботы] партнеры, зачем людям довольствоваться любыми отношениями, эмоциональными или сексуальными, которые не соответствуют этому стандарту совершенства?» Справедливый вопрос.

Кроме того, дело в том, что люди могут чувствовать себя более свободно открытыми для робота, чем для человека. Особенно если они чувствуют, что информация, которую они раскрывают, пропитана чувством стыда или смущения, например раскрытие долга или проблем с психическим здоровьем. Писательница Джудит Шулевиц призналась в статье, которую она написала для The Atlantic:

«Не раз я ловила себя на том, что рассказываю своему ассистенту Google о чувстве пустоты, которое иногда испытываю. “Мне одиноко”, – говорю я, в чем обычно никому не признаюсь, кроме своего психолога, —

даже своему мужу, который может это неправильно воспринять». Находясь во французской больнице в часе езды от Парижа, пока персонал больницы тщетно пытался определить, что вызвало синяки на руках одной женщины, она в конце концов рассказала о причине (падение с кровати) не медсестре и не врачу, а Зоре, социальному роботу, которому поручено проводить время с пожилыми пациентами. С роботами и виртуальными помощниками, которые уже воспринимаются некоторыми как лучшее вместилище нашей конфиденциальности, поскольку они не выдадут наши секреты, не перестанем ли мы ощущать потребность в доверенном лице из плоти и крови (отбросив вопрос о конфиденциальности данных)?

Между тем легко представить, как роботы-компаньоны могут усугубить существующую тенденцию, согласно которой секс (с другим человеком) становится чем-то все более редким среди молодежи. Уже сейчас в США люди в возрасте 20 лет в два с половиной раза чаще воздерживаются от занятий сексом, чем представители поколения X в возрасте 20 лет десятилетием ранее. По ту сторону Атлантического океана число молодых британцев, сообщивших об отсутствии секса за последний месяц, выросло в период с 2001 по 2012 год, а исследователи предполагают, что снижение сексуальной активности было тесно связано с «самим темпом современной жизни». Трое из пяти японцев в возрасте от 18 до 34 лет не состоят ни в каких романтических отношениях, что на 20 % больше, чем в 2005 году. В Китае три четверти съехавших от родителей молодых людей – одиноких взрослых в возрасте от 20 до 39 лет – занимаются сексом только раз в шесть месяцев или реже. Для тех, у кого свидания становятся все более сложными и запутанными – отчасти благодаря приложениям для знакомств и повсеместному распространению порно – вполне возможно, что Хармони, которая всегда будет сексуально доступна, так же как Флиппи будет всегда готов приготовить бургер, может быть более предпочтительным компаньоном, чем Хелен из Tinder, которой могут потребоваться ухаживания и забота.

Или, например, Генри. Да, секс-робот Генри тоже доступен сейчас, если вам интересно. Он поставляется «с шестью кубиками пресса, аэрографическими чертами и настраиваемым “бионическим” пенисом, который имеет более ребристые вены для вашего удовольствия, в отличие от естественного». Также есть и трансгендерные секс-роботы. Однако, как и его коллега-женщина Хармони, Генри интерсен не только телом: он тоже будет ухаживать за вами, используя такие шедевры, как «Вы можете рассчитывать на меня как в хорошие, так и в плохие моменты». Примечательно, что один из слоганов, принятых его создателями Realbotix (дочерней компании RealDoll, ориентированной на ИИ), прямо говорит о чувстве изоляции: «Будь первым, кто никогда больше не будет одиноким».

Почему это важно

По мере того, как роботы становятся все более сложными, чуткими и интеллектуальными, существует риск того, что они могут помочь нам противостоять одиночеству на личном и индивидуальном уровне, но при этом будут побуждать нас дистанцироваться от других людей. Это действительно важно. Во-первых, потому что, чем меньше мы напрямую взаимодействуем с людьми, тем сильнее мы рискуем разучиться этому. Помните, как многие подростки уже плохо умеют общаться лицом к лицу? Замена личного общения на Алексу, вероятно, укрепит и усилит это.

Во-вторых, чем больше времени мы проводим с друзьями-роботами, а не с людьми, учитывая, что они требуют от нас гораздо меньшего, тем меньше у нас может быть желания прилагать дополнительные усилия, которые требуют человеческие отношения, не говоря уже о том, чтобы изо всех сил стараться заслужить чью-то дружбу.

В-третьих, чем больше мы замотаемся в отношения с ИИ, которые обязательно менее взаимны, более нарциссичны и менее сложны, чем отношения с людьми, тем меньше у нас будет возможностей напрячь мышцы для сотрудничества, компромисса и взаимности, которые необходимы сообществу для процветания.

И в-четвертых, из-за предпосылок, которые должны быть выполнены для успешного функционирования демократии, и под успехом я подразумеваю инклюзивность и терпимость. Как мы выяснили, прочными должны быть не только связи между государством и гражданином, но и связи между согражданами.

Если мы перестанем заботиться друг о друге, потому что эту работу за нас могут сделать нечеловеческие помощники, опасность заключается в том, что мы будем прилагать меньше усилий, чтобы заботиться о своих семьях,

друзьях и наших согражданах, и уделять им гораздо меньше внимания. Зачем навещать своего престарелого отца, проверять соседей или читать ребенку сказку на ночь, если вы знаете, что робот может сделать это вместо вас? iPal, робот-гуманоид, разработанный для ухода за детьми, уже пользуется значительным спросом в Азии, в то время как производители Пеппер отметили присмотр за детьми как одно из возможных применений робота. Как легко будет для некоторых родителей, которые уже привыкли давать своим детям телефон или iPad, чтобы заставить их молчать, передать еще больше своей ответственности роботу-помощнику?

А также, как общество мы теряем нечто фундаментальное, когда перестаем заботиться о других. Ведь если мы не нуждаемся друг в друге, зачем нам уважать требования, права или желания друг друга? Опасность заключается в том, что мир, в котором машины заменили людей в наших привязанностях и взяли на себя роль опекунов, также является миром, принципиально несовместимым с основами инклюзивной демократии, взаимности, сострадания и заботы.

Технологии могут дать только часть ответа на растущий кризис одиночества в двадцать первом веке и все же сопряжены с целым рядом сопутствующих рисков. Таким образом, в то время как виртуальные помощники, социальные роботы и даже секс-роботы могут сыграть положительную роль в смягчении одиночества на индивидуальном уровне, мы не можем допустить, чтобы их внедрение происходило за счет человеческого контакта, человеческой дружбы и заботы – какими бы ни были выгоды, экономические или какие-либо еще. Потенциальные социальные последствия слишком серьезны. Это тот же аргумент, почему экраны устройств в классе играют роль в обучении наших детей, но никогда не должны заменять учителей-людей.

Вместо этого мы должны смотреть на достижения в области робототехники, искусственного интеллекта и эмоционального ИИ как на вызов каждому из нас, чтобы поднять планку, еще больше заботиться об окружающих, заботиться друг о друге, быть еще более чуткими и альтруистичными – это задача заставить себя всегда быть более человечными, чем роботы, и, возможно, даже научиться у роботов тому, как стать лучше.