Homo Roboticus? Люди и машины в поисках взаимопонимания Маркофф Джон
Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно – если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре – это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым. И Терри Виноград, и Джонатан Грудин независимо друг от друга описали конкурирующие сообщества ученых и инженеров, возникшие на заре компьютерной эры. И тот и другой хотели соединить два противоречивших друг другу подхода. Так, в 2009 г. Виноград организовал в Стэнфорде «программу по технологии освобождения», нацеленную на поиск путей использования компьютерных технологий для улучшения управления, помощи неимущим слоям населения, поддержки прав человека, обеспечения экономического развития и т. п.
Конечно, у этих технологий есть пределы. Виноград говорит, что цели применения компьютерных технологий – расширение возможностей людей или их замена – зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») – это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.
Немногим более столетия назад Торстейн Веблен написал фундаментальную работу с критикой индустриального мира на рубеже веков «Инженеры и система цен» (The Engineers and the Price System). По его мнению, из-за могущества и влияния промышленной технологии политическая власть должна перейти к инженерам, которые могут использовать свои глубокие знания для контроля развивающейся промышленной экономики. Этого, конечно, не случилось. Веблен апеллировал к эре прогрессизма, пытаясь найти компромисс между марксизмом и капитализмом. Возможно, он неправильно выбрал время, но его основное положение, повторенное полвека спустя, на заре компьютерной эры, Норбертом Винером, может еще оказаться правильным. Сегодня инженеры, создающие основанные на искусственном интеллекте программы и роботов, очень сильно влияют на то, как мы будем использовать их. По мере того как компьютерные системы все глубже вплетаются в ткань повседневной жизни, противоречие между усилением интеллекта и искусственным интеллектом становится все заметней.
На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей – инженеров и ученых, подобных Биллу Дювалю, Тому Груберу, Адаму Чейеру, Терри Винограду и Гари Брадски, которые осознанно выбрали антропоцентрический подход.
На заре компьютерной эры Винер отчетливо понимал значимость отношений между людьми и их созданиями – умными машинами. Он видел благо автоматизации в избавлении людей от тяжелой работы, но беспокоился, что эта же самая технология может поработить человечество. Прошедшие десятилетия лишь обострили двойственность, на которую он первым обратил внимание.
Это проблема нас как людей и мира, который мы создаем.
Это не проблема машин.
Благодарности
В 2010 г. я оставил работу над репортажами о Кремниевой долине в New York Times, которой занимался с 1976 г., и перешел в научный раздел газеты. Описанные в этой книге события и идеи уходят корнями в две серии газетных статей, в подготовке которых я принимал участие, когда делал репортажи на тему робототехники и искусственного интеллекта. Серия «Умнее, чем вы думаете» (Smarter Than You Think) выходила в течение 2010 г., а «Экономика интеллекта» (iEconomy) – в 2012 г.
Мой редактор Гленн Крамон, с которым мы вместе начинали в San Francisco Examiner в середине 1980-х гг., придумал рубрику «Умнее, чем вы думаете». Я – тот репортер, который ценит хороших редакторов, а Гленн – один из лучших.
Тема, которую я предложил редакторам газеты в 2010 г. и которую рассматриваю здесь, касается того, как персональные компьютеры и интернет преобразовали мир за четыре последних десятилетия. Теперь настал черед искусственного интеллекта и робототехники. Несмотря на то что машины все больше копируют наши физические и интеллектуальные возможности, они все еще полностью искусственные. То, как они сделаны, определит, каким будет наш мир.
Грегг Закари и я конкурировали и сотрудничали в течение многих десятилетий, и он остается моим близким другом, обладающим энциклопедическими познаниями в сфере влияния технологий на общество. Джон Келли, Майкл Шрэдж и Пол Саффо – также мои друзья, каждый из которых бесконечно обсуждал со мной содержание и последствия будущих компьютерных технологий. В течение многих лет мы дискутировали с Рэнди Комисаром, Тони Фаделлом и Стивом Вудвардом во время долгих поездок на велосипедах. Вернувшийся в мир искусственного интеллекта после длительного перерыва Джерри Каплан реалистично представляет, как искусственный интеллект изменит современный мир.
Джон Брокмен, Макс Брокмен и Кэтинка Мэтсон больше чем замечательные сотрудники, они – хорошие друзья. В HarperCollins редактор Хилари Редмон поняла, что, если моя предыдущая книга позаимствовала название из песни, эта должна взять его из стихотворения. Ее коллега Эмма Джейнески очень помогла сориентироваться в деталях, связанных с созданием книги.
Особая благодарность директорам Центра передовых исследований в области поведенческих наук в Стэнфордском университете Айрис Литт и Маргарет Леви, позволивших мне присоединиться к сообществу социологов на холмах возле Кремниевой долины. Спасибо также Филу Тобмену за то, что он представил меня Центру.
Когда мне не удалось получить визу для репортажа из Китая в 2012 г., Джон Дулчинос посоветовал мне поехать в Драхтен на фабрику будущего. Во время моих командировок для подготовки репортажей Франк Леви и Дэвид Минделл из Массачусетского технологического института находили время, чтобы обсудить влияние робототехники на рабочие места и экономику. Ларри Смарр, директор Калифорнийского института телекоммуникаций и информационных технологий, часто давал мне приют и всегда видел на десятилетие или два вперед, куда идут компьютерные технологии. Марк Стэлмен щедро рассказывал о Норберте Винере и его влиянии.
Марк Сейден, опыт работы с компьютерами которого отсчитывается от первых интерактивных систем, отрывался от своей работы, чтобы помочь с редактированием и с пониманием технических аспектов. Андерс Фернштедт копался в архивах в поисках работ Норберта Винера, которые считались потерянными давным-давно. Он кропотливо проработал несколько вариантов моей книги, давая подсказки по грамматике и контексту.
Наконец, я благодарю Лесли Терзян Маркофф за то, что она разделила со мной все это.
Об авторе
ДЖОН МАРКОФФ является техническим и научным журналистом в New York Times с 1988 г. Он входит в группу репортеров Times, получивших в 2013 г. Пулитцеровскую премию в номинации «За мастерство», и является автором книги «Что сказал Соня: Как контркультура шестидесятых сформировала индустрию персональных компьютеров». Он живет в Сан-Франциско, Калифорния.
Читать бесплатно другие книги:
