Как измерить все, что угодно. Оценка стоимости нематериального в бизнесе Хаббард Дуглас
Но если новые правила не дадут положительного эффекта (разность стоимости положительного воздействия на здоровье и издержек соблюдения правил EPA), то бессмысленно внедрять их быстрее или лучше. Стоимость информации о темпах внедрения штатами новой технологии, принятии ими мер по росту эффективности, повышению процента нарушений, отражаемых в отчетности и т. п. оказалась равной нулю. Все, что нам нужно было сделать, — снизить исходную неопределенность относительно чистого экономического эффекта от введения норм безопасности питьевой воды. Но потенцииальный эффект для здоровья населения (то есть верхние границы интервалов) был очень высок по сравнению с низкими издержками модернизации SDWIS. В результате порог измерения экономического преимущества оказался чуть выше нуля. Иными словами, фактически мы должны были снизить неопределенность относительно того, окажется ли положительным чистый экономический эффект от введения новой политики контроля качества питьевой воды. Вот мы и решили заняться только этим и ничем другим.
Поскольку предыдущие исследования экономических последствий введения новых правил безопасности питьевой воды различались применявшимися методами, мы начали с простого инстинктивно-байесовского подхода, предполагающего более глубокое изучение результатов экономического анализа, выполненного до сих пор.
Причина, по которой калиброванные эксперты учли вероятность отрицательного результата введения новых норм, заключалась в том, что одно из проводившихся ранее исследований показало: одно конкретное требование не дало в свое время положительного экономического эффекта. При ближайшем рассмотрении оказалось, что авторы этого исследования рассматривали лишь консервативные экономические последствия загрязнения воды — дни временной потери трудоспособности и ущерб от этих потерь. Однако большинство людей согласились бы с тем, что заболеть намного хуже, чем не получить зарплату за несколько дней. В других исследованиях учитывали не только показатель недополученной заработной платы, но и готовность платить за то, чтобы не заболеть. Во всех работах, где использовались WTP, экономический эффект новых правил оказался пусть и не очень значительным, но все же положительным.
В результате мы получили более подробную разбивку отдельных эффектов от введения каждой нормы контроля качества воды. Затем был указан калиброванный 90-процентный CI для того, какими оказались бы реальные выгоды от принятия самого бесполезного из введенных ранее правил, будь в нем учтены все благотворные последствия других норм EPA. Стало очевидно: вероятность отрицательного экономического эффекта от введения новой нормы контроля качества воды практически равна нулю. Мы скорректировали свою модель, чтобы отразить эти данные. Проведенный затем анализ стоимости информации показал, что экономическое обоснование любого направления модернизации SDWIS не требует проведения дополнительных измерений.
На этапе 3 мы прогнали окончательную моделирующую программу Монте-Карло для каждого направления инвестирования. Когда неопределенность экономического эффекта от введения новых норм контроля качества питьевой воды снизилась, оказалось, что реализация всех трех инвестиционных проектов крайне желательна. При этом возникла возможность улучшить намеченный ранее график их осуществления. Потенциальная доходность проекта модернизации отражения нарушений в отчетности была очень высокой (среднее соотношение «выгоды/затраты» составляло в данном случае 3:1), однако имелась высокая (12 %) вероятность отрицательной доходности. Вероятность отрицательной доходности двух других проектов составляла менее 1 %.
Кроме того, мы выявили необходимость постоянного отслеживания ряда показателей. Самыми неопределенными переменными были темпы перехода пользователей в штатах на новую систему и скорость ее внедрения. В связи с этим данные переменные имели «остаточную стоимость информации» (то есть они представляли определенную, хотя и небольшую, ценность для людей, производивших оценку). Мы рекомендовали ЕРА быстрее реализовать два первых инвестиционных проекта и отложить модернизацию системы отражения нарушений в отчетности. Причем, прежде чем приступить к реализации третьего проекта, следовало учесть темпы перехода пользователей в штатах на новую систему в ходе реализации двух первых проектов. Если эти темпы окажутся достаточно низкими, то реализация проекта модернизации системы отчетности станет нецелесообразной (случай маловероятный, но возможный).
Марк Дей получил от прикладной информационной экономики именно то, что ожидал. Он сказал: «Использование программного обеспечения в оценке последствий для окружающей среды и здоровья населения произвело на меня колоссальное впечатление. То, что отдельные факторы, учтенные программными модулями, через цепь событий могут быть отслежены до определенных полезных последствий для населения, допускалось и ранее, но оценить данную связь количественно еще никому не удавалось. Думаю, все были искренне поражены тем, что кто-то сумел это сделать». Он также коснулся значения количественного анализа для процесса принятия решений. «Результат, который очень удивил меня, — уровень согласованности мнений у людей с диаметрально противоположными представлениями о том, что необходимо делать. На мой взгляд, достижение подобного консенсуса, несмотря на все трудности, — великолепный результат». По словам Марка Дея, этот процесс продемонстрировал и преимущества анализа стоимости информации: «Прежде никто не понимал самой концепции стоимости информации и не знал, что надо искать. Приходилось пытаться измерить все, средств на это не было, поэтому проще было ничего не делать. Число переменных быстро превысило возможности их оценить, поскольку непонятно было, какие из них действительно важны».
В отличие от Дея, Джеффу Брайану раньше не приходилось заниматься прикладной информационной экономикой. Он говорит: «Я активно возражал против этой затеи. Мне не хотелось отвлекать людей от того, чем они занимались, ради этого анализа, но результат оказался стоящим». Кроме того, он скептически относился и к калибровке экспертов, но, по словам Джеффа, «пройдя через этот процесс и увидев, что люди реагируют на оценки, я понял его важность». По мнению Брайана, наиболее полезной оказалась визуализация связи между информационной системой и целями программы. «График (см. рис. 14.2) не только показал связь SDWIS с улучшением здоровья населения, но и дал способ расчета стоимости выгод от ее использования. Я не думал, что одно лишь количественное определение проблемы приведет к чему-либо столь выразительному. Мне не удавалось доходчиво донести свою мысль, а метод AIE позволил сформулировать получаемые преимущества намного лучше. Даже не могу вам сказать, сколько раз я пользовался этим графиком». Наконец, что самое важное, Брайан довел это дело до конца. «Мы следовали всем последним рекомендациям, в том числе их содержанию и срокам».
Я привел здесь данный случай по двум причинам. Во-первых, это пример того, как «нематериальный» параметр — здоровье населения — подвергся количественной оценке для ИТ-проекта. Мне доводилось наблюдать, как при анализе многих подобных проектов из расчета ROI исключались намного более легкие для оценки эффекты по причине их «неизмеряемости». Во-вторых, пример демонстрирует, что многое измерять и не следует. Оказалось, что необходимо было снизить неопределенность только в отношении одной величины из 99. Для остальных 98 переменных вполне хватило первоначальных калиброванных оценок. А если бы VIA не проводился, то, как это обычно бывает, наверняка были бы рассчитаны малозначащие показатели (например, затраты и будущий рост производительности труда), а также параметры, связанные с самой большой неопределенностью типа возможного улучшения здоровья населения.
Пример из практики: прогнозирование потребности морской пехоты в топливе
Осенью 2004 г. меня попросили решить с помощью прикладной информационной экономики задачу, сильно отличавшуюся от тех, с которыми я сталкивался раньше, работая с разными компаниями или государственными организациями. Управление научных исследований ВМС США (Office of Naval Research, ONR) и Корпус морской пехоты США (U. S. Marine Corps, USMC) поручили одной многоуважаемой консалтинговой фирме найти способ повысить точность прогнозов потребности в топливе в условиях ведения боевых действий, которые составлялись военными плановиками и логистиками. В ходе операций в Ираке дневное потребление топлива только наземными подразделениями USMC составляло сотни тысяч галлонов (а авиация потребляла его втрое больше). При этом допустить развитие нежелательного сценария, когда неожиданно иссякнут запасы топлива, было никак нельзя, поскольку это ставит под угрозу и успех боевых операций, и безопасность морских пехотинцев на суше.
Для того чтобы иметь достаточно топлива на месте в любой момент, логистики и плановики должны были начинать подготовку за 60 дней. К сожалению, точно предсказать, какой будет потребность морской пехоты в топливе через два месяца, невозможно. С такой высокой неопределенностью и неприемлемым риском, что имеющихся запасов топлива окажется недостаточно, естественной реакцией было планировать поставки в объемах, в три-четыре раза превышающих ожидаемую потребность.
Старший уорент-офицер 5-го разряда (chief warrant officer 5, CWO5) Терри Каннеман, 27-летний ветеран USMC, в штабе морской пехоты отвечал за расчет потребности в топливе. Он сказал: «Мы знали, что учитываем старые и менее надежные факторы динамики потребления. Во время проведения OIF (Operation Iraqi Freedom — операции „Свобода Ираку“) мы обнаружили, что традиционные методики работают плохо. Мусор на входе — мусор на выходе». Луис Торрес, руководивший в Управлении научных исследований ВМС анализом потребления топлива, видел те же проблемы: «Все это было связано с общим указанием сократить потребление топлива. Перед нами поставили задачу устранить внутренние ошибки процесса оценки».
Дополнительное количество топлива, необходимое для стратегического баланса, стало для логистики колоссальным бременем. Строилось множество складов горючего. Ежедневно топливо с одного склада перевозилось на другой, находившийся дальше от береговой линии. Эти склады и транспортные колонны создавали угрозу безопасности; охранявшим топливо морским пехотинцам приходилось рисковать собой.
Если бы USMC мог уменьшить имевшуюся неопределенность относительно потребности в топливе, то не пришлось бы хранить столько горючего и вероятность его нехватки не возрастала бы. В то время в USMC использовали довольно простую модель прогнозирования. Сначала подсчитывались вооружение и техника, имевшиеся в развернутых подразделениях, из полученного результата вычиталась техника, находящаяся в ремонте, переданная другим частям, уничтоженная противником и т. п. Затем определяли, какие боевые единицы в следующие 60 дней будут «наступать», а какие будут «выжидать или обороняться». Как правило, атакующее подразделение, перемещаясь, сжигает больше топлива. Каждая единица боевой техники имеет свое среднее потребление горючего, измеряющееся в галлонах в час и в часах боевых действий в день. Если подразделение переходит в наступление, то время работы техники обычно возрастает. Для каждой боевой единицы рассчитывали дневное потребление горючего по данным его потребления боевой техникой и плану действий (атака или оборона). Затем определяли общее потребление горючего всеми подразделениями в каждый из 60 дней.
Точность и надежность данного подхода невысоки. Прогнозная потребность в топливе вполне могла занижаться вдвое или даже больше (отсюда и большие резервные запасы). Мне никогда прежде не приходилось прогнозировать запасы, необходимые для ведения военных действий, но я подошел к этой проблеме точно так же, как к любой другой важной задаче измерения, — воспользовался прикладной информационной экономикой.
На данном этапе я изучил результаты проведенных ранее исследований потребности войск в топливе. Ни в одном из них не описывались конкретные статистические методы прогнозирования. В лучшем случае обсуждались возможные способы, и то лишь в общих чертах. И все же я получил хорошее представление о характере проблемы. Мы отобрали несколько специалистов по логистике, способных принять участие в заседаниях рабочей группы, в том числе старшего уорент-офи-цера Каннемана и Луиса Торреса. Мы решили в течение трех недель провести шесть заседаний рабочей группы, рассчитанных на половину рабочего дня.
Первое заседание рабочей группы на этапе 1 было посвящено определению задачи прогнозирования. Только тогда стало ясно, что USMC интересовало общее потребление топлива в течение 60-дневного периода наземными силами одного только Экспедиционного соединения морской пехоты (Marine Expeditionary Force, MEF), насчитывавшего десятки тысяч солдат. Используя имевшиеся таблицы прогнозирования потребности в топливе, изученные нами на этапе 0, я построил несколько графиков, отвечавших на вопрос: «Куда поступает все топливо?» Эти графики дали членам команды (особенно нам, аналитикам, которые не работали с проблемой каждый день) представление о примерном объеме потребления горючего. Стало ясно, что его основная часть расходуется не танками и даже не бронетехникой в целом. Танк М-1 «Abrams» действительно сжигает галлон топлива каждую треть мили, но таких танков у MEF было только 58. А вот грузовиков в соединении насчитывалось более 1000 плюс более 1300 ставших теперь известными многоцелевых автомобилей повышенной проходимости (High Mobility Multipurpose Wheeled Vehicles, HMMWV), или хаммеров. Во время боевых действий грузовики сжигали в восемь раз больше топлива, чем танки.
Дальнейшее обсуждение того, что на самом деле делает эта техника, когда сжигает горючее, привело к разработке моделей трех разных видов. Из них самой сложной оказалась транспортная. Подавляющее большинство грузовиков и хаммеров сжигают львиную долю топлива, перемещаясь транспортными колоннами по определенным маршрутам. В составе таких колонн они в среднем дважды в день передвигались по круговому маршруту. Другая модель была «боевая». Бронетехника, например танки М1 и легкие бронемашины, тратя на перемещение по этим маршрутам меньше времени, обычно используют больше топлива в ходе проведения операций. Наконец, все генераторы, насосы и служебные автомашины обычно потребляли топливо более равномерно с меньшим удельным расходом. Для этой группы мы использовали уже существовавшую простую модель почасового потребления.
На одном из заседаний рабочей группы была проведена калибровка экспертов. Все показали хорошую способность оценивать вероятность наступления неизвестных событий. Они указывали интервалы значений для всех интересующих нас показателей, которым ранее присваивали лишь точечные значения. Например, если ранее считалось, что семитонный грузовик сжигает за час ровно 9,9 галлона топлива, то они указали интервал 7,8–12 галлонов. Для техники, обычно двигающейся в составе транспортной колонны, нам пришлось указать интервалы расстояний перемещения и учесть влияние дорожных условий на потребление горючего. Для бронемашин, участвующих в боевых операциях, мы должны были указать диапазон времени (при 60-дневном периоде), в течение которого они действительно участвовали в боях.
В результате все свелось к 52 величинам, которые требовались для расчета потребления горючего за 60-дневный период. Значения переменных были выражены в виде 90-процентных CI. В некотором отношении это мало отличалось от анализа проектов, выполненных мною до сих пор. Но вместо того чтобы рассчитать на основе этих величин денежный поток или доходность инвестиций, нам было нужно просто количественно определить общее потребление топлива за период. Модель Монте-Карло, в которую мы ввели эти интервалы, дала распределение возможных результатов, очень близкое к распределению фактических значений потребления топлива.
На этапе 2 мы провели анализ стоимости информации, воспользовавшись макросом программы Excel (хотя для этого вполне подошел бы и график стоимости информации, приведенный на рисунке 7.2). Поскольку решение не должно было выражаться в денежных прибылях или убытках, VIA дал результаты, означавшие, по сути, уменьшение ошибки прогнозной оценки (в галлонах) дневного потребления топлива. Оказалось, что наиболее высока стоимость информации об особенностях маршрутов транспортных колонн, в том числе сведений о расстояниях и дорожных условиях. Высокой оказалась и стоимость информации о влиянии военных операций на потребление топлива боевыми машинами. Мы придумали способы измерить и то, и другое.
Чтобы снизить неопределенность в потреблении топлива при боевых операциях, была выбрана модель линзы, построенная на основе оценок офицеров-логистиков Первой дивизии морской пехоты. В основном это были батальонные штабные офицеры и некоторые командиры подразделений, все с опытом боевых действий в иракской операции. Они назвали несколько факторов, от которых, по их мнению, зависит потребление топлива боевой техникой, и в том числе вероятность соприкосновения с противником (как это называется в планах проведения операций), знание местности, характер местности (город или пустыня) и т. п. Я провел со всеми офицерами тренинг по калибровке, затем составил список из 40 гипотетических сценариев боевых действий и предоставил им информацию о каждом из названных факторов. Для каждого сценария они указали 90-процентный CI величины расхода горючего теми видами боевой техники, которыми командовали (танками, легкими бронемашинами и др.). Собрав ответы, я пропустил через Excel регрессионную модель и получил формулу расчета потребления топлива каждым видом техники.
Чтобы уточнить переменные транспортной модели, характеризующие дорожные условия, мы решили провести ряд экспериментов на военной базе Twenty-Nine Palms (штат Калифорния). Другие подрядчики, участвующие в проекте, обеспечили нас GPS-навигаторами и счетчиками топлива, которые было решено установить на топливопроводах грузовиков. До этого эксперимента никто из команды не знал о существовании таких счетчиков. Я просто сказал этим консультантам: «Кто-то же постоянно этим занимается. Давайте проявим изобретательность и выясним, кто это делает и как». Незамедлительно по Интернету был найден поставщик цифровых счетчиков топлива, а его представители научили нас ими пользоваться. Они же придумали, как использовать получаемые данные в электронной таблице и синхронизировать работу GPS-навигаторов и счетчиков топлива. На проведение дорожных испытаний и расчеты с помощью модели линзы, включая установку и доработку программы Excel, у трех человек ушло несколько недель с учетом времени на дорогу.
Навигаторы GPS и счетчики топлива были установлены на трех грузовиках двух моделей. Сначала мы опасались, что нужна более крупная выборка, но, вспомнив о принципе инкрементальности измерения, решили: просто посмотрим сначала, какой окажется дисперсия у этих грузовиков — ведь два из них в любом случае были одной модели. Навигаторы GPS и счетчики топлива фиксировали местонахождение грузовика и потребление топлива каждую секунду. Пока грузовик находился в движении, эта информация постоянно передавалась на встроенный портативный компьютер. Испытания проводились в разных условиях: на асфальтированных дорогах, пересеченной местности, на разной высоте над уровнем моря (участки базы располагались на разной высоте), на ровных и бугристых дорогах, скоростных автомагистралях и т. д. К тому времени, как мы закончили, у нас была таблица данных о расходе горючего в разных условиях, состоящая из 500 тыс. строк.
Мы пропустили полученные данные через очень большую регрессионную модель. Строк оказалось намного больше, чем могла обработать программа Excel 2003, но такая подробная информация нам и не требовалась. Мы объединили эти данные в блоки по шесть секунд и провели отдельный регрессионный анализ уже переформатированной таким образом информации для испытаний в разных условиях.
По окончании измерений мы обнаружили удивительные вещи. Прежде всего, основной причиной неточности прогнозов потребления топлива оказался недоучет качества дорог и некоторых других особенностей маршрута. Более того, большинство этих параметров (все, кроме температуры воздуха) обычно известны заранее, поскольку военные располагают подробной картой поля боя, сделанной спутниками и беспилотными самолетами-шпионами. Поэтому неопределенность, связанная с дорожными условиями, — ошибка, которой вполне можно избежать. В таблице 14.1 суммированы ошибки прогнозов из-за недоучета других конкретных факторов.
Не менее удивительные открытия позволила сделать модель для боевых машин. Оказалось, что их будущая потребность в горючем зависит вовсе не от вероятности соприкосновения с противником, а просто от того, дислоцировалось ли данное подразделение в этом районе ранее. Ведь если водители танков плохо ориентируются на местности, то они держат двигатели танков постоянно включенными. Они должны держать гидравлику под давлением, чтобы иметь возможность повернуть орудийную башню и избежать риска, пусть и незначительного, того, что в опасной ситуации двигатель не заведется. Другая боевая техника, как и танки, требует небольшого резерва горючего на случай потери ориентации на местности или перемещения по знакомым, но более протяженным маршрутам.
Информация о районе перемещения и дорожные условия — вот что специалисты по планированию должны учитывать всегда. Они знают, было ли подразделение в этом районе прежде. Учет данного фактора уменьшил ошибку прогноза дневного расхода топлива на 3 тыс. галлонов. А учет вероятности соприкосновения с противником сократил эту ошибку лишь на 2,4 тыс. галлонов — меньше, чем все, кроме трех, показатели, характеризующие состояние дороги. Фактически, приняв во внимание вероятность контакта с врагом, мы повысили точность прогноза лишь ненамного больше, чем в случае учета дополнительной остановки на дороге.
На этапе 3 мы разработали для специалистов по планированию и логистике табличный инструмент, куда были включены все новые факторы. В среднем он должен был уменьшить ошибку ранее использовавшегося метода прогнозирования вдвое. В результате, учитывая данные USMC о стоимости топлива (ведь доставить топливо к арене боевых действий гораздо дороже, чем в ближайшую к вам автозаправку), каждое экспедиционное соединение морской пехоты экономило бы ежегодно, по крайней мере, 50 млн дол. Во время написания этой книги в Ираке находились два таких соединения.
Это исследование кардинально изменило подход USMC к прогнозированию потребности в топливе. Даже самые опытные специалисты по планированию в области военной логистики сказали, что были поражены его результатами. Каннеман заявил: «Больше всего меня удивила транспортная модель, показавшая, что больше всего топлива сжигается на маршрутах, связанных с материально-техническим обеспечением. Было обнаружено, что водители танков не глушат двигатели, если не уверены, что смогут достать запасные стартеры. Это то, до чего ни один логистик наверняка не додумался бы и за сотню лет». Более «абстрактные выгоды» использования принципа «измерить можно все, что угодно», похоже, очевидны для старшего уорент-офицера 5-го разряда Каннемана: «Топливо стоит денег. Когда мне говорят, что эти данные трудно найти, я отвечаю, что не верю в это. Сколько вам стоят ошибки ваших прогнозов?» С ним согласен Луис Торрес: «Самым большим сюрпризом для меня стало то, что можно сэкономить такие объемы топлива. У нас появились свободные машины, потому что не нужно больше перевозить столько горючего. Для специалиста по логистике это очень важно. Теперь освободившиеся грузовики смогут перевозить боеприпасы».
Как и в случае SDWIS, это пример того, как можно уменьшить объем работы по измерению. Существовало много других величин, которые при ином подходе пришлось бы анализировать более детально, но нам удалось избежать этого. Пример показывает, как много можно сделать, если подойти к измерению практически, по принципу «берись и просто сделай это». Те самые блестящие программисты из рабочей группы, которые заявляли, что никогда не меняют сами масло в своей машине, закатали рукава и полезли под грязный грузовик, чтобы установить на нем счетчик топлива и навигатор GPS. В итоге оценить расход горючего оказалось нетрудно отчасти и потому, что мы никогда не сомневались: это возможно, если команда достаточно изобретательна. Этим наша работа резко отличалась от предыдущего исследования, проведенного Управлением научных исследований ВМС, которое больше походило на обычные консультации по менеджменту: масса сложных для восприятия понятий и идей, никаких измерений и никакой новой информации.
Главное же, что могло бы разубедить сомневающихся в возможности измерения, — это значение проведенных нами измерений для здоровья и безопасности людей. Нам не пришлось рассчитывать для последнего проекта стоимость безопасности, и в частности стоимость безопасности морских пехотинцев (хотя мы и могли это сделать, воспользовавшись подходом готовности платить за блага или другими методами). Но если перевозится меньше горючего, то это означает, что меньше морских пехотинцев могут попасть в засаду или пострадать от заложенных на обочинах дорог бомб. Мне нравится думать, что, грамотно осуществив измерения, я, возможно, спас кому-то жизнь. Я рад, что мне не помешали это сделать чей-то страх и незнание существующих методов измерения.
Мы говорили в этой книге (с рассмотрением конкретных примеров об оценке результатов деятельности, безопасности, риска, рыночных прогнозов, стоимости информации, а также о подходах к определению стоимости здоровья и счастья. Я познакомил вас с основами эмпирических измерений, в том числе с такими понятиями, как случайная выборка, управляемый эксперимент и регрессионный анализ.
Может показаться, что эта книга перенасыщена информацией. Но, как и практически всегда в бизнесе или в жизни, нередко главное — начать с нескольких примеров, решить задачу от начала и до конца и увидеть результаты. Далее я хочу рассказать вам о нескольких возможных проблемах измерения, вам еще не знакомых. Я остановлюсь на них настолько подробно, насколько это необходимо, чтобы научить вас «идти по задаче» измерения от начала до конца.
Процесс решения подобных задач представляет собой стандартную последовательность шагов, хотя я могу и не упоминать здесь каждый этап отдельно. Я объясню, как решается каждая задача, но вам все равно придется выявить свою первоначальную неопределенность и стоимость информации, разложить переменные на составляющие и выбрать подходящий метод измерения. Однако вы получите достаточно информации, чтобы сделать свой первый шаг на этом пути.
Один менеджер, по его словам, член профессиональной ассоциации качества, спросил меня, как измерить качество. Он добавил, что споры об оценке качества постоянно ведутся на ежемесячных собраниях их ассоциации. Мне показалось это странным, поскольку тот, кого иногда называют «отцом качества», Эдвард Деминг, расценивал качество как количество. Этот менеджер, похоже, слышал о Деминге, но не знал, что тот был статистиком. Деминг учил, что если у вас нет плана измерений, значит, нет и программы качества. Для него качество было постоянным соответствием ожиданиям. А несоответствие выявленным ожиданиям — это дефект. Оценка качества в производственном процессе сводилась, по мнению Деминга, к определению частоты возникновения различных дефектов и оценке отклонений от ожидавшейся нормы.
Для понимания концепции измерения качества я считаю точку зрения Деминга абсолютно необходимой, но, возможно, все-таки недостаточной. При всем уважении к Демингу я думаю, что полное определение качества должно включать в себя нечто большее. Ведь товар, произведенный с минимальными затратами, может идеально соответствовать ожиданиям производителя и все же считаться потребителями некачественным. А если потребители не считают продукт качественным, то мнение производителя по этому поводу значения не имеет. Полное представление о качестве любого продукта может дать только опрос потребителей.
Полезно вспомнить и о различии между заявленными и выявленными предпочтениями. Участвуя в опросе, потребители указывают свои предпочтения. Делая (или не делая) покупки, они тоже демонстрируют свои предпочтения. При этом лучшим выражением их мнения о качестве товара является премия, которую они готовы заплатить за это высочайшее качество. Этот «премиум-доход» можно сравнить с сэкономленными расходами на рекламу — ведь обычно люди готовы заплатить больше за товары, считающиеся высококачественными или остромодными даже без той дополнительной рекламы, которая потребовалась бы в ином случае. Качественные товары чаще покупают повторно, и потребители сами делают им хорошую рекламу. Все упомянутое до сих пор поддается, по крайней мере, выявлению путем проведения опроса, а толковый аналитик всегда может рассчитать нечто вроде подразумеваемой ценовой премии на основе покупательского поведения потребителей.
Смысловая нагрузка вопроса «Какова стоимость X?» почти так же сложна, как измерения, позволяющие на него ответить. Обычно определение стоимости кажется трудным делом из-за отсутствия четкого понимания того, для чего это делается. Иногда руководители информационных служб спрашивают меня, как определить стоимость какой-нибудь информационной технологии. Тогда я, в свою очередь, задаю им ответный вопрос: «А вы что же, собираетесь от нее отказаться?» Ведь все проблемы, связанные с оценкой, будь то в бизнесе или правительственных учреждениях, представляют собой сравнение имеющихся альтернатив. Собираетесь попробовать рассчитать стоимость информационной технологии для компании? По-видимому, вам придется сопоставить затраты и выгоды от ее внедрения и затраты и выгоды работы без нее. Поэтому задаваться подобным вопросом стоит только в том случае, если вы действительно собираетесь обойтись без данной ИТ (или того, чью стоимость вы хотели узнать).
Бывает, однако, что директору информационной службы на самом деле нужно узнать, возросла ли стоимость ИТ с тех пор, как он получил это назначение. В таком случае следует сосредоточиться на расчете чистых выгод от конкретных решений и программ, принятых и реализованных за этот период. К задаче можно также подойти как к оценке эффективности в денежном выражении, о чем мы говорили в предыдущих главах. Если директор информационной службы интересуется стоимостью информационной технологии, потому что хочет найти аргументы против передачи ее функций на сторону, то его на самом деле интересует не стоимость ИТ, а стоимость сохранения отдела по сравнению со стоимостью аутсорсинга.
Обычно вопрос о стоимости возникает только тогда, когда появляются альтернативы. При правильной формулировке альтернатив и решения, которое надо принять, ответ на вопрос о стоимости будет для вас намного более очевиден.
Как и все остальное, инновации, если только они реальны, всегда можно наблюдать. По аналогии с многими другими задачами измерения, главная проблема здесь, скорее, в определении решения, которое принимается. Что бы вы сделали иначе, знай заранее результаты оценки инноваций? Если вы можете назвать какое-нибудь реальное решение (например, при оценке работы команды или отдела исследований и разработок для того, чтобы премировать или уволить сотрудников), то читайте дальше. В противном случае никакого экономического смысла в оценке инноваций нет.
Если вам удалось сформулировать, по крайней мере, одно решение, которое будет принято по результатам этой оценки, я советую воспользоваться одним из трех возможных методов. Во-первых, всегда можно получить чисто субъективные, но контролируемые оценки. Привлеките независимых экспертов и используйте для коррекции ошибок модели Раша и другие имеющиеся инструменты. Один из них — испытание вслепую, когда специалист не знает, чье творчество (рекламу, логотипы, научную работу, архитектурный проект и т. п.) он оценивает. Этот прием полезен, когда необходимо оценить качество исследований и разработок на основе портфеля генерированных идей. Некоторое представление о том, как это делается, мы дали в примере с компанией Mitre (см. главу 2).
Другой способ — использовать известные на тот момент, когда научная работа готовится к публикации, показатели качества инноваций, например число полученных патентов или опубликованных научных статей. В области библиометрии (изучения текстов, в том числе научных работ) применяется такой метод, как подсчет числа прямых и перекрестных упоминаний. Если человек пишет в статье о чем-то действительно революционном, то на его работу обычно ссылаются другие исследователи. В этом случае индекс цитируемости данного автора часто более информативен, чем число опубликованных им работ. Тот же метод используют при выдаче патентов, поскольку в заявке положено ссылаться на существующие аналогичные патенты, чтобы можно было выявить сходства и различия между ними и предлагаемым изобретением. Специалисты в области, называемой наукометрией, пытаются оценить научную эффективность[57]. Правда, обычно они сравнивают целые компании или страны, но данный подход может пригодиться и вам.
Последний заслуживающий упоминания метод похож на обсуждавшийся нами в предыдущих главах метод оценки результатов деятельности в денежном выражении. Как сказал гуру с Мэдисон-авеню Дэвид Огилви, «если что-то не продается, значит, оно не креативно». Вещи могут казаться креативными, но не являться таковыми с точки зрения бизнеса. Если цель состояла в том, чтобы модернизировать решение бизнес-проблемы, то каковым оказался экономический (то есть, в конечном счете, финансовый) результат этого решения? Почему бы не оценивать эффективность ученых так, как Том Бейквелл оценивал производительность труда преподавателей или как Билли Бин измерял эффективность бейсболистов (см. главу 11)?
Мне довелось, по крайней мере, четырежды моделировать доступность информации, и в конце концов в каждой модели оказывались одни и те же переменные. Более высокая доступность информации означает, что вы тратите меньше времени на ее поиск и реже теряете ее. Когда информация потеряна, вы либо обходитесь без нее, либо пытаетесь генерировать ее заново. Поиски документа либо попытки его повторного создания легко измерить через затраты времени на выполнение этой совершенно лишней и нежелательной работы. Если восстановить утерянную информацию невозможно, то вы расплачиваетесь за это менее обоснованными и взвешенными решениями, которые чаще оказываются ошибочными. Для начала калиброванные эксперты могут указать интервалы для средних значений затрат времени на поиск документов, составление их заново или вообще на работу без утерянной информации.
Термин «гибкость» очень широк, неоднозначен и передает суть множества вещей. Здесь я просто расскажу о том, как определяли и оценивали гибкость три моих клиента. Каждый высказал совершенно отличное от других мнение, поэтому стоит привести кое-какие подробности.
Пример 1. Гибкость — это процент сокращения среднего времени реагирования на неожиданные проблемы с доступом к компьютерной сети (например, быстрее устранить вирус или решить задачу неожиданного роста числа запросов на вход в сеть).
Пример 2. Гибкость — это процент сокращения времени разработки нового продукта.
Пример 3. Гибкость — это способность при необходимости добавить новый пакет программ (в предыдущей информационной системе использовались собственные программы, несовместимые с приложениями на базе Oracle).
Все три определения гибкости относились к предполагаемым инвестициям в ИТ — либо в доработку инфраструктуры, либо в модернизацию программного обеспечения. Оценивая три соответствующих инвестиционных проекта, мы должны были, как обычно, рассчитать их годовую денежную стоимость в виде денежного потока, а затем чистую приведенную стоимость и доходность инвестиций.
Пример 1. Годовая денежная стоимость пятилетнего проекта для расчета ROI = Текущее время простоя (ч/год) Средняя стоимость одного часа простоя Сокращение простоев в результате внедрения новой системы.
Пример 2. Годовая денежная стоимость семилетнего проекта для расчета ROI = [Число новых продуктов, разработанных за год Процент новых продуктов, выходящих на рынок Текущее время разработки нового продукта (месяцы) Дополнительная валовая прибыль от нового продукта, выведенного на рынок в предыдущем месяце + Рост себестоимости] Снижение затрат времени.
Пример 3. Годовая денежная стоимость пятилетнего проекта для расчета NPV = Число новых приложений за год NPV дополнительного обслуживания собственных приложений в течение среднего срока их службы по сравнению со стандартным пакетом программ + Дополнительные краткосрочные затраты на разработку собственного приложения по сравнению со стандартным пакетом программ.
Поскольку все предлагаемые решения были крупными, а неопределенность — высокой, значения ожидаемой стоимости полной информации (EVPI) в данном случае составляли от сотен тысяч до миллионов долларов. Но, как это часто бывает, важнее всего оказалось измерить совсем не то, что выбрал бы сам клиент. Мы решили эти задачи измерения следующим образом.
Пример 1. Мы разработали для клиента опрос о последствиях простоя сети, который проводили после каждого из пяти сбоев с участием 30 респондентов. Клиент смог определить, повлияли ли сбои на производительность труда его сотрудников вообще, и если да, то сколько времени они не могли работать.
Пример 2. Мы разложили затраты времени на разработку нового продукта на девять конкретных составляющих, соответствующих видам деятельности, попросили калиброванных экспертов оценить затраты времени на каждое из них в процентах от общих временных издержек. Затем мы дали задание калиброванным экспертам, которые получили информацию о результатах дополнительных исследований, оценить сокращение по каждому виду деятельности.
Пример 3. Мы определили конкретные программные приложения, которые будут рассматриваться в ближайшие годы, и рассчитали рост себестоимости и эксплуатационные расходы на каждое из них по сравнению с аналогичным пакетом собственных программ.
В каждом случае затраты на измерение составляли менее 20 тыс. дол., что соответствовало 0,5–0,1 % рассчитанной ожидаемой стоимости полной информации. В каждом случае первоначальная неопределенность была снижена на 40 % или более. Дополнительный анализ стоимости информации показал, что дальнейшие измерения не будут иметь смысла. Измерения, проведенные для примеров 1 и 3, выявили необходимость дальнейших инвестиций. В случае же примера 2 была установлена высокая рискованность осуществления инвестиций. Доказать обоснованность реализации этого проекта удалось только после сокращения его масштабов и расходов в ходе апробации пилотного варианта.
В 1997 г. Нобелевская премия по экономике была присуждена Роберту Мертону и Майрону Скоулзу за разработку теории опционов и, в частности, формулы Блэка — Скоулза для оценки стоимости финансовых опционов. (Нобелевская премия присуждается только ныне живущим ученым; еще один автор формулы, Фишер Блэк, умер до ее присуждения.) В финансах опцион «колл» дает своему владельцу право, но не обязанность купить другой финансовый инструмент (акции, товар и т. д.) в какой-то момент в будущем по оговоренной цене. Аналогично, опцион «пут» дает своему владельцу право продать его по оговоренной цене. Если, например, у вас есть опцион «колл» на покупку акций по цене 100 дол. через месяц, а к тому времени акции будут продаваться уже по 130 дол., то, исполнив опцион и продав свои акции, вы немедленно заработаете 30 дол. Проблема состоит в том, что вы не знаете стоимости этих акций через месяц и будет ли данный опцион вообще что-то стоить. Лишь после появления формулы Блэка — Скоулза стало ясно, как осуществлять ценообразование подобнх опционов.
Пресса подняла из-за этой теории намного больше шума, чем по поводу большинства экономических теорий, и ее стало модно применять не только для оценки опционов «колл» и «пут», но и для принятия решений в компаниях. Появилась так называемая теория реальных опционов, и многие менеджеры попытались представить процесс принятия решений в компаниях как решение задач по оценке опциона. В некоторых случаях (но далеко не всегда) этот подход действительно эффективен. Так, далеко не каждую проблему оценки преимуществ новой технологии можно представить в виде оценки опциона. На практике такой анализ в большинстве случаев сводится к применению не модели Блэка — Скоулза, а более традиционной теории принятия решений. Предположим, вы моделируете с помощью метода Монте-Карло новую программную платформу, позволяющую вносить изменения, если в будущем такие корректировки окажутся выгодными. Тогда модель продемонстрирует, что в среднем иметь эту возможность лучше, чем не иметь. Формула Блэка — Скоулза при этом не используется, но таковы в большинстве своем проблемы оценки реальных опционов. Использование формулы определения цены опциона на акцию оправдано только в случае, если вы можете объяснить, какое значение каждая переменная в формуле Блэка — Скоулза имеет в контексте вашей задачи. В этой формуле фигурируют цена исполнения, цена-страйк[58] и волатильность курса акций. Если непонятно, какие переменные вашей модели принятия решений соответствуют этим показателям, то формула Блэка — Скоулза, скорее всего, не годится (на дополнительном веб-сайте приводятся примеры оценки опционов с помощью и без помощи формулы Блэка — Скоулза).
Подведем итоги
Если вы считаете, что столкнулись с чем-то, что «невозможно измерить», то вспомните примеры SDWIS и USMC. На самом деле решить любую задачу по количественной оценке не так уж сложно, если серьезно обдумать ее.
1. Если нечто действительно важно, значит, вы можете это определить. Если нечто, по вашему мнению, вообще существует, значит, вы это уже каким-то образом наблюдали.
2. Если нечто является и важной, и неизвестной величиной, то существует вероятность ошибки в ее оценке и понесения затрат в случае такой ошибки.
3. Текущую неопределенность вы можете выразить количественно с помощью калиброванных оценок.
4. Рассчитать стоимость дополнительной информации можно, определив пороговое значение интересующего вас показателя, то есть такое его значение, при котором принимаемое решение будет отличаться от решения, возможного в отсутствие этих сведений.
5. Установив, что параметр заслуживает количественной оценки, вы сможете выбрать метод измерения и решить, сколько времени и сил следует потратить на его проведение.
6. Даже поверхностное знакомство с несколькими методами случайной выборки, управляемыми экспериментами или даже просто способами уточнения экспертных оценок позволяет существенно снизить неопределенность.
Оглядываясь назад, я спрашиваю себя: неужели какая-нибудь из обсуждавшихся нами «нерешаемых» задач измерения поставила бы в тупик Эратосфена, Энрико или Эмили? Лично мне сделанное ими демонстрирует, что они, по крайней мере, интуитивно понимали все положения теории измерения, которым в этой книге придается особое значение. Наверное, способы количественного определения текущей неопределенности, методы расчета стоимости информации и ее влияние на выбор приемов измерения оказались бы для них в новинку. Наши учителя в сфере измерения просто не могли быть знакомы с некоторыми обсуждавшимися нами методами, но я подозреваю, что они все равно нашли бы способ сделать наблюдения, способные снизить неопределенность.
Надеюсь, если не что-то другое, так, по крайней мере, примеры Эратосфена, Энрико и Эмили, а также описанные в книге практические примеры заставят вас усомниться в правоте утверждения: нечто, критически важное для вашей компании, измерить невозможно.
Приложение
Тесты на калибровку (и ответы на них)
Другие тесты на калибровку вы найдете на следующих страницах.
Ответы см. на следующей странице
Ответы см. на следующей странице
Все еще не калиброваны? Дополнительные калибровочные тесты можно найти на сайте: www.howtomeasureanything.com
Ответы см. на следующей странице
Ответы см. на следующей странице
Все еще не калиброваны? Дополнительные калибровочные тесты можно найти на сайте: www.howtomeasureanything.com