Экспертные методы анализа данных

В целом можно выделить две группы экспертных оценок: индивидуальные и коллективные. Индивидуальные экспертные методы используют при прогнозировании в относительно узких областях науки и практики. Коллективные экспертные оценки применяют при прогнозировании объектов и процессов, имеющих междисциплинарный характер.

Преимущества коллективных экспертных методов перед индивидуальными состоит в следующем.

1. Сумма информации, имеющейся у членов группы специалистов-экспертов, существенно больше, чем в любого управленца или отдельного члена этой же группы.

2. При коллективной экспертизе количество учитываемых факторов обычно превосходит число факторов, которыми оперирует отдельный член группы.

3. Правильно организованное взаимодействие членов группы позволяет компенсировать полярность их мнений и тем самым способствует разработке более обоснованного прогнозного решения.

Ряд экспертных методов трудно отнести к индивидуальным или коллективным. Кроме того, в процессе их применения также используются как качественные, так и количественные критерии. Таким образом, можно выделить особую группу эвристических методов, значение которых заключается в мобилизации творческого мышления на решение сложных комплексных задач.

Индивидуальные методы основаны на использовании мнений экспертов, независимых друг от друга. Информация, которую получает заказчик от эксперта, отличается уникальностью и ориентацией на проблему, имеющую локальный характер.

1. Метод гирлянд и ассоциаций, разработанный в 70-е годы XX века Г. Бушем, предполагает изучение объекта, схожего по свойствам, на базе сличения их выявляются особенности, характерные для исследуемого объекта. Метод предполагает прохождение следующих этапов:

– определение аналогов объекта;

– выбор случайных объектов;

– составление комбинаций из элементов гирлянд аналогов объекта и случайных объектов;

– составление перечня или таблицы признаков случайных объектов;

– развитие идей посредством поочередного присоединения к объекту и его аналогам признаков случайных объектов;

– генерирование гирлянд ассоциаций (поочередно из каждого признака случайных объектов вырабатывается гирлянда «вторичных» понятий и признаков);

– развитие новых идей путем попыток комбинирования элементов гирлянды ассоциаций по признакам с элементами гирлянды аналогов объекта;

– выбор альтернативы, то есть анализ полученного множества идей и принятие решения о прекращении генерирования гирлянд ассоциаций и комбинирования понятий;

– оценка и отбор рациональных вариантов идей;

– выбор предпочтительного варианта.

Сферой применения названного метода может стать сложная проблемная ситуация, слабо изученная, в отношении которой нет сложившегося мнения. Метод может быть реализован только при условии большой предварительной работы, заключающейся в глубоком изучении свойств аналогов исследуемого объекта, целесообразности их привлечения, формировании психологической установки экспертов.

2. Метод парных сравнений основан на простом сопоставлении экспертом альтернативных вариантов, из которых он должен выбрать наиболее предпочтительный. Метод позволяет учитывать равноценность или принципиальную несравнимость представленных альтернатив, в связи с чем они исключаются из анализа. В ходе такого сравнения эксперт не только отбирает лучшие варианты, но и формулирует критерии, позволяющие осуществить такой выбор, подчеркивая свой­ства и признаки отобранной альтернативы.

3. При использовании метода векторов предпочтений эксперту предъявляется весь набор оцениваемых альтернативных вариантов и предлагается для каждого из них указать, сколько альтернативных ему вариантов он опережает. Полученную информацию можно изобразить в виде вектора, одним из компонентов которого является число альтернативных вариантов, превосходящих первый, вторым компонентом — число альтернатив, которые превосходят второй, и так далее. Использовать этот метод можно и при коллективной экспертизе, представляя коллективный взгляд на соотношение рассматриваемых альтернатив.

4. Метод фокальных объектов, разработанный в 50-е годы XX века американским ученым Ч. Вайтингом, заключается в перенесении признаков случайно отобранных аналогов на исследуемый объект. Отличительным признаком данного метода является то, что он совершенно исключает количественный подход и нацелен главным образом на концентрацию внимания исследователя на так называемом фокальном объекте, служащем основой сопоставления с объектами, составляющими поле направленного случайного поиска. Процедура применения метода предполагает прохождение следующих этапов:

– выбор фокального объекта;

– выбор трех—пяти случайных объектов;

– составление списков признаков для каждого случайного объекта;

– генерирование идей посредством присоединения к фокальному объекту признаков случайных объектов;

– развитие полученных сочетаний путем свободных ассоциаций;

– оценка полученных идей и отбор полезных решений.

5. Индивидуальный экспертный опрос возможен в форме интервью или в виде анализа экспертных оценок.

Метод интервью означает беседу заказчика с экспертом, в ходе которой заказчик в соответствии с разработанной программой ставит перед экспертом вопросы, ответы на которые значимы для достижения программных целей. Анализ экспертных оценок предполагает индивидуальное заполнение экспертом (экспертами) разработанного заказчиком формуляра, по результатам которого производится всесторонний анализ проблемной ситуации и выявляются возможные пути в ее решении. Свои соображения эксперт выносит в виде отдельного документа, составленного на основе тщательного обследования объекта.

6. Метод средней точки используется при большом количестве альтернативных решений. Для этого формулируются два альтернативных варианта решения, один из которых наименее предпочтителен, второй — наиболее. После этого эксперту предлагается подобрать третий альтернативный вариант, оценка которого расположена между значениями первой и второй альтернативы. Процедура завершается, когда определяется сравнительная предпочтительность всех участвующих в экспертизе альтернативных вариантов.

7. Метод Черчмена—Акоффа. В соответствии с этим методом все альтернативные варианты ранжируются по предпочтительности, и каждому из них эксперт назначает количественные оценки. Преимуществом данного метода является допущение экспертами корректировок в ходе обсуждения альтернативных вариантов.

8. Метод лотерей. В соответствии с методом имеющиеся альтернативы распределяются в порядке убывания предпочтительности, для обозначения которой эксперт указывает такую вероятность (р), при которой альтернативный вариант (а₂) равноценен лотерее; альтерна­тивный вариант (а₁) встречается с вероятностью (р), альтернативный вариант (а₃) встречается с вероятностью (1 - р).

Коллективные методы (методы организации коллективной мыследеятельности) являются наиболее эффективными с точки зрения достижения максимальной объективности экспертной оценки, поскольку предполагают использование широкого и представительного круга специалистов. В целом методы организации коллективной генерации идей можно разделить на несколько видов.

1. «Мозговой штурм». Главная цель «мозгового штурма» заключается в стимулировании творческого процесса генерации идей, возможного в условиях коллективного обсуждения. Метод позволяет в условиях неопределенной ситуации разработать максимальное количество возможных решений, концентрируя внимание участников на обсуждаемой проблеме. Характерной чертой данного метода является процедура отделения стадии генерации идей от стадии их оценки. Главным преимуществом метода «мозгового штурма» является нацеленность на нахождение нестандартных решений, способных реализоваться при максимально открытом и свободном режиме обсуждения проблемы. Такой режим обсуждения позволяет не только обозначить возможные направления в решении актуальных проблем, но и сформировать группу людей, обладающих высокими креативными способностями, что чрезвычайно важно для организации любого типа. Метод «мозгового штурма» является очень эффективной технологией генерирования новаторских идей.

2. Методика судов. Суть методики заключается в такой организации обсуждения проблемной ситуации в группе, когда одна сторона разрабатывает самостоятельные предложения, а другая дает критику всем этим предложениям. Использование этой методики воспроизводит сценарий суда, в котором происходит состязание между обвинением и защитой. Цель методики заключена в выявлении наиболее аргументированного и оптимального решения, полученного в ходе обстоятельной экспертизы.

Характерной чертой методики судов является ее ролевое исполнение, которое позволяет участникам обсуждения наиболее полно про­явить себя в организационном процессе, осознавая в нем не только собственное место, но и место других служб и должностных функций.

3. Метод «черного ящика». Главным достоинством метода «черного ящика» является минимизация возможного влияния заинтересованных лиц на принятие неэффективных решений. Метод нацеливает на выделение специального аналитического центра, который делает заключение исключительно по разработкам независимых экспертов, оценивающих перспективы принятия решений по определенному перечню проблем.

4. Метод эвристического прогнозирования. Использование данного метода предполагает привлечение к работе экспертов узкой специализации, которые на основе предварительно разработанных анкет и таблиц должны выработать общую модель исследуемого объекта. Основной трудностью в использовании этого метода является процедура подбора экспертов, поскольку их специализация и профиль должны обеспечить возможность целостного представления объекта. Успешное выполнение этой задачи позволит сформулировать ряд нормативных характеристик объекта, которые могут послужить базой для определения вероятных путей их достижения.

Таким образом, методом эвристического прогнозирования назы­вают метод получения и специализированной обработки прогнозных оценок объекта путем систематизированного опроса высококвалифицированных специалистов (экспертов) в узкой области науки, техники или производства. Область применения рассматриваемого метода включает научно-технические объекты, рынки и проблемы, развитие которых либо полностью, либо частично не поддается формализации, то есть для которых трудно разрабатывать адекватную модель.

Следовательно, назначение метода эвристического прогнозирования — выявление объективизированного представления о перспек­тивах развития узкой области науки, техники, рынка на основе систематизированной обработки прогнозных оценок репрезентативной группы экспертов.

5. Синектический метод. Одним из преимуществ синектического метода является возможность достижения консолидации между различными уровнями управления, задействованными в процессе вынесения экспертной оценки. Применение метода является целесообразным в силу того обстоятельства, что в ходе принятия экспертных оценок обсуждение проблем проходит между представителями одного уровня, что позволяет им высказываться откровенно и взвешенно. При этом необходимо учитывать мнение не только представителей высших звеньев управления, которые зачастую могут иметь весьма общее представление об объекте оценки, но и рядовых исполнителей, чьи знания об объекте являются очень ценными и практически значимыми.

Синектический метод является значимым в практике японских предприятий, где фактору причастности персонала к принятию решений придается большое значение. Благодаря консолидации интересов между экспертными уровнями достигается не только социальная стабильность, но выявляется уникальный способ осознания и разрешения актуальных проблем.

6. Метод дневников. Характерным признаком этого метода является его обезличенность и предельная объективность. Реализация метода возможна лишь при наличии документальных источников, по которым исключительно и проводится акт экспертизы. Чаще всего метод используется в структуре управления с жестко регламентированной системой должностных инструкций. Объектом экспертной оценки выступают, как правило, вахтовый журнал, инструктивные документы, на основе которых вырабатываются рекомендации по совершенствованию деятельности предприятий.

7. «Метод Делъфи» является самым популярным из экспертных методов, и его популярность напрямую связана с эвристическими возможностями самого метода, позволяющими решать сложные комплексные задачи.

«Метод Дельфи» был разработан в 1964 г. сотрудниками научно-исследовательской корпорации РЭНД О. Хелмером и Т. Гордоном.

Сущность метода заключается в последовательном анкетировании мнений экспертов по интересующей организаторов экспертизы проблеме.

Метод предполагает серию опросов экспертов, не имеющих возможности вступать друг с другом в непосредственный контакт и получающих информацию о заключениях других лишь по их письменным отчетам. Цель метода заключается в вынесении объективной и точной оценки существующих альтернатив с целью принятия оптимальных и социально приемлемых решений.

Процесс экспертизы может продолжаться до тех пор, пока не бу­дет получена максимально консолидированная оценка экспертами сложившейся проблемной ситуации и предложен оптимальный и наибо­лее обоснованный способ ее решения.

Использование метода возможно лишь при соблюдении ряда условий, способных оказать влияние на его эффективное применение в отборе наилучшей альтернативы. Организационные требования к использованию «метода Дельфи» таковы.

1. Группы экспертов должны быть стабильными, и численность их должна удерживаться в определенных рамках. Минимальное число экспертов можно вычислить по формуле:

N_min = 0,5 (3 : b + 5),

где b — ошибка результата, измеряемого в диапазоне экспертной оценки от 0 до 1.

2. Время между этапами опроса должно составлять не более месяца.

3. Вопросы в анкетах должны быть тщательно продуманы и четко сформулированы.

4. Число туров (этапов) должно быть достаточным, чтобы все участники имели возможность ознакомиться с причиной той или иной оценки и критиковать ее.

5. Необходимо иметь самооценку компетенции экспертов по рассматриваемым проблемам.

6. Необходима формула согласованности оценок, основанная на данных самооценок.

7. Следует установить влияние различных видов передачи информации экспертам по каналам обратной связи.

8. Необходимо установить влияние общественного мнения на экспертные оценки и на сходность этих оценок.

9. В ходе реализации метода должен проводиться систематический отбор экспертов, основанный на данных экспертизы по турам и самооценкам.

Важнейшим достоинством метода является использование в нем количественных показателей, позволяющих делать точные и аргументированные заключения.

«Метод Дельфи» целесообразно применять в следующих случаях:

– имеющиеся в распоряжении или доступные данные непригодны для анализа существующей проблемы;

– в распоряжении нет нужных данных;

– нет достаточного времени для сбора данных;

– процесс получения и анализа необходимых данных слишком дорог.

В «Дельфи» предусматривается создание условий, обеспечива­ющих эффективную работу экспертной комиссии. Это достигается анонимностью процедуры, с одной стороны, и возможностью пополнить информацию о предмете экспертизы, отказом от коллективного мнения — с другой. Еще одно важное свойство — обратная связь, позволяющая экспертам корректировать свои суждения с учетом промежуточных усредненных оценок и пояснений экспертов, высказавших «крайние» точки зрения. Для реализации обратной связи необходима многотуровая процедура. Экспертиза проводится чаще всего в четыре тура.

Прямые дебаты заменены тщательно разработанной программой последовательных опросов, проводимых обычно в форме анкетирова­ния. Ответы экспертов обобщаются и вместе с новой дополнительной информацией поступают в их распоряжение, после чего эксперты уточняют первоначальные ответы. Такая процедура повторяется несколько раз до достижения приемлемой согласованности всей совокупности высказанных мнений.

Перед рассылкой анкеты эксперту объясняется существо проблемы.

На первом туре экспертам сообщается цель экспертизы и формулируются вопросы, ответы на которые составляют основное содержание экспертизы. Успеху способствует предоставление эксперту дополнительной информации о предмете экспертизы. Информация, полученная от эксперта, поступает в распоряжение аналитической группы, обеспечивающей организацию, проведение, обработку промежуточных и окончательных результатов экспертизы. Аналитическая группа определяет экспертов, высказавших «крайние» точки зрения, давших самую высокую и самую низкую оценку альтернативе, усредненное мнение экспертов — медиану, верхнюю и нижнюю квартили, то есть значение оцениваемой альтернативы, выше и ниже которых расположены 25 % численных значений оценок. Расстояние между квартилями характеризует разброс экспертных оценок, то есть согласованность точек зрения экспертов.

Степень согласованности мнений экспертов определяют коэффициентом вариации n, который не должен превышать 33 %. Он рассчитывается по формуле:

n = s/х * 100 %,

где s — среднее квадратическое отклонение оценок.

где х — среднее значение оценки;

х_i — оценка каждого эксперта;

n — число экспертов.

Медиана — значение оценки, которое находится в середине ранжированного ряда. Для нахождения медианы ряда с четным числом вариант складывают две средние варианты и делят сумму пополам.

На втором туре экспертам предъявляется усредненная оценка экспертной комиссии и обоснования экспертов, высказавших «крайние» точки зрения. После получения дополнительной информации эксперты, как правило, корректируют свои оценки. Скорректированная информация вновь поступает в аналитическую группу.

На третьем туре эта информация вместе с анонимными аргументациями поставленных оценок снова направляется каждому участнику. На основе полученной информации эксперты пересматривают предыдущие оценки. Если же оценка какого-либо эксперта значительно выходит за рамки общего интервала, то он должен подтвердить достаточной аргументацией свою позицию и объяснить, почему предыдущая информация и аргументация противоположных оценок не заставили его изменить свое мнение.

На четвертом туре каждый эксперт распределяет оценки третьего тура, и он должен снова представить на рассмотрение пересмотренную оценку, учтя полученную информацию.

Как правило, на практике оказывается достаточным проведение четырех туров опросов. После чего мнения всех экспертов либо сближаются, либо образуют две (или больше) группы существенно различающихся мнений. В первом случае достигнутый результат со значительной степенью обоснованности может быть рассмотрен в качестве прогнозного решения, во втором — необходимо продолжить исследование проблем развития объекта с учетом выдвигаемой различными группами аргументации.

Метод Дельфи имеет несомненные преимущества по сравнению с методами, основанными на обычной статистической обработке результатов индивидуальных опросов. Он позволяет уменьшить колебания по всей совокупности индивидуальных ответов, ограничивает колебания внутри групп. При этом, как показывают проводимые эксперименты, наличие малоквалифицированных экспертов оказывает менее сильное влияние на групповую оценку, чем простое усреднение результатов ответов, поскольку ситуация помогает им исправить ответы за счет получения новой информации от своей группы.

Некоторые недостатки метода Дельфи связаны с нехваткой времени, которое отведено эксперту на обдумывание проблемы. В этом случае эксперт может согласиться с мнением большинства, чтобы уйти от необходимости объяснения, в чем заключается отличие его решения от остальных вариантов. Эти недочеты устраняются совершенствованием организации экспертиз путем создания автоматизированных систем обработки результатов опроса.