Принципы групповой экспертизы
М.Н.Пиганов
ЭКСПЕРТНЫЕ ОЦЕНКИ В УПРАВЛЕНИИ КАЧЕСТВОМ ИЗДЕЛИЙ ЭЛЕКТРОННОЙ ТЕХНИКИ
Учебное пособие
Самара
УДК 519.2:621.382
Пиганов М.Н. Экспертные оценки в управлении качеством изделий электронной техники. –Самара, 2012. – 134 с .
Учебное пособие предназначено для студентов радиотехнического факультета изучающих дисциплину «Управление качеством электронных средств».
ОГЛАВЛЕНИЕ
ВВЕДЕНИЕ…………………………………………………………………………………….4 1.Предпосылки и методологические основы использования экспертных методов………………………………………………………….…….…7 1.1.Рациональные решения и математико-статистические методы………………………. 7 1.2.Неопределённость и вероятность…………………………………...……………….… 11 1.3.Эксперты и уровень неопределённости…………………………………..………… ..15 2.ПРИЦИПЫ ГРУППОВОЙ ЭКСПЕРТИЗЫ………………………………….……… …20 2.1.Некоторые особенности групповых оценок………………………………….…. …...20 2.2.Подготовка экспертизы…………………………………………………..………. ……25 2.3.Отбор экспертов………………………….…………………………….………… ……32 2.4.Метод Дельфы………………………………………………………….………... …….36 3.МЕТОДЫ ОБРАБОТКИ ИНФОРМАЦИИ,ПОЛУЧАЕМОЙ ОТ ЭКСПЕРТОВ….….48 3.1.Формализация информации и шкалы……………………………………..……...….. .48 3.2.Ранжирование и оценка………………………………………………….……………..54 3.3.Метод непосредственной оценки ……….……………………………. ………….…....56 3.4.Метод последовательных сравнений …………………………………..……………...60 3.5.Метод парных сравнений…………………………………………………………… ..64 4.ПРОВЕРКА СОГЛАСОВАННОСТИ ЭКСПЕРТНЫХ ОЦЕНОК………..……..……..67 5.ОБРАБОТКА РЕЗУЛЬТАТОВ ПЕРВОГО ТУРА .ОПРОСА…………………………..80 5.1.Постановка проблемы………………………………………………………………….80 5.2 Обработка результатов первого тура опроса ……………………………………...….88 5.2.1 Обработка ответов экспертов на первую группу вопросов (1-3)……………….....88 5.2.2 Обработка ответов экспертов на вторую группу вопросов (4-7)………………...92 5.2.3 Обработка ответов экспертов на третью группу вопросов (8-11)……………….94 5.3 Анализ согласованности экспериментальных данных……………………..…….….109 6.ПРОГРАММА АВТОМАТИЗИРОВАННОГО СБОРА И ОБРАБОТКИ ИНФОРММАЦИИ…………………………………………………………………………111 6.1.Постановка задачи…………………………………………………………..………….111 6.2.Состав программного пакета………………………………………………..…………111 6.3.Программа обработки анкетных данных……………………………….…………….114 7.ВТОРОЙ ТУР ОПРОСА………………………………………………….……………...120 7.1.Методика второго тура опроса………………………………………….……………. 120 7.2.Обработка результатов второго тура………………………………………..…………120 7.2.1.Обработка ответов экспертов на первую группу вопросов (1-3)…………….……120 7.2.2.Обработка ответов экспертов на вторую группу вопросов (4-7)……..………....124 7.2.3.Обработка ответов экспертов на третью группу вопросов (8-11) ……………….126 7.3.Анализ согласованности экспериментальных данных……………………………….137 8.ОБЕСПЕЧЕНИЕ БЕЗОПАСНОСТИ И УЛУЧШЕНИЕ УСЛОВИЙ ТРУДА ПРИ РАБОТЕ НА ПЭВМ…………...…139 8.1.Понятие «условия труда»…………………………..…………………………………. 139 8.2.Обеспечение безопасности труда оператора при работе с ПЭВМ…………….…140 8.2.1.Особенности работы на ПЭВМ……………………………………………………..140 8.2.2.Организация рабочего места инженера-оператора ЭВМ…………………………144 8.2.3.Описание планировки рабочего места……………………………………………..147 8.3.Освещение рабочего места…………………………………………………….………147 8.4.Защита от опасного воздействия электрического тока………………………….….149 8.5.Требования к микроклимату………………………….……………………………….152 8.5.1.Нормативные требования к микроклимату………………………………………...152 8.5.2.Расчёт вентиляции производственных помещений…………………………….….153 8.6.Режим труда и отдыха…………………………………………………………….……154 9.ОБОСНОВАНИЕ ЭКОНОМИЧЕСКОЙ ЦЕЛЕСООБРАЗНОСТИ РАЗРАБОТКИ АВТОМАТИЗИРОВАННОЙ СИСТЕМЫ………………………………………….….....156 ЗАКЛЮЧЕНИЕ…………………………………………………………………….………162 СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ……………………………..……...…166 Приложение А……………………………………………….…….. Приложение Б………………………………………………………………………………... Приложение В…………………………………………………………………………….….. Приложение Г………………………………………………………………………………… Приложение Д………………………………………………………………………………… Приложение Е………………………………………………………………….……………… Приложение Ж………………………………………………………………………..……….. Приложение И………………………………………………………………………………… Приложение К………………………………………………………………………………… Приложение Л………………………………………………………………..………………. Приложение М………………………………………………………………………………. Приложение Н……………………………………………………………….………………. Приложение О……………………………………………………………….………………. Приложение П……………………………………………………………….………………. Приложение Р…………………………………………………………………..…………….. Приложение С………………………………………………………………………………… Приложение Т……………………………………………………………………………….. Приложение У…………………………………………………………………..……………. Приложение Ф……………………………………………………………….……………….. Приложение Х…………………………………………………………………….…………… Приложение Ц……………………………………………………………………..………….. Приложение Ч……………………………………………………………………..…………… Приложение Ш………………………………………………………………………………. |
Введение
Конкурентоспособность радиоэлектронной аппаратуры определяется комплексом системо-схемотехнических, конструкторских, технологических и организационно-экономических решений, направленных на повышение её функциональных возможностей, обеспечение заданных показателей качества, снижение затрат и сроков проектирования и производства.
В рыночных условиях, когда конкурирующими фирмами предлагается набор аналогичных по назначению изделий, потребители отдадут предпочтение таким изделиям, которые в наибольшей степени отвечают их интересам. Однако, интересы потребителей и производителей, как правило, оказываются противоречивыми: производителю необходимо снизить затраты на проектирование и производство изделий, что связано с применением дешевой элементной базы и использованием экономичных сборочно-монтажных работ, а потребитель заинтересован в низкой продажной цене изделий, но с гарантией надёжности в заданный срок эксплуатации.
Удовлетворить эти взаимно связанные интересы потребителя и производителя возможно лишь с применением высоких (критических) технологий, как для элементной базы, так и для сборочно-монтажных работ.
При производстве микросборок предусмотрен большой объем контрольных операций, которые обуславливают должный контроль качества продукции и позволяют своевременно выявить брак, отклонения в технологическом процессе и другие негативные факторы, влияющие на качество изделия. Однако, проведение полного комплекса испытаний связано с большими затратами времени и средств и не всегда оправдывает себя в полной мере. Следовательно, встает вопрос о выборе наиболее важных контрольных операций.
Особенно актуальна эта проблема при производстве микросборок спецназначения (бортовая аппаратура летательных аппаратов), когда от правильного выбора контрольных операций зависит работоспособность дорогих изделий и комплексов, а иногда и жизнь людей.
Сильно усложняет выбор контрольных операций для каждого конкретного случая то, что эти операции слабо формализуются и сложно оценить прямо «в лоб» степень важности, какой либо из них с достаточной степенью точности. В этом случае на помощь приходят методы экспертных оценок.
Кроме того, с помощью методов экспертных оценок можно оценить какие факторы оказывают наибольшее влияние на надежность и качество микросборок, и, соответственно, на какие операции ТП производства микросборок следует обратить особое внимание для достижения заданных показателей качества продукции.
Сама по себе процедура обработки статистической информации, полученной от экспертов очень сложна, монотонна и отличается большим числом однотипных вычислений, что не может не натолкнуть на мысль о целесообразности разработки автоматизированной системы обработки статистической информации получаемой от экспертов. На долю организатора экспертизы в данном случае ложится только лишь задача анализа результатов отдельных этапов экспертизы и выдача на основе этого исходных данных для следующих этапов.
Целью данной дипломной работы является проведение учебного эксперимента по определению контрольных операций, необходимых при производстве микросборок, объема испытаний, и целесообразности введения ДНК на определенных операциях техпроцесса. Кроме того, в дипломной работе оцениваются наиболее важные факторы, влияющие на надежность и качество МСБ, операции ТП, оказывающие наибольшее влияние на качество МСБ, а также наиболее важные показатели качества.
1.Предпосылки и Методологические основы использования экспертных методов
1.1.Рациональные решения и математико-статистические методы
Современное общество развивается под все усиливающимся воздействием научно-технической революции, вызывающей коренные преобразования в производстве средств, предметов и продуктов труда, глубокие изменения в структуре и экономике нашей страны.
Особое значение в управлении в настоящее время приобретают методы оптимизации, основанные на применении формальных, чаще всего математических моделей, обеспечивающих экономию времени и средств при решении многих практических задач. Построение моделей помогает привести сложные и подчас неопределенные факторы, связанные с проблемой принятия решения, в логически стройную схему, определить, какие данные необходимы для оценки и выбора альтернатив.
В процессе управления возникает естественное стремление к отысканию решения, которое объективно является наилучшим (оптимальным) из всех возможных. В качестве инструмента оптимизации сейчас широко используется математическое программирование. Успехи в применении математического программирования к решению различного, рода хозяйственных, научных, технических и военных задач породили методологические воззрения, согласно которым кардинальное решение проблем управления возможно только тогда, когда все его аспекты отображаются в системе взаимосвязанных математических моделей.
Однако формализация технико-экономических проблем осложняется рядом особенностей современного этапа научно-технического прогресса. Реальные процессы настолько сложны, что трудно рассчитывать на появление моделей, которые полностью отражали бы природу и количественные взаимосвязи в них. Реальная действительность всегда сложнее самых тонких математических моделей, а ее развитие часто опережает формальное познание. Реальные задачи управления требуют в качестве неотъемлемого элемента решения участия людей, т. е. представляют собой системы «человек — машина» (СЧМ). И, наконец, сам процесс управления всегда предполагает ориентацию не только на числовые данные, но и на обычный здравый смысл.
Ясно, что использование математического программирования и вычислительной техники позволяет принимать решения, основанные на более полной и надежной информации. Однако, несомненно, и то, что при любых условиях выбора рационального решения требуется нечто лучшее, чем хорошая математическая модель.
Принимая решения, мы обычно предполагаем, что информация, используемая для их обоснования, достоверна надежна. Однако для многих научно-технических задач, являющихся по своему характеру качественно новыми и неповторяющимися, это предположение либо заведомо не реализуется, либо в момент принятия решения его не удается доказать.
Наличие информации и правильность ее использования в значительной степени предопределяют рациональность (оптимальность) выбранного решения. Кроме данных, состоящих из собранных (числовых) статистических величин, информация включает в себя другие, не поддающиеся непосредственному измерению величины, например предположения о возможных решениях и их результатах. Таким образом, данные — это нечто более широкое и менее сгруппированное и целенаправленное, чем информация, которая служит основой для принятия решения. Обычно такая информация складывается из различных по своему качеству частей. В зависимости от природы решаемой проблемы и конкретных обстоятельств эти части имеют неодинаковую полноту. Практика показывает, что основные трудности, возникающие при поиске и выборе решений, обусловлены, прежде всего, недостаточно высоким качеством и неполнотой имеющейся информации.
Основные «информационные» трудности, возникающие при выработке сложных решений, можно подразделить на группы.
Во-первых, исходная статистическая информация зачастую бывает недостаточно достоверной. Однако даже при наличии достоверных данных о прошлом они не всегда могут служить надежной базой для принятия решений, направленных в будущее, поскольку существующие условия и обстоятельства могут в дальнейшем изменяться.
Во-вторых, некоторая часть информации имеет качественный характер и не поддается количественной оценке
В-третьих, в практике подготовки решений часто возникают ситуации, когда в принципе необходимую информацию получить можно, однако в момент принятия решения она отсутствует, поскольку это связано с большими затратами времени или средств.
В-четвертых, существует большая группа факторов, которые могут повлиять на реализацию решения в будущем, но их нельзя точно предсказать.
В-пятых, одна из наиболее существенных трудностей при выборе решений состоит в том, что, любая научная или техническая идея содержит в себе потенциальную возможность различных схем ее реализации, а любое внешнее действие может приводить к многочисленным исходам. Проблема выбора наилучшего варианта решения может возникать и потому, что обычно существуют ограничения в ресурсах, а, следовательно, принятие одного варианта всегда связано с отказом от других (недостаточно эффективных) решений.
И, наконец, при выборе наилучшего решения мы нередко сталкиваемся с многозначностью обобщенного критерия, на основе которого можно произвести сравнение возможных исходов. Многозначность, многомерность и качественное различие показателей являются серьезным препятствием для получения обобщенной оценки относительной эффективности, важности, ценности или полезности каждого из возможных решений.
В связи с этим одна из главных особенностей решения научно-технических и хозяйственных проблем заключается в том, что применение расчетов здесь всегда переплетается с использованием суждений руководителей, учёных, специалистов. Эти суждения позволяют хотя бы частично компенсировать недостаток информации, полнее использовать индивидуальный и коллективный опыт, предположения специалистов о будущих состояниях объектов. Закономерность развития науки и техники состоит в том, что новые знания, научно-техническая информация накапливаются в течение длительного периода времени. Нередко это накопление идет в скрытой форме, «подспудно», в сознании ученых и разработчиков. Они, как никто другой, способны оценить перспективы той области, в которой работают, и предвидеть характеристики тех систем, в создании которых непосредственно участвуют.
Ясно, что чем более упорядочена, формализована процедура использования суждений экспертов, тем более достоверна полученная информация.
Таким образом, подход к выработке решений зависит как от объема имеющейся информации, так и от того, насколько вся доступная информация формализована.
Невозможность полной формализации не исключает, однако, возможности и необходимости применения математико-статистического аппарата и логического анализа процессов принятия рациональных решений.
Особое значение при решении современных проблем приобретают методы теории вероятностей и математической статистики, поскольку они оказываются тесно связанными с познанием внутренней сущности экономических явлений и процессов управления.
1.2. Неопределённость и вероятность
Основой любого процесса управления является информация, которая имеется у лица принимающего решение. Располагая информацией о состоянии исследуемого (или аналогичных) явления в прошлом и обосновывая свои предположения о возможных состояниях его в будущем, принимающий решение выбирает наилучший способ достижения поставленной цели. Так возникает проблема выбора одного из нескольких исходов при недостаточности информации или, как принято характеризовать подобную ситуацию, в условиях неопределенности. Эта неопределенность чаще всего является следствием вероятностного характера исследуемых явлений, невозможности точного предсказания окончательных результатов многих процессов и т. д.
Снизить уровень неопределенности и повысить достоверность решений можно с помощью подходов, позволяющих учитывать неопределенность. Практика показывает, что существующее подчас стремление «отбросить» случайные факторы и принимать решения на основе «точных» расчетов будущего ведет к значительному снижению эффективности управления.
Влияние неопределенности может быть весьма значительным в одних ситуациях и совершенно несущественным - в других. Так, если имеется множество возможных действий (решений) и если относительно каждого из них известно, что оно приводит к некоторому конкретному исходу, то принято говорить, что выбор осуществляется в условиях определенности. В таких «детерминированных» ситуациях предполагается, что все элементы, влияющие на будущие результаты, имеют вполне определенное значение (которое известно или может быть установлено), и задача заключается в перечислении возможных решений и выборе одного (или нескольких) из тех, которые дают максимум или минимум некоторого показателя.
Трудности рационального выбора в условиях определённости могут заключаться в невозможности перечисления всех решений или подбора надлежащего показателя эффективности. Могут также иметь место случаи, когда отсутствует возможность получения всей необходимой информации об элементах. Несмотря на то, что существуют вполне определенные характеристики этих элементов, однако в момент принятия решения они по тем или иным причинам остаются неизвестными. В этих случаях приходится прибегать к вероятностным оценкам, которые хотя, и не связаны с природой исследуемого явления, но вытекают из возможностей сбора и особенностей имеющейся информации.
В отличие от этого в ситуации неопределенности всегда имеются факторы или явления, вероятностные по своей природе или не контролируемые со стороны принимающего решение. В современной теории статистических решений принято различать ситуации риска и неопределенности. Ситуация риска имеет место, когда каждое действие приводит к одному из множества возможных частных исходов вероятности которых известны или по крайней мере могут быть определены. Ситуация неопределенности имеет место, когда каждое действие влечет за собой множество частных исходов, но вероятности этих исходов неизвестны или даже не имеют смысла.
С учетом этого выбор решений классифицируется по признаку «определенность – риск - неопределенность» следующим образом:
а) выбор решения при определённости, если относительно каждого действия известно, что оно неизменно приводит к некоторому конкретному исходу;
б) выбор решения при риске, если каждое действие приводит к одному из множества возможных частных исходов, причем каждый исход имеет известную вероятность появления. Предполагается, что принимающему решения эти вероятности известны;
в) выбор решения при неопределенности, когда-то или иное действие (или все действия) имеет следствием множество возможных исходов, но вероятности этих исходов принимающему решение неизвестны.
Общее для выбора при риске и неопределенности состоит в наличии неконтролируемых со стороны принимающего решение факторов и событий. Однако в ситуации риска предполагается, что вероятности возможных исходов известны или могут быть рассчитаны на основании статистических данных, тогда как в ситуации неопределенности эти вероятности нам неизвестны или мы не можем их рассчитать. Понятие «вероятность» обычно связывается с классическим или же с так называемым частотным подходами.
Однако при решении многих научных и технических задач мы не располагаем достаточным числом наблюдений за аналогичными явлениями в прошлом, существует неопределенность в отношении однородности и независимости возможных исходов и отсутствует обоснованная преемственность между прошлым и будущим.
Использовать классический и частотный подходы к оценке вероятности исходов решений или к выбору наиболее предпочтительного курса действий в этих ситуациях бывает трудно, а иногда и просто невозможно. Вероятностные явления здесь не имеют массового характера (в том смысле, что они случались в прошлом уже много раз), а, следовательно, условия закона больших чисел не выполняются.
Вместе с тем, очевидно, что проблема принятия рациональных решений в таких случаях не только не снимается, но, наоборот, становится более острой и серьезной. Ясно также и то, что решения, принимаемые при данной информации, являются по своему существу вероятностными.
Для повышения обоснованности подобных решений нужно использовать не только имеющиеся статистические данные, но и коллективный и индивидуальный опыт.
Использование субъективных оценок вызвано необходимостью решения задач в ситуациях, когда отсутствует ряд наблюдений за проявлением аналогичных событий в прошлом или другая объективная информация.
Оценки вероятности свершения неповторяющихся событий субъективны в том смысле, что два человека могут приписать различные числа одному и тому же возможному исходу. Но поскольку эти оценки базируются на интуиции, опыте и анализе объективной действительности то предполагается, что при прочих равных условиях отличие между ними не столь существенно, что нельзя их использовать для подготовки решений.
Существует подтверждаемое практикой предположение, сближающее субъективные оценки с объективными, в частности с частотными.
Предположение состоит в том, что принимающий решение будет корректировать первоначальные оценки, приближая их к частотным, при получении дополнительной информации об исследуемой проблеме. Это логично, поскольку при увеличении количества объективной информации в процессе познания нового всегда повышается правдоподобие вероятностных предположений и гипотез, происходит их трансформация в научное знание.
Психологи-экспериментаторы показали, что вероятностные оценки имеют определенный физический смысл. Во всяком случае, ясно, что человек, как в научной, так и в повседневной деятельности, принимая решение при неполной информации, постоянно дает оценку вероятности различных событий. И хотя механизм этого явления еще не понят, устанавливая вероятностную оценку вполне объективных явлений, разумно поступать с ней, как и с вероятностью, найденной с помощью классического и частотного подходов, полагая, что она обладает теми же свойствами и подчиняется тем же аксиомам.
Наше незнание истинных исходов событий, которые произойдут в будущем, и даже незнание объективных вероятностей их осуществления не имеет в этом случае особого значения, поскольку основной целью здесь является не оценка субъективных мнений отдельных людей, а рациональные правила, позволяющие использовать эти мнения для выбора наиболее предпочтительного решения.
1.3. Эксперты и уровень неопределённости
Выше было показано, что одна из основных трудностей управления состоит в необходимости принимать решения в условиях неопределенности. И действительно на любом уровне управления имеются задачи, решение которых не может быть получено на базе точных расчетов ввиду многообразия факторов или вследствие того, что некоторые из этих факторов не поддаются измерению. Существует в то же время все возрастающая потребность в принятии решений, направленных в более отдаленное будущее, и необходимость предвидения последствий этих решений.
Необходимость разрешения этих противоречий привела к переоценке значения формального опыта и к пониманию того, что даже при отсутствии строгих теоретических обоснований уровень неопределенности можно снизить за счет умелого использования суждений специалистов и способности человека принимать рациональные решения в условиях невозможности их полной формализации.
Опыт, понимание существа проблемы, чувство перспективы и интуиция помогают специалисту в ситуации неопределенности оценить значимость альтернативных подходов, выбрать наиболее предпочтительную цель, лучший критерий, а, следовательно, и наиболее рациональное решение.
Применение математико-статистических методов значительно расширяет возможности использования информации, полученной от специалистов. Практика последних лет показала, что даже простые статистические методы в сочетании с этой информацией при выборе перспективных решений часто приводят к более успешным результатам, чем «точные» расчеты с ориентацией на средние показатели и экстраполяцию существующих тенденций.
Использование информации, полученной от специалистов, особенно плодотворно, если для ее сбора, обобщения и анализа применяются специальные процедуры, логические приемы и математические методы, получившие название методов экспертных оценок.
Экспертные оценки не являются открытием нашего времени. Практика использования специалистов в качестве экспертов восходит своими истоками к глубокой древности. Слово «эксперт» латинского происхождения и означает «опытный», «сведущий». Однако, несмотря на древность профессии эксперта, научные методы анализа суждений специалистов получили свое развитие лишь во второй половине XX в.
Факторы, на которых основана способность индивидуальной личности давать полезную информацию в условиях неопределенности» можно разделить на внутренние (индивидуальные) и внешние (социальные).
Индивидуальные качества эксперта зависят от его знаний, опыта, интеллекта, способности предвидеть будущее и ряда других факторов, измерение которых сложно или вообще невозможно.
Внутренние факторы могут, привести к смещениям информации как к ненамеренным, т. е. связанным с излишне оптимистическим или пессимистическим отношением к проблеме, так и к намеренным, обусловленным индивидуальной установкой специалиста.
В свою очередь внешние факторы включают те влияния на информацию, полученную от эксперта, которые в определенной степени зависят не от личности специалиста, а, прежде всего от ее взаимодействия с окружающей средой, т. е. с коллективом, обществом.
Эти влияния могут быть вызваны, например, целями организации, в которой работает специалист, его положением в структуре этой организации, степенью ответственности за результаты экспертизы и т. п.
Необходимо отметить, что, несмотря на наличие внутренних и внешних факторов, влияющих на точность и надежность информации, получаемой от экспертов, применение формализованных процедур сбора информации, методов теории вероятностей и математической статистики для ее обработки позволяет в определенной степени компенсировать смещение индивидуальных оценок, уточнить структуру решаемой проблемы и снизить уровень неопределенности, существовавшей до начала экспертизы.
Таким образом, предполагается, что между информацией, получаемой от экспертов, и уровнем неопределенности существует взаимосвязь.
Все влияющие факторы можно разбить на несколько групп:
а) уровень доступной информации. За исключением детерминированных (совершенно определенных) событий уровень неопределенности всегда будет больше нуля. Когда вся доступная информация о вероятностном событии использована и нет других ограничений в ее получении, остающаяся неопределенность может быть описана с помощью распределения вероятностей возможных исходов. Никакие дальнейшие опросы специалистов или другой анализ имеющейся информации не снизят неопределенность ниже этого уровня. Снижение уровня неопределенности может произойти лишь при получении новой информации.
б) несовершенство информации. Несовершенство информации возникает вследствие того, что разные эксперты всегда будут иметь различные знания о событии и уровне его неопределенности.
в) двусмысленность. Некоторые вопросы могут быть поняты экспертом неправильно из-за их двусмысленности, и тогда он будет отвечать на другой вопрос, а не на тот, который был ему задан.
г) погрешности модели. Эти погрешности могут возникать из-за недостаточной компетентности приглашенных в эксперты людей либо из-за того, что ответы, полученные от компетентных экспертов, используются неправильно.
д) прочие погрешности. Мы отмечали, что на ответы экспертов могут оказывать влияние как внутренние, так и внешние факторы, вызывающие умышленные или несознательные отклонения или ошибки. Хотя эти погрешности обычно невелики, возможность их возникновения необходимо учитывать.
Принципы групповой экспертизы