Ошибка первого и второго рода при контроле

В
практике большое распространение
получил так называемый допусковый
контроль,
суть которого состоит в определении
путем измерения или испытания значения
контролируемого параметра объекта и
сравнение полученного результата с
заданными граничными допустимыми
значениями. Частным случаем допускового
контроля является поверка средств
измерений, в процессе которой исследуется
попадание погрешностей средства
измерений в допустимые пределы. По
расположению зоны контролируемого
состояния различают допусковый контроль
состояний:

• ниже
допускаемого значения Х
< Хдн;

• выше
допускаемого значения Х
> Хдв;

• между
верхним и нижним допускаемыми значениями
Хдн< Х
< Хдв.

Результатом
контроля является не число, а одно из
взаимоисключающих утверждений:

• «контролируемая
характеристика (параметр) находится в
пределах допускаемых значений»,
результат контроля
— «годен»;

• «контролируемая
характеристика (параметр) находится за
пределами допускаемых значений»,
результат контроля
—»не
годен » или «брак».

Для
определенности примем, что решение
«годен» должно приниматься, если
выполняется условие Хдн
Х
Xвд,
где
X, Хдн, Xдв
— истинное значение и допускаемые
верхнее и нижнее значения контролируемого
параметра. На самом же деле с допускаемыми
значениями Хд и Хд сравнивается не
истинное значение Х (поскольку оно
неизвестно), а его оценка Хо, полученная
в результате измерений. Значение Х
отличается от Х на величину погрешности
измерения: Хо
= Хо+ А.
Решение «годен» при проведении
контроля принимается в случае выполнения
неравенства ХднХоХдв.
Отсюда следует, что при допусковом
контроле возможны четыре исхода.

1. Принято
   решение «годен», когда значение
   контролируемого параметра находится
   в допускаемых пределах, т.е. имели место
   события ХднХХдв
   , ХднХоХдв.
   Если известны плотности вероятностей
   законов распределения f(X)
   контролируемого параметра Х и погрешности
   его измерения f(А),
   то при взаимной независимости тих
   законов и заданных допустимых верхнем
   и нижнем значениях параметра вероятность
   события «годен» .

2.
Принято решение «брак», когда
значение контролируемого параметра
находится вне пределов допускаемых
значений, т.е. имели место события Х
< Хдн или
Х >
Хдв и Хо< Хдн или Хо> Хдв. При оговоренных
допущениях вероятность события «негоден»
или «брак»

1. Принято
   решение «брак», когда истинное
   значение контро­лируемого параметра
   лежит в пределах допускаемых значений,
   т.е. Хо<Хдн или Хо>Хдв и Хдн
   Х Хдв
   и забракован исправный объект. В этом
   случае принято говорить, что имеет
   место ошибка
   I рода. Ее
   вероятность

4.
Принято решение «годен», когда
истинное значение кон­тролируемого
параметра лежит вне пределов допускаемых
значе­ний, т.е. имели место события Х
< Хдн или
Х>Хдв и ХднХо<Хдв
и неисправный объект признан годным. В
этом случае говорят, что произошла
ошибка
II рода,
вероятность которой

Очевидно,
что ошибки I
и
II родов
имеют разное значение для изготовителей
и потребителей (заказчиков) контролируемой
про­дукции
[26]. Ошибки
I рода ведут
к прямым потерям изготовителя, так как
ошибочное признание негодным в
действительности годно­го изделия
приводит к дополнительным затратам на
исследование, доработку и регулировку
изделия. Ошибки
II рода
непосредственно сказываются на
потребителе, который получает
некачественное изделие. При нормальной
организации отношений между потреби­телем
и производителем брак, обнаруженный
первым из них, при­водит к рекламациям
и ущербу для изготовителя.

Рассмотренные
вероятности Рг, Рнг, Р1, и Р2 при массовом
кон­троле партии изделий характеризуют
средние доли годных, негод­ных,
неправильно забракованных и неправильно
пропущенных изделий среди всей
контролируемой их совокупности. Очевидно,
что Рг+Ргн+Р1+Р2=
1.

Достоверность
результатов допускового контроля
описывается различными показателями,
среди которых наибольшее распространение
получили вероятности ошибок
I (Р1
) и
II (Р2
) ро­дов
и риски изготовителя и заказчика
(потребителя):

Одна
из важнейших задач планирования контроля
— выбор
оптимальной точности измерения
контролируемых параметров. При завышении
допускаемых погрешностей измерения
уменьшается стоимость средств измерений,
но увеличиваются вероятности оши­бок
при контроле, что в конечном итоге
приводит к потерям. При занижении
допускаемых погрешностей стоимость
средств измере­ний возрастает,
вероятность ошибок контроля уменьшается,
уве­личивает себестоимости выпускаемой
продукции. Очевидно, что существует
некоторая оптимальная точность,
соответствующая минимуму суммы потерь
от брака и стоимости контроля.

Приведенные
формулы позволяют осуществить
целенаправлен­ный поиск таких значений
погрешности измерения, которые бы при
заданных верхнем и нижнем значениях
контролируемого па­раметра обеспечили
бы допускаемые значения вероятностей
оши­бок
I и
II родов
(Р1д и Р2д
) или
соответствующих рисков. Этот поиск
производится путем численного или
графического интегрирования. Следовательно,
для рационального выбора точностных
характери­стик средств измерений,
используемых при проведении контроля,
каждом конкретном случае должны быть
заданы допускаемые значения Р1д и Р2д.

3.7.
Метод импульсной рефлектометрии для
контроля протяженных объектов.

Метод
импульсной рефлектометрии, называемый
также методом
отраженных импульсов
или локационным
методом, базируется на распространении
импульсных сигналов в двух- и многопроводных
системах.

Сущность
метода импульсной рефлектометрии
заключается в следующих операциях:

1. Зондировании
   трубопроводной системы импульсами
   напряжения.

2. Приеме импульсов,
   отраженных от места повреждения и
   неоднородностей волнового сопротивления.

3. Выделении отражений
   от места повреждений на фоне помех
   (случайных и отражений от неоднородностей
   трубопроводов).

4. Определении
   расстояния до повреждения по временной
   задержке отраженного импульса
   относительно зондирующего.

Упрощенная
структурная схема измерений с помощью
импульсного рефлектометра приведена
на рисунке 3.

Рис.3. Упрощенная
структурная схема измерений.

    С
генератора импульсов зондирующие
импульсы подаются в трубопровод.
Отраженные импульсы поступают с
трубопровода в приемник, в котором
производятся необходимые преобразования
над ними. С выхода приемника преобразованные
сигналы поступают на графический
индикатор.     Все блоки импульсного
рефлектометра функционируют по сигналам
блока управления.     На графическом
индикаторе рефлектометра воспроизводится
рефлектограмма трубопровода — реакция
трубопровода на зондирующий импульс.

Образование
рефлектограммы трубопровода легко
проследить по диаграмме, приведенной
на рисунке 4. Здесь осью ординат является
ось расстояния, а осью абсцисс — ось
времени.

    В левой
части рисунка показан трубопровод из
двух секций с согласующим устройством
и коротким замыканием, а в нижней части
— рефлектограмма этого трубопровода.
Анализируя рефлектограмму трубопровода,
оператор получает информацию о наличии
или отсутствии в ней повреждений и
неоднородностей.

Рис.4. Пример
рефлектограммы с двумя неоднородностями
в трубопроводе.

Например, по
приведенной рефлектограмме можно
сделать несколько выводов:

1. На рефлектограмме,
   кроме зондирующего импульса, есть
   только два отражения: отражение от
   согласующего устройства и отражение
   от короткого замыкания. Это свидетельствует
   о хорошей однородности трубопровода
   от начала до согласующего устройства
   и от согласующего устройства до короткого
   замыкания.

2. Выходное
   сопротивление рефлектометра согласовано
   с волновым сопротивлением трубопровода,
   так как переотраженные сигналы, которые
   при отсутствии согласования располагаются
   на двойном расстоянии, отсутствуют.

3. Повреждение имеет
   вид короткого замыкания, так как
   отраженный от него сигнал изменил
   полярность.

4. Короткое замыкание
   полное, так как после отражения от него
   других отражений нет.

5. Линия имеет большое
   затухание, так как амплитуда отражения
   от короткого замыкания много меньше,
   чем амплитуда зондирующего сигнала.

    Если
выходное сопротивление рефлектометра
не согласовано с волновым сопротивлением
трубопровода, то в моменты времени 2*
tм,
4* tм
и т.д. будут наблюдаться переотраженные
сигналы от согласующего устройства,
убывающие по амплитуде, а в моменты
времени 2*
tх,
4*tх
и т.д. — переотражения от места короткого
замыкания.

    Основную
сложность и трудоемкость при методе
отраженных импульсов представляет
выделение отражения от места повреждения
на фоне помех.

    Важное
значение для метода импульсной
рефлектометрии имеет отношение между
напряжением и током введенной в систему
электромагнитной волны, которое одинаково
в любой точке трубопровода. Это
соотношение:

Z
= U/I

имеет размерность
сопротивления и называется волновым
сопротивлением трубопровода.

   
При использовании метода импульсной
рефлектометрии в трубопроводную систему
контроля посылают зондирующий импульс
и измеряют интервал tх — время двойного
пробега этого импульса до места
повреждения (неоднородности волнового
сопротивления). Расстояние до места
повреждения рассчитывают по выражению:

Lx
= tx*V/2
,

где
V
— скорость распространения импульса в
трубопровода.

Отношение
амплитуды отраженного импульса Uо к
амплитуде зондирующего импульса Uз
обозначают коэффициентом отражения p:

p
= Uo/Uз = (Z1
— Z)
/ (Z1
+ Z),

где:
Z
— волновое сопротивление трубопровода
до места повреждения (неоднородности),

Z1
— волновое сопротивление трубопровода
в месте повреждения (неоднородности).

    Отраженный
сигнал появляется в тех местах
трубопровода, где волновое сопротивление
отклоняется от своего среднего значения:
согласующие устройства, изгибах
трубопроводов, в месте обрыва, короткого
замыкания и т.д.

    Если
выходное сопротивление импульсного
рефлектометра отличается от волнового
сопротивления измеряемого трубопровода,
то в месте подключения рефлектометра
к трубопровода возникают переотражения.

    Переотражения
— это отражения от входного сопротивления
рефлектометра отраженных сигналов,
которые пришли к месту подключения
рефлектометра из трубопровода.

    В
зависимости от соотношения входного
сопротивления рефлектометра и волнового
сопротивления трубопровода изменяется
полярность и амплитуда переотражений,
которая может оказаться соизмеримой с
амплитудой отражений. Поэтому перед
измерением рефлектометром обязательно
нужно выполнить операцию согласования
выходного сопротивления рефлектометра
с волновым сопротивлением трубопровода.

    Примеры
рефлектограммы трубопровода с
переотражением без согласования
выходного сопротивления с трубопроводом
и с согласованием приведены на рис. 5 и
6:

Рис.5. Рефлектограмма
трубопровода в отсутствие согласования.

Рис.6. Рефлектограмма
трубопровода при согласовании.

    При
распространении вдоль трубопровода
импульсный сигнал затухает. Затухание
трубопровода определяется ее геометрической
конструкцией и выбором материалов для
проводников и изоляции и является
частотно-зависимым.     Следствием
частотной зависимости является изменение
зондирующих импульсов при их распространении
по трубопроводу: изменяется не только
амплитуда, но и форма импульса —
длительности фронта и среза импульса
увеличиваются («расплывание”
импульса). Чем длиннее трубопроводная
система, тем больше “расплывание” и
меньше амплитуда импульса. Это затрудняет
точное определение расстояния до
повреждения.

    Примеры
рефлектограмм трубопроводов без
затухания и с затуханием показаны на
рисунке 7.

Рис.7. Влияние
затухания трубопровода на вид
рефлектограммы в отсутствие согласования.

    Для
более точного измерения необходимо
правильно, в соответствии с длиной и
частотной характеристикой затухания
трубопровода, выбирать параметры
зондирующего импульса в рефлектометре.
Критерием правильного выбора является
минимальное «расплывание» и
максимальная амплитуда отраженного
сигнала.

    Если при подключенном
трубопроводе на рефлектограмме
наблюдается только зондирующий импульс,
а отраженные сигналы отсутствуют, то
это свидетельствует о точном согласовании
выходного сопротивления рефлектометра
с волновым сопротивлением трубопровода,
отсутствии повреждений и наличии на
конце трубопровода нагрузки равной
волновому сопротивлению трубопровода
(Рис.8).

Рис.8. Рефлектограмма
при идеальном согласовании.

    Вид
отраженного сигнала зависит от характера
повреждения или неоднородности. Например,
при обрыве отраженный импульс имеет ту
же полярность, что и зондирующий, а при
коротком замыкании отраженный импульс
меняет полярность (Рис.9).

Рис.9. Рефлектограммы
при обрыве и коротком замыкании.

    В
идеальном случае, когда отражение от
повреждения полное и затухание
отсутствует, амплитуда отраженного
сигнала равна амплитуде зондирующего
импульса.

    Рассмотрим два
случая эквивалентных схем повреждений,
которые наиболее часто встречаются на
практике: шунтирующая
утечка
и продольное
сопротивление.

Пусть
место повреждения трубопровода
представляет собой
шунтирующую утечку
Rш:

С изменением
сопротивления утечки от нуля (соответствует
короткому замыканию) до бесконечности
(соответствует исправности трубопровода),
при положительном зондирующем импульсе
отраженный импульс имеет отрицательную
полярность и изменяется по амплитуде
от максимального значения до нулевого,
в соответствии с выражением:

p=
(Z1
— Z)
/ (Z1
+ Z)
= — Z
/ (Z+2*Rш),

где:
Rш
— сопротивление шунтирующей утечки,

Z1
— волновое сопротивление трубопровода
в месте повреждения, определяется
выражением:

Z1
= (Z*R
ш) / (Z
+ Rш)

Так,
например, при коротком замыкании (Rш=0)
получаем:

p
= -1

В
этом случае сигнал отражается полностью
с изменением полярности.

При отсутствии
шунтирующей нагрузки (Rш=
)
имеем:

p
= 0

 Сигнал
не отражается вообще.

    При
изменении Rш
от 0 до

амплитуда отраженного сигнала уменьшается
от максимального значения до нулевого,
сохраняя отрицательную полярность (см.
рисунок).

Рис.10. Рефлектограмма
при наличии шунта.

 

  
Если
эквивалентная схема места повреждения
трубопровода имеет вид включения
продольного сопротивления (например,
нарушение спайки), то с изменением
величины продольного сопротивления
отраженный импульс изменяется по
амплитуде, оставаясь той же полярности
что и зондирующий импульс.

   
Выражение для коэффициента отражения
при наличии включения продольного
сопротивления
будет иметь вид:

p
= (Z1
— Z)
/ (Z1
+ Z)
= 1 / (1+2*Z/Rп),

где:
Rп
— продольное сопротивление,

Z1
— волновое сопротивление трубопровода
в месте включения продольного повреждения,
определяемое выражением:

Z1
= Rп + Z

В
случае обрыва жилы (Rп=
)
получаем
коэффициент отражения:

р = 1.

Это
означает, что сигнал отражается полностью
без изменения полярности.

При нулевом
значении продольного сопротивления
(Rп=0)
имеем:

р = 0

С

игнал
не отражается вообще.

    При
изменении Rп
от

до
0 отраженный сигнал уменьшается по
амплитуде от максимального значения
до нулевого, без изменения полярности.

Рис.11. Рефлектограмма
— влияние продольного сопротивления.

    Разрешающая
способность —
это минимальное расстояние между двумя
неоднородностями волнового сопротивления
при котором отраженные от них сигналы
еще наблюдаются как отдельные сигналы.

Рис.12. Рефлектограмма
— отражение от двух близких неоднородностей.

На рисунке 11
отраженные от двух неоднородностей
импульсы еще наблюдаются раздельно.

   
    Зондирующие импульсы
распространяются в кабельных линиях
по определенным волновым каналам.

    Импульсный
сигнал распространяется в трубопроводе
с определенной скоростью, которая
зависит от типа диэлектрика и определяется
выражением:

где
с
— скорость света,

g
— коэффициент укорочения электромагнитной
волны в трубопровода,

ε
— диэлектрическая проницаемость материала
изоляции трубопровода.

    Коэффициент
укорочения
показывает, во сколько раз скорость
распространения импульса в трубопроводе
меньше скорости распространения в
воздухе.

    В любом рефлектометре
перед измерением расстояния нужно
установить коэффициент укорочения.
Точность измерения расстояния до места
повреждения зависит от правильной
установки коэффициента укорочения.

   
    По соотношению величин
отражения от повреждения и напряжения
помех все отражения можно разделить на
простые
и сложные.

   
Простое
повреждение — это такое повреждение
кабельной трубопровода, при котором
амплитуда отражения от места повреждения
больше амплитуды помех.

   
Сложное
повреждение — это такое повреждение,
для которого амплитуда отражения от
места повреждения меньше или равна
амплитуде помех.

По
источникам возникновения помехи бывают
асинхронные
(аддитивные)
и синхронные.

   
Асинхронные
помехи
не связаны с зондирующим сигналом и
неоднородностями кабельной трубопровода
и вызваны наводками от соседних кабельных
трубопроводов, от оборудования, транспорта
и различной аппаратуры.

   
Пример рефлектограммы трубопровода с
асинхронными помехами показан на рисунке
13.

Рис.13. Рефлектограмма
трубопровода с асинхронными помехами.

На рефлектограмме
асинхронные помехи полностью закрывают
отражение от повреждения. Это отражение
невозможно рассмотреть на фоне помех.

Эффективными
методами отстройки от асинхронных помех
являются аналоговая
фильтрация
и цифровое
накопление сигнала.

      
Сущность цифрового
накопления
заключается в том, что одну и туже
рефлектограмму считывают несколько
раз и вычисляют среднее значение. В
связи с тем, что асинхронные помехи
носят случайный характер, после цифрового
накопления их уровень значительно
снижается.

    Пример
предыдущей рефлектограммы трубопровода,
«очищенной» в результате цифрового
накопления рефлектометром, приведен
на рисунке.

Рис.14. Рефлектограмма
с асинхронными помехами после цифровой
очистки.

На
этой рефлектограмме можно легко выделить
сигнал, отраженный от места утечки.

  Синхронные
помехи связаны с зондирующим сигналом
и являются отражениями зондирующего
сигнала от неоднородностей волнового
сопротивления трубопровода (отражения
от согласующих устройств, неоднородностей
трубопроводов технологического характера
и др.).

    В принципе трубопроводы
не предназначены для передачи коротких
импульсных сигналов, используемых при
методе импульсной рефлектометрии.
Поэтому этим системам контроля
трубопроводов присуще большое количество
синхронных помех. Пример рефлектограммы
трубопровода с синхронными помехами
показан на рисунке.

Рис.11. Рефлектограмма
трубопровода с синхронными помехами.

    Синхронные
помехи можно существенно уменьшить
посредством сравнения
или
дифференциального
анализа.

   
При сравнении
накладывают
рефлектограммы двух трубопроводов
(неповрежденного и поврежденного),
проложенных по одной трассе.

    Наложение
двух рефлектограмм позволяет быстро
обнаружить начальную точку их различия,
по которой и определяют расстояние L до
повреждения.

    При
дифференциальном
анализе рефлектограммы поврежденного
и неповрежденного трубопроводов
вычитают, как показано на рисунке ниже

    Из
рисунка видно, что при вычитании все
синхронные помехи компенсируются. По
разностной рефлектограмме легко
обнаружить отражение от места повреждения
и определить расстояние L
до него.

      При
измерении качества трубопровода методом
импульсной рефлектометрии асинхронные
и синхронные помехи присутствуют на
рефлектограмме одновременно.

    Асинхронные
помехи (кроме помех импульсного
характера), как правило, имеют одинаковые
величины, независимо от того, с какого
конца кабельной трубопровода ведется
измерение рефлектометром.

    Синхронные
помехи при измерении с разных концов
кабеля имеют различную величину, в
зависимости от многих факторов: длины
кабельной трубопровода, затухания
импульсных сигналов, удаленности места
повреждения и мест неоднородностей
волнового сопротивления трубопровода,
точности согласования выходного
сопротивления импульсного рефлектометра
с волновым сопротивлением трубопровода
и других факторов. Поэтому отраженный
сигнал от одной и той же неоднородности
может иметь различные величины при
измерении с разных концов трубопровода.

    Если
хотя бы предположительно известно, к
какому концу кабельной трубопровода
ближе может быть расположено место
повреждения, то для измерений нужно
выбирать именно этот конец кабельной
трубопровода. В других случаях желательно
проводить измерения последовательно
с двух концов трубопровода.

   
Следует учитывать, что даже такие
повреждения как «короткое замыкание»
и «обрыв», дающие максимальные
отражения зондирующего сигнала, не
всегда можно легко обнаружить на фоне
помех. Например, при большом затухании
и больших неоднородностях волнового
сопротивления трубопровода амплитуда
отражения от удаленного повреждений
типа “короткое замыкание” или “обрыв”
зачастую бывает меньше, чем отражения
от близко расположенных неоднородностей
волнового сопротивления. Поэтому такие
повреждения являются сложным для
обнаружения.

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

• #
• #
• #
• #
• #
• #
• #
• #
• #
• #
• #

Проблема множественного тестирования гипотез

Ваш исследовательский вопрос может быть таким, что вам интересно оценить воздействия разных типов тритмента, то есть у вас есть несколько экспериментальных групп и одна контрольная. При такой постановке мы хотим проверить не одну, а сразу много статистических гипотез о различии в группах. При проверке любой гипотезы существует вероятность совершить ошибку первого рода (отклонить нулевую гипотезу, если она верна = обнаружить эффект, которого нет). Особенность множественного тестирования гипотез состоит в том, что чем больше гипотез мы проверяем на одних и тех же данных, тем больше будет вероятность допустить как минимум одну ошибку первого рода – эффект множественных сравнений (multiple comparisons/testing).

Источниками множественного тестирования могут быть:

• Несколько типов воздействия (Multiple treatment arms)

• Гетерогенное воздействие (Heterogeneous treatment effects)

• Несколько способов оценки (Multiple estimators)

• Несколько зависимых переменных (Multiple outcomes), эффект на которые мы хотим оценить

Рассмотрим это на примере. Предположим, что у нас есть 3 группы (A, B и С), в которых мы хотим сравнить среднее значение переменной интереса. Как и ранее, мы будем использовать t-тест Стьюдента. Если мы получили достаточно большое значение t-статистики такое, что p-value < 0.05, то мы отклоняем нулевую гипотезу и заключаем, что группы статистически различаются по переменной интереса. Отсечка p-value < 0.05 значит, что вероятность ошибочного вывода о различии между групповыми средними не превышает 0.05. Это будет работать именно так, когда у нас всего две группы, но в случае множественного тестирования вероятность будет больше 5%.

Выполняя тест Стьюдента, исследователь проверяет нулевую гипотезу об отсутствии разницы между двумя группами. Сравнивая группы A и В, он может ошибиться с вероятностью 5%, В и С – 5%, А и С – тоже 5%. Соответственно, вероятность ошибиться хотя бы в одном из этих трех сравнений составит:

(P = 1 — left(1-alpha right)^n = 1 — 0.95^3 approx 0.14 > 0.05) – такая ошибка называется family-wise error rate

Если бы групп было бы 5:

(P = 1 — left(1-alpha right)^n = 1 — 0.95^{10} approx 0.4 > 0.05)

К счастью, существует несколько методов, позволяющих преодолеть эту сложность:

• Корректировка p-value (p-value adjustments)

• Планирование эксперимента и фиксирование его условий (pre-analysis plans)

• Повтороное проведение эксперимента (replication)

В рамках курса мы будем обсуждать первый способ борьбы с ошибками, возникающими при множественном тестировании гипотез.

Предположим, что мы проверяем (n) гипотез. Для каждой гипотезы мы будем проводить тест Стьюдента. Результаты наших тестов можно обобщить следующим образом:

	Число принятых нулевых гипотез  ((p-value > alpha) Rightarrow hat{tau}=0)	Число отвергнутых нулевых гипотез  ((p-value < alpha) Rightarrow hat{tau}neq 0)	Всего гипотез
Число верных нулевых гипотез  (hat{tau}=0)	Число безошибочно принятых нулевых гипотез (TN, true negatives)	Число ошибочно отвергнутых нулевых гипотез (FP, false positives) – ошибка первого рода	(m_0) – Число верных нулевых гипотез (true null hypotheses)
Число неверных нулевых гипотез  (hat{tau}neq 0)	Число ошибочно принятых нулевых гипотез (FN, false negatives) – ошибка второго рода)	Число безошибочно отвергнутых нулевых гипотез (TP, true positives)	(m-m_0) – Число истинных альтернативных гипотез (true alternative hypotheses)
Всего гипотез	(m-R) – Общее число принятых гипотез	(R) – Общее число отвергнутых гипотез	(m) – всего гипотез

В теории всего существует (m_0) верных нулевых гипотез. В результате наших тестов мы ошибочно отвергаем (FP) гипотез и верно принимаем остальные (TN) гипотез. Также существует (m−m_0) альтернативных гипотез, из которых (TP) гипотез безошибочно отвергаются, а (FN) гипотез – ошибочно принимаются. Важно, что общие количества отвергнутых и принятых гипотез ((R) и (m-R)), а следовательно, и суммарное число гипотез (n) нам известны, тогда как остальные величины ((m_0), (TN), (FP), (FN) и (TP)) мы не наблюдаем.

Групповая вероятность ошибки первого рода (family-wise error rate)

При одновременной проверке семейства статистических гипотез мы хотим, чтобы количество наших ошибок ((FP) и (FN)) было минимальным. Традиционно исследователи пытаются минимизировать величину ошибочно отвергнутых гипотез (FP). Это вполне логично, поскольку ложно отвергнутая нулевая гипотеза грозит нам ложноположительным найденным эффектом, которого реально может не быть.

Если (FP geq 1), мы совершаем как минимум одну ошибку первого рода. Вероятность допущения такой ошибки при множественной проверке гипотез называют групповой вероятностью ошибки (familywise error rate, FWER или experiment-wise error rate). По определению, (FWER = P(FP geq 1)) – вероятность ошибочно отклонить хотя бы одну нулевую гипотезу во всех тестах. Соответственно, когда мы говорим, что хотим контролировать групповую вероятность ошибки на определенном уровне значимости (alpha), мы подразумеваем, что должно выполняться неравенство (FWER leq alpha).

Ниже мы обсудим методы, которые позволяют это делать.

Коррекция Бонферрони

Вернемся к нашему примеру, когда мы сравнили 3 группы A, B и C с помощью t-теста. Предположим, что мы получили следующие Р-значения: 0.001, 0.01 и 0.04.

Как было сказано выше, мы хотим, чтобы групповая вероятность ошибки была не больше уровня значимости (FWER leq alpha). Согласно методу Бонферрони, мы должны сравнить каждое из полученных p-значений не с (alpha), а с (frac{alpha}{n}), где (n) – число проверяемых гипотез. Деление исходного уровня значимости (alpha) на (n) – это и есть поправка Бонферрони. В рассматриваемом примере каждое из полученных p-значений необходимо было бы сравнить с (frac{alpha}{n}), например, с (frac{0.01}{3}approx 0.017).

• (p-value_1=0.001 < alpha_{adjusted}=0.017) – гипотеза отклонена
• (p-value_2=0.01 < alpha_{adjusted}=0.017) – гипотеза отклонена
• (p-value_3=0.04 > alpha_{adjusted}=0.017) – гипотеза принята

Вместо деления уровня значимости на число гипотез, мы могли бы умножить каждое p-значение на это число и получить точно такие же выводы (эта эквивалентная процедура реалирована в R):

• (p-value_{1,adjusted} = 0.001 cdot 3 = 0.003 < alpha = 0.05) – гипотеза отклонена
• (p-value_{2,adjusted} = 0.01 cdot 3 = 0.03 < alpha = 0.05) – гипотеза отклонена
• (p-value_{3,adjusted} = 0.04 cdot 3 = 0.12 > alpha = 0.05) – гипотеза принята

Иногда при домножении p-значений результат может получиться больше единицы. Из теории вероятностей мы знаем, что вероятность не может быть больше одного, поэтому в таких случаях p-значение принимают равным за единицу.

Различные виды коррекций p-значений представлены в функции p.adjust(), выбрать тип коррекции можно с помощью аргумента method. В этой функции используется домножение исходных p-значений на количество тестируемых гипотез, а не корректировка уровня значимости.

Проверим наши рассчеты:

p.adjust(c(0.001, 0.01, 0.04), method = "bonferroni")

Можно на выходе сразу получить выводы относительно гипотез при (alpha = 5%):

alpha <- 0.05
p.adjust(c(0.001, 0.01, 0.04), method = "bonferroni") < alpha # отклоняем H_0 (есть эффект)? 

Важно помнить об уязвимости коррекции Бонферрони – с ростом числа гипотез мощность метода уменьшается. Чем больше гипотез мы хотим проверить, тем сложнее нам будет их отвергать (даже если они реально должны быть отвергнуты). Например, для 5 групп (10 гипотез), применение поправки Бонферрони привело бы к снижению исходного уровня значимости до 0.01/10 = 0.001. Соответственно, для отклонения гипотез, соответствующие p-значения должны быть меньше 0.001, а это довольно жесткая отсечка. Из этого делаем вывод, что при большом числе гипотез коррекцию Бонферрони лучше не использовать.

Низходящая процедура Хольма (Хольма-Бонферрони)

Метод Хольма позволяет побороть недостатки метода Бонферрони. Он устроен следующим образом:

• Сначала p-значения сортируются по возрастанию (displaystyle{p-value_1 leq p-value_2 leq … leq p-value_n}).
• Затем проверяется условие для первого из p-значений: (displaystyle{p-value_1 geq frac{alpha}{n-i+1}=frac{alpha}{n}}), если условие выполнено, то все нулевые гипотезы принимаются, и процедура останавливается, иначе первая из гипотез отвергается, и начинается следующий шаг.
• На следующем шаге проверяется условие (displaystyle{p-value_2 geq frac{alpha}{n-i+1}=frac{alpha}{n-1}}), если условние выполнено, то все гипотезы, начиная со второй, принимаются, иначе первые две гипотезы отклоняются и начинается следующий шаг.
• На последнем шаге проверяется условие вида (displaystyle{p-value_n geq frac{alpha}{n-n+1}}), если оно выполнено, то последняя гипотеза принимается, если нет – отклоняется, на этом процедура заканчивается.

Метод Хольма называют нисходящей (step-down) процедурой. Он начинается с наименьшего p-значения в упорядоченном ряду и последовательно “спускается” вниз к более высоким значениям. На каждом шаге соответствующее значение (p-value_i) сравнивается со скорректированным уровнем значимости (displaystyle{alpha_{adjusted}=frac{alpha}{n+i-1}}). Аналогично коррекции Бонферрони можно вместо корректировки уровня значимости корректировать p-значения (displaystyle{p-value_{i,adjusted}=p-value_{i}cdot(n-i+1)}) (эта эквивалентная процедура реалирована в R). Возвращаясь к нашему примеру:

• (p-value_{1,adjusted} = 0.001 cdot (3-1+1) = 0.003 < alpha = 0.01) – гипотеза отклонена
• (p-value_{2,adjusted} = 0.01 cdot (3-2+1) = 0.02 > alpha = 0.01) – гипотеза принята
• (p-value_{3,adjusted} = 0.04 cdot (3-3+1) = 0.04 > alpha = 0.01) – гипотеза принята

А теперь проверим себя с помощью R:

p.adjust(c(0.001, 0.01, 0.04), method = "holm")

И результаты проверки гипотез при (alpha =5%):

alpha <- 0.05
p.adjust(c(0.001, 0.01, 0.04), method = "holm") < alpha # отклоняем H_0 (есть эффект)? 

Средняя доля ложных отклонений (false discovery rate)

Рассмотренные выше FWER методы обеспечивают контроль над групповой вероятностью ошибки первого рода. Как мы выяснили, эти методы чересчур жестко работают, когда нужно одновременно проверить слишком много гипотез (падает статистическая мощность).Под “недостаточной мощностью” понимается сохранение многих нулевых гипотез, которые потенциально могут представлять исследовательский интерес и которые, соответственно, следовало бы отклонить. Недостаточная мощность традиционных процедур множественной проверки гипотез привела к разработке новых методов, например, метода Бенджамини-Хохберга.

Для преодоления недостаточной мощности FWER методов был предложен новый подход к проблеме множественных проверок статистических гипотез. Суть подхода заключается в том, что вместо контроля над групповой вероятностью ошибки первого рода выполняется контроль над ожидаемой долей ложных отклонений (false discovery rate, FDR) среди всех отклоненных гипотез.

В терминах таблицы выше эта ожидаемая доля может быть записана следующим образом: (displaystyle{FDR=left(frac{FP}{R}right)}) (считают, что если (R=0), то и (FDR=0)). Часто можно встретить запись через мат. ожидание (displaystyle{FDR=mathbb{E}left(frac{FP}{R}right)}). FDR – ожидаемая доля ложных отклоненийсреди всех отклоненных гипотез.

В отличие от уровня значимости (alpha), каких-либо общепринятых значений FDR не существует. Многие исследователи по аналогии контролируют FDR на уровне 5%. Интерпретация порогового значения FDR очень проста: например, если в ходе анализа данных отклонено 1000 гипотез, то при q=0.10 ожидаемая доля ложно отклоненных гипотез не превысит 100.

Восходящая процедура Бенджамини — Хохберга

В статье (Benjamini, Hochberg, 1995) описание процедуры контроля над FDR выглядит так:

• Сначала p-значения сортируются по возрастанию (displaystyle{p-value_1 leq p-value_2 leq … leq p-value_n}).
• Находят максимальное значение (k) среди всех индексов (i=1,…,n), для которого (p-value_i leq frac{i}{n}q) выполняется неравенство
• Отклоняют все гипотезы (H_i) с индексами (i=1,…,k)

Эквивалентная процедура, реалированая в R отличается тем, что вместо нахождения максимального индекса (k), исходные p-значения корректируются следующим образом: (q_i=frac{p_in}{i}).

В качестве примера рассмотрим следующий ряд из 15 упорядоченных по возрастанию p-значений (из оригинальной статьи Benjamini and Hochberg 1995):

p.adjust(c(0.0001, 0.0004, 0.0019, 0.0095,  0.0201, 0.0278, 0.0298, 0.0344, 0.0459, 0.3240, 0.4262, 0.5719, 0.6528, 0.7590, 1.000), method = "BH")

 [1] 0.00150000 0.00300000 0.00950000 0.03562500 0.06030000 0.06385714
 [7] 0.06385714 0.06450000 0.07650000 0.48600000 0.58118182 0.71487500
[13] 0.75323077 0.81321429 1.00000000

И результаты проверки гипотез при (alpha =5 %):

alpha <- 0.05
p.adjust(c(0.0001, 0.0004, 0.0019, 0.0095,  0.0201, 0.0278, 0.0298, 0.0344, 0.0459, 0.3240, 0.4262, 0.5719, 0.6528, 0.7590, 1.000), method = "BH") < alpha # отклоняем H_0 (есть эффект)? 

 [1]  TRUE  TRUE  TRUE  TRUE FALSE FALSE FALSE FALSE FALSE FALSE FALSE FALSE
[13] FALSE FALSE FALSE

Интерпретация этих Р-значений с поправкой (в большинстве литературных источников их называют q-значениями) такова:

• Допустим, что мы хотим контролировать долю ложно отклоненных гипотез на уровне FDR = 0.05
• Все гипотезы, q-значения которых (q-value leq 0.05), отклоняются
• Среди всех этих отклоненных гипотез доля отклоненных по ошибке не превышает 5%

Коррекция Р-значений по методу Беньямини-Хохберга работает особенно хорошо в ситуациях, когда необходимо принять общее решение по какому-либо вопросу при наличии информации (=проверенных гипотез) по многим параметрам.

Следует помнить, что описанный здесь метод контроля над ожидаемой долей ложных отклонений предполагает, что все тесты, при помощи которых получают p-значения, независимы. На практике в большинстве случаев это условие выполняться не будет.

Восходящая процедура Бенджамини-Йекутили

Для преодоления ограничения независимости тестов при проверке гипотез в работе (Benjamini and Yekutieli 2001) был предложен усовершенствованный метод, учитывающий наличие корреляции между проверяемыми гипотезами.

Процедура Бенджамини-Йекутили очень похожа на процедуру Бенджамини-Хохберга. Основное отличие заключается во введении поправочной константы (displaystyle{c_n=sum limits_{i=1}^{n}frac{1}{i}}), далее аналогично:

• Сначала p-значения сортируются по возрастанию (displaystyle{p-value_1 leq p-value_2 leq … leq p-value_n}).
• Находят максимальное значение (k) среди всех индексов (i=1,…,n), для которого (p-value_i leq frac{i}{n} frac{q}{c_n}) выполняется неравенство
• Отклоняют все гипотезы (H_i) с индексами (i=1,…,k)

В R реализуется эквивалентная процедура:

Эквивалентная процедура, реалированая в R отличается тем, что вместо нахождения максимального индекса (k), исходные p-значения корректируются следующим образом: (displaystyle{q_i=frac{p_icdot ncdot c_n}{i}}).

p.adjust(c(0.0001, 0.0004, 0.0019, 0.0095,  0.0201, 0.0278, 0.0298, 0.0344, 0.0459, 0.3240, 0.4262, 0.5719, 0.6528, 0.7590, 1.000), method = "BY")

 [1] 0.004977343 0.009954687 0.031523175 0.118211908 0.200089208 0.211892623
 [7] 0.211892623 0.214025770 0.253844518 1.000000000 1.000000000 1.000000000
[13] 1.000000000 1.000000000 1.000000000

И результаты проверки гипотез при (alpha = 5%):

alpha <- 0.05
p.adjust(c(0.0001, 0.0004, 0.0019, 0.0095,  0.0201, 0.0278, 0.0298, 0.0344, 0.0459, 0.3240, 0.4262, 0.5719, 0.6528, 0.7590, 1.000), method = "BY") < alpha # отклоняем H_0 (есть эффект)? 

 [1]  TRUE  TRUE  TRUE FALSE FALSE FALSE FALSE FALSE FALSE FALSE FALSE FALSE
[13] FALSE FALSE FALSE

Обобщающий алгоритм для разных процедур

Источник – мне не очень нравится сам текст, но схема хорошая.

Симуляция и сравнение результатов работы разных коррекций p-value

Сравним как работают разные методы:

alpha <- 0.05
n <- 50
set.seed(123)
x <- rnorm(n, mean = c(rep(0, n/2), rep(3, n/2))) # генерим вектор t статистик
pval <- round(2*pnorm(sort(-abs(x))), 3) # переводим статистики в p-value

default_bool <- pval < alpha # вектор с исходными выводами о принятии гипотез без коррекции

bonferroni_pval <- p.adjust(pval, method = "bonferroni")
bonferroni_bool <- p.adjust(pval, method = "bonferroni") < alpha # отклоняем H_0 (есть эффект)? 

holm_pval <- p.adjust(pval, method = "holm")
holm_bool <- p.adjust(pval, method = "holm") < alpha # отклоняем H_0 (есть эффект)? 

bh_pval <- p.adjust(pval, method = "BH") 
bh_bool <- p.adjust(pval, method = "BH") < alpha # отклоняем H_0 (есть эффект)? 

by_pval <- p.adjust(pval, method = "BY")
by_bool <- p.adjust(pval, method = "BY") < alpha # отклоняем H_0 (есть эффект)? 

methods <- cbind(default_bool, bonferroni_bool, holm_bool, bh_bool, by_bool) # склеиваем столбики с выводами о принятии гипотез для разных корректировок; если бы вдруг хотели склеить строчки, то есть аналогичная функция rbind()
colnames(methods) <- c('Без коррекции', 'Бонферрони', 'Хольм', 'Бенджамини-Хохберг', 'Бенджамини-Йекутили') # добавляем шапку таблицы
rownames(methods) <- c(1:n) # добавляем номера строчкам
methods

   Без коррекции Бонферрони Хольм Бенджамини-Хохберг Бенджамини-Йекутили
1           TRUE       TRUE  TRUE               TRUE                TRUE
2           TRUE       TRUE  TRUE               TRUE                TRUE
3           TRUE       TRUE  TRUE               TRUE                TRUE
4           TRUE       TRUE  TRUE               TRUE                TRUE
5           TRUE       TRUE  TRUE               TRUE                TRUE
6           TRUE       TRUE  TRUE               TRUE                TRUE
7           TRUE       TRUE  TRUE               TRUE                TRUE
8           TRUE       TRUE  TRUE               TRUE                TRUE
9           TRUE       TRUE  TRUE               TRUE                TRUE
10          TRUE       TRUE  TRUE               TRUE                TRUE
11          TRUE      FALSE  TRUE               TRUE                TRUE
12          TRUE      FALSE FALSE               TRUE                TRUE
13          TRUE      FALSE FALSE               TRUE               FALSE
14          TRUE      FALSE FALSE               TRUE               FALSE
15          TRUE      FALSE FALSE               TRUE               FALSE
16          TRUE      FALSE FALSE               TRUE               FALSE
17          TRUE      FALSE FALSE               TRUE               FALSE
18          TRUE      FALSE FALSE               TRUE               FALSE
19          TRUE      FALSE FALSE               TRUE               FALSE
20          TRUE      FALSE FALSE               TRUE               FALSE
21          TRUE      FALSE FALSE              FALSE               FALSE
22          TRUE      FALSE FALSE              FALSE               FALSE
23         FALSE      FALSE FALSE              FALSE               FALSE
24         FALSE      FALSE FALSE              FALSE               FALSE
25         FALSE      FALSE FALSE              FALSE               FALSE
26         FALSE      FALSE FALSE              FALSE               FALSE
27         FALSE      FALSE FALSE              FALSE               FALSE
28         FALSE      FALSE FALSE              FALSE               FALSE
29         FALSE      FALSE FALSE              FALSE               FALSE
30         FALSE      FALSE FALSE              FALSE               FALSE
31         FALSE      FALSE FALSE              FALSE               FALSE
32         FALSE      FALSE FALSE              FALSE               FALSE
33         FALSE      FALSE FALSE              FALSE               FALSE
34         FALSE      FALSE FALSE              FALSE               FALSE
35         FALSE      FALSE FALSE              FALSE               FALSE
36         FALSE      FALSE FALSE              FALSE               FALSE
37         FALSE      FALSE FALSE              FALSE               FALSE
38         FALSE      FALSE FALSE              FALSE               FALSE
39         FALSE      FALSE FALSE              FALSE               FALSE
40         FALSE      FALSE FALSE              FALSE               FALSE
41         FALSE      FALSE FALSE              FALSE               FALSE
42         FALSE      FALSE FALSE              FALSE               FALSE
43         FALSE      FALSE FALSE              FALSE               FALSE
44         FALSE      FALSE FALSE              FALSE               FALSE
45         FALSE      FALSE FALSE              FALSE               FALSE
46         FALSE      FALSE FALSE              FALSE               FALSE
47         FALSE      FALSE FALSE              FALSE               FALSE
48         FALSE      FALSE FALSE              FALSE               FALSE
49         FALSE      FALSE FALSE              FALSE               FALSE
50         FALSE      FALSE FALSE              FALSE               FALSE

plot(pval, bonferroni_pval, col = "orange", type="p", pch=1)
lines(pval, holm_pval, col="green", type="p", pch=1)
lines(pval, bh_pval, col="blue", type="p", pch=1)
lines(pval, by_pval, col="violet", type="p", pch=1)
abline(h=alpha, col="red")
abline(v=alpha, col="red")
legend(x=0.6, y=0.5, # координаты верхнего левого угла легенды
       legend=c('Бонферрони', 'Хольм', 'Бенджамини-Хохберг', 'Бенджамини-Йекутили', 'Уровень значимости'), # категории легенды
       col=c("orange", "green", "blue", "violet", "red"), # цвета категорий
       bty = "n", # чтобы не было рамочки вокруг легенды
       pch=1) # форма маркера