Теория проверки статистических гипотез

Введение
В радиотехнике, в частности в радиосвязи и в радиолокации, в приемных устройствах наряду с сигналом всегда существует шум, который может маскировать или искажать полезный сигнал. Другими словами принимаемое колебание представляет собой сумму CITATION ВИТ66 \l 1049 [1]:
(1)
где — белый нормальный шум, — полезный сигнал известной формы (детерминированный сигнал), существующий на интервале наблюдения . Параметр - величина неизвестная и может принимать только два значения: - при наличии в принятом колебании сигнала, и - при отсутствии в принятом колебании сигнала. Для случая сигнала с шумом необходимо решать задачу о наличии либо отсутствии полезного сигнала в принятом колебании.
При этом возможны два случая CITATION ВИТ66 \l 1049 [1]:
1. Известны априорные (до приема колебания ) вероятности наличия или отсутствия полезного сигнала. Этот случай характерен для радиосвязи.
2. Эти априорные вероятности неизвестны. Этот случай характерен для радиолокации.
По принятой конкретной реализации необходимо решать оптимальным образом, с точки зрения принятых критериев, какое именно значение имеет параметр , т. е. присутствует или отсутствует сигнал. Другими словами, нужно до приема колебания (априори) найти такой метод обработки принятого колебания , который бы позволял наилучшим образом принимать решение о наличии или отсутствии полезного сигнала в принятом колебании.
В последнее время, в связи с интенсивным развитием цифровой техники, стала возможна практическая реализация строгого решения подобных задач в реальном времени.
Целью настоящей работы является рассмотрение и анализ алгоритмов принятия оптимального решения на основе статистических гипотез.
Для достижения поставленной цели необходимо выполнение следующих работ:
1. Постановка задачи.
2. Рассмотрение и анализ оптимальных правил решения задачи на основе статистических гипотез.
Актуальность работы определяется необходимостью получения и практического использования знаний об оптимальных методах принятия решений на основе статистических гипотез.
1. Постановка задачи
Постановка задачи и основные понятия теории принятия статистических решений довольно подробно описана в литературе CITATION ВИТ82 \l 1049 [2].
1.1. Основные понятия
Предположим, что при проведении опыта наблюдается событие, которое порождается одной из двух причин: либо , либо , причем причины эти взаимоисключающие и происходит только одно из этих двух событий. Гипотезу о том, что событие обусловлено первой причиной , обозначим через , а гипотезу о том, что событие обусловлено второй причиной — через . Необходимо выбрать подходящее (оптимальное) правило для выбора между гипотезами, т. е. для решения вопроса, какая из двух причин наблюдаемого события в более правдоподобна. Такое оптимальное правило принятия решения должно быть сформулировано до опыта, наблюдения события; после наблюдения события должно быть вынесено решение о том, какое событие произошло. Очевидно, что для получения такого правила нужно иметь некоторые сведения о причинах события и о связи причин с событиями, которые могут происходить.
Предположим, что - это пространство всех возможных значений наблюдаемой величины , зависящей от двух взаимоисключающих причин или , и одна из которых должна быть в действительности. Предположим, что если имеет место причина , то известна условная плотность вероятности , где — некоторая точка пространства . Аналогично причине соответствует другая известная плотность вероятности . Относительно априорных (до проведения опыта) сведений о причинах и возможны два случая:
1. Известны априорные вероятности причин и .
2. Априорные вероятности причин неизвестны, что и наблюдается в большинстве случаев при решении подобных задач.
Но в обоих случаях для решения подобных задач необходимо установление оптимального, с точки зрения выбранного критерия, правила принятия решения о выборе между гипотезами и . Это означает, что пространство наблюдений должно быть разбито на две области и . Смотри рисунок 1. Причем пространство наблюдений необходимо разбить на области таким образом, чтобы для всякого результата наблюдения можно было однозначно сказать, какой из причин он соответствует.
Рисунок 1. Проверка двух гипотез
Тогда, если в результате наблюдения мы получаем значение , относящееся к области , то нужно выбирать гипотезу ; если относится к области то следует выбирать . При рассмотрении двух гипотез обычно одну из них выделяют, и проверка гипотез рассматривается с точки зрения этой гипотезы. Если выделена гипотеза , то называется областью принятая гипотезы, а — областью отклонения гипотезы или критической областью (см. рисунок 1).
1.2. Пример
Пример заимствован из литературы CITATION ВИТ82 \l 1049 [2].
На вход радиоприемного устройства в некоторый фиксированный момент времени воздействует случайное напряжение , которое является либо суммой известного сигнала и случайной помехи , либо одной помехой . Производится измерение величины . По полученному числовому значению нужно решить, присутствовал ли на входе сигнал (для определенности примем ) или отсутствовал, т. е. выбрать одну из двух возможностей.
Эту задачу можно сформулировать иначе. Случайную величину можно представить в виде , где — белый нормальный шум, — полезный сигнал известной формы Параметр - величина неизвестная и может принимать только два значения: - при наличии в принятом колебании сигнала , и - при отсутствии в принятом колебании сигнала

. По результатам наблюдения над нужно решить, какое значение имеет параметр . Подобная ситуация называется двуальтернативной или бинарной.
В качестве нулевой гипотезы примем отсутствие сигнала, а в качестве конкурирующей — наличие сигнала. Множество всех возможных измеренных значений случайной величины представляет собой всю действительную ось . Искомое решающее правило состоит в наилучшем разбиении оси на две части и .
1.3. Ошибки решения, их вероятности
Материал об ошибках, возникающих при принятии статистических решений, о вероятностях этих ошибок заимствован из литературы CITATION ВИТ82 \l 1049 [2].
Следует отметить, что всякое решение из-за случайного характера рассматриваемых событий будет сопровождаться ошибками. Обозначим следующие события: — осуществляется событие (верна гипотеза ), — осуществляется событие (верна гипотеза ), — результат наблюдения попал в область , — результат наблюдения попал в область . Тогда решением может быть только один из следующих четырех возможных исходов:
— верна гипотеза и принято решение о ее истинности.
— верна гипотеза , а принято решение об истинности гипотезы .
— верна гипотеза , а принято решение об истинности гипотезы .
— верна гипотеза и принято решение о ее истинности.
Отсюда видно, что исходы и соответствуют правильным решениям, а исходы и являются ошибочными решениями.
В силу случайности рассматриваемых событий, принятие решений всегда сопровождается ошибками двух родов.
1. Гипотеза отвергается тогда, когда в действительности она верна. Эта ошибка называется ошибкой первого рода.
2. Гипотеза отвергается, в то время как она верна. Это ошибка второго рода.
Вероятность непринятия гипотезы , когда она является правильной, в математической статистике называется уровнем значимости критерия. Вероятность принятия гипотезы когда она является верной, называется мощностью критерия.
Примем, что - условная вероятность ошибки первого рода, определенная при условии истинности события (гипотезы ), а — условная вероятность ошибки второго рода, вычисленную при условии истинности события (гипотезы ). Из введенных определений следует, что есть уровень значимости критерия, а — мощность критерия. Применяя правило определения вероятности попадания случайной величины в заданную область, можем написать:
(2)
Безусловные вероятности и ошибок первого и второго рода можно выразить через условные вероятности ошибок и а также априорные вероятности событий и - и :
(3)
Отсюда полная суммарная вероятность ошибки равна:
(4)
Используя условные вероятности ошибок и можно рассмотреть определения оптимальности решения. Оптимальность решения определяется двумя факторами:
1. Одинакова ли значимость ошибок первого и второго рода.
2. Известны или нет априорные вероятности событий и - и .
Ниже будут рассмотрены основные оптимальные правила решения, которые наиболее часто применяются в радиотехнических задачах.
2. Критерий Байеса
Материал по критерию Байеса взят из источника CITATION ВИТ82 \l 1049 [2].
Критерий Байеса наиболее часто применяется при принятии статистических решений в задачах радиотехники. Этот критерий по-другому еще называется критерий идеального наблюдателя.
В этом критерии оптимальное правило заключается в том, чтобы минимизировать ущерб от принятия неправильных решений.
При этом считается, что заданы априорные вероятности каждой из двух гипотез и , а также количественные характеристики ущерба, так называемые функции потерь , где . Здесь первая цифра подстрочного индекса означает выбранную гипотезу, а вторая — гипотезу, которая была правильной. При использовании критерия Байеса каждому ошибочному решению ставится в соответствие некоторая положительная плата: — стоимость ошибки первого рода, — стоимость ошибки второго рода. Для правильных решений принимается .
Согласно критерию Байеса оптимальное решающее правило должно минимизировать среднюю плату за ошибки или, по другому, должен быть минимальным средний риск , который можно представить как среднее значение по пространству наблюдения Г от среднего риска при каждом значении :
(5)
где - средняя плата при условии наблюдения (апостериорный риск);
- плотность вероятности наблюдений.
Для нахождения выражений для и представим, что получено - множество значений величины . Согласно закону Байеса условные вероятности событий и при условии, что величина принадлежит множеству значений определяются выражениями:
,(6)
где
Предположим, что - множество значений величины заключены в интервале . Тогда с использованием ранее принятых обозначений можно записать:
(7)
где .
Условные вероятности
(8)
называют апостериорными вероятностями событий и , а отношение плотностей вероятностей:
(9)
называют отношением правдоподобия.
Отношение условных вероятностей, выражения (8), с учетом выражения (9) можно записать в виде:
(10)
Если результат наблюдения отнести к области (принята гипотеза ), то апостериорный риск согласно формуле для математического ожидания дискретной случайной величины равен:
(11)
Так как