Проведено n=11 измерений уровня сигнала 252 243 249 248 250

Определяем среднее значение и среднеквадратическое отклонение проведенных измерений:
А=i=1nАin=252*2+243*2+249+248+250+251+247+242*211=
=271911=247,2.
σ=i=1n(Ai-A)2n-1=
=2*(252-247,2)2+2*(243-247,2)2+...+2*(242-247,2)211-1==161,6410=4,02.
При числе наблюдений n=11 < 20 для «подозрительных» результатов определяют значение некоторого статистического критерия , которое затем сравнивают с предельным отклонением доп:
,
где максимально возможное отклонение от среднего; среднеквадратическое отклонение ряда наблюдений.
В нашем случае:
Аi-Amax=А9-A=А10-A=242-247,2=5,2.
Поэтому:
β=Аi-Amaxσ=5,24,02=1,294.
Предельные значения доп для разных значений выборки представлены в табл . 6.1.
Таблица 6.1
Объем выборки n Предельные значения доп при уровне значимости q
q = 0,100 q = 0,075 q= 0,050 q = 0,025
3 1,15 1,15 1,15 1,15
4 1,42 1,44 1,46 1,48
5 1,60 1,64 1,67 1,72
6 1,73 1,77 1,82 1,89
7 1,83 1,88 1,94 2,02
8 1,91 1,96 2,03 2,13
9 1,98 2,04 2,11 2,21
10 2,03 2,10 2,18 2,29
11 2,09 2,14 2,23 2,36
В нашем случае объему выборки n=11 и уровню значимости q=1-P=1-0,9=0,1 соответствует значение:
доп = 2,09.
Так как выполняется =1,294 < доп = 2,09, то «подозрительный» результат действительно принадлежит исследуемой выборке, грубой погрешностью считаться не может и исключению не подлежит.
Следовательно, все исследуемые результаты в целом грубой погрешности не содержат, так как у других элементов выборки разница между средним значением будет еще меньше, а значит будет меньше и значение статистического критерия.