Проведено n=8 измерений уровня сигнала 0 20 0 19 0 18 0 19

Определяем среднее значение и среднеквадратическое отклонение проведенных измерений:
А=i=1nАin=0,20*2+0,19*2+0,18*2+0,21+0,228=
=1,578=0,196.
σ=i=1n(Ai-A)2n-1=
=2*(0,2-0,196)2+2*(0,19-0,196)2+...+(0,22-0,196)28-1==0,0013887=0,014.
При числе наблюдений n=8 < 20 для «подозрительных» результатов определяют значение некоторого статистического критерия , которое затем сравнивают с предельным отклонением доп:
,
где максимально возможное отклонение от среднего; среднеквадратическое отклонение ряда наблюдений.
В нашем случае:
Аi-Amax=А7-A=0,22-0,196=0,024.
Поэтому:
β=Аi-Amaxσ=0,0240,014=1,714.
Предельные значения доп для разных значений выборки представлены в табл . 9.1.
Таблица 9.1
Объем выборки n Предельные значения доп при уровне значимости q
q = 0,100 q = 0,075 q= 0,050 q = 0,025
3 1,15 1,15 1,15 1,15
4 1,42 1,44 1,46 1,48
5 1,60 1,64 1,67 1,72
6 1,73 1,77 1,82 1,89
7 1,83 1,88 1,94 2,02
8 1,91 1,96 2,03 2,13
9 1,98 2,04 2,11 2,21
10 2,03 2,10 2,18 2,29
11 2,09 2,14 2,23 2,36
В нашем случае объему выборки n=8 и уровню значимости q=1-P=1-0,95=0,05 соответствует значение:
доп = 2,03.
Так как выполняется =1,714 < доп = 2,03, то «подозрительный» результат действительно принадлежит исследуемой выборке, грубой погрешностью считаться не может и исключению не подлежит.
Следовательно, все исследуемые результаты в целом грубой погрешности не содержат, так как у других элементов выборки разница между средним значением будет еще меньше, а значит будет меньше и значение статистического критерия.