Сопротивление резистора Rx определялось путем многократных измерений падения напряжения на нем Ux и падения напряжения Uo на последовательно соединенном с ним образцовом резисторе R0= 2 кОм с последующим расчетом по формуле

Находим значение результата косвенного измерения сопротивления:
кОм.
Определяем частные случайные погрешности косвенного измерения
кОм,
кОм.
Вычисляем оценку среднего квадратического отклонения результата косвенного измерения. Так как RUxU0=0, то для определения RX используем формулу для случая независимых частных погрешностей
кОм.
Определяем значение коэффициента Стьюдента t для доверительной вероятности Рд = 0,95 и числа наблюдений n=21.
При n 30 предварительно должно быть определено так называемое «эффективное» число степеней свободы распределения Стьюдента, учитываемое затем при пользовании соответствующей таблицей.
Оно определяется из выражения:
nэф=EU0*δU0+EUx*δUx21n-1*EU02*δU02+EUx2*δUx2+1,
где относительные оценки среднеквадратических отклонений:
δU0=σU0U0=0,034,251=0,008;
δUx=σUxUx=0,3227,65=0,012.
Тогда:
nэфф=0,092*0,008+0,151*0,0122121-1*0,0922*0,0082+0,1512*0,0122+1=40+1=41.
Из таблиц распределения Стьюдента при n>30 и Рд=0,95 находим:
Вычисляем доверительные границы случайной погрешности результата косвенного измерения
кОм.
Проанализируем полученные результаты с использованием критерия ничтожных погрешностей.
В соответствии с этим критерием, если частная погрешность меньше 1/3 суммарной погрешности, то она является «ничтожной» и может быть исключена из рассмотрения.
Для решаемой задачи
.
Следовательно, и , и обе не являются «ничтожными» и для повышения точности измерения R необходимо увеличивать как точность измерения Ux, так и точность измерения U0.
Записываем результат измерения
кОм, Рд=0,95.