Пример обработки результатов прямого измерения

Измерялась длина l стержня штангенциркуля с ценой деления D = 0,1 мм. Полученные данные приведены в нижеследующей таблице (вторая колонка).

1) Находим мм и среднее значение <l> = = 20,68 мм.

2) Находим (l_i - <l>), (l_i -<l>)² и å (l_i - <l>)² =1884·10^-4 мм².

3) Задаемся надежностью a = 0,95 и по таблице (приложение 1) находим t_a,n= 2,57 и t_{a, ¥} = 1,96.

4) Вычисляем абсолютную и случайную погрешности

Dl_cл = t_a,n мм.

5) Устанавливаем предельную погрешность прибора Dl_пр = D = 0,1 мм и вычисляем приборную погрешность

Dl_пр^ст = t_a,¥ /3 × D = 1,96/3 × 0,1 = 0,085 мм.

6) Погрешность округления. Отсчет по нониусу округлялся до целого деления, значит, h = D = 0,1 мм, и

Dl_окр = a× h/2 = 0,95 × 0,1/2 = 0,048 мм.

7) Полная абсолютная погрешность

Dl = мм = 0,22 м.

8) Относительная погрешность

e_l =Dl/<l> = 0,22/20,68 = 0,0106 ; e »1,1 %.

9) Итог: l = (22,7 ± 0,2) мм. e » 1% при a = 0,95.

ПРИЛОЖЕНИЕ 3