Некоторые наиболее часто встречающиеся ошибки.

Пример 1:

Пусть ;

; ; .

.  !

Результат вычислений х записан с избыточной точностью. Количество цифр в ответе не должно превышать наименьшее число значащихцифр, среди всех чисел, подставляемых в рабочую формулу. (Значащими цифрами являются все цифры в десятичном изображении, кроме нулей, стоящих в начале числа). В данном случае наихудшая точность у  – 3 значащие цифры.

Правильно будет записать .

Пример 2:

При измерениях диаметра цилиндра штангельциркулем получено:

мм, мм, мм. !

В третьей записи ошибка, правильно мм, т.к. штангельциркуль позволяет проводить измерения с точностью до десятой доли миллиметра. (В результатах измерений записывают все цифры, которые показывает прибор, даже если эти цифры нули)

При вычислении среднего записано:

мм. !

Правильная запись: мм, необходимо округлять до трех значащих цифр, в соответствии с точностью проведенных измерений. (В окончательных результатах вычислений записывают все точно известные цифры и одну известную не совсем верно (промежуточные вычисления ведут ещё с одной цифрой). В приведённом примере точно известными нужно считать первые две цифры 1 и 3, т.к. они повторяются во всех измерениях).

Пример 3:

Итоговый результат записан в виде мм. !

Неверная запись.

Правильно мм.

Погрешность округляется до одной значащей цифры. Последняя значащая цифра результата должна иметь тот же порядок величины, что и погрешность.

ПРИЛОЖЕНИЕ 2

Последовательность действий при обработке погрешностей

А) Прямые измерения.

1) Несколько раз измерить физическую величину .

2) Сосчитать .

3) Вычислить .

4) Определить  и .

5) Найти инструментальную погрешность .

6) Определить полную ошибку .

7) Определить относительную погрешность .

8) Записать ответ: ,  (%).

Б) Косвенные измерения .

1) Вычислить .

2) Найти .

3) Определить по методике прямых измерений полные и относительные ошибки для каждой из величин, входящих в формулу .

4) Определить относительную погрешность .

5) Сосчитать полную погрешность .

6) Записать ответ: ,  (%).

В) Обработка косвенных измерений по методике прямых

(применяется если достоверно известно, что доверительный интервал хотя бы одной измеряемой величины в процентном отношении значительно превышает любые инструментальные погрешности)

1) Несколько раз расчитатьфизическую величину .

2) Определить .

3) Вычислить .

4) Определить  и .

5) Определить относительную погрешность .

6) Записать ответ: ,  (%).