Правило попереднього заокруглення більш точних даних

При розв’язуванні задач зустрічається немало наближених і точних значень, що являють собою багатозначні числа. Наприклад:

З такими числами досить складно проводити обчислення і раціоналізувати їх можна, застосувавши правило попереднього заокруглення.

Правило 6. Якщо деякі дані мають більше десяткових знаків (при дії першого ступеня) або більше значущих цифр (при діях 2 і 3 ступенів), ніж інші, то їх попередньо слід заокруглити, зберігаючи лише одну зайву цифру.

Розглянемо приклад цього правила при розв’язуванні такої задачі.

Задача 1.

Густина ртуті при температурі 0⁰С рівна 13,5955 г/см³. Визначити масу ртуті об’ємом 25 см³.

Розв’язування.

m=V^.ρ;

m=13,5955 г/см^{3 .}25 cм³.

В відповідності з правилом 6 зберігаємо в першому множнику три значущі цифри. Тоді m=13,6 г/см^{3 .} 25 см³ = 340 г =0,34 кг.

Обчислення без застосування цього правила більш складне, але дає той же результат: (г) 0,34 (кг).

Якщо заокруглити більш точне число без зайвої цифри, результат буде менш точним: m=14 г/см^3.25 см³ = 350 г = 0,35 кг.

Правило попереднього заокруглення застосовують і тоді, коли використовують дані із таблиць.