Диапазоны вычислений, количество знаков и точность, Диапазон вычисления и точность, Диапазоны ввода и точность вычисления функций – Инструкция по эксплуатации Casio fx-570ES PLUS
Страница 43: R-42
R-42
17: pc
' km
18: km
' pc
19: km/h
' m/s
20: m/s
' km/h
21: oz
' g
22: g
' oz
23: lb
' kg
24: kg
' lb
25: atm
' Pa
26: Pa
' atm
27: mmHg
' Pa 28: Pa ' mmHg
29: hp
' kW
30: kW
' hp
31: kgf/cm
2
' Pa 32: Pa ' kgf/cm
2
33: kgf
•
m
' J
34: J
' kgf
•
m
35: lbf/in
2
' kPa 36: kPa ' lbf/in
2
37: °F
' °C
38: °C
' °F
39: J
' cal
40: cal
' J
Формулы перевода основаны на «Национальный институт по
стандартизации и технологии (NIST), специальное издание 811
(1995)».
Примечание: Данные перевода J
'cal приведены при температуре
15°С.
Диапазоны вычислений, количество
знаков и точность
Диапазон выражения, количество цифр, используемых для внутренних
вычислений и точность вычисления зависят от типа выполняемого
расчета.
Диапазон вычисления и точность
Диапазон вычисления
± 1 × 10
–99
до
± 9,999999999 × 10
99
или 0
Количество цифр для
внутреннего вычисления
15 цифр
Точность
В общем
± 1 на 10 разрядов при
отдельном вычислении. Точность
экспоненциального отображения равна
± 1 на наименьший значащий разряд. В
случае последовательных вычислений
ошибки накапливаются.
Диапазоны ввода и точность вычисления
функций
Функции
Диапазон ввода
sin
x
DEG 0
|
x
| 9 × 10
9
RAD 0
|
x
| 157079632,7
GRA 0
|
x
| 1 × 10
10
cos
x
DEG 0
|
x
| 9 × 10
9
RAD 0
|
x
| 157079632,7
GRA 0
|
x
| 1 × 10
10
tan
x
DEG Как и для sin
x
, кроме когда
|
x
| = (2
n
–1)
× 90.
RAD Как и для sin
x
, кроме когда
|
x
| = (2
n
–1)
× π /2.
GRA Как и для sin
x
, кроме когда
|
x
| = (2
n
–1)
× 100.
sin
–1
x
0
|
x
| 1
cos
–1
x
tan
–1
x
0
|
x
| 9,999999999 Ч 10
99