Casio FX-9750GII - Инструкция (Страница 415)

Тем не менее;
–1 × 10 100 <
x
1
log |y| < 100
• Комплексные
числа могут
использоваться
как аргументы.
a
b
/
c
Общее количество знаков
целой части, числителя и
знаменателя должно быть в
пределах 10 цифр (включая
знак дробной черты).
" "
* Для единичного вычисления ошибка вычисления составляет ±1 в 10-й цифре. (Для
экспоненциального дисплея ошибка вычисления составляет ±1 в последней значащей цифре).
Ошибки накапливаются в случае последовательных вычислений, и могут достигать больших
величин. (Это также верно для внутренних последовательных вычислений, которые
выполняются для функций ^(x
y ), , x!, 3 x , nPr, nCr, etc.) x y
Вблизи сингулярной точки и точки перегиба функции погрешности накапливаются и могут
достигать больших величин.
Функция Диапазон ввода
Двоичные,
восьмеричные,
десятичные,
шестнадцатеричные
вычисления Значения после преобразования находятся в следующих диапазонах:
DEC: –2147483648 ≤ x ≤ 2147483647
BIN: 1000000000000000 ≤ x ≤ 1111111111111111 (отрицательные)
0
≤ x ≤ 111111111111111 (0, положительные)
OCT: 20000000000 ≤ x ≤ 37777777777 (отрицательные)
0
≤ x ≤ 17777777777 (0, положительные)
HEX: 80000000 ≤ x ≤ FFFFFFFF (отрицательные)
0
≤ x ≤ 7FFFFFFF (0, положительные)
401