目次

計算機上での数値の扱い

計算机上では実数はおろか、整数ですら有限桁しか扱えない。
実数は浮動小数点数で表現 … 精度も桁数も有限

浮動小数点数における∞の定義

計算機上では、

表現可能範囲が有限→あまりに大きな数は表現不能
→表現不能な大きさの数を全て∞扱いしてしまう
精度の問題から、非常に小さな数と0は区別が付かない
→非常に大きな数と∞も区別を付けない方が都合がいい

↓

計算途中でオーバーフローを起こした場合、∞に
1/0 → ∞に
1/∞→ 0 に
a+∞→ ∞
∞/∞ → NaN

NaN(Not A Number)… 存在しない数、
計算机上では扱えない数を表す特別な浮動小数点数。
実数計算ライブラリでは √(-1) なども NaN になるのが普通。

ちなみに、整数型の場合は 1/0 はエラーを起こす。

更新履歴

ブログ