<計算精度について>

1.計算できる桁数

整数部分は15桁まで



小数点以下は第12位まで 計算できます。

この桁数を超えた場合は、

 
整数部分は浮動小数点で表示されます。この状態で最大307桁分(1.1e+307)まで表示されますが、それを超えると表示できません。



 小数点部分の第13位以下は四捨五入されるため(電卓の特性上)、この状態のまま計算を行うと小数点以下に誤差が生じることがあります。
 上の例では、「3.123456789012345」となるはずが末の「45」の部分が四捨五入され「5」と表示されています。


 時間計算の計算範囲は、秒に換算して整数部が15桁まで、小数点以下は第3位まで(1000分の1秒まで)です。小数点第4位以下の数値が発生した場合は、四捨五入して表示されます。


 この電卓は整数部と小数点部分を別々に取得して計算や表示を行っているため、正常な桁数範囲での計算中に万が一誤動作を起こすことがありましたら、この取扱説明書目次に書いてありますサポート先へメールにて連絡ください。


●目次へ戻る