桁あふれのエラー(extype1002 および extype1003)

BASICの数値には扱える大きさの範囲があります。
十進BASICの最も一般的な十進モード では,扱える最大の数は1099です。
その数値を計算するのが目的でない場合は,途中の計算結果が上記の範囲を超えないように計算の手順を工夫します。
なお,扱える数値の下限もあります。絶対値が10-99より小さい数は0に丸められます。
<補足>
2進モード では,最大数はおよそ1.8×10308,最小の正の数は4.9×10-324
十進1000桁モード では,最大数は,101008,最小の正の数は10-1017です。
有理数モード には,数値の大きさに関する明示的な制限はありません。


戻る

inserted by FC2 system