Full BASICの数値

数値演算

Full BASIC規格は組込み関数も含め,数値演算の正確さを規定しています。通常の利用では計算精度の範囲で十分な正確さを持つと考えてよいのですが,数学での常識に反することもあるので注意が必要です。

数値演算の正確さは,単一の演算に対してのみ保証されます。演算を2回続けて行う場合には,数学的な意味での正しい答えと食い違うことがありえます。
たとえば,

10 LET a=120
20 IF SQR(a)^2 = a THEN PRINT "Y" ELSE PRINT "N"
30 END

を実行すると,Nが表示されます。つまり,平方根をとって2乗しても元には戻らないということです。それは,SQR(120)が近似値でしか表現できないことに原因があります。
ただし10行で指定する数値を144などの平方数にすれば,その平方根は正確に表現できるので,結果はYになります。


戻る inserted by FC2 system