2007/08/31

Excel の計算問題

Excel にはいくつか演算誤差が出ることがわかっていますが,ちょっと一例です.

-1^2 = 1 となり「え?」です.Excel2007 でも未解決でした.もちろん -2^2 も 4 になる.ちなみに -(1)^2 でも 1 になる.負を出したいときは -1*(-1)^2 で -1 と外に出すしかないのかもしれません.

他にもいろいろ聞きますが,これでは….

0 件のコメント: