[算表] 數字加總應等於零卻不等於零 wplinwp PTT批踢踢實業坊

作者: wplinwp (阿綠) 2016-07-29 17:07:56

軟體:EXCEL
版本:2007
我剛剛發現一個奇妙的問題。。。

我這一串數字加總之後應該會等於零，但我把數字拉開以後，
發現加總並不是等於零，而是0.00000000026
然後我重新把數字手動輸入一遍，
每一個數字都只到小數後兩位，這樣應該要等於零了吧~~
結果金額不但不是零，還差更多

我新開一個活頁簿再輸入一次數字也是一樣。。。
這到底是怎麼回事。。。
(但不要跟我說用ROUND函數就好。。。因為這些數字原本加總就應該等於零才對)

作者: soyoso (我是耀宗) 2016-07-29 17:12:00

應是浮點數的問題，想到的是round來排除，但原文不要用寫不要用

作者: wplinwp (阿綠) 2016-07-29 17:16:00

理論上應該不需要round，其他的我就不太清楚感謝soyoso大師

作者: soyoso (我是耀宗) 2016-07-29 17:21:00

假設這是浮點數的問題，https://goo.gl/HHPxHP，微軟支援在修正精確度錯誤上方法1寫到的是round函數

作者: wplinwp (阿綠) 2016-07-30 09:34:00

但soyoso大師，我這一串數字並不複雜，都只到小數後兩位，後面那些零是我後來拉開的感覺不複雜的東西，應該不至於會有運算上的問題

作者: soyoso (我是耀宗) 2016-07-30 09:49:00

那看看版上先進是否有其他解決的方式可提供給原po了

作者: wxtab019 (天霜凝月) 2016-07-30 20:57:00

上面每格看值看看? 剛剛試了打一堆也沒這問題

繼續閱讀