新足迹

 找回密码
 注册

精华好帖回顾

· 我是护士,病患不是人。大坑已甜,送真狗照,谢谢分分! (2013-1-19) peanut · *****爽韧香滑,肠肠精彩*****两分钟新鲜出炉的广东肠粉-鲜虾笋丝肠、鸳鸯肠、金银肠、虾米鸡蛋肠、猪肉肠...... (2011-11-20) 猪小妹
· 蜜早牌cheese cake (2006-4-18) 小蜜早儿 · 买车了!终于买下了,Golf 7!详情内附,给想买golf 7的人作个详细的参考。 (2014-2-1) cycchar
Advertisement
Advertisement
查看: 1863|回复: 2

[其他信息] 为什么这段数字不等于额0,手动计算为0,可是excel和google online都不为0,好奇怪 [复制链接]

发表于 2020-10-28 16:30 |显示全部楼层
此文章由 che999 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 che999 所有!转贴必须注明作者、出处和本声明,并保持内容完整
2482207.26-2513259+27095.04+3956.7

= -2.228262e-10

????

excel也显示不为0,

奇怪了
Advertisement
Advertisement

发表于 2020-10-28 18:14 |显示全部楼层
此文章由 zu365 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 zu365 所有!转贴必须注明作者、出处和本声明,并保持内容完整
有意思
2482207.26-2513259+27095.04+3856.7 = -100
2482207.26-2513259+27095.04+3857.7 = -99.0000000002

发表于 2020-10-28 18:59 |显示全部楼层
此文章由 iamyi 原创或转贴,不代表本站立场和观点,版权归 oursteps.com.au 和作者 iamyi 所有!转贴必须注明作者、出处和本声明,并保持内容完整
因为二进制无法完全精确表达小数点后的数字,所以两次转换后会产生误差

发表回复

您需要登录后才可以回帖 登录 | 注册

本版积分规则

Advertisement
Advertisement
返回顶部