精华好帖回顾
· 旅友小韩（原创分享） (2014-12-3) ahyu	· 童言趣语 (加了PP噢) (2008-5-19) 旋木
· Call Centre 面试归来！ (2006-4-25) chenchaoyi	· Audi A1 sport版秀秀更新夜晚灯光内饰图！ (2013-4-3) jmms_smmj

查看: 1846|回复: 2

[其他信息] 为什么这段数字不等于额0，手动计算为0，可是excel和google online都不为0，好奇怪 [复制链接]

发表于 2020-10-28 16:30 |显示全部楼层

此文章由 che999 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 che999 所有！转贴必须注明作者、出处和本声明，并保持内容完整

2482207.26-2513259+27095.04+3956.7

= -2.228262e-10

？？？？

excel也显示不为0，

奇怪了

发表于 2020-10-28 18:14 |显示全部楼层

此文章由 zu365 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 zu365 所有！转贴必须注明作者、出处和本声明，并保持内容完整

有意思
2482207.26-2513259+27095.04+3856.7 = -100
2482207.26-2513259+27095.04+3857.7 = -99.0000000002

发表于 2020-10-28 18:59 |显示全部楼层

此文章由 iamyi 原创或转贴，不代表本站立场和观点，版权归 oursteps.com.au 和作者 iamyi 所有！转贴必须注明作者、出处和本声明，并保持内容完整

因为二进制无法完全精确表达小数点后的数字，所以两次转换后会产生误差

		自动登录	找回密码
密码			注册

精华好帖回顾