作业帮 > 数学 > 作业

EXCEL2007公式计算错误,计算数据相差0.0000000000000028

来源:学生作业帮 编辑:百度作业网作业帮 分类:数学作业 时间:2024/07/04 15:52:56
EXCEL2007公式计算错误,计算数据相差0.0000000000000028

C3的公式为=(B3-A3)/16,C3计算正确,向下拖动后下面的几个数据都有误差,这是什么原因?
EXCEL2007公式计算错误,计算数据相差0.0000000000000028
这是计算机浮点机算造成的误差,属于计算机的先天不足,无法从根本上解决问题.
可在公式中套入四舍五入函数,如:
=ROUND((B3-A3)/16,3)