信息互动

当前位置/ 首页/ 信息互动/ 正文

十万分一天平精确度 万分之一天平

导读 大家好,我是小典,我来为大家解答以上问题。十万分一天平精确度,万分之一天平,很多人还不知道,现在让我们一起来看看吧!1、万分之一的...

大家好,我是小典,我来为大家解答以上问题。十万分一天平精确度,万分之一天平,很多人还不知道,现在让我们一起来看看吧!

1、万分之一的天平显示精度是0.0000g,也就是显示小数点后4位。

2、因为小数点后第4位数字是估读,有可能四舍五入,所以第4位一般意义上是不准确的,严格上来说他精确到小数点后第3位。

3、扩展资料

4、在取小数近似数的时候,如果尾数的最高位数字是4或者比4小,就把尾数去掉。如果尾数的最高位数是5或者比5大,就把尾数舍去并且在它的前一位进"1",这种取近似数的方法叫做四舍五入法。

5、四舍五入是一种精确度的计数保留法,与其他方法本质相同。但特殊之处在于,采用四舍五入,能使被保留部分的与实际值差值不超过最后一位数量级的二分之一:假如0~9等概率出现的话,对大量的被保留数据,这种保留法的误差总和是最小的。这也是我们使用这种方法为基本保留法的原因。

本文到此讲解完毕了,希望对大家有帮助。