加载中…报告上的有效数字如何确定？
(2022-11-17 16:34:02)
标签：
有效数字 |
分类： 质量管理 |
报告结果有效数字位数，可以有2种方法
（2）方法的标准差未知的情况这种遵守原始记录的结果，并按照有效数字的运算规则来确定。有效数字运算规则如下：
加减运算：最终计算结果中保留的小数位数，与参加运算的有效数字中小数位数最少者相同
乘除运算：运算结果经修约后，保留的有效数字位数应与参加运算的几个有效数字中有效位数最少者相同。
对数运算：对数的有效数字位数应和原数（真数）的相同。
平方、立方、开方运算：计算结果的有效数字位数应和原数的相同。
例如：某实验室要求测试密度。原始记录的结果为：质量m=0.8044g，体积V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
这是一个乘除运算，最终结果与参加运算的几个有效数字中有效位数最少者（1.82）相同那么报告的最终结果应该是：0.442g/ml
（1）方法的标准差已知的情况
报告结果的有效数字取四分之一个标准差的首数所在数位，定为分析结果的尾数。例如：某一测定结果为25.352，标准差为1.4，四分之一标准差为0.35，其首位数字（0.35中的3）所在数位是十分位，即定为该结果的末位，可报为25.4
报告结果的有效数字取四分之一个标准差的首数所在数位，定为分析结果的尾数。例如：某一测定结果为25.352，标准差为1.4，四分之一标准差为0.35，其首位数字（0.35中的3）所在数位是十分位，即定为该结果的末位，可报为25.4
（2）方法的标准差未知的情况这种遵守原始记录的结果，并按照有效数字的运算规则来确定。有效数字运算规则如下：
加减运算：最终计算结果中保留的小数位数，与参加运算的有效数字中小数位数最少者相同
乘除运算：运算结果经修约后，保留的有效数字位数应与参加运算的几个有效数字中有效位数最少者相同。
对数运算：对数的有效数字位数应和原数（真数）的相同。
平方、立方、开方运算：计算结果的有效数字位数应和原数的相同。
例如：某实验室要求测试密度。原始记录的结果为：质量m=0.8044g，体积V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
这是一个乘除运算，最终结果与参加运算的几个有效数字中有效位数最少者（1.82）相同那么报告的最终结果应该是：0.442g/ml
喜欢
0
赠金笔
后一篇：这套校服火了！羡慕的，请举手！