内卷不能输——实验中有效数字运算规则知多少！

 

 

百欧博伟生物：在实验数据的运算中，有效数字的保留和运算规则必不可少。本期给大家梳理并举例说明实验数值加减、乘除、乘方、开方等运算后有效数字的修约规则，希望对大家有所帮助！

 

1、有效数字

 

（1）有效数字是指在分析和测量中所能得到的有实际意义的数字。测量结果是由有效数字组成的（前后定位用的“0”除外）。

 

（2）有效数字的前几位都是准确数字，只有最后一位是可疑数字。

 

例如：

 

测量结果1.1080g，前几位数字1、1、0、8都是称量读到的准确数字，而最后一位数字0则是在没有刻度的情况下估读出来的，是不准确的或者说可疑的。

 

（3）有效数字是处于表示测量结果的数值的不同数位上。所有有效数字所占有的数位个数称为有效数字位数。

 

例如：

 

数值3.5，有两个有效数字，占有个位、十分位两个数位，因而有效数字位数为两位；

 

3.501有四个有效数字，占有个位、十分位、百分位、千分位四个数位，因而是四位有效数字。

 

（4）测量结果的数字，其有效位数反映了测量结果的精确度，它直接与测量的精密度有关。这也是有效数字实际意义的体现。

 

例如：

 

前述例子中，若测量结果为1.1080g，则表示测量值的误差在10-4量级上，天平的精度为万分之一；若测量结果为1.108g，则表示测量值的误差在10-3量级上，天平的精度为千分之一。

 

2、修约规则

 

3、数值运算规则

 

（1）加减运算

 

几个数相加减的结果，经修约后保留有效数字的位数，取决于绝对误差最大的数值，计算结果应以绝对误差最大（即小数点后位数最少）的数据为基准，来决定计算结果数据的位数。

 

在实际运算过程中，各数值保留的位数比各数值中小数点后位数最少者多保留一位小数，而计算结果有效数字的位数应与效数最少的一数相同。

 

例如：29.2+36.582-3.0281≈62.8

 

(2) 乘除运算

 

几个数据的乘除运算以相对误差最大（即有效数字位数最少）的数值为基准来决定结果数据的位数。

 

在实际运算中，先将各数值修约至比有效数字位数最少者多保留一位有效数字运算，计算结果的有效数字的位数与有效数字位数最少的数值相同。（与小数点位置无关）

 

例如:

 

0.235438×28.6×61.8911

 

≈0.2354×28.6×61.89

 

=414.6707116

 

三个参与运算的数值的有效数字位数分别为六位、三位、六位，所以最终计算结果用三位有效数字表示，为415或4.15×102。

 

(3) 乘方和开方

 

乘方或开方时，原数值有几位有效数字，计算结果就可以保留几位有效数字。若计算结果还要参与运算，则乘方或开方所得结果可比原数值多保留一位有效数字。

 

例如：

 

3.582=12.8614，运算结果保留三位有效数字，为12.9。

 

(4) 平均值

 

计算几个数值的平均值时，先将计算结果修约至比要求的位数多一位，再按数值修约规则处理。

 

(5) 方差和标准偏差

 

方差和标准偏差在运算过程中对中间结果不做修约，只将最后结果修约至要求的位数。

 

注意：

 

在所有计算式中，常数（π、e等）以及非检测所得的计算因子（倍数或分数等）的有效数字位数，可视为无限，需要几位就取几位。

 

使用计算器（或电脑）进行计算时，一般不对中间每一步骤的计算结果进行修约，仅对最后的结果进行修约，使其符合事先所确定的位数。

 

（6）自然数

 

在一些分析化学运算中，有时会遇到一些倍数或分数的关系。例如：水（H2O）的相对分子质量=2×1.008+16.00=18.02

 

其中 “2”不能看做1位有效数字。因为它们是非测量所得到的数，是自然数，其有效数字位数，可视为无限的。

 

另外，常数π、图片等的有效数字，可认为是无限制，即在计算中可根据需要取适当的数位。

 

欢迎访问标准物质资源平台，本站罗列了国家标准物质及本公司自行研制的标准品，对照品及化学试剂，方便了客户对标准物质及化学试剂的查询！所接所有订单全部由上门自取改为快递统一发货，既快捷了外地客户对产品的使用，又规范了公司内部的库房结构！让一站式标准物质的购买更加精准，高效！