有效数字位数及科学计数
(2018-08-07 15:47:33)
标签:
教育 |
有效数字位数及科学计数
(自然资源部 钱学溥 86岁)
F.1
F.2
F.3
F.4
(m=1~9;n=0~9;p=±1、±2、±3……)。
F.5
F.6
F.7
表F.1
计算器给出的实验数据 计算结果 |
3位有效数字通俗的 表达形式 |
3位有效数字科学计数 的表达形式 |
0.000010087 |
0.0000101 |
1.01×10-5 |
0.000495583 |
0.000496 |
4.96×10-4 |
0.007801320 |
0.00780 |
7.80×10-3 |
0.059100472 |
0.0591 |
5.91×10-2 |
0.258704037 |
0.259 |
2.59×10-1 |
1.074923096 |
1.07 |
1.07 |
4.807240033 |
4.81 |
4.81 |
32.03050104 |
32.0 |
3.20×101 |
870.4390501 |
870 |
8.70×102 |
5023.880059 |
5020 |
5.02×103 |
34568.60770 |
34600 |
3.46×104 |
146308077.7 |
146000000 |
1.46×108 |