加载中…
个人资料
  • 博客等级:
  • 博客积分:
  • 博客访问:
  • 关注人气:
  • 获赠金笔:0支
  • 赠出金笔:0支
  • 荣誉徽章:
正文 字体大小:

有效数字位数及科学计数

(2018-08-07 15:47:33)
标签:

教育

有效数字位数及科学计数

(自然资源部 钱学溥 86岁)

 

F.1  实验数据只能保留最后一位可疑数字。最后一位可疑数字,是由下一位数字四舍五入以后确定的。

F.2  19是有效数字。19左侧的0是无效数字,19右侧的0是有效数字。有效数字位数与单位的大小无关,与小数点的位置无关。

F.3  由于流量的计量一般有1%左右的误差,根据误差传递的原理,水文地质参数和可开采量、矿坑涌水量等,只能保留23位有效数字。为了便于操作,统一规定保留3位有效数字。宜采用科学计数的方法表达。

F.4  科学计数可以明确地表达实验数据的有效位数。3位有效数字科学计数的表达形式是:m.nn×10p

(m=19n=09p=±1、±2、±3……)

F.5  3位有效数字通俗表达形式及科学计数表达形式,见表F.1

F.6  F.13位有效数字通俗的表达形式中,32.0870502034600146000000,不能确定其有效数字的位数。

F.7  水文地质参数和可开采量、矿坑涌水量等,如果保留了1位或2位有效数字,则有可能是错误的。如果保留了45678910位有效数字,则肯定是错误的。

 

F.1  3位有效数字通俗表达形式及科学计数表达形式(举例)

计算器给出的实验数据

计算结果

3位有效数字通俗的

表达形式

3位有效数字科学计数

表达形式

0.000010087

0.0000101

1.01×10-5

0.000495583

0.000496

4.96×10-4

0.007801320

0.00780

7.80×10-3

0.059100472

0.0591

5.91×10-2

0.258704037

0.259

2.59×10-1

1.074923096

1.07

1.07

4.807240033

4.81

4.81

32.03050104

32.0

3.20×101

870.4390501

870

8.70×102

5023.880059

5020

5.02×103

34568.60770

34600

3.46×104

146308077.7

146000000

1.46×108

0

阅读 收藏 喜欢 打印举报/Report
  

新浪BLOG意见反馈留言板 欢迎批评指正

新浪简介 | About Sina | 广告服务 | 联系我们 | 招聘信息 | 网站律师 | SINA English | 产品答疑

新浪公司 版权所有