在matlab中如何控制数据的精度?【完整总结】
(2013-02-04 14:56:39)
标签:
杂谈 |
针对数据的显示形式控制,matlab中有专用命令
format
但该命令不影响数据的储存形式和计算精度
format
缺省时为默认短格式方式与format short相同
format short g
当数据大于1000或小于1时便会以科学记数法显示(-e),若想坚持用整数部分加小数部分的格式来显示,就要再后边加
g
format long g
format hex
format short
vpa(date,n)
将数据date以n位有效数字显示。
format 默认格式
format short 5字长定点数
format long 15字长定点数
format short e 5字长浮点数
format long e 15字长浮点数
format short g
format long g
format hex 16进制
format bank 定点货币形式
format rat 小数分数表示
format + +,-,空格
format compact 压缩空格
format loose 包括空格和空行
format long 15字长定点数
format short e 5字长浮点数
format long e 15字长浮点数
format short g
format long g
format hex 16进制
format bank 定点货币形式
format rat 小数分数表示
format + +,-,空格
format compact 压缩空格
format loose 包括空格和空行
当然也可以不用format 命令,可以修改系统的默认设置格式,File->Preferences->Command Window->Text
Display.
如果想得到分数可以用rats()函数
如果想得到根号,只有用符号表示了,当然用符号表示是万能的。例如:
a=1/3 得到 0.33333
rats(a) 得到 1/3
a='sqrt(3)' 得到 sqrt(3) 不过这是字符型,要转换成数值型可以用eval_r(a),或str2num(a).
但是无论Matlab中采取什么样的输出格式,在系统内核中的变量的精度总是保持精确的(尽可能)。除非你人为的改变它的计算精度。我们可以用一个简单的例子来说明这个问题:如a=1/3 显示为0.33333333
a=a*3 得到 1 (不是0.99999999)
在很多其它的程序设计语言中是不可能得到1的。这就说明了Matlab在计算的过程中不会损失用户的计算信息(包括中间结果)。
检测format的功能:证实format只是显示而已,实际上无本质区别,位数算起来还是一样的
>> a=0.23456
a =
>> format short
>> a
a =
>> b=a*2
b =
>> c=0.2346*2
c =
>>