sql中查询数据精度的问题

标签:
杂谈 |
分类: sql |
select t.cMatGUID,
这里:
这里面的iInUnitPrice字段取出的精度为9位效果如下
http://s1/middle/59e03e0cg87761620a710&690
如果不用cast转换:sum(t.iInAMT)/sum(t.iInQTY) end as iInUnitPrice,则会保存成默认6位的情况,而且是从小数后6位把后面的全截掉了,不四舍五入,1.000285959,截成6位应该是1.000286,而实际效果为下图:
http://s11/middle/59e03e0cg8776269e291a&690
希望能为大家解决截取精度不正确的问题