DSP28335的有效数字问题
在DSP28335中,我需要用到一个sqrt(2/3)的常数.由于是常数,所以我们常常将其用#define来实现.现在的问题是,我应该对它精确到多少为为宜?
如果我给的位数太多,DSP是怎么处理的?是四舍五入还是直接把某一位以后的数字给忽略掉了?
人气：364 ℃ 时间：2020-06-26 02:55:53
解答
那要看你设置的数据类型了,单精度还是双精度的如果是单精度，结果怎么样？如果数据类型是双精度类型呢？请明示，谢谢
推荐
- 近似数1.69万有几个有效数字?为什么?
- 12.034保留三个有效数字,0.0002197保留四个有效数字,74995保留四个有效数字0.020654保留六个有效数字.
- 有效数字.比如0.02002.它的有效数字是2,0,0,2还是2,0,2
- 物理实验有效数字修约问题：tan73°16'有几个有效数字啊?
- 近似数和有效数字题：258精确到哪一位有几个有效数字
- 50名同学面向老师站成一行.老师先让大家从左至右按1,2,3,……,49,50依次报数；再让报数4的倍数的同学向后转,接着又让报数是6的倍数的同学向后转.问：现在面向老师的同学还有多少名?
- a>b恒成立是a(min)>b(max),那存在怎么表示?
- 抑菌实验中在接有某种菌的培养基中加含一种抑菌成分的滤纸片测其抑菌圈的直径
猜你喜欢
