DSP28335的有效数字问题
在DSP28335中,我需要用到一个sqrt(2/3)的常数.由于是常数,所以我们常常将其用#define来实现.现在的问题是,我应该对它精确到多少为为宜?
如果我给的位数太多,DSP是怎么处理的?是四舍五入还是直接把某一位以后的数字给忽略掉了?
人气：211 ℃ 时间：2020-06-26 02:55:53
解答
那要看你设置的数据类型了,单精度还是双精度的如果是单精度，结果怎么样？如果数据类型是双精度类型呢？请明示，谢谢
推荐
- 近似数1.69万有几个有效数字?为什么?
- 12.034保留三个有效数字,0.0002197保留四个有效数字,74995保留四个有效数字0.020654保留六个有效数字.
- 有效数字.比如0.02002.它的有效数字是2,0,0,2还是2,0,2
- 物理实验有效数字修约问题：tan73°16'有几个有效数字啊?
- 近似数和有效数字题：258精确到哪一位有几个有效数字
- 某银行在某时间段内办理了以下业务：取出950元,存入500元,取出800元,存入1200元,取出1025元,存入2500元,取出200元.请你计算一下：银行在这段时间内总计是存入或取出多少元.（用有理数的减法做）
- it is( )and helps me learn a lot( )things.
- "浅草才能没马蹄“ 才能咋解释?
猜你喜欢
