DSP28335的有效数字问题
在DSP28335中,我需要用到一个sqrt(2/3)的常数.由于是常数,所以我们常常将其用#define来实现.现在的问题是,我应该对它精确到多少为为宜?
如果我给的位数太多,DSP是怎么处理的?是四舍五入还是直接把某一位以后的数字给忽略掉了?