作者garsam (厚宿共)
看板C_and_CPP
标题[问题] 浮点运算精确到16位元代表??
时间Wed Mar 18 00:58:18 2009
其实是要比较C6416和C6713的差别!!
因为现在我有一组小数的系数,到小数点後面三四十位
在考虑要用定点还是浮点运算,定点的话,可以要把小数变整数忽略掉很多!!浮点??
想问一下浮点运算精确到16位元
是代表什麽意思啊??
是代表二进位来看的话.....XXXX.XXXXXXX...总共可以到15个X的意思吗??(一个表示正负)
那我又怎麽知道小数到几位整数到几位啊!!?
像如果是定点精确到16位元可以知道是0~2^15
浮点呢???
谢谢回答^^
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 220.134.147.167
※ 编辑: garsam 来自: 220.134.147.167 (03/18 01:07)
1F：推 wowtiger:你说的是定点运算? 03/18 01:06
2F：→ garsam:定点的我懂...但浮点的有点错乱= =a 03/18 01:08
3F：→ garsam:其实我只是想问一个16位元的浮点运算!!它的范围?? 03/18 01:09
4F：推 wowtiger:sEEEEEEEEmmmmmmmmmmmmmmmmmmmmmmm 03/18 01:09
5F：→ wowtiger:?????????^^^^^^^^^^^^^^^^0000000 03/18 01:09
6F：→ garsam:楼上是啥@@? 03/18 01:11
7F：→ wowtiger:你是指 half precsion ? 03/18 01:11
8F：→ garsam:还是我问错了...我只是想问C6713的浮点可以精确到?? 03/18 01:14
9F：推 TroyLee:直接去问卖你的业务比较快...C6416 C6713没用过..@@ 03/18 01:17
10F：→ garsam:6416我懂...6713没业务啊啊啊啊!! 03/18 01:19
11F：推 wowtiger:half precsion 最大就 32768+32768*1023/1024=65504 03/18 01:19
12F：→ wowtiger:依照 IEEE754 规则 6.103515625e-5 以下开始 denormal 03/18 01:20
13F：→ MOONRAKER:16-b已经quardraple precision了，试想你平常用的浮点 03/18 07:43
14F：→ MOONRAKER:才4-byte…说错了，16-b = 2 bytes 那的确是half prec 03/18 07:44
15F：推 VictorTom:16bits浮点跟16bits精确的浮点应该不太一样吧?_? 03/18 09:24
16F：→ VictorTom:小弟的认知是几bits精确应该是指mantisa有几bits能存. 03/18 09:24
17F：→ VictorTom:以IEEE754 float来说, 23bits=>0.301x23约十进位6位. 03/18 09:25
18F：→ VictorTom:所以16bits的mantisa大约换算十近位有效位数在4位左右. 03/18 09:26
19F：→ VictorTom:PS. 0.301是log2, 不过为什麽这麽算我已经还给老师了Orz 03/18 09:27
20F：推 VictorTom:如果真是说half precision, 10位的mantisa约十近位3位. 03/18 09:29
21F：→ VictorTom:N bits精确就是二近位的浮点数1.(N个0或1)为止还是准的. 03/18 09:32