作者garsam (厚宿共)
看板C_and_CPP
標題[問題] 浮點運算精確到16位元代表??
時間Wed Mar 18 00:58:18 2009
其實是要比較C6416和C6713的差別!!
因為現在我有一組小數的係數,到小數點後面三四十位
在考慮要用定點還是浮點運算,定點的話,可以要把小數變整數忽略掉很多!!浮點??
想問一下浮點運算精確到16位元
是代表什麼意思啊??
是代表二進位來看的話.....XXXX.XXXXXXX...總共可以到15個X的意思嗎??(一個表示正負)
那我又怎麼知道小數到幾位整數到幾位啊!!?
像如果是定點精確到16位元可以知道是0~2^15
浮點呢???
謝謝回答^^
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 220.134.147.167
※ 編輯: garsam 來自: 220.134.147.167 (03/18 01:07)
1F：推 wowtiger:你說的是定點運算? 03/18 01:06
2F：→ garsam:定點的我懂...但浮點的有點錯亂= =a 03/18 01:08
3F：→ garsam:其實我只是想問一個16位元的浮點運算!!它的範圍?? 03/18 01:09
4F：推 wowtiger:sEEEEEEEEmmmmmmmmmmmmmmmmmmmmmmm 03/18 01:09
5F：→ wowtiger:?????????^^^^^^^^^^^^^^^^0000000 03/18 01:09
6F：→ garsam:樓上是啥@@? 03/18 01:11
7F：→ wowtiger:你是指 half precsion ? 03/18 01:11
8F：→ garsam:還是我問錯了...我只是想問C6713的浮點可以精確到?? 03/18 01:14
9F：推 TroyLee:直接去問賣你的業務比較快...C6416 C6713沒用過..@@ 03/18 01:17
10F：→ garsam:6416我懂...6713沒業務啊啊啊啊!! 03/18 01:19
11F：推 wowtiger:half precsion 最大就 32768+32768*1023/1024=65504 03/18 01:19
12F：→ wowtiger:依照 IEEE754 規則 6.103515625e-5 以下開始 denormal 03/18 01:20
13F：→ MOONRAKER:16-b已經quardraple precision了，試想你平常用的浮點 03/18 07:43
14F：→ MOONRAKER:才4-byte…說錯了，16-b = 2 bytes 那的確是half prec 03/18 07:44
15F：推 VictorTom:16bits浮點跟16bits精確的浮點應該不太一樣吧?_? 03/18 09:24
16F：→ VictorTom:小弟的認知是幾bits精確應該是指mantisa有幾bits能存. 03/18 09:24
17F：→ VictorTom:以IEEE754 float來說, 23bits=>0.301x23約十進位6位. 03/18 09:25
18F：→ VictorTom:所以16bits的mantisa大約換算十近位有效位數在4位左右. 03/18 09:26
19F：→ VictorTom:PS. 0.301是log2, 不過為什麼這麼算我已經還給老師了Orz 03/18 09:27
20F：推 VictorTom:如果真是說half precision, 10位的mantisa約十近位3位. 03/18 09:29
21F：→ VictorTom:N bits精確就是二近位的浮點數1.(N個0或1)為止還是準的. 03/18 09:32