作者holymars ()
看板C_and_CPP
標題Re: [語法] 在寫程式時 遇到將浮點數轉換成整數的問題
時間Wed Sep 16 10:49:13 2009
: --
:
※ 發信站: 批踢踢實業坊(ptt.cc)
: ◆ From: 123.193.12.79
: 推 VictorTom:您提了我才發現, 為什麼ceil/floor回傳都是浮點數啊@_@" 09/15 22:31
: → VictorTom:這兩個不就一個round up一個round down嗎@_@" 09/15 22:31
: → pttfly:yes @@" 09/15 22:31
: 推 holymars:不然要回傳int嗎..要是超過int範圍不就炸了XD 09/15 22:58
: → VictorTom:有道理說, 我忘了浮點數值域遠大得多; 可是這樣一來把浮 09/15 23:52
: → VictorTom:點誤差考慮進來, 搞不好傳回來的又是個錯的結果啊@_@" 09/15 23:53
考慮一下float的格式就知道這種事不會發生
float的數字都能表達成 (M) * 2^N 這種格式
單精度的話M由23個bit組成
如果N >=0 float一定是個整數 回傳值沒有誤差問題
如果N <= -23 float一定是個0~1中間的數 回傳值也不會有誤差問題
如果N是-1~-22 M的bit表達一定能分為「整數部」和「小數部」兩個部份
把小數部丟掉 回傳值一樣不會有誤差問題 XD
有的指令集會有ceil和floor的指令
在x86上的話你可以用SSE硬幹一個出來
http://gcc.gnu.org/ml/gcc-patches/2006-10/msg01468.html
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 114.32.15.163
1F:推 ledia:整數->浮點數會有誤差, 浮點數->整數不會有誤差吧? @@ 09/16 11:54
2F:→ ledia:浮點數->整數 指的是 cast (round) 成 int 09/16 11:55
3F:推 VictorTom:小弟我倒是忘了考慮表示法vs整數的特性會不會剛好在這段 09/16 12:09
4F:→ VictorTom:不產生誤差了Orz 回l大, 我說的誤差是浮點數->浮點數後 09/16 12:10
5F:→ VictorTom:面那個浮點數, 因為floor/ceil的回傳值都是浮點數@_@" 09/16 12:10
6F:推 wowtiger:float(4294967295) = ? XD, 另外 x87 有 fisttp 可以用 09/17 00:16
7F:推 phterry:浮點數->整數也有可能發生誤差的情形,請看下例: 09/17 11:32
8F:→ phterry:float x = 1.801; int y = (int)(x * 1000.0); 09/17 11:32
9F:→ phterry:這樣在 x86 上, y的結果會變成1800,而不是1801 09/17 11:33
10F:→ phterry:但是在其他的processer,就能得到正確的1801 09/17 11:34
11F:推 zerodevil:樓上那個是乘法的誤差 不是cast的誤差吧 09/17 11:48
12F:推 phterry:這不單純是乘法的誤差,可以看看下例: 09/17 11:57
13F:→ phterry:int y = (int)(1.801 * 1000.0); 09/17 11:58
14F:→ phterry:以及 float x = 1.801; int y; x *= 1000.0; y = (int)x; 09/17 11:59
15F:→ phterry:以上這兩例都可以在x86上取得正確的1801 09/17 11:59
16F:推 zerodevil:這變因又更多了 剛剛忘了還有10進位轉二進位的誤差 09/17 12:01
17F:→ zerodevil:你要就直接給一個浮點數的binary表示法, 證明它轉成int 09/17 12:01
18F:→ zerodevil:會錯. 要不然就證明這些多餘的動作不會影響結果 09/17 12:02
19F:推 zerodevil:順便一題 你的第一個例子和後兩個的差別在 09/17 12:35
20F:→ zerodevil:第一個是double->int, 後面是double->float->int 09/17 12:35
21F:推 zerodevil: 提^ 09/17 12:38
22F:推 phterry:不知道你有沒有親身驗證過這個問題... 上述的code你可以改 09/17 12:54
23F:→ phterry:成double試看看,結果我就不說明了. 09/17 12:55
24F:推 zerodevil:測過了 你想表達什麼 09/17 12:58
25F:→ phterry:float改成double後,結果有什麼差異否? 09/17 13:00
26F:推 zerodevil:全部是1801 所以呢 09/17 13:01
27F:→ zerodevil:你又舉了三個*完全不同*的case 這有又什麼影響 09/17 13:01
28F:→ phterry:1801是哪一段啊? 09/17 13:05
29F:→ phterry:我實在不想和你戰,覺得沒什麼意義,我只不過想提醒大家可能 09/17 13:07
30F:→ phterry:會被乎略的錯誤而已. x86 的浮點有一些特性會產生和其他 09/17 13:08
31F:→ phterry:CPU不同的結果,如此而已. 09/17 13:10
32F:推 zerodevil:不要越扯越遠 你一開始是說浮點數->整數可能會有誤差 09/17 13:10
33F:→ zerodevil:你是你舉的例子誤差是在double->float的四捨五入 就這樣 09/17 13:11
34F:→ zerodevil:但^ 09/17 13:11
35F:→ phterry:其實我不是很懂我說的這個跟你說的有什麼關係耶... 09/17 13:16
36F:→ phterry:或許你用你的想法解釋為何會有1800的結果會比較理想 09/17 13:17
37F:推 zerodevil:1000.0是double, 1000.0f才是float 09/17 13:18
38F:→ zerodevil:所以你所有運算會被先cast成double算 09/17 13:18
39F:→ zerodevil:(int)(x*1000.0)是double直接變成int 09/17 13:19
40F:→ zerodevil:x*=1000.0; (int)x是做完double乘法後轉float再轉int 09/17 13:19
41F:推 phterry:double x; int y = (int)(x * 1000.0); 請問你的結果? 09/17 13:19
42F:推 zerodevil:1800啊= = 有什麼就直說好嗎 這樣很煩 09/17 13:21
43F:→ zerodevil:啊看錯 1801.. 09/17 13:21
44F:推 phterry:不好意思,我剛x忘了給初值,應該要double x = 1.801; 09/17 13:22
45F:→ phterry:我用x86 32bit Linux執行的結果是1800 09/17 13:23
46F:→ phterry:在ARM Linux上跑,結果卻是1801,而1801也是我們所希望的 09/17 13:23
47F:推 zerodevil:x*1000.0在x是float跟double時算出來會有一點誤差 09/17 13:24
48F:→ zerodevil:在cast成int前就有差了 09/17 13:24
49F:→ phterry:再來 float x = 1.801; int y = (int)(x * 1000.0f); 09/17 13:26
50F:→ phterry:上面這樣寫,x86 -> 1800, ARM->1801 09/17 13:26
51F:推 zerodevil:乘法的實作方式不同吧.. 09/17 13:31
52F:→ phterry:你的意思是compiler還是CPU? 09/17 13:32
53F:推 zerodevil:cpu 09/17 13:32
54F:推 zerodevil:可以用 cout << (unsigned int&)(x * 1000.0f); 09/17 13:33
55F:→ zerodevil:看有沒有不一樣 09/17 13:33
56F:→ phterry:那原先的double->float四捨五入之說應該.... 09/17 13:34
57F:推 zerodevil:啊? 那是同機器上不同code的比較啊... 09/17 13:35
58F:→ phterry:有一篇文章是一個日本人寫的,可能有點久了,我暫時找不到 09/17 13:36
59F:→ phterry:大意是說x86的浮點有一個擴張精度,會讓指數部份變成15bit 09/17 13:37
60F:→ phterry:而不是一般所認知的11bit 09/17 13:37