作者jennychuli (笑傲江湖)
看板Sony-style
標題[閒聊] SONY手機內建計算機支援的位數
時間Fri May 2 13:31:59 2014
前幾天用計算機在算 0.693147181 - 0.693147375
算出來的結果居然是 -1.94e-7 ????
當下以為計算機壞了
於是又再按一次，還是出現一樣的結果
後來想想是不是計算位數有限制的關係
於是開始試了很多組數字來計算
12345678901 - 1 = 1.234568e10 (正確值：12345678900)
98765432101 - 1 = 9.876543e10 (正確值：98765432100)
0.123456789 + 1 = 1.12345679 (正確值：1.123456789)
從上面這些看來，似乎超過顯示位數的部分會自動四捨五入？
而且結果顯示的e應該不是指一般的自然數而是代表10的x次方？
看樣子應該是只支援10位數，且小數點也算一位
以上都是新版計算機(白色背景圓形按鍵)算出來的結果
但用舊版計算機(方形按鍵，橫向出現工程模式)計算
12345678901 - 1 = 12345678900
98765432101 - 1 = 98765432100
0.123456789 + 1 = 1.123456789
完全都是正常數值，沒有出現科學記號和自動四捨五入
再試幾個數字發現，舊版支援到12位數，而小數點也算一位
好奇怪喔，居然新版的支援位數比舊版的少？？
照理說新的應該要越來越好啊，怎麼反而退步了？？
而且新手機螢幕較大，應該也要支援更多位數啊
我的舊手機螢幕直放只能顯示6位數，卻可以計算到12位數
新手機螢幕直放可顯示11位數，卻只能計算到10位數
有人有發現這個奇怪的問題嗎？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.227.165.9
※ 文章網址: http://webptt.com/m.aspx?n=bbs/Sony-style/M.1399008724.A.B10.html
※ 編輯: jennychuli (36.227.165.9), 05/02/2014 13:32:41
1F：推 magi6049:沒問題啊 照你的題目答案是1.94 * 10^-7 是正解無誤 05/02 14:31
2F：→ magi6049:少打一個- 是 -1.94 * 10^（-7） 05/02 14:33
3F：→ magi6049:沒有你說的四捨五入的情況發生 05/02 14:34
4F：→ jennychuli:要看第一組數字例子，上面那個確實沒錯 05/02 14:41
5F：→ jennychuli:例子三個都有四捨五入 05/02 14:43
6F：→ jfy:一般的計算機也大多用e來表示10的X次方。 05/04 00:20
7F：推 Lumia925:躺著算123456789012-1=123456789011 13位就會科學記號了 05/06 02:25
8F：→ Lumia925:我用的是XPERIA P 05/06 02:25
9F：→ jennychuli:可能每支的支援位數不同吧… 05/06 16:05