作者jennychuli (笑傲江湖)
看板Sony-style
标题[闲聊] SONY手机内建计算机支援的位数
时间Fri May 2 13:31:59 2014
前几天用计算机在算 0.693147181 - 0.693147375
算出来的结果居然是 -1.94e-7 ????
当下以为计算机坏了
於是又再按一次，还是出现一样的结果
後来想想是不是计算位数有限制的关系
於是开始试了很多组数字来计算
12345678901 - 1 = 1.234568e10 (正确值：12345678900)
98765432101 - 1 = 9.876543e10 (正确值：98765432100)
0.123456789 + 1 = 1.12345679 (正确值：1.123456789)
从上面这些看来，似乎超过显示位数的部分会自动四舍五入？
而且结果显示的e应该不是指一般的自然数而是代表10的x次方？
看样子应该是只支援10位数，且小数点也算一位
以上都是新版计算机(白色背景圆形按键)算出来的结果
但用旧版计算机(方形按键，横向出现工程模式)计算
12345678901 - 1 = 12345678900
98765432101 - 1 = 98765432100
0.123456789 + 1 = 1.123456789
完全都是正常数值，没有出现科学记号和自动四舍五入
再试几个数字发现，旧版支援到12位数，而小数点也算一位
好奇怪喔，居然新版的支援位数比旧版的少？？
照理说新的应该要越来越好啊，怎麽反而退步了？？
而且新手机萤幕较大，应该也要支援更多位数啊
我的旧手机萤幕直放只能显示6位数，却可以计算到12位数
新手机萤幕直放可显示11位数，却只能计算到10位数
有人有发现这个奇怪的问题吗？
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 36.227.165.9
※ 文章网址: http://webptt.com/cn.aspx?n=bbs/Sony-style/M.1399008724.A.B10.html
※ 编辑: jennychuli (36.227.165.9), 05/02/2014 13:32:41
1F：推 magi6049:没问题啊 照你的题目答案是1.94 * 10^-7 是正解无误 05/02 14:31
2F：→ magi6049:少打一个- 是 -1.94 * 10^（-7） 05/02 14:33
3F：→ magi6049:没有你说的四舍五入的情况发生 05/02 14:34
4F：→ jennychuli:要看第一组数字例子，上面那个确实没错 05/02 14:41
5F：→ jennychuli:例子三个都有四舍五入 05/02 14:43
6F：→ jfy:一般的计算机也大多用e来表示10的X次方。 05/04 00:20
7F：推 Lumia925:躺着算123456789012-1=123456789011 13位就会科学记号了 05/06 02:25
8F：→ Lumia925:我用的是XPERIA P 05/06 02:25
9F：→ jennychuli:可能每支的支援位数不同吧… 05/06 16:05