作者baobao566 (宝宝)
看板Visual_Basic
标题[.NET] 如何直接判断浮点数运算时的误差(赠P币)
时间Thu Nov 29 09:29:06 2018
请输入专案类型(网站专案或者应用程式专案):题目问题
为了这个问题困扰了许久,不断地查资料,查完这个观念,又看到新的名词与此题
有关联。以我查到的资料VB.Net在浮点数运算时会将数字以IEEE754来标准来做,预设的
浮点数型态是Double,所以是64位,有误差是因为将他转成2进制,小数部分如果无限
循环,取到53位往最靠近的舍入(Round to nearest),二进制的这个模式我不太懂,
翻资料查到的大概又都是英文...。
还有一些环境的因素,我看到一个文件上面说编译器可能会帮你最佳化运算式,
例如说x = a+b-a -> x = b,那这题有很多环境的问题,我要如何判断呢?
(出处:
https://goo.gl/oAzyNB Compiler Optimization)
如果判断此题需要手算,请问有无快速手算判断的方法?此题是今年高职技艺竞
赛的程式设计赛前模拟学科试题,有想过他可能只是出经典范例来考你知不知道浮点
数有误差,如果只是这样就太好了,但是以防万一还是有个准确判断的方法比较安心。
----更新----
没什麽人解答,如果能解决问题者,赠上全部家产税前350P
下面图两题答案分别为C、D
https://imgur.com/a/zBQ9pjH
22. 执行下列 Visual Basic 程式片段,输出结果为何? (A) 1 (B) 0 (C) True (D)
False Console.WriteLine(1.1 + 1.2 = 2.3)
23. 执行下列 Visual Basic 程式片段,输出结果为何? (A) 1 (B) 0 (C) True (D)
False Console.WriteLine(0.3 - 0.2 = 0.1)
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 163.19.240.54
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Visual_Basic/M.1543454949.A.277.html
※ 编辑: baobao566 (163.19.240.54), 11/30/2018 07:47:17
※ 编辑: baobao566 (163.19.240.54), 11/30/2018 07:47:47
※ 编辑: baobao566 (163.19.240.54), 11/30/2018 07:48:19
※ 编辑: baobao566 (163.19.240.54), 11/30/2018 07:48:46