Programming 板


LINE

※ 引述《baobao566 (宝宝)》之铭言: :   为了这个问题困扰了许久,不断地查资料,查完这个观念,又看到新的名词与此题 : 有关联。以我查到的资料VB.Net在浮点数运算时会将数字以IEEE754来标准来做,预设的 : 浮点数型态是Double,所以是64位,有误差是因为将他转成2进制,小数部分如果无限 : 循环,取到53位往最靠近的舍入(Round to nearest),二进制的这个模式我不太懂, : 翻资料查到的大概又都是英文...。 不管是哪个程式、电脑环境,浮点数都是使用IEEE754去做的 也就是说,全世界的电脑都有误差问题 float 1 sign + 8 exponent + 23 mantissa double 1 sign + 11 exponent + 52 mantissa sign 正负号 0为正 1为负 exponent 指数 mantissa 小数点 举个例子:0.625 先转成二进位 2^0 2^-1 2^-2 2^-3 2^-4...... 0 . 1 0 1 0 ......(省略不写) 0.625 (10) = 0.101 (2) 把2进位用科学记号表示 2^0 * 0.101 2^-1 * 1.01 放进 float 里面 sign 正 0 exponent -1+127 这里要加上 127 才能变成float exponent double 就加上 1023 mantissa 0100000000... 合起来就变成 0 01111110 01000000000000000000000 01111110 是 126 的二进位 IEEE754 简介大致到这里 因为这只能用在二进位才会有精确性 可以用 0.1 跟 0.2 转成 IEEE754 格式 https://www.h-schmidt.net/FloatConverter/IEEE754.html 把0.1+0.2加起来问问看电脑是不是等於0.3? :   还有一些环境的因素,我看到一个文件上面说编译器可能会帮你最佳化运算式, : 例如说x = a+b-a -> x = b,那这题有很多环境的问题,我要如何判断呢? : (出处:https://goo.gl/oAzyNB Compiler Optimization) 根据小弟在C++的经验,这要去改编译器的参数 因为这是在编译时帮你优化的 是自动帮你省略一些系统觉得没必要的动作 只能知道某些动作被优化 :   如果判断此题需要手算,请问有无快速手算判断的方法?此题是今年高职技艺竞 : 赛的程式设计赛前模拟学科试题,有想过他可能只是出经典范例来考你知不知道浮点 : 数有误差,如果只是这样就太好了,但是以防万一还是有个准确判断的方法比较安心。 : ----更新---- : 没什麽人解答,如果能解决问题者,赠上全部家产税前350P : 下面图两题答案分别为C、D : https://imgur.com/a/zBQ9pjH : 22. 执行下列 Visual Basic 程式片段,输出结果为何? (A) 1 (B) 0 (C) True (D) : False Console.WriteLine(1.1 + 1.2 = 2.3) : 23. 执行下列 Visual Basic 程式片段,输出结果为何? (A) 1 (B) 0 (C) True (D) : False Console.WriteLine(0.3 - 0.2 = 0.1) 如果只是要考浮点数规则 或 计算机概论 这题目还可以 你可以把上面的数字放到我刚刚打的连结 浮点数加减法要先把两个数字的指数变成相同数字,才能计算 低指数的要去对应高指数 就会有舍弃的问题 但如果是考程式的话,我觉得这有点太超过了,而且意义也不大 小弟拙见仅供参考 --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 223.136.69.47
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Programming/M.1543908353.A.12B.html







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Gossiping站内搜寻

TOP