作者redsoxortiz (ortiz)
看板post-b.test
标题[问题] 有效数字取舍
时间Mon Jun 4 00:03:20 2012
有关有效数字的问题想请教各位前辈
(题目重点不在於标准偏差及变异系数的计算,而是在有效位数的取舍)
题目:
试求下列计算之标准偏差及变异系数,每一计算後的结果均需舍位仅保留有效位数。括号内的数值是绝对标准偏差。
(1) y=6.75(±0.03)+0.843(±0.001)-7.02(±0.001)=0.572
(2) y=67.1(±0.3)*1.03(±0.02)*10^-17=6.9113*10^-16
(3) y=243(±1)*760(±2)/1.006(±0.006)=183578.5
我的想法
根据有效数字取舍的原则
加减:取小数点後最少位数为有效数字位数。
乘除:取各项中有效位数最少者。
(1) 参考书答案是:y=0.57(±0.03)
我的想法:因为这题是属於加减,所以有效位数应取6.72(或7.02)的小数点後的2位当作有效位数。答案的0.57有效位数是2位,但是答案中的标准偏差(±0.03)却是1位的有效位数,那问题出在哪里阿?
还有有效位数的取舍是看括号内的数字还是看括号外的数字?
(2) 参考书答案是:y=6.9(±0.1)*10^-16
我的想法:因为这题是属於乘除,所以有效位数应取67.1(或1.03)的有效位数(3位)当作有效位数。答案的6.9有效位数是2位,标准偏差(±0.1)却是1位的有效位数,很明显不是3位,到底问题出在哪里阿?
(3) 参考书答案是:y=1.84*(±0.01)*10^5
我的想法:因为这题是属於加减乘除,所以分开取舍有效位数。
分子跟分母:因为分子跟分母皆为整数,小数点後面没有数字,有效位数应取0位(好像怪怪的)
真的被搞混了,问题出在哪里阿?
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 218.163.91.146
1F:推 shin70188:这种题目不会考阿,可能连化学老师都不知道了 06/06 00:09
2F:推 h6:SD的小数位数是跟着前面的 不用另外算 06/07 19:36
3F:→ h6:(3)乘除的有效数字是看数字 不是看小数位数 06/07 20:15
4F:→ h6:这题分别是3位* 3位/ 4位 所以 是3位有效数字 06/07 20:16
5F:→ h6:(2)不知道为什麽 也许答案错了吧 XD 06/07 20:17