作者jasonfghx (工人)
看板phys00
标题[讨论] 有关有效位数
时间Thu Sep 15 22:44:36 2011
今天有人问我就交代一下,
首先都先把数据变成科学记号, 这是方便运算有效位数
以下说明都是直接举例, 希望大家再举一反三
加减法:
1.362 X 10^-4
3.111 X 10^-4
+
_____________________
4.473 X 10^-4
5.345
+ 6.728
____________________
12.073
7.26 X 10^14
- 6.69 X 10^14
-------------------
0.57 X 10^14
乘除:
3.26 X 10^-5 两位
X 1.78 两位
______________________
5.80 X 10^-5 两位
4.3179 X 10^12
X 3.6 X 10^-19 两位
_____________________
1.6 X 10^-6 去二位
34.60
/ 2.46287
_________________
14.05
log :
log(339) = 2.530 2 is called characteristic. 0.530 is called Mantissa.
log(3.39x10^-5) = -4.470
log(5.403x10^-8) = -7.2674
看得出规律? 339 是三位有效, 所以小数就取三位
5.403 是四位有效 所以小数取四位
聪明的物理系们, 10^2.531, 10^2.530, 10^2.529可以看出怎麽去位数吧?
340 339 338
讲这麽多给个习题练习一下
log(0.001237)
log(1237)
10^4.37
做对有奖
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.112.54.145
2F：→ jasonfghx:上面回归直线教学 09/15 22:46
3F：→ jasonfghx:好心人帮转你们FB 09/15 22:46
4F：推 pttmms:小助，辛苦了~感谢 09/15 22:51
5F：→ BBleobear:来试试看好了...不确定对不对啊 ~"~ 09/15 23:23
6F：→ BBleobear:log(0.001237) = -2.9076 09/15 23:23
7F：→ BBleobear:log(1237) = 3.0924 09/15 23:24
8F：→ BBleobear:10^4.37 = 2.4 x 10^4 09/15 23:24
9F：推 space20021:-2.9076 3.0924 2.34 x 10^4 09/15 23:37
10F：→ BBleobear:啊 进位进错了 ... 2.3 x 10^4 09/16 00:13