作者wgene (wgene)
看板Math
标题FLOP计算
时间Sat Feb 13 14:37:35 2021
请问一下
精确度是3 digits (比如:1.00), 以十进位表示数字(比如0.1=1.00*10^-1)
现在 T1=T2=T3=....=T100=1, T101=2100
为什麽 T1+T2+...+T100+T101=2200
然後 T101+T1+T2+...+T100=2100
谢谢!
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 100.36.131.156 (美国)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Math/M.1613198257.A.02B.html
※ 编辑: wgene (100.36.131.156 美国), 02/13/2021 14:38:40
1F：推 kilva : T101+T1=2100，继续加到T100还是2100 02/13 14:47
2F：→ kilva : T1+...+T100=100，100+2100=2200 02/13 14:49
3F：→ kilva : 精确度只有3位数，1001取3位数，只能是1000 02/13 14:51
4F：推 LPH66 : 你都写科学记号了, 回想一下科学记号运算的特点 02/13 16:58