作者fumizuki (小狮子)
看板Visual_Basic
标题Re: [VB6 ] 关於数值计算
时间Sat Jul 23 22:05:46 2005
※ 引述《BigLittle (栗头)》之铭言：
: 手上有个题目
: 我用fortran和vb6来计算
: 使用相同的计算流程之计算数值不太一样(误差不能接受)
: 两种程式都是采用双精制
: 请问这是怎麽一回事呢?
: 何者较为可靠?
经过试验
double
vb 可表示到 2 的 -21 次方
vc 可表示到 2 的 -24 次方
float(single)
vb 可表示到 2 的 -17 次方
vc 可表示到 2 的 -24 次方
(以上，更小的数会被舍弃=四舍五入)
--
VB 程式设计 仓木麻衣 PTT 星爷板 行列输入法
======================================================
Visual_Basic MaiKuraki Stephen Array
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 210.58.156.43
1F：推 BigLittle:谢谢你的参考~ 218.166.162.52 07/24