作者fumizuki (小獅子)
看板Visual_Basic
標題Re: [VB6 ] 關於數值計算
時間Sat Jul 23 22:05:46 2005
※ 引述《BigLittle (栗頭)》之銘言：
: 手上有個題目
: 我用fortran和vb6來計算
: 使用相同的計算流程之計算數值不太一樣(誤差不能接受)
: 兩種程式都是採用雙精制
: 請問這是怎麼一回事呢?
: 何者較為可靠?
經過試驗
double
vb 可表示到 2 的 -21 次方
vc 可表示到 2 的 -24 次方
float(single)
vb 可表示到 2 的 -17 次方
vc 可表示到 2 的 -24 次方
(以上，更小的數會被捨棄=四捨五入)
--
VB 程式設計 倉木麻衣 PTT 星爺板 行列輸入法
======================================================
Visual_Basic MaiKuraki Stephen Array
--
※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 210.58.156.43
1F：推 BigLittle:謝謝你的參考~ 218.166.162.52 07/24