作者GreatShot (我要拿Ph.D.!!!)
看板Visual_Basic
标题Re: [.NET] 请问如何突破13位小数点限制?
时间Thu Nov 23 09:13:14 2006
※ 引述《marktb (Mark)》之铭言：
: 目前正在试写尤拉数程式
: 但发现vb他只能显示到.13个小数点
: 请问有办法让他突破吗?
: 以下是我的程式码
: Dim a,n As Double
: n = TextBox1.Text
: a = (1 + n) ^ (1 / n)
: Label1.Text = a
: TextBox2.Text = a
: 还是说资料型态限制的关系呢?
: 有没有其他资料型态可以让他没有这个限制?
事实上用decimal的话後面的小数点可以拉更长
(但是decimal的值域比single and double小很多)
然而你的算式会用到次方运算
这必须先转成double才能计算
所以用decimal无意义
so..
前一篇推文里有说
这你可能要去找人家写好numeric library来用
或是自己找演算法来implement罗
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 220.133.110.47
※ 编辑: GreatShot 来自: 220.133.110.47 (11/23 09:30)
1F：推 marktb:唔..好深奥..我在去找找相关资料看看了 谢谢 11/23 14:15
2F：推 commiserate:中文叫做「大数演算法」的样子 11/23 18:43