Fortran 板


LINE

各位好...我用的是CVF6.5版本... 最近遇到了一個運算上的問題... Fortran的最大有效位數為16位數... 假設今天有一個很大的整數其位數為10^16... 乘上一個介於0~1之間的小數(精確到小數點後16位數)... 那麼結果的有效位數最多只能精確到個位數...小數點後的值就會有誤差... 如果那很大的整數再大於10^16... 結果的精確位數可能只到十位數甚至只有百位數... 例如:a=10d16 , b=3.d0 , c=7.d0 d=b/c=0.42857142857142854763807... ^(有效精確位數) e=a*d=42857142857142856.00000000 ^(有效精確位數) 即使事先將那很大的值取log轉換運算... 但最後再取回exp後一樣只能精確到個位數(甚至更差)... 不知各位高手...這樣的問題有沒有辦法解決呢?? 謝謝~ --



※ 發信站: 批踢踢實業坊(ptt.cc)
◆ From: 163.13.113.185 ※ 編輯: endpeople 來自: 163.13.113.185 (04/15 20:47)
1F:→ motoman:原po要不要貼部份code來討論看看? 我認為是資料型態混合的 04/15 21:07
2F:→ motoman:運算造成的錯誤 講簡單點 單精度和雙精度一起加減乘除 04/15 21:08
3F:→ motoman:後面的值就會有問題 因為兩者的資料儲存方式不同 04/15 21:09
4F:→ motoman:sorry 沒注意到原po有寫@@ 雙精度的確是準到15位 04/15 21:18
5F:→ motoman:那樣是正常的 (上面三行推文當我沒說 鬼打牆) 04/15 21:21
7F:→ latinboy: 使用浮點數最最基本的觀念 by 冼鏡光 04/15 22:08
8F:→ latinboy:要做數值的人 上一篇文章先讀到懂 問題就少很多 :) 04/15 22:09
9F:→ endpeople:那篇文章我前幾天有看過了...似乎無法解決我的問題... 04/15 22:49
10F:推 perceval:http://crd.lbl.gov/~dhbailey/mpdist/ 04/16 00:23
11F:→ perceval:High-Precision Software 04/16 00:23
12F:推 latinboy: 不知道你是做什麼問題需要這麼準 XD 算PI嗎??? 04/16 20:49
13F:→ latinboy: 如果有效位數只要16~20 你可以試著用64bits整數換算 04/16 20:50
14F:→ latinboy: 如果需要很多位數 試試大數運算吧 04/16 20:50







like.gif 您可能會有興趣的文章
icon.png[問題/行為] 貓晚上進房間會不會有憋尿問題
icon.pngRe: [閒聊] 選了錯誤的女孩成為魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一張
icon.png[心得] EMS高領長版毛衣.墨小樓MC1002
icon.png[分享] 丹龍隔熱紙GE55+33+22
icon.png[問題] 清洗洗衣機
icon.png[尋物] 窗台下的空間
icon.png[閒聊] 双極の女神1 木魔爵
icon.png[售車] 新竹 1997 march 1297cc 白色 四門
icon.png[討論] 能從照片感受到攝影者心情嗎
icon.png[狂賀] 賀賀賀賀 賀!島村卯月!總選舉NO.1
icon.png[難過] 羨慕白皮膚的女生
icon.png閱讀文章
icon.png[黑特]
icon.png[問題] SBK S1安裝於安全帽位置
icon.png[分享] 舊woo100絕版開箱!!
icon.pngRe: [無言] 關於小包衛生紙
icon.png[開箱] E5-2683V3 RX480Strix 快睿C1 簡單測試
icon.png[心得] 蒼の海賊龍 地獄 執行者16PT
icon.png[售車] 1999年Virage iO 1.8EXi
icon.png[心得] 挑戰33 LV10 獅子座pt solo
icon.png[閒聊] 手把手教你不被桶之新手主購教學
icon.png[分享] Civic Type R 量產版官方照無預警流出
icon.png[售車] Golf 4 2.0 銀色 自排
icon.png[出售] Graco提籃汽座(有底座)2000元誠可議
icon.png[問題] 請問補牙材質掉了還能再補嗎?(台中半年內
icon.png[問題] 44th 單曲 生寫竟然都給重複的啊啊!
icon.png[心得] 華南紅卡/icash 核卡
icon.png[問題] 拔牙矯正這樣正常嗎
icon.png[贈送] 老莫高業 初業 102年版
icon.png[情報] 三大行動支付 本季掀戰火
icon.png[寶寶] 博客來Amos水蠟筆5/1特價五折
icon.pngRe: [心得] 新鮮人一些面試分享
icon.png[心得] 蒼の海賊龍 地獄 麒麟25PT
icon.pngRe: [閒聊] (君の名は。雷慎入) 君名二創漫畫翻譯
icon.pngRe: [閒聊] OGN中場影片:失蹤人口局 (英文字幕)
icon.png[問題] 台灣大哥大4G訊號差
icon.png[出售] [全國]全新千尋侘草LED燈, 水草

請輸入看板名稱,例如:Gossiping站內搜尋

TOP