作者Adonisy (堂本瓜一)
看板MacDev
标题[问题] float精确度问题
时间Fri May 11 10:32:31 2012
现在有个麻烦的情况
174/175
答案是0.9942
但我怎麽用
nslog(@"%.3f",floatvalue);
都得到结果是 0.000
请问在什麽地方有设定错吗? 谢谢
--
昔日所为 今日所受
今日所为 明日所受
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 61.219.70.169
1F:→ wasihero:先写 float value= 174.0f/175.0f; 然後NSLog出来看 05/11 10:36
2F:→ Adonisy:嗯嗯,我刚想推文,谢谢1f,我耍笨了 ^^ 05/11 10:40
3F:推 iwayne:这是C语言转型的问题.基本上运算的结果有宣告float的话, 05/11 12:20
4F:→ iwayne:写174.0或175.0就行了。只是加上f比较明确。 05/11 12:20