作者SiriusJinn (假斯汀)
看板Electronics
标题[问题] 九个1乘九个1等於多少?
时间Wed Apr 15 22:34:41 2009
※ [本文转录自 C_and_CPP 看板]
作者: SiriusJinn (假斯汀) 看板: C_and_CPP
标题: [问题] 九个1乘九个1等於多少?
时间: Wed Apr 15 22:33:03 2009
一开始是用labview写的
发现答案是 12345678987654320 直觉应该是 12345678987654321
用c写也是一样
================================================
#include <stdio.h>
#include <stdlib.h>
int main(void)
{
double a=111111111,b;
b=a*a;
printf("%.lf \n",b);
system("pause");
return 0;
}
===============================================
int64 会不够吗?
用matlab试了一下,直接打111111111*111111111 值出不了,只好直接试大小
===============================================
>> x=12345678987654321;
>> int64(x)
ans =
12345678987654320
===============================================
不知大家有没有什麽解决的办法呢?
感谢!
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.120.90.170
※ SiriusJinn:转录至看板 MATLAB 04/15 22:34
--
※ 发信站: 批踢踢实业坊(ptt.cc)
◆ From: 140.120.90.170
1F:推 UBL:大数问题...吧 04/15 23:07
2F:推 AppleFox:似乎是精准度的关系 把b*10跟 b*100 print出来就看得到 04/16 00:04
3F:→ AppleFox:b*10 = 12...43200 b*100= 123....4321000 注意2後面的1 04/16 00:05
4F:→ AppleFox:至於为什麽 我也不太知道 =.=" 04/16 00:06
5F:→ proach:换个工具吧,Windows附的小算盘答案是对的,所以是大数问题. 04/16 00:25
6F:推 paullai:overflow... 04/16 01:07
7F:→ paullai:大数、精准度 都有影响 04/16 01:08
8F:推 l1l1l1l1:←我知道八乘1 04/17 17:17