一个编程的小问题
登录 | 论坛导航 -> 华新鲜事 -> 求学狮城 | 本帖共有 4 楼,当前显示第 2 楼 : 从楼主开始阅读 : 本帖树形列表 : 返回上一页
作者:hash (等级:7 - 出类拔萃,发帖:5077) 发表:2006-08-09 01:02:55  2楼 
试试把1.2转换成二进制数
in IEEE standard, the double precision number 1.2 is represented by 0x3ff3333333333333 (8byte), and you have a round-off error.

for more details:
http://en.wikipedia.org/wiki/IEEE_754

欢迎来到华新中文网,踊跃发帖是支持我们的最好方法!原文 / 传统版 / WAP版只看此人从这里展开收起列表

本帖共有 4 楼,当前显示第 2 楼,本文还有 N-1 层楼,要不你试试看:点击此处阅读更多 >>



请登录后回复:帐号   密码