51代码网ORACLEMYSQLSQL SERVER其它数据库java/jspasp/asp.netC/C++/VC++APP应用其它语言服务器应用
您现在的位置: 51代码网 >> C >> 文章正文

两个相同值的浮点数竟然不是零

更新时间:2012-3-29:  来源:51代码网

编译器问题,存在误差,比如double a = 3.0;有可能编译器中a的实际值是3.000001或者是2.9999999,所以在比较两个浮点数的差值是否为0时可以用如下方式比较\

检验浮点数是否为零时。。。把建出来得到的值与一个范围比较。比如a < 0.000000000001.你就可以认为他们的差是零了

if (best < -0.00001 || best > 0.00001)     //改成这样
    {
        times +=solve(best);
    }

double型因精度问题,判断一double型变量是否为0,应是判断一个值是否落在一个范围内
如[-0.0000001 0.0000001],

双精度数的具体数值是有误差的,所以判断相等通常是判断两者的误差在一定范围即可

事实上,金融行业的编码全都是整形,只是默认了有几位小数了。
比如,123.45可能被编码成123450,默认有三位小数

VC调试(TC或BC用TD调试)时按Alt+8、Alt+6和Alt+5,打开汇编窗口、内存窗口和寄存器窗口看每句C对应的汇编、单步执行并观察相应内存和寄存器变化,这样过一遍不就啥都明白了吗。
对VC来说,所谓‘调试时’就是编译连接通过以后,按F10或F11键单步执行一步以后的时候,或者在某行按F9设了断点后按F5执行停在该断点处的时候。
(Linux或Unix下可以在用GDB调试时,看每句C对应的汇编并单步执行观察相应内存和寄存器变化。)”

提醒:
“学习用汇编语言写程序”

“VC调试(TC或BC用TD调试)时按Alt+8、Alt+6和Alt+5,打开汇编窗口、内存窗口和寄存器窗口看每句C对应的汇编、单步执行并观察相应内存和寄存器变化,这样过一遍不就啥都明白了吗。
(Linux或Unix下可以在用GDB调试时,看每句C对应的汇编并单步执行观察相应内存和寄存器变化。)”
不是一回事!

不要迷信书、考题、老师、回帖;
要迷信CPU、编译器、调试器、运行结果。
并请结合“盲人摸太阳”和“驾船出海时一定只带一个指南针。”加以理解。
任何理论、权威、传说、真理、标准、解释、想象、知识……都比不上摆在眼前的事实!

不要写连自己也预测不了结果的代码!

赞助商链接
推荐文章
  • 此栏目下没有推荐文章
  • {
    设为首页 | 加入收藏 | 友情链接 | 网站地图 | 联系站长 |