当前在线人数9424
首页 - 博客首页 - let comch pute be aos me you - 文章阅读 [博客首页] [首页]
如何处理这样的精度?
作者:heteroclinic
发表时间:2010-08-14
更新时间:2010-08-14
浏览:441次
评论:0篇
地址:173.
::: 栏目 :::

如何处理这样的精度?
double r1 = 1.0*2.0 + 1.0*2.0 + 1.0 *2.0;
double r10 = r1/sqrt(1.0+1.0+1.0)/sqrt(2.0*2.0+2.0*2.0+2.0*2.0);

VC++ 2010 express, Vista 64 结果
r10 = 1.0000000000000002;
求acos(r10)的时候溢出,用float也一样戴一个尾巴。

这样的运算怎样避免溢出?
非express 版也有这个问题吗?
没有试别的compler.


提示: 本博文来自于 CS 版

[上一篇] [下一篇] [发表评论] [写信问候] [收藏] [举报] 
 
暂无评论
 
用户名: 密码:
发表评论
评论:
[返回顶部] [刷新]  [给heteroclinic写信]  [let comch pute be aos me you首页] [博客首页] [BBS 未名空间站]
 
Site Map - Contact Us - Terms and Conditions - Privacy Policy

版权所有BBS 未名空间站(mitbbs.com) since 1996