找回密码
 注册
查看: 2356|回复: 0

单精度与双精度计算?

[复制链接]
发表于 2011-4-26 14:39:12 | 显示全部楼层 |阅读模式

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?注册

x
我计算的是超细颗粒物湍流聚并情况,需要的结果都在10e-6数量级的,结果不同的工况计算的结果貌似都差不多,因为只能精确到0.0001,那是不是需要用双精度计算呢?求解释了
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 返回顶部 返回列表