[讨论]大家一起来关于浮点数的精度

iamjeremiah

目前主要参考文献是 IEEE754
请大家来讨论。
最好举出你在实际工作中，发现的一些奇怪的现象。

通流

挺有意思的问题。我不知IEEE754是什么东西。但浮点精度造成的误差确实是个问题。尤其是现在网格越分越细，这种舍入误差还真可能是问题。

我自己再算稳定性时也遇到过类似的情况。在环形上，由于舍入误差导致额外的扰动。后来，把程序仔细改了下，使得误差也是轴对称，才解决。

白文

大约10年前就想研究这个课题，一直无法实施。那天在讨论所谓的最小网格尺度问题时，也再次产生了要考虑和研究计算机舍入误差的想法。

法国CERFACS在90年代中期开展过一个非常相关的研究项目叫做PRECISE，是欧盟第四框架计划的一个项目。我给出他们的网络链接，可以获得源代码。这是十几年以前的工作，链接依然有效！

http://pantar.cerfacs.fr/6-26296-PRECISE-PREcision-and-Control-in-Scientific-Computing-and-Engineering-PINEAPL-Project.php

自己还是无法深入去研究，希望有人感兴趣，例如安排和指导研究生研究一下这个问题。也许我也会安排同事去做这个课题吧，也许。

通流

是啊。十几年前，这个问题大概只是当作理论问题来研究，没什么实际应用。而现在，这问题有了实际意义。我想那些搞直接模拟紊流的人可能已经有了些结果，至少是经验。这实际上是个大小尺度差的很大时的情形。像这种多尺度问题，历来是比较难做的。