あんまり似てないけど似たような問題に浮動小数は整数に強すぎる気がするというのがあるよな。1/3とかしただけで誤差出る癖に1000万とか使っても誤差出ない。

普通に0周辺が弱いだろ >>> '%.30f'%math.erfc(1e-17) '1.000000000000000000000000000000' >>> '%.30f'%math.erf(1e-17) '0.000000000000000011283791670955' >>> '%.30f'%math.erf(1e-20) '0.000000000000000000011283791671' >>> '%.30f'%math.erf(1e-30)…

なんでerfcはerfよりへたれにくいんだ… $ python Python 2.7.6 (default, Mar 22 2014, 22:59:56) [GCC 4.8.2] on linux2 Type "help", "copyright", "credits" or "license" for more information. >>> import math >>> math.erf(1) 0.842700792949715 >>> …