2014-05-15から1日間の記事一覧

浮動小数の減算

http://d.hatena.ne.jp/w_o/20140514#1400072445コメントもらったので少し考えたが、 減算は基本的によくない。減算では結果の絶対値は必ず減るが、エラーの絶対値は確率的に増えるので、減算ではエラー率が増えていく 特に、近い値の減算はエラーの割合がす…

本当にはかる気があるならその時にはかっているので「あとではかろう」とか書いてるときはまあ大体はからないと思ったほうがいい。あと会社のマシンi7-4930Xとかにしたが、これ、ioat使えるみたいなのであとではかろう。あとhttps://software.intel.com/en-u…