2010-01-26から1日間の記事一覧
いやfmaはpragma FP_CONTRACTがあるから対応してあるか…
浮動小数の定数畳み込みで精度がずれる問題てどう対処するのが正しいんだろうか。プロセッサごとに丸めモードとかがあるとして、さて、このときLLVMのような中間表現プログラムに対する定数畳み込みはどのように動くべきか?的な意味で。現代のプロセッサの…
いやfmaはpragma FP_CONTRACTがあるから対応してあるか…
浮動小数の定数畳み込みで精度がずれる問題てどう対処するのが正しいんだろうか。プロセッサごとに丸めモードとかがあるとして、さて、このときLLVMのような中間表現プログラムに対する定数畳み込みはどのように動くべきか?的な意味で。現代のプロセッサの…