アカウント名:
パスワード:
PowerPCにのっていたベクトル命令セットAltivecなんかでも,浮動小数点演算の精度が1/4096の誤差を含んだもので,そのままでは使えないので,ニュートンラプソン法を使って精度を高める方法がマニュアルに記載されてましたね。
SSEに逆数と平方根の逆数の近似値を得る命令があって略。今回のネタは、そういうのとは趣が異なる気がするする。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
「科学者は100%安全だと保証できないものは動かしてはならない」、科学者「えっ」、プログラマ「えっ」
PPC (スコア:0)
PowerPCにのっていたベクトル命令セットAltivecなんかでも,
浮動小数点演算の精度が1/4096の誤差を含んだもので,
そのままでは使えないので,ニュートンラプソン法を使って
精度を高める方法がマニュアルに記載されてましたね。
Re:PPC (スコア:1)
SSEに逆数と平方根の逆数の近似値を得る命令があって略。
今回のネタは、そういうのとは趣が異なる気がするする。
Re: (スコア:0)
Re: (スコア:0)