アカウント名:
パスワード:
PowerPCにのっていたベクトル命令セットAltivecなんかでも，浮動小数点演算の精度が1/4096の誤差を含んだもので，そのままでは使えないので，ニュートンラプソン法を使って精度を高める方法がマニュアルに記載されてましたね。
SSEに逆数と平方根の逆数の近似値を得る命令があって略。今回のネタは、そういうのとは趣が異なる気がするする。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
私は悩みをリストアップし始めたが、そのあまりの長さにいやけがさし、何も考えないことにした。-- Robert C. Pike
PPC (スコア:0)
PowerPCにのっていたベクトル命令セットAltivecなんかでも，
浮動小数点演算の精度が1/4096の誤差を含んだもので，
そのままでは使えないので，ニュートンラプソン法を使って
精度を高める方法がマニュアルに記載されてましたね。
Re:PPC (スコア:1)
SSEに逆数と平方根の逆数の近似値を得る命令があって略。
今回のネタは、そういうのとは趣が異なる気がするする。
Re: (スコア:0)
Re: (スコア:0)