アカウント名:
パスワード:
面倒くさいな。
「floatやdouble使わずにcharだけで計算したらメモリ使用量すくなくて爆速でした」
でいいんじゃないの。「π^2=大体10」のせかいだ。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
目玉の数さえ十分あれば、どんなバグも深刻ではない -- Eric Raymond
私の考えでは (スコア:0)
これを単純な回路で実装するとすれば、0.5を加算して小数点以下を切り捨てて整数化するだけです。
しかし、本当はこれだけでは済みません、負の数があるからです。
-4.5を四捨五入した場合、結果は-5のはずですが、上述の方法では-4になってしまいます。
ですから、本来ならば四捨五入の対象となる値の正負を判定して、処理を分けなければなりませんが、
今回のチップでは、負の数だった場合を想定しないことで、回路を減らすことができます。
実用上、正の数しか扱わない分野での使用であれば問題無いわけですし。
Re: (スコア:0)
面倒くさいな。
「floatやdouble使わずにcharだけで計算したらメモリ使用量すくなくて爆速でした」
でいいんじゃないの。「π^2=大体10」のせかいだ。
Re:私の考えでは (スコア:0)
by ゆとり