アカウント名:
パスワード:
ろくなGPUを作れないintelとろくなCPUを作れないNVIDIAが泥仕合してるわけでAPUのTeslaみたいなものがあれば、CPUGPUの帯域も問題なくなるしGPGPUよりも性能が出せるプログラムが書きやすいはず。
今後はニューラルネットワーク自体が複雑化していくだろうから、GPUの優位はなくなっていく。GPUの優位性というのは設計上の浮動小数点演算性能と、高速なメモリーバスだけなので
GPU自体ににスケジューラ持たせてCPUみたいにふるまうこともできるようにしたAMDの方向性が正しいってことになっちゃうけど・・・さすがにそれはおかしいだろ
スケジューラまでは要らないけどね例えば画像認識のCNNがCPUの負荷を1としたときGPUの負荷が100ぐらいだとすると。自然言語処理や音声認識、映像認識使われるRNNの場合CPUの負荷を1としたときGPUの負荷が10ぐらいになってしまう。RNNは内部にループ(状態)を持っていて、学習時には全計算経路を遡って初期状態まで誤差逆伝播を行うんで、必然的にCPU側の処理が多くなる、なのでCPUとGPU間の帯域やCPUの性能自体がボトルネックになってGPUの性能を生かせない。
スケジューラが必要なのは、DNNの高速化のためじゃないしね。GPU処理の中に、音声処理とか、VRの制御とか、リアルタイムでの計算が必要な要素を混ぜても効率的に処理するために必要。以前のGPUはオーディオ制御に専用のDSPを搭載してましたが、ハードスケジューラを搭載してGPU上でのソフト処理ができるようになった。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
長期的な見通しやビジョンはあえて持たないようにしてる -- Linus Torvalds
AMDがダメダメすぎるのが悪い (スコア:0)
ろくなGPUを作れないintelとろくなCPUを作れないNVIDIAが泥仕合してるわけで
APUのTeslaみたいなものがあれば、CPUGPUの帯域も問題なくなるしGPGPUよりも性能が出せるプログラムが書きやすいはず。
今後はニューラルネットワーク自体が複雑化していくだろうから、GPUの優位はなくなっていく。
GPUの優位性というのは設計上の浮動小数点演算性能と、高速なメモリーバスだけなので
Re: (スコア:0)
GPU自体ににスケジューラ持たせてCPUみたいにふるまうこともできるようにしたAMDの方向性が正しいってことになっちゃうけど・・・
さすがにそれはおかしいだろ
Re:AMDがダメダメすぎるのが悪い (スコア:0)
スケジューラまでは要らないけどね
例えば
画像認識のCNNがCPUの負荷を1としたときGPUの負荷が100ぐらいだとすると。
自然言語処理や音声認識、映像認識使われるRNNの場合CPUの負荷を1としたときGPUの負荷が10ぐらいになってしまう。
RNNは内部にループ(状態)を持っていて、学習時には全計算経路を遡って初期状態まで誤差逆伝播を行うんで、
必然的にCPU側の処理が多くなる、なのでCPUとGPU間の帯域やCPUの性能自体がボトルネックになってGPUの性能を生かせない。
Re: (スコア:0)
スケジューラが必要なのは、DNNの高速化のためじゃないしね。
GPU処理の中に、音声処理とか、VRの制御とか、リアルタイムでの計算が必要な要素を混ぜても効率的に処理するために必要。
以前のGPUはオーディオ制御に専用のDSPを搭載してましたが、ハードスケジューラを搭載してGPU上でのソフト処理ができるようになった。