アカウント名:
パスワード:
今では、多くの人工知能的なプログラムの多くが、人手による人海戦術で作られているが、普通の人間に行っているような教育方法で、人間の高技能者などの知識を学習できる汎用プログラムができれば、便利だろう。
夢と学習の関連について。
ニューラルマシン（模擬神経回路）による人工知能の挙動を見ていると、特定の神経細胞に判断処理が集中してしまい、ネットワーク全体の性能が、ごく少数の神経細胞に依存してしまう現象がしばしば起こる。個々の神経細胞の能力は低めに設定されているため、当然、この現象が起こると、ネットワークの学習性能が頭打ちになってしまう。
そこで、特定の少数の神経細胞に偏っている負荷を、周辺の神経細胞にも分担してもらうことができれば、ネットワーク全体の性能が回復することが予想される。
その方法として、「ある程度の学習を行うたびに、ランダムなノイズに近い情報を流し込み、神経細胞ネットワークの楽な、自然な繋がりを回復させるフェーズを設けたら良いだろう」と思い、「睡眠フェーズ」を作る案を自分は考えた。
処理が集中している神経細胞の周りの神経細胞も偶然に同期して発火したら、処理に組み込まれて、処理をより多くの細胞で行うように組みなおす。すると、多くの神経細胞で同じ処理を行うようになるため、さらに複雑な判断が集中したら、同じ処理を担っている神経細胞の中で、さらに役割分担をすればよい。神経細胞に、ごく近傍は協同して発火し、遠くなら抑制しあうような特性を設ければ良さそうだ。
自分はこの工程をニューラルネットワークの「ぼかし」と名づけた。夢は、このぼかしの産物ではないか、と思っている。
脳は常にごく一部の、必要最低限のニューロンしか動かしていないんだよ。全開で動かしたら髄液が沸騰するだろうし、神経回路網がループして癲癇になる可能性もある。だから神経回路網が稼働中は周囲の神経回路網の働きを抑制している。分担や分散とは逆なんだ。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
一つのことを行い、またそれをうまくやるプログラムを書け -- Malcolm Douglas McIlroy
人間の経験知を手軽にプログラム化できれば便利だろうと思う。 (スコア:0)
今では、多くの人工知能的なプログラムの多くが、人手による人海戦術で作られているが、
普通の人間に行っているような教育方法で、人間の高技能者などの知識を学習できる汎用プログラムができれば、便利だろう。
夢と学習の関連について。
ニューラルマシン（模擬神経回路）による人工知能の挙動を見ていると、
特定の神経細胞に判断処理が集中してしまい、ネットワーク全体の性能が、
ごく少数の神経細胞に依存してしまう現象がしばしば起こる。
個々の神経細胞の能力は低めに設定されているため、
当然、この現象が起こると、ネットワークの学習性能が頭打ちになってしまう。
そこで、特定の少数の神経細胞に偏っている負荷を、
周辺の神経細胞にも分担してもらうことができれば、
ネットワーク全体の性能が回復することが予想される。
その方法として、「ある程度の学習を行うたびに、
ランダムなノイズに近い情報を流し込み、
神経細胞ネットワークの楽な、自然な繋がりを回復させるフェーズを
設けたら良いだろう」と思い、「睡眠フェーズ」を作る案を自分は考えた。
処理が集中している神経細胞の周りの神経細胞も偶然に同期して発火したら、
処理に組み込まれて、処理をより多くの細胞で行うように組みなおす。
すると、多くの神経細胞で同じ処理を行うようになるため、
さらに複雑な判断が集中したら、同じ処理を担っている神経細胞の中で、
さらに役割分担をすればよい。
神経細胞に、ごく近傍は協同して発火し、遠くなら抑制しあうような特性を設ければ良さそうだ。
自分はこの工程をニューラルネットワークの「ぼかし」と名づけた。
夢は、このぼかしの産物ではないか、と思っている。
Re:人間の経験知を手軽にプログラム化できれば便利だろうと思う。 (スコア:2)
脳は常にごく一部の、必要最低限のニューロンしか動かしていないんだよ。全開で動かしたら髄液が沸騰するだろうし、神経回路網がループして癲癇になる可能性もある。だから神経回路網が稼働中は周囲の神経回路網の働きを抑制している。分担や分散とは逆なんだ。
Re: (スコア:0)
＞特定の神経細胞に判断処理が集中してしまい、ネットワーク全体の性能が、
＞ごく少数の神経細胞に依存してしまう現象がしばしば起こる。
面白いです。神経同士のつながりは、最適化の結果、
ある程度スパースなものになると、（根拠もなく）思っていました。
もう少し詳しく、その現象について教えて頂けないでしょうか？