4.1 CombNET−IIとは?
CombNET−IIとは、名古屋工業大学岩田研究室が、 大規模なニューラルネットネットワークの構築手法として提案しているものです。 前にも紹介しましたが、漢字認識のデモを実際に見ることができます。

CombNET−IIとはどんなものなのでしょうか? これは、まず入力データを大分類するためのベクトル量子化ニューラルネットワーク (これをStemNetworkと呼んでいます)を配置し、 さらにそのデータを階層型ニューラルネットワーク(BranchNetwork)で 細かく分類するという2段の構造をもったニューラルネットワークです。

CombNET−IIの前に、CombNET−Iというものが発表されています。 この2つの違いは、前段のベクトル量子化ニューラルネットワークの違いです。 CombNET−Iでは、前段のベクトル量子化ニューラルネットワークには、 コホーネンの自己組織化Featureマップを用い、 後段の階層型ニューラルネットワークの学習には、 バックプロパゲーションが使われています。 そして、CombNET−IIではこの前段のニューラルネットワークに 自己増殖型ニューラルネットワークが使われています。

自己組織化Featureマップを思い出してみましょう。 これは、データの分布を結合重みベクトル(テンプレート)であらわすことができる というものでした。CombNET−Iではこのことが問題点になっていました。

つまり、入力データが各グループごとに大きくばらついてしまうということです。 前段のネットワークで大分類される入力データ数の大小は、 後段のBranchNetworkの学習に影響を与えてしまいます。

そこで、自己増殖型ニューラルネットワークというものが考案されました。 これは、1つのニューロンと最適整合する入力データ数がある一定の数を超えたとき、 ニューロンを分裂させ、2つのグループに分割するというものです。 こうすることによって、 グループごとの入力データ数のばらつきをなくすことができました。



Copyright(c) Iwata-Lab. N.I.T. All rights reserved.