マルチモジュールニューラルネットワークは、
階層型のネットワークを組み合わせて連想記憶を実現しています。
たとえば、人間は「りんご」という言葉から「Apple」という英単語を連想したり、
「りんごの絵」を連想します。
このような連想は人間の脳内の機能ごとに分化したモジュールが互いに協調、
競合しながら動作することによって行なわれます。
このような脳内のモジュールは階層状に互いに結合した構造をもっているといわれています。
マルチモジュールニューラルネットワークはその構造をモデル化したものといえます。
ネットワークの構成は次の図のようになっています。
まずネットワークは基本ネットワークと連結ネットワークからなり、
基本ネットワークでは局所的な情報処理を行ない、
連結ネットワークでは、処理された情報のやりとりをおこないます。
先の例でいえば、各基本ネットワークで「りんご」「Apple」「りんごの絵」 に相当するパターンを学習し、 連結ネットワークでその組合せを学習することで連想記憶を実現します。
ネットワークが組合せを記憶しているので、「Apple」からでも「りんごの絵」からでも他の２つを連想することができます。
