情報技術およびソフトウェア工学ジャーナル
オープンアクセス

概要

リカレントニューラルネットワーク: 連想記憶と最適化

K.-L.デュ

フィードバック接続のため、リカレント ニューラル ネットワーク (RNN) は動的モデルです。RNN は、フィードフォワード ニューラル ネットワーク (FNN) と比較して、動的システムを近似するためのよりコンパクトな構造を提供できます。ホップフィールド モデルやボルツマン マシンなどの一部の RNN モデルでは、動的システムの固定小数点特性を最適化と連想メモリに使用できます。ホップフィールド モデルは最も重要な RNN モデルであり、ボルツマン マシンやその他のいくつかの確率的動的モデルがその一般化として提案されています。これらのモデルは、悪名高い NP 完全問題である組み合わせ最適化問題 (COP) の処理に特に役立ちます。この論文では、これらの RNN モデル、その学習アルゴリズム、およびアナログ実装の最新の概要を提供します。連想メモリ、COP、シミュレーテッド アニーリング (SA)、カオス ニューラル ネットワーク、およびマルチレベル ホップフィールド モデルも、この論文で扱う重要なトピックです。