千葉工業大学・基礎生物学研究所・兵庫県立大学の研究チーム、次世代AI技術「HetAESN」アーキテクチャを開発
千葉工業大学
-高次元・マルチスケール時系列予測で従来モデルを凌駕する性能を達成-
【 発表者 】
・ 吉田 聡太 （千葉工業大学 大学院情報科学研究科）
・ 飯沼 貴大 （千葉工業大学 大学院情報科学研究科）
・ 信川 創 （千葉工業大学 情報科学部 情報工学科 （教授）/同大学 数理工学研究センター（非常勤主席研究員）/国立研究開発法人国立精神・神経医療研究センター 精神保健研究所児童・予防精神医学研究部（客員研究員））
・ 渡辺 英治 （基礎生物学研究所 （准教授）/総合研究大学院大学 生命科学研究科 （准教授））
・ 礒川 悌次郎 （兵庫県立大学 大学院 工学研究科 （准教授））
【 概 要 】
吉田聡太、飯沼貴大、信川創（千葉工業大学）、渡辺英治（基礎生物学研究所）、礒川悌次郎（兵庫県立大学）らの研究チームは、効率的な時系列処理フレームワークであるEcho State Network (ESN)が抱える、高次元性とマルチスケールな動的特性を持つタスクへの課題を克服する新しいアーキテクチャ「Heterogeneous Assembly Echo State Network (HetAESN)」を開発しました。HetAESNは、高次元情報を扱うESNアーキテクチャであるAssembly ESN（AESN）から派生したモデルです。AESNは、高次元入力情報を入力次元ごとに分割し、リザバーを複数並列して駆動させることで、高次元性による性能劣化を回避するモデルですが、HetAESNはさらに、この分割された各サブリザバーに対し、タスクの入力成分の特性に合わせた最適な、互いに異なる時定数を割り当てます。HetAESNは、2つの時間スケールを持つ時系列（tc-VdP, HRモデル）の予測タスクにおいて、従来のESNおよびAESNを統計的に有意に上回る予測精度を達成しました。この結果を、遅延容量（DC）やマルチスケールファジィエントロピー（MFE）を用いて分析したところ、モデルの有効性が「タスクの次元数」と「リザバーの有効記憶範囲内における信号の複雑さ」のバランスに大きく依存することが明らかになりました。本成果は、アーキテクチャ設計と計算能力の間の重要な関係を解明し、実世界の高次元・マルチスケールな時系列処理に適した、より堅牢で汎用的なRCモデルの開発に貢献するものです。この研究成果は、2025年12月15日に、IEEE Accessにて発表されました。
キーワード: Reservoir Computing、Echo State Network、エッジAI、マルチタイムスケール、多次元信号処理
[画像1:
https://prcdn.freetls.fastly.net/release_image/42635/81/42635-81-9888c128261990d83bc5eed1fd754a1b-336x424.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
■研究の背景
リザバーコンピューティング（RC）は、リカレントニューラルネットワーク（RNN）の一種であり、入力層、中間層（リザバー）、出力層から構成されます[1]。リザバー内部の結合重みを固定し、学習を出力層の重みに限定することで、従来の深層学習（ディープラーニング）と比較して高速かつ低コストな学習が可能という特徴を持ちます。この「学習効率の高さ」と、物理的な素子での実装の容易さから、計算資源が制限されるエッジAI等への応用技術として、近年注目を集めています。
しかし、RCの代表的なモデルであるエコーステートネットワーク（ESN）[2]を、画像・動画認識、気象予測といった実世界の複雑なタスクに適用しようとすると、二つの壁に直面します。
一つはデータの「高次元性」です。多数のセンサデータや画像データなど、多次元で構成された入力情報を処理するためには、リザバーの規模を肥大化させる必要があり、それに伴い計算コストが肥大化するという問題があります。もう一つは「マルチスケール性」です。実世界の現象は、高速に変化する速い成分と、低速に推移する遅い成分が混在しています。従来のESNは単一の時間応答特性でこれらを一律に処理しようとするため、複雑な時系列パターンを十分に捉えきれないという課題がありました。
既存の研究では、高次元性に対応するために入力を分割するAssembly ESN (AESN)[3]や、マルチスケールに対応するために複数の時定数を導入するDiverse-Timescale ESN (DTS-ESN)[4]などが提案されてきましたが、両特性を統合的に扱うには至っていませんでした。特に、従来のAESNはすべてのサブリザバーの時間特性を均一に設定されていたため、マルチスケール性への適応の余地が残されている状態でした。
このような背景に対し、AESNのアーキテクチャに時間的な不均一性（Heterogeneous）の概念を取り入れ、各サブリザバーが入力信号の特性に応じて、個別に調整された時定数を持つHetAESNを考案しました。
■研究内容
- HetAESNアーキテクチャの提案
HetAESNは、AESNの構造を拡張し、時間的な不均一性を組み込んだモデルです。高次元の入力信号を次元ごとに分割し、それぞれ対応するサブリザバーに入力します。HetAESNでは、各サブリザバーのニューロンの更新速度を決定づけるリーキングレート () や、リザバー内の相互作用の強さを示すスペクトル半径 () などのハイパーパラメータを、それぞれ独立に最適化します。この不均一な設計により、各サブリザバーは、入力された信号の速い成分、遅い成分といった固有の時間特性に適応し、それらの入力信号を効果的に追跡することが可能となります。
- 予測性能の検証
3種類のカオス時系列システムtwo-coupled Van der pol (tc-VdP)[5]、Hindmarsh-Rose (HR)[6]、two-coupled Lorenz (tc-Lorenz)[7]に対して予測性能を検証しました。その結果tc-VdP、HRタスクにおいて、HetAESNは、従来のESN、AESNと比較して、有意に小さいLog-NRMSE（予測誤差の評価指標）[9]を達成し、従来モデルよりも高い予測性能を示しました。特にHRモデルでは、
[画像2:
https://prcdn.freetls.fastly.net/release_image/42635/81/42635-81-f19cedd6609bd9e1511a5198d2bc8860-650x157.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
高速な信号成分に対応するサブリザバーに高い入力スケール値が割り当てられており、モデルがタスクの時空間特性に適合したことが示唆されました。しかし、tc-Lorenzタスクに対して、提案モデルは従来のESNを下回る結果を示しました。
- 動的解析による原理の解明
タスクによって性能が異なる要因を明確にするため、動的解析を行いました。
[画像3:
https://prcdn.freetls.fastly.net/release_image/42635/81/42635-81-523786aa25d5ec27732e23ed77f2d92a-1490x364.jpg?width=536&quality=85%2C75&format=jpeg&auto=webp&fit=bounds&bg-color=fff ]
遅延容量（DC）解析（用語説明*1）により、リザバーの記憶能力の有効性は長期の過去の情報を扱うほど低下し、程度の時点ですでに記憶能力はほとんど機能していない可能性があることを示しました。
一方、マルチスケールファジィエントロピー（MFE）解析（用語説明*2）では、リザバーの有効記憶時間（
記事提供：PRTimes
