Modular Memory is the Key to Continual Learning Agents
Modular Memory is the Key to Continual Learning Agents [100.1] In-Weight Learning(IWL)の強みと、モジュラーメモリの設計を通じて新たに登場したIn-Context Learning(ICL)の機能を組み合わせることが、大規模に継続的適応するための欠片である、と我々は主張する。 我々は、ICLを高速適応と知識蓄積に活用するモジュール型メモリ中心アーキテクチャの概念的フレームワークと、モデル機能の安定した更新のためのIWLについて概説する。 論文参考訳（メタデータ） (Mon, 02 Mar 2026 11:40:05 GMT)
「Here, we argue that the key to intelligent adaptation and knowledge accumulation lies in combining the strengths of the two learning mechanisms, ICL and IWL, under a modular memory architecture in which a pretrained core model is augmented with distinct memory modules: a working memory for active context and a long-term memory for rapid adaptation and knowledge accumulation. 」とIn Context Learning的なメモリ（作業用と長期メモリを含む）、とIn Weight Learning（低頻度、左記長期メモリのうち必要分を取り込む）の組み合わせが重要という主張で納得感がある。Memoryの現状も整理されている。