- CAT: Causal Attention Tuning For Injecting Fine-grained Causal Knowledge into Large Language Models [42.1]
因果注意チューニング(Causal Attention Tuning, CAT)は、注意機構に微粒な因果知識を注入する新しいアプローチである。 トークンレベルの因果信号を自動的に生成するために,人間の先行情報を活用する自動パイプラインを提案する。 CatはSTGデータセットで5.76%、下流タスクで1.56%の平均的な改善を実現している。
論文 参考訳（メタデータ） (Tue, 09 Sep 2025 04:01:50 GMT) - 「(1) causal prior knowledge extraction 」「(2) causal constraint attention training.」からなる因果関係の投入
- リポジトリはGitHub – Kairong-Han/CAT