2022年5月2日 – arXiv最新論文の紹介

NLSSum (Neural Label Search for Summarization): 多言語抽出型要約

Neural Label Search for Zero-Shot Multi-Lingual Extractive Summarization [80.9]
ゼロショット多言語抽出テキスト要約では、通常、モデルは英語のデータセットに基づいて訓練され、他の言語の要約データセットに適用される。本研究では,NLS(Neural Label Search for Summarization)を提案する。我々はMLSUMとWikiLinguaのデータセット上で多言語ゼロショット要約実験を行い、人間と自動両方の評価を用いて最先端の結果を得る。
論文参考訳（メタデータ）参考訳（全文） (Thu, 28 Apr 2022 14:02:16 GMT)
- MUSEを使用した単語置き換え、機械翻訳などにより英語以外の言語用にデータを拡張、抽出型要約に使うラベルを作りモデル構築を行い、Zero-shotの要約で優れた性能を達成。XLMRSumに比べてMLSUMのROUGE-Lを2pt改善している。

LM-Debugger: An Interactive Tool for Inspection and Intervention in Transformer-Based Language Models [40.9]
我々は、トランスフォーマーベース言語モデル(LM)のためのインタラクティブデバッガツール、LM-Debuggerを紹介した。モデルの内部予測プロセスのきめ細かい解釈と、LMの振る舞いを介入するための強力なフレームワークを提供する。 LM-Debuggerは,ネットワーク内のいくつかのベクトルを識別することにより,モデルの振る舞いをユーザの選択方向にシフトさせるのがいかに容易かを示す。
論文参考訳（メタデータ）参考訳（全文） (Tue, 26 Apr 2022 07:51:25 GMT)
- Transformerを対象としたデバッガ（介入も可能）。とても便利そう
- リポジトリはGitHub – mega002/lm-debugger: The official code of LM-Debugger, an interactive tool for inspection and intervention in transformer-based language models.

Embedding Knowledge for Document Summarization: A Survey [66.8]
従来の研究は、知識を組み込んだ文書要約器が優れた消化力、特に情報性、一貫性、事実整合性を生み出すのに優れていたことを証明した。本稿では,知識を文書要約に組み込む最先端方法論について,初めて体系的な調査を行う。特に,文書要約の視点で知識と知識の埋め込みを再結合する新しい分類法を提案する。さらに、文書要約モデルの学習アーキテクチャ、特にディープラーニングモデルにおいて、埋め込みがどのように生成されるかを考察する
論文参考訳（メタデータ）参考訳（全文） (Sun, 24 Apr 2022 04:36:07 GMT)
- 要約文中の事実を正しく扱うために用いる知識埋め込みに関するサーベイ。実質6ぺージと短いがどのようなアプローチがあるか知る上ではとても有用。