2022年7月21日 – arXiv最新論文の紹介

Inner Monologue: 大規模言語モデルの計画への利用

Inner Monologue: Embodied Reasoning through Planning with Language Models [81.1]
大規模言語モデル(LLM)は自然言語処理以外の領域に適用できる。具体化された環境でのLLMの計画には、何をすべきかだけでなく、どのように、いつ行うべきかを考える必要がある。環境フィードバックを活用することで、LLMはロボット制御シナリオにおいてよりリッチな処理と計画を行うことができる内部モノローグを形成することができる。
論文参考訳（メタデータ） (Tue, 12 Jul 2022 15:20:48 GMT)
- 大規模言語モデルが自然言語処理以外の領域、ここでは計画に利用できるとの報告。Language Models as Zero-Shot Planner: LMはタスクをステップに落とせるか？ – arXiv最新論文の紹介 (devneko.jp)などLLMのパワーはすごい
- プロジェクトサイトはInner Monologue

OmniTab: Pretraining with Natural and Synthetic Data for Few-shot Table-based Question Answering [106.7]
最小限のアノテーションによるテーブルベースのQAモデルを構築した。本稿では、自然データと合成データの両方を消費する全能事前学習手法を提案する。
論文参考訳（メタデータ） (Fri, 8 Jul 2022 01:23:45 GMT)
- 合成データを併用したTable Question Answering手法の提案。表からSQLを作り合成データを構築しているよう。
- リポジトリはGitHub – jzbjyb/OmniTab: Pretraining with Natural and Synthetic Data for Few-shot Table-based Question Answering