Survey – ページ 14 – arXiv最新論文の紹介

Video as the New Language for Real-World Decision Making

Video as the New Language for Real-World Decision Making [100.7]
ビデオデータは、言語で表現しにくい物理世界に関する重要な情報をキャプチャする。ビデオは、インターネットの知識を吸収し、多様なタスクを表現できる統一インターフェースとして機能する。ロボット工学、自動運転、科学といった分野における大きなインパクトの機会を特定します。
論文参考訳（メタデータ） (Tue, 27 Feb 2024 02:05:29 GMT)
ビデオの合成を通して現実世界のタスクを解けるのでは？という論文。SORAとGemini-1.5 – arXiv最新論文の紹介 (devneko.jp)をみるとあながち未来の話ではないのかもしれない。OpenAIだけでなく、Google DeepMindも同じ見解なのかという意味でも興味深い。
「Challenges like hallucination and generalization notwithstanding, video generation models have the potential to become autonomous agents, planners, environment simulators, and compute engines, and to eventually serve as the artificial brain to think and act in the physical world.」という記載が印象的。

TL;DR Progress: Multi-faceted Literature Exploration in Text Summarization [37.9]
本稿では,ニューラルテキスト要約に関する文献を探索する新たなツールであるTL;DR Progressについて述べる。テキスト要約アプローチのための包括的なアノテーションスキームに基づいて、514の論文を整理する。
論文参考訳（メタデータ） (Sat, 10 Feb 2024 09:16:56 GMT)
要約関連の論文まとめサイトの提供。動作しているWEBシステムであり分類のやり方など実践的。
プロジェクトサイトはTLDR Progress (tldr-progress.de)

Large Language Models: A Survey [69.7]
大規模言語モデル(LLM)は、広範囲の自然言語タスクにおける強力なパフォーマンスのために、多くの注目を集めている。 LLMの汎用言語理解と生成能力は、膨大なテキストデータに基づいて数十億のモデルのパラメータを訓練することで得られる。
論文参考訳（メタデータ） (Fri, 9 Feb 2024 05:37:09 GMT)
LLMのサーベイ。この分野のサーベイは多いが整理軸が様々で面白い。

Continual Learning for Large Language Models: A Survey [95.8]
大規模言語モデル(LLM)は、大規模なトレーニングコストが高いため、頻繁な再トレーニングには適さない。本稿では,LLMの連続学習に関する最近の研究について述べる。
論文参考訳（メタデータ） (Fri, 2 Feb 2024 12:34:09 GMT)
LLMに対する継続学習のサーベイだが、Continual Pre-training、Continual Instruction Tuning、Continual Alignment と事前学習以後の話題を扱っているのが興味深い。
Fact, Domain, Language, Task, Skills, Values, Preferencesのどこを対象としているか表している図２も参考にある（ザックリとしているので異論もあるだろうけど）

Let’s Negotiate! A Survey of Negotiation Dialogue Systems [56.0]
交渉は人間のコミュニケーションにおいて重要な能力である。近年の交渉対話システムへの関心は、紛争の解決や合意の達成を支援するインテリジェントなエージェントを作ることを目標としている。
論文参考訳（メタデータ） (Fri, 2 Feb 2024 02:12:46 GMT)
交渉を行うエージェントのサーベイ

A Survey of Table Reasoning with Large Language Models [55.2]
大規模言語モデル(LLM)の使用は、テーブル推論の主流となる。 LLM時代におけるテーブル推論性能の向上に使用される主流技術について分析する。本研究は,既存手法の改良と実用化の拡充の両面から研究の方向性を示す。
論文参考訳（メタデータ） (Tue, 13 Feb 2024 07:17:52 GMT)
LLMで表形式データを扱う場合のサーベイ。実務上扱う場面は多く苦労することも多い。
ベンチマーク×アプローチで性能が整理されているのがありがたい。instruction designとin-context learningが有望そうという結果。感覚的には別のモーダルだが、事前学習では相応に取り入れられていてうまくLLMの能力を引き出すことが重要という感じなんだろうか。

History, Development, and Principles of Large Language Models-An Introductory Survey [48.3]
自然言語処理(NLP)の基盤となる言語モデル数十年にわたる広範な研究を経て、言語モデリングは、初期統計言語モデル(SLM)から、大規模言語モデル(LLM)の現代的景観へと進歩してきた。
論文参考訳（メタデータ） (Sat, 10 Feb 2024 01:18:15 GMT)
言語モデルの歴史を振り返るサーベイ
歴史を振り返るにはよい資料でありつつ、それは言語モデルなのか？というつっこみがはいりそうな話題もある（LLMまでの歴史であれば特に問題はないのかな）

Understanding the planning of LLM agents: A survey [98.8]
本調査では, LLMをベースとしたエージェント計画の体系的考察を行い, 計画能力の向上を目的とした最近の成果について報告する。各方向について総合的な分析を行い、研究分野におけるさらなる課題について論じる。
論文参考訳（メタデータ） (Mon, 5 Feb 2024 04:25:24 GMT)
最近よく見るLLMを利用した自律エージェントのうち計画に関するサーベイ。さらにTask Decomposition, Plan Selection, External Module, Reflection, Memoryに細分化して整理している。実質７ページとよくまとまっているサーベイ。

MM-LLMs: Recent Advances in MultiModal Large Language Models [51.5]
過去1年間で、MM-LLM(MultiModal Large Language Models)が大幅に進歩している。 MM-LLMのさらなる研究を促進するための総合的な調査を行う。
論文参考訳（メタデータ） (Thu, 25 Jan 2024 03:46:15 GMT)
マルチモーダルLLMのサーベイ
SOTA-LLM、ベンチマーク結果表などとてもありがたい、一方ですぐ情報がアップデートされるのだろうなとも。。。
プロジェクトサイトはhttps://mm-llms.github.io/とのことだが現状４０４

AI for social science and social science of AI: A Survey [47.5]
人工知能の最近の進歩は、人工知能の可能性を再考するきっかけとなった。 AIの人間的能力の増大は、社会科学研究にも注目されている。
論文参考訳（メタデータ） (Mon, 22 Jan 2024 10:57:09 GMT)
AIと社会科学に関するサーベイ。
AI for social science、social science of AI、public tools and resourcesの構成。LLMをうまく使って研究するものもあればLLM自体を研究するものもあり、興味深い。