2024年3月5日 – arXiv最新論文の紹介

Beyond Language Models: Byte Models are Digital World Simulators [68.9]
bGPTは、デジタルワールドをシミュレートする次のバイト予測モデルである。これは、テキスト、オーディオ、画像など、様々なモダリティにわたるパフォーマンスの特殊なモデルと一致している。シンボリックな音楽データを変換する過程をほぼ完璧に再現し、1バイトあたり0.0011ビットの誤り率を達成した。
論文参考訳（メタデータ） (Thu, 29 Feb 2024 13:38:07 GMT)
テキストではなくバイトを扱うGPT系モデル。「 training models for next byte prediction can potentially lead to a paradigm shift in deep learning, allowing them to truly understand and simulate all activities in the digital world.」はそうだが熱すぎる。そして、それなりに動いていそうなのが興味深い。Sequential Modeling Enables Scalable Learning for Large Vision Models – arXiv最新論文の紹介 (devneko.jp)を思い出すアプローチ。
リポジトリはBeyond Language Models: Byte Models are Digital World Simulators (byte-gpt.github.io)

XRL-Bench: A Benchmark for Evaluating and Comparing Explainable Reinforcement Learning Techniques [36.3]
強化学習(Reinforcement Learning, RL)は、様々な分野において大きな可能性を証明しているが、その意思決定プロセスを理解することは、現在進行中の課題である。本稿では, 説明可能なAI(XAI)のサブフィールドである説明可能なRL(XRL)について述べる。我々の焦点は状態記述技術であり、XRL法における重要な部分集合であり、エージェントの行動にいつでも影響を及ぼす要因を明らかにすることである。
論文参考訳（メタデータ） (Tue, 20 Feb 2024 03:20:37 GMT)
説明可能な強化学習のためのベンチマーク
リポジトリはfuxiAIlab/xrl-bench (github.com)