SHAI: A LARGE LANGUAGE MODEL FOR ASSET MANAGEMENT

  • Shai: A large language model for asset management [8.7]
    「シャイ」は資産管理産業向けに特別に設計された10Bレベルの大規模言語モデルである。 Shaiはドメインに関連するタスクのパフォーマンスを向上し、ベースラインモデルを上回っている。
    論文  参考訳(メタデータ)   (Thu, 21 Dec 2023 05:08:57 GMT)
  • 資産管理特化型LLMの提案、14Bと小型ながら金融ドメインであればGPT-3.5以上、一部タスクではGPT-4を超えている。ドメイン特化型LLMの可能性を感じる内容。安全性についても評価されているのが興味深い(そして、Shaiのスコアは高い)。
  • また、「solely focusing on domain-specific training could result in catastrophic forgetting」「To mitigate this, we included a blend of generic content in our training data.」など参考になる。

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です