Scaling Laws of Global Weather Models

  • Scaling Laws of Global Weather Models [57.3]
    本稿では,モデル性能(検証損失)とモデルサイズ,データセットサイズ,計算予算の3つの主要な要因について検討する。 様々なモデルにおいて、Auroraは最も強力なデータスケーリングの挙動を示す。 我々の計算-最適分析は、固定された計算予算の下で、長いトレーニング期間にリソースを割り当てると、モデルサイズの増加よりもパフォーマンスが向上することを示している。
    論文  参考訳(メタデータ)   (Thu, 26 Feb 2026 12:57:38 GMT)
  • 天気に関するScaling Laws、自然言語処理(transfomer)と似ている部分、異なる部分があるようで大変興味深い。

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です