- Petals: Collaborative Inference and Fine-tuning of Large Models [78.4]
多くのNLPタスクは、1000億以上のパラメータを持つ大きな言語モデル(LLM)を使用することで恩恵を受ける。 BLOOM-176BとOPT-175Bのリリースにより、誰もがこのスケールで事前訓練されたモデルをダウンロードできる。 我々は,大規模モデルの推測と微調整を協調的に行うシステムとして,Petalsを提案する。
論文 参考訳（メタデータ） (Fri, 2 Sep 2022 17:38:03 GMT)- 大規模モデルを分散して利用できるシステムの提案。コンピューティングリソースを共有しての実行が可能でパブリックなリソースとして自分の環境を共有することも可能なよう（SETI@HOMEを思い出した）
- プロジェクトサイトはPetals – Decentralized platform for running 100B+ language models