A Survey on Efficient Training of Transformers A Survey on Efficient Training of Transformers [72.3]この調査は、トランスフォーマーの効率的なトレーニングに関する最初の体系的な概要を提供する。 トレーニング中の中間テンソルの計算コストとメモリコストを削減できる手法と,ハードウェア/アルゴリズムの共同設計手法を分析し比較する。論文 参考訳（メタデータ） (Thu, 4 May 2023 01:23:12 GMT) Transformerの効率的な学習に関するサーベイ、ver3