- Symbolic Discovery of Optimization Algorithms [132.6]
本稿では,プログラム探索として定式化し,深層ニューラルネットワーク学習のための最適化アルゴリズムの発見に応用する。 効率的な探索手法を利用して、無限小のプログラム空間を探索する。 本手法は,単純な最適化アルゴリズムである$textbfLion$$textitEvo$textbfL$ved S$textbfi$gn Mtextbfo$metextbfn$tum$。
論文 参考訳（メタデータ） (Mon, 13 Feb 2023 20:27:30 GMT) - Adamよりも性能の高い最適化方法の提案
- すでにたくさんの突っ込みが入れられているが、Lion (EvoLved Sign Momentum) は無理ありすぎな略称だと思う