- Tabular Data: Is Attention All You Need? [23.8]
本稿では、ニューラルネットワークと、構造データ上の勾配ブースト決定木を比較した大規模な実証的研究を紹介する。 これまでの研究とは対照的に、ニューラルネットワークは決定木と競合することを示している。
論文 参考訳（メタデータ） (Tue, 6 Feb 2024 12:59:02 GMT) - テーブルデータのおけるNN系手法、ツリー系手法の比較。一般的にテーブルデータではツリー系手法の強さが目立つが、そうでもないとの報告。Transformer系手法は十分な性能を出せていないのでは？とのこと
- 平均的にはResNeXtが優秀という意外な（？）結果、スタッキングでどうなるかも興味がある。