- ELECTRA is a Zero-Shot Learner, Too [14.3]
「プレトレイン・プロンプト・予測」は「プレトレイン・ファイン・チューン」のパラダイムに比べて目覚ましい成果を上げている。 本稿では,代用トークン検出(RTD)に基づくプロンプト学習手法を提案する。 実験結果から,RTD-prompt 学習に基づくELECTRAモデルが驚くほど最先端のゼロショット性能を実現することが示された。
論文 参考訳（メタデータ） (Sun, 17 Jul 2022 11:20:58 GMT)- ELECTRAもゼロショット能力があり、しかも性能が高いという指摘
- リポジトリはGitHub – nishiwen1214/RTD-ELECTRA: Code of paper: “ELECTRA is a Zero-shot learner, Too” — Prompt-based ELECTRA for zero-shot learning.