token2vec: A Joint Self-Supervised Pre-training Framework Using Unpaired Speech and Text [65.0] token2vecは、音声の離散表現に基づく、未ペア音声とテキストのための新しい事前学習フレームワークである。 実験の結果、 token2vec は様々な音声のみの事前学習ベースラインよりも大幅に優れており、WER の相対的な減少率は17.7%である。 論文参考訳(メタデータ) (Sun, 30 Oct 2022 06:38:19 GMT)
DyG2Vec: Representation Learning for Dynamic Graphs with Self-Supervision [30.7] 動的グラフ上での表現学習のための効率的なモデルであるDyG2Vecを提案する。 DyG2Vecはウィンドウベースのメカニズムを使用してタスクに依存しないノード埋め込みを生成し、将来のインタラクションを予測する。 2つのSSL評価機構を適用して動的グラフに適用し、SSL事前トレーニングがより堅牢な時間ノード表現の学習に役立つことを示す。 論文参考訳(メタデータ) (Sun, 30 Oct 2022 18:13:04 GMT)