Which Model Shall I Choose? Cost/Quality Trade-offs for Text Classification Tasks [40.1] 本稿では,テキスト分類タスクに着目し,この課題の定量的分析を行う。 分類精度を主指標として,様々なモデルの分類器の性能を評価する。 次に、推論に必要なサンプルが多数存在するような状況におけるモデル選択について議論する。 論文参考訳(メタデータ) (Tue, 17 Jan 2023 16:51:58 GMT)
SimpleBERT: A Pre-trained Model That Learns to Generate Simple Words [59.1] 本研究では,テキストの簡易化を継続する事前学習手法を提案する。 我々は、継続事前学習に小規模な単純なテキストデータセットを使用し、簡単な単語を識別するために2つの方法を用いる。 語彙単純化タスクと文簡略化タスクの両方においてBERTを超えるSimpleBERTを得る。 論文参考訳(メタデータ)参考訳(全文) (Sat, 16 Apr 2022 11:28:01 GMT)
Formal Analysis of Art: Proxy Learning of Visual Concepts from Style Through Language Models [10.9] 本稿では,美術の視覚的要素と原理を用いて絵画を定量化する機械学習システムを提案する。 本稿では,絵画の視覚概念を学習する手法として,プロキシ学習(プロキシラーニング)を提案する。 論文参考訳(メタデータ) (Wed, 5 Jan 2022 21:03:29 GMT)
Point-BERT: Pre-training 3D Point Cloud Transformers with Masked Point Modeling [104.8] BERTの概念を3Dポイントクラウドに一般化するための新しいパラダイムであるPoint-BERTを提案する。 提案したBERTスタイルの事前学習戦略は,標準点クラウドトランスフォーマーの性能を著しく向上することを示す実験である。 論文参考訳(メタデータ) (Mon, 29 Nov 2021 18:59:03 GMT)
MPM(Masked Point Modeling)というBERTにインスパイアされたタスクで事前学習、ModelNet40で優れた性能を発揮とのこと。
LAnoBERT : System Log Anomaly Detection based on BERT Masked Language Model [2.0] システムログ異常検出の目的は、人間の介入を最小限に抑えながら、即座に異常を識別することである。 従来の研究では、様々なログデータを標準化されたテンプレートに変換した後、アルゴリズムによる異常検出が行われた。 本研究では,BERTモデルを用いた自由システムログ異常検出手法であるLAnoBERTを提案する。 論文参考訳(メタデータ)参考訳(全文) (Thu, 18 Nov 2021 07:46:35 GMT)
Changes in European Solidarity Before and During COVID-19: Evidence from a Large Crowd- and Expert-Annotated Twitter Dataset [77.3] 我々は,NLPにおける教師付き機械学習の新たな課題として,社会的連帯という社会科学的概念とその反対である反連帯の概念を導入する。 我々は,複数のアノテータと2つのアノテーションアプローチ(専門家対群衆)を利用して2.3kの英語とドイツ語のつぶやきをアノテーションした。 これらのアノテーションを使って、複数のデータ拡張戦略でBERTモデルをトレーニングし、2019年9月から2020年12月までに27万以上のツイートを自動的にラベル付けし、ヨーロッパの言論が、時間とともにどのように発展していくかに関して評価する。 論文参考訳(メタデータ) (Mon, 2 Aug 2021 17:03:12 GMT)
MWP-BERT: A Strong Baseline for Math Word Problems [47.5] 数学語問題( Math word problem、MWP)とは、自然言語による問題記述の列を、実行可能な数学方程式に変換するタスクである。 近年, MWP の逐次モデル化は, 文脈理解の数学的側面から評価されているが, 事前学習言語モデル (PLM) はMWP の解法として研究されていない。 我々はMWP-BERTを導入し、テキスト記述と数理論理の整合性を捉える事前訓練されたトークン表現を得る。 論文参考訳(メタデータ) (Wed, 28 Jul 2021 15:28:41 GMT)