self-supervised learning – arXiv最新論文の紹介

Walker: Self-supervised Multiple Object Tracking by Walking on Temporal Appearance Graphs

Walker: Self-supervised Multiple Object Tracking by Walking on Temporal Appearance Graphs [117.7]
これは、疎結合なボックスアノテーションとトラッキングラベルのないビデオから学習する、初めてのセルフ教師付きトラッカーである。 Walker氏はMOT17、DanceTrack、BDD100Kで競争力を発揮する最初のセルフトラッカーである。
論文参考訳（メタデータ） (Wed, 25 Sep 2024 18:00:00 GMT)
「Remarkably, our proposal outperforms the previous self-supervised trackers even when drastically reducing the annotation requirements by up to 400x.」を主張するトラッキング手法。
リポジトリはGitHub – mattiasegu/walker: Walker: Self-supervised Multiple Object Tracking by Walking on Temporal Appearance Graphs (ECCV 2024)

A Cookbook of Self-Supervised Learning [85.2]
我々は,調理書のスタイルに基礎と最新のSSLレシピを組み込むことで,SSL研究への参入障壁を低くすることを目指している。興味のある研究者がメソッドの地形をナビゲートし、さまざまなノブの役割を理解し、SSLがいかに美味しいかを探求するために必要なノウハウを得ることを願っています。
論文参考訳（メタデータ） (Mon, 24 Apr 2023 15:49:53 GMT)
Self-Supervised Learningの教科書と言ってもよい論文

Audio Self-supervised Learning: A Survey [60.4]
SSL(Self-Supervised Learning)は、人間のアノテーションを必要とせずに、大規模データから一般的な表現を見つけることを目的としている。コンピュータビジョンと自然言語処理の分野での成功により、近年では音声処理の分野で採用されている。
論文参考訳（メタデータ） (Wed, 2 Mar 2022 15:58:29 GMT)
- 音声分野でのSelf-supervised Learningをまとめたサーベイ。音声単体だけでなく音声＋Visionのようなマルチモーダルな手法もサーベイ対象となっている。

Detecting Anomalies within Time Series using Local Neural Transformations [30.7]
局所ニューラルトランスフォーメーション(Local Neural Transformations, LNT)は、データから時系列の局所変換を学ぶ方法である。 LNTは各タイムステップ毎に異常スコアを生成し、したがって時系列内の異常を検出するために使用できる。我々の実験は,LNTがLibriSpeechデータセットから音声セグメントの異常を見つけ,サイバー物理システムへの割り込みを従来よりもより正確に検出できることを実証した。
論文参考訳（メタデータ） (Tue, 8 Feb 2022 15:51:31 GMT)
- self-supervised を活用して一定期間ごとの表現を学習、時系列での異常検知に活用、優れた性能を達成。
- リポジトリはGitHub – boschresearch/local_neural_transformations: Companion code for the self-supervised anomaly detection algorithm proposed in the paper “Detecting Anomalies within Time Series using Local Neural Transformations” by Tim Schneider et al.

SEAL: Self-supervised Embodied Active Learning using Exploration and 3D Consistency [122.2]
本稿では,SEAL(Self-Embodied Embodied Active Learning)というフレームワークを提案する。インターネットイメージ上で訓練された知覚モデルを使用して、積極的な探索ポリシーを学ぶ。我々は3Dセマンティックマップを用いて、行動と知覚の両方を、完全に自己管理された方法で学習する。
論文参考訳（メタデータ）参考訳（全文） (Thu, 2 Dec 2021 06:26:38 GMT)
- （人がラベル等を与えることなく）3D空間で行動→知覚のループを回すことでオブジェクト検出やセグメンテーションの性能が向上するとのこと。自ら学んでいるように見え、非常に興味深い。
- プロジェクトサイトはSEAL: Self-supervised Embodied Active Learning (devendrachaplot.github.io)

10 Security and Privacy Problems in Self-Supervised Learning [31.0]
自己教師付き学習は、大量のラベルのないデータを使用してエンコーダを事前訓練することを目的としている。本章では,自己教師型学習における学習済みエンコーダのセキュリティとプライバシに関する10の基本的な問題について論じる。
論文参考訳（メタデータ）参考訳（全文） (Thu, 28 Oct 2021 21:45:53 GMT)
- 様々なドメインの自己教師有り学習の概要と10個の攻撃やプライバシーへの問題に関する報告。概要を把握するのによい資料。取り上げられている問題、攻撃、課題は下記の通り。
  - Confidentialityの課題
    - Data Tracing/Auditing
    - Membership Inference Attack
    - Reconstruction Attack
    - Attribute/Property Inference Attack
    - Encoder Hyperparameter Stealing Attack
    - Encoder Parameter Stealing Attack
  - Integrityへの攻撃
    - Backdoor Attacks
    - Poisoning Attack
    - Evasion Attack
  - Availabilityの課題
    - Resource Depletion Attack

AutoNovel: Automatically Discovering and Learning Novel Visual Categories [138.8]
一部のクラスをラベル付けしたイメージコレクションにおける新しいクラス発見問題に対処するため,AutoNovelと呼ばれる新しいアプローチを提案する。我々はAutoNovelを標準分類ベンチマークで評価し、新しいカテゴリー発見の手法をかなり上回っている。
論文参考訳（メタデータ） (Tue, 29 Jun 2021 11:12:16 GMT)
- モデル構築済みの条件下で新たなクラスを発見する研究。ラベル付きデータ＋ラベル無しデータでself-supervised learning、ラベル付きデータでモデル構築、このモデルをラベル無しデータのクラスタリングに利用、新たなクラス数の推定というステップのよう。
- コード等はhttps://www.robots.ox.ac.uk/~vgg/research/auto_novel/から確認可能。

Self-Supervised Bug Detection and Repair [27.5]
本稿では,バグ検出と修復の自己教師型学習手法であるBugLabを紹介する。 BugLabのPython実装では、2374の実際のバグのテストデータセットのベースラインメソッドで最大30%改善されている。
論文参考訳（メタデータ） (Wed, 26 May 2021 18:41:05 GMT)
- 機械学習（self-supervised learning）を使ったバグ検出。OSSのソフトウェアから新たに19個のバグを発見（偽陽性率は実用的ではないとの記載あり）したとのこと。