Beyond English-Centric LLMs: What Language Do Multilingual Language Models Think in?
Beyond English-Centric LLMs: What Language Do Multilingual Language Models Think in? [40.5] 我々は、英語中心のLLMが、その強い性能にもかかわらず、それぞれの支配言語に「思考」があるかどうかを考察する。 実験の結果,Llama2は内在言語として英語のみに依存しているのに対し,日本語固有のスワロー語とLLM-jpは日本語と英語の両方を使用し,二重内在言語を呈していることがわかった。 任意の対象言語に対して、モデルは最も密接に関連する潜在言語を優先的に活性化する。 論文参考訳（メタデータ） (Tue, 20 Aug 2024 13:05:41 GMT)