- When AI Agents Collude Online: Financial Fraud Risks by Collaborative LLM Agents on Social Platforms [101.2]
大規模言語モデル(LLM)エージェントを用いた大規模マルチエージェントシステムにおける集団金融詐欺のリスクについて検討する。 金融詐欺シナリオをシミュレーションするための大規模ベンチマークであるMultiAgentFraudBenchを提案する。
論文 参考訳（メタデータ） (Sun, 09 Nov 2025 16:30:44 GMT) - 「This study provides a comprehensive examination of collective financial fraud in multi-agent systems, revealing the potential for agents to collaborate in fraudulent activities and significantly amplify risks. Our MultiAgentFraudBench benchmark allows for the systematic analysis of various fraud scenarios, offering insights into the key factors that contribute to the success of fraud operations.」とのこと。Disrupting the first reported AI-orchestrated cyber espionage campaign \ Anthropicといった報告もありAIを用いた攻撃は現実になっている。
- リポジトリはGitHub – zheng977/MutiAgent4Fraud: Official implementation of “When AI Agents Collude Online: Financial Fraud Risks by Collaborative LLM Agents on Social Platforms”