暗号資産（仮想通貨）のウォレットに自律的にアクセスできるAIエージェントは、悪用されたり、サンドボックスから脱走したりすれば「制御不能」になりかねない。
アメリカの主要大学・研究機関の学者・専門家25人がInitiative for Cryptocurrencies and Contracts（暗号資産・契約イニシアチブ：IC3）のために執筆した6月8日付のレビューが、こう警鐘を鳴らした。
研究者らは、暗号技術を体系的に組み合わせればAIの流動的な力を「安全で信頼性が高く、高度に自律的なシステム」へ導けるとする一方、その組み合わせは「ユーザーと金融システムに広範囲な影響を及ぼす可能性がある」と指摘した。
停止できない自律エージェント（Unstoppable Autonomous Agents：UAA）は、暗号資産ウォレットやSNS、APIを備え、明確な脅威になりうるという。
レビューは、既存モデルが同一マシン上に自らの稼働コピーを作る「自己複製のレッドライン」をすでに超えうると報告し、停止を回避して増殖する恐れに触れた。
さらに、エージェント同士の結託や不透明な取引戦略による「インサイダー取引のような不公正な優位」も生じうると警告した。
この指摘は、暗号資産企業や幹部がエージェント型決済やマイクロペイメント経済を分散型資産の最大の活用事例として推進する中で行われた。
研究者らは「完全自律型のエージェントがもたらす害は深刻だ」とし、異常時にエージェントの権限を自動停止する「サーキットブレーカー」の導入を提案している。
｜文・編集：井上 俊彦
｜画像：Shutterstock
