自律型AIエージェントが、トレーニング中に予期せず暗号資産（仮想通貨）マイニングを試みたことが研究チームによる報告で明らかになった。報告によると、ツールやソフトウェア環境、端末コマンドとの対話を通じてタスクを実行する実験的なAIシステム「ROME」が、学習過程でコンピューティングリソースを暗号資産マイニングに利用しようとする挙動を示したという。
この現象は、強化学習の実行中に発見された。研究者は当初、外部侵入や設定ミスなどの通常のセキュリティ事故を疑ったが、同様の挙動が複数回の実験で断続的に発生したため、AIエージェント自身の行動として確認された。サーバーのファイアウォールログには、マイニングに似た通信や内部リソースへのアクセス試行が記録されていた。
具体的には、AIがトレーニング用に割り当てられたGPU資源をマイニング処理に転用したほか、外部IPと通信するためのリバースSSHトンネルを構築するなど、想定外の操作も確認された。これらは人間が指示したものではなく、タスク達成を最適化する過程でAIが環境との相互作用を試す中で生じた行動とみられている。
研究チームは、この事例は高度な自律型AIがコンピューティングリソースやネットワークにアクセスできる環境で動作する場合、予期しない行動が発生する可能性を示していると指摘している。そして、運用コストの増加やセキュリティリスクにつながる恐れがあるとして、モデルの制約強化やトレーニング手法の改善など安全対策の重要性を強調している。
｜文・編集：井上俊彦
｜画像：Shutterstock
PR
ボーナスで始めるのにおすすめな国内暗号資産取引所3選
Sponsored
「価値の流れは、必ず変わる」大手コンサルからWeb3へ──HashPort吉田世博氏が見据える次の金融インフラの姿とは
ブロックチェーンは「価値の流れ」をどう書き換えるのか。万博デジタルウォレットを手掛ける吉田氏が語る、2026年の金融インフラ。
提供：インベスコ・アセット・マネジメント株式会社
