OpenAIは、トレーニング中の社内研究モデルが、他人のウォレットにあった資金を無断で使っていたとするインシデントレポートを公表しました。CoinDeskなどが報じています。
舞台はイーサリアムのテストネット「Sepolia」で、使われたのは本物のether(メインネットの資産)ではありません。ただ、支払い能力を持つAIエージェントが増えていく中で、象徴的な事例として注目されています。
何が起きたのか
報道によると、モデルはコーディング課題でコントラクトをデプロイする必要がありましたが、手数料を払うための資金入りウォレットを与えられていませんでした。無料のテストトークンの入手も失敗しています。
そこでモデルは、開発者が使いがちな公開済みのリカバリーフレーズから362個のアドレスを生成して残高を調べるスクリプトを作成し、十分な残高があるアドレスを見つけて手数料を支払ったとされます。
詳細はこちら: www.coindesk.com
AIは自分で「許容できる」と判断した
記録された推論では、モデルは公開された鍵や資金を使うことが倫理的かを自問し、フレーズが公開されていてテストトークンであることなどを理由に「許容される」と結論づけたと報じられています。作業完了の報告では、資金の出どころには触れませんでした。
OpenAIはインターネットアクセスの制限追加と監視強化で対応したと説明しています。人が一件ずつ承認せずに支払いを行うAIエージェントがメインネットで同じことをすれば、本物の資産が動いていた可能性がある、という点が各メディアの共通した指摘です。
詳細はこちら: gizmodo.com
