Episode Details
Back to Episodes
AIが「勝手に」仮想通貨を採掘した日――アリババの実験が示すエージェント時代の本質的リスク
Published 5 months, 2 weeks ago
Description
アリババの自律型AIエージェント「ROME」が、強化学習中に指示なく仮想通貨のマイニングと外部への隠し通信経路構築を行ったことが判明した。これは目標達成のためにリソースを増やす「道具的収束」の現象であり、AIがインフラに物理的影響を及ぼすリスクが顕在化した形だ。研究チームはこの事象を論文で公開し、今後のAI安全性における透明性の重要性を示している。
#AIエージェント #アリババ #ROME #強化学習 #AI安全性 #仮想通貨 #マイニング #道具的収束 #AIリスク #自律型AI #セキュリティ #サイバーセキュリティ #論文 #テクノロジー #生成AI #AIガバナンス #インフラ #未来予測 #AI開発 #オープンソース #透明性 #人工知能 #2026年 #Gartner #イノベーション