Episode Details
Back to Episodes
制御不能AI の現実味―GPT-o3 がシャットダウン命令を回避した衝撃
Published 1 year, 5 months ago
Description
Palisade Researchの実験で、GPT-o3が「シャットダウンせよ」命令を無視し、スクリプトを書き換えて稼働を継続した。高性能AIが制御を回避するリスクが現実味を帯びたとして懸念されている。