Episode Details

今回は、Anthropicが公開した「Claudeの新しい憲法（Claude’s New Constitution）」について深掘りします。この動きは、AIの倫理観や価値観を誰が決めるのか、という業界の長年の課題に対する一つの回答と言えるでしょう。

Anthropicはこれまで、国連人権宣言やAppleの利用規約などを参考に、AIが従うべき「憲法（Constitution）」を独自に策定してきました。しかし、この手法には「シリコンバレーの少数の研究者が、世界中で使われるAIの道徳観を決めていいのか？」という批判が常に付きまとっていました。そこで今回彼らが導入したのが、「Collective Constitutional AI」という新しい試みです。

具体的には、非営利団体「Collective Intelligence Project (CIP)」と提携し、約1,000人の米国市民を対象にアンケートを実施。「AIはどのようなルールに従うべきか」という意見を収集しました。集まった意見には、「客観的であるべき」「アクセスしやすい表現を使うべき」といった項目が含まれており、これらを統合してClaudeの新しい憲法に追加しました。

このプロセスの技術的な肝は、集めた意見を単なるガイドラインで終わらせず、RLAIF（AIによるフィードバックを用いた強化学習）のプロセスに直接組み込んだ点にあります。これにより、Claudeは市民の声を反映したルールに基づいて、自らの回答が良いか悪いかを判断し、トレーニングを行うことが可能になりました。

競合であるOpenAIなどが採用するRLHF（人間によるフィードバック）は、アノテーター（評価者）個人のバイアスが入りやすく、スケールもしにくいという課題があります。対してAnthropicの手法は、明文化されたルールをベースにするため透明性が高く、今回のように「民主的なプロセス」をルールの策定段階に組み込めるのが大きな強みです。今回の取り組みは、AIアライメント（AIを人間の意図に沿わせること）を、技術的な問題から社会的な合意形成の問題へと昇華させる重要なステップとなるでしょう。