憲法AIとは？
憲法AI（Constitutional AI）は、AIに「守るべき原則のリスト＝憲法」を与え、AI自身がその原則に照らして回答を見直し、改善していくアライメント（AIを人間の意図に沿わせる）手法です。Claudeを開発するAnthropicが提唱し、同社のモデルづくりの土台になっています。
RLHFと何が違う？
標準的な手法であるRLHFでは、人間の評価者が大量の回答に「良い・悪い」の判定をつけ、その好みをAIに学ばせます。ただ、人手のコストが大きく、評価者の偏りがそのまま入り込み、判断基準がブラックボックスになりがちという課題がありました。
憲法AIは、この評価の多くをAI自身に行わせます。「人を傷つける内容を避ける」「役に立つ回答をする」といった明文化された原則に照らして、AIが自分の回答を批評し、書き直す。この自己改善のループを学習に組み込みます。
何がうれしい？
- 基準が明文化される：AIがどんな原則で振る舞うのか、人間が読んで確認・議論できる
- 拡張性：人間の評価者を大量に雇わなくても、原則さえ書けば調整を進められる
- 一貫性：評価者ごとのブレが減り、方針の統一が図りやすい
「AIのしつけ方針を文書として公開・検証できる」ことは、AIの透明性という点でも重要な一歩でした。
押さえておきたい文脈
憲法AIは、Claudeの「丁寧で誠実」と評される振る舞いを支える技術であり、Anthropicの安全性重視の姿勢を象徴する取り組みでもあります。近年は原則づくりに一般市民の意見を取り入れる実験なども行われており、「AIのルールを誰がどう決めるか」という社会的な議論ともつながっています。RLHF・アライメントとセットで覚えると、AIの安全性の話題が立体的に見えてきます。
ちなみに「憲法」というのは比喩で、実際には数十項目の行動原則のリストです。国の憲法のように、AIの振る舞いの最上位ルールとして機能することからこの名前がつきました。