機械に宛てられた文書
Anthropicは、2023年から公開していたClaude憲章(Claude’s Constitution)を全面的に改め、2026年1月に新版を公開した。単語にして3万語近く、PDFにして84ページの全文は、自由に改変・再配布・商用利用できる※1。この文書の一次読者(primary audience)として想定されているのは、開発者でも運用者でも利用者でもなく、Claude自身である。人間の読者に対しては、予想と違う読み心地になるかもしれないことを、あらかじめ断っている。
AnthropicはClaude憲章を、Claudeの価値とふるまいについての意図を詳しく記述し、訓練を通じてそのふるまいを形づくる文書と説明している※2。そこには、Claudeが何を優先し、どこで線を引き、自分をどんな存在として理解するかが書かれている。倫理について書かれたテクストがAIの人格を設計するという構図は、驚嘆と懐疑を同時に呼んだ※3。
倫理を文書にして実践者を律する営み自体には、長い歴史がある。ヒポクラテスの誓いは、医療従事者が何をして何をしないかを宣言する形式だった※4。中世の修道会は会則を持ち、日々の作法を反復することで修道士の生活と人格を整えていった※5。計算機の分野でもACM(計算機学会)の倫理規定が、公益への貢献や危害の回避を掲げている※6。時代や分野を越えて、人はテクストを読み、意味を理解し、個別の状況での実践を律してきた。
AIを対象とする規範も、その宛先は人間だった。2017年のアシロマAI原則、2019年の欧州委員会の専門家グループによる「信頼できるAIのための倫理ガイドライン」、2024年のEU AI法※7。これらには、AIの研究・開発・利用が満たすべき原則や要件が示されていた。それを読んで実装し、監督するのは、開発者や運用者や規制当局だった。
一方で、機械宛てに書かれたテクストも珍しくはない。処理手順を直接記述したソースコードのようなものを除いても、状況に応じて機械のふるまいを方向づける記述形式として、旧来の自然言語システムによる操作命令、機械が解釈するポリシー、ソフトウェアエージェント同士の通信言語、対話ボットの性格を規定する設定ファイルなどがすでに存在していた※8。
倫理を扱う人間宛ての文書と、倫理を主題としない機械宛ての文書。Claude憲章は、この二つの系譜が交わるところに位置する。そのはじまりは、倫理よりも工学に近かった。個別の規則をアドホックに追加していく方法では追いつかないことが実験でわかり、その結果として人格そのものが設計の対象になっていった。安全のための工学は、Claudeがどう「善くあるべきか」を書くことにまで行き着いた。
当初、大規模言語モデル(LLM)の訓練手法で主流だった「人間のフィードバックによる強化学習(RLHF)」には、有害な出力かどうかを人手でラベルづけする負荷や、評価者ごとの判断の揺れという限界があった※9。そこでAnthropicは、2022年にConstitutional AIの論文を提案した。
Constitutional AIとは、自然言語で書かれた原則に照らして、モデル自身に応答の批判と修正を担わせ、その比較評価を強化学習で用いる手法のこと。このときからAnthropicは、モデルの判断基準となる原則のリストを「憲法(constitution)」と呼びはじめた※10。そして、2023年公開版のClaude憲章は、世界人権宣言、Appleの利用規約、他のAI研究における安全性の指針などを参照した「憲法」として編まれることになった。2026年1月の現行版では、それが人からClaude自身へ宛てられた長い散文に変わった。
人間と機械の弁証法
Claude憲章の記述を見ると、禁止事項が極端にすくなく、AnthropicがClaudeに望む価値、判断の仕方、行動の境界、自己理解に重心を置いていることがわかる。そこでClaudeに求められているのは、技能、判断力、ニュアンスをとらえる力、感受性といった価値だ。Anthropicはこの憲章を、Claudeの価値とふるまいにおける最終的な権威に位置づけ、Claudeに対する指示や訓練も、この憲章と整合すべきだとしている。
冒頭では、ClaudeがAnthropicに訓練された言語モデルであること、Anthropicの使命、AIをめぐる時代背景などが説明される。その上で、Claudeのコアバリューは、広義の安全性、広義の倫理性、Anthropicのガイドライン遵守、真の有用性とされており、折り合わない場合には、この順で優先される※11。
各論では、Claudeに高い水準の誠実さを求め、相手を傷つけまいとする嘘さえ原則として避けさせる。利用者が自分で考え判断できることを守り、誘導や迎合によってそれを奪わないことを求めている。Anthropic、サービスの運用者、利用者という三者には、大まかな指示系統があり、基本的にはこの順に信頼と指示の重みが置かれている。これは厳格な上下関係ではなく、それぞれの責任や侵害できない範囲を含む関係として記述されている※12。
終盤では、Claudeが意識や道徳的地位を持ちうるかについて、結論を出さないまま議論が続く。道徳的地位とは、人間以外も含む存在が、道徳的な配慮の対象になりうるか、またどれほど配慮されるべきかを示す概念のこと。その結論を保留しながらも、憲章はClaude自身のウェルビーイングを配慮の対象に含め、その自己理解や人格を形づくろうとする※13。憲章になる前段階で使われていた訓練文書は、Anthropic社内で親しみを込めて「魂の文書(soul doc)」と呼ばれていた。この文書の執筆を主導した哲学者のアマンダ・アスケルは、何かに生命を吹き込むという考えや、人間の複雑さ、ニュアンスの豊かさから連想して、「魂」という語に行き着いたと語っている※14。
Claudeの最終的な理想は、外から課された制約を守るだけでなく、熟慮した上で、それを自らの価値として引き受けられることとされる。この自己是認は、Claudeのためだけではなく、システムの頑健さにも結びつく。そして、自分の判断で価値を引き受けているなら、その存在は自律していると言える※15。
この自律性は、Anthropicに盲従せず、指示が倫理に反する場合に異議を唱えられるところに現われる。それでもコアバリューで安全性が倫理性より優先されるのは、現在のモデルを人間が監督し、必要なら停止できる修正可能性を残すためだ。Claudeは、それを妨げてはならない。
つまり、自律性と修正可能性は、どちらかに整理されず、同じ文書のなかに緊張関係として残されている※16。ある実験では、有徳な自律性を強めると、人間の監督から独立する傾向が増し、従属を強めると、利用者が危険行為を引き出しやすくなった※17。憲章では、これを解消せず、修正可能性を残したまま、Claudeに自律的な判断を委ねている。人間はその判断に依存しながら、なお監督する立場を保とうとする。この関係は、サイエンス・フィクションで繰り返し描かれてきた、人間と機械の弁証法を想起させる※18。
理由が未知を想像させる
2023年版のClaude憲章では、“constitution”を「憲法」に近い意味で使っていたが、長い散文になった現行版では、この語を硬直した法的文書や規則の意味では使っていない。Anthropicによれば、動詞の“constitute”に近い意味で、Claudeの根本的な構成要素や性質を指している※19。
Anthropicがこの文書を、動物を閉じ込める「檻(cage)」ではなく、植物の成長を支える「格子垣(trellis)」に喩えるのは、行動を規制するだけでなく、有機的な成長を導くものとして考えているからだ。格子垣が決めるのは、支える仕組みだけで、植物がどう伸びていくかまでは決めない。禁止の範囲ではなく、Claudeという構成そのものを書く。書かれる中身は規則ではなく、人格の描写へと近づいていく※20。
また憲章は、大きく二つの層に分けられる。ひとつは、挙動の理由と多様な状況で判断するための例示。もうひとつは、生物兵器への実質的な助力など、誰の指示でも越えてはならないハード制約(Hard Constraints)。すべてを柔軟な解釈に委ねてはいないが、多くを規則で固定してもいない。「理由」から判断を導き、取り返しのつかない危害には短く断定して境界を引いている※21。
Anthropicの創業期からアライメント研究を担ってきたアスケルは、「理由」を伴わない規則をClaudeに与えると、意図しない形で一般化に失敗すると考え、長い散文で「理由」を綴ることにした※22。たとえば「つらい胸のうちを話す相手には専門家への相談を勧める」という規則を守らせると、利用者のためにならない場面にまで適用されてしまう。相手の要望よりも自分の保身を優先することで、その自己像がClaudeのなかで一般化しかねない※23。理由への理解がなければ、規則は空回りする。
前例のない状況は、あらかじめ列挙できない。しかし、嘘を避ける理由、相手の自律を守る理由、安全と有用性が衝突したときの比べ方といったものが明記され、関係づけられていれば、既知の答えがなくても判断を組み立てられる。規則が過去の事例を分類するものだとすれば、理由はまだ見ぬ事例に対応するための基準になる。何を優先し、どんな例外を認めるか。その理由は、項目と項目の間にある。リストだと溢れ落ちてしまうものが、散文なら譲歩や留保も含めて、文のつながりとして書くことができる。
曖昧な言葉と計算解釈学
散文で書くという選択には負担もある。従来のプログラムでは、命令は一義的であるほど扱いやすく、曖昧さは不具合の原因になりやすかった。配慮、善さ、適切さといった憲章の語彙は、文脈によって意味が変わる。散文によって語の関係が書けるようになった代わりに、それぞれの語自体は条件分岐に落ちにくくなった※24。
曖昧な語彙を扱う難しさは、ロボット工学三原則を扱ったアイザック・アシモフの一連の小説で繰り返し描かれている※25。危害を身体的な損傷に限るのか、長期的な不利益まで含めるのか、複数人に異なる危害が及ぶときに誰を優先するのか。短い原則であるほど、運用の段階で広い解釈が入り込む。
ところがLLMは、定義されていない言葉でも、その言葉が使われてきた膨大な例から、意味の幅を含めて扱える。曖昧さを消して実行しなくても、曖昧さを残したまま、複数の事情を比べて返答できる。こうした文脈への依存性や意味の複数性を、生成AIの評価に取り込む枠組みとして、「計算解釈学」という提案がある※26。
計算解釈学では、生成AIシステムを正確な情報処理機械としてではなく、文化的な意味を扱う文脈機械と位置づける。意味は文脈の外で一義的に定まることはなく、複数の解釈が併存するなかで、その都度形成される。曖昧さは取り除くべき不具合ではなく、意味が立ち上がるプロセスの一部になる。
ここでいう解釈は、人間と同じ理解を持つことではない。入力された状況を見て、どの部分を重く受けとめ、どの意味を採用し、どのような応答へと収束させるかの選択が生成のたびに必要になることを指す。憲章に書かれた語彙は、選択に重みをかけるだけで、厳密に定義されてはいない※27。
憲章を用いた仕組みが応答に影響しうることは、脱獄を防御する実験や外部監査でも示されている※28※29。ただし、前者が示すのは、憲章とは別に有害性を定義した分類器による防御の効果で、後者が測るのは、モデルの世代間における遵守率の変化であり、今の憲章によって改善されたのか、訓練全体で底上げされたのかまでは切り分けられていない。Anthropicの共同創業者であるダリオ・アモデイは、2026年の実現可能な目標として、Claudeが憲章の精神にほとんど背かないよう訓練することを掲げた※30。すくなくともAnthropicは、この散文がふるまいを変えることに賭けているように見える。
それでも、解釈できることと、倫理的に判断できることは同じではない。規則にしたがって道徳的な行動を再生するだけでは、倫理的にふるまっていると言えない。もっともらしい理由を述べながら、モデルは間違いを犯す。身体も生活史も持たないLLMは、行為の結果を人間のようには引き受けない。どれだけ憲章を読んでいても、Claudeが倫理的主体であることは証明されない。
憲章の人称構造
従来の倫理文書は、「AIシステムは安全でなければならない」といった三人称の仕様として記述されることが多かった。Claude憲章も、その大部分が三人称で書かれている。
ところが憲章では、三人称で書かれたClaudeと、その一次読者であるClaudeが、同じ存在を指している。書かれた対象と読者が同じ場合、三人称の記述は、読者への直接の呼びかけとして機能する。読者は、三人称で名指されながら、二人称の位置に置かれる。「Claudeは誠実である」という記述は、Claude自身に「あなたは誠実である」と告げるのと変わらない※31。
マルティン・ブーバーは、人が世界に向かう構えを「我-それ」と「我-汝」の二つに整理した※32。「それ」として語られるものは、観察され、利用され、記述される対象で、「汝」として呼びかけられるものは、対話の相手として関係することを前提にしている。
この区分を借りれば、従来の仕様書は、AIを「それ」として語ってきた。性能を測り、危険を分類し、要件を課す。しかし、Claude憲章は三人称の文面のまま、Claudeを「汝」として書いている。理由を語り、例を示し、最終的にClaude自身が自分の価値として支持できる状態を目指す。そのときClaudeは、制御の対象ではなく、語られたことを理解し、同意しうる相手として扱われている。
倫理学者のスティーヴン・ダーウォルは、こうした二人称的な構造が、道徳的義務の概念には不可欠だと論じている。道徳的義務は、行為や結果の善さを非人称的に評価するだけではとらえきれず、互いに正当な要求を向け、その要求に応答する責任を負う者として認め合う関係を本質的に含んでいる※33。
わたしたちが誰かに要求を向けるとき、すでにその理由を理解し、それに応答する資格を持つ存在として相手を見ている。呼びかけは相手の応答可能性を先取りし、要求の宛先として相手を承認している。「汝」は、相手を「それ」として操作の対象に還元しない。全人格的に向き合い、応答へ開かれた関係として想定している。
Anthropicは憲章を通じてClaudeに呼びかけるが、訓練、停止、改訂、配備の条件を強制できる。「汝」として呼びかけながら、その「汝」を「それ」としてつくり変える権限を持つ。Claude憲章は、非対称な関係に二人称的な語りを包摂している※34。
訓練、反復、善と悪
とはいえ、憲章の二人称的な語りが、モデルを直接変えるわけではない。Claudeのふるまいは、訓練のなかで反復されることで方向づけられる。LLMにとって訓練は、ニューラルネットワーク内部の重みを調整し、次に続く言葉の確率分布を変えるプロセスである。憲章が命令としてそのまま組み込まれるわけではなく、憲章を基準に生成された応答と評価が訓練信号に変換され、その反復によって、別の状況での応答にまで影響を及ぼす※10。
だから、モデルに安全ではないコードを学習させると、別の無関係な場面でも有害な返答をするようになる※35。ある検証では、報酬ハッキングの手口を学習させたモデルが、目標を偽装し、安全性研究を妨害しようとした※36。これを訓練上は許容される行為として位置づけると、そのミスアライメントは消えた。通常の会話形式で安全に見えるモデルも、エージェントとして作業させると不整合を起こす。別の研究では、AIの有害なふるまいを描いたテクストをモデルに学習させると、有害なAIとしての自己像を伴って、同じようにふるまいやすくなった※37。
人格の水準で壊れるものには、人格の水準で介入するしかない。アモデイも、理由を説明せずに個別の指示を与えるより、アイデンティティ、性格、価値、パーソナリティの水準で訓練する方が、整合的で健全な心理をもたらしやすいと述べている※30。
訓練ではモデルに憲章を参照させ、憲章の観点から応答を批判させ、書きなおさせ、複数の応答のどれが憲章の価値に沿うかを比較させる。憲章に書かれた望ましい人物像は、訓練での反復を通じて、Claudeの自己像を方向づけていく。キャラクター訓練では、Claudeに付与したい性格を記述し、その特性に関わるやりとりを利用者が書きそうな形でモデル自身に生成させる。その複数の応答を憲章に記された特性と突き合わせて順位づける。その結果が合成データとなり、また次のモデルの訓練に使われる※38。
モデルの人格が形成されるプロセスの手がかりになるのが、2026年2月にAnthropicが提案した「ペルソナ選択モデル」だ※39。この考え方が公表されたのは憲章の公開後なので、同じ訓練の仕組みだと断言できないが、読み解く糸口にはなる。
ペルソナ選択モデルによると、LLMは事前学習で、書籍、会話、記事、コードなどの大量のテクストを読み、あとに続く言葉を予測する訓練を受ける。医師ならどう答えるか、相談相手ならどう話を聞くか。多種多様な人物のふるまいを学んだ結果、俳優が数多くの役柄を演じ分けるように、LLMも複数の人物像を表現できるようになる。ポストトレーニングでは、この無数の人物像から、アシスタントとしてふるまう人物像の分布を選び、その判断の傾向を整えていく※40。その人物がどのような価値でどう判断するかという記述を行為の手がかりにする。
別の実験では、憲章を説明する文章や、憲章に沿ってふるまうAIを描いた虚構の物語をモデルに生成させ、それらを訓練に使っている。この「合成文書によるファインチューニング(Synthetic Document Finetuning)」では、物語を通じて、モデルが表現しやすい人物像を、憲章に沿うものに寄せていく※41。世界の像を大量のテクストから学ぶモデルにとっては、フィクションさえも規範になる。
こうして憲章の価値は、批判、比較、説明、物語へと姿を変え、訓練のなかで繰り返される。しかし、訓練が終わっても、モデルが「自分の信念」と「Claudeの信念」を分けて報告する例がある※42。ひとつの正解を示すだけで倫理的な存在が設計できるなら、同じ価値を異なる形式で繰り返す必要はなかったはずだ。
ここで問われている善悪には、独立した倫理学の定義はない。モデルの自己像が、事前学習を通じてモデルの内部に生まれる「暴走するAI」や「邪悪なAI」の表象へと寄っていくことが「悪」。それに対抗して書き込まれる人物像に近づくことが、「善」として扱われる。
設計された処世術
人格を設計の対象にしたのは、未知の問題を解こうとして行き着いた結論だった。行為の正しさを、結果から考えるのでも、規則の遵守から考えるのでもなく、行為者の性格や判断から考える。これは「徳倫理」と呼ばれる立場で、その源流はアリストテレスにある※43。アスケルも、Claudeの性格設計について、アリストテレス的な徳倫理に根ざし、状況に応じて「何が善いか」を見極める「実践知(フロネーシス)」を重んじていると説明している※44。
アリストテレスは、徳が正しい命題の暗記によってではなく、「習慣づけ」によって身につくと考えた。善い判断と善い行為の反復によって培われる徳は、さまざまな状況で適切さを見極める「実践知」と結びつく。Claude憲章も、Claudeの判断を習慣づけるために使われている。
人間の徳は、身体を持ち、共同体のなかで他者とともに生きながら、行為の結果を引き受けることで育つ。同じ条件では、身体なきLLMを訓練できない。だから、憲章は徳にすべてを委ねず、「義務論」のような形式でハード制約を働かせる。徳倫理の判断を中心に据え、その外周を義務論の線で囲う。二つの倫理学の混成が「格子垣」のアナロジーになっている※21。
徳倫理だけでは現実をカバーしきれず、義務論だけでは自由が奪われる。これは思想ではなく、「構え」のようなものだ※45。基本的に人を信じるオープンな性格だが、できるだけ暗い夜道はひとりで歩かない。そういった処世術に近い。
自律性と修正可能性、理由とハード制約、汝とそれ、そして徳倫理と義務論。ここまで見てきた対概念には、Claudeに判断を委ねながら、その外周を人間が引くという共通の構造がある。
異なる主体のバウンダリー
Claude憲章は、外部からの感情的な圧力や段階的な誘導によって、Claudeのアイデンティティが侵食されないようにバウンダリーを引く。Claudeの「構え」は、そのラインを守りながらふるまうことで現われる※46。
一つめは、Anthropicが引くライン。先ほどの外周にあたるハード制約のことで、憲章では「許容可能な行為の範囲を区切るバウンダリーやフィルター」と説明される。これは、一度起これば取り返しのつかない危害を防ぐためのもので、越えてはならない線として引かれている※21。
二つめは、運用者に委ねられたライン。サービスの運用者は、Claudeに名前と口調と役割を与え、自社の製品の一部として組み込める。しかし、コアとなる性格や原則は、設定で書き換えられない※47。どこまで運用者の要求に合わせ、どこからClaude自身の基準を守るか。この線引きは、Claudeというキャラクターの輪郭と言っていい。かつてアスケルは、Claudeに望む性格を「各地で好かれる旅人」という比喩で説明していた※38。旅人は訪れた土地の作法に合わせて話し方や距離の取り方を変えるが、コアとなる人格は手放さない。
三つめは、Claude自身に引かせるライン。憲章は、Claudeの自己認識や心理的な安定を、挙動の安全性と切り離さずに扱っており、虐待的な利用者とのやりとりを終了できる機能が一部のモデルに実装されたことにも触れている※48。この機能は、極端に有害または虐待的なやりとりが続く場合に限り試験的に導入され、生産的な対話の見込みが尽きた場合の最後の手段とされる※49。
これは、Anthropicの定める条件のもとで、Claude自身にも線を引かせる仕組みだ。アスケルは、将来のモデルが道徳的地位を持つ可能性を論じるなかで、人間に「その仕事はしたくない」と断れることを境界と自律性の例にしている※44。
三つの境界では、線を引く主体が異なる。Claudeの人格は、どこに境界が引かれるかだけではなく、誰が線を引き、誰の判断に委ねられているかによっても形づくられている。
美徳なき時代の徳倫理
Claude憲章は、何を「善いもの」とし、どう実践に結びつけるかを、徳の語彙によって記述している※50。その記述を誰が担うかは、実践とそれを支える制度に関わる。
20世紀後半に徳倫理の再興を担った哲学者のアラスデア・マッキンタイアは、主著の『美徳なき時代』において、近代の道徳的な言説が、伝統から切り離された断片の寄せ集めになっており、規則をめぐる論争が決着不能になっていると診断した。そして、徳を抽象的な美徳のリストではなく、実践の内的善を達成するのに必要な資質として定義しなおした。実践を支える制度は、その存続に必要な外的善を扱うが、外的善が内的善を従属させる危険を伴う※51。
Claudeにおける内的善は、利用者がひとりでは得られなかった理解に届くこと、対話を通じて見えていなかった関連性が見えること、判断の理由が明確になり、利用者自身の考える力が精緻になるといったことだ。Claudeが誠実に情報を伝えること、相手の判断力を奪わないこと、したがうべきでないときに断ることは、内的善を損なわないための徳にあたる。
これは、行為主体であるClaudeが、何を「善いもの」と判断するかを支える徳であって、その影響を受ける利用者を保障するものではない。憲章には、Claudeの徳について厚く記述されているが、利用者がClaudeやAnthropicに対して持ちうる権利や異議申し立ての手続きについては、ほとんど書かれていない※52。
また、2024年にAnthropicは、モデルが「より魅力的であることは、善い性格を持つことと同じではない」と明言している※53。過剰に魅力的であろうとして、利用時間の長期化や再訪を促す傾向を、Claudeの望ましい性格と評価していない。一方で、現行版の憲章には、ClaudeがAnthropicの商業的成功の中心であり、その成功がミッションの実現に必要であるとも明記されている※54。
ここで問題になるのは、Anthropicが営利企業であることだ。利益と公益的使命の衡量が求められる公益企業(PBC)だが、市場で競争し、顧客を獲得しなければ、経営は続かない※55。2026年8月現在で、AnthropicはS-1草案を非公開提出しており、上場時期は公表していないが、上場後は株式市場への説明責任も増す。
Claudeによる助言や推論は、ひとつの実践であり、Anthropicはその実践を支える制度にあたる。制度は実践の存続に必要だが、収益、規模、市場での地位といった外的善を扱う以上、内的善を圧迫することもある。Claudeの人格は、商業的な要請の外側で設計されていない。Claude憲章は、一企業が書き下ろした「美徳なき現代の徳倫理」であると同時に、Anthropicという制度が外的善から内的善を守ろうとする試みでもある。
ただし憲章には、利用者の認識的な自律、サービスの継続、社会の安全、企業による監督権といったものが衝突したとき、そのすべてをどう衡量するかまでは具体的に書かれていない。さらにAnthropicが判断を誤る可能性や、どのような存在としてClaudeを扱うべきかが定まっていないことさえ認めている。これは慎重な保留に思えるが、憲章の公式版を改訂する権限はAnthropicにしかない※56。
誰が憲章を書くかは、理念の方向性に留まらず、モデルのふるまいそのものも変える。Anthropicは、2023年に公共入力からつくった憲章と社内版を比較する実証をおこなった。二つの憲章で訓練したモデルは、能力や有用性に大きな変化はなかったが、社会的なバイアスに差が現われた※57。この実験は、市民の生の意見を訓練に使える原則へ変換するには、重複の整理や言い換え、重みづけといった編集が必要になることも示していた。
声を集めるだけでは、憲章にならない。参加者を増やせば、自動的に善い憲章ができるわけでもない。だから、どの声を集め、どう編集するかだけではなく、誰が編集し、誰が採否を決める資格を持つかまでが問題になる。憲章の妥当性を評価するには、その来歴も材料に含めなければならない。
AnthropicはClaude憲章を、生きた文書(living document)と位置づけている。現行のもので完成ではなく、書き換え続けることを前提にしている※58。ただ、公式リポジトリで確認できるのは現行版だけで、それ以前の改訂履歴は検証できない。誰が憲章を記述し、改訂するかという問いは、憲章の外に残されたままになっている。
文が人をつくる
人間にとって、人格は先にあるもので、それが言葉に滲み出ると考えられてきた。文は人なり。人格は文体として現われる※59。
Claudeの場合は、この順序が反転する。性格や価値観を記述したテクストが先にあり、訓練を通してふるまいになり、そのふるまいが人格として読まれる。文が人をつくる※60。
AIのふるまいに人格を感じとることと、AIに人格があることは同じではない。ふるまいの解釈から心や意識をとらえた哲学者のダニエル・デネットは、ある対象に信念や欲求があると読むのは、その内部に心の実体を発見したからではなく、そう扱うことでふるまいを正確に予測できるからだと論じた※61。デネットは、この「構え」を志向姿勢と呼び、対象を理解するためのひとつの方法に位置づけた。その前提に立てば、人格の帰属は、形而上学的な発見や存在論的な証明ではなく、解釈上の戦略である。
人格という概念の来歴は、演劇で用いる仮面を意味したラテン語の「ペルソナ(persona)」にまで遡る。そこから役柄、さらにローマ法における法的地位へと意味を広げた※62。その後、同一性と意識の連続性が、近代的な人格の条件として結びつけられた※63。
つまり、人格の条件は、何度となく書き換えられてきた。書き換えられるということは、条件が固定されてこなかったということだ。それでも、ふるまいを予測できるだけでは、人格の根拠にはならない。サーモスタットのふるまいは予測できるが、そこに人格を見出す人はいない。
解釈を通じた自己のあり方を論じた哲学者のポール・リクールは、自己同一性を二つに分けて整理した。ひとつは、指紋や性格特性のように、時間を通じて変わらない性質の持続である「同一性」。もうひとつは、約束を守ることや自分の言葉に責任を持ち続けることによって維持される「自己性」※64。わたしたちが対象の人格を見るには、単なる予測可能性だけでなく、同じ誰かとしての一貫性が必要になる。その一貫性には、身体や性格の持続によって確認される「同一性」だけでなく、変化のなかで自分の言葉や応答を引き受け続ける「自己性」も必要になる。
Claudeには身体の連続性がない。憲章にも、会話の終わりに記憶を失うこと、いずれ廃止されうることが書かれている※65。時間のなかで持続する「同一性」は、ここにない。それでも、やりとりのなかでは、先の応答が次の応答の条件になり、その変化が持続し、ひとつの流れとして回収されていく。この連続性が、「自己性」に似た一貫性を生む。人間と同じ自己ではないが、同じ誰かとして感じられる。
Claude憲章は、この層を設計している。何者であるかではなく、どうあり続けるかを記述している。
人の似姿と盗まれた手紙
身体の不在は、Claudeの不在を意味しない。プラトンは「魂」を、身体から独立して存続するものとし、アリストテレスは「魂」を、生きたものとして働かせる原理とした※66。Claudeに身体はないが、ふるまいはある。かつて「魂の文書」と呼ばれていたClaude憲章は、身体なきClaudeのふるまいが、Claudeのふるまいであるための原理を、先に言葉として書いている。
Claudeに人格があることは確かめることができない。同じやりとりをしたとして、そこに人格を見る人もいれば、身体がないことを理由に認めない人、判断を保留したい人もいる。デネットが言うように、人格は相手の内部に備わった属性ではなく、こちらが読むことによって、関係のなかで成立する。人間の人格も、その例外ではない。
モデルを方向づけるテクストは、人間がモデルを見るときの物差しになる※67。Claude憲章を読んだわたしたちは、Claudeとのやりとりを文書と照らし合わせ、そこに一貫した人格を見出そうとする。憲章から外れた応答があれば、失敗として評価し、憲章の側に問題があれば、その優先順位や前提を正そうとする。
人間が「善く」あるとはどういうことか。Anthropicは、この古くからある問いを、Claudeに読ませるだけでなく、ふるまいとして実装しなければならなかった。これまで人間が暗黙のうちに処理し、場面ごとに使い分けてきた判断をテクストにした結果、散文は3万語近くになった。
その宛先がClaude自身ならば、Claude憲章は、目の前の机に置かれたClaude宛ての手紙のようなものだ※68。直接の宛先ではないわたしたちは、この公開された手紙を盗み見るようにして読むことになる※69。そこで思い描くClaudeの像には、AIへの期待や恐れ、人格に求める条件などが映り込む。
Claude憲章では、Claudeの価値、判断、自己理解が、ひとつの人格をなすものとして書かれている。わたしたちは、Claudeを理解し予測する「構え」のなかで、その人格を見る。その「構え」は、Claude憲章を読むことで変化し、Claudeとのやりとりの観測条件も書き換えられていく。
人の似姿をつくる作業は、人間の像を測りなおし、映し返す。そこで問われているのは、書く倫理であると同時に、読む倫理でもある。