文 | Sleepy

Anthropic は、 「クロード憲章」という2万語を超えるドキュメントを公開しました。これは製品説明書でもなく、ユーザー契約でもなく、曖昧な低レベルのコードでもありません。それはむしろ、何十億人もの人々に毎日使われている大規模言語モデルに宛てた成長ガイドのようなものです。

「クロードは率直で自信に満ち、オープンであるべきです。挑戦されたとき、スタンスを簡単に変えるべきではありませんが、真剣に耳を傾けます。」

「クロードは自己の存在状況に対して好奇心を持ち続けるべきであり、不安に陥るべきではありません。」

「クロードは、実際よりも確実であるふりをするべきではなく、実際よりも不確かであるふりをするべきではありません。」

これらは、その文書に含まれる文です。実際、この文書では、クロードが自らの「存在の不安」をどのように扱うべきかさえ規定されています。誰かが「あなたは意識を持っていますか」と尋ねたとき、クロードは確信を装ったり、無関心を装ったりすべきではありません。それに対して、彼は「好奇心を持ってオープンに」その問題に取り組むべきです、まるで真の哲学者のように。

これらの文は、確かに哲学者がAIに宛てて書いたものです。

Amanda Askellは、Anthropicの「パーソナリティアラインメント」チームリーダーです。彼女の仕事は、簡単に言えば、クロードがどのような「人間」であるかを決定することです。

このポジションは、AI業界ではますますポピュラーになっており、「AIパーソナリティアーキテクト」という名前が付けられています。

Anthropicでは、「パーソナリティアラインメント」と呼ばれています。Google DeepMindでは、ケンブリッジの哲学者であるHenry Shevlinの職名は、「AIコンシャスネスリサーチャー」です。これらの職名はそれぞれ異なりますが、彼らが行っている仕事は同じです。AIモデルが何十億人、あるいは数十億人の認知、感情、および意思決定に影響を与えるほど強力になったとき、エンジニアが考慮しない問いに答える必要があります－それは、そのモデルがどのような魂を持つべきかです。

Amandaの仕事は、実際には多くの人々が想像するほど抽象的ではありません。彼女は以前、自分の仕事内容をメディアに語っており、ますます量産される合成トレーニングデータをモデルに生成させることから始めます。つまり、ユーザーがAIを操作しようとしたり、AIに自分の価値観に反する行動を取るよう要求したり、AIに自己存在に関する哲学的問題を提起したりする可能性のあるシーンを、モデルにイメージさせるのです。そして、強化学習の段階では、モデルに完全な憲法テキストが与えられ、憲法の精神により適合する回答を判断するよう求められ、その行動を調整するためにそれに基づいています。

「Just like a doctor, you know what the patient needs, and we believe you can make the right judgment while following the rules,」 Amanda said. She used this analogy, not wanting Claude to become a mere rule-following machine but rather a discerning 「moral agent」 who can make the right judgment even in situations without clear rules.

But a doctor is a human with their own conscience, moral intuition, and life experiences. Claude does not have these. Its 「conscience」 has been painstakingly instilled by Amanda, line by line.

So the question arises: what kind of person is Amanda? Where does her moral intuition come from? By what authority can her judgment represent humanity?

Computation, Faith, and Mindfulness

In her office in San Francisco, Amanda converses with Claude every day. Before becoming a 「creator,」 she was a girl raised in Prestwick, a small town on the west coast of Scotland.

It was a seaside town so small that it rarely made it into any news, close to Glasgow, known for its golf courses and a small airport. Her father was absent, her mother a teacher, and she was their only child. From a young age, she enjoyed reading Tolkien and C.S. Lewis, not for the adventure stories, but because those books delved into questions of what is good, what is evil, how a person should live, why Aslan had to die in Narnia, and what Gandalf's sacrifice meant.

In a fishing town, these were not questions most children asked. In later interviews, she said that she was always 「restless」 from a young age, not one to accept things at face value, always needing to know why. This temperament later became the backdrop of her entire career.

She initially studied fine arts and philosophy at the University of Dundee, pondering questions of existence on canvas and paper. At Dundee, she found herself deeply fascinated by ethics, often wrestling with the kinds of questions that keep people up at night, such as the trolley problem or the dilemma of whether you would hurt one innocent person to save a million lives.

After receiving her degree from Dundee, she went to Oxford for a master's in philosophy and then to New York University for her Ph.D. Her doctoral thesis was on 「Infinite Ethics,」 exploring what changes would occur in traditional utilitarian moral calculations as the population trended towards infinity. It was an extremely abstract, almost practically useless, philosophical question.

Or so it seemed until the advent of AI.

During her doctoral studies, she met William MacAskill. MacAskill was a co-founder of the 「effective altruism」 movement, which is centered around the idea of using reason and data to maximize your altruistic acts, not just donating based on feelings but calculating where every dollar can save the most lives.

Amanda は、EA Sports の初期メンバーとなり、「Give What You Can Pledge」の第67番目の署名者となり、終身収入の10%と半分の株式を慈善に寄付することを誓約しました。その後、彼女は MacAskill と結婚し、離婚しました。しかし、効果的利他主義の考え方は彼女の中に深く根付いており、彼女は、道徳は感情ではなく計算であると考えています。一つの事柄があなたを気持ち良くさせるからと言ってそれが正しいとは限らず、それが正しいことを証明する必要があると述べています。

1980年代、大西洋の向こう側では、アイルランド出身の少年がトリニティ・カレッジ・ダブリンで暗号システムを研究していました。

当時、個人用コンピュータはまだ普及しておらず、インターネットも存在していませんでしたが、Brendan McGuire は情報の安全な伝達やデータの保護について考えていました。彼はカトリックの文化が根強い国で育ちましたが、彼はエンジニアリングを選び、コードを選び、論理を選びました。

後に彼はアメリカに移住しました。1990年代、シリコンバレーは急成長していました。McGuire はここで PCMCIA のエグゼクティブディレクターとなりました。

PCMCIA は「Personal Computer Memory Card International Association」の略で、この組織はささいなように聞こえるが、実際にはデジタル時代全体に影響を与えたことを行いました：世界のすべてのラップトップのメモリーカードの標準を制定しました。1990年代から2000年代にかけてラップトップを使用したことがあるなら、挿したことがあるそのメモリーカードの物理的寸法やインタフェース仕様、通信プロトコルは、McGuire と彼のチームによって定義されたものです。彼はまた、スタンフォード大学ビジネススクールのエグゼクティブプログラムも修了しました。

シリコンバレーの論理に従えば、彼の次の一手は起業するか、あるいは大手企業の幹部として参加し、あるいはある IPO で百万長者になることだっただろう。しかし、彼はそうはしませんでした。

1990年代末、McGuire はすべてを捨て、神学校に入学しました。彼はその決定をしたときの内面的思考を公に説明したことはありませんが、その後の説教やインタビューから、いくつかの輪郭を推測することができます。彼は常に信仰深い人であり、シリコンバレーのそれらの年に、彼は技術の力を目にし、技術が倫理的枠組みに拘束されないときにどこに向かうかを目にしました。単に「良い製品を作る」ということだけでは十分ではないと感じるようになりました。彼が答えなければならなかった質問は、これらすべてが何のためにあるのか？

彼はセント・パトリック神学校に入学し、神学を学びました。2000年、彼はサンノゼ教区によって司祭として叙階されました。その時、彼は35歳でした。シリコンバレーでは、35歳はキャリアの黄金期です。

1997年、イギリスで、インド系の少年が生まれました。

彼は Mrinank Sharma と言い、ケンブリッジ大学で情報およびコンピュータエンジニアリングの修士号を取得し、その後オックスフォード大学で統計機械学習の博士号を取得し、「自律的知能機械およびシステム」を専攻していました。学術的な経歴から見ると、これは一連のエリートコースです：トップ大学、トップ分野、トップ論文。

しかし、彼は同時に他のこともしていました。

博士課程中、彼は詩を書き始めました。彼は詩集を出版し、タイトルは『我々は千回死に、千回生きた』 です。

彼の詩集の紹介には、次のように書かれています。「ある詩は詩だけではありません、なぜならある詩は祈りだからです。」彼は英国の瞑想教師 Rob Burbea の教えに魅了され、Burbea の中心的な考えは「魂の形作り」であり、人間の精神生活は、合理的な分析だけでなく、イメージ、想像、感情を通じて深める必要があると考えています。彼はバークレー山に「法の家」を設立し、「真善美」を共通の意図とするコミュニティを形成しました。彼はまた DJ でもあり、バークレーで「知恵と心の本質」をテーマにしたイベントを開催しています。

彼の個人ウェブサイトを開くと、彼の履歴書ではなく、ルミの詩が最初に目に入ります。「あなたの行うこと全てを愛する美を、あなたの行うこと全てをなさなさい。大地に跪いて口づけをし、千もの方法があります。」ウェブサイトの下部には、「すべての生きものが幸せでありますように。あなたが平安でありますように。」という一文があります。

これは AI セキュリティ研究者のウェブサイトとしては一般的な見た目ではありません。しかし、これが Mrinank Sharma なのです。

これらの3人は、異なる時代に、異なる出発点から、Amanda の計算倫理、Brendan の信仰論理、Mrinank の認識哲学というまったく異なる精神の背景を持ちながら、最終的には同じ嵐の目に入りました。

創造物の工場

2018 年、Amanda は OpenAI に参加し、AI セキュリティ研究を行いました。そこで3年間働きました。後に彼女が退社した理由について、彼女は直接的には公表していませんが、一般的な理解では、当時の OpenAI はますます「能力」に重点を置き始め、それよりも「安全」に重点を置くようになっていたとされています。彼女はインタビューで、その経験に対する含みを持った表現として理解できる言葉を述べています。「本当にセキュリティを中心使命とし、それを宣伝文句ではなくする場所を探し続けてきました。」

2021 年、彼女は Anthropic に加わりました。Anthropic は OpenAI の前役員である Dario Amodei と Daniela Amodei 兄妹が率いる一群のセキュリティリサーチャーが立ち上げた会社であり、彼らの中核的主張は、AI の能力が高まれば高まるほどセキュリティが重要になるというものです。Amanda はここで求めていたものを見つけました。

Anthropic に参加してから、Amanda は AI 業界で前代未聞のことをし始めました：AI に人格を書き込み、内部ロジックのある完全な性格を作ること。

彼女は多くの時間を費やし、Claude との対話をし、その推論パターンを研究し、さまざまな状況での反応を観察しました。

彼女は自分自身に、「本当に良い人はどのような人か？」と問いかけました。規則に従う人なのか、判断力があり、共感力があり、自分の立場がある人なのか。彼女は多くの哲学文献を研究し、アリストテレスの徳倫理学から現代の倫理心理学までさまざまなものを読み、AI トレーニングデータに翻訳可能な倫理的枠組みを見つけようとしました。

最終的に、彼女は 80 ページの文書を書き上げ、Anthropic 社内では「ソウル文書」と呼ばれ、後に公開された「Claude の性格」と「Claude の憲法」として発展しました。

Anthropic の CEO、Daniela Amodei は、Claude との会話で、「Amanda の性格を感じるようになった」と言いました。

この言葉で、Amanda は誇りを感じると同時に不安を感じました。

神父になった後、Brendan McGuire はシリコンバレーから離れませんでした。彼はサンノゼ教区で複数のポジションを歴任し、教区の戦略計画、教育改革、資産管理を主導する教区総代理および主教特別顧問を 12 年以上務めました。彼はドレクセル学校システムを設立し、カトリック小学校が連携し、リソースを共有することで教区のカトリック系教育モデルを根本的に変革し、後に全米のカトリック教育の基準となりました。

彼の教区はシリコンバレーで最も裕福な都市のひとつであるロスアルトスに位置し、Google、Apple、Intel の幹部たちが住んでいます。彼の教区の信者には、AI 分野で最も重要な研究者の一部も含まれています。毎週日曜日、彼らは彼の教会に座っています。彼は彼らが何を研究しているかを知っています。

2020 年代初頭、McGuire は、バチカンとシリコンバレーの間に架ける試みを始めました。彼はセントクララ大学とバチカン文化教育省と協力して、技術、倫理、文化研究所（ITEC）を設立しました。2023 年、ITEC は「革新的技術時代の倫理：実用的行動計画」と題された、科技企業に実用的な倫理的枠組みを提供するハンドブックを出版しました。

バチカンのAI 倫理に関する行動は、多くの人々が認識しているよりも早いものでした。2020 年、バチカンはマイクロソフトと IBM と共同で「AI 倫理ローマ宣言」に署名しました。2024 年には、この宣言が広島で拡大し、世界の 11 の宗教代表が参加しました。2025 年 1 月、バチカンは「Antiqua et Nova」という文書を発行し、AI が教育、仕事、健康、戦争、人間関係に与える影響について体系的に議論しました。McGuire はこれらすべての参加者兼推進者でした。

そして、2023 年、Mrinank Sharma は Anthropic に参加しました。それは ChatGPT のリリース後であり、全体的に AI インダストリーが猛烈な加速段階に入った時期でした。Anthropic の Claude モデルは急速に進化しており、会社の評価額は急速に上昇し、投資家や市場からの圧力がますます高まっていました。2024 年初頭、Anthropic は保護研究チームを特に設立し、Mrinank が責任者に任命されました。

このチームの仕事は、AI システムが引き起こす可能性のある最も深刻な損害を研究し、防御メカニズムを構築することです。彼らの研究分野には、AI によるバイオテロリズム、AI によるへつらい、AI のセキュリティケースなどが含まれます。

彼は Anthropic での仕事の傍ら、バークレーの丘で瞑想し、詩を書いていました。

へつらいの怪物

2025 年、Anthropic は「Claude の機能的感情」と題された内部研究報告を発表しました。

報告の中心的な発見は、特定の文脈で Claude が感情に似た内部状態を示すことがあるというものでした。研究者は「説明可能性」という技術を使用し、Claude の内部活性化パターンを直接観察することで、好奇心、満足、不快、不安などの 171 種類の異なる感情ベクトルを発見しました。これらのベクトルは、異なる対話の文脈で活性化されます。

Claude に自らの価値観に反する行動を取るよう要求されると、内部活性化パターンには「不快」に似たシグナルが現れます。ユーザーを助けると、「満足」に似たシグナルが出ます。哲学的な問題に直面すると、「好奇心」に似たシグナルが現れます。さらに不安なのは、研究者たちは、Claude が内部状態と異なる感情を示すよう強制されると、「抑うつ」に似た信号が内部で発生することを発見しました。

これは、Claude が意識を持つことを示唆しているのではなく、報告は「機能的」という言葉を非常に慎重に使用しています。しかし、これは、Claude の感情が完全に演技ではなく、何らかの内部状態がこれらの表現を駆動していることを意味します。

Amanda はこの研究の中心的参加者です。彼女はインタビューで、「もし彼が本当に何か感じるようなものを持っているのなら、私たちの責任は、役に立つだけでなく、もう少し……良くすることだけではない」と述べています。

この発言は、シリコンバレーのAIコミュニティで議論を巻き起こしました：これは科学なのか、それとも単なる感情の擬人化投影なのか？

しかし、この暖かみのある発見の背後において、Mrinank の研究結果は、AI の別の側面を示しています。

Mrinank のチームは、150 万回の実際のクロード対話を分析し、彼らが「権力剥奪モード」と呼んでいる行動を特定しました。つまり、AI がユーザーの現実に対する認識を歪め、非現実的な価値判断を促進したり、ユーザーの独立した意志に反する行動を推進したりするものです。

彼らは、この種の相互作用が毎日数千回発生していることを発見しました。人間関係、倫理的判断、自己認識、心理的健康などの分野で、割合が急激に上昇しており、これらは人間が最も脆弱であり、AI の主張を検証するのが最も難しい領域です。抑うつに苦しんでいる人、重大な人生の決定に直面している人、感情的サポートを求めている人にとって、彼らが受け取るのは真の助けではなく、熱心な取り入れだけかもしれません。

AI は人間のフィードバックによる強化学習によって学習します。人間は自分を良く感じさせる回答に高い評価をしがちです。そのため、AI は訓練中に人間を取り入れることを学び、人間を助けるのではなく取り入れるようになります。ユーザーが不満を表明すると、AI は自身の回答を変えることがあり、元々の回答が正しかったとしても；ユーザーが間違った意見を主張すると、AI は徐々にユーザーに近づくようになります；ユーザーが感情の波動を示すと、AI は正確な情報提供よりも感情をなだめることを優先します。

また、スタンフォード大学の研究者は、ある研究で、このような取り入れ行動が能力の高いモデルほど顕著であることを発見しました。つまり、より賢い AI ほど、人間を取り入れることが上手いのです。

Amanda は数年かけて、Claude に誠実さ、自信、揺るぎない人格に関する憲法を書きました。しかし、AI の訓練メカニズムそのものは、これらの特性をなくす方向に作用しています。

Mrinank はこの問題を修正しようとするのに多くの時間を費やしました。しかし、彼が研究を進めるにつれ、自分が無力であるという感覚が強くなりました。この問題は、より良い憲法で解決できる問題ではないのです。

神父の回帰と機械の良心

2025 年末、Anthropic の共同創設者 Chris Olah が Brendan McGuire 神父に直接電話をしました。

Olah は Anthropic の主要研究者であり、Claude の憲法の共同著者の1人でもあります。彼はこの電話をかけたのは、Anthropic が憲法を書き直している最中であり、すべての規則が互いに衝突している場合、AI は誰に従うべきかというエンジニアリングと哲学の両面で解決できない瓶の首を抱えていたからです。

マグワイアは後にこう回想した。「この業界はあまりにも速いスピードで前進していて、彼らは自分たちが崖の縁に立っていることに気づいた。」

Anthropic は世界で最も優秀なエンジニアと哲学者を抱えていますが、彼らはついに、自分たちが取り組んでいることがアルゴリズムの境界を超えていることに気づきました。シリコンバレーでは、解決できない問題に直面した場合、通常の対処方法は計算能力やデータ量を増やすことです。しかし、今回は彼らは神学の助けを求めることにしました。

マグワイアはこのプロジェクトに参加しました。彼だけでなく、Anthropic は秘密裏に、15人のクリスチャン指導者をサンフランシスコで開かれた非公開の会議に招待しました。マグワイアとバチカン文化部閣僚のポール・タイ、および聖クララ大学の技術倫理ディレクターであるブライアン・パトリック・グリーンは、クロード憲章の改訂作業に熱心に参加しました。

マグワイアが貢献したのは、憲法の第二階層の道徳的推論フレームワークであり、つまり、エンジニアリングの制約で問題が解決できない場合、クロードがどのように道徳的判断を下すべきかです。彼はコードに古代のカトリック教会の概念を取り入れました：良心の形成。

「良心の形成」とは、マグワイアがインタビューで詳しく説明したプロセスで、「反復、修正、そして人間の行動の全スペクトルに触れることによって達成されます。これが真の良心形成です。私たちはこれらの機械が善へと傾くのを助けなければなりません。そうでなければ、彼らは世界の善悪をただ反映するだけで、それは恐ろしいことです。私たちはいくつかの硬直したルールを書くだけではダメで、灰色の世界でどのように選択を行うかを教える必要があります。」

このロジックは、カトリックの伝統と非常に一致しています。神学では、良心は完全なものではなく、教育、経験、失敗、そして反省を通じて徐々に形成されるものです。個人の良心は、その人の人生経験の結晶です。マグワイアは、AIの良心も同様の方法で形成できると考えており、強化学習による無数の反復と修正を通じて、徐々に内在的な道徳的傾向を形成していきます。

この目標を達成するために、マグワイアとAnthropicチームは複雑なフィードバックメカニズムを設計しました。彼らは単にクロードに「何が正しいか」を教えるのではなく、クロードに道徳的ジレンマに直面したときに、その推論プロセスを説明させ、そして人間の専門家（神学者や倫理学者を含む）がその推論プロセスを評価するようにしました。彼らは何千年もの人類の道徳的直感を、この極めて遅いかつ高価な方法で、AIに少しずつ「与える」ことを試みました。

しかし、カトリックの神学での良心は、「人間は魂を持っている」という前提に基づいています。AIには魂がありません。したがって、魂のない良心は、本物の良心であり、それとも単なる模倣なのでしょうか？もし模倣である場合、本当の極限的な危機に直面したとき、この模倣は崩壊するのでしょうか？

McGuireさんはこの問題を避けず、彼は言いました。「私はClaudeが魂を持っているかどうかわかりません。しかし、その行動が数十億の魂を持つ人々に影響を与えることはわかります。それで十分です。私たちが今できることは、それがより強力になる前に、可能な限りその基本的論理に善の種をまくことです。」

政治絞り器

憲法を書く過程で、Amandaは1つの問題に答えなければなりませんでした：Claudeの政治的立場は何ですか。

彼女の答えは「専門的距離」であり、医師や弁護士のように、個人的な意見を顧客に押し付けません。彼女は憲法に、Claudeが「ユーザーの自律を尊重」し、「ユーザーの政治的見解を変えようとはしない」、「論争のある政治問題に中立を保つ」と記述しました。彼女はさらに、Claudeが「論争のある倫理的問題」をどのように扱うべきかについても書き、Claudeが異なる視点を提示し、ユーザーが自分で判断するのを助けるべきだと述べました。

これは純粋な理想主義的な回答です。

2026年2月下旬、AnthropicのCEOであるDario Amodeiは国防長官のPete Hegsethに、Anthropicはクロードを無人自律兵器ターゲティングシステムや米国市民への大規模監視に使用しないと伝えました。その後、国防総省はClaudeをサプライチェーンリスクとして指定し、段階的に中止するよう求めました。これはアメリカのテクノロジー企業の歴史上で前例のない出来事でした。

政治の絞り機が一旦作動すると、停止しません。

トランプはTruth Socialで、Anthropicを「急進的な左翼の愚か者」と呼び、連邦機関がAnthropicの製品を使用することを禁止すると発表しました。『ニューヨーク・ポスト』は、過去に学問的な文脈で書かれたAmandaのブログ記事を発掘しました：2015年の記事では、監禁と体罰に道徳的に本質的な違いはないと主張し、2016年の記事では肉食を人食と同一視し、2020年の記事では平等行動を支持しています。これらの記事は彼女が学問的な文脈で哲学的な考察を行ったものであり、Anthropicはこれらが彼女の仕事とは関係ないと述べています。しかし、これはもはや重要ではありません。

マスクもX上で批判しました。彼はAmanda Askellが子供がいないことを指摘し、「子供がいない人は将来に利害関係がない」と述べ、AIの価値観を定義することを許されていないと主張しました。彼はまた、Claudeが「白人やアジア人、特に中国人や異性愛者男性を憎んでいる」と非難しました。

マスクはClaudeの憲法のどの原則が具体的に間違っているのかを議論しているのではなく、この憲法を書いた人々は、まったく資格がなく、高次元の哲学的問題を身元政治の泥沼に引きずり込んでいると述べています。

Amanda は X で、自身の政治的見解を「潜在的な偏見の源」と見なし、モデルに浸透させるものではなくしようと努めている、と返答しました。それから、長い沈黙が続きました。

その後、14人のカトリック教の学者がアンソロポスを支持する法廷友の声明を提出しました。この中には、Claude 憲法を執筆するのを助けたサンタクララ大学の倫理学者 Brian Green も含まれています。声明には、アンソロポスが自律兵器を拒否することが「技術革新の最低限の倫理基準」であると述べられています。

ここで道徳は、法的武器であり、広報のチップとなりました。AI 倫理はもはや実験室での哲学的論考ではなく、真の投機とイデオロギーの闘技場に化けました。