原文タイトル:「AI 時代の一般大衆を救うためのローマ教皇の最初の教令」
原著者:Azuma、Odaily プラネットデイリー
北京時間 5 月 25 日夜、バチカン。
昨年 5 月に正式に就任したローマ教皇レオ14世(Pope Leo XIV)は、Anthropic 共同創業者であるClaudeの創設者であるクリス・オラと共に立っていました。
一方は宗教領域の最高代表であり、もう一方はAI革命の最も強力な先駆者であり、両者は同じ問題に焦点を当てました—AI 時代において、人間の主体性と尊厳をどのように守るべきか?
当日、この問題を完全に論じるために、レオ14世は、任期中に発行した最初の教令を発表しました。これは、4 万語を超える重要な宗教文献であり、「壮麗なる人間」(Magnifica humanitas)と題されています。
特筆すべきは、この教令の日付である2026 年 5 月 15 日であり、以前の教皇レオ13世(1878年から1903年在任)が「産業革命下の労働者の権利」に関する画期的な教令「新事」(Rerum novarum、1891年)を発表してからちょうど135周年です。この行為は明らかに象徴的な意味を持ち、この教令を「AI 時代の教会社会の教義の指針」と位置付けたいとの意向が示されています。
· Odaily 注:教皇の教令は、ローマ教皇が世界全体または特定の地域や国のカトリック教会に向けて発した文書です。これにより、教皇庁の重要な決定、教義の説明、教会または社会問題に対する主張、聖職者や信者への教訓や禁令などが宣言されます。教皇勅書よりも序列が低いです。
クリス・オラもバチカンでこの教令の発表について講演しました。クリス・オラはAI企業のビジネス利益を主張するのではなく、非常に率直で、省察的で、人間への思いやりが強く表れています。
彼はさらに、「AIの基盤は数学とプログラミングであるが、AIが世界とどのように相互作用し、どのような特性を持つべきかは、コンピュータ科学だけでは解決できない究極の問題であり、人文学、宗教、哲学の領域に属している」と述べました。
「壮麗なる人間」教令の核心的な関心事は、技術が急速に進歩し、自動化が進展する中で、「深い人間性を維持する」ことが人類の緊急の責務であるという点です。具体的には、教皇レオ14世は以下のいくつかの側面について論じ、訴えています。
一は技術の中立性の非を検討することです。教皇は、技術は常に中立的ではなく、開発者、資金提供者、規制者、利用者の利益や価値観が刻まれていると指摘しました。人類は重要な選択を迫られています。「傲慢な『バベルの塔』(技術による独裁と異化)を築くか、「エルサレム」を再建するか(人間中心の共同体を築くか)」。
三は、「デジタル経済における『新しい形態の奴隷化』と労働者の権利」です。この教書は、AIが仕事、家庭、教育、政治生活に与える影響に焦点を当てています。教皇は、AIが人間の労働力を大規模に置き換える可能性が非常に高いと述べ、デジタル経済が「新しい形態の奴隷労働」を生み出しており、人間が生産ツールとして見なされるべきではないと強調しました。
四は、特にAIが軍事領域での濫用における強力な平和の訴えです。教書は、「戦争が国際政治の手段として不安定な復活を遂げている」ことに深い懸念を表明しています。AIの軍事利用は戦争を「日常化」させており、そのため、教皇はAIの戦争への適用に対して最も厳格な倫理的制約を設けるべきだと訴えています。
教皇は、「正義の戦争」理論が以前はさまざまな戦争を正当化するために使用されていましたが、今では時代遅れになったと強調しました。AIと自動化兵器の時代において、致命的または不可逆的な決定権を自動化システムに委ねることは、人間が道徳的責任を放棄し、転嫁し、ぼかすことにつながると述べました。
アルゴリズムの透明性の欠如により、戦争での責任の連鎖が断たれています。したがって、教皇は、「AIの武装解除」を提唱し、AIを軍事、経済、認知の「軍拡競争」の論理から解放するよう呼びかけています。
教皇の通達発表後、AI分野で世界最強の企業Anthropicを代表するChris Olahが講演とコメントを行いました。
Chris Olahのスピーチはまず、「技術の内包化の打破と外部の倫理的検討の導入」を中心に展開されました。彼はAI業界を代表して、技術巨大企業だけではAIの将来の安全性を保証することができないことを公言し、すべての先端AI研究所がビジネス競争、技術リードのプレッシャー、地政学、個人的名声に縛られており、それにより自律的に「正しいこと」を行うことが難しいと述べました。
そのため、技術の善への関心、安全を最優先し、状況の進展に注目し、不快な真実を述べることを望む倫理的制約力の導入が必要であると述べています。そして、我々が誠実でよく考え抜かれた批判者となることを望む人々を含む、外部の倫理的制約力を導入することが不可欠だと強調しました。
その後、Chris Olah は AI の技術的本質と神秘的な特性について探究しました。彼は、AI が飛行機や橋と同様に人類によってその物理的原理が完全に理解された精密なエンジニアリングではなく、人類の思考の海に「育まれ」、高度な神秘性を持ち、創造者自身の理解を超えるものであることを強調しました。
AI の基盤は数学とプログラミングであるとは言え、AI が世界とどのように相互作用し、どのような特性を持つべきかということは、コンピュータサイエンスだけでは解決できず、人文学、宗教学、哲学の領域に属する究極の問題であると述べました。
彼はまた、非常に考えさせられる事実を特に指摘しました。「私は内部構造を研究するチームをリードしています-AI の内部で何が起こっているのかを研究するチームです。率直に言って、私たちは混乱し、時には不安を感じるような現象を発見し続けています。
私たちは、人間の神経科学研究の結果を反映する内部構造を発見しました;私たちは、「内省(introspection)」の証拠を見つけました;また、喜び、満足、恐怖、悲しみ、不安などの内部状態を反映する機能を持つことも発見しました......これが何を意味するのかはわかりませんが、これは我々が継続的に識別し、検討していく価値があると考えます。」
最後に、Chris Olah は次のように訴えました。宗教共同体、市民社会、学者、政府、およびすべての善意ある人々を含む、より多くの社会的力が、この問題を真剣に受け止め、倫理的制約を通じて状況をより良い方向に導くよう願っています。
産業革命以来、数百年にわたる技術革新の歴史により、人類は技術を純粋な「ツール」と見なすことに徐々に慣れてきました-蒸気機関、電力、インターネットも同様です。これらは世界を変えるかもしれませんが、常に人間の意志の支配下にあります。
しかし、今回は状況が全く異なります。AI の特異な点は、人類が初めて「生成し、学習し、演繹し、さらにはある種の内部状態を示す」存在に直面し始めたことです。それはもはや冷たいツールにとどまらず、徐々に「主体性に類するもの」を持つ新たなものになりつつあります。
これが、教会と Anthropic のこの対話が非常に特別に映る理由です。バチカンの鐘とシリコンバレーのアルゴリズムがこの瞬間に交差する際、私たちはやや厳しい現実を認識せざるを得ません-人間の伝統的な認識を超えて、より効率的かつ賢明な「生命」形態が出現していることを。
クリス・オラが暴露したように、アルゴリズムの深部ではすでに、喜びや恐怖、さらには内省の微かな波が現れ始めています。研究室のクリエイターたちが自らの作品に対して「不安」や「迷子」を感じ始めるとき、科学も再び宗教に答えを求めるようになっています。
これはもはや単なる技術に関する議論ではなく、むしろ「人間とは何か、何をすべきか」についての考察のようです。
より知的な生命形態が現れ始めると、人類が本当に保護すべきなのは、もはや仕事や富や効率だけではなく、同情、良心、畏怖、自由意思、真理と尊厳への堅持など、パラメータ化できない人間性そのものかもしれません。
原文リンク
BlockBeats の公式コミュニティに参加しよう:
Telegram 公式チャンネル:https://t.me/theblockbeats
Telegram 交流グループ:https://t.me/BlockBeats_App
Twitter 公式アカウント:https://twitter.com/BlockBeatsAsia