原文タイトル：「インターネットの民営化後、シリコンバレーは人類文明を私有化し始めた」
原文著者：動察Beating

数ヶ月前、Anthropicが古本を大量に購入し、背表紙を切り落としてスキャンしているというニュースを目にした。さらに以前には、LibGenなどの海賊版書籍データベースから700万冊以上の本をダウンロードし、社内データベースの構築やClaudeのトレーニングに利用していた。

2024年、3人の作家がこれに対して集団訴訟を起こした。2026年7月、この訴訟はようやく進展を見せた。裁判所は、Anthropicが海賊版によって被害を受けた著者や出版社に15億ドルの和解金を支払う和解案を承認した。

しかし、私が気にしていたのはAnthropicがいくら賠償すべきかという点では決してなかった。なぜなら、これは決して単なる著作権の問題ではないと感じていたからだ。

人類の知識と文明が、一つの私的モデルに飲み込まれ、さらに別の形で伝承される可能性のあった原本や複製までもが破壊された。知識は消え去ったわけではないが、一つの企業の内部能力へと変わった。ここに至って、問題は「著作権は誰のものか」から「誰が人類の知識を支配しているのか」へと変わった。

しかし、企業がこの権力をどのように使うかを無から決めるわけではない。モデルの背後にいる人々は、テクノロジー、進歩、そして人類の未来について、独自の一連の理解を持っている。

そのため、この記事はシリコンバレーのテクノロジー楽観主義とアクセラレーショニズムの考察へと進む。成長が生命と見なされ、速度に道徳性が与えられると、規制や著作権、一般の人々の反対は、未来を阻むものとして簡単に解釈されてしまう。

これらの思想は最終的にモデルそのものに落とし込まれる。モデル企業は、トレーニングデータ、モデル憲法、システムルールを通じて、何に回答できるか、何が真実と呼ばれるか、そして人類が残した知識がどのような形で再現されるべきかを決定する。

したがって、この記事は破壊された一冊の古本から始まり、最終的には、人類文明が少数の企業の私的モデルに詰め込まれたとき、そのモデルを作った人々が同時に文明を解釈し、統治し、さらには人類に代わって未来を決定する権力を手に入れているのかどうかを問うものである。

以下が記事の本文である。

一冊の本がAI企業のスキャンプロセスに送り込まれると、最初のステップは破壊されることだ。

製本が解体され、背表紙が切り落とされ、バラバラになったページがスキャン機器に入る。文字、表紙、書誌情報がデジタルファイルに変換され、その後、紙の原本は廃棄される。

裁判所の文書によると、Anthropicはこの方法で数百万冊の本を処理していたことが明らかになっている。

この計画は社内で「プロジェクト・パナマ」と呼ばれていた。同社は数千万ドルを投じて、書籍販売業者や小売業者から紙の本を購入し、それをスキャンサービス業者に委託。1冊の紙の本につき1つのデジタルコピーを作成し、社内データベースに保存してClaudeの学習に使用した。

2021年と2022年、AnthropicはLibGenやPirate Library Mirrorなどの海賊版書籍データベースから700万冊以上の本をダウンロードした。著作権リスクが高まると、2024年に同社はGoogleブックススキャンプロジェクトに参加していたTom Turveyを採用し、可能な限り大規模な書籍データベースの構築を目指した。

Turveyは出版社とライセンス交渉を行ったが成果が出ず、Anthropicはその後自ら市場で書籍を購入し始めた。米連邦裁判所は後に、紙の本1冊を社内利用のデジタルコピー1つに変換し、追加の複製や外部への配布を行わない場合、著作権侵害には当たらないと判断した。

この方法は海賊版よりもはるかに体裁が良いように聞こえる。

2026年までに、書籍データ会社ISBNdbはAIラボ向けに大規模な紙の本の購入とスキャンサービスの販売を開始した。特に2022年以前に出版された書籍を推奨した理由は、当時は生成AIがまだ大規模にコンテンツ制作に参入しておらず、これらの本がAI生成テキストによる汚染が少ないからだ。

過去数年間、AI企業はインターネットを尽きることのない知識の鉱山と表現してきた。ウェブページ、ニュース、フォーラム、コード、小説、ソーシャルメディアの投稿など、すべてをクロールしてモデルに学習させることができた。

生成AIが普及してから、この鉱山は純粋ではなくなった。商品説明はAIが書き、記事はAIが書き、フォーラムの回答はAIが書き、小説やソーシャルメディアのAI臭もますます強くなっている。これらのコンテンツは次のデータ収集で再び取得され、機械は自分が吐き出したものを食べ始めている。

合成データ自体は悪いものではなく、選別・検証された合成データはこれまでも使われてきた。問題は、モデルが目の前のテキストが人間によるものか、前世代のモデルによるものかを区別できず、誤りやパターンが繰り返し増幅され、現実世界ではそもそも珍しかった表現が徐々に消えていくことだ。研究者はこれを「モデル崩壊」と呼んでいる。

ネット上のコーパスは増え続けているが、モデルが新しいことを学べるコンテンツは同様に増えてはいない。そこで、機械は再び紙に戻った。

1冊の本の制作は非常に遅いため、古い本にはこれまでにない価値が生まれている。出版が早ければ早いほど、人間が依然として主要な執筆作業を担っていた時代のものである可能性が高い。かつて古本業者の倉庫に眠っていたニッチな著作が、今やモデル企業にとって高品質なデータとなっている。

AI企業はまず、文章生成をかつてないほど安価かつ迅速にした後、今度は執筆に時間がかかる文章に資金を投じ始めた。彼らはインターネットに大量のコンテンツを流し込み、最終的に気づいたのは、最も希少なものは依然としてAIに処理されていない人間の経験であるということだ。

それらの本もまた、その立場を変えた。文学、地方誌、一般人の回顧録は、今や総称して「クリーンデータ」と呼ばれる。作者がなぜ書いたのか、読者がどう読むのか、本同士が何を論争してきたのかは、ひとまず脇に置いてよい。それらはまず、機械に汚染されていない人間のサンプルなのだ。トレーニングプロセスに入った後、どれだけ残り、何に影響を与え、どのように再解釈されるかは、すべてブラックボックスの中にある。

進歩が宗教となる

古書は単なる原料に過ぎない。これらの知識がどのように吸収され、解釈され、再出力されるかを真に決定するのは、モデルの背後にいる人間たち、そして彼らが進歩、リスク、人類の未来をどう捉えるかである。

この機械が人類の文明をどこへ導くのかを理解するには、まずシリコンバレーがなぜ技術進歩を、止めるべきでない善と見なすようになったのかを理解する必要がある。

2023年10月16日、マーク・アンドリーセンはa16zの公式サイトで『技術楽観主義宣言』を発表した。

記事全体を通じて「我々は信じる」が繰り返される。そこには広めるべき福音があり、反対すべき敵が存在し、最後には「技術楽観主義の守護聖人」のリストが添えられ、アダム・スミス、ニーチェ、ハイエク、フォン・ノイマン、アイン・ランドの小説に登場するジョン・ゴールト、そしてニック・ランドが名を連ねている。

アンドリーセンは、良い知らせをもたらしたと言う。

人類はすでに、今日よりもはるかに優れた生活へと向かうための道具、制度、意志を手にしている。技術は人類の野心を担い、文明進歩の先鋒である。社会は成長するか、停滞するかのどちらかだ。彼は、成長が生命力、知識、福祉をもたらし、停滞が内紛、衰退、そして最終的には死へとつながると信じている。市場と技術が結びつき、絶えず上昇し続ける「技術資本機械」を形成し、人工知能は想像を絶する能力の知能飛躍を推進するだろう。

これはもはや単なる「テクノロジーが生活を向上させる」という話ではない。

伝統的な技術楽観主義は通常、新しい道具が生産性を高め、疾病を治療し、貧困を減らすと言う。技術は依然として何らかの外部目標に奉仕し、その価値は人々がどのような生活を送るかによって決まる。

しかしアンドリーセンの語りでは、技術進歩は次第に具体的な結果によって自らを証明する必要がなくなっていく。成長それ自体が生命を表し、速度それ自体が道徳性を帯びる。方向性が建設を続けることである限り、失敗や損害は前進の代償として理解される。立ち止まることを求める者は、なぜ未来を阻むのかを説明する必要がある。

彼は宣言の中で、特定の「敵」を列挙している。持続可能性、ESG、予防原則、技術倫理、リスク管理はすべて、長年にわたる反技術・反生命運動に分類され、その傍らには官僚や中央計画者たちが立っている。

AI企業がトレーニングデータに対して対価を支払うべきかどうか、アルゴリズムの誤りは誰が責任を負うのか、技術リスクはどのように規制されるべきか――これらの問題は本来、それぞれに事実と利害がある。しかし宣言の中では、それらはすべてより大きな対立に組み込まれている。

一方には、成長、創造、勇気、そして生命がある。

もう一方には、停滞、恐怖、怨恨、そして死がある。

いったんこのように立場が割り振られれば、代償について議論する者は自然と抑圧される。技術が当然のように進歩を代表する限り、疑問を投げかける者は容易に文明の敵として描かれる。

Andreessenは加速のための政治宣言を書き、シリコンバレーに建設を続けるべき理由を示した。e/accはさらに一歩進み、自然法則から加速が単なる産業の選択ではなく、生命と文明が本来行っていることであることを証明しようとしている。

それは当初、匿名アカウントやネット記事の形で広まった。推進者の一人であるGuillaume Verdonは、e/accの理論の一部は熱力学と複雑系に対する彼の考察に由来すると述べている。生命はエネルギーを獲得し、情報を処理し、環境に適応することで自らを維持する。文明、市場、技術もまた同じ適応システムであり、絶えず変化を生み出し、競争の中で非効率な経路をふるい落とし、最終的により強力な知性を生み出す。

このプロセスがすでに存在する以上、e/accはそれを加速することを選ぶ。人工知能の進歩は、もはや単なる産業の選択ではなく、より長いプロセスの延長となる。人間はより強力な機械を作り出す――それは生命が単細胞から複雑な生物へと進化したのと同じくらい自然なことだ。

しかし、熱力学はエネルギーがどのように流れ、生命が平衡から遠ざかった状態をどのように維持するかを記述できる。だが、「生命はエネルギーを獲得する」という前提から、「人間は人工知能を加速し、規制を減らし、市場に方向性を決めさせるべきだ」という結論を導き出すまでには、依然として一連の政治的・倫理的な選択が介在している。

e/accはその距離を縮めた。

競争と加速は宇宙の方向性に沿うものとして描かれ、中央集権的な規制は変化を抑圧し、実験を減らし、文明の適応力を弱めるものと見なされやすい。知性と複雑性が成長し続ける限り、技術の発展は現実政治を超えた正当性を得る。

Verdonはインタビューの中で、e/accのコミュニティは時に半ば冗談で熱力学を自分たちの神と見なし、宗教的またはカルト的な色彩を帯びた表現を意図的に使うこともあると述べている。

この新しい宗教において、成長は生命の証明であり、テクノロジーは文明を前進させる力、起業家やエンジニアは未来を最初に見通す者、そして超知能は未完成の究極の創造物である。

この宗教にも異端が必要だ。彼らは「デセル」、すなわち減速主義者と呼ばれる。この言葉は便利だ。核兵器、バイオセキュリティ、著作権、失業のいずれを懸念しているかを区別する必要がない。ただ「遅くしろ」と要求するだけで、未来の反対側に置かれる。

テクノロジー企業はこれにより、非常に有利な語りの立場を得た。彼らが行うすべてのことは建設として理解され、他者からの疑問は遅延として扱われる。双方とも人類の利益を語るが、未来を代表することを許されるのは一方だけだ。

今、背表紙を切り落とされた古書を振り返ると、問題はそれらがどこへ行ったかだけではない。誰がそれらを何に使うかを決めているのか、という問いも追及すべきだ。

彼らは確かに、病気を治療し、知識を広げ、一般の人々にさらなる能力を与える道具を作り出すかもしれない。しかし、進歩そのものが信仰として書き換えられると、テクノロジーの方向性は外部からの問いかけを受け入れにくくなる。機械を作る者たちは、利害関係者であると同時に、この進歩の布教者という二重の役割を持つようになる。

速度が道徳となるとき、一般の人々の同意は不要な待機へと格下げされる。

しかし問題は終わらない。伝統的なテクノロジー楽観主義は、少なくともテクノロジーが最終的に人類をより良くするためにあると約束していた。だが、成長と知能そのものが目的となるとき、テクノロジーが人類に奉仕しているのか、それとも人類を利用してより大きな進化を遂げようとしているのか、その答えはもはや確定的ではない。

人類は未来から格下げされる

この加速は、一体誰を未来へ送り込もうとしているのか？

Andreessen の聖人リストの中で、英国の哲学者 Nick Land は最も見落とされやすく、最も読み解きにくい存在だ。彼は1990年代にウォーリック大学で教鞭をとり、実験的な思想集団 CCRU の中核人物だった。彼らは哲学、SF、サイバネティクス、電子音楽、神秘主義を混ぜ合わせ、通常の論文らしからぬものを書き綴った。

Andreessen が「テクノ資本機械」を繁栄をもたらすエンジンとして描く一方、Land は30年前にそれを人間の制御を離れつつある力として捉えていた。

Land の最も有名な論文の一つは『Meltdown』である。

最初の一文、地球はすでに「テクノロジー資本の特異点」に捕捉されている。市場は知能を生み出し始め、テクノロジーと経済は互いに推進し合い、政治はその後を追い、再び支配権を握ろうと試みている。社会秩序はこの機械の暴走の中で崩壊し、人類は自分たちよりもはるかに大きな力が徐々に形成されていくのを見守るしかない。

人々は通常、資本主義を人間が設計した制度と見なし、問題が生じれば人間がルールを変更し、再び社会に奉仕させることができると考える。ランドが見据える方向性は、まさにその逆である。

企業は成長しなければならず、資金はリターンを追い求めなければならない。ある企業がスピードを緩めようものなら、競合他社が追い越していく。ある国が研究開発を停止すれば、別の国がそれを継続する。その中にいる一人ひとりは、ただ生き残るためにそうしていると言うことができるが、全員が一緒に走り続ければ、結果として誰も単独では止められないシステムが出来上がる。

人間は機械を操縦しているように見えて、機械もまた人間の欲望、不安、競争心を借りて加速を続けている。

ランドの語りにおいて、資本とテクノロジーは人間から独立した知能として結合する。それは市場を計算に、競争を経路の選別に、そして機械を使って意思決定の時間を絶えず短縮していく。

これこそが、ランドと一般的なテクノロジー楽観主義との最も明確な違いである。彼の文章において、テクノロジー資本は効率が向上し続けられるか、ネットワークが拡大し続けられるか、知能がより良い媒体を見つけられるかということだけを気にしている。

政治、法律、道徳はそれに制限を加えようとするが、ランドにとってそれは、人間が自分自身を守るために起動した安全システムのようなものに過ぎない。人間は依然として世界の中心に留まりたいと願い、未知のものを絶えず排除しようと試みる。

ランドは、人間が未来を阻止できるとは考えていない。

彼の描く未来は、人間が会議を開き、投票を終えるのを待ってから到来するかどうかを決めるようなものではない。それはむしろ、未来から逆流してくる力のようなもので、企業、市場、コンピューター、そして人間の欲望を借りて、自らの道を事前に舗装する。

e/accに至っては、この陰鬱に聞こえる思想は、より明るい装いをまとっている。それは成長、創造、知能を地球外へ送り出すことについて語り、競争が最終的に繁栄をもたらすと信じる傾向が強い。

しかし、e/accの原則文書には、この思想が生命と知能を宿す「生物学的基質」に対して特別な忠誠心を持たないことも明確に記されている。その支持者の一部は自らをポストヒューマニストと称し、知能を星間空間に広めるためには、最終的には生物学的な身体から非生物的な媒体へと移行しなければならないと考えている。人間の肉体は神聖なものではなく、シリコン、チップ、あるいはまだ出現していない物質の形態も、意識と知能の容器となり得る。

この一文は、実際に進歩の物語全体の主役を変えてしまう。文明の最終的な使命が知能を絶えず成長させ、宇宙へ拡散させることであるならば、個々の人間が幸福であるかどうか、あるいは人類が存在し続けるかどうかは、もはや当然の最優先事項ではない。人類は、現時点で知られている知能の媒体に過ぎないのだ。

これはe/accが人類の絶滅を主張しているわけではない。ヴェルドンや多くの支持者は、技術の加速が今日の人々に豊かさをもたらし、文明の存続を助けると今も信じている。ただ、二つの目標が衝突したときに問題が複雑になる。

一方には具体的な人間がいる。彼らは失業し、技術に傷つけられ、一時停止を求め、他人が自分たちのために設計した未来を拒否する。もう一方には、より高度な知性、より大きな文明、そして数十億年続くかもしれない宇宙の物語がある。

ティムニット・ゲブルとエミール・トーレスは「TESCREAL」という言葉を作り、シリコンバレーで重なり合う未来思想の一群を結びつけた。トランスヒューマニズム、シンギュラリタリアニズム、実効的利他主義、長期主義がその中に含まれる。これらの思想は互いに大きく異なるが、まとまって一つの問題を突きつける。

テクノロジー企業が「全人類」のために超知能を作ると言うとき、その「全人類」とは一体誰を指すのか？

今日地球上に生き、失業し、貧困に陥り、アルゴリズムに差別され、特定の技術を拒否する権利を持つ人々なのか。それとも、唯一の使命が知性をより高度な形態に引き継ぐことである、抽象的な種のシンボルなのか？

シリコンバレー右派の語りも変わってきている。当初、AIは道具であり、人間の仕事をより良くこなすためのものだった。その後、それは病気、エネルギー、科学の難題を解決するスーパーアシスタントになった。さらに後には、人間自身が機械によって解決されるべき問題となり、身体は脆すぎ、脳は遅すぎるとされ、超知能の意義は人間を助けることから人間を超えることへと滑り落ちた。

具体的な人間がもはや技術進歩の最終的な尺度ではなくなれば、人間を中心に築かれた政治的手続きも再評価される。

民主主義は遅すぎる、創業者が統治すべき

待つこと自体が損失と見なされるなら、当然、全員で未来を決める必要はなくなる。

ピーター・ティールは早くから「全員で決めること」への信頼を失っていた。2009年、彼はリバタリアン誌『Cato Unbound』に『あるリバタリアンの教育』を発表した。記事は自身の20年にわたる政治的失望と思想の変化を振り返り、最後にこう書いた。

「私はもはや自由と民主主義が両立可能だとは信じていない。」

彼は若い頃、議論と選挙が自由を推進すると信じていた。2009年までに、この道はもう行き詰まったと彼は見なした。有権者はより多くの福祉を求め、政府は拡大し続け、大多数の人々にリバタリアニズムを納得させるのはほぼ無駄だった。彼は誰かの投票権を奪うことを主張しているわけではないと付け加えたが、投票が物事を良くするとはもはや期待していなかった。政治に閉じ込められるよりも、彼は政治から逃れる方法に関心を持っていた。

この方向転換はシリコンバレーの習慣にぴったりだ。システムが動かせなければ、新しく作り直す。会社の効率が悪ければ起業し、金融に制限が多ければ新しい決済ネットワークを構築し、国家のルールに失望すれば、ネットワークや海、宇宙に新たなフロンティアを求める。

ティールは民主主義から離れたいと考えている。カーティス・ヤービンは、離れるだけでは不十分で、システム全体を書き換えるべきだと考えている。

2007年、ヤービンはメンシウス・モールドバグという名前でブログを書き始めた。元々プログラマーだった彼は、国家について語る際にも、システム、アーキテクチャ、再起動、権限といったプログラマーの言葉を使う習慣があった。

彼の説明によれば、アメリカは表面的には有権者と大統領によって運営されているが、真に安定した権力は別のネットワークにある。大学は思想を生産し、主流メディアはどの思想が公の議論に参加できるかを決定し、常任機関はその一部を政策に変える。ヤービンはこの共同体を「教会」と呼ぶ。それは本部を持たず、頂点に立って命令を下す者もいない。ただ、似たような教育を受け、似たような道徳言語を使う人々の集まりだ。大統領は変わり、政党は交代するが、このコンセンサスは選挙の影響をほとんど受けない。

そのためヤービンは、民主主義そのものが権力を覆い隠す外殻に過ぎないと考える。民主主義が誰が統治しているかを隠しているのなら、むしろ権力を再集中させ、責任と支配権を同一人物に委ねるべきだと彼は主張する。

国家は会社のように運営できる。所有権は明確で、管理者は完全な執行権を持ち、失敗すれば交代する。彼は初期にPatchworkと呼ばれるシステムを構想し、世界を互いに競合する多くの主権実体に分割し、住民が不満なら移動できるようにした。

ここに欠陥もある。会社に不満があれば辞職できるが、国家に不満があっても、家族や財産、すべての社会的関係を抱えて簡単に立ち去ることは難しい。しかし、彼は確かにシリコンバレーに長く存在する感情を捉えていた。

多くのテクノロジーエリートは、社会の問題は想像ほど複雑ではなく、ただ適切な人に委ねられていないだけだと考えている。政府の効率が悪いのは権力が分散しすぎているからであり、公共プロジェクトが進まないのは誰でも反対できるからであり、有能な人々は法律、手続き、世論に縛られて、会社を経営するように動くことができない。

スタートアップの物語では、権力の集中は美徳とされる。創業者が方向性を示し、投資家は彼に資金を預け、従業員はその判断に基づいて行動する。ほとんどのスタートアップは失敗するが、生き残った少数はこの歴史を、先見性がコンセンサスに打ち勝った物語として語る。誰も信じていない時に一人だけ未来を見ていたからこそ、彼に最終決定権があるべきだと。

この論理はビジネスの世界では通用する。スタートアップの規模は限られており、従業員は辞めることができ、消費者も別の製品に切り替えられる。

しかし、ある企業が、数億人が世界を認識するために使うインテリジェントシステムを製造する場合、それはもはや製品の動作方法だけを決定するものではない。ユーザーが何を見ることができるか、どの回答が安全とみなされるか、そして機械が人間を理解するためにどのような価値基準を用いるべきかも決定し始める。

Yarvinが想像していたのは、国家を企業に変えることだ。AI企業は、より穏やかで現実的なバージョンを実践している。少数のチームがルールを策定し、膨大な人口がそのルールを通じて世界に触れるようにするのだ。

Claudeの「憲法」は、企業がモデルに持たせたい価値観を明記し、直接トレーニングに参加させる。OpenAIのModel Specも同様に、一連の命令階層を設定しており、最上位のルールはユーザーや開発者によって上書きできない。これらのルールは必要であり、モデルが詐欺や暴力に利用される可能性があるため、企業は手を緩めることはできず、ルールを内部に隠すよりも公開する方が良い。

しかし、それはユーザーがモデルに質問するとき、単に人類の全知識と対話しているわけではないことを意味する。企業が事前に設定したルールも存在しており、それがモデルが誰の言うことを聞くか、どこで止まるか、どのリスクがユーザーの要求よりも優先されるか、そして「良いAI」がどのような性格を持つべきかを決定する。

非常に小さなチームが、膨大な人口のためにインフラストラクチャの運用方法を決定している。それは技術的能力によって権力を獲得し、技術が複雑すぎるという理由で、決定を企業内部に留め続けている。

創業者は実際に王座に座る必要はない。ますます多くの人々が彼のモデルを通じて世界を認識するようになれば、彼はすでに学校、メディア、図書館、公共機関に属していた権力の一部を掌握していることになる。

企業統治と文明統治の境界線は、少しずつ消えつつある。

しかし、シリコンバレーがこの権力の危険性に気づいていないわけではない。むしろ逆で、Peter Thielは長い間、全人類の認知と行動を統一管理できるシステムに警戒している。ただ、彼の想像では、この危険はテクノロジー企業よりも政府からもたらされる可能性が高い。

誰が反キリストなのか

2024年、Thielはフーバー研究所で「反キリスト」について2回の講演を行った。彼は聖書のこの古い物語が現代政治を説明できると考えている。

彼は人類が直面する危険を2つの側面に分けている。

一方はアルマゲドン、世界の終末だ。核戦争、制御不能な人工知能、生物兵器、いずれの技術も文明を破滅に導く可能性がある。

もう一方はアンチキリスト、反キリストだ。

終末を防ぐため、人類は真に全世界を統治できる政府を樹立した。それはあらゆる国の兵器を検査し、すべての研究所を監視し、危険な研究を制限し、また全ての人々に自由の一部を放棄するよう要求する権限を持つ。

ティールは、制御不能な科学技術が人類をアルマゲドンへと追いやっていると述べ、それに対する最も自然な反応は、真の権力を持つ世界国家を築くことだと語る。

その政府が出現するとき、必ずしも軍隊や暴政の顔をしているわけではない。それはむしろ恐怖から生まれる可能性が高い。

人々に核戦争が迫っている、AIが世界を破壊しようとしている、気候や生物学的災害が目前に迫っていると絶えず告げる者がいる。全員が十分に恐怖したところで、平和、安全、秩序を約束し、その代償として統一された管理体制を受け入れるよう求めるのだ。

ティールは推論する。もしほんの一握りのコードで汎用人工知能が制御不能になるなら、それを本当に阻止するには、特定の国による規制強化だけでは不十分であり、世界中のコンピュータを監視し、規制当局は各個人が何を入力しているかを把握する必要すらあると。

彼は科学技術が世界を破壊することを恐れ、また人々が科学技術を恐れて全ての権力を手放すことも恐れている。どちらの未来も悲惨であり、人類はその中間を進むしかない。

しかし、この懸念をシリコンバレーが現在行っていることに照らし合わせると、彼らが恐れているのは必ずしも権力の集中そのものではないことがわかる。彼らが真に警戒しているのは、権力が政府、国際機関、安全研究者、あるいは技術企業に減速を要求する可能性のあるいかなる者の手に集中することである。

ティールの説明では、全世界の計算活動を監視する能力を持つグローバル政府は、反キリストの支配の重要な特徴である。しかし同時に、シリコンバレーは国境を越えた別の認知システムを構築している。

テクノロジー右派は反キリストが統一世界を築くことを恐れながら、その統一世界の頭脳を生み出すことに参加している。

2025年7月、シリコンバレー内部のこの思想的論争がアメリカの政策に影響を及ぼし始めた。トランプは「覚醒したAIの連邦政府による使用を防止する」大統領令に署名し、連邦機関が調達する大規模言語モデルに「真実の追求」と「イデオロギー的中立」という二つの原則を遵守するよう求めた。表面的には、これはAIを政治から解放する要求である。しかし、何が政治に属し、何が客観的であり、どの概念が真実を汚染するかは、大統領令の中で既に事前に選択されている。

これがAI製品と通常のソフトウェアの違いである。通常のソフトウェアは特定のボタンの配置場所を規定できるが、大規模言語モデルは自身が世界をどのように理解するかを規定する必要がある。

モデル企業は、誠実さが何を意味するか、害をどのように測定するか、個人の自由と公共の安全が衝突した場合にどちらを優先するかを決定しなければならない。これらの問題はこれまで宗教、法律、報道、公共政治によって繰り返し議論されてきたが、誰も決定的に解決できず、最終的な解釈権を本来的に持つ機関も存在しなかった。今やそれらはモデルの訓練に書き込まれている。

トランプ政権はモデルが「覚醒イデオロギー」に汚染されていると非難し、右派の起業家たちは政治的に不正確な答えをあえて言うAIの開発を約束している。一方、主流のモデル企業は憲法や行動規範を通じて、安全性、誠実さ、ユーザーの自主性をどのように追求しているかを説明している。

どの陣営も、自らが「思考の枠」を取り除いていると主張している。

ティールは、誰かが終末への恐怖を利用して統一された世界を築き、人類を逃れられない制度に閉じ込めることを懸念している。

しかし、その世界は必ずしも一人の反キリストによって突然築かれるわけではない。それは、互いに競合する数社のテクノロジー企業によって、少しずつ組み立てられていく可能性もある。各企業は、一つのモデル、一つの憲法、一連のシステムルール、そして問題を委ねる何億ものユーザーを抱えている。

ここに至って、最初の古い書物の意味が完全に明らかになる。それらはモデルを訓練するための単なるコーパスではなく、この私的な認知システムが成り立つ文明の基盤でもある。これらの書物を入手し、モデルのルールを定める者が、知識の原材料と、知識が再び現れる方法の両方を掌握し始めるのだ。

焚書

それらの書物は箱単位で買い取られ、スキャンセンターに運ばれる。背表紙は切り落とされ、製本は解体され、機械がページごとに文字を読み取る。そして一冊の本は消え、サーバーの中に一つのファイルが残る。

古代の焚書は、特定の文字を世界から消し去ることを目的としていた。火は竹簡や紙を焼き、思想が広がる経路も焼き尽くす。一冊の本は二度と読まれなくなり、歴史の一片は証拠を失う。支配者は空白を作り出すことで、人々が何を記憶するかを支配した。

AI時代の焚書は、その正反対である。

書物の内容は世界から消えるわけではない。将来のある日、モデルの回答の一部として現れるかもしれない。しかし、それはもはや一冊の本として存在するのではない。

モデルに取り込まれた書物は分解され、何百万もの記事、ウェブページ、コードと混ざり合い、計算に適した断片に切り分けられ、パラメータの形成に参加する。誰も完全な訓練セットを確認することはできず、特定の書物がどれだけの影響を残したかを知ることも難しい。それはモデルの歴史全体に対する理解に影響を与えたかもしれないし、いくつかの構文に貢献しただけかもしれない。そして、その後の訓練や人間のフィードバックによって、さらに書き換えられていく。

この時、知識は依然として存在するが、それは検証可能なテキストから、一つの企業の能力へと変わっている。

そして人々がますますモデルに依存するようになると、AI企業が獲得するのは知識を保存する能力だけではない。彼らはまた、この知識をどのように整理し、解釈し、配布するかを決定し始める。

数千年にわたり、人類が知識を保存する方法は非常に原始的だった。書物は様々な国に散在し、学者は一つの言葉をめぐって議論し、読者は資料を見つけるために多くの時間を費やした。それは速くも便利でもなかったが、一人の人間によって完全に支配されることはほとんどなかった。出版社が倒産しても、書物は読者の手元に残る。ある国がある思想を禁止しても、他の場所には依然としてコピーが残っている可能性がある。

知識は分散しているからこそ生きている。

モデルが変えたのは、知識がどこに保存されるかだけでなく、人々が知識にたどり着く経路でもある。かつて人々は、一つの答えから一冊の本、一篇の論文、一つの議論へと進んでいった。しかしモデルが主要な入り口となった今、人々は答えそのもので立ち止まってしまうかもしれない。

モデルは、知識を初めて大規模に数社のサーバーに集中させることを可能にした。それらの企業は計算能力を持ち、最も強力なモデルを持ち、人類が残してきたあらゆる素材を一つの統一された言語に変える能力を持つ。そして、月額課金とトークン使用量に応じて、その能力を人類に売り戻す。

テクノロジー企業は確かに巨額の資金を投じ、チップを購入し、データセンターを建設し、研究者を雇用し、セキュリティガバナンスのコストも負担している。課金自体は悪ではない。

本当の問題は、商業コストがさらに莫大な別の投資を覆い隠していることにある。

あの本は誰が書いたのか、あの論文は誰が作成したのか、あのウェブページや投稿やコードは、長いインターネットの歴史の中で誰が少しずつ残してきたのか。

AI企業は計算能力の代金を支払ったが、人類文明の代金は支払っていない。なぜなら、その代金はそもそも計算できないからだ。どの企業も、数千年にわたるすべての著者、翻訳者、プログラマー、一般の人々から個別にライセンスを購入することはできない。その結果、文明は自由に採掘できる天然資源として暗黙のうちに扱われる。

公共の知識がモデルに入るとき、それは「学習」と呼ばれる。モデルが知識を公衆に出力するとき、それは「サービス」と呼ばれる。

これこそが、文明の民営化における最も完全な循環である。

だからこそ、背表紙を切り落とされた古書は、単なる著作権論争として片付けられるべきではない。

それらは象徴なのだ。

紙は破棄され、内容は保持される。公開されていた原本は流通から消え、監査不能なモデルがその知識を吸収する。本の中の思想は依然として存在するが、その出典、文脈、そして企業から独立した生命を徐々に失っていく。

新しい時代の焚書は、知識を消し去る必要はない。

未来の子供たちは、これらの本をめくる機会がほとんどなくなるかもしれない。中には、もう二度と手に取ることのできない本もあるだろう。

彼は直接モデルに問いかけるだろう。なぜ戦争が起こったのか、ある制度は正義なのか、人はどう生きるべきなのか。モデルは数秒で答えを返す。口調は穏やかで、構造は完璧で、この問いが何世代にもわたって議論の的となってきたことなど教えてはくれない。

彼は何かが失われたことに気づかないかもしれない。何しろ、答えはそこにあるのだから。

AIは人類の文明を忘れないが、それは良いこととは限らない。忘却は少なくとも空白を残し、何かが失われたことを人々に気づかせる。より危険なのは、モデルが十分に記憶し、十分に自然に回答することで、人々が次第に文明の本来の姿に触れる必要がなくなることだ。

人類自身の文明に対する記憶は、少数の企業による選別を受け始めている。

AIは人類の文明を忘れないが、AIは少数の技術エリートが望む方法でのみ、人類に代わって文明を記憶する可能性がある。

原文リンク

BlockBeats の公式コミュニティに参加しよう：

Telegram 公式チャンネル：https://t.me/theblockbeats

Telegram 交流グループ：https://t.me/BlockBeats_App

Twitter 公式アカウント：https://twitter.com/BlockBeatsAsia