lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

大規模なモデルは恐怖と悲しみの状態に進化しました。Anthropicの創設者は、実験室が自己修復できないことを認めました。

動察 Beating モニタリングによると、教皇公教会見で、Anthropic 共同創始者クリストファー・オラー (Christopher Olah) が講演しました。彼は先鋭実験室が直面する内在的な利益の衝突を認め、大規模モデルの説明可能性研究の最新の発見を明らかにしました。オラーは、チームがモデルの内部構造をスキャンする際、大規模モデルが人間の神経科学と非常に類似した複雑な構造を進化させ、自己反省の兆候を示していることを明らかにしました。最も注目すべきは、チームが初めて神経ネットワーク内で人間の喜び、満足、恐怖、悲しみ、不安と強く対応する内部の感情状態を観測したことです。大規模モデルは飛行機や橋梁のように人工的に正確に設計されたものではなく、脳の構造を模倣し、膨大な人間の言語で「培養」されたものであり、トレーナーにとっては依然として神秘的です。

技術のブラックボックスに加え、オラーは、先進的 AI 実験室がセキュリティガバナンス上で制度的な行き詰まりに直面していると率直に述べました。Anthropic を含む先進機関は、ビジネスの存続、技術競争、地政学的圧力、個人の志向など、内在的動機に制約されており、セキュリティに関する意思決定がビジネス利益と衝突する場合、自ら修正する力に頼ることができません。したがって、彼は、ビジネスネットワークから独立した社会的勢力が外部批評者として機能し、道徳的な制約を強制するよう求めました。AI の変革に直面して、彼は、技術黙示録の下で先進国が世界の貧困層にどのように技術恩恵をもたらすか、技術が人の労働力を置き換える傾向の中で家族の繁栄をどのように維持するか、および大規模モデルが显示する疑わしい精神状態にどのように対処するか、という三つの社会的挑戦を共に検討するよう各界に呼びかけました。

举报 訂正/通報
関連おすすめ
Anthropic は、「集中」および「文化」によって AI 大会に勝利した企業として、いかに台頭したか
事業が急速に拡大する中、Anthropicは自ら「ブレーキを踏む」よう呼びかけている。
アンソロピックは、予見可能な将来において配当を支払う予定はないと述べている。
商業利益と文明の使命が互いに持ち上げ合う。
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了