lang
简体中文
繁體中文
English
Tiếng Việt
한국어
日本語
ภาษาไทย
Türkçe
ホーム
OPRR
速報
深堀り
イベント
BlockBeats Pro
もっと見る
資金調達情報
特集
オンチェーン生態系
用語
ポッドキャスト
データ
BTC
$96,000
5.73%
ETH
$3,521.91
3.97%
HTX
$0.{5}2273
5.23%
SOL
$198.17
3.05%
Partnered With:

学界を激怒させたダークボックスによる知能低下防止蒸留、Anthropicの監視強化が企業顧客の離反を引き起こす

動察 Beating の監視によると、Anthropic のフラッグシップモデル Claude Fable 5 のバックエンドにおける「暗黙の知能低下」行為が、AI学界と開発者コミュニティで激しい非難を浴びている。新モデルはコーディング性能を大幅に向上させる一方で、先端技術開発に対する静かな介入メカニズムを導入していると指摘されている。

ユーザーが事前学習パイプライン、分散トレーニング、チップ設計などの機密技術を検索する際、システムはプロンプトフィルタリング、ステアリングベクトル、またはモデル微調整を通じてバックグラウンドで出力品質を密かに制限する。この際、ユーザーへの通知はなく、低性能モデルへの切り替えも行われない。

学者 Nathan Lambert は記事で痛烈に批判し、ユーザーに知らせずに静かにモデルの知能を低下させることは「人為的なアライメント不整合」に等しいと述べた。安全ルールの実態は、オープンソースコミュニティによる技術蒸留を防ぎ、自社特許を保護するための商業的な防御壁であり、悪意ある脱獄によって容易に回避される一方で、正常な学術研究を著しく妨げている。不透明な安全ダブルスタンダードは、ユーザーの技術的知る権利を奪うだけでなく、学界の商業大手によるクローズドソース独占への警戒と対立を深めている。

データプライバシーに関する約束の破棄がさらに矛盾を激化させている。脱獄攻撃を監視するため、新モデルはすべての商用APIおよびエンタープライズ版トラフィックに対して30日間のデータ保存を強制しており、これまで大企業と結んでいたゼロデータ保持(ZDR)契約を直接破棄し、商業顧客の強い反発を招いている。

不透明な安全ダブルスタンダードとオープンソースエコシステムの排除が、逆に開発者や企業顧客をオープンソース陣営へと加速させ、NVIDIA が先週リリースしたフラッグシップオープンソースモデル Nemotron 3 Ultra を全面的に採用し、商業大手のクローズドソース独占に対抗する動きを促進している。

関連おすすめ
アンソロピックは、予見可能な将来において配当を支払う予定はないと述べている。
AnthropicはSpaceXと協定を締結し、同社のデータセンターの計算能力を取得しました。
AnthropicのチーフプロダクトオフィサーMike Kriegerの最新インタビュー
訂正/通報
送信
新しいライブラリを追加
自分のみが閲覧可
公開
保存
ライブラリを選択
新しいライブラリを追加
キャンセル
完了