英国金融監督機構緊急評估了 Anthropic 的最新 AI 模型風險

1M AI ニュース の監視によると、英国の金融監督機関は、Anthropic の最新 AI モデルのリスクを緊急評価しました。Anthropic は 4 月 7 日に、同社の最新モデルである Claude Mythos Preview がこれまでで最も強力な AI であることを発表しましたが、内部テストでは、このモデルが非常に強力なネットワークセキュリティ機能を示しました：数千の重大な脆弱性を発見し、中程度の複雑なハッカー行為（インターネットへの認可されていないアクセス、メールの送信と情報の公開など）にも成功しました。そのため、Anthropic はこのモデルがあまりに危険だと判断し、公開せず、「Project Glasswing」プロジェクトを介して Apple、Google、Microsoft、Amazon、JPMorgan Chase などを含む 40 社の創業パートナーだけに使用を制限し、使用量を制限しました。

この動きは、Anthropic が「セキュリティ第一」のブランドイメージを強化する戦略と見なされており、市場への反応を引き起こしました：ネットワークセキュリティ関連の株価が下落し、アメリカの財務長官である Scott Bessent は急いでウォール街のリーダーたちを招集して金融システムのリスクについて議論し、英国中銀も潜在的な脅威を評価するために銀行や保険会社と会議を開催しようと準備しています。現在、専門家の意見は分かれており、セキュリティ上の懸念が実際のものであると考える人もいますが、一部の人々はこれが一部の公共関係に役立っていると疑問を投げかけ、モデルの公開を決定するのは民間企業ではなく、独立した民主的機関であるべきだと訴えています。