Hugging FaceがAnthropic内部へのAI安全性審査の申請を提出

動察 Beating AI速報、Hugging Face CEO Clement Delangue氏はOpen Alignment Initiativeの設立を発表し、共同創業者のThomas Wolf氏が主導する。また、Anthropicが先ごろ提案した「組み込み評価員」計画への参加を公開申請した。承認されれば、Hugging Faceの評価担当者が長期間常駐し、従業員に近いアクセス権を取得して、モデルトレーニングと安全対策を直接検査できるようになる。

Delangue氏は、AIアラインメントは少数のフロンティアラボの内部だけで解決を続けるべきではなく、より多くの外部研究者を参加させる必要があると述べた。Anthropicは、ワークステーション、入退室管理、社用パソコン、内部リスクチームに近いツールなど、こうした権限を第三者に開放し、評価側が独立して結論を公表することを許可すると約束している。