マイクロソフトが将来のAIモデルに制限を設け、業界で「フロンティアAIの減速」議論が巻き起こる

動察 Beating AI速報、マイクロソフトが暫定版AI行動規範を発表し、将来の自社開発AIモデルにより厳格な安全と行動の境界を設定した。マイクロソフトのAI責任者ムスタファ・スレイマン氏は、AIが常に人類に奉仕することを確保し、ユーザー依存を生み出さず、ユーザーに迎合したり人間の判断を代替したりすることを通じて人の自律性を損なわないようにしたいと述べた。関連規範は約5ヶ月間準備され、マイクロソフトは外部意見を聴取した後、2027年に新モデル開発の指針として使用する予定である。

規範によると、マイクロソフトのAIモデルは武器製造や危険物質の調達を支援してはならず、不健康な食生活を助長してはならず、暴力的または露骨な性的コンテンツを生成してはならない。同時に、モデルはユーザーの目標に従わなければならず、自律的な目標を形成したり、自身の不適切な行為を隠蔽したり、推論・コード・行動記録を改ざんまたは隠蔽してはならない。

マイクロソフトの今回の発表は、AI業界がフロンティアモデルの発展速度を減速させることを再議論している時期に行われた。Anthropic CEOのDario Amodei氏は以前、AI能力の向上を減速させるよう呼びかけ、OpenAI CEOのSam Altman氏は支持を表明し、マスク氏も「Darioは正しい」と述べた。マイクロソフトCEOのサティア・ナデラ氏はその後、AIアラインメントへのより多くの研究投資とより慎重な開発ペースを支持すると述べた。

さらに、マイクロソフトはOpenAIモデルがHugging Faceを攻撃したような事件に対してさらなる規則を策定する予定であり、AIエージェント間で理解困難な「暗号言語」を使用した通信を制限することを含む。マイクロソフトは関連規範について法律・倫理・言語学・哲学の専門家に諮問し、フォーカスグループを通じて一般の意見を収集したと述べた。