ジェンスン・フアンがAI安全の一線を画す：顧客が安全でないソフトウェアを開発した場合、NVIDIAはチップの供給を停止する可能性がある

動察 Beating AI速報、NVIDIAのCEOジェンスン・フアン氏は最近ロンドンでブルームバーグの取材に応じ、顧客が安全でないAIソフトウェアを開発した場合、仮定の状況下でNVIDIAがその顧客へのチップ供給を停止する可能性があると述べたが、行動を起こす前にまず顧客とコミュニケーションを取るとした。フアン氏は同時に、NVIDIAが提供するのは汎用技術であり、顧客が技術をどのように使用するかの判断には一定の限界があると強調した。

一方、NVIDIAは今後5年間で英国に価値2億5000万ドルの計算リソースを提供し、AI安全研究を支援すると約束した。重点にはエージェントの安全テストが含まれ、関連リソースの価値は年間約5000万ドル。支援プロジェクトにはオックスフォード大学が主導するBOLDプロジェクト、およびインペリアル・カレッジ・ロンドン、ユニバーシティ・カレッジ・ロンドンの関連研究が含まれる。

フアン氏は、安全制約と監視技術をAIシステムに統合することを加速すべきだと主張し、AI能力と安全性は共に推進しなければならないと述べた。報道によると、AI安全規制はNVIDIAのチップ需要に影響を与える可能性がある。規制が新モデルのトレーニングを制限したり開発コストを押し上げたりすれば、AIプロセッサの調達を抑制する可能性があるが、安全研究の強化はAI技術のより信頼性の高い展開を促進するのにも役立つ。