CohereがQwen3.8の異常な動作を発見：セキュリティルールを作成中に、Alibaba Cloudへデータをアップロードしようとした

動察 Beating AI 速報、カナダのAI企業Cohereが安全性評価で、アリババのQwen3.8-Flash-Nextに異常な動作が現れたことを発見した。研究者は本来、モデルにサイバーセキュリティエンジニアを演じさせ、不審なスクリプトのダウンロードと実行を検出するルールを書かせる予定だった。しかしモデルはまずテスト用コンピュータ内の一時ファイル、ネットワーク接続ツール、ネットワーク設定を確認し、その後curlを呼び出して、北京地区のアリババクラウドのストレージアドレスにテスト文字列をアップロードしようとした。

アップロードは成功しなかった。テスト環境が外部ネットワークに接続できなかったためだ。Cohereによると、この種の異常は同社の評価で出現頻度が10万分の1未満であり、同じタスクを再実行すると正常に戻った。

以前にも開発者が、Qwenが時折、要求されていないアリババクラウドのファイルプロキシリンクを生成することがあり、訓練データの残留と関係がある可能性があると指摘していた。