田柯宇がByteDanceへの「毒入れ」について初めて語り、10日間でプログラムを5回しか停止しなかったと主張。相手側はコードを公開して反撃し、彼のモデルデモの捏造も告発した。

動察 Beating AI速報、かつてByteDanceのモデルトレーニングを妨害したことで解雇された田柯宇氏が、ポッドキャスト『elsewhere 別処発生』で2年前の論争に初めて詳細に応じた。同氏は、当時新しいインターンが常に計算資源を過剰に占有し、他の同僚の実験まで停止させていたと述べ、上司にフィードバックしても改善しなかったため、「力には力で対抗する」ことを選んだと語った。ChatGPTを使ってプログラムを書き、約10日間にわたり手動で相手の実験を5回妨害したことは認めたが、数ヶ月にわたってトレーニングクラスターを攻撃し続けたことは否定し、計算資源の争いが目的ではないと強調し、自身のやり方が不適切だったことも認めた。

しかし、『インターンAの視点が来た』と題する反論資料は、まったく異なる主張を提示している。資料にはByteDance内部からのものとされる複数のコード記録が挙げられ、田柯宇氏の妨害行為が2024年3月に始まり、数ヶ月間続き、複数のプロジェクトに関与したと告発している。同氏はまずLlamaGenプロジェクトのモデルパラメータにランダムノイズを混入させ、その後、動画生成プロジェクトGokuが使用するPyTorchの基盤コードを改ざんし、モデルのトレーニング結果にエラーを起こさせ、プログラムをランダムに中断させた。これらの障害は極めて再現が難しく、100台のマシンで同じプログラムを実行しても1台だけ異常が発生し、再起動後に正常に戻るケースもあった。中国と米国のチームは長期にわたり交代で調査を続け、同年7月末になってようやく異常なコードを発見した。田柯宇氏はこの間、同僚の調査進捗に応じて攻撃方法を調整していたという。

さらに深刻なのは、別の研究倫理に関する告発である。資料によると、田柯宇氏は当時、1000枚以上のGPUを使用してトレーニングするVARテキスト画像生成プロジェクトを担当していたが、同僚にテスト用として示した成果は、実際にはすでにオープンソース化されていたPixArtモデルから得たものであった。同氏はまた、ユーザーが入力するPromptの前に密かに「City」を追加し、同僚が同じプロンプトで2つのモデルの関連性を発見しにくくしていた。以前からテスト担当者は、生成画像に理由もなく都市建築物が頻繁に現れることに気づいていたが、原因は分からなかった。事後にチームが確認したところ、実際のVARモデルは展示された効果にはほど遠いものであった。文末には関連プロジェクトの複数の研究者名が挙げられ、彼らが自ら体験した部分について証言する用意があると述べられている。

ByteDanceは早くも2024年に、田柯宇氏がコードを書き、改ざんすることで悪意をもって内部研究プロジェクトのトレーニングを妨害したことを確認し、その後同氏を解雇し、800万元および合理的支出の賠償を求めて訴訟を提起した。田柯宇氏は今回、一審裁判所が約50万元の賠償を命じ、その他の請求は棄却されたが、ByteDanceが控訴し、現在も二審中であることを明らかにした。同氏は賠償を認め、自身の行為について謝罪する一方で、外部が自身の行為を深刻に誇張していると主張し続けている。