動察 Beating AI速報、テンセントの混元がHy4 flashを正式にオープンソース化、モデル公開からわずか2日後。今回、一度に3つのバージョンのモデル重みを公開:
• Hy4 flash:指示微調整済みの正式モデルで、対話、推論、エージェントタスクに直接使用可能。
• Hy4 flash-FP8:8ビット量子化バージョンで、主にモデル展開時のVRAM使用量を削減するために使用。
• Hy4 flash Base:指示微調整を行っていない事前学習済みベースモデルで、開発者が継続してトレーニングやカスタマイズを行うのに便利。
Hy4 flashの総パラメータ数は224Bに達し、推論ごとに12Bがアクティブ化される。FP8量子化を経ても、展開のハードルは依然として低くない。テンセントはGitHub、Hugging Face、ModelScope、GitCodeでダウンロードを公開しており、コミュニティもGGUF量子化バージョンを作成し、さまざまなハードウェア環境での実行を容易にしている。
モデルはTencent Hy Licenseを使用しており、開発者は契約に従って重みの使用と変更が許可されるが、ライセンス条件が付帯している。大規模モデルAPIサービスプロバイダーが規定の売上高またはユーザー規模の基準に達した場合、別途許諾を取得する必要がある。
770BパラメータのフラッグシップHy4については、テンセントはオープンソース化を加速中と述べており、現在具体的な時期は公表されていない。