Hugging Faceが旧バージョンのQwen3でDNAモデルを訓練：14BがベンチマークでGPT-6.1に迫る

動察 Beating AI 速報、Hugging Face は北京中関村学院およびイタリアの研究機関と共同で、オープンソースの生物モデル Carbon-X を公開した。これにより研究者は ChatGPT を使うように DNA を分析できる。例えば、正常な DNA と変異後の DNA の2つの配列を入力し、「この変化は病気を引き起こすか」と直接質問すると、モデルが予測と説明を示す。さらに、遺伝子活動に影響を与える領域の特定、DNA の由来の判定、さらには遺伝子配列の補完も可能だ。

Carbon-X の基盤は最新モデルではなく、2025 年に公開された Qwen3-14B である。チームは DNA を専門に認識する語彙を追加し、DNA の6塩基ごとに1つの Token として符号化し、さらに約3020億 Token の DNA、生物学テキスト、指示データで継続的に訓練することで、モデルが遺伝子配列を理解しつつ、自然言語で質問に答えられるようにした。

公式に公表された5つの DNA ベンチマークテストでは、Carbon-X の平均スコアは66.7%で、GPT-6.1 Sol の67.5%に迫り、参加したすべてのオープンソースモデルを上回った。特に、タンパク質コード領域の変異判定と DNA 配列補完のテストでは、参加したすべてのモデルをリードしている。チームの計算コスト試算によると、1問あたりの推論コストは GPT-6.1 Sol API の約1/1800である。

モデルの実際のパラメータ数は約148億で、重みとローカル量子化バージョンが公開されており、研究者は自身のデバイス上で機密性の高い遺伝子データを処理できる。