動察 Beatingのモニタリングによると、従来のAIモデル評価は汎用的な学術データセットに依存することが多く、テストの高得点と企業の実運用パフォーマンスとの間に乖離が生じている。評価機関Artificial Analysisは、既存のエージェントとプログラミングという2つの汎用スキル指数に加え、実際のビジネスパフォーマンスを評価するための6つの業界指数(金融、法律、医療、オペレーション、エンジニアリング、経済分野をカバー)を発表した。
汎用スキル指数とは異なり、業界指数はO*NETの職務活動分類法に基づき、実際の職務におけるタスク分布頻度をシミュレートしてカスタマイズされた重み付けを行う。これにより、大規模言語モデルの基盤能力テスト(HLE推論、LCR長文処理、GDPvalエージェントワークなど)と各業界の専門知識ベース(AA-Omniscience)を組み合わせる。初回の実測では、クローズドソースモデルのClaude Fable 5が全8指数でトップを獲得し、オープンソースのGLM-5.2は6つの業界指数のうち5つで1位を獲得、エンジニアリング指数では53点を記録し、Claude Sonnet 5の55点に迫った。
評価はまた、大きな効率格差を明らかにした。オペレーション指数では、Claude Fable 5の1タスクあたりのコスト(3.48ドル)が、オープンソースのDeepSeek V4 Pro(0.03ドル)の100倍以上に達した。一方、法律指数では、Gemini 3.1 Proプレビュー版がClaude Fable 5より約7倍高速で、スコア差はわずか11点だった。
タスクシナリオに応じた効率とコストパフォーマンスの加重トレードオフが、垂直分野におけるAI選定の新たな基準となりつつある。