動察 Beatingのモニタリングによると、欧州のAIユニコーン企業Mistralは、コンテンツモデレーションモデル「Shieldstral」を発表した。このモデルはわずか30億パラメータで、テキスト、画像、および画像とテキストの複合コンテンツを検査でき、AIが回答を拒否すべきかどうかも判断できる。
多くの従来のモデレーションモデルは、ポルノ、暴力、ヘイトなどのカテゴリを事前に設定している。モデレーション基準が変わると、通常はデータを追加し、モデルを再トレーニングまたは微調整する必要がある。
Shieldstralは自然言語のルールを直接読み取ることができる。開発者がモデレーション要件を変更するだけで、基準を切り替えることができ、モデルを再トレーニングする必要はない。
このモデルは中国語を含む12言語をサポートし、Apache 2.0ライセンスを採用している。公式によると、16GBのVRAMを搭載したNVIDIA製グラフィックカード1枚で実行可能で、テキストモデレーションの成績は、パラメータ数が約7倍のGPT-OSS-Safeguard-20Bと同等である。