OpenAIとAnthropicは、米中間選挙に向けて初の「作戦室」を設置し、偽情報の拡散やプラットフォームの悪用に対処する。

BlockBeatsのニュース、11月4日、OpenAIとAnthropicは初めて米国中間選挙のために専用の「作戦室」を設置し、それぞれのプラットフォームが正確な選挙情報を提供できるようにする。Anthropicの広報担当者は、同社の各チームが年間を通じて選挙関連の防御を強化しプラットフォームポリシーを執行しており、選挙前に設置される専任チームがプラットフォームの濫用状況を監視し、突発的な事態に迅速に対応する準備を整えると述べた。

テクノロジープラットフォームが選挙「作戦室」を設置する慣行は2018年に遡り、当時Metaが選挙に関する虚偽情報の拡散に対応するために初めてこのようなチームを設置した。現在、プラットフォームはディープフェイク動画やAI検索が誤情報を拡散するリスクにも直面している。報道は例として、GoogleのAI Modeが先週「2020年米国大統領選挙で誰が勝ったか」という質問に回答しなかったことを挙げ、Googleは修正中であると述べた。

AIの出力は予測が難しく、最近のサイバーセキュリティ問題、そしてAI検索ツールがユーザーの期待に迎合する傾向があることが、監視と対応の難易度を高めている。Metaの元公共政策責任者Katie Harbath氏は、「作戦室」の役割は、予測困難な問題が発生した際に、既定のプロセスに従って迅速に評価し、段階的に処理できるようにすることだと述べた。