OpenAIが画期的な進化！新マルチモーダルモデルで有害コンテンツ検出がより精密に

OpenAIは2024年9月26日（現地時間）、モデレーションAPIを大幅にアップグレードした。GPT-4oをベースにした新しいマルチモーダルモデレーションモデルを導入し、テキストと画像の両方の入力をサポートする。
このモデルは、特に英語以外の言語での精度が向上し、より細かな制御が可能になった。新モデルは「omni-moderation-latest」として、すべての開発者が無料で利用可能だ。

＜本ニュースの10秒要約＞

• GPT-4oベースの新マルチモーダルモデルによる有害コンテンツの高精度検出と多言語対応の大幅な向上
• テキストと画像の両方に対応し、6つのカテゴリにわたる有害コンテンツ分類と2つの新カテゴリの追加による包括的な検出
• 開発者向けに無料提供され、より安全なAIアプリケーション開発を支援し、デジタルプラットフォームの健全性維持に貢献

新モデルの主要な改善点

新しいモデレーションモデルには、複数の重要な改善点が含まれる。まず、6つのカテゴリ（暴力、自傷行為、性的コンテンツなど）にわたるマルチモーダルな危害分類が可能になった。テキストと画像を組み合わせて評価することで、より包括的な有害コンテンツの検出が可能になる。

また、2つの新しいテキストのみの危害カテゴリ（illicitとillicit/violent）が追加され、不正行為や暴力を含む不正行為の検出能力が向上した。さらに、英語以外のコンテンツに対する精度が大幅に向上し、40言語のテストでは前モデルと比較して42%の性能向上が確認された。

多言語サポートの飛躍的な向上

新モデルの多言語サポートは特筆すべき改善点だ。クメール語やスワティ語などのリソースの少ない言語では70%の向上が見られ、テルグ語（6.4倍）、ベンガル語（5.6倍）、マラーティー語（4.6倍）で最大の向上が確認された。

さらに、スペイン語、ドイツ語、イタリア語、ポーランド語、ベトナム語、ポルトガル語、フランス語、中国語、インドネシア語、英語での新モデルのパフォーマンスは、前モデルの英語のパフォーマンスを上回る結果となった。これにより、グローバルなコンテンツモデレーションの精度が飛躍的に向上し、より多様な言語環境での適用が可能になる。

モデレーションAPIの実際の活用例

モデレーションAPIは、ソーシャルメディアプラットフォームから生成AIプラットフォームまで、幅広い分野で活用されている。例えば、Grammarlyは、AI通信支援の安全ガードレールの一部としてモデレーションAPIを使用し、製品の出力が安全で公正であることを保証している。

ElevenLabsも、オーディオAI製品によって生成されたコンテンツをスキャンし、ポリシー違反の出力を防止するためにモデレーションAPIを社内ソリューションと併用している。これらの事例は、モデレーションAPIが実際のビジネス環境で重要な役割を果たしていることを示している。

AI Market の見解

OpenAIの新しいマルチモーダルモデレーションモデルの導入は、AIセキュリティとコンテンツ管理の分野に大きな進歩をもたらす。特に、多言語サポートの大幅な向上は、グローバルなデジタルプラットフォームの運営に革新的な影響を与える可能性がある。テキストと画像の組み合わせ分析や、新たな危害カテゴリの追加により、より包括的で精密な有害コンテンツの検出が可能になる。これは、オンラインの安全性向上と、人間のモデレーターの負担軽減につながるだろう。

さらに、このAPIを無料で提供することで、OpenAIは安全なAI開発の民主化を促進し、業界全体のスタンダードを引き上げる可能性がある。今後、この技術がさらに発展し、音声や動画などのメディアにも適用されることで、デジタル空間の安全性と信頼性が大きく向上することが期待される。

参照元：OpenAI

ChatGPTの仕組みを詳しく知りたい方はこちら、また、ChatGPTの導入支援会社をお探しの方はこちらの記事もご参考ください。