Yahoo!ニュース、AIによる「コメント添削モデル」導入で健全な言論空間を目指す

LINEヤフー株式会社が運営する「Yahoo!ニュース」は、2024年9月9日、コメント欄の健全化を目指す新たな取り組みとして、AIによる「コメント添削モデル」の導入を開始した。

このシステムは、ユーザーがコメントを投稿する前に、コメントポリシーに違反する可能性のある表現や、他のユーザーが不快に感じる可能性のある表現を検出し、投稿者に表現の見直しを提案する。これにより、より建設的で快適なコメント環境の創出を目指している。

＜本ニュースの10秒要約＞

• Yahoo!ニュース、AIを活用した「コメント添削モデル」を導入し、投稿前にユーザーへ表現の見直しを提案
• コメントポリシー違反や不快感を与える可能性のある表現を事前に検出し、ユーザーに改善の機会を提供
• 24時間体制の専門チームによる人的パトロールに加え、独自開発のAIモデルを複数導入し、コメント欄の質的向上と多様性の確保に注力

Yahoo!ニュースのコメント欄健全化への取り組み

Yahoo!ニュースは、2007年からコメント欄を提供し、ユーザー間での多様な意見交換と新たな視点の獲得を促進してきた。サービスの安全性と表現の自由のバランスを取るため、コメントポリシーを明確に定め、違反投稿の具体例を示している。

これまでに、24時間体制の専門チームによる人的パトロールに加え、独自開発のAIモデルを活用した違反コメントの削除や、建設的なコメントの優先表示など、多角的なアプローチでコメント欄の質的向上に努めてきた。

「コメント添削モデル」の仕組みと期待される効果

新たに導入された「コメント添削モデル」は、ユーザーがコメントを投稿しようとする際に作動する。AIがコメント内容を分析し、コメントポリシーに違反する可能性がある表現や、他のユーザーが不快に感じる可能性のある表現を検出すると、該当箇所をハイライトで示し、表現の見直しを提案するポップアップを表示する。

これにより、ユーザーは投稿前に自身のコメントを再考する機会を得られ、より適切な表現への改善が期待できる。この取り組みは、コメント欄全体の雰囲気改善と、建設的な議論の促進に寄与すると考えられている。

Yahoo!ニュースの今後の展望

LINEヤフーは、「コメント添削モデル」の導入後も、その効果や言論空間への影響を慎重に観察し、有識者の意見も踏まえながら適宜改善を行っていく方針だ。

同社は、コメント欄を通じてユーザーがニュースに対する多角的な視点を持つきっかけを提供し続けるとともに、日本のインターネット上における健全な言論空間の構築を目指している。

AI Market の見解

Yahoo!ニュースが導入した「コメント添削モデル」は、AIの自然言語処理技術を活用した先進的な取り組みだ。この技術は、単に問題のあるコメントを検出するだけでなく、ユーザーに自己修正の機会を与える点で画期的だ。これにより、コメント欄の質的向上だけでなく、ユーザーの言語表現に対する意識向上にも寄与する可能性がある。

ただし、AIによる判断の精度や、表現の自由とのバランスには課題が残ると想定される。今後、このモデルの運用実績や効果を注視し、他のメディアプラットフォームへの展開可能性も検討される可能性がある。長期的には、この技術がインターネット上のコミュニケーションの質を全体的に向上させ、より健全なオンライン言論空間の形成に貢献することが期待される。

参照元：PR TIMES

生成AI（ジェネレーティブAI）について詳しく知りたい方はこちらの記事もご参考ください。