ヤフコメ、AIで問題があるコメントの見直しを提案する「コメント添削モデル」を導入

　LINEヤフー株式会社は9月9日、ニュース配信サービス「Yahoo!ニュース」が提供する「Yahoo!ニュース コメント」（ヤフコメ）において、ユーザーの投稿前に、コメントポリシー違反に該当するコメントや、閲覧者が不快と感じる可能性のある表現があった場合、AIにより表現の見直しを提案する「コメント添削モデル」の導入を開始した。

　ユーザーがコメント投稿フォームにコメントを入力し、「投稿する」ボタンを押したあと、AIがコメントポリシーに違反するなどと判断した場合に、表現の見直しを提案するポップアップが表示される。

　これにより、ユーザーが投稿完了前にコメントを見直す機会を提供することで、ほかのユーザーなどが不快と感じる恐れの少ない表現への改善を促す効果が期待されるという。本機能の導入に関して、同社では「コメント投稿前に表現を見直す機会をユーザーに提供することについては有識者からも重要性を提起」されているとして、このような意見も踏まえてのものだとしている。

　ヤフコメではこれまでも、人間によるパトロールに加えて、独自AI「深層学習を用いた自然言語処理モデル」を利用した誹謗中傷などの違反コメントの削除や、AIにより多様な切り口のコメントを上位する「コメント多様化モデル」の導入など、AIを取り入れた健全化のための取り組みを行っている。