 |
 |
記事検索 |
最新ニュース |
|
||||||||
|
||||||||
|
||||||||
|
||||||||
|
||||||||
|
チャットでのいじめ・声かけを防ぐソリューション、英企業が発売 |
||||||||
|
||||||||
|
|
||||||||
|
||||||||
|
||||||||
|
||||||||
|
||||||||
|
||||||||
|
||||||||
|
仮想空間やSNS、チャットルームなどにおける児童保護ソリューションに取り組んでいる英Crisp Thinkingは28日、バーチャルコミュニティを監視するモデレータを支援するソリューション「NetModerator」を発表した。 バーチャルコミュニティでは、ネットいじめや児童の性的虐待を狙う犯罪者などのさまざまなリスクがあり、コミュニティを運営している企業は多数のモデレータを雇い、監視に努めている。Crisp Thinkingが開発したNetModeratorは、多数のチャットを同時に監視し、自動的に会話のリスクを判断。危険と判断された場合にはモデレータに警報を発してくれる。 このシステムを導入することによって、バーチャルコミュニティの利用者数が増え、チャットの総数が増えても、モデレータは危険に対処することができ、企業はサービスをスケールアップすることができるという。 NetModeratorは3つの技術から構成されている。1つめは、Real-time Message Filter（RMF）だ。これは、不適切なコンテンツが被害者に到達する前に内容を検閲し、ブロックできる仕組みだ。このようなコンテンツが発見され次第、そのチャットは監視対象になる。 2つめの技術は、Engine for Content-Analysis（ECA）だ。この技術は、2人の間で交わされているチャットの中に、虐待に関係するような言葉や不健全な関係性が存在するかどうかを検査する。チャットの文面を精査し、パラメータと一致するタグやキーワードに印を付けて警戒する。その結果、誰かが実際に外で会う計画をしているのかどうか、あるいは児童が住所や電話番号などの個人情報を公開しようとしていないかといったことを識別できる。 3つめの技術は、Engine for Relationship Analysis（ERA）だ。この技術では、ネット上における、いわゆる「声かけ」など、危険に繋がりかねない行動パターンを察知することができるという。Crisp Thinkingは声かけのさまざまなモデルを構築し、ケンブリッジ大で実験した結果、98.4％の正確さで声かけを探知することに成功したという。 NetModeratorはすでに、MMOGの「Fusion Fall」と米国のSNS「Xivio」に納入されたとしている。 関連情報 ■URL ニュースリリース（英文、PDF） http://www.crispthinking.com/files/pdf/press-release-26.pdf
（ 青木大我 taiga@scientist.com ）
- ページの先頭へ-
|
