SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも検知して自動通報
コメント
選択しているユーザー
これまでの方法だと、一度はライバーやユーザーの目に触れてしまう。
今回の実装により、一度も目に触れることなく削除できるとのこと。
精度にもよるが、これはユーザーにとって大きなインパクトになる。
注目のコメント
素晴らしい。技術の中身が学会発表されないかなー。どうやって学習データを用意したのだろうという疑問がわきますが、やはり過去の例を大量にお持ちなのだろうな。
SHOWROOMはDeNAの傘下にあり、優れたAIエンジニアの方々が沢山いらっしゃいます。"「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」"
おー、すごい!
遠回しの言い方の検出って難しそうなので、どの位の精度か気になりますが、複数回に分けたコメントは、そのユーザーのそれぞれのコメントを繋げて処理することで検出できたりするのでしょうか。ベンチャー企業だと後回しにされそうな技術ですが、SHOWROOMさんは素晴らしいですね。しっかりと対応してきています。
こういう行動が熱心なファンを生んでいるのだと思います。