ヤフー、不適切投稿の監視AIを無償提供 1秒以内に分析
コメント
選択しているユーザー
一定レベルまではAIで判断できると思いますが、微妙な判断が必要なケースは相変わらず残るでしょう。
名誉毀損的な表現であっても、政治家などの公人が対象であれば違法性が低くなります。
突き詰めれば、道徳的判断をどのようにしてAIに委ねるのかという大問題に行き着くのですが…。
注目のコメント
Yahoo Japanによる無償のAI提供は、次のデジタル広告ビジネスに向けた布石ということだと理解しました。
デジタル市場競争会議で出させていただいたデジタル広告に関する報告書では、デジタル広告の質の低さを問題視しています。これにはクッキーを駆使するターゲティング広告によるプライバシー侵害という意味での質の低さもさることながら、出稿者にとってのサービスの質の低さが含まれています。ブランド毀損の懸念があるサイトに出稿されてしまう問題（ブランドセーフティ）、実際に見られていないのに課金される問題（アドフラウド）、きちんと人に見られる状態で表示されない問題（ビューアビリティ）の３つがデジタル広告の品質問題として語られており、今後の広告業者はアドベリフィケーションが重要になるという流れになりますが、そのためにはサイトのコンテンツと広告キーワードに対するコンテキストを踏まえて出稿をコントロールすることができる機能が必要になるはずです。これを自動的に行うためには、当然のことながらAIを用いることになり、精度を上げるためには当然AIを鍛える場が必要ということになるはずです。そのための場をサードパーティに提供してもらうにあたり、こうしたCGC（消費者の投稿コンテンツ）は最適ということなのだろうと思います。もちろん、場がきれいになれば、品質の高い出稿枠が増えてくるということになるでしょうから、そのこと自体がデジタル広告ビジネスにとって良いことでしょうし、より付加価値の高いデジタル広告ビジネスを展開するチャンスにもなるでしょう。AI提供によって広告出稿の場である各メディアと関係を作っていくことにより、パブリッシャ側ともビジネス上のプラスの効果も見込んでいるんだと思います。ヤフーがネット上に投稿されるコメントの内容が適切かを瞬時に評価する人工知能（AI）技術の無償提供を始めたとのことで、世界的にも投稿分析AIを無償で提供するのは珍しいそうです。
コメントが良いか否かを判定するのは、主にテキスト認識（自然言語処理）と言われるAIの領域になります。以前働いていたAI部門では私自身テキスト認識AIの企画からリリースまで携わりましたが、大企業でも1stリリースに3ヶ月、1000万円以上お金がかかる印象です。だいたい1年以上かけて十分ビジネスで利用できるレベルになるので、そう考えると今回のAIは5000万円〜数億円のお金がかかっているんじゃないかと。それを無償提供とのことなのでその価値ははかりしれません。
ソーシャルメディアのユーザー数は日本で8000万人超とネット上の巨大インフラとなりましたが、これまで無法地帯にも近い状態でした。実際にSNS関連の自殺相談件数はのべ年間2万件を超え、有名人で亡くなった方もいらっしゃいます。私も学生の頃はSNSでのバッシングで２週間ほど寝込んだこともあり、今では笑い話ですが本人としてはしんどいものです。
このAIにより心無い言葉が無くなり、誠実な者同士が意見交換できる場ができればと思っています。表現の自由を損なう危険性もそうですし、削除される側としては当然不快な思いをするので、ユーザーが離れる危険性もありますね。(あからさまにアウトな投稿は、もちろんユーザー側に非がありますが。)
個人的には匿名プラットフォームの攻撃性に脅威を感じるので、TwitterやYouTubeのような匿名のコメント欄こそ、こういったテクノロジーを導入してほしい。個々のリテラシーを高めていくのが一番なのでしょうけど…いろいろな人がいますからね。
