【漫画】学習し過ぎたAIが暴走。あの管理人はどうする?
NewsPicks +d編集部
4Picks
コメント
注目のコメント
過学習よるAIの暴走の事例で有名なものだと、Microsoftの自然言語AIでTwitterのbot「Tay」(日本版の自然言語AIのbot「りんな」の姉的存在)があると思います。悪意あるユーザーの悪戯? により、発言の傾向がヘイトスピーチを繰り返すような学習をさせられたとか。
記事の中でも書きましたが、「Googleフォト」のように、AIの過学習は下手をすると企業価値や社会の分断も引き起こしかねない、重い課題です。
AIをさまざまなサービスに活用しているIT企業の多くは基本的に「まず使ってみて、問題があれば後でチューンアップする」というスタンスですから、なおさらです。
それにしても、「管理人」のおじいさん、お茶目ですよね!