AIの訓練のために 新興国の10代の若者たちがトラウマになるようなコンテンツにさらされている
コメント
注目のコメント
うちもトレーニングデータの作成時に同様の問題に直面しまして、GoogleのAPI等で有害コンテンツを弾く処理を入れたりといった対策を進めました。
そのAPIも本記事のような労働の上に成立しているかと思うとどうにも複雑な気分になります。
以前は掲示板の監視を人力で行うみたいな体制構築もあったので、同様のタスクに駆り出される母数自体は減っているはずではあって、手放しに批判できる事柄でもないなと…。AIの訓練が人海戦術だなんて超アナログ。、それも安い労働力で賄われているのは、心苦しい。有害コンテンツを浴び続けるのは精神のダメージが大きそうなので時間制限できないものなのか。瞳孔判断でログインできないようにするとか。
特に未成年を守るためのシステムを作るのに未成年が携わっているとは…SNSのフィルター構築でも同じような問題が挙がっていましたが、耐性が強く悪影響をうけづらい人を脳波とかで判定できないものでしょうか。今の時点では誰かがやらざるを得ないでしょうが大人の中でできるだけ耐性の強い人に任せられるとベターだと思います。
