2023/10/5

【時給4000円】AIを教える「人間の教師」のお仕事

The New York Times

NewsPicksでは週7日毎日、世界のトレンドの背景を追う連載シリーズを開始しています。木曜日は「The Next Big Thing（次のテクノロジー）」です。

INDEX

• AI開発を加速させた「RLHF」
• 「AI教師」の給与が高騰中
• ChatGPTの性能が落ちた理由
• AIの暴走を抑制する秘策
• 人力で「完璧なAI」は育たない

AI開発を加速させた「RLHF」

2022年11月、メタ（フェイスブック）はチャットボットGalacticaをリリースした。

ところが、史実をでっち上げたり、無意味な言葉を吐き出したりするという苦情が殺到し、Galacticaはネットから削除された。

I asked #Galactica about some things I know about and I'm troubled. In all cases, it was wrong or biased but sounded right and authoritative. I think it's dangerous. Here are a few of my experiments and my analysis of my concerns. (1/9)

— Michael Black (@Michael_J_Black) November 17, 2022

その2週間後、スタートアップのオープンAI（サンフランシスコ）が公開したChatGPTは、世界中に旋風を巻き起こすチャットボットになる。

どちらのボットに使われたのも基本的には同じ技術だ。しかしメタとは異なり、オープンAIは事前にChatGPTを微調整していた。

駆使したのは、AIの仕組みを変えつつあった技術――「人間のフィードバックによる強化学習（RLHF）」だ。

コメント

注目のコメント

• 比屋根 一雄

  三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

  ・2023年10月05日

  この人間らしく微調整するという方法はコストが高いです。これをいかに効率化するか、という技術も進化しています。人の代わりにGPT-4にやらせるという方法すらあるようです。それで良いのかという疑問はありますが、最新技術に追い付くには有効なのでしょうね。
• 平松 伊織

  PdM

  ・2023年10月05日

  ChatGPTが気の利いた答えを返してくれるようになった！
  ……のは、作業者たちの細かな作業のおかげかもしれません。
  
  AIが変な挙動をしないよう、教師のように赤をいれていく「人間のフィードバックによる強化学習（RLHF）」と呼ばれる作業が行われており、最近では作業者の給与も高騰しているようです。
  
  正確な出力には寄与する面もある一方で、このやり方では限界があるかもしれないそう。
  
  今回の記事では普段使い倒しているAIの仕組みを少しだけ垣間見ることができます。
  ぜひご覧ください。
• 佐藤 元則

  NCB Lab. 代表

  ・2023年10月05日

  ヒューマンリソースに依存するモデルには限界があります。が、人間が関与しなければ、答えにならない回答を生成してしまいます。