プロンプトとは何か?プロンプトの本質と制約とそれを乗り越えるための工夫
コメント
注目のコメント
ChatGPTの利活用に関するある調査によれば、エンジニアを除くその他の職種で「仕事での使用経験がある」と回答した方は、50%を下回っている状況だそうです。(https://newspicks.com/news/8473796)
また「使う」と言ってもその使い方には様々で、単なる検索ツールの以上の力をChatGPTに発揮させ、業務にプラス影響を及ぼすような成果を得るには、やはりプロンプトに関する理解が欠かせないものになっていくと思います。
「使ってみてはいるものの、もう一歩踏み込んだ使い方をしたい」といった方におすすめの記事なのかなと思います。良記事!
・プロンプトがFew-Shot Learningであり「入力情報に指示内容だけでなく、参照情報を含められる」が本質である。
・Fine-Tuningが出来なくなったのは、事前学習の最終段階で、有害な回答しないよう人が訓練(RLHF)したから。
・長大な参照情報を与えるには、一旦ベクター化して与えるLangChain等の仕組みを使うこと。
等々、極めて分かりやすく有用な解説です。
IR資料や審議会議事録など数十ページの資料を読み込ませたいことは多いので、いかにプロンプトに与えるかは重要です。
今後は、財務諸表等の数表やパワポスライドの絵をプロンプトにベクター化して与える手法の開発が待たれます。
当社でも、数表から文章を自動作成する「文章生成AIサービス」を開発して、財務諸表の説明文章を生成したりしています。
https://www.mri.co.jp/service/data-verbalization-ai-service.html
もう少し汎用的にはTabuleauのExplain Dataのような手法もありますね。ChatGPT等のLLMを上手く活用していく術がまとまっている良記事。
LLMとは、入力した指示文章をインプットとして、アウトプットを予測するモデルだからこそ、そのモデルの構造、特徴を理解し、文字制限があるなかで如何に効果的に使えるようになるかが利用者にとってはポイントになる。