【文系でもわかる】ChatGPTの“限界”はどこか？ 知れば「怖くない」その仕組みとは
コメント
注目のコメント
非常にわかりやすいですね。記事にある通りですが、このトークン長が現在のChatGPTの限界点だといえます。
「まるで人間みたいだ」「人間を凌駕する」という話題もでがちなChatGPTですが、やっていることとしては、限られたからトークン長の中で次に来る確率が最も高い単語を繰り返し出力するというのが、その仕組みになっています。
言い換えれば、その記憶能力には限りがある点、内容・意味を理解しているわけではない点が現状のChatGPTの弱点で、だからこそ誤情報も出力してしまうといったことも起きてしまいます。（それでもすごいですが…）
人の記憶は、4千あるいは3万程度の単語数はもちろん、視覚的なイメージも含めた蓄積がなされるため、それらをはるかに超える歴史や背景を踏まえた「文脈」を加味した対話を行います。
こうした限界を理解した上で、短期的な記憶量で問題のない領域はどこか、誤情報を出力しても影響の少ない領域はどこか、どのようなシーンで活用ができるのかを検討していくことが、AIの産業応用では非常に重視になってくるはずです。これはTransformerを使ったAI全体に言える限界であってAIの限界ではない。新しいアルゴリズムが出てくればその限界は簡単に乗り越えてしまう可能性が高い。
---
逆に言うと（非常に大事なことですが）、トークン長を超えるような過去の単語は参照しないということです。つまり、何か新しいことを教えて、それを踏まえたふるまいをChatGPTにさせたいとしても、3万2768単語以内で教える必要があるのです。トークン長を短期記憶として、長期記憶を実装することは今後可能か。
実際、GPT4のAPIを活用したAuto-GPTは既にweb情報収集と長期記憶への格納などの機能を実装している。
昨日の限界が今日も限界か分からないというのが、ここ数ヶ月の生成AI分野の面白いところ。
