LINE、『英語に匹敵する』超巨大言語モデルを日本語で開発へ 用途に特化しない汎用型
コメント
注目のコメント
従来の言語モデルは、各ユースケース（Q&A、対話、等）に対して、自然言語処理エンジニアが個別に学習する必要があったが、今回のLINEの「汎用型言語モデル」により個別学習する必要がなくなります。
「汎用型言語モデル」を使うことで言語やプログラミングコードの書き出しだけを与えることで、それらしい文章やコードを続けて生成してくれるので、例えば次のような世界観の実現が作り出せるかもしれないことになります。
例）日本語を数文字を打つだけで、文脈にあったメール本文のドラフトを作ってくれる
例）日本語を数文字を打つだけで、歌詞を自動的に作り出してくれる
例）日本語を数文字を打つだけで、結婚式のためのスピーチ文章を自動的に作り出してくれる
例）日本語で実行したい内容を打つと、プログラミングコードを自動作成してくれる
また、LINEの方針にもよりますが、この「汎用型言語モデル」は文章の生成だけでなく、「質疑応答、分類、要約などの文書変換処理」に応用可能なはずなので、言葉が介在するありとあらゆすサービスにおいて利用シーンを生み出すことができることになりそうです！言語モデルの構築って、泥臭くて地味だけど、とても大切な取り組み。
学習に適さない言葉を除いたり、訂正したりとかも必要で大変。ビッグデータだし、とりあえずブチ込んじゃえ作戦だと、あまり精度が上がらないことも。
そんな手間が掛かるけど、日本語という文化をAIの時代に残すには必要な取り組みだし、LINEはその使命感を持って投資している。(前職では、その気概でやってました)
