【進歩】謎多き「AIの頭の中」が、少しだけわかってきた
コメント
注目のコメント
大規模言語モデルの内部構造を解明した優れた研究です。簡単に言えば、特定の単語やフレーズに対して、どのニューロンが活性化したかを分析しました。
武器の作り方のような危険な指示が特定の部分で活性化すること、それが最終的にブロックできていることを確認できたとのことです。またパラメータを調整すれば、その危ない指示に答えるようになることも分かったようです。悪用や偏見などを防ぐ技術の開発につながる研究成果です。
ただし、解明には学習以上に計算コストを要するので、すべての悪用を解明するのは難しいとも言っています。
Anthoripicは安全性の向上でOpenAIと一線を画しており、期待しています。この研究成果は、AIが人間の「創造性」に迫る一つの可能性を示しているのではないでしょうか。
これまで、AIが不得意で人間のみにできることは「創造だ」ということが各所で語られてきました。仮に創造をあるものとあるものを組合せて発想することだとすれば、その組合せが意外なほど、私たちは「創造力がある」「創造性に富んでいる」と見なすことがあります。
一方のLLMもこれまで、基本的な仕組みとしては次に来る可能性が高い単語を確率的に予測している（だけ）であって、人の創造力には到底及ばないと考えられてきました。ですが、今回の研究によって、実はその裏側で一見無関係の概念同士の紐付きがあったこと、そして、それを一定制御できる可能性が示されたことは、人間の組合せ的な創造力をLLMが再現できることを想像させられます。
もちろん、人間の創造のパターンは、ゼロ→イチの発想からなるものもあれば、様々なパターンがあることから、あくまで局所的・限定的なものと捉えるべきものだとは思います。また、記事にもある通り、その発火パターンやスピードも、人間の脳は圧倒的な処理能力を持っています。
ただ、AIは、ある種の人間的な創造力を部分的に身に付けることができるかもしれない、そんな可能性と展望を示しているように感じられます。あなたはAIの中身をどのくらい理解して使っているだろうか──。
「次」のテクノロジーを紹介する『Next Big Thing』。
今回は「AIのブラックボックス化」についてです。
現在流行っているウェブ上のサービスは、すべてUI/UXに優れており、非常に使いやすい体験ができます。
その反面、どのように動作したり、どのようなデータが裏でやりとりされているのかに関しては、まったく把握することができません。
AIはそれがより複雑です。そもそも学習に使われているデータや仕組みがAI自身にしかわからないため、人間がそれを理解するのはかなり困難になってきています。
結果までのプロセスがわからないサービスを使い続けることは、果たして人間にとっていいことなのでしょうか。
