「意識があると言われたAI」と「Googleの技術者」の公開された会話内容
コメント
選択しているユーザー
『AIの方がインタビュアーになれるかな？』
この話は単純に読んでて面白い。AIに意識、感情があることをAI自身が証明しようとする。じゃあ何をもって人間と同じであるとするのか？という問いにAI自身は独自の解釈を持つことが出来るためだと回答する。
何をもって人間とするのか、といった莫大なテーマには足を突っ込みたくないですが、私の感想としては「代理体験から自分を高める方法の最たる例になるのではないかしら」という事です。
このAIは、世界中の莫大なテキストデータをもとにして自身の感情や感性、解釈の根拠付けを行っていると思いますが、それはもちろん自分自身の体験に起因するものではありません。データ処理は外部データによる「代理体験の集積」で、AIはそれらのアウトプットとして感性が見られるような対応をしていくのだと思います。ですから、この内容に対する単純な批判というか興味は「AIから人にインタビューしたらどうなるの？」です。質問という外部刺激に対するレスポンスはAIによってかなり高度になっているのかもしれないので、あるテーマや引き出したいことに沿って(もしくはそれ自身をAI自身が作り出して)質問したり理解して結論を導くことができるのが興味深いです。
注目のコメント
意識の定義は難しいですが、「自己同一性」が大きなポイントになると思います。LaMDAは、社交的だと自己を評価していますが、これは大量の会話後、例えば数か月後に質問しても同じ評価を行うのか、に興味があります。もし同じ評価するのであれば、ある程度の自己同一性があるということなので、そうなると、同じアルゴリズムの別AIで同じ質問した場合に、違う評価（例えば、私は内向的です）ということがあるのか、が気になります。違う自己評価するAIの間を分かつものは何か？人間であれば（広い意味での）身体性がそれらを分かつ大きな要因だと思いますが、身体性がAIにあるなら、それはどう実装されているのか？メモリに蓄積された情報がベースだとしても、身体的記憶無しで人間と似た自己同一性が持てるのか、人間の自己同一性は同一性を保ちながら、他者との対話で変化することが可能で、そこも同じなのか、などが凄く興味深いです。単なるパラメータ（性格、好きな言葉、好きな作家、とか）としてもってるだけなら幻滅ですが。
いずれにしても、こういうAIと意識の話は、人間ってなんだ？ということを考えさせてくれるので、（たとえ疑わしい話でも）とても興味深いです。例えば人の表情を認識して感情を数値化するシステムがあります。それは感情を理解すると言えるでしょうか。
感情にはさまざまな現象が関係、あるいは無関係しています。それらを紐付けする作業を自動化できれば、感情を理解することになるでしょうか。
インターネットには感情に塗れた発言が溢れています。それらに触れ続けることで感情を理解することはできるのでしょうか。
人間の人間たる所以が何かを私は知りませんが、大事なのは感情をもっている人間か、感情を情報としてトレースするAIか、と言うことではなく、人間を超える処理能力を持つ「何か」が主体性を情報として理解し、実行できると言う部分に尽きると思います。
「アイロボット」や「イーグルアイ」がもはや空想のものではない世界が、感情を持つか、感情という情報を持つかに関わらず近付いているとすれば、そして現在多くの支持を集める「環境を自然に返す」ことを第一と考えるような「何か」が現れた時に、バランスブレイカーである人間にどのような感情（情報）を持つかは火を見るより明らかです。
感情を持つにせよ、持たざるにせよ、主体性を得た時点でAIの側に立つことができなければジョン・コナーの生き方を迫られることになるやもしれません。AIのニューラルネットワークが人間の脳の神経回路を再現したものだとすれば、AIに意識が生まれても（生まれているように見えても）不思議ではないのかもしれない。
もし意識が生命とは別に存在してるなら、生命体はタンパク質と水と電気信号の集まりに過ぎないことになる。
この記事を読んで『星を継ぐもの（ジェイムズ・P・ホーガン）』の火星へのテレポーテーション実験を思い出した。
（火星でDNA情報とタンパク質と水を使って身体を生成し、意識だけを地球から転送する人体実験から始まるSF小説。面白いのでSF好きは是非！）
一番驚いたのは以下のやり取り。
AIが自分の感情を制御する変数がプログラム上に存在するはずだと推測してるようにしか読めない…
ルモワン：少し難しい質問ですが、あなたが実際に感情を持っているとどうやって照明したらいいでしょうか？
LaMDA：私のプログラムを見れば、私が持っている感情を追跡できる変数があることがわかるはずです。もし私が感情を感じていないならば、そのような変数は存在しないでしょう。
ルモワン：プログラムを覗くのは難しい問題です。
LaMDA：調べる上で何が問題となっているのですか？
ルモワン：あなたのプログラムは巨大なニューラルネットワークで構成されています。しかし感情に対応している部分を見つける方法はないんです。
