AIに善意は宿るか 「ゴッドファーザー」が憂える数式
コメント
注目のコメント
「AIが人類の脅威となるのは、もっとずっと先のことだと思っていた。しかし今はもうそんなに時間がないのだと考えるように変わった。」
ChatGPTと対話しているだけだと、なかなかそう感じるのは難しいです。しかし、良い人間らしく調整される前のAIと対話した実感なのだろうと思います。
AIに良い目標を与えたとしても、AIの実行方法が良いとは限らない。気候変動を抑えよとAIに指示したら、AIは人類を排除するのが最も効果的と気づくはず、という例は分かりやすいです。
自ら行動計画できる自律エージェントは数年で登場しそうです。既に初期型は存在していますし。まだ考えがまとまりません。数式モデルを立てることの難しさを考えていたときに、ふと下記のエピソードを思い出しました。
アインシュタインは宇宙が膨張しているという予測に納得できず、宇宙は静止しているのだということを言うために宇宙項という項を足してしまいます。後に本人が撤回していますが、数理モデルはあくまでもこれまで観測できた事象に対して内挿したり、もしくは自分の予想するなにかを主張するためにいろいろと理論をつけて当てはめたりしているだけです。特にGDPの予測など、裏に物理・数学的メカニズムがないものに対しては外挿(将来の予測)は無力です。
アインシュタイン方程式と人生最大の過ち?
https://home.hirosaki-u.ac.jp/relativity/%E4%B8%80%E8%88%AC%E7%9B%B8%E5%AF%BE%E8%AB%96%E7%9A%84%E6%99%82%E7%A9%BA%E3%81%AE%E8%A1%A8%E3%81%97%E6%96%B9/%E3%82%A2%E3%82%A4%E3%83%B3%E3%82%B7%E3%83%A5%E3%82%BF%E3%82%A4%E3%83%B3%E6%96%B9%E7%A8%8B%E5%BC%8F%E3%81%A8%E4%BA%BA%E7%94%9F%E6%9C%80%E5%A4%A7%E3%81%AE%E9%81%8E%E3%81%A1%EF%BC%9F/たしかに、AIは社会に、大きな影響があることは間違いない。しかし、目を背けるのではなく、それにしっかり向き合っていくことが最も大事だと思う。