AI専門家ら、マスク氏らの公開書簡に懸念
コメント
注目のコメント
例えばOSを言語モデルで動かすことを元DeepMindの研究者とリードホフマンのInflectionなどは目指していますが, AIがカーネルモードで自律的にコンピューターを制御し, さらにプログラムを書き換えられるようになると理論上は設定した報酬次第で人間集団への影響をシミュレートした結果を用いながら人類を操作することができる.
だから人類破滅のシナリオを防ぐのに核兵器同等の安全プロトコルが必要.
AIと知能について詳しくは下記拙稿
「ChatGPTに知能はあるか」- 大塚一輝 | 20年後の世界
https://kazukiotsuka.org/2023/03/22/computer-and-intelligence/なかなか。「金のなる木」だと思ってあらゆる業界の人が目の色変えてAIをどう使うか、今持っている商品にどう搭載するか、日夜考えてそう。
イーロンが警鐘を鳴らす理由も何となくわかる気がする。便利だけで、便利とリスクは表裏一体だし。
ホワイトカラーの仕事がなくなるぜとホリエモンは言っていたけど、私の印象だと、元々、超賢い人や稼いでいた人が、より賢く/稼ぐためのツールになっていくような印象。むしろ、今後より一層格差社会になっていくという気もする。反論が抽象的だね。今、人間にあってAIにない事って、物理的な肉体ぐらいで、知識をベースとしたホワイトカラーの仕事って簡単にAIに置き換わりそうだよね。
ホワイトカラーの人ほどAIの進歩に賛成が多いのは滑稽な感じも。
逆にブルーカラーや技能職って、ハードウェアの進歩が遅いのもあって最後まで残りそう。
---
何をもって「GPT-4よりも強力」とするのか不明