AIが絶対に人間を超えられない「根本的な理由」を知ってますか
コメント
注目のコメント
AIを統計的予測と同一視し、超知性をマクスウェルの悪魔の存在証明と同一視しているかのようで、この手の技術論的哲学論争はかくも不毛だなと思い知らされる。
深層学習がかつての人工知能の限界を示すシンボルグラウディング問題や、フレーム問題を解決する可能性を議論しないままに、統計的予測の延長上でAIを議論しても仕方がない。AIは世界のシミュレータではないし、所謂物理シュミレーションではなく人間の行っているような擬似的な予測もAIで既に実験している。また、よく、目的を持てるのは生物だけだというが、自分で目的を学んで設定する逆強化学習のようなこともできる。
科学上史上の決定論問題を持ってして知性の限界を示しているかのように議論することも虚しい。
チューリングによる計算論的（弱い）不完全性定理や、ハイゼンベルグの不確定性原理の拡張としての小澤の不等式、量子力学が局所実在論を越えるベルの不等式、などを考慮すれば、世界が偶然でできていること、無矛盾で完全な計算では計算できないことがあること、人間が素朴に信じている実在と実際の世界とは違う、ことなどは既に理論的に証明されているので、不毛な議論としか思えない。
むしろ哲学が担うべきは、例えば人間並の知性を持つ機械（これができないことは証明できないだろう）が登場したとした場合の、人間社会のCommon Sense対する影響、などを議論することなどではないだろうか。マイナススパイラルと流行った後、落ちるナイフと超リスクの預言を報告しながら
止めて回避することの難しい人類は崇高であることのゲームは認知機能よりもいとも簡単に忘れる。インパクトは音量でなく言語量を減らすことでも難しくはない
