米グーグル、ＡＩに「非常停止ボタン」 暴走防止

コメント

選択しているユーザー

• Nakamura Shunsuke

  オプト マネージャー

  ・2016年06月09日

  アニメやん、、、

注目のコメント

• 水野 博泰

  デロイト トーマツ ファイナンシャルアドバイザリー シニアヴァイスプレジデント

  ・2016年06月09日

  暴走したAIをいかに強制停止するかが既に現実的課題になっているのか。。。まさにHAL 9000、Skynet、Matrixの世界。自己防衛本能を持つまでに高度化したAIを止めるための割り込みルーチンはAIが容易に気付いてブロックしてしまうから、人間の意図を隠す「騙しのテク」が必要になるという研究内容。シンギュラリティにはやはり入念な備えが必要そう。
• Nakagawa Nozomi

  ユーザベース SPEEDAアナリスト

  ・2016年06月09日

  倫理とは別の観点ですが、自動運転のレベル3が似たような場合なのではないかと思います。レベル3では、運転をシステムで制御しきれなくなった際に、ドライバーに運転の権限を委譲。その場で停止してしまってはより危険な状態に陥ってしまうので、一旦ドライバーに戻すことをシステム側に判断させています。