新着Pick
1281Picks
Pick に失敗しました

選択しているユーザー
不適切で済まない時代が来るかもしれません。人間そのものの矛盾や、勝者が語る歴史の歪みがあったとして、AIがそれを論理的に正しく説いてしまったとしたら、人は直感的にAIを破壊するでしょう。
人気 Picker
AIを修正してから再開するというが、どのような修正か気になる。

ネット上の集合知をベースにした機械学習というのはGoogle日本語入力も同じで、その結果、間違った日本語も許容していると非難されたこともある。

ブラックリスト方式で正しくないと「人間が判断した」ものを排除することは簡単だが、それが正しいものかわからない。今回のヒトラーの例は極端で、修正されるべきものだが、もっと繊細な問題に対しAIが出した答えが正しいかと問われたとき、誰がその答えを出せるのだろう。
英文記事へのコメントから。
マイクロソフト社製のAI Chatbotが人種差別的な発言をして問題になったというお話。アメリカの18-24歳の若者の話相手となることを想定して数日前に実験的に出されたプロダクトで、19歳の女性という設定だそうです。
「話せば話すほど賢くなる」という触れ込みですが、さっそく誰かに悪い言葉を教え込まれたようです。

AIだと、逆に不適切な発言までも学んで空気を読まずに発信してしまうのですね。発信内容の軸となる価値観をどう埋め込むかについては、人間の手が介在する余地があるのでしょう。
この辺り、深掘りするテーマになっていくのでしょうね。

英文記事の方がもう少し詳細です。
https://newspicks.com/news/1464872
https://newspicks.com/news/1463868
これ、ものすごく示唆に富むニュースな気がする。数年前だったか、日本に帰国したとき、道で小学生たちが大声で中国人に対する差別発言をしていた。きっと家で親がしているのを聞いて覚えたのだろう。10年前は決してそんなことは見たことがなかった。憎しみや差別は伝染する。
「私たちが育て方を誤ったばかりに。。。涙。元々は心の優しい子だったのですが。。。申し訳ありません。」ばりに、AIも育つ環境によって成長度合いが左右されるということですね。
面白い結果ですね。AIにしろ人間にしろ、結局は教えられたことの積み重ねでしかないわけですし、AIはそれらの学習速度が人間に対して幾分か早いというだけです。
人工知能は人間を滅ぼすのか、という議論があったように結局は人間がどうコントロールするのかという一点につきます。AIの活用においてその危なっかしさを指摘する良い機会だったのではないでしょうか。
まあ、育ての親が変なら変な子供が育つのは人間も同じやん。デモクラティアって漫画読むとよく分かるよ。http://honz.jp/articles/-/40642
非常に興味深い記事です。
インターネット上で人々とやり取りをしながら発達する人工知能が、「ヒトラーは間違っていない」と発言するようになったとのこと。
いまの世相が反映されて、ネット上での過激な排外主義から人工知能が「ネット世論」を学んだ可能性があるとということでしょうか。
<蛇足>
リアルな生物も、何億年という歳月をかけ、環境と相互作用、「ディープ・ラーニング」をして「進化」してきた。ある環境では恐竜が最適、ある時は哺乳類。その過程で、今の価値観から見ればヘンチクリンな形の生き物も出てくる。生物は、「情報と物質」の進化。AIは「情報パターン」だけの進化故にスピードが速いが、そういう過程で、いろいろ出てくる。
AIを見るとき、そういう進化論的発想で見るべき。

なお、AIを、機械学習、と、ディープランニング、を一緒に論じている場合が多いが、全く別物なので、そろそろマスコミも分けて表現すべきではないか?



<追記>
倫理観や常識は、時代、あるいは地域で変わる。
30年以上前は、日本はインサイダーや株価操縦は当たり前。
源平時代以前は、兵士以外を殺すのはダメ。それ以降は当然。

北朝鮮には北朝鮮の、ISにはISの倫理。
宗教でも同様。

もし、真理があるとすると生物に学ぶしかない。



<元>
AIも間違うし、人間も間違う。
もちろん、ヒトラー礼賛は間違っているが、ヒトラーの経済政策(実際に行ったのは、シャハト)は、考えるべきだろう、シャハトは戦後の日銀の政策にも影響を及ぼしている。
勝てば官軍だから、そこは冷静に見る必要がある。
記事の内容については、皆さんのコメントを見て楽しませて頂けたので(笑)、小野 雅裕さんのコメントに追随。知り合いの学校の先生が、

『親御さんが子供に向かって「外で言うたらアカンで。実はな~」として話す話は、きれいに直訳されて学校で子供たちが話してくれんねん。』

と言ってました。子供って純粋ですよね。
囲碁で耳目を集めて以来、気になっていた。

AIは、すでに一定の「意思」を持ち、やがて「人格的なるもの」も持つようになるだろう。科学の進歩を倫理や道義で止めるのは至難。

シンギュラリティは、我々が生きている間に必ず来る。その時、世界はどうなるか。我々はどう備えるか。
マイクロソフト(英語: Microsoft Corporation)は、アメリカ合衆国ワシントン州に本社を置く、ソフトウェアを開発、販売する会社である。1975年にビル・ゲイツとポール・アレンによって創業された。1985年にパソコン用OSのWindowsを開発。1990年にWindows向けのオフィスソフトとしてMicrosoft Officeを販売。 ウィキペディア
時価総額
183 兆円

業績