新着Pick
604Picks
Pick に失敗しました

人気 Picker
この記事には致命的な間違いがあります。

***
「社会信用システム」は中国国務院が2014年6月、社会規範の向上を旗印に打ち出したプロジェクトだ。目標年次は2020年。14億人の国民を対象に「社会信用」のスコアを整備するというものだ。
***

とありますが、中国国務院の文書「社会信用システム建設計画綱要」 http://www.gov.cn/zhengce/content/2014-06/27/content_8913.htm を読んでも、そんなことは全然書いていないのです。

***
ネットでフェイクニュースを流布させたことが認定されれば、「社会信用」は下がる。「社会信用」が低い人物はブラックリスト化され、飛行機や列車の搭乗が拒否されるなどの制裁措置も科される。
***

この部分も明らかな間違い。社会信用が下がった人間が飛行機に乗れなくなるのではなく、基本的には裁判所の判決に従わなかった人間が対象です。

中国のAI、監視社会は恐ろしいという記事は山のように見かけますが、その著者のうち、果たしてどれほどの人が中国の公文書を読んだり、社会信用システムの実施内容を調べたりしているのでしょうか? まちがった情報をもとに議論が進んでいるのが残念です。

以下はこうした誤解を解くために私が書いた記事です。
中国の社会信用システムの真実 前編 ~「信用スコア」構築の歴史~ | DG Lab Haus https://media.dglab.com/2019/03/30-sesamecredit-01/
中国の社会信用システムの真実 後編~「失信被執行人」リストとは何か~ | DG Lab Haus https://media.dglab.com/2019/03/30-sesamecredit-02/
信用スコアがローン返済等の金融市場のものだけであれば前時代のアップデートにすぎません。
ここから先はSNSを含むオンライン活動情報、ゲノム情報、公的機関の保有する情報(犯罪歴から社会保障の支払い)等をどんどん連結させていく流れが進むでしょう。
その先にある未来は、社会のバイアスを反映させた謎のアルゴリズムによって信用度が判定される世界。PSYCHO-PASSで描かれる世界にどんどん近づく、興味本位で入ってはいけない世界。
信用スコアのシステム自体は昔からありましたが、主にローンの借り入れや返済履歴から算出されるものでした。それが交通違反、ネット上での振る舞いなど様々な行動もAIによってスコア化するのが、中国で進められている「社会信用システム」プロジェクトです。すでに1100万人が飛行機の搭乗を拒否された、というのは驚きです。
AIは、社会システムや個人の問題点をあぶりだすところまでは大いに活用すべし。

しかしその先、「信用スコア」とか何とかで、システムが個人の行動にまで踏み込んで制約を与えるというのはとても危険だ。

本来、人間は自分にとって最適な判断を下すときは、周りの種々の状況を勘案して決める。その際に人間は、損得だけで判断するのではなく、道徳観、倫理観、使命感なども持ち込んで総合的に判断する。

中国の「信用スコア」の仕組みは、ここが決定的に欠けている。AIがどんなに進んでも個人の「モラル」の状況には踏み込んではならないと思うし、そうなることはとても恐ろしい。
これちゃんと取材したのか?つい先日私もアントフィナンシャルを訪問して芝麻信用について同じようなことを聞きましたが、Alipay上の支払い履歴はわかるが、アリババとは購買履歴の生データの交換はなく、このユーザーは信用できますか○✖️の回答しかないと言ってましたが。またサービス利用履歴もAlipayアプリ内は当然わかるが他は分からないと言ってたぞ。

朝日新聞はとにかく価値観の押し付けが気持ち悪い。性差別は当然アウトだが、少なくとも私学において浪人生を不利に扱ったり、卒業生の子供を優遇するのは別にアリだと思うぞ。学校といえどもサービス業。卒業生の子供はいわばお得意様だろ。性差別とは全く異なるレベルの話だ。
信用スコアのよいところは「人を騙したり、悪いことをやったりできなくなる」ということです。

今の時代、ネット上や、現実の社会で、法律的には罰することができないことを平気でやっている人達もいますよね。

信用スコアのような仕組みができれば、そういったことをやったらおしまいになるので、実際にできなくなります。

そして、それが今の中国の姿でもあります。

もちろん、ネガティブな面もありますが、法の目をかいくぐるようなことの防止と抑止には効果があります。

日本はゼロリスクで考えがちですが、実行的なメリットとネガティブ面とのトレードオフで考えるべきではないでしょうか?
非効率とは、実は助け合いの側面もあった、ということが浮き彫りになりますね。勝者は不必要なコストを払っていた、でもそのお陰で生きていける人もいた。そこを効率化するからには別の助け合いシステムがないと、単なる優生思想社会ですね。
街を歩く映像をみると上に名前が表示されている、そんな日が間近でしょう。
何を持っての信用度なのか疑問でしかありませんが、このあたりを実行するところがさすが中国です。

仮に日本で導入するとなると自民党が与党を追われそうですが、そもそもいるのかな?
信用スコアを信じるかどうかは人間次第ですね。