新着Pick
1147Picks
シェアする
Pick に失敗しました

人気 Picker
起こるべくして起こったという感がします。

以前、スマートスピーカーは簡単に盗聴器になるとコメントしました。
だから中古品は買うなと。

ただ、このケースは中古品ではないでしょう。

龍柱経路で何かが仕組まれたと考えるのが妥当です。
そうでなければ、判明するはずがありませんから。

購入者特定後、何らかの細工がなされたものと思っています。
こわい。

記事読まない人もいると思うので要約。

・ダニエルさんは家のすべての部屋にEchoを置いていた
・ダニエルさんの夫の(会社の)従業員から電話がかかってきて「ダニエルさんの部屋の会話の音声データが送られてきた。すぐにEchoを切って」と言われた。
・「いまフローリングの話をしてたでしょ?」と会話の内容は一致。
・電話帳に登録された宛先だった模様。(送信先が一件だったのかは記載なし)
・アマゾンのエンジニアは陳謝。
他の記事を見る限り、盗聴というより不幸な流出っぽい。

「Echoは会話の中にあった『アレクサ』などの言葉で起動した。そして、その後の会話が『メッセージを送る』というリクエストのように聞こえた。その際、アレクサは『誰に?』と聞いたが、ちょうどその際、2人の会話がコンタクトリストの中にある人物の名前に聞こえてしまった。アレクサは『◯◯さんですね?』と応答したが、会話が「そうだ」と聞こえた。この一連の流れは稀なことだが、こうしたことをより起こらないようにする手段を検討中」
https://www.businessinsider.jp/post-168161
飼っているオウムが家庭内の会話を覚えていて、ヤバい時にしゃべって暴露するという古典的コントを思い出しました。

amazon echo がどこまでのレベルのAIを搭載しているのかはわかりませんが
ーデータにアクセスできる誰か(人間)が細工をして盗聴する
ーAI が学習して勝手に動き出す

のパターンが考えられます。まあ映画のエクスマキナやブレードランナーじゃないから、後者はまだないかな。amazon 側が陳謝していることからも人為的な何かがありそう。曖昧にせず、理由を公表して欲しいです。

追記:
どうやらメッセージを聞き誤ったことによる誤作動のようですが、そんなことでプライバシーが筒抜けになるなんてなお恐ろしい。
特に驚きません。そういうリスクはあります。

ちなみに、この事件は犯罪なのでちょっと僕の話と離れますが、昨日、AIのトレナーの話を読みました。

バイトとして、あいうスマートスピーカーの記録(実際の利用者の発言)を聞き、スマートスピーカーの回答を確認します。そうして、回答が変でしたら、編集して開発者に編集内容を渡します。

あのトレナーによると、かなり個人情報が丸で分かります。

機器なので、後ろはAIや、機械が動いていると思いがちですが、実際AIが100%一人で動作するのはまだです。

まぁまぁ恐ろしい記事でした…

フランス語なので時間あったら翻訳します。
これに全く不思議なところはありません。ペットロボットでも同様のリスクがあり、意図的なもの、誤作動、乗っ取り等など発生事由も多岐にわたりそうです。プライバシーを気にする方にはまだはやいかもしれません。
Business insiderの記事にある「アマゾンの説明」というのが事実なら、深刻な事態だと思う。音声認識技術はまだまだ発展途上だし、ノイズのある環境では人間でも聞き違いはある。聞き間違った時に「会話を録音して音声ファイルを送りつける」ことがあるとなれば、そんなスマートスピーカーは使えないだろう。むしろ、誰かが意図的に盗聴していたという話であれば、犯罪だから予防もできる。誰も悪意を持って細工していないのに、そういう事故が起こるのだとすれば、製品としてあまりにお粗末だと思う。

https://www.businessinsider.jp/post-168161
誰かが意図して起こった事件ではないようですね。

しかし、けっこう起こりえる事件かもしれない。
「Amazonの調査によると、ダニエルさんの会話の中で「Alexa」というウェイクワードと誤認したことでAlexaが起動したとのこと。Alexaは会話の中から「メッセージ送信」の命令があったと誤解して、会話を録音。
ここで、Alexaはメッセージの送信先を確認する音声を発したことも分かっており、どういうわけかアドレス登録されていた従業員宛のものと判断した結果、会話を記録した音声ファイルが送信されてしまったようです。
偶然が重なり合って生じた事故だった」
あーやばい。俺が毎朝聞いてるプレイリストがバレる、、( ̄▽ ̄)
なるほど誤作動なのね。