ChatGPTなど生成ＡＩの企業利用、機密情報漏えいの恐れも－リポート
コメント
選択しているユーザー
個人利用の場合においても、「この情報はパブリックになって大丈夫か？」ということを常に考えながら利用すべきだと思います。特に個人情報を入力したい場合は注意が必要です。
注目のコメント
Team 8 は、一言でいうと、イスラエルのサイバーセキュリティのライトパーソンが集まった組織。最近では、VC活動も。
そもそも、秘匿情報をそのまま、生成系AIに投げかける人は、論外であるが、、、
テキスト情報だけでなく、行動履歴（つまるところ、決済情報）などは、一見とるに足りないような情報も積み上げて集積することにより、価値を見出すため、「顧客情報」や「企業秘密」も当然「こんなこと関係ない」ということの集合体で、そういう情報が炙り出されてくる。
そういうところまで気を付けようといったところで、すでに、インターネットと同様に、「片っぽで使う」「片っぽで使わない」となると、便利な方に流れて行ってしまうのが人間の「性」であるし、そもそも本質がわかっている人は、使わないだろう。オープンソースのLLMの重要性はこういうところにあると思います。企業における利用は、今のようにパブリックインターネットを介して他社にデータを送る形態では対応できないケースが多くなるでしょう。そうなってくると、重要なのは自社のプライベートな環境の中で使えるようにすること。また、自社のデータを使ってモデルをチューニングすることで、目的に合った精度の高いモデルを構築することが可能になります。
Sam Altmanもこの領域は非常に創出される価値が大きいとインタビューでも答えていましたから、OpenAIも展開方法を考えているかもしれません。まだ異なると思いますが、本当の学習が始まると危ないですね。つまり、書き込まれた内容から逐次、学習するようならばかなり危ないです。いつかそうなるかもしれません。ある人が書き込んだ機密情報を、別の人が聞き出すことができるようになります。
