ChatGPTで個人情報漏えい OpenAIが原因と対策を説明
コメント
注目のコメント
これはAIの倫理問題なんて高尚なもんではなく、急速な発展に伴う「単なるバグ」で普通に人間が引き起こした普通の出来事で、OpenAIの中の人も凡ミスするんだなぁ、人間なんだなぁぐらいのことです。
これはopenAIのエンジニアが書いたコードがバッグてた訳ではありません。
プログラム内で使ってるデータキャッシュに関するOSSライブラリに未知のバグが含まれていて、それを踏んでしまったと言う物です。
githubにあるバグレポートから推察するにchatGPTがもつワークロードの多さが故に稀に起きる事象を踏んだと言う事でしょう。
実際、1.2%の有料版利用ユーザーで発生したとの事です。
全体通して、
・発覚後にセキュリティリスクを最優先にサービスを中断させた点
・発生箇所の特定コミュニティへの連絡、その後のパッチ適用が24時間以内とかなり迅速な点
・影響顧客の特定と個別連絡対応速度と精度が高い点
・パブリック報告と事象に対する姿勢が誠実な点
技術的側面、経営判断的側面、問題対応力側面どれもやっぱり優秀なんだなと言う印象しか無い。
バグ内容に関しては非同期とトランザクション処理、ライブラリの構造に関する高度な知識知見を有する一部の技術者でなければ解決出来ないだろうと言うほど高度な事象です。
因みに、該当ライブラリのredis-pyをユーザリクエストに対するレスポンスのキャッシュに使ってて且つそこそこのトランザクションを扱うシステムに心当たりがある方は確認した方が良いでしょう。あ。とおもったら3/20のリリースバージョンに更新するべきかもしれません。(日本だとpythonでサービス組むところは少ない様な気がしますが。)
あと、私達もOSSを使う以上、バグのコミュニティ報告や改善に協力すべきだと常々思います。そう言う繋がりがこう言う時の迅速性につながります。(会社のリソースを外部のOSSに使うのは…と言うかも知れませんが、有志が開発したOSSを利用して事業をするのだから、そのくらいの貢献はするべきでは無いか。少なからず我々技術者はコミュニティの継続的な発展の為に声を上げて行きたい。)
言いたい事は沢山あるがニュースから更に離れるのでやめます笑ChatGPTに個人情報が流出した場合どのような対応を取るか聞いてみたところ以下の通りの回答が返ってきました。その通りの対応を実施しているようでさすがです。
--
OpenAIは、個人情報の流出が発生した場合には、以下のような対応を取ります。
1.速やかな対応：OpenAIは、個人情報の漏洩が発生した場合には、速やかに対応します。漏洩が発覚した時点で、すぐに調査を開始し、原因を特定します。
2.被害の最小化：OpenAIは、被害を最小限に抑えるために、必要な措置を講じます。漏洩した情報に対するアクセスを即座に遮断したり、関連する人物に対して警告を発するなどの対応を取ります。
3.情報の開示：OpenAIは、個人情報の漏洩に関しては、関係する人物に対して速やかに情報を開示します。漏洩した情報や影響を受ける人物に対して、正確かつ適切な情報を提供することで、被害を最小限に抑えます。
4.改善策の実施：OpenAIは、個人情報の漏洩が発生した場合には、その原因を分析し、再発防止策を実施します。システムやプロセスの改善、セキュリティ対策の見直し、社員の教育などを行うことで、同様の事態を未然に防止します。
OpenAIは、個人情報保護に最大限の努力を尽くしていますが、万が一漏洩が発生した場合には、上記のような迅速かつ適切な対応を取ることをお約束します。
