今日のオリジナル番組


詳細を確認
どこでも栽培可能!?「農業イノベーション」
本日配信
399Picks
Pick に失敗しました

人気 Picker
見出しが結構ミスリーディングですが、英文記事を読むと、ベステガーが、作成主体表示義務規制の対象の例として挙げているのは、写真、映画、歌などですね。これらの表現物が人間に対して与えうる影響を考えると、そういった規制を導入していくことは重要であるように思います。

一方で、文字ベースの表現物にそういった義務を課すのは、現実的ではないように思いました。別の方法での制御が必要ですね。

https://asia.nikkei.com/Editor-s-Picks/Interview/EU-eyes-new-rules-for-generative-AI-this-year-Vestager
生成AIと共存するためのガバナンスとして、生成主体の表示は極めて重要と考えます。
生成主体をAIと明示することで、情報の受け手は生成コンテンツの実在性や真実性、誤謬性などについて異なる前提で情報を消費することができます。

しかし、最もフェイクコンテンツが垂れ流される政治・選挙の世界では、この規制を無視又は迂回して無数のAI生成コンテンツが主体の表示なく流されてしまうでしょう。AI生成コンテンツを検知するために電子透かし技術なども研究が進められていますが、画像や動画とは違い、テキストの場合は短文などだと人間が簡単に修正して再生成可能なため、まだブレークスルーになっていないと感じます。
いくら規制しても無理なのは皆分かっているはず。これからは、ChatGPTを使う事で失われる成長機会を自分自身で考え判断する重要性を教えるしかない。これも教育の一部。
Made with AI表示であふれそうですね

真面目に考えると、メールやブログなどの文章・画像を扱うITプロダクトでは、デフォルトでMade with AIを表示して、非表示をオプションにする、という対応になりそう。そして、Made with AIの方が読みやすい文章なので、それ自体が高品質のブランドになるという。それで規制の目的が達成できるかはさておき。
ふと思ったんだけど、chatGPTがあたかも人間みたいに受け答えできるのは、chatGPTが賢いからじゃなくて、(大多数の)人間がたいして考えずに言葉を喋ったり書いたりしているからでは?

chatGPTがしているのは内挿。平たく言えば膨大な学習データの切り貼り。NewsPicksのコメント欄も、インフルエンサーが言ったことをコピーしているだけのようなものが多い。ちゃんと自分の知能で考えて発信されている言葉は、実はほんの僅かなのかもしれない。
「メード・ウィズAI」の表示は画像・動画のディープフェイク対策としてEUがこれまでも検討してきた方向性ですね。
全文ならまだしも、生成された文書の一部をコピペなどされる可能性を考えると、その実効性には課題がありそうです。
まだ議論が0か100%の話が中心ですが、今後はAIが作って人が多少修正して味付けするとか、逆に人間がドラフトしたものをAIが校正するとか、そういうものも増える。

おそらく今の規制は短期の問題をなんとかするレベルにとどまり、今後本質的に人類はこの自分のコントロールを超えるかもしれない創造物との付き合い方を模索するフェーズに入るのだと思います。
欧州の人たちは、ChatGPTへの規制導入に躍起になっているようです。「研究は、新法の対象ではない。企業はテストして技術革新を起こし、アイデアを追求できる」とは言うが、AIの研究開発段階と利用の段階を分けたルールの運用がこの方がいうように、きれいにできるかは、はなはだ疑問。規制はえてして暴走しがち。それをアルトマンさんたちは、気持ちが悪い、と感じているのでしょう。こういうことをやっているうちに、日本がこの分野のメッカになる可能性があります。日本は、ここで日和らないようにしなければなりません。

その点、昨日政府の中にこの分野に詳しい村井総理補佐官をトップにした対策チームが立ち上がったことは歓迎したい。彼がしっかりバランスを取ってくれることを期待します。

https://www3.nhk.or.jp/news/html/20230424/k10014047601000.html
逆に間違いがあった場合、AIではなく発信者の信頼性が問われる、というのも大事な観点です。
ファクトチェックAIの発展も大事。
それとむしろ最近は人間が作った発信でも、都合よく曲解していたり誤情報に基づいている場合が多いんですよね。むしろAIのチェックを経ていない人間の発信も、それとわかるように表示した方が良いんじゃないかと言う気すらします。
実際にYouTubeは数年前からAIによる陰謀論の動画へのアテンションなどを実装していたのでは。
対象が文章の場合、”Made with GPT"の範囲が難しいですね。

完全にコンテンツ生成しているなら当然表記すべきでしょう。でも、誤字脱字の自動校正や機械翻訳、要約も対象にすべきかは異論があります。

何から守りたいかによります。フェイクニュースや武器製造等悪質情報から守りたいという対象を明確にして規制するのが良いように思います。ただ、実効性を持たせるのは難しそうです。

画像であっても、PhotoshopのフィルターはどんどんAI化しているので、同じくどこまで表記すべきか悩ましいでしょう。