Picks
43フォロー
1100フォロワー
AI時代に大問題化の恐れ 「自動化バイアス」とその克服法
Forbes JAPAN
倉嶌 洋輔(株)Focus on 代表取締役 /『AI時代のキャリア生存戦略』著者
AIの提案に疑問を持たなくなる(=自動化バイアス)ことの危険性を伝える記事です。 このバイアスに掛かっていない健全な使い方をしている例がマーベルの映画「アイアンマン3」に出てきます。 主人公のトニー・スタークが、テロリストによるテロが起きて、その分析をAIのジャービスとともに行うシーンがあります。 その中で、今回のテロよりもかなり前に起きた爆発事故についてトニーが深掘りしようとしますが、AIが「これはテロよりもかなり前なので時期からして無関係です」と応答します。 ここで「なるほど、そうか」となるのが自動化バイアスですが、トニーは「いいから見せろ」と分析を続けます。 AIが分析を進めると今回起きたテロとこの爆発事故の熱紋(熱の温度や広がり方)の特徴がかなり近いことが判明し、検証のため、その事故現場(テネシー州)へのフライトプランを立てさせるというシーンです。 これを初めて見た時に、トニーの態度が素晴らしいなぁと思い感動するとともに、きっとこんな未来は30年くらい来ないと思っていたのですが、すぐ来たのでとても驚いています笑 是非、アイアンマン3を見返していただいたり、AIが出てくる映画やドラマでユーザーが自動化バイアスにかかっているか否かという観点でも見て頂ければと思います。 また、現在最も性能の高いClaude3について、下記のNewsPicksの記事で触れていますので、是非ご覧ください! ただし、性能が高いAIを使うほど、説得力も隙がなく上がるため、自動化バイアスにかかっていないかは常に意識するようにしましょう。 【画期的】競合各社の高性能LLMを使い分けられる夢のツール https://newspicks.com/topics/tech-biz/posts/22?fromNews=true
31Picks
国産の日本語生成AIの無料デモ版が公開 ~「GPT-3.5 Turbo」に匹敵する性能を達成/東大初のELYZA社が700億パラメーターのLLM「ELYZA-japanese-Llama-2-70b」を開発
窓の杜
グーグル検索はオワコンか、生成AIで対抗「Perplexity」を試してわかったその実力
ビジネス+IT
マスク氏、オープンAIとアルトマンCEOを提訴 契約違反で
Reuters
倉嶌 洋輔(株)Focus on 代表取締役 /『AI時代のキャリア生存戦略』著者
マスクvsアルトマンというのは、今の時代を代表する経営者二人なので、要注目です。 非営利でという部分は投資が必要なR&Dが必要な先端領域では馴染まない仕組みなので、むしろ倒産しないようにある程度以上の利幅はもっと確保すべきだと思います。 マスクの考えの中に動画生成AIのSoraがどの程度入っているかはわかりませんが、持続可能な社会の実現を身坐すテスラを運営しているくらいなので、 Open AIの創業精神の中にある「人類のために」という部分にSoraが抵触しているという見方はあると思います。 動画生成に関しては、個人的にかなりの危機感を感じています。Soraがリリースされた後はYouTubeの動画の真偽はほぼ見分けがつかなくなります。 予想 全く見分けのつかないレベルの動画無尽蔵に生成され始めると、バイトテロのフェイク動画による炎上や危険すぎるパルクールを真似て怪我や死亡事故が起こるなど様々な弊害が予想されます。 対策 お札の透かしのように、動画全面に透かしが必ず入ってしまう仕組みにして、透かしを外して商用利用する際は、ストックフォトのように高額な費用を支払う仕組みが有効だと見ています。 あるいは、ブロックチェーンに誰がどんな動画を生成したかを公開情報として記録して、誰でもトレースできるようにする方法も有効です。 このどちらもOpenAI側の対応が必要なので、外部から何かアプローチすることはできませんが、懸命な判断をされることを期待します。
329Picks
Stable Diffusion 3発表 「画像内でのアルファベット表記」が可能に
Impress Watch
倉嶌 洋輔(株)Focus on 代表取締役 /『AI時代のキャリア生存戦略』著者
新しいStable Diffusion 3では、拡張性と品質に関するさまざまなオプションを用意するとのこと。 すでに、本物と見分けのつかない性能を持っていたので、良くも悪くも、ますます磨きがかかる形です。 誰がどんな画像を作ったのか辿れるようにブロックチェーンに全て記録するような仕組みが必要なのではないかと思います。 AIのアウトプットかを見抜くAIを開発するような動きが、チャットAIでも画像AIでも後をたちませんが、AIが日進月歩で進化していく世界ではイタチごっこのため、すぐに再学習が必要となり、とても無駄な研究と言えます。 AI開発時の電力の消費や環境負荷はとても高いので、ブロックチェーンのような形で「真偽は全て辿れる形」にすべきだと思います。 また、ソラが作った動画を見た時も、素晴らしいと感じるとともに、バイトテロのフェイク動画による炎上や到底無理なパルクールの生成動画を真似て怪我や死亡事故が起こるなど、様々な混乱が起こると思うので、透かしが必ず入るような仕組みを入れるべきだと思います。 この透かしについてはStable DiffusionやMidjourney、DALL-E3にも言えることかも知れません。 生成AIの進化を止めることは難しいので、仕組みを工夫すべきだと見ています。
71Picks
NORMAL