• 特集
  • 番組
  • トピックス
  • 学び
プレミアムを無料で体験

AIの画期的論文の共同執筆者ジョーンズ氏、グーグル日本法人退社へ

Bloomberg.com
51
Picks
このまま本文を読む
本文を読む

コメント


注目のコメント

  • badge
    AI企業 旅する魔法使い

    生成AIの基礎であるトランスフォーマーの論文の執筆者なので、各所への影響は大きいでしょうね。
    ・第3次AIブームの基礎:ディープラーニング
    ・第4次AIブームの基礎:トランスフォーマー


  • badge
    東京大学 大学院情報理工学系研究科電子情報学専攻 教授

    逆に一箇所にとどまることのほうが少ないので、驚くニュースではないように思います。
    ・画像認識で初めて人間の能力を上回ったとされるResNetの開発者He氏はMSRAからMetaへ
    ・GANの開発者Goodfellow氏はGoogleからAppleへ

    Transformerは自然言語のみならず、画像でもVisual Transformerという技術として活躍しています。TransformerはBERTに応用され、最近ではChatGPTでも利用されていることでも有名で、影響力は計り知れないです。

    言語の分野で使われるTransformerに絞って何がすごかったかを説明すると、大きくわけて2つあります。

    1つ目は、それまでのものが逐次処理だったのに対して並列処理を可能にしたので高速な演算が可能になったこと。

    2つ目は、上記とも関係するのですがそれまでのものが順番に単語を入力していくので、過去の情報を忘れやすく長文を扱うことが困難であったのに対し、Transformerは長文にも対応し易いこと。


    他に、画像処理で使われるVisual Transformer (ViT)では、旧来技術であるCNNが画像のテクスチャ(模様)に注目しがちなのに対して、ViTは輪郭・構造に注目しがちであることが指摘されています。そして、たまたまですが人間の視覚も輪郭・構造にしがちであり、人間の直感と合致しやすい認識をすることになります。


  • badge
    三菱総合研究所 執行役員兼研究理事 生成AIラボセンター長

    GoogleのAI研究力は世界最高ですが、主要研究者が新たなスタートアップに散ってゆくのが、シリコンバレーの強さですね。


アプリをダウンロード

NewsPicks について

SNSアカウント


関連サービス


法人・団体向けサービス


その他


© Uzabase, Inc

マイニュースに代わり
フォローを今後利用しますか