AIの画期的論文の共同執筆者ジョーンズ氏、グーグル日本法人退社へ
Bloomberg.com
51Picks
コメント
注目のコメント
生成AIの基礎であるトランスフォーマーの論文の執筆者なので、各所への影響は大きいでしょうね。
・第3次AIブームの基礎:ディープラーニング
・第4次AIブームの基礎:トランスフォーマー逆に一箇所にとどまることのほうが少ないので、驚くニュースではないように思います。
・画像認識で初めて人間の能力を上回ったとされるResNetの開発者He氏はMSRAからMetaへ
・GANの開発者Goodfellow氏はGoogleからAppleへ
Transformerは自然言語のみならず、画像でもVisual Transformerという技術として活躍しています。TransformerはBERTに応用され、最近ではChatGPTでも利用されていることでも有名で、影響力は計り知れないです。
言語の分野で使われるTransformerに絞って何がすごかったかを説明すると、大きくわけて2つあります。
1つ目は、それまでのものが逐次処理だったのに対して並列処理を可能にしたので高速な演算が可能になったこと。
2つ目は、上記とも関係するのですがそれまでのものが順番に単語を入力していくので、過去の情報を忘れやすく長文を扱うことが困難であったのに対し、Transformerは長文にも対応し易いこと。
他に、画像処理で使われるVisual Transformer (ViT)では、旧来技術であるCNNが画像のテクスチャ(模様)に注目しがちなのに対して、ViTは輪郭・構造に注目しがちであることが指摘されています。そして、たまたまですが人間の視覚も輪郭・構造にしがちであり、人間の直感と合致しやすい認識をすることになります。