ソフトバンクとエヌビディア、5G・6G向けデータセンターで協業
コメント
注目のコメント
NvidiaのCPUはGPUの間違いかと思ったら、GraceはArmベースのAI向けの新しいCPUアーキテクチャなのですね。
GPUとの通信速度が900GB/sと従来の30倍、加えて5G対応で36Gbps。生成AIのモバイル対応に最適化された設計にみえます。
ソフトバンクはデータセンター事業はもちろん自社サービスにも使うのでしょうか?生成AIもスループットで勝負の時代かも。Grace Hopperは、実在したコンピューターおばあちゃんで海軍准将。嘘じゃないよ。
https://rightcode.co.jp/blog/it-entertainment/cobol-grace-hopperNvidiaとの連携だが、GPUではなくCPU、という点に注目。
下記がリリースで、そこで言及されているGraceというCPUが使われる。
https://www.softbank.jp/corp/news/press/sbkk/2023/20230529_01/
2年くらい前にPickした下記がGraceについての記事。
NLP(当時はLLMという言葉が広がっていなかった)モデルなど、学習モデルが複雑になる中で、CPUだけでなく、メモリやGPUなどとの接続に強みがあるのがポイントだという理解。
当時よりもこういったニーズは、ChatGPTなどの登場で、はるかに上がっているだろう。
“GPUのNVIDIA”がCPU製品「Grace」を投入、スパコンのAI性能が10倍に
https://newspicks.com/news/576183
AI時代の覇者NVIDIAの新Arm CPUが単なる「インテル対抗」ではない理由
https://newspicks.com/news/5772113
NVIDIAがGraceとHopperという名のスーパーチップとEOSスパコンを発表
https://newspicks.com/news/6864007