Picks
44フォロー
8220フォロワー


ユヴァル・ノア・ハラリ「人類がAIの脅威を生き延びられるかどうかわからない」
シバタ アキラWeights & Biases カントリーマネージャー
「情報ダイエット」中のハラリ氏のAIに対する警鐘は、私にはあまりリアルに聞こえませんでした。「AIが歴史上初めて、自ら意思決定が可能な技術であるという点をまず理解する必要がある」としていますが、実際そうでしょうか?
大規模言語モデルは質問に対して驚くほど気の利いた答えをしてくれますが、自律的に意思決定をするようになるにはまだいくつものブレイクスルーが必要です。ましてや「医薬品が長々とした規制プロセスを経ずに、AIツールによって世の中に放たれる」ような仕組みはつくられないでしょう。
AIが人類の脅威になる可能性は私も真剣に考えないといけないと思うのですが、どのような過程を経てそれが起こってしまうのかを示さず、いたずらに警鐘を鳴らすことは、さまざまな難課題の解決や効率化の可能性を秘めた技術の活用の機会を奪ってしまうだけでは無いでしょうか?
HuggingChatとは何か?ChatGPTとの比較でわかるオープンソース生成AIの驚きの性能
シバタ アキラWeights & Biases カントリーマネージャー
HuggingFaceは、先日サイバーエージェントやrinnaから発表されたLLMモデルも含む、様々なAIモデルをホスティングするためのレポジトリとして、完全にデファクトスタンダードになっています。また早くからトランスフォーマーの革新性に着目し、トランスフォーマーを使ったモデルをオープンソースで開発するためのフレームワークを開発してきました。弊社W&BでもHuggingFaceのプラットフォームを使っている開発者向けにインテグレーションを提供していて、その存在感は上がり続けています。
Open Assistantは完全にオープンソースのLLMを作ることを目的に、GPT NeoX系のアーキテクチャであるPythiaモデルをオープンソースデータセットのLAIONを使って開発しており、この記事にもあるようにその精度は高くなってきています。オープンソースの技術スタックを必要としている開発者にとっては最も有望なプロジェクトです。
日本語能力はというと、現時点では使い物になりません。簡単な質問を日本語でしても、英語混じりのメチャクチャな質問を返してきました。

【ミニ教養】AIビジネスの「超重要キーワード」
シバタ アキラWeights & Biases カントリーマネージャー
ChatGPTの問題は、クローズドな環境で、企業が自社データをOpenAIに送らずにチューニングする使い方ができないことです。ChatGPTのプロンプトを通じて機密情報の漏洩が起こらないよう利用を禁止している企業も出始めました。
オープンソースのモデルは手元のマシンで動かすことができるので、計算リソースさえあれば自社に閉じた開発が行えます。必要とされる計算リソースも、最近の技術進歩で大幅に少なくなりました。Googleの戦略はその中間的なところにあって、モデルはクローズドだが、チューニングをするための環境を提供する、というものです。
噂では、Googleはカスタマイズできる自社の戦略の優位性を示すために、わざとこの記事をリークさせたという話もあります。真意はともかく、オープンソース化された技術の発展のスピードは著しく、今も続いています。特に直近ではLLaMAベース(非商用)ではない商用利用可能なGPT-NeoX系モデルの開発は重要。
モデルチューニングのやり方は、来週の弊社のウェビナーでも手解きしますので、ぜひ良かったらご参加ください:
https://wandb.connpass.com/event/283559/
きっかけは「ジョーク」だった──ジェフリー・ヒントンがAIは人類の脅威になると考えるようになった経緯
シバタ アキラWeights & Biases カントリーマネージャー
これまでのAI発展の経緯と、直近のヒントン氏の考え方をまとめた良記事。新しい情報は多くないが、「AIがジョークの面白さを説明できたことに彼自身驚きを感じ、AIの進歩のスピードは思ってる以上に進んでいると感じた」という点は印象的だった。
AIはこれまでブルーカラーワーカーなど高い頭脳的知能を必要しないものからリプレイスしていくと考えられてきたが、ソフトウェアエンジニアの仕事を置き換えるようになってきたり、専門的訓練が求められる弁護士や税理士など「士」のつく仕事を置き換える、などと言われるようになってきた。
政治家や音楽家など、人間の主体性が重要視される「家」のつく職業においてもAIの「利用」が話題に上がっている(私自身音楽生成に取り組んでいた)ことを考えると、人間のアイデンティティをAIが危機に晒すような未来も、もはや地続きにある。

NORMAL
投稿したコメント