ニューラルネットワーク研究の先駆者、G・ヒントン氏が語る未来のコンピューター
コメント
注目のコメント
Neural Information Processing Systems（NeurIPS）といえば、超有名なAlexnetが発表されたのがNeurIPS12でした。ちょうど10年前です。
今回、自分のラボの発表もあり、現地で参加していました。本人に直接会えるかとも思っていましたが、Hinton先生はあまり旅行をされないことでも有名で、オンライン配信でした。
Hinton先生はCNNで重要な要素技術の一つであるPoolingを強く否定されるなど、深層学習の生みの親の1人でありながら、常に理想を追い求めて過去の影響を躊躇なく否定できるすごい研究者です。
ご講演の内容とは全く関係ないですが、質疑応答でなされた
「先生が普段研究で使っておられるプログラミング言語はなんですか」
「最近はあまりはやってないと思うけどXX(あえて伏せます)ですよ。」
という会話が面白かったです。
ちなみに、XXは私自身、昔からよく使っている言語の一つで、とても親近感がわきました。完璧な信頼性と再現性を求めるのではなく、確率的でアナログ的性質を持つコンピュータが生まれるという予想。そういうコンピューターは銀行口座の管理をすることはないけれど人間の創造的活動を支援してくれたり、悩み事の相談に乗ってくれたり、気まぐれに遊んでくれたりするのでは。
汎用的な進化をしながら計算効率を上げるには限界があるので、ハードウェアとソフトウェアを分離するという大前提を見直し、特定の分野に特化させて進化させるという考え方
HPC業界では特定の計算に特化させるようなマシンの開発もかなり行われてますが、Aというコンピュータで実行できるプログラムが、Bというコンピュータでは実行できなくなる（ただし訓練すれば使えるようになるし、低エネルギー化できる）
「パーソナルコンピュータ」がコンテキストを学習してモータルになっていくというのは面白いですね
