“歩きスマートグラス”でビデオ会議　横顔の映像を正面顔にリアルタイム変換：Innovative Tech

[山下裕毅，ITmedia]

　マックス・プランク情報学研究所とミュンヘン工科大学によるドイツの研究チームが開発した「Egocentric Videoconferencing」は、眼鏡型デバイスのフレームに取り付けたカメラから横顔の映像を撮影し、正面から見た顔の映像をリアルタイムに生成する、深層学習を用いたシステムだ。イヤフォンとマイク付きスマートグラスに搭載すれば、歩きながらハンズフリーでビデオ会議も可能という。

　ビデオ会議では通常、PC、タブレット、スマートフォンなどで正面方向から顔を撮影しながら行わなければならない。歩きながら会議に参加する場合は、手持ちしたスマートフォンで自撮りし続ける必要がある。これは手が疲れるだけでなく危険でもある。

　今回の手法では、眼鏡フレームに取り付けた魚眼レンズ搭載カメラで横顔映像を撮影し、正面の顔画像を生成する。

　カメラから撮影した横顔は、Conditional GAN（条件付き敵対的生成ネットワーク）を用いて訓練したネットワークで正面の顔に変換する。顔の造作と髪型などは、あらかじめ用意しておいた中立的な表情を持つ顔の3Dモデルを変化させる。

　このシステムでは正面から見た頭部と上半身をリアルな品質で合成し、頭や口の動き、視線、まばたき、舌、微妙な表情まで細部にわたってレンダリングする。さまざまな照明条件下でも合成可能で、音声と同期した唇の動きを出力する。