Google Keyboard(Gboard)のように、教師データをサーバに集めることなく、端末で機械学習した差分モデルをサーバで足し合わせる分散学習が普及しています。教師データをサーバに集めて学習する集中型機械学習と比較して、教師データの漏洩を避けています。
敵対生成ネットワーク (GAN) を用いることで、差分モデルから教師データを復元する攻撃が、分散学習の脅威となりつつあります。最新の差分モデル攻撃に対して、端末数、ラベル数、学習回数と復元率の関係を計測することで、攻撃の弱点を明らかにします。
ネットワークにおいて端末が送信した差分モデルをセキュアに合算することで、攻撃者から個々の差分モデルを隠蔽するセキュアアグリゲーションを開発しています。基本アルゴリズムを開発し、自動運転や位置サービスなどへの応用を進めています。
Research Themes