AIの癖を読み解く

AIはどこを重視して物体を認識するのか．概形？局所的模様？色？それを明らかにすることでニューラルネットワークの癖を見抜く方法とその評価について研究をしています． また，入力画像に目に見えない少しの揺らぎを与えるだけで，AIの判断を狂わせる事ができます．我々は様々な手法でこのようなニューラルネットワークの癖を読み解き，システムの安定化，認識精度の向上を達成し，SNS/Webシステム解析や時系列データ予測などの分野に応用しています．