一言アピール

研究テーマ

1. ●多層パーセプトロンのモデル選択
2. 　多層パーセプトロンは、パターン識別・回帰分析・時系列予測に対する機械学習の汎用的な方法として広く知られている。多層パーセプトロンの能力の高さは、可変な基底関数の線形結合で表されるという性質によるところが大きい。しかしながら、この性質により、Fisher情報行列が縮退する問題が生じるため、その統計的性質の解析が非常に難しいことが知られており、応用上のモデル選択の問題に対する数理的根拠をもつ研究はほとんど進んでいない。実は、こうした問題は、ガウス混合分布、隠れマルコフモデルなど機械学習の有用な多くのモデルについて生じる問題であり、そうした問題をもつモデルは特異モデルと呼ばれて、現在、研究が行われている。本研究では、基底の可変性に着目し、多層パーセプトロンの学習誤差や汎化誤差を解析し、その応用上のモデル選択の問題を解決することを目的としている。
4. ●ノンパラメトリック回帰のモデル選択
5. 　近年、機械学習においてサポートベクターマシンなど多くの基底関数の線形結合として対象の入出力関係を記述する方法が盛んに研究されている。こうした研究は、統計学の分野におけるノンパラメトリック回帰の方法と見なすことができる。こうした方法では、モデルの自由度が非常に高いため、なんらかの方法でその自由度を制限することで汎化性の良いモデルを学習する。その方法としては、正則化を導入する方法やスパース性を保つ方法がある。前者では、正則化パラメータの選択、後者では不必要な基底関数の削除をいかにして行うかが重要であり、これらの問題は総じて、モデル選択の問題として知られている。本研究では、特に、スパース性を保つ方法を、理論的観点から研究している。
7. ●雑音除去の方法
8. 　実際の信号は一般に雑音に乱されて観測される場合が多く、雑音を除去し、信号成分だけを抽出する必要がある。こうした方法としては、フーリエ変換やウェーブレット変換を用いた方法（これらはフィルタ処理として見ることもできる）が一般的である。特に、ウェーブレット変換は、直交基底の下でのノンパラメトリック回帰の方法として捉えることができる。本研究では、雑音除去を目的として、一般的な直交基底の下でのノンパラメトリック回帰において、スパースで妥当な解を得る方法を研究している。