序論
- 序論の文章がまとまってない
- [ ] 研究室の誰かに見てもらえれば一番(M1をつかまえること)
準備
- Prox-SGDの部分はいらない
- [x] 削除
- Prox-SVRGの説明部分で分散の減衰を定理を用いて示す
- [x] section3の定理部分を移動させて来る
提案手法とその大域的収束
- 証明のための準備，のsubsectionを移動
- [x] section2の準備のところに移動
分散の上界の証明
- 定数をdと置くのはよろしくない
- [x] 文字をVに変更, 定義も変更(定数倍)
- dの説明がない
- [x] 最適解での分散の値であることを定理の後半に記述
大域的収束の証明
- 直接gamma_kの性質を使わないで証明する
- [x] $\gamma_k \in [\gamma_s, 1]$
- Lemmaに分割する
- [x] 数列の一次収束性，大域的収束性の証明(section2に移動)
- [x] 目的関数の1epochでの減少の期待値の証明
- [x] 以上を用いた提案アルゴリズムの収束証明
- [x] 細々の記号等の修正
理想的な場合
- 最適解という言い方が良くない
- 係数を計算するとすれば，結果として良くなった,という書き方をするべき.
- [x] 書き直し
実行方法
Lazy Evaluation
- 生成される点列が実質同じものになることをもっと丁寧に
- [x] Rewrite
- L1正則化の場合の証明がややこしい
- [x] 複数のLemmaに切り分けて見通しを良くする.