本記事は以下の過去記事の内容を用います．ラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログ 勉強を進めていて，最適化問題において，主問題を解くために双対問題を利用できることについ…

本記事は以下の過去記事の内容を用います．制約なし凸最適化問題に対するニュートン法と，ニュートンステップの定義，解釈，性質をまとめる - エンジニアを目指す浪人のブログ正定値行列の逆行列は正定値であることの証明をメモする - エンジニアを目指す浪…

本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ降下法の枠組みと，厳密直線探索，バックトラッキング直線探索の概要をまとめる - エンジニアを目指…

本記事は以下の過去記事の内容を用います．強凸関数のヘッセ行列の逆行列の不等式を証明する - エンジニアを目指す浪人のブログ行列が半正定値(あるいは正定値)であるための必要十分条件はすべての固有値が非負(あるいは正)であることを証明する - エンジニ…

本記事は以下の過去記事の内容を用います．エルミート行列のすべての固有値は実数であることの証明をメモする - エンジニアを目指す浪人のブログ 勉強を進めていて，エルミート行列のスペクトルノルム(spectral norm)は最大固有値の絶対値に等しいことを証明…

本記事は以下の過去記事の内容を用います．制約なし凸最適化問題に対するニュートン法と，ニュートンステップの定義，解釈，性質をまとめる - エンジニアを目指す浪人のブログ強凸関数のヘッセ行列の逆行列の不等式を証明する - エンジニアを目指す浪人のブ…

本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ行列が半正定値(あるいは正定値)であるための必要十分条件はすべての固有値が非負(あるいは正)である…

本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ降下法の枠組みと，厳密直線探索，バックトラッキング直線探索の概要をまとめる - エンジニアを目指…

本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ降下法の枠組みと，厳密直線探索，バックトラッキング直線探索の概要をまとめる - エンジニアを目指…