数学
本記事は以下の過去記事の内容を用います．フレシェ微分が勾配に一致するための条件と，勾配は双対空間の要素であることについて考える - エンジニアを目指す浪人のブログ 以下の過去記事も参考になります．内部と相対的内部の違いについて考える - エンジニ…
勉強を進めていて，関数解析のフレシェ微分(Fréchet derivative)と数理最適化において不可欠な概念である勾配(gradient)の関係とくにどのような設定においてフレシェ微分は勾配になるのか，またなぜ勾配が双対空間の要素になるのか，についてモヤモヤしてし…
工学系の学生向けの教科書や講義においてフーリエ級数(Fourier series)を扱うとき，三角関数や複素関数を用いた具体的な級数を用いて表現する場合が多いと思います．本記事では，関数解析の教科書に記述されている，フーリエ級数の数理的基盤になっている関…
本記事は以下の過去記事の内容を用います．ラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログ弱双対性の幾何的な解釈と，凸最適化問題における強双対性とスレーターの条件の幾何的な解釈…
本記事は以下の過去記事の内容を用います．ラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログ内部と相対的内部の違いについて考える - エンジニアを目指す浪人のブログ 勉強を進めていて…
本記事は以下の過去記事の内容を用います．等式制約あり凸最適化問題の基礎をまとめる - エンジニアを目指す浪人のブログ凸最適化問題の等式制約の除去についてまとめる - エンジニアを目指す浪人のブログ等式制約あり凸最適化問題に対するニュートン法と，…
本記事は以下の過去記事の内容を用います．等式制約あり凸最適化問題の基礎をまとめる - エンジニアを目指す浪人のブログ制約なし凸最適化問題に対するニュートン法と，ニュートンステップの定義，解釈，性質をまとめる - エンジニアを目指す浪人のブログ降…
本記事は以下の過去記事の内容を用います．ラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログ係数行列が対称行列の二次関数が凸関数(あるいは狭義凸関数)であるための必要十分条件はその…
本記事は以下の過去記事の内容を用います．行列のランク落ち，列フルランク，行フルランク，フルランクそれぞれのときの4つの基本部分空間を図示する - エンジニアを目指す浪人のブログムーア・ペンローズ逆行列による連立一次方程式の解表現について考える …
本記事は以下の過去記事の内容を用います．ラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログムーア・ペンローズ逆行列による連立一次方程式の解表現について考える - エンジニアを目指す…
本記事は以下の過去記事の内容を用います．ラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログ 勉強を進めていて，最適化問題において，主問題を解くために双対問題を利用できることについ…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題に対するニュートン法と，ニュートンステップの定義，解釈，性質をまとめる - エンジニアを目指す浪人のブログ正定値行列の逆行列は正定値であることの証明をメモする - エンジニアを目指す浪…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ降下法の枠組みと，厳密直線探索，バックトラッキング直線探索の概要をまとめる - エンジニアを目指…
本記事は以下の過去記事の内容を用います．強凸関数のヘッセ行列の逆行列の不等式を証明する - エンジニアを目指す浪人のブログ行列が半正定値(あるいは正定値)であるための必要十分条件はすべての固有値が非負(あるいは正)であることを証明する - エンジニ…
本記事は以下の過去記事の内容を用います．エルミート行列のすべての固有値は実数であることの証明をメモする - エンジニアを目指す浪人のブログ 勉強を進めていて，エルミート行列のスペクトルノルム(spectral norm)は最大固有値の絶対値に等しいことを証明…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題に対するニュートン法と，ニュートンステップの定義，解釈，性質をまとめる - エンジニアを目指す浪人のブログ強凸関数のヘッセ行列の逆行列の不等式を証明する - エンジニアを目指す浪人のブ…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ行列が半正定値(あるいは正定値)であるための必要十分条件はすべての固有値が非負(あるいは正)である…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ降下法の枠組みと，厳密直線探索，バックトラッキング直線探索の概要をまとめる - エンジニアを目指…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ降下法の枠組みと，厳密直線探索，バックトラッキング直線探索の概要をまとめる - エンジニアを目指…
本記事は以下の過去記事の内容を用います．二次ノルムの定義をメモする - エンジニアを目指す浪人のブログ行列式の対数はその行列の凹関数であることを証明する - エンジニアを目指す浪人のブログ 勉強を進めていて，二次ノルム(quadratic norm)の双対ノルム…
本記事は以下の過去記事の内容を用います．行列式の対数はその行列の凹関数であることを証明する - エンジニアを目指す浪人のブログノルムの連続性を証明する - エンジニアを目指す浪人のブログ 勉強を進めていて，二次ノルム(quadratic norm)というものを知…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログ降下法の枠組みと，厳密直線探索，バックトラッキング直線探索の概要をまとめる - エンジニアを目指…
本記事は以下の過去記事の内容を用います．制約なし凸最適化問題の目的関数に強凸性を仮定することの意味について考える - エンジニアを目指す浪人のブログラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを…
本記事は以下の過去記事の内容を用います．連続関数の劣位集合は閉集合であることを証明する - エンジニアを目指す浪人のブログラグランジュ関数，ラグランジュ双対問題，最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログ係数行列…
本記事は以下の過去記事の内容を用います．行列式の対数はその行列の凹関数であることを証明する - エンジニアを目指す浪人のブログレイリー商についての定理を証明する - エンジニアを目指す浪人のブログ逆行列の固有値は元の行列の固有値の逆数であること…
本記事は以下の過去記事の内容を用います． 逆像と逆写像の定義をメモする - エンジニアを目指す浪人のブログ 勉強を進めていて，連続関数の劣位集合(sublevel set)は閉集合であることについてモヤモヤしてしまったので，その証明をメモしておくことにしまし…
数学の様々な分野で用いる概念である，逆像(inverse image)と逆写像(inverse mapping)の類似についてモヤモヤしてしまったので，それらの定義について文献[1]の記述をメモしておくことにしました． 逆像の定義を示します．---------------------------------…
本記事は以下の過去記事の内容を用います．主成分分析の基礎をまとめる - エンジニアを目指す浪人のブログ特異値分解の導出と，左特異ベクトル，特異値，右特異ベクトルとは何かについて考える - エンジニアを目指す浪人のブログ特異値分解による行列の低ラ…
関数解析を勉強していて，有限次元ベクトル空間の双対空間(dual space)の基底(basis)(双対基底(dual basis))の構成についてモヤモヤしてしまったので，メモしておくことにしました．Kreyszig(1989)のsection2.9をベースにしてまとめます． 問題を設定するた…
本記事は以下の過去記事の結果を用います．いくつかの行列の公式を証明するその1 - エンジニアを目指す浪人のブログいくつかの行列の公式を証明するその2 - エンジニアを目指す浪人のブログいくつかの行列の公式を証明するその3 - エンジニアを目指す浪人の…
