エンジニアを目指す浪人のブログ

情報系に役立ちそうな応用数理をゆるめにメモします

数理最適化

係数行列が半正定値の二次関数が最小値をもつための必要十分条件は勾配が零ベクトルであることを証明する

本記事は以下の過去記事の内容を用います.分散共分散行列(と相関行列)は半正定値であることを証明する - エンジニアを目指す浪人のブログいくつかの行列の公式を証明するその1 - エンジニアを目指す浪人のブログ 本記事は以下の過去記事の内容を既知とする…

係数行列が対称行列の二次関数が凸関数(あるいは狭義凸関数)であるための必要十分条件はその係数行列が半正定値(あるいは正定値)であることを証明する

本記事は以下の過去記事の内容を用います.分散共分散行列(と相関行列)は半正定値であることを証明する - エンジニアを目指す浪人のブログ 応用上よく使われる関数に,凸関数(convex function)(あるいは狭義凸関数(strictly convex))である(ベクトル値)二次…

行列のランクに仮定をおかないときの最小二乗法の解表現と列フルランクを仮定することの意味について考える

本記事は以下の過去記事の内容を用います.最小二乗法の基礎をまとめる - エンジニアを目指す浪人のブログムーア・ペンローズ逆行列の定義,構成,一意性についてまとめる - エンジニアを目指す浪人のブログムーア・ペンローズ逆行列と元の行列の4つの基本部…

最小ノルム解の基礎をまとめる

本記事は以下の過去記事の内容を用います.制約付き最小二乗法の基礎をまとめる - エンジニアを目指す浪人のブログ行列における全射,左零空間が零ベクトルのみ,行フルランクは同値であることを証明する - エンジニアを目指す浪人のブロググラム行列につい…

制約付き最小二乗法の基礎をまとめる

本記事は以下の過去記事の内容を用います.最小二乗法の基礎をまとめる - エンジニアを目指す浪人のブログ多目的最小二乗法の基礎をまとめる - エンジニアを目指す浪人のブログ 勉強を進めていて,制約付き最小二乗法(constrained least squares method)につ…

多目的最小二乗法の基礎をまとめる

本記事は以下の過去記事で得た結果を用います.最小二乗法の基礎をまとめる - エンジニアを目指す浪人のブロググラム行列についての定理を証明する - エンジニアを目指す浪人のブログ 勉強を進めていて,多目的最小二乗法(multi-objective least squares met…

最小二乗法の基礎をまとめる

本記事は以下の過去記事で得た結果を用います.行列における単射,核(カーネル)が零ベクトルのみ,列フルランクは同値であることを証明する - エンジニアを目指す浪人のブログ行列のランク落ち,列フルランク,行フルランク,フルランクそれぞれのときの4つ…

凸最適化問題における鞍点定理とミニマックス定理についてまとめる

本記事は以下の過去記事で得た結果を用います.ラグランジュ関数,ラグランジュ双対問題,最適性条件(KKT条件)のあらすじをまとめる - エンジニアを目指す浪人のブログ 勉強を進めていて,凸最適化問題における鞍点定理(saddle point theorem)とミニマックス…

ラグランジュ関数,ラグランジュ双対問題,最適性条件(KKT条件)のあらすじをまとめる

数理最適化で扱う問題のなかで,凸最適化問題は応用上よく使われること,また,ラグランジュ関数,ラグランジュ双対問題,最適性条件(KKT条件)は重要な概念であることはよく知られていると思います.それらを勉強するために読んだもののうち,Boyd and Vande…

内部と相対的内部の違いについて考える

数理最適化を用いる文献を読んでいると,相対的内部(relative interior)という概念がでてくることがあります.位相空間論の概念である内部(interior)と似ているものであることはすぐわかるのですが,それらの違いがイメージできずにモヤモヤしてしまうことが…