ContentsMath

一般的な交互最小化の収束性について(2)

2019-11-15 10:552019-11-26 11:04

Reference Chapter4. of Non-convex Optimization for Machine Learning https://arxiv.org/abs/1712.07897 "Alternating Minimization".

前ページ、一般的な交互最小化の収束性についての続きです。

補題1 Bistable Pointの必要十分条件

関数\(f:\mathbb{R}^p\times\mathbb{R}^q\to\mathbb{R}\)が連続微分可能で、それぞれの変数について周辺凸関数であるとき、点\((x,y)\)がbistableであることと\(\nabla f(x,y)=0\)であることは同値。

一般的な交互最小化の収束性について(2)の続きを読む


一般的な交互最小化の収束性について

2019-11-14 17:122019-11-26 11:04

Reference Chapter4. of Non-convex Optimization for Machine Learning https://arxiv.org/abs/1712.07897 "Alternating Minimization".

多変数関数における変数の分割

関数\(f:\mathbb{R}^d\to\mathbb{R}\)を目的関数とする最小化問題について考える。\(d=p+q\)なる\(p,q\)を用いて関数\(f\)\(f:\mathbb{R}^p\times\mathbb{R}^q\to\mathbb{R}\)と見なすことが出来る。これは変数の内\(p\)個のサブセットを取ってきて変数を分割しただけ。残った変数\(q\)個をまた別な変数とおく。これを\((x,y)\in\mathbb{R}^p\times\mathbb{R}^q\)として新たに\(f(x,y)\)とおく。よりたくさんの変数に分割する場合にも2分割を繰り返せばよいので一般性を失っていない。制約集合による条件\((x,y)\in\mathcal{X}\times\mathcal{Y}\)を考えてもよい。一般にはそれぞれの制約集合が独立にな条件で与えられているとは限らないので\((x,y)\in\mathcal{Z}\subset\mathbb{R}^p\times\mathbb{R}^q\)という形になることに注意せよ。

一般的な交互最小化の収束性についての続きを読む


Poisson核を使った2次元Laplace方程式の解の表示

2019-07-11 10:082019-11-29 20:29

2次元Laplace方程式で、単位円周上で境界値が与えられている境界値問題を考えます。つまり

\[ \begin{align}\Delta u(x,y)=0&\qquad(x^2+y^2\lt1)\\ u(x,y)=f(x,y)&\qquad(x^2+y^2=1)\end{align}\]

です。この解は\(u(r\cos\theta,r\sin\theta)=U(r,\theta)\)という極座標表示を用いて、次のように書き表すことが出来ます。

Poisson核を使った2次元Laplace方程式の解の表示の続きを読む


確率変数のsub-Gaussian性

2019-07-08 23:442019-11-29 20:30

\(X\)を確率変数とし、その平均を\(\mu=\mathbb{E}[X]\)とする。このとき、ある正数\(\sigma\)が存在して

\[ \mathbb{E}[e^{\lambda(X-\mu)}]\le e^{\sigma^2\lambda^2/2}\]

を任意の\(\lambda\)について満たすとき、\(X\)はパラメータ\(\sigma\)のsub-Gaussianであるという。

これが確率変数のsub-Gaussian性です。性の付き方おかしい気がしますが、、。日本語で言うと準ガウス性といったところでしょうか。訳しているところ見たことありませんが。

確率変数のsub-Gaussian性の続きを読む