BFGS公式による準ニュートン（Quasi-Newton）法はいまのところ実用上最も優れているといえる最適化手法だ。超1次収束かつ各反復における計算オーダが変数の数の2乗で済むため、変数の2乗が許容される規模の問題である限り実用的にベストな解法として使われる。
ロジスティック回帰からソフトマックス関数と交差エントロピーのまでの導出を簡潔かつ分かりやすくメモ。
発狂した。Macを使って発狂しないWindowsユーザは多分日頃のPC操作がそんなに効率的ではなかったんだろうな。量産型のいくらでもありそうな意見を垂れ流しておく。
これはあくまでOpinionである。昨今のプログラミング教育やオンライン学習ツールその他について思ったことを書く。
