最適化理論
数学では、与えられた関数 $f: X \to \mathbb{R}$ の最大値と最小値を見つけることを最適化と言います。この目的関数が私たちの生活の問題に直結している場合、応用数学の観点から大きな関心を集め、その解法である最適化理論の重要性は言うまでもありません。
線形計画法
標準形
シンプレックス法
双対性
実践
- エクセルで線形計画問題を解く方法
- Juliaで線形計画問題を解く方法
JuMP.jl
- Pythonで線形計画問題を解く方法
scipy
- MATLABで線形計画問題を解く方法
Optimization Toolbox
- Rで線形計画問題を解く方法
lpSolve
非線形計画法
勾配降下法
プロキシメータルアルゴリズム
- プロキシメータルオペレーター $\operatorname{prox}_{\lambda f} (\mathbf{x})$
- プロキシメータル最小化アルゴリズム $\mathbf{x}^{(k+1)} = \operatorname{prox}_{\lambda f}(\mathbf{x}^{(k)})$
- プロキシメータル勾配法 $\mathbf{x}^{(k+1)} = \operatorname{prox}_{\lambda g}(\mathbf{x}^{(k)} - \lambda \nabla f(\mathbf{x}^{(k)})) $
- PALM(Proximal Alternating Linearized Minimization)
進化計画法
ヒューリスティック
パーティクルスウォーム
主要参考文献
- Luenberger. (2021). Linear and Nonlinear Programming (5th Edition)
- Matousek. (2007). Understanding and Using Linear Programming
- Vanderbei. (2020). Linear Programming(5th Edition)
全體ポスト
- 数学における勾配降下法
- 数学における最適化技術
- 確率的勾配降下法
- 最適値:最大値と最小値
- 最適解:最大因数と最小因数
- 線形計画問題の定義
- 線形計画問題の方程式フォーム
- 線形計画問題の基底解
- 基底可溶性の一意性の証明
- 線形計画問題の方程式形式における最適解の存在証明
- 線形計画問題において最適解が存在する場合、そのうちの一つは基底実行可能解である
- 線形計画法における辞書と表
- 線形計画法のシンプレックス法
- シンプレックス法の初期化と補助問題
- 線形計画法における目的関数の無限大
- シンプレックス・メソッドのサイクリング
- シンプレックス法のブランドのルール
- 線形計画法の基本定理の証明
- 線形計画法における双対性
- 線形計画法における弱双対性定理の証明
- 線形計画法における強い双対性定理の証明
- Excelで線形計画問題を解く方法
- ジュリアで線形計画問題を解く方法
- Pythonで線形計画問題を解く方法
- MATLABで線形計画問題を解く方法
- Rで線形計画問題を解く方法
- 最適化理論:ラグランジュの未定乗数法
- 割線法: ニュートン法
- 多変数関数の極値に対する2階の必要/十分条件
- 多変数関数の極値に対する一階必要条件
- 近接作用素
- 近接最小化アルゴリズム
- 交代最適化
- サブグラディエント
- サブグラディエント法
- 近接勾配法
- 近接交互線形化最小化アルゴリズム (PALM)