本书以数学专业高年级本科生和工科研究生所具备的数学基础知识为起点，综合教学团队多年优化方法课程的教学经验，详细介绍优化问题、模型与算法。

第1章 概论
1．1 化问题
1．1．1 化模型
1．1．2 化问题的基本概念
1．2 几类重要的化问题
1．3 MATLAB中求解化问题的函数
习题1

第2章 线性规划
2．1 线性规划的基本概念
2．1．1 引例
2．1．2 线性规划的标准形式
2．1．3 线性规划的矩阵形式
2．1．4 线性规划的几何意义
2．2 线性规划基本思想原理
2．2．1 凸集与多面凸集
2．2．2 基本解与基本可行解
2．2．3 线性规划的基本定理
2．3 单纯形方法
2．3．1 单纯形方法的基本思想
2．3．2 修正的单纯形方法
2．3．3 求解线性规划的单纯形表格
2．4 确定初始基本可行解的方法
2．4．1 两阶段方法
2．4．2 大M方法
2．5 线性规划的对偶问题
2．5．1 对偶问题的定义
2．5．2 对偶定理
2．5．3 对偶单纯形方法
2．6 利用MATLAB工具箱求解线性规划
2．7 退化与循环
2．7．1 循环举例
2．7．2 几种克服循环的方法
2．8 线性规划的计算复杂性与多项式算法
习题

第3章 无约束优化
3．1 预备知识
3．2 一维搜索
3．2．1 平分法
3．2．2 0．618法
3．2．3 牛顿法
3．2．4 抛物线法
3．2．5 非精确一维搜索
3．3 多元函数的下降算法
3．3．1 速下降法
3．3．2 多元函数的牛顿法
3．3．3 阻尼牛顿法
3．4 拟牛顿法（变尺度法）
3．4．1 DFP算法
3．4．2 BFGS算法
3．5 共轭方向法
3．5．1 共轭方向的定义和性质
3．5．2 共轭梯度法
3．6 直接搜索法
3．6．1 坐标轮换法
3．6．2 Powell方向加速法
3．6．3 Hooke-Jeeves方法
习题

第4章 约束化方法
4．1 非线性规划的一阶性条件
4．2 二次规划
4．2．1 等式约束二次规划
4．2．2 一般二次规划问题的起作用指标集方法
4．3 序列二次规划方法
4．3．1 求解非线性方程组的牛顿法
4．3．2 SQP算法
4．4 惩罚函数法与障碍函数法
4．4．1 惩罚函数法
4．4．2 障碍函数法
4．4．3 混合罚函数法
4．5 增广拉格朗日函数法
4．5．1 等式约束优化问题的增广拉格朗日函数法
4．5．2 非线性规划的增广拉格朗日函数法
习题

第5章 多目标规划
5．1 多目标规划的基本概念
5．1．1 多目标规划问题
5．1．2 多目标规划的解
5．1．3 多目标规划的性条件
5．2 线性加权和法
5．3 平方加权和法
5．4 极小极大法
5．4．1 经典的极小极大法
5．4．2 基于极小极大思想的多目标规划牛顿法
5．5 分层序列法
习题

第6章 随机规划模型
6．1 概率空间与随机变量
6．2 不确定性优化模型
6．3 随机规划模型
6．4 两阶段随机线性规划
6．5 多阶段随机线性规划
6．6 常用随机规划算法
6．6．1 随机对偶动态规划算法
6．6．2 渐近对冲算法
习题

第7章 机器学习中的优化方法
7．1 机器学习中常见的优化问题
7．2 经典的凸优化方法
7．2．1 投影次梯度方法
7．2．2 梯度下降方法
7．2．3 投影梯度下降方法
7．2．4 条件梯度下降方法
7．2．5 加速梯度下降方法
7．2．6 临近梯度方法
7．3 随机优化方法
7．3．1 随机梯度下降方法
7．3．2 随机投影次梯度方法
7．3．3 随机投影梯度方法
7．3．4 随机加速投影梯度方法
7．3．5 随机加速临近梯度方法
7．3．6 随机条件梯度方法
7．3．7 随机坐标下降方法
7．4 方差减少的随机优化方法
7．4．1 随机方差减少梯度方法
7．4．2 随机方差减少临近梯度方法
7．4．3 随机方差减少条件梯度方法
习题

习题参考答案与提示
参考文献