本人学习所有系列：汇总帖

1-2：推荐书目，引言，常见例子，优化问题分类，发展史 3-4：仿射/凸/凸锥 + 集/组合/包 5-6：几种重要的凸集:超平面与半空间/球和椭球/多面体/单纯形/对称(半)(正定)矩阵 7-8：凸集的交集，保凸运算：仿射函数/缩放和移位/透视函数/线性分段函数 9-10：凸函数的定义1/定义2/定义3，凸函数的扩展 11-12：凸函数定义2补充/定义4，常见例函数的凸性：二次函数/仿射函数/指数函数/幂函数/绝对值的幂函数/对数函数/负熵/范数/零范数/极大值函数/log-sum-exp函数 13-14：函数凸性：极大值函数/log-sum-exp函数/几何平均/行列式对数；保持函数凸性：非负加权和/仿射映射/两函数的极大值函数/无像个凸函数的极大值 15-16：复合函数保凸的条件，函数的透视：欧几里得范数的平方/负对数/K-L散度，函数的共轭 17-18：复合函数保凸条件，函数的共轭， α α α-sublevel set，拟凸函数 19-20：（课堂小测1），向量零范数的松弛形式，可微拟凸函数的一阶条件和二阶条件，对数凹函数/对数凸函数 21-22：可微拟凸函数的一阶条件的充分性证明，凸问题：域/可行解集/最优值/最优解(集)/ ε ε ε次优解集/局部最优解/可行性优化问题，凸问题的等价形式（举例） 23-24：凸优化问题，凸优化约束的降维和升维（松弛变量），拟凸优化问题，凸问题局部最优等于全局最优，可微目标函数情况下的最优解（画图举例），三个名人的故事 25-26：凸问题的等价变换，营养食谱问题，线性分数规划，二次规划，QCQP，回归问题下 x x x稀疏时的LASSO（引入 X = X + + X − X=X^+ + X^- X=X++X−） 27-28：投资组合问题的形式，半正定规划问题，谱范数，多目标优化问题：pareto最优面，多目标问题①的转化（单目标问题②和带约束的单目标问题③） 29-30：对偶性，Lagrange函数，Lagrange函数的凹性，对偶函数与函数共轭的关系，§对偶函数的对偶函数仍未§ 31-32：强对偶/弱对偶，对偶间隙，Slater条件，弱Slater条件， P ∗ = d ∗ P^*=d^* P∗=d∗的四种解释：【1】几何解释【2】鞍点解释【3】多目标优化解释【4】经济学角度解释 33-34：线性代数知识：Byod的《Convex Optimization》附录A1，A5，C、正交投影的内容 35-36： P ∗ = d ∗ P^*=d^* P∗=d∗经济学角度解释的补充，鞍点解释的补充，鞍点定理，KKT条件，KKT条件充要性证明 37-38：线性约束的QP问题的KKT条件，Water-filling问题的KKT条件，约束仅为非负约束时互补条件和KKT条件的关系，更多的凸问题等价转换例子，带框约束的LP问题。 39-40：敏感性分析： P ∗ ( u , w ) P^*(u,w) P∗(u,w)/局部敏感性，Boolen LP问题的LP松弛和Lagrange松弛的等价性（两种松弛形式互为对偶） 41-42：带等式约束的可微凸优化问题的罚函数形式，带线性不等式约束的可微凸优化问题的log-barrier法，算法：Line Search：exact(黄金分割法)/inexact(Amijo Rule) 43-44：（课堂小测2），函数的强凸性，Hassien矩阵的上界下界，f(x)-P*的上界和下界，梯度下降法 45-46：强凸性等价不等式及其相反性质的等价不等式，梯度下降法，算法的收敛性，(亚/超)线性收敛，Amijo Rule解的上下界，矩阵的条件数 47-48：最速下降法：二模/一模/无穷模，坐标轮换/拟牛顿法 49-50：无约束优化问题算法选择建议，有约束优化问题（关心只含等式约束的问题）：构造KKT条件，拉格朗日法/增广拉格朗日法 51-52：增广拉格朗日法，其常用技巧（分布式计算） 53-54：NLP专题讲座，NLP下的KKT条件，（互补松弛条件讲的太好啦！） 55：总复习

文章主要是结合哔站的视频：中科大-凸优化

第九集好像有缺失，我是自己看的书，暂时跳过也没啥问题。（讲的内容大概是凸优化的前两个定义，在11集最开始的时候会有回顾，不是很难理解）

这儿有一个大佬的笔记：凸优化笔记（好像不能设置免费下载，所以设置的关注可下载）

中科大-凸优化 笔记（lec1）-综述、简介优化问题

中科大-凸优化 笔记（lec2）-什么是凸优化？

中科大-凸优化 笔记（lec3）-仿射集

中科大-凸优化 笔记（lec4）-凸集和凸锥

中科大-凸优化 笔记（lec5）-几种重要的凸集（上）

中科大-凸优化 笔记（lec6）-几种重要的凸集（下）

中科大-凸优化 笔记（lec7）-保凸变换（上）

中科大-凸优化 笔记（lec8）-保凸变换（下）

中科大-凸优化 笔记（lec9）-广义不等式、分离与支撑超平面、对偶锥与广义不等式（这个没找到视频，就自己看了下8和10中间没讲到的书中的内容，但是感觉这个应该是在讲上一节课的回顾和凸优化的前两个定义）

习题：2.1 2.2 2.5 2.7 2.10 2.16 2.18 2.19

中科大-凸优化 笔记（lec10）-凸函数：一阶条件

中科大-凸优化 笔记（lec11）-凸函数：二阶条件

中科大-凸优化 笔记（lec12）-一些常见的凸函数（上）

中科大-凸优化 笔记（lec13）-一些常见的凸函数（下）

中科大-凸优化 笔记（lec14）-保凸运算

中科大-凸优化 笔记（lec15）-保持函数凸性的操作

中科大-凸优化 笔记（lec16）-函数的透视

中科大-凸优化 笔记（lec17）-函数的共轭

中科大-凸优化 笔记（lec18）-拟凸函数（上）

中科大-凸优化 笔记（lec19）-拟凸函数（下）

中科大-凸优化 笔记（lec20）-可微拟凸函数的一阶/二阶条件

习题：3.1 3.2 3.5 3.13 3.18 3.21 3.32 3.33 3.36 3.43

中科大-凸优化 笔记（lec21）-凸优化问题

中科大-凸优化 笔记（lec22）-可行性优化问题与等价问题

中科大-凸优化 笔记（lec23）-优化问题

中科大-凸优化 笔记（lec24）-约束问题

中科大-凸优化 笔记（lec25）-等价变换

中科大-凸优化 笔记（lec26）-二次规划

中科大-凸优化 笔记（lec27）-半正定规则

中科大-凸优化 笔记（lec28）-多目标优化问题

习题： 4.3 4.9 4.22 4.24 4.59 4.62

中科大-凸优化 笔记（lec29）-Lagrange对偶（一）

中科大-凸优化 笔记（lec30）-Lagrange对偶（二）

中科大-凸优化 笔记（lec31）-Lagrange对偶（三）

中科大-凸优化 笔记（lec32）- P ∗ = d ∗ P^*=d^* P∗=d∗的几种解释

lec33-34：线性代数知识：Byod的《Convex Optimization》附录A1，A5，C、正交投影的内容（后面如果有时间的话，再来补这部分的笔记内容吧） lec33先看46min的，然后再看开头，可能视频剪辑有点问题。

中科大-凸优化 笔记（lec35）-鞍点定理

中科大-凸优化 笔记（lec36）-KKT条件

中科大-凸优化 笔记（lec37）-一些问题的KKT条件

中科大-凸优化 笔记（lec38）-凸问题等价转换例子

中科大-凸优化 笔记（lec39）-敏感性分析

中科大-凸优化 笔记（lec40）-松弛对偶

中科大-凸优化 笔记（lec41）-可微凸优化问题的罚函数形式

习题： 5.5 5.20 5.27

中科大-凸优化 笔记（lec42）-log-barrier法

中科大-凸优化 笔记（lec43）-函数的强凸性

中科大-凸优化 笔记（lec44）-一些上界下界及梯度下降

中科大-凸优化 笔记（lec45）-强凸性等价不等式

中科大-凸优化 笔记（lec46）-算法的收敛性

中科大-凸优化 笔记（lec47）-最速下降法

中科大-凸优化 笔记（lec48）-拟牛顿法

中科大-凸优化 笔记（lec49）-无约束和有约束优化问题

中科大-凸优化 笔记（lec50）-拉格朗日法（KKT条件）

中科大-凸优化 笔记（lec51）-增广拉格朗日法

中科大-凸优化 笔记（lec52）-常用技巧（分布式计算）

后面三节感觉拍摄效果不太好，而且主要是讲座，就没做记录。

后面打算再过一遍书，如果有觉得需要进行补充的，会再做单独的记录。