最优化方法 · 修读回执档案

课程内容：线搜索，梯度下降，牛顿法，kkt，对偶，线性规划和单纯形法，等式约束，内点法（今年内点法不考，等于这盘菜没端上来）。 上课自由度：你爱干嘛干嘛，佛系。但本学期有两次纸质签到，没签不会扣分，签了的话会加分（加在作业、小测里），相当于白捡。 考核标准：小测，平时作业，大作业，期末。小测其实蛮容易的，基本都来自讲义或者作业，别自己吓自己。期末有点难，前面判断题据他说大部份人平均错四五个，不过这不慌，因为才一分一个；关键是后面大题，差不多每一问都有8分左右，某个知识点没复习到就是一问下不了笔、全盘寄掉。不过不管怎么说，期末考的基本还是都来自他讲的东西（or讲义）或者作业。今年本以为梯度下降、kkt、对偶这三部份小测考过的考点期末就该退休了，结果万万没想到期末就是把小测变了个形，换件马甲又来上班。但反正他出卷每年都不一样，想考高分还是得全复习好。给分的话，看他发在群里的成绩图，总评平均大概就80出头吧。如果不是准备好花较多时间在这门课上，还是谨慎选课，毕竟事是真有点多，妥妥的时间黑洞。 授课质量：其实也还行吧，虽然平时没怎么听过，但有时会敲几下黑板重点。比方说某一次课发改好的小测卷的时候，他提了一嘴“你们可以思考一下把这次小测的目标函数套个复合函数，会怎么样”，结果期末真就这样考了。再例如讲ADMM法的时候，他提了一个稀疏优化的例子，结果期末就考了，而这个例子讲义上没有，属于见过就会、没见过就当场社死型题目。所以说还是可以去教室稍微听一下，或者复习的时候速通一下回放，耳朵挂着有奇效。

课程内容：跟上面那一条一样，这门课定位本身就是个待解之谜，似乎很多方法实用价值不是很高，不过至少我自己那时上起来还是觉得挺有意思。 上课自由度：高 考核标准：五次作业，一次作业大概六面A4纸的分量，复习加狂写一天左右就封顶。期末50%，今天期末跟去年掰手腕做了调整，出得比往年体面多了，计算量还凑合，更能吃到基本原理的落地应用，复杂证明/收敛性分析的身影很少，还分配了16分的概念判断。 授课质量：接着上面那一条：*江老师上课讲得很快，但是讲得很慢；杨老师上课讲得很慢，但是讲得很快*（这种车轮话我咋想不出来） 江老师那张嘴自带念经滤镜，稍稍一走神可能就真的lost了……，kuan的节奏比较缓，今年开讲会咔嚓跳过部分数学证明往下搭理论框架，感觉会稍微跟得住一些，好在两位老师的讲义都各有纸质和排版双份，复习和写作业基本是端着讲义的。

### 老师人好得像客服界的顶配，生怕你听不懂，讲得比说明书还详尽，虽则这课门槛高得像要翻秦岭，但最终考核反而挺平易近人的。 ### 之后如果要做优化方向，比如AI这类，这课算你装备栏里的核心道具，当期末速通副本打都行。

课程内容： 最优化方法，最找顶的事都得靠这个 上课自由度： 高，从未点名，匿名得像空气般存在 授课质量： 老师的课程内容非常清晰，但是教的内容确实很抽象，也没有参考卷子，清晰和抽像这对风评直接嗑起来，虽然考试难度还能接受，但确实折磨人，所以我扣了一分，因为课不行，老师人还是很好的

课程内容： 这门课从凸集和凸函数讲起，到线性优化，再到无约束的凸优化问题，再到有约束的凸优化问题。一路凸到底，凸得你怀疑人生，凸得你看见圆都觉得它不严谨。 上课自由度： 比较高，来的人应该不多。估计很大程度上是因为有讲义。翻译一下就是：签到是什么？没听说过！讲义在手，天下我有。 考核标准： 50%作业 + 50%考试。期末卷子均分80左右，平时基本都会给满。期末卷子不是很好评价，要求学生们化身为人形计算器（解很多很多的方程）。如果你觉得考试应该考察思路而不是体能训练，或者你对分数非常看重的话，建议移步近世代数。总而言之一句话：这里期末就是让你手算到冒火。 授课质量： 江老师上课讲得很快，但是讲得很慢；杨老师上课讲得很慢，但是讲得很快。 江老师的语速是非常快的，但是江老师会讲更多的例子便于理解；杨老师的语速是相对比较慢的，但基本就是大段大段的数学推导。翻译成人话：一个用1.5倍速撒糖喂例子杀你，一个用0.5倍速给你上推导刑。 不过总的而言，两位老师的水平是在线的。

课程内容：线搜索，梯度下降，牛顿法，KKT条件，线性规划和单纯形法，对偶，优化算法 上课自由度：高，偶尔来几个手写签名签到，但这玩意儿似乎是加分无望、减分无忧，它唯一的用途就是给签到人数算命，用这个数决定最后的优秀率（即85分以上人数） 考核标准： 平时作业30，六到七次，理论编程参半，难度分量都不客气，是吞时间黑洞，助教给分也堪称铁面无私，按正确率一分一分抠。大作业15，自学 numerical optimizition 四五六章里挑一章出来，交一份报告，这个给分就玄学了，助教手里的理由听得我满头问号，但话说回来扣的其实也没那么狠，等看到总评的那一瞬我好像忽然全都悟了。小测15，平时考四次，挑出三次最高的，每次15分钟，一两道题速战速决。期末考试40，允许带一张公式纸，难度也不跟你客气。照老师在群里的说法是捞过的，只可惜捞完水位也不见得多动人，或许真是我自己对自己滤镜太厚，而老师是真的在水底已经捞不动我了。 授课质量：多数时候能把话说明白，但上课犯错频率实在是有点过密，基本上节课课都有大或者小的卡壳、返工纠错名场面，听课体验像坐过山车飘忽。 总而言之，劝君在选它之前先对着镜子掂量一下自家本事，想一想自己到底是不是非这块核心学积分不可、能不能往这科里灌进大把时间，尤其是当你把它和那些给分注水膨胀的大二大三专业课并排放时，心态到底兜不兜得住。开学时这门课黑压压来了一百多人，中期退课结算完现场只剩下一半陪着，留下来的一看你眼神就知道人家心里有数，我认得的不少大腿也都纹丝不动没跑，在这个基数向上，给分大概是数院中游那一卦。总结一句，请谨慎下注，选定了就铆足劲往里砸时间好好跟它磕。

上这课给你一条生存指南。 别把眼睛瞪裂了盯着证明对不对，试图去感受证明是怎么想出来的、方法背后动机是啥，学会走路比学会验脚印强。 老师给分很仁慈，这点可以放心。 还有，别把老师对难度的乐观估计当太真，他说简单，跟你做起来简不简单，那是两本故事书。

课程内容：凸集凸函数、线性规划、凸优化 上课自由度：高 考核标准：50%作业50%期末。 授课质量：高。就是江波老师语速跟开了二倍速似的，听着CPU过载有点累。 一个学期爬下来最大的感悟就是：不太确定这门课到底把自己摆在什么生态位。虽然 kuan 说这门课偏数学，但好多证明课上直接跳过（比如大部分收敛性分析），课上讲的证明也不作要求，然后作业完全成了高数和线代的简单练习题。考试更是纯纯的重量级，一道送分的证明之后紧跟着六道勾使计算（估计没人能算完）。如果要当数学课这么出卷，那多少有点说不过去。可如果说这门课的目标是面向应用，那又疑似太数学了，毕竟课上大把时间确实花在证证明明上，作业也压根没有代码的实践作业。不过这门课整体上下来还是很有收获的，给分也蛮不错的。

课程内容：四大门派。第一部分无约束优化，梯度下降、牛顿法还有它的变体全体出列；第二部分KKT条件、线性规划、单纯形法；第三部分对偶理论；第四部分凸优化，投影梯度、交替方向乘子法、不可行起始牛顿法、内点法一个不少。每节课发讲义，英文的，讲的全是讲义上的东西。参考书传承上Numerical Optimization和Convex Optimization都有。 上课自由度：签了两三次到，全是纸质签到，古法打卡。 考核标准（懒得写了直接粘贴）： • Homework (30%). If coding is needed, you can use whatever language you prefer. Python and MATLAB may be easier to get started. Please indicate your designed algorithm in the homework and show your results via figures or tables. The actual code should be submitted as appendices only. • Quiz (15 %) There will be three-four quizzes over the semester. In each quiz, there will be 1 problem and you solve them in 10-20 minutes. • Independence study (15%). You choose one topic from the following three which we do not have enough time to cover in class: 1) trust region methods; 2) conjugate gradient methods 3) quasi-Newton methods (in particular, Chapter 4, 5 and 6 in the book “Numerical Optimization”) by yourself. Use what you studied to solve an application you found. • Final exam (40%) There will be a final exam. One cheating sheet of size A4 is allowed. 授课质量：较一般，这个授课质量建议自学，我基本都是辅以看书或者看讲义自学。老师基本上是对着讲义抄，每节课都给人一种备课极其不充分的感觉，就那个单纯形表法的例子，老师上课自己都没算明白，每节课都要卡壳几次。当然可能是老师科研确实比较忙。助教批作业极其严格，扣分扣得很狠，只看正确率不看做的认真程度，有点离谱。不过作业答案助教都做得很认真。小测题目还好，肯定没期末考题难。期末考试非常难，只能等老师捞了。综上这门课内容挺丰富的，去看那两本教辅一定会大有收获，单单靠课上听老师讲感觉学到的很有限，而且这个授课质量真的很容易听不下去。 如果想了解这门课作业难度可以看看[2024年秋6次作业及答案](https://share.dyweb.sjtu.cn/course/18290)

课程内容：自学。“这个我默认你们会”“这个没时间讲你们下课自己看” 上课自由度：高 考核标准：30作业15大作业15小测40期末 授课质量：真的低，一直平淡地念经，照着笔记抄，重点是什么不存在的。他上这门课仿佛就是在16次课里把英文讲义翻译成中文抄一遍就完事，一节课抄不完就下节课接着抄，反正16次课内抄完就下班。所以每次课的内容都碎得像被猫抓过的拼图。 作业巨多，几乎都是证明，还有编程，编程题甚至题目只给一半，另一半自己想去吧。给分很难看，自己嘴上说不要求证明很严格、意思到即可，实际上即使是很显然的一步，但凡你直接跳了，如果是作业，一整题的分就没了，如果是小测，1/10分就没了。

这波我不整虚的了，光看期末那张卷子，五星我先磕为敬。填空题水到能养鱼，直接占了一半，剩下那一半计算题更绝，纯纯作业原题复刻，搁这儿搞慈善呢？

课程内容：Stephen Boyd的《Convex Optimization》，按着他自制的改版ppt讲，内容跟同课号的其他老师差不多，相当于同一锅汤换个勺子舀。 上课自由度：来的人不多。有一次人太少了他逐个登记签到，那场面堪比点名册大清算。他很在意上课的状态，看到我们都坐后排，会讲着讲着突然破防，泪洒黑板。 考核标准：30平时，考勤↑+6次作业，有一些是研究生课原题，可以去传承找；20大作业，4-5人小组完成，只要求选一个实际主题，最好和课程相关；50期末。 授课质量： 足够做出期末考试题。本身我们基础不好，老师了解以后把讲课速度降得很慢，慢到能看清楚每棵树在后排睡觉的呼吸频率。和同学交流很多，有问题也细心解答。最后一节课是复习课，基本包含重点，对着抄两遍考试就够用了。 （虽然有上面那出，但）肯定是可以称为好老师的。

课程内容： Numerical Optimization 与 Convex Optimization两本书的内容，两本就够压垮书桌了 上课自由度： 高 考核标准： 45%期末考试+10%小测+45%作业与读书笔记 授课质量： 非常高，备课充足，上课节奏快，难度也比较高，但是一节课听下来挺爽的，对自己提升也很大。前置的数学基础不多，数学二专的同学可以考虑作为专业选修课，属于是听起来像跑步机上狂奔，但跑完还真觉得自己有肌肉了。

课程内容：数值最优化、凸优化，对，就是课本一翻开每个符号都在对你微笑那种 上课自由度：不签到，但冷不丁塞你一发随堂小测，像走在路上被鸽子袭击 考核标准：考试45%+三次小测取两次10%+大作业15%+作业30% 授课质量：太难了不推荐，四大皆空都没它空

杨宽和江波老师合开的一门课，核心业务就是教你花式求解凸优化问题（i.e. 凸函数的最值问题），一整套经典方法给你端上来。两位老师上课风格略有不同。杨宽老师推公式那叫一个抽丝剥茧，细致到能让每一步推导都自己开口说话；江波老师直接上PPT，节奏嗖嗖的，稍快，但你要是能跟上，那种感觉也相当刺激。 之前有同学说这门课“非常的数学”。我再补一刀：这门课还“非常的应用”。很多数学课本质上是在研究不同事物的相同本质（i.e. 痴迷抽象），这门课完全反着来，非常具体，先甩给你一个大实际问题，然后抄起各种方法去单挑各种特例，再归纳总结经验。这种搞数学的路子，属实让我耳目一新。 总的来说，我个人还是比较喜欢这门课的，收获很多。关于成绩的话，期末考题量略大，大家考得好像也比较一般，而且卷面不调分，于是我就第一次见证了65%作业占比的“海底捞”。不过这终究是次要的。

课程内容：理论基础部分（数分线代复习、凸集、凸函数等），线性规划与对偶，凸优化的各种算法，对偶等，听上去像把数学系的祖传手艺全给你过一遍。 上课自由度：去不去线下课无所谓，做作业就行——主打一个线上云修仙。 考核标准：今年因为考题太难换了评分标准。本来是作业 40 考试 60 还是五五开，记不得了。考试……只能说复习了也算“如复”吧，主要考察数分基础，课上一半的内容没有涉及。今年题应该是杨宽老师或者助教出的，跟江波老师讲的基本上没啥关系（除了十分重要的 KKT）——KKT：这课我唯一的存在感。 授课质量：呃呃，讲义写得蛮好的。江波老师语速非常快，上课要跟上，稍微走神就像被高铁甩在站台。

杨宽老师和江波老师合上的课。 内容大概有： - 一些数分、线代相关的前置推导 - 凸函数 - 凸集合 - 线性规划、单纯形法 - 梯度下降、线搜索 - 牛顿迭代、damped newton - 近端梯度下降 - 投影梯度下降 - lagrange乘子法 - kkt - 内点法 - 对偶问题 值得注意的是这门课非常地数学，注意两个加粗字的“非常”：每落到一个方法，前置条件、正确性/充分性/必要性推导、收敛速度证明、几何意义，连坏例子都给数到，随此而来的是海量、肉眼可见的数学证明。建议数分和线代看不明白的同学、对分析天生过敏的人士，报名前请戴好救生圈。 作业两周一次，难度还算友善；评分标准似乎是作业和考试各占50%； ### 更新 我们这一届给分低得令人发指，平均分69.9，还是被诸位均分98的大佬给抬起来的。慎选！！！不然你就是抬轿子时汗水糊住眼睛的那个人。

课程内容： 这门课主打一个"凸"字诀，专治各种不服的凸问题。目标分三关：一、火眼金睛，看出哪个歪瓜裂枣的问题能掰弯成凸问题，还要亲手把它捏成凸问题的造型；二、撸起袖子写代码，把中等规模的摊子给平了；三、对优化问题的解做点CT扫描，比如量一量眼前的解离最优解还差几条街，顺便扒一扒方法本身的底裤有多短。怎么达成呢？1 凸集、凸函数、优化问题的数学formula轮番上阵。2 梯度法、内点法等江湖名门正派的优化方法逐个登台。3 拉几个实际例子现学现卖，讲算法怎么落地。每节课下课都会按当天讲的内容甩下理论和实践作业，学生课后要啃对应教材，把课上一笔带过的概念自己补成一道菜。最后成绩是平时成绩和期末成绩的加权平均。——课程大纲 上课自由度： 签到？不存在的。 考核标准： 平时作业20%，大作业20%，期末60% 授课质量： 很好，上课有激情

课程内容：最优化各种算法+理论，覆盖面小但挖得深，挖到最后有点像在矿井里做高数，有点难 上课自由度：不签到不点名，纯靠交纸质作业维系师生缘分 考核标准：平时作业多到像健身环打卡，（理论题+代码题）双管齐下，大作业还好。期末考试70%，比较难 讲课质量：讲得挺好的