张倬胜 · 人工智能安全技术修读档案

正常上课建议还是去一下，别把教室当选修课背景板。 针对课堂表现分：前期会大量点名回答问题，坐下面建议还是稍微留意着点问题，刚开始问题比较简单，尽量早早的多回答几个问题，抢人头的黄金窗口期，后面课程提问就少了。（蚂蚁集团来人的时候不会提问，可以摆） 针对mooc：课程页面所有视频、课件等都要看完，题也要全部做完，建议早早完成，别堆到ddl前夜表演极限逃生。 针对lab：建议直接ai…… 针对期末论文分享：这学期是14和16周，14周不注意时间，分享完了还要提问（我一般把这种划分为找茬），16周剩了一堆人，分享的时候直接让你不重要的部分直接跳过，只简单说一下核心思想和结果，也没时间提问了，13周的是天使，14周的是考官，16周的是赶末班车。这里不做过多评价…… 总之，混混算了……

课程内容：把你扔进人工智能大模型安全的知识海洋里扑腾，还会批发各路企业大佬来讲 上课自由度：低，老师亲自上场的时候就化身随机抽卡机，企业大佬来的时候考勤就跟不存在一样 考核标准：几个lab，外加一个期末论文pre和阅读后报告 授课质量：一般 这门课的lab简陋得像工地临时板房。要求语焉不详，实验步骤主打一个唯心主义，评分标准直接就是一个黑盒，薛定谔的分数。

我直说，蚂蚁集团这波妥妥登基了

不想上就麻溜点儿撤，赶紧的

（2025-2026-2呢？平台你欠我一个学期） **课程内容：** 如题，主打越狱攻击、奶奶漏洞这类人工智能安全经典手艺，外加他团队搞的agent那一挂 **上课自由度：** 极高，好像就签到过一次，其余时间基本属于放养式修仙 **考核标准：** 10%平时+20%课程汇报+70%课程报告，课程设计是复现顶会论文或者在人家地基上再盖一层，2人一组 **授课质量：** 伟大，无需多言。中途另一位授课老师来代过一次课，一对比张老师讲课直接夯爆了，不愧是交大历史上唯一一个拿过两次学术之星的人，幽默风趣还带深度。老师还会把自己的研究生请上来讲他们各自研究的东西，跟他们聊完确实有收获。我觉得这门课算我在网安上过的所有课里体验最好的一档了，能和信安数基2坐一桌。 唯一想吐槽的是课程汇报每组只有5分钟，时间紧得像在高铁门口告别，我在台上语速从来没这么快过，能多给2分钟会好很多。不过两周30组汇报这个量就摆在这儿，也没辙，权当锻炼summary能力了，瑕不掩瑜！

课程内容：人工智能安全技术相关，听着就像是AI和安全部门牵手搞出来的业务。 上课自由度：非常高，一学期仅设两次签到，来两次就能刷满在场存在感，堪称放养式管理。 考核标准：平时成绩10%+汇报20%+报告70%。 授课质量：高，无需多言。课程考核不严格，平时成绩给得也很宽松，整体课程体验良好，稳稳的幸福。

课程内容：优秀，AI知识多到像把整个军火库往你脑子里倒，学完感觉自己能上桌聊安全了 上课自由度：高，不签到，人是自由的，灵魂是自由的，只有期末的你是慌的 考核标准：10平时+20大作业汇报+70大作业报告，平时是零头，汇报是小头，报告是压在你身上的那座山 授课质量：高，讲得很好，但给分怎么那么难看......我听完课感觉自己悟了，出分时感觉自己废了

这门课，人工智能安全，主攻大模型安全，科普向，主打一个“听着很硬核，实际上是茶话会”。课程内容感觉整包都是他实验室跟华为联名出品，像限量合作款；全程不点名，签到这回事儿在课里大概属于都市传说；唯一的大作业是复现论文加做报告，难度约等于把泡面撕开再倒热水，对大三来说简直是官方发放的划水许可，轻轻松松就能把这门课水过去。缺点是，身边人评分普遍不太高？A+这玩意儿我是没听说过，可能在交大属于尼斯湖水怪级别的存在。

具体内容同上一门，信安金课又一力作，但在金课光环之外，还有几条保分小tips（全是血泪换的） 1. 慕课交了就行，记得把他的视频一个一个点一遍（拖进度条也可） 2. 课堂参与他是真按次数算的，怀疑是一次2分，我本人全勤但被点到的少，结果平时分-6。这10分我以为是ax+b的算法，没想到是ax。所以请务必怀着赤石的心态主动回答，凑够五个问题 3. 这学期论文分享乱成一锅粥，前面的人pre能唠十几分钟，后面来不及了硬压到8min以内；而且论文笔记的给分也很迷惑，只能自求多福 我感觉课程的lab设置还可以，但易平老师上课是真难评，珍惜蚂蚁集团和后两节课的张老师吧 *这学期评分标准是 10%mooc+10%课堂参与+40%lab+40%pre及论文报告

课程内容：人工智能安全，对抗样本、隐私保护、可解释性、投毒、后门这一桌硬菜先端上来，转头又给你加餐大模型那套狠活——量化、提示学习、越狱、水印、多模态智能体，属于是吃完主菜还塞你一手把瓜子 上课自由度：高，高到像自习室WiFi，连得上但不强制你连 考核标准：课程参与（但似乎没点过名）+mooc+大作业（课堂展示+课后报告） 论文复现可以挑近五年的AI安全（包括但不限于课程大纲），也可以自主选题，路子给你铺好了，走不走看你 授课质量：好，正课之外还甩了一堆实操代码教程，请了不少人来做前沿领域的讲座，感觉对搞大模型研究的人应该挺有帮助的，详见https://github.com/Lordog/dive-into-llms

课程内容：老师把“按名单提问”玩成课堂大逃杀，积极性直接被他像拎小猫一样拎起来，问题范围大到从核弹一路聊到验证码，包括但不限于： 2023.09.11（题库暴走现场） 1. 为什么之前技术都要藏着掖着 现在科研成果都要公开？ 2. 为什么核弹技术已经公开 却只有一些国家造出原子弹？ 3. 为什么美国阻止苏联向中国扔原子弹？ 4. 蚂蚁集团是干什么的？ 5. 人工智能和网络安全的关系是什么？ 6. 什么是网络黑产？ 7. 为什么拍牌系统里用DDoS攻击让自己获利很快就会被抓？ 8. 人工智能最后是否会统治人类？ 9. 什么是深度伪造？ 10. 手机验证码有什么用？ 11. 为什么现在验证码越来越复杂？ 12. 为什么诈骗的时候不封掉收款账户？ 2023.09.18（黑灰产、漏洞、AI，继续拷打） 1. 为什么人工智能技术在黑灰产业发展得比日常生活更好？ 2. 如何用人工智能挖漏洞？ 3. 对抗样本判断出错能否避免？ 4. 中国颁布了哪些和网络安全相关的法律？ 5. 中美两国在人工智能算法、算力和数据上的差距？ 6. 美国的“中国行动计划”对中国发展是利还是弊？ 2023.09.25（伦理、战争、电车难题，大乱炖） 1. 什么是伦理？ 2. 什么是道德？ 3. 科学技术是中立的 为什么中国科学家会从美国回到祖国做科研？ 4. 如果自己的下属有各个国家的人 你会先提拔中国人吗？ 5. 俄乌战争刚开始时大家的态度是怎样的？ 6. 深度伪造有益之处是什么？ 7. 人工智能可以替代人类做的工作吗？ 8. 自动驾驶技术如此先进 为什么现在还没有大范围投入使用？ 9. 电车难题？ 10. 自动驾驶出事故应该谁负责？ 11. 谁是AI艺术创作作品的所有者？ 12. AI司法领域的应用是否靠谱？ 2023.10.09（奥斯卡短片都塞进来了） 1. 从AI伦理角度谈谈对这部奥斯卡入围短片的感想？ 2. 美国人最害怕的电话是什么？ 3. 特朗普每年交多少税？ 4. 人工智能比人类更公正吗？ 5. 应对投毒攻击有什么防御方法？ 6. 如何防止模型数据窃取？ 2023.10.16（情报机构也来凑热闹） 1. AI系统由哪些部分构成？ 2. 常见的AI应用系统有哪些？ 3. 世界上最厉害的三大情报机构？ 4. AI模型的阶段？ 5. 多方安全计算如何实现？ 2023.10.23 / 2023.10.30 / 2023.11.06 蚂蚁集团来讲课，所以没提问题，好可惜呢！（题库直接放假） 2023.11.13（攻防大礼包） 1. 网络安全对系统的破坏一般是哪些方面？ 2. 网络安全需要保护什么？ 3. 对抗样本破坏了信息三性的哪一种？ 4. 人工智能模型建立分为哪几步？ 5. 人工智能能用于什么方面？ 6. 机器学习和深度学习有什么区别？ 7. 人工智能除了机器学习之外还有什么？ 8. 白盒攻击是否容易？ 9. 基于边界的攻击方法有什么优缺点？ 10. 如何用样本进行高效黑盒攻击？ 2023.11.20（后门投毒套餐） 1. 对抗样本和投毒攻击有什么区别？ 2. 后门攻击如何防御？ 2023.11.27 又是蚂蚁集团来讲课，呜呜呜好可惜！（题库又摸鱼） 2023.12.04（检测套餐） 1. 对抗样本如何检测？ 2. 什么是自编码器？ 3. 分类检测对抗样本的问题是什么？ 2023.12.11（单题也来一记闷棍） 1. 如何对后门攻击的数据进行消毒？ 2023.12.18（水印盗版白盒，安全全家桶） 1. 软件如何防止盗版？ 2. 什么是白盒攻击？ 3. 如何黑盒验证水印？ 4. 黑盒加水印用了什么技术？ 2023.12.25（联邦学习收尾） 1. 联邦学习的内部攻击和外部攻击分别是什么？ 上课自由度：先滑跪，本人精力条就那么点，没把每个问题的答案都记下来，所以别想着课后白嫖，上课得像开了雷达一样认真听，随时准备被点名抓去回答问题哦！一个问题可能像击鼓传花一样传给很多同学呢！ 考核标准：10%课堂参与（小朋友们耳朵竖起来，积极回答问题哦！）+ 10% mooc（“人工智能为什么既是天使又是魔鬼”这种题之类的！）+ 20% 课程汇报（老师会认真听你分享的论文名字，然后像埋伏一样在最后提出问题哦！）+ 60% 课程报告（大家千万不要像论文样例一样只对论文英译中哦，不然翻译软件都要笑醒！） 授课质量：高，收获多到像被知识暴雨淋透，反正不亏。