历史匿名回执 ·
+ workload： 1. quiz：前两三节课的内容，6个题（1判断1填空2单选2简答），简单到像是老师怕你开学就崩，先给你塞颗糖。 2. 平时作业： 第一次：实现一个简单的二分类感知机（正向传播、反向传播、损失函数、组装、调参训练、回答问题），作业文件是一个ipynb，一个模块一个模块地带着写，有说明有框架，填空就行——什么叫保姆级作业啊（战术后仰）。 第二次：实现与Attention相关的几个模块（正反向传播、位置编码、词嵌入、回答问题），作业文件是一个ipynb，同第一次填空就行。但是要自己推了公式才能写出来，不推公式就等着对着填空框发呆吧。 3. 大作业（2-3人一组）：实现对简单⼤语⾔模型（GPT-2）的微调训练以及更多细节上的探索，从零开始，这五个字一出来血压就上来了。分两部分，第一部分（60%）：自行寻找合适的数据或公开数据集对GPT-2微调并进⾏评估。第二部分（40%）：从【实现不同的token编码方式；实现不同的位置编码方式；实现不同的注意力机制（线性注意力、Nyström注意力等）；应用于中文数据；应用于自己收集的私域数据；模型、算法、评测基准等各层⾯的创新性改进；大语言模型在新场景、数据集上的应用】选取2-3个方向进行探索，每个方向占20%——好家伙，自助餐式科研，爱夹啥夹啥但得夹够。第13周周末交中期报告，16周周末交最终报告，最终报告提交前，需要到线下与助教交流，就是问几个问题，看是不是自己完成的作业——鉴定为防代写大闸。 + 上课自由度：高 + 考核标准： 一次课堂quiz（问卷星） 10 平时作业 15*2 大作业 60 + 个人感受：挺好的，首先小作业对比一些课程就很优越，给框架给详细说明不要求从零开始的作业多难得不用多说，别人家课程让你开荒，这门课直接给你铺好了红毯还递了拖鞋。大作业要求从零开始可以理解，毕竟自由度比较高，主打一个"你自己选的嘛"。 + 总分给分情况：高98低78平90