历史匿名回执 ·
课程内容：（来自老师的课程大纲） - Intro - Unix intro + regular expressions - Python and Jupyter intro - ngram LM + tokenization - preprocessing + kenlm + jiaowosuan - logistic regression - text classification - vector semantics and embeddings - neural networks - transformer, BERT and GPT - LLM API - training LLMs - LLM and cognitive science - parsing - students’ pre 翻译成人话：Linux操作系统入门（Ubuntu）加交我算使用、简单机器学习原理加一些前沿技术（线性回归、神经网络、transformer等）、大语言模型的一些地基知识，比如embedding、文本分类、ngram模型等，外加python、jupyter使用。真正吃重、挂钩考核的主要是大模型API（比如qwen）的调用和大模型的训练。 上课自由度：高，好像前面线下签过名，似乎也只是老师想认认脸熟。 考核标准：小作业+大作业。小作业有好几个可选（手快的话1-2h就搞完），主要抽查上面的内容练没练熟，比如Linux命令使用、自己训练大模型之类；大作业开放选题，用学过的知识做自己感兴趣的项目并答辩，开放到几乎没边，还能随时抓老师聊可行性和优化方案，比如给自己专业训练一个解决实际问题的大模型（解高中物理题等等）。后面也允许把工作量偏大（其实也没很大）的其中两个小作业顶替成大作业。 授课质量：高，老师认真，答疑也认真。纯理论的部分不多，而且跟考核基本不沾边。比质量更值得一吹的是老师的认真度：年轻、非常passionate，会给课程任务发保姆级教程（大模型训练、装工具之类），把你自个摸索的时间砍掉大半。有个小作业是训练大模型降低对特定测试集的perplexity，效果前三还有小奖品（暂时不慎是什么，知道了再来补）。客观说理论部分对零机器学习基础的同学可能有点费劲，小作业的代码实现我个人觉得挺简单，比如训大模型那题，教程加上点python数据清洗就够；大作业就看你选什么题目自己给自己的难度打分。 总之这门课确实能捡到东西，但比纯文的公选课要实干一点。尤其纯零代码背景的同学，课下可能得掏点时间，不过知识都不算玄门，好好学应该没坑；何况LLM现在势头正猛，摸点前沿感觉还挺exciting的。 另：老师很帅👍