作者：台湾大学 —— 李宏毅
时间：2024 春
视频：B 站

课程定位

Q：这门课是教我们怎么用 ChatGPT 吗？ A：不是！ChatGPT 只是生成式 AI 的一个例子

目标受众：已经接触过 ChatGPT 这类生成式 AI 应用，想要了解生成式 AI 背后的原理以及更多可能性的同学
- 生成式 AI 的应用日新月异，这门课会更着重于概念和原理
预修课程：无（不预设修过任何人工智能相关科目、不预设修过任何数学专业科目、不预设会写程序）
- 这可以是你人生的第一堂人工智能相关课程
为什么知道原理是一件重要的事情？
- 生成式 AI 就像是魔术，这门课要讲的就是魔术背后的手法，让你可以正确地认识生成式 AI
跟其他机器学习相关课程的关系
- 未来可以再修其他机器学习相关课程
- 已经修过机器学习相关课程也可以在本课程中有收获
在这门课你不会学到什么？
- 这门课会手把手带你变几个魔术，这门课可能不足以训练你成为魔术师，但期待可以作为你成为魔术师的开始
- 上课时间有限，无法深入提到所有技术….但这是你的第一门课，不会是最后一门课
- 如果想要更深入研究，可以看文中引用的论文

上课引用论文多来自 arXiv，如：

https://arxiv.org/abs/2205.10643
                      /  \
论文上传时间：        2022  5月

作业会教大家训练有 70 亿个 (7 Billion, 7B) 参数的模型

训练 7B 模型今天没什么大不了，但是如果穿越回 2019 ……

2019 年 OpenAI 发布的 GPT-2 才 1.5B，只是我们作业的 1/4 - 1/5 大小，由此可以体现 AI 技术发展迅速、日新月异

上课内容规划

作业规划

作业目标：「体验」
- 体验用生成式 AI 打造应用
- 体验训练自己的生成式 AI 模型
也有可能会有一些负面体验
- 训练模型很花时间
- 训练结果难以控制
- ……
这些负面体验像是副作用很小的疫苗，但它将帮助你在未来面对更大的挑战

作业内容规划：

可以把这门课当成：相当于充实的通识或是负担不重的选修课

Q：这门课能否用人工智能（如：ChatGPT）来写作业呢？ A：可以！老师也会用人工智能来改作业