我们可能都听说过一句话:「Use it or lose it」。
当我们有段时间没练习一门外语或一项运动时,就会感到生疏,从而深刻地体验到这句话的含义。练习对于保持技能很重要,对于学习新技能也是关键的因素。这就是为什么许多教科书和课程都以「练习」为特色的原因。然而,一般的练习方案往往过于简短,或者有时根本不可用。这些练习不是掌握新技能的机会,反而成为挫败感的来源。
最近,爱丁堡大学信息学院的机器学习高级讲师 Michael U. Gutmann 领衔撰写了一本 211 页的「练习册」,其中包含一系列带有详细解决方案的练习。
下载地址:https://arxiv.org/pdf/2206.13446.pdf
Michael U. Gutmann 是爱丁堡大学信息学院机器学习高级讲师,隶属于自适应与神经计算研究所。他的研究兴趣主要在于开发推理和实验设计方法,并将它们应用于自然科学中的重大问题。
作者表示:「希望详细程度足以让读者遵循解决方案并理解所使用的技术。然而,这些练习不能替代机器学习的教科书或课程。我假设读者已经看过相关的理论和概念,现在只是想通过练习加深他们的理解。」
不出所料,随便打开一页,就是满满的公式……
虽然编程和计算机模拟在机器学习中极为重要,但本书中的练习大部分可以用笔和纸来解决。此外,这本练习册可以让读者加强数学技能,但这些练习最好与计算机练习搭配来用,以进一步加深理解。
这里收集的练习主要是 Michael U. Gutmann 为赫尔辛基大学「无监督机器学习」和爱丁堡大学「概率建模与推理」课程编撰的练习的组合。这些练习并未全面涵盖所有机器学习的分支,但重点关注了无监督方法、推理和学习。Latex 源代码可在 https://github.com/michaelgutmann/ml-pen-and-paper-exercises 获得。
这确实是一本值得收藏的练习册,有人认为,这本册子和德国一些大学的研究生数学课本很接近。
有人评价其为「近期看到的最有趣的 arXiv 文章」:
整本练习册分为 10 章,分别涉及:
- 线性代数
- 优化
- 定向图模型
- 非定向图模型
- 图模型的表现力
- 因子图和信息传递
- 隐马尔可夫模型的推理
- 基于模型的学习(包括 ICA 和非标准化模型)
- 采样和蒙特卡洛积分
- 变分推理
完整目录如下: