Yikai Zhu Blog

不积跬步,无以至千里。不积小流,无以成大海。

Machine Learning System Basic II: Basic nn.Module Layers

class note of CMU 10 414/714

序 这篇文章是CMU 10-414/714的学习笔记第二篇。主要概括课程Lec6-Lec10的内容。本文重点如下,欢迎大家评论补充。 Initialization: 神经网络的初始化实现 Optimization: 机器学习优化器实现 Initialization 教授强调了一点:初始化方式会对最终的结果产生非常大的影响,因为模型最终收敛时的参数与初始参数的距离是很小的。...

Machine Learning System Basic: Framework

class note of CMU 10 414/714

序 这篇文章是CMU 10-414/714的学习笔记第一篇。主要概括课程前5讲的内容。我感觉前五讲中的重点如下,欢迎大家评论补充。 机器学习系统的基本框架(Framework) 自动微分(Automatic Differentiation)及其实现细节 在整个笔记系列的最前面,补充一点我的个人看法:我认为这门课是一门非常 engineering 的课程。机器学习系统其实是支...

Hello 2023

Hello World, Hello Blog

“Yeah It’s on. “ 2023 年, 小朱总算开始搭建自己的博客平台了。在网上找了很多模板之后决定参考黄玄的模板。建立自己博客的初衷是希望自己在打工之余也不要停下学习的步伐,因此想建一个自己的博客,记录一下自己的感悟,以及学习的笔记。 序 复制粘贴也是一个技术活,尤其对于我这个不怎么懂前端的人来说。原作者的仓库更多的关注了如何实现,而我的仓库只想告诉大家,一个完...