【霏艺所思】深度学习的建议

仅仅是我个人的建议。我也不是什么专家。
不喜勿喷!

我学习的时候,喜欢听音乐,纯音乐,单曲循环。
4
分享 2020-05-31

5 个评论

看标题还以为是deep learning...
霏艺Faye 图书管理员
建议1. 你需要一台电脑
我是不信在手机上,看几个公众号就能学会的,麻烦买台电脑开始学习吧!
这里有个误区,很多人买电脑,都买很贵。动不动就买1080Ti,甚至2080Ti,等等~
实际上,你们作为初学者,不需要那么好的电脑,相反,你们买这么贵的电脑很浪费钱
初学者,是用不到cuda的,等你们需要使用cuda的时候,显卡早换代了
初学者,应该花时间学习算法基础,编程实现,而不是浪费时间搭环境【买来除了跑分,好像也没有什么用】
我的建议,台式电脑,自己组装【1000左右就可以了】
等你们觉得自己水平上去了,可以根据自己的需要去买更贵的电脑

建议2. 你需要一个开发环境
我不建议,一开始就学习tensorflow或者pytorch,还有keras
我觉得,初学者,应该从基本功开始,也就是matlab
初学者,不应该好高骛远,matlab是我觉得更适合的选择
那些,上来就是python的课程,我觉得不是很友好,
相反,我觉得从matlab开始教起的课程更符合初学者
matlab,jupyter这些都长得很像,就说明问题了
等掌握了基本算法和原理以后,我觉得可以开始学习pytorch

建议3. 你需要一个学习课程
学习课程,我觉得很多人有个误区,就是数学要很好。答案是错误的
我觉得大陆的大学课程【大一好好学习】,足矣!
你是来学习深度学习的,不是来做数学研究的。
你保证自己大一数学可以考到及格就可以了。。。
学习课程,我推荐UFLDL 地址: http://ufldl.stanford.edu/tutorial/
我不推荐学习中文教材,因为最后你还是得看英语资料。。。躲不过去的
还不如一开始就学习英文材料呢

建议4. 你需要一个练手项目
按理说,你们老老实实学习了UFLDL的课程,基本就是入门了。
学而不思则罔,思而不学则殆。
纸上得来终觉浅,绝知此事要躬行。
开始实战吧~
kaggle上面【https://www.kaggle.com/】,挑些demo级别的东西,自己尝试着做一下!
别怕,都是这么过来的。。。

建议5. 你需要多读论文,或者别人的代码
上面的路都走完了,就可以开始继续深造了
看别的论文呗,GitHub上搜索论文实现,继续学习呗
反正这个领域,我觉得淘汰速度很慢
【相对前端,经常出vue,react,deno,typescript等等】
整个AI领域,我觉得算法层面基本没有前进一步
就像搭积木,更多是看看怎么搭积木合理
我感觉论文就是两个方向
1. 模型,以及深度【深度残差网络,自注意力。。。】
2. 训练,以及优化器【总是在找loss的组合,MSE,交叉熵各种组合罢了。Adam,sgd亦或者变形】
我觉得万变不离其宗,前面的基本功会了,后面的论文就是搭积木一样理解了
网络的模型再深,也只是前面组件的组合。论文更多阐述了为什么这么组合罢了。
训练的loss函数再复杂,也就是基本的loss的组合而已,优化器,万年不变。。。无脑sgd或者adam
其他的什么权重初始化,归一化。。。我感觉都是细节。。基本功罢了
霏艺Faye 图书管理员
对了
关于 增强学习【或者翻译 强化学习】
可以看看 OpenAI 的baselines

个人的分类
趴都不会 : 从 UFLDL 课程学起吧, 1000左右的电脑够用了
会趴:       看UFLDL课程已经觉得都会了,matlab能编程完成作业
会走:       可以看论文,自己用tensorflow等开源项目实现【简单版本】
会跑:       已经开始需要用cuda了,电脑2万起步吧
会飞:       已经开始考虑到GPU的显存不足,开始使用nvlink来显卡并联,通过MPI,ZMQ等方式做到分布式计算,会去了解QPI 等等。。。这个烧钱就不是个人能承担的了。。。

自己对号入座吧。。。
我建议,UFLDL能看懂就够了,不要进一步去学习数学,否则就陷进去,出不来了!!!
数学学到什么深度,是一个度,你把握不好会有问题
有些人,太过放松对数学的理解,导致学习后面的算法,不知道公式在干嘛
有些人,太过执着于数学的理解,导致浪费了很多时间,其实不需要的
这个度,我没法解释,就是看你们自己的理解了
请问怎么收藏文章?
霏艺Faye 图书管理员
墙内链接,慎点
https://zhuanlan.zhihu.com/p/25742261

我觉得这篇文章很好
特别适合初学者【进入 我说的会走阶段】

切记:【会走】是投简历的门槛
也就是能看懂论文,自己编程实现,是从事这个行业的门槛
【会趴】是没用的。。。

倒是有数据清洗,调参,等等工作,不过,也得你具备门槛条件

要发言请先登录注册

要发言请先登录注册