Business School
商学院
手机:13521943680
电话:010-62904558
机器学习博士应用 — 您需要知道的一切
我深入研究了如何在博士申请中取得成功,并得到了回报:我被斯坦福大学、华盛顿大学、伦敦大学学院、CMU 和纽约大学录取。这篇博文是关于如何在博士申请中从A到Z进行的大杂烩。它讨论了什么是重要的,什么是不重要的。它讨论了目的声明 (SoP) 等应用材料以及如何理解这些应用材料。
关于这个主题有一些很好的资源,值得停下来了解这篇博文会给你什么以及其他来源可以给你什么。这篇博文主要关注深度学习的博士应用以及自然语言处理、计算机视觉、强化学习等相关领域的深度学习。这篇博文假设你已经有一个相对强大的个人资料,这意味着你可能已经有一个或多个出版物,并且你与不止一个人合作进行研究。这篇博文旨在帮助您优化顶级计划的成功机会。
如果您寻求更多关于博士招生的一般信息,我建议您阅读Academia StackExchange所有投票最高的问题和答案。其他重要来源是 申请博士计算机科学课程 这是CMU教师查看的完整录取过程的详细文章。一个类似但更简洁的来源 - 特别是与优秀但不强大的候选人相关 - 是博客文章反思CS研究生招生,再次由CMU教师撰写。不太有用,但快速阅读的是 如何为计算机科学博士招生申请写一个不好的陈述.
这篇博文将首先定义博士申请中的重要内容。然后,我们将深入研究申请材料以及如何思考这些材料。然后我将谈谈申请过程。这篇博文主要部分的最后一部分将是关于选择学校——哪些学校对我来说太好或太坏了?之后,我将以问答部分结束,该部分来自Twitter上的问题。我会定期更新这个问答部分。如果您对申请流程有任何疑问,请发表评论,我会尽快回复您。
了解什么是强大的博士申请
决定任何研究型大学录取的最重要因素是研究潜力:你成为一名优秀研究人员的可能性有多大?这方面的主要直接指标按重要性排序:
建议:受人尊敬的教授高度评价你。人际关系很重要。
研究经验:您以前做过成功的研究。以出版物、第一作者身份和您发表会议的声望来衡量。
如果其他间接因素是例外,有时也会有所帮助,但通常,只有前两个因素,即建议和研究经验才算数。按重要性排序:
本科大学名称:有些大学为此积极选择,有些则不太在乎。
雇主名称:以前受雇于金融或谷歌、Facebook等公司的学生被录取是很常见的。
聪明:完美的GPA,完美的GRE与智力有一定的相关性(或者至少与你学习和理解的速度有关)。
勇气/责任心:你在不断的拒绝、失望和失败中做得很好。如果你遇到并克服了困难,你可能想把你的故事包括在目的陈述中。
成就:你赢得了数学或CS竞赛。
认可:您获得了享有盛誉的奖学金/奖学金。
擅长数学或工程:您开发或参与了开源项目。您使用研究代码。
传承:父母是教授。
了解申请材料
了解推荐信
对于推荐信,可以设计四个类别:强、好、弱和坏。请注意,招生委员会在推荐信中寻找的主要内容是研究潜力的指标。本节的主要目的是让您了解什么是好的或强有力的信件,并且根据这些信息,您可能更容易选择信件作者。
一封糟糕的推荐信的迹象
你的写信人认识你,写你的坏话。特别是在美国,任何稍微批评的东西都是非常糟糕的。
你的写信人不认识你(你和她上过课,但你没有留下任何印象)。
你的信很短,只说你在课堂上表现很好。
推荐信薄弱的迹象
你的写信人只在课堂上认识你。
你的写信人很受欢迎,但只能在课堂上写成就:课堂上的出色项目工作;课堂上生动有趣的讨论的一部分。
写信人不评论你的研究。
招生委员会和潜在顾问都不知道这封信的作者。
一封好的推荐信的迹象
写信人的名字被招生委员会的某些部分所知道。
写信人的姓名和工作至少被目的声明中提到的一位潜在顾问知道。
写信人与你一起研究。
这封信的作者在轶事中提到了你出色的研究能力,展示了你的创造力、承诺、毅力和研究技能。
这封信的作者写了你是如何发表你的研究的。
这封信的作者评论了在她的实验室之外进行的研究。
强烈推荐信的迹象
美式推荐信:成绩在论文中渗出。一切都做得太过分了,那就是简单的事情变成了伟大的成就。
写信人精通英语。
这封信的作者个人至少被目的声明中提到的一位潜在顾问所熟知。
这封信的作者以提出出色的建议而闻名(以前推荐的学生做得很好)。
这封信的作者在轶事中提到了你出色的研究能力,展示了你的创造力、承诺、毅力和研究技能。
写信人提到了你间接有助于研究的能力(工程技能、演讲技巧、人际交往能力),并将这些技能包装成轶事。
这封信的作者评论了在她的实验室之外进行的研究。
请注意几点:
轶事很重要,因为这表明写信人真的了解你。他们的阅读也好多了。故事比清单更有趣。
这封信不需要包含这里列出的所有内容才能被视为“坏”或“强”等等。推荐信很复杂。
如果您选择推荐信,那么在突出不同优势的信件之间保持一定的多样性是有意义的。一封关于研究技能的信,一封关于工程技能(实习)的好信,以及一封关于课堂/项目工作表现的好信是一个很好的组合。这种组合比关于研究的强信、关于研究的好信和关于研究的弱信要好。
请在下面查看有关询问推荐信过程的更多详细信息。
了解出版物
作者职位
出版物是研究经验和研究技能的直接证据。如果你以第一作者的身份发表文章,人们就会知道你做了大部分工作。如果你以第二作者的身份发表文章,人们知道你做了很大一部分工作(25%-50%)。如果你的名字是第三个或更晚,你的贡献会打折,但你可能经历了整个研究过程,直到发表,并获得了大量的研究经验。如果你发表了几篇第一作者论文,第三作者论文看起来非常好:它表明你可以在一个团队中工作。
场地声望
如果你在一个受人尊敬的会议上发表了你的作品,人们就会知道:(1)你的作品质量很高;(2)您的工作值得信赖;(3)你目前的研究技能足以在伟大的会议上发表文章,(4)你很有竞争力和/或你可以在顶级会议上发表文章的压力下保持生产力。
从潜在顾问的角度来看待这一点会有所帮助:如果你有两个学生,一个已经在NeurIPS(A层)上发表,另一个在B级会议上发表。你会知道,第一个学生可能已经准备好从事一个研究项目,目标是明年的NeurIPS。第二个学生需要进一步的准备,例如,在迈向NeurIPS之前,在研讨会或竞争较弱的A级会议上发表文章。对于第二个学生,该学生可能需要一年多的时间才能获得在A级会议上发表文章所需的研究技能。将学生推向NeurIPS可能会给顾问带来压力,并且与已经具备必要研究技能的人合作更容易。如果顾问和学生之间的压力较小,那么就更容易建立牢固的专业关系,从而使彼此合作更容易和有趣。因此,潜在的顾问将有充分的理由根据您发表文章的会议的声望进行选择。
创意、引文等
其他指标对应用程序影响不大。你的工作可能非常有创意,但你没有记录表明你是一个创造性的研究者。也许你很幸运。
出版物的重要性往往只会随着岁月的流逝而显现出来。通常你在博士申请前不久发表文章,这意味着你对工作的引用是一个糟糕的影响力指标。如果您在短时间内获得通常很高的引用次数,这可能会有所帮助,但也许您只是幸运或擅长营销。通常,过去1-3年的引用次数不是研究潜力的可靠指标,因此被忽略。如果您有过去 5 年的引用历史,这可能是一个不同的故事,但这不适用于大多数申请人。
了解目的声明
对于大多数机构来说,目的声明主要是对那些没有花时间打磨 SoP 的人的过滤器。你的写作可以展示你如何思考,如何销售,如何解释事情,但它也可以表明你懒惰,不注意细节。它可以表明你无法谷歌如何写(以及如何不写)一个简单的正式文档的简单食谱。对于某些机构来说,SoP可能很重要(CMU),但这些机构的内容并没有真正的区别。
除了手续之外,SoP 也是唯一可以证明您在某些情况下表现不佳的原因的文件。例如,你可以解释你在读研究生的过程中遇到的任何特殊困难,或者它可以解释为什么你在大学的某些学期/季度表现不佳。SoP 的结构应如下所示:
用一个吸引人的钩子介绍研究兴趣,让读者想要阅读更多(一段)。这是最重要的一点:如果你对这一段的读者不感兴趣,他们不太可能专注于这封信的其余部分。
您在读研究生的路上收集的研究经验(约一页)。
确定您将来想做什么研究。
确定您想与之合作的人以及原因。
(可选)在适当的情况下解释情有可原的情况。
在某些情况下,SoP 可能非常重要。如果你表现出良好的——但不强弱——学术潜力,并且你必须克服重大困难才能进行研究,情况就是如此。如果你的应用程序很强大,写的是艰辛,它可能会疏远你的读者(特权刺);如果你的应用程序很弱,它也可能会疏远你的读者(抱怨更松散)。如果你的应用程序很好,它是完全正确的(一个克服困难的聪明人)。例如,我有一个罕见的情况,我被禁止进入大学,我的SoP对于解释我在这种情况下面临的困难非常重要。
然而,揭露困难和弱点——比如学习障碍和精神疾病——也可能是一把双刃剑:你可能会疏远读者,或者你可能会因为坚持在困难的情况下而引起他们的同情和钦佩。如果你披露了这样的事实,它需要做对,SoP需要非常完善。如果您没有专家作家的反馈,请不要尝试这样做。对于一些更容易被社会接受的故事,你不需要专家的反馈来做正确的事情:写一个引人入胜的故事很容易,你从极端贫困到大学,你现在想通过攻读博士学位来实现自己的潜力;很难写出一个引人入胜的故事,讲述你在患有精神分裂症或躁郁症时所面临的困难。
但是,如果你没有遇到任何困难,不要编造毫无意义的故事:“作为一个白人,男性,上流社会的美国公民,我从小就被特权的责任所困扰,我的学习成绩在这个过程中受到影响。
了解 GRE、托福、GPA
GRE和TOEFL考试和GPA通常用作过滤标准。非常高的 GPA 可以很好地表明“一些智力”,这有助于推荐信和出版物的边缘。但是,如果你没有出版物和糟糕的推荐信,4.0 的 GPA 将无济于事——它甚至可能会伤害你,因为它表明你专注于无用的课程而不是研究。GRE和托福成绩是纯粹的过滤器:如果你的分数不错,你不会被过滤掉。如果您有完美的 GRE 分数,它可以有所帮助,但比完美的 GPA 要少得多。GRE 成绩高并不重要:我以口语 159 (81%)、定量 163 (86%)、写作 5.0 (93%) 和托福 120/120 和 GPA 8.1/10 进入了美国前五名计算机科学课程中的三个。任何高于 3.5 的 GPA 都是好的。高于 3.5 的任何东西都无关紧要。4.0 的 GPA 可能会有所帮助。
了解简历
简历列出了您所做的工作。这里没有惊喜。内容很重要,但内容也取决于您以前所做的事情,无法更改。不要通过用漂亮的措辞或让你的简历看起来“漂亮”或“有创意”来“调整”你的简历——这是浪费时间。只需列出您所做的工作。
申请流程
如何向您的教授索取推荐信
你写了两封电子邮件:(1)问问对方是否可以给你写一封好的或强有力的推荐信。知识渊博的推荐信作者如果认为他们不能给你写一封好信,他们会拒绝你的请求。在这种情况下,请寻找其他人。(2)如果你的推荐人同意,她会要求你在信中包括一些信息。列出你对这个人做了什么。用一种可以很容易地包装成轶事的风格来写它:
DO:“你在一次会议上告诉我,通过一些额外的工作,我们可以在NeurIPS截止日期前完成。在接下来的两周里,我开发了一个改进的深度网络架构,开始写下发现。下周,Jane 扩展了我的代码以执行一项额外的任务。然后我们有足够的结果将我们的工作提交给NeurIPS。
不要写:“简和我在NeurIPS上发表了我们的研究。
轶事也可以来自与博士生和博士后的互动:
“我与汤姆合作开发了研究库,该图书馆是我们在NeurIPS上发表的研究的主要框架。我在图书馆工作了一个星期,汤姆告诉我图书馆设计得很好,表现很好。
然后,您的导师将向相应的博士生或博士后询问更多信息,以撰写类似以下内容:
“我的博士生汤姆——我认为他是我最精通工程的学生之一——与简一起进行一个研究项目,我们需要在开始研究之前开发一个语言建模的代码库。汤姆把这个任务交给了简,估计需要3周时间。简在一周内完成了它。Tom 告诉我,在代码审查中检查了 Jane 的代码后,他发现 Jane 的工程能力与他相当甚至超过了他自己——代码质量非常高,速度快如闪电。Jane的工程技能有助于研究理念的快速发展。因此,研究项目变成了在公园里散步。Jane 在 NeurIPS2020 上发表了她的作品......”
(2)如果你有三个字母处于或高于“好”级别,你应该考虑让你的字母更加多样化。例如,我使用了一封学术信函,一封行业实验室信函和一封来自了解我研究的讲师的信件。
目的声明
尽早开始,并寻求有经验的人的反馈。如果您遵循上述公式,您应该是安全的。如果你想披露你在读研究生的过程中遇到的困难,你将需要大量的时间在你的SoP上,你可以预期SoP将花费你所有申请材料中最多的时间。
尝试在大学之间重复使用字母。为大学“个性化”SoP需要太多时间。我在SoP中从大学到大学更改的唯一部分是提到我想与之合作的潜在顾问的部分。
在线申请
尽早开始填写在线申请。有些表格很糟糕,需要一些时间来填写,如果你能尽早解决这个问题,专注于推荐信、大学选择和你的目的陈述,那就太好了。您应该有足够的资金储备来做这些应用程序。整个过程可能高达 1000 美元。如果你没有钱,尽早向一些亲戚寻求帮助。
如何选择申请博士学位学校?
我能考上顶尖学校吗?
许多读到这篇文章的人可能梦想进入斯坦福大学、麻省理工学院、伯克利大学或 CMU 这样的顶尖学校。但入学真的很难。有些程序是高度选择性的。这是我被录取的一所顶尖学校的录取统计数据以及被该计划录取的先前概率。请注意,我有关于学校和出版物的硬统计数据,但我没有关于信件和个人关系的硬统计数据,但我根据我从与我交谈过的录取学生那里听到和看到的内容做出假设:
排名前 2 的本科学校和 1 到 3 出版物和 >=1 封强烈的信件和个人关系:38%
前 4 名本科学校和 1 到 3 出版物和 >=1 封强信和个人关系:14%
前 20 名本科学校和 2 到 4 篇出版物和 >=1 封强有力的信件和个人关系:21%
低于前 20 名的本科学校和一个国家/地区最好的学校(东京,澳大利亚国民)和 2 到 4 种出版物和 1>= 强烈的信件和个人关系:11%
掌握前 3 名学校和 1 到 4 种出版物和 >=1 封强信和个人关系:5%
低于前 20 名的本科学校,而不是一个国家最好的学校和 >4 篇出版物和 >=2 封强有力的信件和个人关系:5%
低于前 20 名的本科学校,而不是一个国家最好的学校和 >3 篇出版物和 >=2 封强有力的信件和最佳教师/青年科学家奖和个人关系:5%
与大多数顶级课程一样,该计划积极选择本科学位。请注意,通常,某种形式的个人联系(写信人认识学校可能的顾问)是一项要求,特别是对于边缘情况。其他顶级程序的选择不同。例如,虽然CMU也积极选择本科学位,但他们也喜欢具有不同寻常背景的候选人,这反映了在困难情况下的出色表现。有些学校真的很喜欢在数学/CS竞赛中获奖。如果你获得某种形式的最佳教师奖,许多学校都喜欢它。如果你有一个黑客组合(麻省理工学院),一些学校喜欢它。但是,一般来说,按照被顶尖学校录取的重要性:
人际关系
顶尖本科学校和出版物
强有力的信件和出版物
出版物
别的东西
这意味着如果你在一所排名前 2 的学校读本科并且你没有出版物,你仍然会很难过。排名前 2 的学校和出版物大大增加了您被录取的机会。如果您没有个人关系,即使个人资料很强,也很难被录取。但是,如果您的个人资料在受人尊敬的顾问下过于强大,那么个人关系就无关紧要了。
特殊情况还有其他一些因素。例如,如果您在一所顶尖学校学习并且只有 1 篇出版物,那么 GPA 将是一个重要因素。但是,一般来说,如果 GPA 至少为 3.5 或同等水平,顶尖学校并不关心前 20 名以下学校的 GPA 数字。因此,如果您在排名前 3.5 名以下的学校的 GPA 为 20,并且您有 4 种出版物,那么您很有可能被录取。如果你的研究概况非常强大,低 GPA(仍然> 3.5)可能是一个有利的因素,因为它表明你不关心课程,但你对研究充满热情——这正是顾问希望看到的。
这里要注意的另一件事是,我们有出版通胀。这意味着单个出版物的价值变得越来越小,因为越来越多的学生满足了这一要求。学生对ML博士感兴趣的学生越多,出版要求就越严格。没有出版物进入ML博士学位可能很好,但通常情况不再如此。
如何被顶尖学校录取?
上面的这些统计数据并不意味着你不能被这些学校录取,但这意味着如果你的个人资料太弱,你应该再花一年时间来支持它。例如,我将硕士延长了一年,以挤出一年的研究实习机会。没有这个,我永远不会进入这些学校。如果你的梦想是进入这些顶尖学校之一,这是迄今为止最好的选择。即使您不一定想进入顶尖学校,也强烈建议您进行研究实习。
研究实习将为您提供:
提高研究技能,以便您可以更轻松地开始攻读博士学位。
测试博士学位或某个研究方向(NLP vs 计算机视觉与系统)是否适合您。
一封好的甚至强有力的推荐信(实习时间越长越好)。
可能的出版物。
但即使找到研究实习也说起来容易做起来难!你该如何做到这一点?我的下一篇博客文章将详细讨论如何在明年的申请周期中改进申请文件的主题。
现实的学校选择
您应该申请大约 10-15 所大学。如果您申请更多,您将面临没有足够的时间来真正完善您的应用程序的危险。如果您申请较少,您将面临在任何地方不被接受的危险。
你应该有一两所备用大学,在那里你很可能被录取(>75%)。通常,您已经学习的大学是一个很好的候选人,因为您的推荐信作者将被大学教师所熟知。申请所有有希望被录取的顶尖大学(>10%的机会)。用您希望录取率(25-33%)的大学填写其余的大学名额——您应该至少有 3 所此类大学。这些大学通常是推荐信作者与您想与之合作的教师有个人联系的大学。
请注意,最好的顾问不一定在顶尖学校。您可以在前 20 名以外的许多学校获得出色的博士培训。但是,如果您考虑学术生涯,那么学校排名将非常重要,您应该尝试在顶尖学校寻找顾问。
主要根据可能的顾问选择大学。确保每所大学都有不止一位您想与之合作的顾问。不要申请只有一位好顾问的大学。如果您的列表太小,请扩大您感兴趣的领域。例如,如果你想做深度学习和NLP,但你找不到足够的拟合顾问,也可以考虑一些计算机视觉或其他领域的顾问。
一般问答
4年英国博士学位与6年美国博士学位
在美国博士学位的前 1-2 年,您将上很多课,因为美国博士学位是为本科生设计的。相反,英国博士学位是为已经拥有(1年)硕士学位并且课程很少的学生设计的。因此,您可以立即开始在英国博士中进行研究,这可能是一个很好的优势。
美国博士:
专为本科生设计
课程1-2年。课堂分散了研究的注意力。
入学保证资金,即您有保证的研究助理或助教职位。
英国博士
专为硕士生设计
课程0.25 – 0.5年。你可以从头到尾专注于你的研究。
资金可能会有问题,并且通常取决于您的顾问。这就是为什么在申请之前与您的潜在顾问取得联系很重要的原因。
不太有声望(在大多数情况下),因此在博士毕业后获得学术职位会更加困难。由于可见性偏差,获得口头报告,最佳论文奖等将更加困难。
还要注意局部影响。如果你在美国学习,你也会处于美国的研究泡沫中。如果您在欧洲或亚洲学习,情况也是如此。例如,欧洲的研究人员认识全世界“著名”的研究人员,但除此之外,他们知道的欧洲大学比一般的美国大学多(例如石溪大学与谢菲尔德大学)。其他位置也是如此。如果你想加入欧洲的学术界,但你无法被美国顶尖学校录取,那么申请大多数欧盟大学可能是有意义的。
博士学位需要硕士吗?
在欧洲大陆,学士学位通常为期 3 年,您需要硕士学位才能开始攻读博士学位。在美国和英国,学士学位通常为 4 年,您可以在学士学位后立即开始攻读博士学位。
工作经验重要吗?
如果您在著名的机构(谷歌,Facebook,麦肯锡,高盛等)工作,它会有所帮助。如果与软件工程相关,其他工作经验可能会有所帮助,但任何研究经验(研究实习)都将被视为优越得多。只是一份好工作,没有研究经验对你没有帮助。
如何挑选顾问?
查看最近的出版物,了解重叠的兴趣。避免与最近没有发表论文的学者合作。当前的研究不需要重叠,但您应该对顾问正在进行的研究感兴趣。
看看毕业的学生名单和他们现在的位置。如果您找不到毕业的学生名单,这是一个危险信号(或新教师)。这是您将获得的建议和培训质量的一个很好的指标。
顾问有创业公司吗?导师有多少学生?这些因素的组合是一个很好的指标,表明顾问可以有多少时间。根据您在研究方面的经验,您将需要一个或多或少时间的顾问。
同一部门是否有备用选项?有时关系不会成功。通过第二个顾问选项作为后备来保护自己。
应该攻读博士学位吗?
如果你想在学术界工作,你需要一个博士学位。
在工业中,一切都受供求关系的调节。未来几年,人工智能研究人员的供应将急剧增加。如果人工智能炒作崩溃,需求就会消退。这种情况可能与数据科学家在2018年面临的情况非常相似:公司只接受资格过高的申请人,因为供应多于需求。在这种情况下,如果你想换工作或想升职,博士学位将有很大的不同。你现在可能会在没有博士学位的情况下被录用,但没有博士学位,但如果你想转到另一个研究实验室,你可能会遇到问题(因为熟练博士的供应可能很高,而需求很低)。
如果人工智能的炒作没有崩溃(不太可能),那么你可以在没有博士学位的情况下轻松找到和换工作。然而,笔记推广可能仍然更困难,与研究相比,你可能需要做更多的“研究工程工作”。如果您对研究工程师的职位感到满意,那么博士学位可能对您毫无用处。
不要仅仅因为上述原因而攻读博士学位。如果你不想做研究,就不要做博士。
申请前联系顾问?
如果一位推荐信作者可以将您介绍给潜在的顾问,这是有道理的。但是,这在美国不是必需的。它也可能适得其反,因为它消除了你周围的神秘面纱,有时先看到你的出版物和推荐信比亲自和你交谈,然后再看推荐信更令人印象深刻。在欧盟,有时需要在申请前联系潜在的顾问。如果您需要这样做,也可以尝试通过认识您的导师的人进行介绍,例如您的学士或硕士论文导师。如果您与您的个人顾问没有个人联系,您可能需要写一封电子邮件:
您当前的顾问
关于你过去工作的一句话(可选:你在哪里发表你的作品?
关于您可以与顾问一起以“想法:解释想法的一句话”形式进行的潜在工作的 4 个要点
如果您没有个人联系人,您的潜在顾问不太可能阅读甚至回复您。如果您没有个人联系人并且您申请欧盟(英国)大学,那么您可能想在其他地方申请。
如何为您的研究计划选择一个主题?
研究提案的主题无关紧要。没有人会要求你做你在研究计划中描述的工作。您可以根据在不同应用程序中重用研究提案的难易程度来选择您的研究提案主题。如果您不需要为不同的应用程序重写它,则可以节省大量时间。需要考虑的一件事:你对一个主题越熟悉,就越容易写出一个好的提案。