加入最火OpenAI,特斯拉前AI总监Andrej Karpathy自宣回归
机器之心报道
(资料图)
机器之心编辑部
官宣回归OpenAI,特斯拉前AI高级总监Andrej Karpathy的下家定了。
刚刚,特斯拉前 AI 高级总监 Andrej Karpathy 在推特上宣布,自己将再次加入 OpenAI。
我将加入 OpenAI(再一次)。与许多人工智能领域内外的人一样,我被这家公司的工作的影响所鼓舞,我个人也从中受益良多。它未来的潜力尤其令人振奋;重新加入其中并参与建设是一件非常愉快的事情!
Sam Altman 表示:欢迎回来!
距离 Karpathy 的上一次离职,已经过去了八个月。从特斯拉 AI 高级总监、自动驾驶 Autopilot 负责人的位置上离开后,他在家尝试录网课、做开源项目,算是「重拾了自己长久以来对 AI 技术工作、开源和教育等方面的热情」。
众所周知,Karpathy 是 OpenAI 的创始成员和研究科学家。但在 OpenAI 成立一年多后,Karpathy 便接受了马斯克的邀请,加入了特斯拉。
如今 Karpathy 选择回归 OpenAI,个中原因外界无法揣测。
一方面,随着 GPT-3、Dalle-E、ChatGPT 一系列影响力成果的发布,OpenAI 已经成为当下 AI 领域最热门的公司。
另一方面,或许是因为 OpenAI 的研究氛围比较浓厚,毕竟 Karpathy 很希望能够坚持自己的网课和开源事业。
事实证明,OpenAI 的很多人也喜欢这些,所以我希望我能够(坚持录网课和做开源项目)。
Andrej Karpathy 的学术、职业生涯
2005-2009 年,Andrej Karpathy 本科就读于加拿大多伦多大学,主修计算机科学与物理,辅修数学。在这里,他第一次接触到深度学习,聆听 Hinton 的课程。
2009 -2011 年,Karpathy 硕士就读于加拿大不列颠哥伦比亚大学,其导师为计算机科学系教授 Michiel van de Panne,主要研究物理模拟中用于敏捷机器人的机器学习。
2011-2016 年,Karpathy 博士就读于斯坦福大学,师从著名 AI 学者李飞飞,专注于研究卷积 / 循环神经网络以及它们在计算机视觉、自然语言处理和交叉领域的应用。期间,他设计并担任斯坦福首个深度学习课程《CS231n:卷积神经网络与视觉识别》的主要讲师。
与此同时,Karpathy 还有三段实习经历。2011 年,他进入发展初期的谷歌大脑实习,致力于视频领域的大规模无监督学习。之后的 2013 年,他再次在谷歌研究院实习,从事 YouTube 视频的大规模监督学习。2015 年,他在 DeepMind 实习,参与深度强化学习团队的工作。
结束在 DeepMind 的实习工作后,Karpathy 加入了 OpenAI 担任研究科学家。彼时,OpenAI 才刚刚成立(正式成立时间是 2015 年 12 月 11 日)。作为创始成员之一,Karpathy 帮助公司做了很多早期的招募 / 结构化工作。同时,作为一名研究科学家,他致力于生成模型的深度学习(例如使用 PixelCNN++ 生成图像)和深度强化学习。
不过,在 OpenAI 没待多久,Karpathy 就被马斯克挖去了特斯拉,接替当时的特斯拉 Autopilot 负责人、苹果 Swift 语言、LLVM 编译器之父 Chris Lattner,担任特斯拉人工智能和自动驾驶视觉总监。
从 2017 年到 2022 年,Karpathy 一直在特斯拉工作。五年里,他一手促成了 Autopilot 的开发。这项技术对于特斯拉的完全自动驾驶系统 FSD 至关重要,也是马斯克针对 Model S、Cybertruck 等车型推销的主要卖点。
随着特斯拉从最开始的自动驾驶慢慢扩展到更广泛的人工智能领域,Karpathy 也被提为特斯拉的 AI 高级总监,直接向马斯克汇报工作。
不过,天下没有不散的宴席。2022 年 7 月,Karpathy 在推特上宣布自己将从特斯拉离职。他表示,「过去五年,我非常高兴帮助特斯拉逐步接近了它的目标,如今离开是一个艰难的决定。我见证了 AutoPilot 从测试到部署到城市街道,期望未来 AutoPilot 团队持续自己的强大。」
对于未来,Karpathy 当时并没有具体的计划,「但希望重拾自己长久以来对 AI 技术工作、开源和教育等方面的热情。」
事实上,他也确实是这么做的。在闲下来的几个月里,Karpathy 给大家贡献了很多学习材料,包括一个详解反向传播的课程 、一份重写的 minGPT 库、一份从零开始构建 GPT 模型的完整教程等。
目前,在 Google Scholar 上,Karpathy 的论文引用数达到了 53360。其中,引用第二多、他作为一作的论文《Large-scale Video Classification with Convolutional Neural Networks》被收录为 CVPR 2014 Oral。
这次官宣加入 OpenAI,相信 Karpathy 重新找回了自己的热情所在,我们也期待他在 OpenAI 能做出更多惊艳的研究成果。