《重塑千禧年代》转载请注明来源:快眼中文网kyzww.com

无论如何,易科的q3财报在这个月十五号都要出炉了。

尽管心里已经有预期,但亲自走入暴风雨中的陆奇还是心神不宁,也免不了在心中自嘲,看客与当事人的感受终究不同,这份压力还是受着了。

11月2日,上午11点,陆奇开完会接到了秘书的通知,方总中午请客。

等他抵达小食堂,听到正在放着的音乐是《all

you

need

is

love》便不禁微微一笑,那篇由谷歌发布《attention

is

all

you

need》的名字就是来自披头士的这首歌。

陆奇与埃尔德、吴恩达打了招呼,没聊几句就转入了深度学习dl的话题,也就立即打起精神,讲述自己更多的想法。

这两位在易科都不简单,一位总领研发范畴的事务,一位是深度学习的主要负责人,虽说自己算是空降组建深度学习事业部,但资源的分配和使用也需要相互的沟通。

陆奇能在微软做到高位,自然不会轻视人事工作。

“谷歌那边把自注意力机制的模型在论文里命名为transformer,我问了问,他们内部是在开发新的nlp模型了。”吴恩达谈到上次业界探讨后的变化。

吴恩达之前是斯坦福的副教授和人工智能实验室主任,而在加入易科前就在谷歌负责相关工作,与那边的研究交流没有中断,上次的激辩同样给他带来不少灵感。

陆奇点点头,也说着自己掌握的消息:“业界对于transformer的表现很认可,像去年成立的openai,他们现在也在着手研发一款以transformer为核心的大模型,干脆直接以它命名,叫gpt,generative

pre-trained

transformer。”

openai是一家去年成立的公司,有不少领域内知名的人物参与。

方卓这时候简单总结道:“难道谷歌的这个transformer真就能超过rnn和cnn了?我们在这两方面已经投入很多了。”

rnn是循环神经网络,cnn是卷积神经网络,易科的siri是基于前者,太白则是基于后者。

同样,业界在人工智能领域的研究也主要是这两个方向以及它们的变体,rnn能处理序列数据中的时间依赖性而广泛应用于自然语言处理任务,cnn则因为它在图像识别和处理中的出色表现,成为计算机视觉领域的基石。

像易科的机器人guard就使用了cnn在视觉方面的成果。

但现在,诞生于一场激辩中的第三个方向竟然隐隐有取代rnn和cnn的趋势,这无疑会削弱易科在相关领域研究的优势。

陆奇听到方总这样说,保持沉默,埃尔德也不出声。

反倒是吴恩达笑了起来:“方总,在科学研究上,方向错了,越努力就距离成功越远,这一点从我最开始做科研就已经被事实教育过,rnn在处理长序列时遇到了梯度消失和爆炸的问题,这一点的突破一直很艰难。”

“现在,transformer模型有希望解决这个问题,并且已经表明它的并行处理能力和更高效的训练特性,这就应该按照对的来。”

“我们投入的资源和精力并不能左右科学的正确答案。”

“答案就在那,我们只是用各种各样的方式发现角落里的它。”

“况且,rnn与cnn仍旧会在特定的场景下发挥作用。”

吴恩达不管是不是方总在试探自己的想法,先表明在科研上的立场。

方卓微微点头,沉吟道:“其实,不瞒你们,陆总的到来给我很多新的思考,你们今天说的这个transformer,谷歌在做,openai在做,好像大家一下子又认为这个方向可以创造很多新可能,既然真有希望,那我们在战略上的定位是不是还需要修改。”

他说着自己这两天在想的事情:“陆总还说了英伟达要卖铲子的事,我现在回想,黄仁勋当时确实在现场很高兴,和我聊过自注意力机制对gpu的促进,如果还要提高重视程度,那我们实际上在整个产业链上是能用出更多力气的。”

“这马上冰芯要收购中芯了,实际上,冰芯也已经在主导长电在封测领域的方向,如果英伟达可以卖铲子,我们为什么不可以卖?”

更多内容加载中...请稍候...

本站只支持手机浏览器访问,若您看到此段落,代表章节内容加载失败,请关闭浏览器的阅读模式、畅读模式、小说模式,以及关闭广告屏蔽功能,或复制网址到其他浏览器阅读!

本章未完,请点击下一章继续阅读!若浏览器显示没有新章节了,请尝试点击右上角↗️或右下角↘️的菜单,退出阅读模式即可,谢谢!

都市小说推荐阅读 More+
全球高武

全球高武

老鹰吃小鸡
地窟入侵,武道崛起。小人物也有大情怀,为生存而战,为守护而战。且看小人物方平,一步步崛起,拯救(忽悠)全世界的故事!(一群群号555700424,二群群号931250725,全订验证群号625012087)
都市 连载 1343万字
重返1973农村日常

重返1973农村日常

安然入睡
一个二十一世纪的宅男在连续奖励自己六次后,猝死穿越重生1973年做知青。这里有从未刷过牙的朴实老汉,也有奸猾似鬼的二流子,还有美貌、但满口方言的小媳妇儿。
都市 连载 462万字
双穿年代

双穿年代

中帝人
这是一本从现代到年代互穿的故事。有《四合院》背景,但几乎没有戾气。主打轻松、生活和年代感。来阅文旗下网站阅读我的更多作品吧
都市 连载 28万字
华娱:我被她盯上了

华娱:我被她盯上了

野山椒鱼仔
穿越重生参加《明日之子》。开局落入海后鱼塘中怎么办?在线等,挺急的。唱不成演不就,小小鲜肉可笑可笑。面对小鲜肉,他重拳出击。什么?你是华语乐坛的神话?还不然呢?不好意思!请先收起你做法的道具。因为我才是华语乐坛的半壁江山!
都市 连载 27万字
港娱天后1988

港娱天后1988

潮洋1
她被誉为香江第一个偶像,也被称为香江最后一个天后,她一路披荆斩棘,为的不是成为天后巨星,而是击败好莱坞,让华夏文化传播到全世界。
都市 连载 101万字
万族之劫

万族之劫

老鹰吃小鸡
我是这诸天万族的劫!《全球高武》和《万族之劫》前五册实体书出版了,天猫、当当、京东都有售,喜欢的可以去看看,谢谢大家支持!
都市 连载 1366万字