分类

安卓应用安卓游戏攻略资讯

其他资讯

重点解读NeurIps2018的艰深论文

作者:佚名   来源: JZ5U整理   日期:2019/10/23 14:11:14

听说,今年的参会人数有9000人,大会门票在11分钟内被一抢而空。官方本人都吐槽,只比碧昂丝演唱会卖的慢一点。

之所以一票难求,还是由于到场的学术界、产业界大佬太多。谷歌、亚马逊、Facebook、微软是不会缺席的,华为、腾讯、阿里、百度等为代表的中国队也斩获颇丰。值得一提的是,今年还冒出了很多中美欧之外的新面孔,印度、XXX也都有机构取得了十分不错的成果。

当然,学术会议中心的还是论文,NeurIPS 2018 今年也是收了个盆满钵满,一共收到 4856 篇投稿,创下了历年来的最高记载,最终被录取的论文有 1011 篇,其中有44% 的论文作者放出了代码,42% 将发布数据,无疑让整场大会显得干货十足。

状况引见的差不多了,接下来该上“硬货”了。但学术名词和论文推理读起来都有点反人类。因而,我们从本人的察看中,为大家梳理了一下NeurIPS 2018可能是最重要的三大趋向,协助大家理解一下,学术界都发现了哪些新东西,又将给明年的AI带来哪些新时机。

下面请大家系好平安带,收起小桌板,准备好瓜子花生肥宅快乐水,我们开端吧。

趋向一:深度学习仍然是“最强王者”

 读不懂NeurIps2018的艰深论文?重点解读

读不懂NeurIps 2018的艰深论文?重点解读图一

今年NeurIPS 2018评审的 4856篇论文中,深度学习、强化学习、散布式学习等等范畴仍然是大抢手。

以取得最佳论文奖的四篇论文为例,来自加拿大多伦多大学Vector Institute,经过一种新的深度神经网络模型,采取自顺应来构建归一性,无需对对数据停止分类或排序,就能够运用黑盒ODE求解器停止端到端锻炼。

第二篇最佳论文的第一作者为加拿大麦克马斯特大学Hassan Ashtiani,则经过新的相关散布紧缩来停止散布式学习,处理了表征学习散布类的样本复杂性。

第三篇则是来自华为诺亚方舟实验室担任一作的研讨,在两种状况下研讨了散布式优化的最优收敛速度,并提出了第一个最优分散算法:多步原始对偶(MSPD)。

第四篇的作者全部来自Google AI,提出了新的战略分歧性概念,分离多项数据集,处理大范围强化学习的妄想成见问题。

除了获奖的四篇,收录的1011篇论文中还有不少是深度学习方向的文章(大约25%左右),还能在“王座”的位置上待一阵子。

不过,即使是深度学习也并不是在炒冷饭。显然,学术界也在积极深思深度学习存在的一些效率、黑箱性等问题,很多研讨都是盘绕着对其停止优化展开的。

在NeurIPS 2018的论文集中搜索“optimization”,得到了61个结果。由此可见,经过底层优化算法,用更好的模型让AI以更小的数据代价,更精准地处理问题,正在成为集体做功的方向。

趋向二:一超多强,难以逾越的谷歌和美帝?

 读不懂NeurIps2018的艰深论文?重点解读

读不懂NeurIps 2018的艰深论文?重点解读图二

有机构对NeurIPS2018的论文集停止了数据剖析,发现Google(包括Deepmind)依然是无须置疑的AI“霸主”,以 137 篇论文胜利斩获第一名,以至将美国同行远远地甩在了身后。

此外,谷歌不但开端向顶会反向保送人才(今年大会的主席Samy Bengio就是来自谷歌的科学家 ),还开端艺高人胆大地开端讨论很多极端范畴命题。

比方经过Mesh-TensorFlow完成超级计算机的深度学习。应用一种散布式深度神经网络(DNN),对一些由于内存限制而无法锻炼的超大模型,停止高效分批处置。

谷歌应用512个TPU锻炼出了多达50亿个参数的变压器模型。这种基于大型数据集群的高效并行模型算法,足以让其在处置航空、军事、聪慧城市等极端算力需求时,仍然能坚持稳定高效实时处置。

另外,“美国权力”还有不少强队,其中MIT(68篇)与斯坦福(57篇)领衔学术界,Microsoft(46篇)和Facebook(13 篇)领衔工业界。

Facebook在机器视觉范畴提出的不少新方式,像是“双留意力网络”、分块坐标搜索算法、可以对立无聊的新引荐系统、SING音频合成器等等,目测都将在来年给群众早已“审美疲倦”的社交文娱带来不少新意。

总而言之,经过几年的剧烈近身肉搏,人工智能技术竞争格局的根本面目前曾经没有争议了,那就是谷歌的霸主位置简直难以撼动,不过其他战队也出手非凡找到了各自的差别化打破途径。

毕竟,谷歌还有不少纯烧钱的技术,学术会议上再多的胜利,一定真能在理想中凝结出商业的果实。这么想想,吃到了酸葡萄的大家心里想必好受了点。

趋向三:中国身影与新晋黑马

 读不懂NeurIps2018的艰深论文?重点解读

读不懂NeurIps 2018的艰深论文?重点解读图三

在这样的竞争格局下,自然有人不愿让“美国权力”专美。这次NeurIPS 2018,中国队伍可谓是集体为国争光了。

先说四篇最佳论文(Best paper awards),华人科学家陈天琦,以及华为的诺亚方舟实验室,就分别以第一作者的身份摘得殊荣,占领了半壁江山。

华人学者也表现不俗,清华大学有 21 篇论文被收录,论文数量排名第十。来自南京大学的张利军就有 3 篇论文被收录,周志华等人提出了无组织歹意攻击检测算法UMA,CMU的教授邢波和微软研讨院的朱泽园也有多篇论文榜上有名。

中国的科技企业巨头也纷繁实力炫技。华为捧回最佳论文奖,阿里iDST(数据科学与技术研讨院)就霸气演示了全中文demo,腾讯AI Lab则以 17 篇文章被收录的实力与美国AI军团一较高低。

总体而言,中国军团的学术水准表现出了不容无视的力气感。

本届大会一共发布了86篇论文,数量上接近10%,远超英法等国。质量上AI那些关键范畴一个都没有遗漏,产学研各个层面都在进入技术加速并肩以至超越的黄金周期。

不过,人工智能的狂飙突进也并不是只要中美在相互抢分。今年的最佳论文及作者,都有加拿大几所大学的相关背景,加拿大在人工智能范畴的存在感和影响力,比我们以为的要强得多。

在NeurIPS的AutoML应战赛中,来自印度的团队Autodidact.ai 也胜利出道,获得竞赛第一名(清华、中南大学等队伍摘得亚季军)。

(NeurIPS 2018 AutoML for Lifelong Machine Learning 竞赛结果以及团队成员名单)

总而言之,在接下来的短时间内,来自美国的企业和高校(谷歌/MIT)等仍然代表着最强大的“科研权力”,但其话语权能否也能进一步扩张?还真是未知数。

由于其他各国的优势也越来越多,黑马不时涌现,而美国对AI也变得越来越敏感和防范(无处不在的政治正确、贸易战下的严苛签证战略),这些都正在悄无声息地改动看似曾经被框定的AI世界。

以上就是读不懂NeurIPS 2018的艰深论文?重点解读,那么,在感受谷歌“有技术就是能够随心所欲”的打击之外,或许我们能够一同等待一下,将来的中国速度、印度速度、枫叶国现象…

展开

文章推荐

应用推荐

网友评论