数十篇满分论文，接收率26.5%，ICLR 2020接收结果已出，明年非洲见

「史上第一次在非洲举行的 AI 顶会」ICLR 2020 将于明年 4 月 26 日于埃塞俄比亚首都亚的斯亚贝巴举行。今年的 ICLR 也不算风平浪静，先是投稿数量爆炸导致审稿负担急剧增加，结果被爆出一半审稿人根本没在相关领域发过论文，舆论风向一度演化为「机器学习同行评审崩塌了」。

之后，又有网友摘出某篇由满分『8-8-8』转为超低分『1-1』的论文，质疑 ICLR 评审结果的权威性。「顶会审稿水平到底行不行」这个话题再一次闹得纷纷扬扬。

今天，ICLR 2020 的接收结果终于放出，以下是官方统计的数据：

• 在最终提交的 2594 篇论文中，有 687 篇被接收，接收率为 26.5%；

• 和之前一样，所有被接收的论文都将进行 poster 展示；

• 23% 的接收论文将进行口头讲述报告，其中 108 篇论文为 spotlight，演讲时间 4 分钟，48 篇论文将进行 10 分钟以上的 talk。

今年的论文审核流程基本上与往年一样，有两个地方做了调整：

一是不允许在评审讨论期间进行公开评论，以确保作者和审稿人清楚地判断讨论的要点；二是空出了一周时间来进行替代和紧急审查。

除此之外，ICLR 2020 的变化更多地是体现在大会本身流程上。

为了让评审结果更清晰，今年份评分系统进行了简化，去掉了那些分配中性评分的选项，只保留了四个等级：reject、weak reject、weak accept 和 accept。

逐年上涨的 ICLR 投稿量：2018 年 900 多篇，2019 年 1500 篇，2020 则达到了 2600 多篇。

今年，大会拒绝了一部分进行重复提交而违反规定的论文，但被拒绝的论文少于 20 篇。

此外，今年的 ICLR 还有大量论文遭遇了「撤回」的情况，原因基本上是临近其他会议的截止日期或者是相重叠，抑或是与其他会议的投稿规定不兼容（比如 ACL）。

网友吐槽：领域主席的否决有时无法令人信服？

ICLR 2020 论文接收结果一出，投稿者们几家欢喜几家忧。论文遭否决的人免不了心中不忿，于是又纷纷将矛头指向了领域主席（AC），吐槽他们否决自己的论文有时太「荒谬」了！

一位名为 bose_joey 的网友表示，对于自己提交的论文，三位审稿人均给出了 6-6-6 的高分，但领域主席却做出了不适用自己论文的荒谬批评。更遗憾的是，在论文 rebuttal（评审申诉）阶段，领域主席并没有给出任何实质性意见，也没有给机会对误解做出解释。

无独有偶，另一位名为 obiwan5296 的网友表示自己也遇到了同样的情况。领域主席否决了 ta 的 8-6-6 高分论文，但给出的批评意见却完全偏离了论文本身。ta 称这是自己首次论文投稿，真是太令人失望了。

此外，还有网友对 ICLR 审稿的流程表示失望。领域主席没有鼓励论文讨论，审稿人通常会忽视 rebuttal，更糟糕的是，领域主席甚至懒得回复直接发给他们的评论意见。ta 认为这是完全的不作为。

总之，领域主席的介入可能是一道「防线」：当分数太高而不合理的时候，及时踩下刹车。但不可否认的是，领域主席也可能出现「误伤」，但通过更多审稿人参与，也许会对投稿质量的把控起到更加积极的作用。

多篇「满分论文」

在 ICLR 2020 上出现了多达 34 篇满分论文（8 分），其中不乏来自清华大学、上海交通大学、南京大学、哈工大、西安电子科技大学等国内高校以及华为、字节跳动等国内名企的论文作者。

此外，来自以色列特拉维夫大学的一篇论文（下文中的论文 25）甚至拿到了 4 个 8 分。

ICLR 2020 官方评审页面：https://openreview.net/group?id=ICLR.cc/2020/Conference

ICLR 论文接收情况统计（非官方）：https://chillee.github.io/OpenReviewExplorer/

以下是满分论文的统计结果列表（截至发稿前的统计结果）：

论文 1： An Algorithm-Agnostic NAS Benchmark 作者：Xuanyi Dong、Yi Yang机构：悉尼科技大学关键词：神经架构搜索、AutoML、基准测试链接：https://openreview.net/forum?id=HJxyZkBKDr

论文 2： On the "steerability" of generative adversarial networks作者：Ali Jahanian、Lucy Chai、Phillip Isola机构：麻省理工学院关键词：生成对抗网络、隐空间插值、数据集偏见、模型泛化链接：https://openreview.net/forum?id=HylsTT4FvB

论文 3： A Generalized Training Approach for Multiagent Learning 作者：Paul Muller、Shayegan Omidshafiei、Mark Rowland 等机构：谷歌关键词：多智能体学习、博弈论、训练、游戏链接：https://openreview.net/forum?id=Bkl5kxrKDr&noteId=XEgYShJzuK

论文 4： Mirror-Generative Neural Machine Translation 作者：Zaixiang Zheng、Hao Zhou、Shujian Huang 等机构：南京大学、字节跳动关键词：神经机器翻译、生成网络链接：https://openreview.net/forum?id=HkxQRTNYPH&noteId=HmFOnYDNdx

论文 5： Restricting the Flow: Information Bottlenecks for Attribution 作者：Karl Schulz、Leon Sixt、Federico Tombari、Tim Landgraf机构：慕尼黑工业大学等关键词：信息瓶颈、深度神经网络链接：https://openreview.net/forum?id=S1xWh1rYwB&noteId=dsIQuI8DCU

论文 6： Understanding and Robustifying Differentiable Architecture Search 作者：Arber Zela、Thomas Elsken、Tonmoy Saikia 等机构：弗莱堡大学关键词：神经架构搜索、AutoML、深度学习、计算机视觉链接：https://openreview.net/forum?id=H1gDNyrKDS&noteId=9abhtGXJdR

论文 7： Sparse Coding with Gated Learned ISTA 作者：Kailun Wu、Yiwen Guo、Ziang Li、Changshui Zhang机构：清华大学、英特尔关键词：稀疏编码、深度学习、收敛性分析链接：https://openreview.net/forum?id=BygPO2VKPH

论文 8： The Logical Expressiveness of Graph Neural Networks 作者：Pablo Barcelo、Egor V. Kostylev、Mikael Monet 等机构：智利大学等关键词：图神经网络、可表达性、一阶逻辑链接：https://openreview.net/forum?id=r1lZ7AEKvB

论文 9： Implementation Matters in Deep RL: A Case Study on PPO and TRPO 作者：Logan Engstrom、Andrew Ilyas、Shibani Santurkar 等机构：麻省理工学院关键词：深度策略梯度方法、深度强化学习链接：https://openreview.net/forum?id=r1etN1rtPB&noteId=LqWqdhJGoy

论文 10： Learning to Balance: Bayesian Meta-Learning for Imbalanced and Out- of-distribution Tasks 作者：Donghyun Na、Hae Beom Lee、Hayeon Lee 等机构：韩国科学技术院、浦项科技大学关键词：元学习、少样本学习、贝叶斯神经网络链接：https://openreview.net/forum?id=rkeZIJBYvr&noteId=Vgm- PPd3W

论文 11： Recurrent Hierarchical Topic-Guided Neural Language Models 作者：Dandan Guo、Bo Chen、Ruiying Lu、Mingyuan Zhou机构：西安电子科技大学、得克萨斯大学奥斯汀分校关键词：贝叶斯深度学习、变分推理链接：https://openreview.net/forum?id=Byl1W1rtvH

论文 12： Depth-Width Trade-offs for ReLU Networks via Sharkovsky 's Theorem作者：Vaggos Chatziafratis、Sai Ganesh Nagarajan、Ioannis Panageas、Xiao Wang机构：斯坦福大学、新加坡科技设计大学关键词：ReLU 网络、混沌理论、动态系统链接：https://openreview.net/forum?id=BJe55gBtvH

论文 13： GenDICE: Generalized Offline Estimation of Stationary Values 作者：Ruiyi Zhang、Bo Dai、Lihong Li、Dale Schuurmans机构：杜克大学、谷歌关键词：强化学习、平稳分布校正估计、Off-policy Policy Evaluation链接：https://openreview.net/forum?id=HkxlcnVFwB&noteId=wPTYJz9HH0

论文 14： FreeLB: Enhanced Adversarial Training for Language Understanding 作者：Chen Zhu、Yu Cheng、Zhe Gan、Siqi Sun 等机构：马里兰大学帕克分校、微软关键词：对抗性训练链接：https://openreview.net/forum?id=BygzbyHFvB

论文 15： Why Gradient Clipping Accelerates Training: A Theoretical Justification for Adaptivity 作者：Jingzhao Zhang、Tianxing He、Suvrit Sra、Ali Jadbabaie机构：麻省理工学院关键词：自适应方法、最优化、深度学习链接：https://openreview.net/forum?id=BJgnXpVYwS&noteId=KA65jj- wX

论文 16： Principled Weight Initialization for Hypernetworks 作者：Oscar Chang、Lampros Flokas、Hod Lipson机构：哥伦比亚大学关键词：超级网络；初始化；最优化；元学习链接：https://openreview.net/forum?id=H1lma24tPB&noteId=SttNyKHM11

论文 17： Enhancing Adversarial Defense by k-Winners-Take-All 作者：Chang Xiao、Peilin Zhong、Changxi Zheng机构：哥伦比亚大学关键词：对抗性防御、激活函数链接：https://openreview.net/forum?id=Skgvy64tvr

论文 18： Dynamics-Aware Unsupervised Skill Discovery 作者：Archit Sharma、Shixiang Gu、Sergey Levine 等机构：谷歌关键词：强化学习、无监督学习、深度学习链接：https://openreview.net/forum?id=HJgLZR4KvH

论文 19： Differentiable Reasoning over a Virtual Knowledge Base 作者：Bhuwan Dhingra、Manzil Zaheer、Vidhisha Balachandran 等机构：卡耐基梅隆大学、谷歌关键词：QA、深度学习、知识库、信息提取链接：https://openreview.net/forum?id=SJxstlHFPH&noteId=Ilh9vDgaeg

论文 20： Data-dependent Gaussian Prior Objective for Language Generation 作者：Zuchao Li、Rui Wang、Kehai Chen 等机构：上海交通大学、哈工大、NICT关键词：语言生成链接：https://openreview.net/forum?id=S1efxTVYDr&noteId=QtxdEfLPMv

论文 21： Geometric Analysis of Nonconvex Optimization Landscapes for Overcomplete Learning 作者：Qing Qu, Yuexiang Zhai, Xiao Li, Yuqian Zhang, Zhihui Zhu机构：纽约大学、加州大学伯克利分校、谷歌以色列关键词：字典学习、稀疏表示、非凸优化链接：https://openreview.net/forum?id=rygixkHKDH

论文 22： Mathematical Reasoning in Latent Space 作者：Dennis Lee, Christian Szegedy, Markus Rabe, Sarah Loos, Kshitij Bansal机构：加州大学伯克利分校、谷歌关键词：机器学习、形式推理链接：https://openreview.net/forum?id=Ske31kBtPr&noteId=_xQ9Hvor9M

论文 23： Contrastive Learning of Structured World Models 作者：Thomas Kipf, Elise van der Pol, Max Welling机构：阿姆斯特丹大学关键词：状态表征学习、图神经网络、基于模型的强化学习、关系学习、目标检测链接：https://openreview.net/forum?id=H1gax6VtDB&noteId=06V352WC2Y

论文 24： Rotation-invariant clustering of functional cell types in primary visual cortex 作者：Ivan Ustyuzhaninov, Santiago A. Cadena 等机构：图宾根大学等关键词：计算神经科学、神经系统识别、功能细胞类型、深度学习、旋转等变性链接：https://openreview.net/forum?id=rklr9kHFDB

论文 25： Optimal Strategies Against Generative Attacks 作者：Roy Mor, Erez Peterfreund, Matan Gavish, Amir Globerson机构：以色列特拉维夫大学等链接：https://openreview.net/forum?id=BkgzMCVtPB

论文 26： CATER: A diagnostic dataset for Compositional Actions & TEmporal Reasoning作者：Rohit Girdhar, Deva Ramanan机构：卡内基梅隆大学关键词：视频理解基准；时序推理链接：https://openreview.net/forum?id=HJgzt2VKPB&noteId=dUTT3jReHa

论文 27： Causal Discovery with Reinforcement Learning 作者：Shengyu Zhu, Ignavier Ng, Zhitang Chen机构：华为诺亚方舟实验室、多伦多大学等关键词：因果发现、结构学习、强化学习、有向无环图链接：https://openreview.net/forum?id=S1g2skStPB

论文 28： Simplified Action Decoder for Deep Multi-Agent Reinforcement Learning 作者：Hengyuan Hu, Jakob N Foerster机构：卡内基梅隆大学、牛津大学关键词：多智能体强化学习、心智理论链接：https://openreview.net/forum?id=B1xm3RVtwB

论文 29： Smooth markets: A basic mechanism for organizing gradient-based learners 作者：David Balduzzi, Wojciech M. Czarnecki, Edward Hughes, Joel Leibo, Ian Gemp, Tom Anthony, Georgios Piliouras, Thore Graepel机构：Deepmind 等关键词：博弈论、优化、梯度下降、对抗学习链接：https://openreview.net/forum?id=B1xMEerYvB

论文 30： Meta-Learning with Warped Gradient Descent 作者：Sebastian Flennerhag, Andrei A. Rusu, Razvan Pascanu, Francesco Visin, Hujun Yin, Raia Hadsell机构：DeepMind、伦敦大学学院、谷歌等关键词：元学习、迁移学习链接：https://openreview.net/forum?id=rkeiQlBFPB&noteId=zwVZBPeDT

论文 31： Differentiation of Blackbox Combinatorial Solvers 作者：Marin Vlastelica Pogančić, Anselm Paulus, Vit Musil, Georg Martius, Michal Rolinek机构：马普所、图宾根大学等关键词：组合算法、深度学习、表征学习、优化链接：https://openreview.net/forum?id=BkevoJSYPB

论文 32： A Theory of Usable Information under Computational Constraints 作者：Yilun Xu, Shengjia Zhao, Jiaming Song, Russell Stewart, Stefano Ermon机构：北京大学、斯坦福大学等链接：https://openreview.net/forum?id=r1eBeyHFDH

论文 33： How much Position Information Do Convolutional Neural Networks Encode? 作者：Md Amirul Islam, Sen Jia, Neil D. B. Bruce机构：瑞尔森大学关键词：网络理解、绝对位置信息链接：https://openreview.net/forum?id=rJeB36NKvB

论文 34： BackPACK: Packing more into Backprop 作者：Felix Dangel, Frederik Kunstner, Philipp Hennig机构：图宾根大学、不列颠哥伦比亚大学关键词：自动微分框架；向后传播算法；BackPACK链接：https://openreview.net/forum?id=BJlrF24twB&noteId=EHmfrSLVu

另外，谷歌对于预训练模型 BERT 重要改进的研究 ALBERT（论文：ALBERT: A Lite BERT for Self-supervised Learning of Language Representations）也成为了 ICLR 2020 大会的 Spotlight 论文。

参会注意事项

值得注意的是，明年 4 月的大会将在非洲东北部的埃塞俄比亚举办，埃塞俄比亚平均海拔较高，有「非洲屋脊」之称。这也是第一场在非洲大陆上举办的 AI 顶会。

鉴于大部分参会者可能对埃塞俄比亚的风土人情都不太熟悉，大会主办方也给出了一些参会小帖士，其中有一些比较与众不同：

首先提到了大会活动流程，官方表示将在正式召开之前拿出一天的时间组织 workshop，主办方透露会有 8 位「意想不到」的讲者莅临现场。此外，为了让被接收的论文有更多的曝光量，也让参会者之间的学术交流更加充分，这一次大会基本每 4 篇论文中就有一篇有机会作为 spotlight，或者做更长时间的 talk。

打疫苗，然后再买份保险？

虽然说签证问题有效地解决了，但在去到埃塞俄比亚之前，你可能需要一支疫苗，具体取决于你在埃塞俄比亚的活动范围。如果只是单纯去首都亚的斯亚贝巴的话，应该没有感染疟疾和寨卡病毒的风险，这两种疾病基本上是在海拔 2000 米以下的地区通过蚊虫叮咬来传播。

具体的情况，各个国家的参会者可以参考世界卫生组织发布的疾病咨询与健康指南，非常全面。嗯，但内心还是有些瑟瑟发抖。

传送门：https://www.who.int/ith/en/

安保问题

ICLR 大会将在首都亚的斯亚贝巴的 Bole 地区举行，这是一个安全性有保障的地方。亚的斯亚贝巴举办过很多次大型会议和赛事，在安保方面还是有经验的。

通过与政府机构的合作，警方将在大会场所会加强巡逻以确保安全，The Millennium hall 也会有安检措施，对进出车辆和物品进行检测。此外，ICLR 还拥有自己的专属热线电话。

LGBT 群体的参会建议

彼时 ICLR 2020 刚宣布要在埃塞俄比亚举办大会，就有许多同性恋学者表示：「在下告退。」

这件事确实很难办，因为埃塞俄比亚的法律中有着严格的「反同性恋条款」。在埃塞俄比亚刑法的第 629 条中，同性恋行为的最高刑罚是 15 年监禁，且这一条不只适用于本国公民，也适用于外国公民。

尽管会得到一些有关 LGBT 群体组织的协助，但要不要前往埃塞俄比亚参会，确实需要再三斟酌。

去年 11 月，人工智能先驱 Yoshua Bengio 宣布了 ICLR 2020 即将移步非洲的消息。

有关 ICLR 2020 的更多情况，尽请关注我们的报道。

参考链接：https://medium.com/@iclrconf/ourhatata-the-reviewing-process-and- research-shaping-iclr-in-2020-ea9e53eb4c46_

作者暂无likerid, 赞赏暂由本网站代持，当作者有likerid后会全部转账给作者（我们会尽力而为）。


Support author:
Author's Filecoin address:
Or you can use Likecoin to support author: