深度学习领域，你心目中 idea 最惊艳的论文是哪篇？

我梦到过这样一篇文章。 已不是ICLR的八股文，为毫不现实的场景配上一段可有可无的证明和实验；也不是堆算力换架构，用无限的数据和电喂出来的怪物。 它轻轻出手，写下一行公式：智能的定义。 那公式初看极其自然，似乎来自于热力学的某些概念，又暗暗包含了统计中样本量与准确性之间的关系。 它简单，不过三两个变量，一两层求和/积分。 它准确，定量地告诉我们，人、狗、和Resnet的差距。 它深邃，抛开一切干扰条件，直指智慧的根本！ 于是，天地为之一变。 它能清晰地给出训练所需的数据的信息熵和计算量的下界。它还给了你一点提示，让你去追寻那不断接近于理论极限的“完美”的模型。 监督学习和无监督学习的界限被抹平了。因为在它看来，只要有信息的东西都一样，都可以用来提升智能。 各种曾经的模型和训练方法也被推翻。人们发现，曾经无数人实验维护分析的这些臃肿的架构，原来那么粗糙。 有了它，人们终于敢于正视自己的大脑。原来，造物主知晓这行公式也只比我们早了几十万年，才在漫长进化的最后一刻，创造出我们。 一切腐朽的理论研究全部被甩在一旁，大一统的理论将机器学习简化到任何人都能精通其中的奥妙。许多人丢掉了赖以水文章的工具，但更多的人扑了上去，用漂亮的证明和繁复难懂的框架，搭出一个个不敢想象的智能应用。但所有的一切，不过都是这行公式的注脚，在它出现的一刻已经确定了的。 后世的本科生，会拿起一本叫做智能论的课本。他们读到简洁的理论，清晰的推导，会问我们：“这东西这么明显，你们怎么想不到。“ 我们很激动，讲述一代代科学家怎么从rule-based intelligence走到统计为底，又如何从线性模型一步步发展到chatGPT这样的庞然大物。 然而，学生们对此不屑一顾： “早想到这个定义多好，你看，耗了那么多电，费了那么多人力，标了那么多数据，全是无用功。还不如现在本科生写的代码，一行就解决问题。你们简直就像托勒密学派的天文学家，被宗教束缚了想象力，天天研究地心说。日心说那么漂亮，你们却看不到……“ 我们辩解道，人只有在黑暗时才能知道烛火的可贵。但是，我们忽然想到，他们是在太阳下长大的…… 一行泪水从眼角跌落。原来，是我们老了。 当我再次凝视那行定义时，它忽得模糊了。一个个希腊字母扩散到了虚空中，变得褶皱，难以识别。我想尽一切办法，要把那一行公式从梦里带出来。可带出来的只有那行泪水，映着早晨窗外的太阳。 我起身坐在电脑桌前，继续那无聊的调参读书憋论文。 但我总记得这一行定义，在那美妙的梦里……