假如给各位o4级别的模型,哪些原来做不了的科研现在可以做了?
假如给各位o4级别的模型,哪些原来做不了的科研现在可以做了?
这两天跑UT Austin找同学玩,跟他蹭了几节物理课。 其中一节课是数值解广义相对论。教课的是一位很有活力的女老师。 整节课,她都在跟我们讲,爱因斯坦方程有多复杂。 解析解除极个别情况外,想都不要想。 对于数值解,得先证明整个PDE是well posed(我也不知道啥意思,好像是一个解如果改一点还是一个解之类的),再找一个起始条件,才能开始算。 听起来不复杂,但人类第一次对于一个很具体的情况,做到这一步,已经要等到1950年了。 而对于更复杂的情况,现在的解法基本是一种情况一套方法,没有任何通用性可言。 作为一个搞伪科学+伪数学+伪工程的机器学习学生,我听得半懂不懂。下了课想提问,又提不出跟物理相关的问题,只好问: “如果AI这两年突破了,如o4-o5级别的模型出现了,在数学物理的推理上能够达到普通数学家的水平。那么,给您这样一百亿个平庸的数学家,有什么原来解不了的问题,现在就可以解了?“ 我本来以为,她会说诸如,AI可以把各种的edge case边缘情况进行更细致的分类讨论,再逐渐构建一个宏观的图景。这类似于当年解四色定理的时候,用计算机把所有可能的拓扑情况分成了几十亿种,然后一个一个试过去。 但她的回答更有意思: “现在,用来解爱因斯坦方程的数值方法很慢,精度也很低,大多用的一阶的有限差分法估算偏微分方程里的导数。 “主要是因为,物理学家为了解决数学上的各种前置问题已经焦头烂额了。 “光是一阶的差分,就有十个公式,前四个用来确定一个时间上的快照snapshot解,即某一个瞬间的空间状态,后六个用来进行时间上的推演。 “如果要做更高阶的如runge kutta的算法,有可能光是推导这个展开式就需要数学家算几百辈子,人来做是推导不起的。所以现在没有这样的算法。 “如果有了AI,那么像展开pde的数值解法这种事情是纯劳力,应该可以自动化。这样的设计出的高阶算法,可能公式好几万行,有几十万个项,但精度和收敛速度都会高很多。“ 这个回答给我很大的震撼。 我们知道,智能的提升主要来自scaling规模化,即更多的数据和更多的计算。预训练、后训练、以及新出的test time compute使用时计算,都是如此。 但这是我第一次想到,规模化还可以做在泰勒展开的次数上! 原来大家做低阶近似,纯粹是为了偷懒,算不动,太累了。 以后有AI,多少行公式都不是问题 到时候,哪怕有一丝丝精度的提升,只要没有限制,都给我展开个十二阶看看,不报错再说理论没问题。 更进一步的考虑。AI之前的智能很贵,未来会很便宜。没AI的时候,如果一件事算清楚所带来的收益,没有个几万刀,是绝不会请个phd研究清楚的。以后,哪怕一件只有几毛钱收益,都得叫AI算明白,毕竟电费只有几分钱。 为此,大家要开拓思路。除了泰勒展开的阶数,未来肯定有许多纯劳力的事情要通过自动化推到极致。想一想非常有趣。 Feel the AGI! 更: 我这里想探讨的是,如果我们可以堆砌非常多的简单智能,这样的量变能带来什么样的质变,或者叫涌现能力 一个类比,我们可以想象自己是欧拉高斯,正在手算各种ode微分方程。 在这个传统领域,现代人这方面能力真不一定比他俩强 这时,我们获得了一台计算机,可以进行超大量的简单计算。 那么,比较trivial显然的想法,是我们可以进行各种大数小数的运算,不用手抄1-100000对数表了。解析解也可以算得更精确 然而,non-trivial不显然的想法,是说对于找不到解析解的ode,我们可以直接暴力算数值解。 这样的想法对19世纪的人来说,因为成本太高,在潜意识想到的那一刻就被意识否决了,根本不会有严肃讨论的机会 更不可能想到这样的技术能便宜到用来做游戏里的物理引擎。(远甚,岂懂?) 这便是一种量变带来质变。 那么我们设想,未来的ai假如可以做超大量的简单数学推理,能够做到什么原来做不了的事情? 显然的想法,便是可以将人类现在的脑力劳动给自动化 但不显然的想法探讨起来更有趣,即那些因为成本太高被我们下意识否决的操作 本文便是在试着提出这样一个的维度,即数值方法的复杂度。 同样的,未来应该会有更多的,超出我们想象里的使用超廉价智能的方法
