一类被我下意识抹杀的想法

我常犯一种错误，即因为一个想法缺少数学的美感，而下意识抹杀 却忘记了，技术的作用是服务于人 举两个例子 一、四分树 我之前提到过，jon bentley老爷子和我们学校关系很好，经常来我们学校讲课 他最好的文章是大三随手写的，叫quad tree，即四分树 我于是捧起他的著作 四分树的想法很简单： 对于一维的实数，如果我们想快速查询删减，都会用二分树，每一个分叉分为左和右 年轻的老爷子便想，那对于二维的实数的查询，是不是就应该用四分树，每个分叉把地图分为左上、左下、右上、右下？ 这个想法我肯定高中学算法的时候想到过，但潜意识瞬间就抹杀了 因为我想，如果二维要四分树，三维要八分树，四维要十六分树，可我有成百上千维的矢量，岂不是就爆了 curse of dimensionality 但仔细读了文章后，才明白是我钻牛角尖了： 二维的信息生活中那么多，光地图的应用就有多少 这么多问题能解决，还不满足啊？ 所以不要因为一个想法不够能拓展而抹杀，能解决人们的需求就够好了 二、Self Forcing 另一个想法是self forcing 最近，扩散模型的一个方向是视频生成 一种做法是，每帧图像用diffusion，帧与帧之间做next frame prediction。大家叫它block AR 怎么训练呢？拿一段视频数据，让模型根据前几帧，生成下一帧 因为根据的帧是真实的帧，也就是质量较高的帧，所以我们称为teacher forcing 问题来了，当我们一帧一帧做生成的时候，模型根据的帧变成了自己生成的那些质量较差的帧了 训练时和推理时不对齐，会有bias 此时便有了Self forcing的思想，我们用自己生成的帧训练不就好了？ 这个想法也是曾被我瞬间否定的 因为扩散模型生成很慢啊！要是先做roll out再做训练，成本得多高？ 后来，偶然一次聊天，实习的小伙伴们推荐我去读self forcing 的原文 文中说，既然贵，那就只在后训练做就好了 啊？！ 我当时心里很震撼，这是什么邪修手法？！ 但是冷静下来想想， 涨点吗？ 涨。 贵吗？ 不贵。 那还要什么自行车【bushi 反思许久，原来是我着相了，这方法明明很巧妙 写这两例子，是想让我自己反思，到底下意识kill 掉了多少类似的想法？ 可因为kill 掉了，我根本意识不到它们的存在 马斯克常说，第一性原理 这里的第一性可能需要加一句，以人为本 黑猫白猫，能解决人们需求的就是好猫