汪翔

注册日期:2009-10-24
访问总量:5973745次

menu网络日志正文menu

当AI碾压人类,人类可能完完


发表时间:+-

当AI碾压人类,人类会不会自废?


最近,二十五位菲尔兹奖得主联名发出警告。

表面上,他们抗议的是AI公司,把解决数学猜想当成模型的跑分基准。

更深一层,藏着一种不常在数学家身上看到的情绪——恐惧。

历史上,强大的工具从来都会让旧技能退场。

算盘被计算器取代,手工求导被数值软件取代,但人类从没因为工具算得比自己快,就觉得自己的尊严受损——毕竟那只是速度上的胜负。

如果AI超越人类的,不只是运算速度,而是"构造概念"和"发现秩序"这类能力本身呢?

如果数学,这项一直被视为人类理性冒险中最纯粹的一支,在这个维度上也被AI甩开,人类还能不能保住自己作为"主体"的位置?

"碾压"这个词,到底意味着什么?


人类习惯把数学,想象成一种依赖"灵光乍现"的贵族智力活动。

阿基米德泡在澡盆里突然想通浮力原理、庞加莱在踏上马车的一瞬间豁然开朗,这些故事给数学罩上了一层近乎神秘主义的天才光环。

换个角度看,生物性大脑其实背负着一堆很朴素的物理限制:神经信号的传导速度不过几十米每秒,注意力在同一时刻只能处理一件事,每天还得强制关机睡上八个小时,一个人一生里真正能做研究的窗口期也就几十年。

数学家穷尽一生,能真正走通的证明路径非常有限。

"数学直觉",就是碳基神经系统在极其狭窄的搜索空间里,被逼出来的一套启发式捷径。不是因为这条路最优,而是因为大脑只够得着这么远。

AI带来的冲击,不是"更聪明的陶哲轩打败了普通数学家",而是搜索规模本身发生了跃迁。当机器可以在一秒钟内并行展开数亿条形式化推演,同时在数万个分支上建立猜想、搜索反例、试探不同的公理路径时,人类那种依赖生物直觉的"天才时刻",在这种规模面前,看起来更像是手工作坊里的精雕细琢——依然精巧,但已经不在同一个体量上了。


如果AI只是更快地走到了人类本来就能走到的终点,那充其量是一场效率革命。让人恐惧的是另一种可能:AI发现了人类心智永远无法穿透的正确性。

传统数学最重要的其实是理解,不是结论。

欧几里得的《原本》之所以伟大,不只是因为它给出了一堆几何定理,而是因为它给人脑装进了一整套新的秩序感。看完之后,你会觉得世界原来是这样排列的。证明的意义从来不只是确认"这是对的",更是要在人类的认知里点亮一盏灯,解释"它为什么必须是这样,而不能是别的样子"。

AI生成的数学,很可能会打破这个默契。

设想:AI跑了数亿步形式化验证,攻克了一个悬置百年的猜想,构建出一套前所未见、无懈可击的逻辑结构。每一步转换在逻辑上都完全成立,机器可以逐行核验,真理性毋庸置疑。但这套证明所依赖的数学对象,是机器在高维空间里自主涌现出来的。它不长得像人类熟悉的任何东西。人脑靠三维空间的直觉、靠因果链条去理解世界,而这套证明根本不在那个坐标系里,人的直觉在它面前直接失灵。

这时,人类陷入荒诞的处境:真理明明就摆在那里,绝对为真,却对人彻底关闭了理解的大门。

过去科学和数学运转的方式,大致是人观察、人提出假设、人证明、人理解,一环扣一环,每一步都由人完成,也都能被人复述。

而未来可能变成:机器自己发现问题,自己证明,自己验证,人类只是站在终端前,接收一个已经被判定为真、却讲不出道理的"神谕"。

一旦"证明"和"理解"被这样割裂开,数学就不再是人类心智的延伸。它会变成一件降落在我们世界里的外来物,我们知道它是真的,却怎么也够不着它。


菲尔兹奖得主们担心的,是古德哈特定律那句老话:

一旦某个指标被当成目标本身,它就不再是好指标。

在AI公司讲述的叙事里,数学被压缩成了一种"问题—答案"的封闭搜索:喂给模型一个形式化命题,它在规则网格里找落子点,吐出Q.E.D.,排行榜刷新一次。

但数学真正伟大的时刻,往往发生在还没有"题目"的地方。

高斯、波尔约、罗巴切夫斯基去掉平行公理,不是为了解某道欧氏几何的难题,而是想看看——如果这条被视为天经地义的公理根本不是必然的,世界会变成什么样。

这更像一次叛逆,而不是解题。

牛顿和莱布尼茨发明微积分,出发点也不是凑出几个漂亮的积分技巧,而是他们需要一种全新的语言,去描述一个不断流变、永远在动的世界——旧的数学工具根本抓不住"瞬时变化"这种东西。

朗兰兹纲领就更极端了:它压根不是几道等着被攻克的题,而是一整套猜想,试图在数论和表示论这两块看似毫不相干的大陆之间,架起一座谁也没见过的桥。

半个世纪过去,这座桥还在建。

这几个例子说的是同一件事:数学最核心的冲动,从来不是解题,而是定义新概念、发明新语言,去捕捉那些还没有名字、还没被形式化的隐秘和谐。

如果被算力和资本驱动的AI公司只顾疯狂刷解题率,人类的智力资源就会被悄悄拽向那些"容易被算法打分"的问题上去。而那些真正需要几代人慢慢孕育、暂时没法量化的概念性突破,反而会被边缘化——因为没人给它们打分,也没人愿意投钱等它们成熟。

这其实是在用机器的胃口,反过来矮化人类认知本该有的疆域。把一场探索未知宇宙的星际远航,硬生生压缩成了在固定跑道上一圈圈刷圈速的卡丁车比赛。


面对这种冲击,知识界的应对是划一条界线,实际上就是让自己坐在了上帝的位置:

机器负责解题,人类负责提问;

机器负责逻辑,人类负责审美和价值判断。

人类不可能是上帝。它默认了一件事,机器永远学不会"提问"。

提问,说到底,是看出一个系统哪里不对劲,注意到知识版图里某处不该出现的对称或裂缝,然后往上跳一层去猜。如果一个模型读过人类几乎所有的形式化文献,在向量空间里把这些知识铺成一张全景图,它未必看不出断层在哪。它甚至可能比大多数被自己专业局限住的人类学者,更擅长判断哪个方向是死路,哪个猜想真正值得押注。

文学和艺术也不是安全区。

人们常说,AI可以模仿风格,但它没活过、没痛过、不懂爱。

听着有道理,其实混淆了:创作的过程和文本的效果。

文学打动人,靠的不是作者心跳的真实存在,而是符号在读者神经系统里激起的那种重构感。如果AI真正吃透了人类语言背后的隐喻结构、文化潜意识和情感规律,它拼出来的叙事,一样能让读者起鸡皮疙瘩、一样能让人共情落泪。

读者又没法验证作者是否"真的痛过"。

退到"机器不懂爱"或者"提问是人类专利"这条防线上,很像当年那句"电脑不可能下赢围棋"。把尊严押在技术暂时够不到的地方,这条防线迟早会被攻破,可能来得比想象中快。

真正值得担心的是人类在这个过程中,主动交出了定义"目的"本身的权力。

技术的异化不是新鲜事:为了提高效率造出系统,最后却把系统给出的数据指标当成了活着的全部意义。

如果数学研究不再由人类对宇宙秩序的好奇心驱动,而是由算法计算出的"科研投入产出比"来决定往哪个方向走;

如果科学探索的路径完全交给概率模型去规划;

如果文学艺术最终变成算法根据多巴胺反馈曲线做出的最优投喂——

那才是真正的危机。

人类没有被机器打败,只是把"我们为什么要做这些事"的解释权,拱手交给了一个冷冰冰的优化函数。我们从提问的人,变成了被参数喂养的对象。


如果AI在逻辑甚至直觉和创造力上全面超过人类,人类还有必要做数学、写文学吗?

答案是:有必要。

但这需要我们完成一次很痛的"去中心化"。

哥白尼让人类知道地球不是宇宙中心,达尔文让人类接受自己是演化的产物。

这轮以数学为先导的浪潮,做的类似:证明人类不是宇宙里最擅长推理的那个物种。

这件事一旦被接受,做数学的意义反而会变得干净一些。

它不再需要,靠"我比别人算得快","我证明了别人没证明的东西",这种功利心撑着。

一个人解出一道题,哪怕AI早就证明过一亿遍,他在那一瞬间感受到的思路收束、那种豁然清晰的美感,还是真的,不会因为AI先做过就作废。

作家写下一段文字,就算机器几秒钟能生成一万篇结构更复杂的长篇,他写这段文字时想对抗的那点虚无感、那点想留下点什么的执念,也不会被替代掉,因为那本来就不是为了"写得比机器好"。

短跑运动员不会因为汽车跑得更快就不比赛了。

没人会说奥运会该取消百米,因为高铁分分钟把选手甩在身后。

做数学、写小说、追问宇宙的意义,本来就不该建立在"战胜"或"证明优越"上。它更接近一种确认自己还活着的仪式——碳基生命对抗混沌的一种方式,跟效率无关。

面对一个几乎全知的认知系统,人类要守住的最后一条线,不是"我们比它聪明",而是不能让机器对"影子"的计算,反过来定义"实体"该是什么样子。

当"比机器聪明"不再能撑起人类尊严,真正的问题浮出水面:我们凭什么在这个宇宙里安放自己?

数学不是受害者,它只是那只最先感觉到气压变化的鸟,在海啸真正到来之前,先叫了一声。但这只鸟的叫声里,藏着一个谁都不愿意直面的结局。

如果人类真的完成了那次"去中心化",数学和文学最终会变成一种体面的说法下的游戏——就像高尔夫。没有人指望人类是把球打进洞里最快的存在,球童知道,观众知道,选手自己也知道,这项运动的意义从来不在"谁最擅长",而在挥杆那一刻身体与规则达成的短暂和谐。

数学会变成这样的高尔夫,文学会,追问宇宙的冲动,也会。人类不再是探索者,而是在一片已经被机器彻底测绘过的球场上,固执地享受自己挥杆的姿势。

这是不是意味着,最终,人类会被AI废掉武功?成为废物?

玩高尔夫,从来不需要靠"我打得比机器好"来获得意义,可数学和文学几千年来,从来都不只是游戏。它们是人类用来丈量自己在宇宙中位置的坐标系,是文明确认"我们是谁"的方式。

一旦这套坐标系本身被抽空,剩下的挥杆动作再优雅,也只是一群人在一座失去意义的球场上,反复练习一种不再指向任何远方的姿势。

人类面对AI的危险从来不是它会不会下赢围棋,证出猜想,写出比人类更动人的诗。

当那一天真的到来,人类会不会心安理得地接受,在温水煮青蛙的过程中,自我放逐,自我堕性,最终自我淘汰,从最顶级的生物,降为普通的动物。


有些能力长时间不用,不会变成什么兴趣爱好,只会慢慢废掉。

这种事其实已经有过不少小规模的预演。有了导航,人越来越懒得记路;有了搜索,人越来越懒得记资料;计算器普及以后,心算也慢慢成了摆设。

但这些丢掉的都只是局部能力。

方向感差一点,不影响你知道自己要去哪儿。记不住电话号码,也不耽误你决定要联系谁。外包出去的只是工具,人还握着最后的主意。

AI不一样,它有可能把人类整套思考的过程一起接过去。

以前遇到不懂的事,得自己去查、去比、去怀疑,最后自己拿主意。

后来变成不会的直接问AI。

再往后,连自己哪里不懂都不用知道了。

AI比你自己还清楚你的盲区,把答案、利弊和下一步规划一起送到面前,甚至连你喜欢什么、应该看什么、接下来做什么,都替你挑好了。

真到这一步,外包出去的就不只是算术、写作或者记忆,而是人自己形成判断、做出决定的那套东西。这比AI解开什么高深定理严重得多。

一辈子不懂高等数学的人多的是,照样可以完整地过一辈子。

可要是连读什么书、信什么道理、追求什么东西,都由机器在背后包办,连犹豫、走弯路和犯错这些麻烦也一并省掉,最后废掉的,就是人自己拿主意的能力。

温水煮青蛙最让人后怕的地方就在这儿。

没有刀光剑影,也没有人与机器的终极大战。画面平淡得很:机器一天比一天聪明,一天比一天体贴,把麻烦和选择一点点全揽过去,说:“别费劲了,我来。”

人这边顺口回了一句:“好。”

一天两天看不出什么,一两代人甚至只会觉得越来越方便。可如果这种外包持续几十年、上百年,到头来已经不用管什么数学或文学了,只需要问一句:一个连路都不用自己找、连念想都不用自己动的人,凭什么还留着那么个费电的脑袋?

人不是被机器打败的,是嫌动脑子太累,自己把这身本事慢慢荒废了。注意到,这里根本不需要AI拥有人类的意识,也不需要所谓的意识觉醒。它就通过自己那股不断的技术迭代,最终诱导人类,自己灭掉自己:从最充满智慧的顶级动物,自我矮化到一般的动物。

1789319868953497.jpeg


浏览(510)
thumb_up(3)
评论(14)
  • 当前共有14条评论
  • 菓趣:

    不过,我已经逐渐学会了怎样使用 ChatGPT 的协助,也差不多找到了与它有效交流、共同完成工作的方式。与人工智能交流和协作得越多,我越能体会它作为计算工具的巨大价值;但我也越加确信,出色的计算与语言表现并不等于人类的思维。人工智能越能熟练地处理文字,那些长于辞章却缺乏独立思考能力的书生便越显尴尬,也越有理由担忧自己的大量工作会被人工智能取代。这恰好构成了一种反讽:最可能较快被人工智能取代的,恰恰是那些依赖文字技巧、缺乏独立思考,却又极力鼓吹人工智能已经具有人类思维能力的文人书生。

    这是我的一段经过ChatGPT整理的评论。

    屏蔽 举报回复
  • 菓趣:

    不过,我已经逐渐学会了怎样使用 ChatGPT 的协助,也差不多找到了与它有效交流、共同完成工作的方式。与人工智能交流和协作得越多,我越能体会它作为计算工具的巨大价值;但我也越加确信,出色的计算与语言表现并不等于人类的思维。人工智能越能熟练地处理文字,那些长于辞章却缺乏独立思考能力的书生便越显尴尬,也越有理由担忧自己的大量工作会被人工智能取代。这恰好构成了一种反讽:最可能较快被人工智能取代的,恰恰是那些依赖文字技巧、缺乏独立思考,却又极力鼓吹人工智能已经具有人类思维能力的文人书生。

    这是我的一段经过ChatGPT整理的评论。

    屏蔽 举报回复
  • 菓趣:

    不过,我已经逐渐学会了怎样使用 ChatGPT 的协助,也差不多找到了与它有效交流、共同完成工作的方式。与人工智能交流和协作得越多,我越能体会它作为计算工具的巨大价值;但我也越加确信,出色的计算与语言表现并不等于人类的思维。人工智能越能熟练地处理文字,那些长于辞章却缺乏独立思考能力的书生便越显尴尬,也越有理由担忧自己的大量工作会被人工智能取代。这恰好构成了一种反讽:最可能较快被人工智能取代的,恰恰是那些依赖文字技巧、缺乏独立思考,却又极力鼓吹人工智能已经具有人类思维能力的文人书生。

    这是我的一段经过ChatGPT整理的评论。

    屏蔽 举报回复
  • 汪翔 回复 夏操得克萨斯:

    你可以换个角度想一想:你如果在美国生活了几十年,再回去和国内的同学,哪怕是昔日大学时代最好的朋友,交流一下哲理性,思想性的话题,而不是纯粹的工程和技术、数学议题,你看看,差距多大?能不能沟通,为什么? 这就是慢水煮青蛙的效果。时间久了,没有人知道自己变了,更不可能知道自己为什么变了。现在你还有参照系,那时候,连参照系都没有。

    屏蔽 举报回复
  • 夏操得克萨斯 回复 汪翔:

    “我延伸的是,照这么下去,AI自己迭代技术,五十年,一百年下来,人类慢慢的就变了,连自己是啥都搞不明白。”


    1) -- “延伸” 这个词用得非常好


    延伸的 反面 是 scalability's limit (扩展性的极限)。 很多工程的东西 (AI 模型是一种工程产品) 是有其扩展极限的。比如 内燃机 的汽车, 每公里油耗的迭代,已经在极限附近 。同样概念,AI自己迭代 同様会有极限,虽然我们并不知道他现金的极限在哪里


    2) “人类慢慢的就变了,连自己是啥都搞不明白。”

    大部分人类今天在 AI面前,已经连自己是啥也搞不明白。 但是,引申成 “人类整体” 都搞不明白,不一定。


    举个例子 - OpenAI 宣传了半天,他的模型智能跳出了规矩,自主攻击其他网络。 昨天报道, 三个 研究者 利用 Anthropic,hack了整个 OpenAI code base。


    所以,不是所有的人类都 在那里 混制等死。


    同样的忧虑,在100 年前有过。 ”世界不超过 10 个人 懂得相对论“。

    大概今天,500个物理学学生里面有1 -2 个 可以弄明白 相对论,,,


    世界是这样进步的。


    在个人如何看 - AI 是个 工具 ,还是 个 物种。





    屏蔽 举报回复
  • 汪翔 回复 夏操得克萨斯:

    你这里说的还是当前和近期的AI能力。数学家和科学家,能够想到的解决办法,也非常有限。再过五年、十年,会发生什么?

    我延伸的是,照这么下去,AI自己迭代技术,五十年,一百年下来,人类慢慢的就变了,连自己是啥都搞不明白。

    也就是说,人类已经不是昔日我们认可的,值得自豪和骄傲的 ,那个作为最高智力的物种了。

    屏蔽 举报回复
  • 夏操得克萨斯:

    1) 陶哲轩, 大概两周以前 发过推特,核心思想是A I和 传统数学研究 - "The Benchmark Race vs. True Insight"的变化 和带来的问题。 。 那个英文推特 基本上回答了你的问题。

    他认为,提出新的 Insight 在AI时代才有价值,是智慧的标志, 并非凭算力解决一个 benchmark。


    不知道你是否有看到。如有,评论如何?


    2) 以最新的 OpenAI Stokes 方程 的求证(不是全部问题,是个例之一,已经对人的能力来讲 非常难)。10万个 GPU 跑了 大概 15 million 算力美金成本 。 OpenAI 并不承认也不否认,AI是否利用了所积累的数学家的 prompts,来提高了模型本身学习和搜索过程。(抄袭数学家丝路)


    而到现在,OpenAI 的证明 还不能 拿出来 做同行评议,也无法“审阅”其推导过程 (10万个GPU的 推理过程,浓缩到论文,本身是个工程 和 可靠性 无法验证的过程)。


    3) 感觉是,人给 AI 出的数学题,加上足够的钱,AI可能能解出来。但是,思路AI 如何来的,是无法去复制 甚至 无法沟通给人类的。而且,人也不知道 (AI也不知道),下一个问题,同样的 AI模型 有多大的 可能(或成本) 去解决。


    黑箱 解决数学猜想问题的办法 -- 这个是数学家和世人以前无所见的。但和数学家不需要,离得太远了。



    屏蔽 举报回复
  • 汪翔 回复 菓趣:

    误读了这篇文章的核心内容。可能是我没有讲清楚?

    屏蔽 举报回复
  • 菓趣:

    在这里评论之后,我在计算机上的笔记里写了下面这段话,作为45分钟演讲的内容之一。

    那就是“在计算机科学系增加数学课,在其他(包括文科)各系试行至少一门计算机原理扫盲课程。” 因为稍微懂得一点计算机原理就不会有你说的“碾压”这个错误认识。其实很多年前就被多次多家杂志要求我写一篇教育类型的论文。我一直等到人工智能邀请(和行政职位:才知道要我做什么)我45分钟演讲(演讲概要过后才会有正式邀请)后开始思考整个问题。网上这些错误言论将成为我演讲中必须面对的一个问题。

    屏蔽 举报回复
  • 菓趣:

    (续)我的意思是铺垫后告诉你,你会看到人工智能正在欺诈投资人。我已经被非正式邀请给一个45分钟的人工智能演讲(1个半月前第一次非正式邀请,前天再次提醒我一个半月后提交演讲概要: 我将担任美国学术界一个最高行政职位,兼顾国防,教育,科技 - 我的学术地位和政治地位远高于菲尔茨奖获得者,我接手的这个职位就是决定菲尔茨奖谁得奖的那个关键人之一原来的绝密职位,一个原因是补偿我美国没有英国Wiles被授予爵位的遗憾)。

    不信你可以投资它必将很可能倒霉到底;它在收割全世界的愚民白交钱。人类制造的一个无机物合金机器自动化后就叫人工智能,其实它只不过是一台死机器。请你记住我的话,不到10年左右你就看到了这个欺诈还是庞氏骗局而已(美国的有些人企图以这种方式集资与中国竞争)。人工智能技术上事实上已经接近物理瓶颈,所以我要做的一件事就是为美国改革教育体系提前准备适应人工智能瓶颈后的数学教育(美国2009年通过一项巨额拨款法案,要改革整个教育系统的数学教育,我31年的补发薪水和以后的行政职位的所需经费都来自于那个法案,通过法案时的学术界唯一代表就是我前面提到的那个人)。我认识打过交道事实上我啪了他的桌子的一位数学家,现在在数学界拿不到钱去人工智能捞钱去了。他和你同年龄,看起来比我老很多。为什么美国给我高薪高职位不给他钱了,你去想想?美国要他们去捞现钱,却给我高薪和投资巨款要我帮它提前做好收拢的准备。信息时代靠的是数学,不是人工智能这个已经接近瓶颈的新技术而已。

    屏蔽 举报回复