一、同一个工具,两种体验:变聪明,还是变笨?
对谈里有个分歧很有意思。科幻作家说,他用大模型时会觉得自己在变笨:AI 给的"启发"常常是在两个概念之间建一条看似合理的连线,事后发现连线是假的,而自己却差点以为"我懂了"。计算机科学家的看法相反:只要用对方法,AI 比人聪明。
我的看法是,两个人说的都对,差别在于用法。AI 最大的风险不是它出错,而是它出错时听起来很像对的。你若拿它当搜索引擎或聊天机器人,问一句、收一个答案,就容易产生"知道了"的错觉。你若把背景、资料和思考过程都交给它,让它反驳你、给出不同意见,它就成了陪练。同一个工具,取决于你是被喂答案,还是在被逼着想。
二、为什么 AI 先在编程上突破,而不是写《红楼梦》?
对谈给了两个解释:
- 编程是人类在数字世界解决问题的核心手段,市场足够大。
- 编程结果容易判断对错,而文学、短剧这类作品缺少统一标准,评估智能体也就不好打分。
大模型本质上是概率计算,数理化这类能收敛、能验证的领域,它天然擅长。所以它写得出"符合大多数人品味"的《红楼梦》,却很难写出曹雪芹那个时代的《红楼梦》,因为后者是在没有《红楼梦》的世界里创造出来的。技术上,长篇创作的瓶颈是上下文有限、前后一致性难保持,但多智能体分工加共享设定库(总纲、人物、各章节共用同一套约束)可以缓解。所以"写得出"可能只是时间问题,"写得好不好"才是真问题。
我的见解是:AI 擅长从 1 到 N,从 0 到 1 的原创和判断,仍然是人的主场。
三、智能体靠的不是聪明,而是"笨功夫"
当前智能体的进步,更多来自工程方法,几种模式很典型:
- 赛马与投票: 多个智能体各出方案,再择优,减少个体失误。
- 挑刺智能体: 专门负责批评,弥补单个智能体"自我感觉良好"的缺陷。
- 接力: 上下文用满时,把任务交给新的智能体继续。
- 不达目的誓不罢休: 反复执行、对照目标、不断修改,并设定循环上限防止卡死。
这些几乎都是在模仿人类组织的协作方式。AI 的"聪明"有很大一部分来自人类几千年积累的管理智慧,这一点很值得品味。
四、为什么大模型厂商总是你追我赶,没有一家独大?
对谈给出的理由是:
- 架构红利还没吃完,工程细节上谁都能创新,而且高度同质化。
- 大家都在摸索,数据路线不断翻新(互联网数据、人工标注、智能体过程数据、合成数据)。
- 同行读论文、互相交流,优势很快被抹平。
- 模型之间还会互相"蒸馏",学思考过程(思维链)而不只是答案。
- 学编程意外提升了逻辑推理的泛化能力。
- 大模型和智能体双线进化:没有大模型,智能体没有脑子;没有智能体,大模型的能力发挥不稳定。
再加上 DeepSeek 把推理模型的技术原理公开,真正的开源带来了群体智慧和网络效应。地基大家都知道,地基又足够大,修修补补的空间很多。所以短期内难有赢家通吃,倒是对使用者有利:选择多、迭代快。
五、别拿互联网和智能手机的历史去套 AI
"现在相当于 1995 年雅虎时代"这类说法,对谈里被批评为思维偷懒。无线互联网和传统互联网的规则尚且不同,AI 更是前所未有:它不只是软件,甚至不只是技术。刻舟求剑式的类比,会让人误判机会和风险。我很认同,与其找历史对照,不如回到第一性问题:它到底能做什么,不能做什么。
六、真正的变革是组织,而不是给每个人配个 AI
这是对谈里最有价值的部分。只给每个人配 AI 工具,就像给马车装发动机:组织结构、业务流程、岗位定义不变,人与人之间的沟通成本和扯皮依然存在。真正的智能企业,是工作流形成 AI 驱动的闭环,带来几个变化:
- 岗位边界变宽: 设计可以兼产品,产品可以写代码,工程师也要关心用户体验。
- 组织更扁平: 人与 AI 沟通顺畅,人与人对齐反而最难,所以环节要压缩。
- 文化更平等: 金字塔式的"螺丝钉"分工逐渐瓦解。
- 稀缺性迁移: 过去"知道怎么做"值钱,现在"知道做什么"更值钱。
对谈里的实验数据也很直观:一小群工程师加应届生,用 AI 全闭环(开发、测试、发布、运维)三周做完了过去 50 人半年的产品,效率提升 5 到 10 倍。
我的看法是,这对个人和小团队尤其是机会:当"做出来"的成本大幅下降,竞争力就更多取决于对用户和场景的理解。
七、人守住什么:提问、判断与"痛感"
这部分是全篇的内核,可以归纳为四点:
- 提问力。 AI 时代最难的是批判性地问深入的问题。能清晰地问出问题,就能带着问题去讨论、去读书,学习效率最高。
- 短闭环。 AI 有自己的闭环,人也要有:知道自己在干什么、怎么做出来的、对结果负责。
- Harness(约束与评估体系)。 AI 像孙悟空,能干但需要紧箍咒。人要天天琢磨:它能做什么,不能做什么,边界在哪。对谈里还提到用专门的安全智能体监督其他智能体,充当"吹哨人"。
- "痛"与敬畏。 人类没有自我毁灭,很重要的原因是人会痛、会克制。AI 只是模拟出痛,并没有真的痛感,没有痛就难有同情。这是整场对谈里最有分量的一个问题:我们该如何给 AI 系统建立"畏惧"?
八、孩子还要不要读书?
很多家长问:什么都能问 AI,孩子还需要学数理化吗?对谈的回答是需要。大脑不是电脑里的硬盘和内存,学习的过程是在训练一张神经网络,这张网络会在生活中不知不觉地发挥作用。就像程序员即使以后不再手写代码,编程训练出的逻辑和写作能力依然在。更好的用法,是让 AI 做"苏格拉底式"的老师:不直接给答案,而是反问,并在发现知识点错误时再讲解。
我的几点总结:
- AI 是智囊,不是诸葛亮。主意可以让它出,决定必须自己做。
- 先自己想,再问 AI,往往比"先问 AI"更能保住独立判断。对谈里也有人明确反对"AI first",主张"AI second"。
- 工具的红利很快会被抹平,组织方式、对用户的理解和判断力才是长期壁垒。
- 越能干的 AI,越需要人去设定边界、承担责任。能力在机器那边,责任仍在人这边。
结语:
AI 长出了手,能写、能编、能执行,但"心"依然需要人自己守住:会问、会判断、敢负责、懂敬畏。当机器什么都能干,人最该保留的,恰恰是那些无法被外包的东西。
