最近读了阮一峰老师的文章《没有语料AI就是一个智障》, 再结合近期体验了opus4.5(写好了需求梳理文档,喂给AI,乍一看功能全都实现完美,但等到与后端联调细看代码发现样式问题、TS类型问题、Form\Table等细节问题一大堆)。觉得AI的泛化能力不太够,离不开人的需求沟通拆解和创新能力。所以本篇文章原本想取名叫《AI或许没有那么恐怖》,但是看到AI的进化速度,加上自己也没有体验最新的模型Opus4.6,对Agent的研究也没有那么深入,不敢妄自菲薄,于是改了文章的标题。
本文先聊一下最近我了解到的AI Agent的进展;
再聊一下我的思考,AI时代人的价值是什么?人的优势在哪?
现在很多互联网大厂都在搭建AI知识基座。也就是团队项目开发过程中AICoding的问题(如环境问题、bugfix、经验等)通过AI沉淀到知识库。如果其他同事遇到类似的问题,通过RAG检索,快速解决问题,实现产品迭代的复利效应。
AI擅长的是已经训练过的预料,对于没有训练过的问题,AI就处理的没那么好。所以知识基座这个事情真的很重要。
LLM最大的通病问题是Context不够,随着上下文的增长LLM会出现降智、Lost in middle等问题。人要去思考 随着Context增长,是否增加了AI对你问题的了解程度。这里有一些经验
/clear 或新开一个会话/compact/clear/memory 编辑长期记忆/rewind 会退会话 (无效的会话不仅增加开销还会导致LLM降智)/branch 新开一个分支/btw 并行轻量提问指令,核心是:不打断主任务、不污染上下文、快速查答案。Context是最宝贵的资源,要治理它,而不是推起它SubAgent 将独立的认为拆成单独的任务,不占用主Agent的上下文Superpowers(CC的一个插件) 和Agent Team不只是为了并行提效,更是为了解决上下文长度的问题(处理复杂问题)Midscene.js 解决浏览器Agent上下文太长的问题Prompt Engineering --> Context Engineering --> Harness EngineeringContext Engineering是AI Agent能够更好的解决复杂的任务Harness Engineering的本质在于,人不在直接干预AI的每一步操作,而是构建一套系统来约束、引导和验证AI Agent的自主行为。
Context Engineering的延续。它包括上下文管理、回收机制、架构约束Harness能把同一模型的性能从42%提升之78%DeerFlow 2.0自称是harness架构harness架构昨天看了阮老师的文章,没有语料AI就是一个智障
回想最近我在AI Coding上的感触,AI确实不会提问题,它不知道它会啥不会啥。如果你的skill 文件中脚本地址写错了,如果Agent(如Claude Code)不暴露出来AI当前的动作,那么你就不会知道它为什么一直不响应,也不会想到它消耗你的时间和无尽token开销。
这里人的价值就是编写好更好的skill,需要搭建和维护一个知识基座:让“AI 越用越懂业务”的团队经验实践
因为AI的泛化能力不够,它无法分离一个会话中的多个问题,所以我们尽量只在一个会话处理一个问题。别让你的token越聊增长越快的同时AI的能力也越来越笨(人的价值是维护好上下文,用更少的token产生更大的价值)
另外对于前端来说midscene.js值得关注,它是一个浏览器agent,修bug用的,据说是用自然语言代替截图,节省token。
因为AI的泛化能力不够,当前的AI短期内是学不会这种能力的,就算学回了(有了新的训练材料),也学不会举一反三。
人是最强的的泛化机器,我们借助这个优势,用文字记载思维上的中间运算结果,一次次往前迭代、推进;而AI却是每次都要重新运算。
AI不会分辨对和错,或者说它的价值观是背后训练的数据决定的,是背后创造它的人给的,代表它背后的人的利益。它只会说政治正确、社会和谐、乐观的话。如先富带后富,科技进步人类越幸福,居民收入在持续提升,明天会更好等等。逃避痛苦是人的本性,熟不知人只有在春风得意的时候才会贷款买房买车,高消费,创业开店,杠杠炒股等。 这就是逆向思维。
其实任何事物都有两面性。
汽车方便了人类出行,但小孩上学就要接送,要遵守交通规则,也带了更多车祸。
AI提高了社会生产力,也放大了人的欲望,制造了毒性更强的电子鸦片。
现在种地不需要任何牛了,然而农民并没有变富,生活质量也没有好多少,为什么呢?为什么现在种地不挣钱了?。种地是不需要人了,不代表镰刀、锄头就没有用了,小而美的东西依旧很实用。
古往今来都是淘金热。从旧金山淘金、比特币挖矿到现在的AI热潮。然而真正赚钱的是卖牛仔裤的、生产矿机设备的、生产GPU的。夜夜暴富的黄老板再狂吹AI改变世界,AI在成千上万倍的提高社会生产力, AI公司在努力通过贾老板式的财报掩饰设备折旧的损失。
英伟达投资OpenAI,OpenAI签约租用Oracle的云服务,Oracle采购英伟达的GPU, 这样左脚踩右脚的轻功,营收和利润暴增,股价暴涨。 不明所以的人跟风买他们的股票。 殊不知,如果其中一环断裂(Oracle或OpenAI业绩爆雷)又会重复26年前的互联网泡沫破裂的场景。人们开始意识到AI解决不了吃饭问题,解决不了衣食住行,解决不了生产制造。当几乎所有人都觉得AI是泡沫时,AI却又真真切切的改变了人们的生活起居。就像2000年,互联网公司生产了大量的宽带、路由器、光纤,超出实际需求的9倍,但这些最后都变成了互联网时代的基础设施。
逆向思维与批判性思维不同,不是说,无论任何事情都从反面、负面去解读。如果是这样,总以为自己吃亏的人,是不会有好的运气。而批判性思维可以保证你不会被骗、被收割,但也不会给你带来好运气,也有可能深受其害。总之批判性思维和逆向思维都是我们必须要掌握的。
逆向思维是要求我们从多个角度考虑问题,不要非黑即白的看问题。
我再来介绍一个逆向思维的典故--屡战屡败。
东晋时期,有个叫殷浩的将军带兵北伐,打一次败一次,战绩惨不忍睹。
幕僚本来想给朝廷上奏,写的是:
“臣屡战屡败,请求处分。”
有人提醒他改一改语序,改成:
“臣屡败屡战,愿效死力。”
同样是败仗,
屡战屡败:说明无能、打不赢
屡败屡战:说明有骨气、不服输、意志坚定
皇上一看,觉得这人虽然输了,但勇气可嘉,就没重罚他。
后来这个 “屡败屡战” 就成了经典话术,用来形容虽然一直失败,但斗志不减。。 东晋时期,有个叫殷浩的将军带兵北伐,打一次败一次,战绩惨不忍睹。
幕僚本来想给朝廷上奏,写的是:
“臣屡战屡败,请求处分。”
有人提醒他改一改语序,改成:
“臣屡败屡战,愿效死力。”
同样是败仗,
屡战屡败:说明无能、打不赢
屡败屡战:说明有骨气、不服输、意志坚定
皇上一看,觉得这人虽然输了,但勇气可嘉,就没重罚他。
后来这个 “屡败屡战” 就成了经典话术,用来形容虽然一直失败,但斗志不减。
很多人都说AI让写代码无门槛,我不以为然。
AI Coding很爽,但代码写完了,或多或少会虚有其表。
一方面因为自然语言是模糊的,不严谨的,包含大量隐形要求,AI不知道,AI就会产生幻觉。
我们如果只是写个demo,那么AI效果确实很惊艳。但如果做生产项目,我们不能让PM follow RD吧?所以需要精细做工。
如果不懂代码,如何保证AI写的代码没有bug和安全漏洞,不会破坏已有的功能,代码质量及迭代维护成本,易读性等等?
有大佬也提出 Review测试用例而不是review代码。我还是觉得要具体情况具体分析吧。一方面测试用例与代码未必严格对齐,这样也会降低人对软件的理解;另一方面对于代码熟练工来说,Review代码未必比Review测试用例花的时间多。
总之承担责任的是人而不是AI,AI写代码虽快,但需要有专业的知识去审查Review AI写的代码。
抛开所有经验、类比、跟风和现成结论,回到最根本、不可再拆的事实、公理,从头推导,得出自己的结论。
埃隆马斯克就特别信奉第一性原理。说一个关了他的故事
马斯克在成立SpaceX公司之前,被paypal公司开除了,但他拿了 1.8 亿美元?那是股票,也就是暂时拿不出来的钱,他自己身边只有 3000 万。3000 万美元对我们来说是个超级大的数字了,但是对于买火箭来说只 是一比小钱。这点钱甚至买不起一枚最便宜的火箭。
不过这可难不倒爱动脑筋的马斯克,不就是用发动机点火,然后把一个大圆桶送上太空吗? 既然买不起现成的,我们就自己造一个。
他觉得只要准备好火箭需要的各个零件,最后拼成一枚火箭就行了。没过多久,又遇到难题。在准备发动机喷管的时候,他们发现全球只有一家公司生产这样的零件,买一个居然需要 13 万美元,这也太贵了。马斯克对工程师说,去别人家买呀。得到的回答是,大家都用这家公司生产的。马斯克一听,火冒三丈,大家都在用,我们就必须用吗?
他了解了一下,这个喷管就是负责把点火后喷出来的火焰聚集起来,形成一个对地面的推动力从而送火箭上天。所以理论上只要造一跟不会被火烧化的大管子就行。随后马斯克的团队花了 3000 块钱就把这根管子做出来了。13 万,三千块,43 倍。这就是动脑筋和不动脑筋的价格差距。
这样的事还有一次。在生产火箭外壳的时候。马斯克问工程师,为什么用铝合金这么贵的金属?工程师回答,因为铝合金比较轻,大家都在用。
听到“大家都在用”几个字,你一定能猜到,马斯克一下就跳起来了!大家都在用,我们就必须用吗?
我们用重一点的金属做外壳,多配几个发动机不就行了?最后,一枚装载着 33 台发动机的不锈钢火箭“猎鹰 1号”就这么被马斯克造出来了,而之前其他人生产的火箭最多也就配了 5 个发动机。像这样原本要花很多钱,或者是根本买不到的零件,最后被马斯克想办法解决的还有很多很多。通过这个事儿你能看出马斯克和他手下工程师的区别吗?那就是马斯克更会解决问题。尤其是他那一句:大家都在用,我们就必须要用吗?
这就是著名的第一性原理。
大家可以问一下自己,生活中大家都这样做,我也要这样做吗? 比如
大家请用第一性原理,务必仔细再仔细推导一下,是否上述每半句是否成立?
AI的知识不代表是你的,不要让AI代替你你学习,如果你只读AI给的摘要以为自己就掌握了。这就好比:
告诉孩子不要咬铅笔头,说这个没有用,你必须告诉孩子铅有哪些危害
告诉孩子要好好学习、请家教、上双语学校甚至出国读书都没有用。
必须让他明白不好好学习的孩子会怎样,爱学习与不爱学习的孩子长大后会怎样,用社会的发展规律去帮他分析推演两种人生轨迹。
所以千万不要只去读AI给的摘要,要自己去读原因,去思考分析。
这就是对知识是一知半解反而会使你的运气更差。
小孩子的思维通常把人分成好人和坏人,非黑即白的看问题。我们需要从多个维度去思考分析问题。
没有绝对对于错和好人和坏人。
如果我说,“房地产到底了,现在正是抄底的时刻,中国会超越美国,人民币会成为世界货币!”
这句话有真有假,只有对未来充满希望,老白姓才敢高消费,超前消费,中国会很快走出通缩,经济繁荣起来,科技进步加快,中国就会更快的取代美国成为世界之巅。我这样说也是为了爱国,但听了我这句话而买房高消费的人就成了托举中国在大国崛起道路上的垫脚石。
坏人也可能说真话,好人也可能说假话。
你爱听的话未必是好事,不爱听的话不一定是坏事。
比如,埃隆马斯克说,“未来AI成千上外倍的提高生产力,物资将不再稀缺,钱变得不再重要了”
我想绝大部分人听到这句话会心情舒畅,因为它能缓解焦虑。我试着用第一性原理分析下:
埃隆马斯克 反对“大而美法案”。如果站在美国人的角度,我觉得他是爱国的。
埃隆马斯克还说,
“五六年后,AI 总智能会超过人类总和,人类智能占比不到 1%。那时人类不可能掌控 AI。
我们能做的,就是让 AI 有真相、好奇心、美感 。只要 AI 觉得人类有趣(比石头有趣),它就会保护我们,而不是消灭我们。”
我觉的很对,套用工作很合适。只有不断持续的学习和产出,才不会让AI抢走我们的饭碗。
未来通过知识改变命运实现所谓的“阶级跃迁”会越来越难。因为随着的科技进步,工作所需技能的门槛越来越高,你需要发明更先进的机器、算法等才能挣到钱!
但通过知识守住自己的财富确是很容易。
这就好比你和一个发小打牌,每次都是输钱给他。他过目不忘,能记住出来哪里牌还剩哪些,他了解你能推算出你手中牌的大小,你的想法。
那么最简单的办法就是不要和他打牌, 也不要羡慕他每次打牌都赢很多钱。
你可以通过学习金融知识、经济学、人性等知识使自己的财产增值保值。
人是最强大的泛化机器,文字承载了人类的智慧,人是在上一代人的基础上成长的。有人很早就明白礼貌谦虚、吃亏是福、先苦后甜、感恩、控制欲望的道理,有的人一辈子也学不会,这就与人的差距。想明白人生的方向,才能在AI时代活的更久一些,,,
本文作者:郭郭同学
本文链接:
版权声明:本博客所有文章除特别声明外,均采用 BY-NC-SA 许可协议。转载请注明出处!