也聊聊为什么AI落地难
AI落地难的根本原因在于知识获取、验证成本和责任不清,特化模型和“Human in the Loop”是可行路径,但AI已在部分领域取代人力并引发社会变革。AI的工具重构是必然趋势,其目标是解决问题而非模仿人类,但AGI泡沫破裂后,市场将回归特化模型。AI在国防、编程等领域的实际应用表明其已产生价值,但复杂场景下的Context Window膨胀、运行时学习能力不足等仍是挑战。AI将大规模取代初级岗位,高级人才需学会指挥AI Agent,社会结构和法律框架将随之改变。
1. 关键信息
- (之前已归纳) AI在特定场景(易验证、数据充足)下表现良好,但难以达到100%成功率,幻觉普遍。
- (之前已归纳) 验证成本高是AI落地的一大瓶颈,尤其是在现实世界交互和复杂需求定义场景。
- (之前已归纳) 多步AI推理中,每一步的幻觉会累积,影响整体准确性,无法仅靠增加深度解决。
- (之前已归纳) 许多行业知识是隐性的,AI难以掌握,例如法律领域的辩护策略。
- (之前已归纳) 美国强调责任归属,AI出错时由使用者担责,导致企业对AI签字权持谨慎态度。
- (之前已归纳) AI学习新知识成本高,微调(finetune)仅对训练集内知识有效,RAG或Agent效果有限。
- (之前已归纳) AI落地难的根本原因在于知识、验证成本和责任不清的“玻璃天花板”。
- (之前已归纳) 未来主流可能是“human in the loop”,AI在可接受不确定性或易验证领域有发挥空间。
- (之前已归纳) AI的出现更多是减少工作人数,而非完全替代职业。
- (之前已归纳) AI替代的是初级岗位,高级人才将更多地指挥AI Agent。
- (之前已归纳) LLM的非确定性特性需要新的约束和监控系统,数据API成本也较高。
- (之前已归纳) 算力成本降低并不能解决AI落地面临的所有问题。
- (之前已归纳) 未来高级人才更侧重思维方式和设计能力,而非单纯的代码技能。
- (之前已归纳) L4、L5级别的岗位通常也是由初级岗位逐步成长起来的,暗示了AI对初级岗位的影响。
- (之前已归纳) AI落地难的根本原因被归结为试图在短时间内解决长期存在的问题(20年的问题放到2个月内解决)。
- (之前已归纳) AI在呼叫中心、写作(copywriting)、教育等领域已实现落地。
- (之前已归纳) 有观点认为,AI的“落地”标准不应过于严苛,解决大部分问题(如80%)即可算落地,历史上的成功产品也并非完美解决100%问题。
- (之前已归纳) AI被视为一种手段而非目的,对多数公司而言,AI本身不是产品。
- (之前已归纳) AI的成本高昂,客户(特别是中小公司、学校、医院等预算紧张的机构)不愿意为此付费。
- (之前已归纳) AI的发展速度惊人,从ChatGPT的“人工智障”到如今的快速迭代,预示着未来可能带来巨大的社会变革。
- (之前已归纳) 责任不清的问题在Agent面前可能不再是问题,生产力决定社会结构,法律和社会框架会随之改变。
- (之前已归纳) 生产力决定社会结构,AI的快速发展可能导致社会法律的变革,以及AI Native一代的出现。
- (之前已归纳) AI不具备分辨善恶、是非、对错的能力,这被视为其“天花板”,本质上是“巨型抄答案机器”。
- (之前已归纳) AI在处理“抄答案”类型的工作上表现胜任。
- (之前已归纳) 行业知识的隐性化是AI落地难的原因之一,尤其在程序员领域,过度开源和分享可能导致AI在该领域表现更好。
- (之前已归纳) AI的容错率是关键,不同行业对AI的容错率要求不同;例如,自媒体对插图要求不高,AI可满足,但广告公司则不行。
- (之前已归纳) 当用户具备相关知识时,能及时发现AI的错误并进行纠正,从而有效利用AI;否则,AI错误可能导致方向偏差。
- (之前已归纳) AI模型缺乏像“Magi”中女性角色那样的“一票否决权”的魄力。
- (之前已归纳) SaaS模式的定价方式可以多样化,不限于“per seat fee”,如“per operation”,SaaS公司仍有较强的议价能力。
- (之前已归纳) 商业上的复杂性远超技术上的简单性,AI在解决商业问题上并非易事。
- (之前已归纳) 科技出身的产品经理(PM)是否还需要高级职位存在疑问。
- (之前已归纳) 算力成本是AI替代领域的重要瓶颈,当算力足够便宜时,AI的替代范围可能会超出想象。
- (之前已归纳) 人脑在很多方面可能比AI能耗更低、成本更低,未来AI与人脑可能存在竞争关系。
- (之前已归纳) 论坛讨论者预测,在OpenAI等公司上市并找到接盘侠后,可能会出现论证AI“无用”的声音。
- (之前已归纳) AI的未来发展充满不确定性,既有巨大变化,也有不变之处。
- (之前已归纳) IRS(美国国税局)利用AI审查税表,尤其是在复杂的美国税法下,AI的潜在应用值得关注。
- (之前已归纳) AI的“落地”不应局限于“智慧”的卷比,而是普及自动化,通过降低成本实现全流程自动化,尤其是在工业化标准流程中。
- (之前已归纳) 即使AI存在错误和幻觉,其在某些工作类型中可能比人类更受欢迎,因为人类还存在“心机”等负面因素。
- (之前已归纳) 存在争议,有人认为AI的幻觉问题在安全和监管领域(如无人驾驶、版权)是致命伤,导致需要回归人工,而另一些人则认为AI在某些方面比人更优,且人类也并非完美。
- (之前已归纳) AI与SaaS产品的区别在于,SaaS是确定性地解决一定比例的问题,而AI常被宣传解决大部分问题,但实际效果却因幻觉等问题而大打折扣,甚至不如SaaS有前景。
- (之前已归纳) 线性外推AI发展速度(如从ChatGPT到取代人类仅需3年)被认为不靠谱,技术发展更可能遵循S型曲线。
- (之前已归纳) Agent的可靠性存疑,例如五角大楼禁用Agent,认为“全Agent社会”是虚幻的,AI发展并非如一些人所预期的那样迅速达到奇点。
- (之前已归纳) 真正需要负责的行业(如医疗、金融)AI难以落地,而创意写作等风险较低的领域则相对容易实现应用。
- (之前已归纳) 许多应用连20%的问题都未能有效解决,且幻觉问题在关键领域(如医疗客服)仍是致命伤,导致需要回归人工。
- (之前已归纳) Opus 4.x在编程领域取得突破,通过高度特化能力(放弃数学等)实现了对Gemini和GPT的超越,引发了程序员行业的震动,这被视为AI“落地”的典范。
- (之前已归纳) 讨论者认为,当前模型“傻逼”是因为追求一步到位的AGI,而忽略了特化应用的重要性。
- (之前已归纳) 认为AI的“落地”应是模型在特定领域进行RL(强化学习)训练,而非追求全能AGI。
- (之前已归纳) 讨论者认为,使用基础版Grok或国产AI模型在某些特定任务上(如检测模型)可能不如成熟的YOLO等模型,暗示了AI落地需要根据具体场景选择最合适的工具,而非一味追求最新技术。
- (之前已归纳) AI能写出不错的初稿、完成前期准备和整理工作,这本身就是一种“落地”,已经取代了相当一部分旧生产力,导致了部分岗位的裁员。
- (之前已归纳) 对AI“落地”的期望不应过高,未达到100%完美解决问题不代表AI没有价值,其已在很多方面取代了人力。
- (之前已归纳) AI对就业市场的影响是巨大的,即使平均取代一半的人力,也是一个非常可怕的数字,需要考虑被取代人群的未来。
- (之前已归纳) AI的发展不应只关注供给端(效率提升),更要考虑需求端(消费和就业),否则将面临生产过剩和消费不足的问题。
- (之前已归纳) 隐性知识和经验判断是AI落地的一大挑战,例如软件系统的异常指标分析、甲方需求处理、以及广告风格判断等,这些知识往往难以文档化,依赖资深从业者的口头传授和经验积累。
- (之前已归纳) 幻觉累积是简单的工程问题,但Context Engineering和Agent Engineering目前仍是为基础模型参数不足“找补”的工程实践,只能缓解而非解决AI落地中的核心问题。
- (之前已归纳) AI发展速度被夸大,从S型曲线被吹嘘成J型曲线,导致人们的反感。
- (之前已归纳) 效率提升10%的AI尚能通过创造新需求来缓冲,但50%的效率提升可能引发通缩螺旋。
- (之前已归纳) 预计在AI公司上市后,会出现论证AI实际提升效果远低于预期的声音。
- (之前已归纳) Context Engineering和Agent Engineering等实践,在模型不完备的情况下,依赖大量训练数据中的use pattern,但仍面临Tool Call的meta-pattern不足、上下文压缩丢失信息、Subagent依赖主Agent输入等问题,尤其在开放领域和缺乏训练数据的任务中更为明显。
- (之前已归纳) 即使在最成熟的Coding任务中,Agent Engineering也存在局限,例如非POSIX文件系统调用错误、外部工具利用率低,以及Subagent输出丢失中间上下文导致任务执行错误。
- (之前已归纳) 在涉及“实验硬件”等复杂Function Call时,定义其效果和边界情况(unknown unknowns)是巨大挑战。
- (之前已归纳) 对于法律案情分析或房地产Agent等开放领域,如何定义关键信息、避免上下文丢失,以及处理AI的“误解”是难题。
- (之前已归纳) Agent Engineering和Context Engineering本质上是为基础模型参数不足的“找补”,是妥协的工程实践,无法根本解决AI落地中的核心问题。
- (之前已归纳) AI的工具重构是必然趋势,因为AI的目标是“解决问题”,而非必须模仿人类的解决方式。
- (之前已归纳) 关于级联幻觉是否是主要问题,有待商榷,但目前的工程实践(Context/Agent Engineering)更多是为基础模型参数不足“找补”,而非根本解决。
- (新增) "Human in the loop" 模式是AI落地的一种可行方式,即AI辅助人类工作,而非完全替代。这种模式在AI能力有限或需要人工判断的场景下尤为重要。
- (新增) AI的“落地”不应局限于追求AGI(通用人工智能),而应关注其在特定领域的能力提升和自动化普及,例如通过RL训练的特化模型。
- (新增) AI发展速度的线性外推(如3年内取代人类)被质疑,更可能遵循S型曲线,且“全Agent社会”的设想被认为是虚幻的,Agent的可靠性不足以支撑。
- (新增) AI在需要高度负责的行业(如医疗、金融)难以落地,而创意写作等风险较低的领域相对容易应用。
- (新增) 许多AI应用连20%的问题都未能有效解决,幻觉问题在关键领域是致命伤,导致需要回归人工。
- (新增) Opus 4.x在编程领域的突破,以及特化模型(而非AGI)的成功,被认为是AI“落地”的有效路径。
- (新增) AI的工具重构是必然趋势,因为AI的目标是“解决问题”,而非必须模仿人类的解决方式。
- (新增) 关于级联幻觉是否是主要问题,有待商榷,但目前的工程实践(Context/Agent Engineering)更多是为基础模型参数不足“找补”,而非根本解决。
- (新增) AI在国防领域的实际应用(如抓捕杜马罗、攻击伊朗)被视为AI“落地”的例证,表明AI已在特定领域产生实际价值。
- (新增) AI assist层面已能取代大量人力,且随着模型能力提升、数据中心扩张和token价格下降,人与AI交互的平衡点将持续向AI倾斜,AI辅助将成为不可逆的趋势。
- (新增) 五角大楼禁止完全无人干预的AI用于武器,但AI在抓马杜罗和攻击伊朗事件中的作用被视为其实际“落地”的证明。
- (新增) AI在复杂、无测试环境的生产Bug排查等场景下,其Context Window的膨胀问题依然是挑战。
- (新增) AI对公开知识(非编程类)的特化不足,在数据分析中常无法正确理解逻辑,需要人工编写逻辑框架。
- (新增) 可以通过开发expert agent来解决LLM不具备所有领域知识的问题,未来软件开发将转向开发expert agent。
- (新增) Sub-agent的领域专业知识来源是关键问题,RAG、Custom System Prompt和Tool等只能补充信息和工具,但缺乏训练数据的领域依然是盲点。
- (新增) 运行时学习能力不足、大量领域缺乏学习数据以及领域过于复杂无法运行时学习,将限制AI系统的上限。
- (新增) 认为AGI的泡沫破裂后,将转向挖掘各行业特化数据训练专门的expert model。
- (新增) MoE(Mixture of Experts)被视为一种试图实现AGI的“邪教”,最终落地产品将是大量specialized model。
- (新增) Opus 4.x的反超证明了特化模型的优势。
- (新增) Attention model在当前架构下难以实现AGI,因为模型在训练完成后无法在实践中学习,调整只能通过有限的context window实现。
- (新增) 幻觉问题也可能随着模型和工程实践的进步而“坍缩”。
- (新增) “洗车测试”的例子说明,人类对AI的错误判断可能源于自身思维的局限性,AI的“错误”有时是“跳出框框”的体现。
- (新增) 认为AI在特定场景下的“错误”不一定是幻觉,可能是人类未曾设想到的解决方案。
- (新增) INTU的管理层需要理解AI,AI的开发成本高昂,当前阶段类似于拨号上网时代。
- (新增) 训练Agent仍然是技术活,并非仅靠堆砌算力就能实现,未来可能出现更多由顶尖AI人才开发的高质量Agent。
- (新增) 在处理用户数据用于训练Agent的问题上,可以考虑雇佣税务专家来建立知识库,以弥补数据或知识的不足。
- (新增) AI不是淘汰所有人,而是大部分人,大部分人跟expert比起来,超无用处,只是做一些manual tasks罢了。让AI做较为明确的任务,不管多么tedious,简直又快又好,超过绝大部分人。
- (新增) AI带来的改变和前几次工业革命没有本质区别,结果应该是人类进入万物可编程时代,以后的工作必然要和流程化自动化打交道了,落地是迟早的事情。如果认为这次没有本质区别,那么关于之前工业革命的论断依旧成立:短期结构性失业,长期创造就业。
2. 羊毛/优惠信息
- (之前已归纳) 无
- (新增) 无
3. 最新动态
- (之前已归纳) 无
- (新增) 无
4. 争议或不同意见
- (之前已归纳) 有人认为只要不进行人工复核,AI的幻觉就不存在。
- (之前已归纳) 有人认为AI的“落地”应定义为产品能产生现金流或内部实现利润增长。
- (之前已归纳) 有人认为AI的护城河在于成本,算力足够低时将“毁天灭地”。
- (之前已归纳) 有观点认为,将AI在特定领域(如呼叫中心)的落地视为普遍现象,可能忽略了其他领域(如新创业公司和企业AI部门)面临的实际困难。
- (之前已归纳) 对于“落地”的定义存在分歧,一方认为应有灵活标准(解决大部分问题即可),另一方可能隐含更严格的标准(如100%成功率)。
- (之前已归纳) 有人认为AI对中小企业(SaaS客户)是“革命”,因为AI可能颠覆其现有的商业模式(如per seat fee)。
- (之前已归纳) 有人认为,道德和赚钱并不冲突,即使产品“割韭菜”或“邪恶”,也不妨碍其赚钱。
- (之前已归纳) 存在关于科技出身PM是否还需要Senior职位的讨论。
- (之前已归纳) 关于AI替代领域范围的争论,一方认为算力降低将极大扩展AI替代范围,另一方则认为人脑在某些方面成本更低。
- (之前已归纳) 对AI发展速度的线性外推(如3年内取代人类)被质疑,认为技术发展更可能是S型曲线。
- (之前已归纳) “全Agent社会”和“奇点”的设想被认为是“fever dream”,认为Agent的可靠性不足以支撑这种愿景。
- (之前已归纳) 关于AI是否能解决80%问题的看法存在分歧,有观点认为实际应用中连20%的问题都难以有效解决,且幻觉是致命伤。
- (之前已归纳) AI在普及自动化方面的应用与追求“智慧”的AI存在不同落地方向的争议。
- (之前已归纳) AI的幻觉问题在需要高度负责的行业(如医疗、金融)与在低风险领域(如创意写作)的落地难度存在显著差异。
- (之前已归纳) AI与人类在工作偏好上的比较,以及AI在降低成本和普及自动化方面的作用。
- (之前已归纳) 关于当前AI模型能力(如GPT、Gemini)与特化模型(如Opus 4.x)在特定领域(如编程)的优劣存在争论,以及这是否代表了AI“落地”的真正方向。
- (之前已归纳) 关于基础版Grok和国产AI模型在特定任务上是否优于成熟模型的讨论,暗示了AI工具选择的实用性考量。
- (之前已归纳) 关于AI“落地”的期望值存在分歧:一方认为AI能提供不错的初稿、完成前期准备工作即为落地,已取代大量旧生产力;另一方则认为未达到完美解决问题的程度(100%成功率)就不能算落地,AI不能完全代替人。
- (之前已归纳) AI落地应侧重于普及自动化和降低成本,而非仅追求“智慧”的提升。
- (之前已归纳) AI的幻觉问题在安全和监管领域(如无人驾驶)是致命伤,但在某些工作类型中,AI可能因其“非心机”的特点而比人类更受欢迎。
- (之前已归纳) AI发展速度的线性外推被质疑,更可能遵循S型曲线,且“全Agent社会”的设想被认为是虚幻的。
- (之前已归纳) AI在需要高度负责的行业(如医疗、金融)难以落地,而创意写作等风险较低的领域相对容易应用。
- (之前已归纳) 许多AI应用连20%的问题都未能有效解决,幻觉问题在关键领域是致命伤。
- (之前已归纳) Opus 4.x在编程领域的突破,以及特化模型(而非AGI)的成功,被认为是AI“落地”的有效路径。
- (之前已归纳) 幻觉累积被认为是工程问题,但目前的Agent/Context Engineering只是为基础模型参数不足的“找补”,建议关注模型本身的进步,而非过度依赖工程实践。
- (之前已归纳) AI发展速度被夸大,从S型曲线被吹嘘成J曲线,引发了反感。
- (之前已归纳) 效率提升10%是可控的,但50%的提升可能导致通缩螺旋。
- (之前已归纳) 预计AI公司上市后,会出现对其能力的高估被修正的论调。
- (之前已归纳) Context/Agent Engineering在模型不完备时依赖训练数据中的use pattern,但仍存在Tool Call meta-pattern不足、上下文压缩丢失、Subagent依赖主Agent输入等问题,尤其在开放领域。
- (之前已归纳) Agent Engineering在Coding任务中也存在局限,如文件系统调用错误、外部工具利用率低等。
- (之前已归纳) 定义复杂Function Call(如实验硬件)的效果和边界情况是巨大挑战。
- (之前已归纳) 在法律案情分析或房地产Agent等开放领域,定义关键信息、避免上下文丢失、处理AI误解是难题。
- (之前已归纳) Agent Engineering和Context Engineering本质上是为基础模型参数不足的“找补”,是妥协的工程实践。
- (之前已归纳) 关于AI“解决问题”的目标,以及工具重构是必然趋势的观点,与AI必须模仿人类解决方式的传统认知存在差异。
- (新增) 关于AI Agent的可靠性存在争议,尽管五角大楼禁止完全无人干预的AI用于武器,但AI在抓捕马杜罗和攻击伊朗等事件中的作用被视为其实际“落地”的证明。
- (新增) “AI assist”层面已能取代大量人力,且随着技术发展和成本下降,人与AI的平衡点将持续向AI倾斜,AI辅助将成为不可逆的趋势。
- (新增) AI在复杂、无测试环境的生产Bug排查等场景下,其Context Window的膨胀问题依然是挑战。
- (新增) AI对公开知识(非编程类)的特化不足,在数据分析中常无法正确理解逻辑,需要人工编写逻辑框架。
- (新增) 可以通过开发expert agent来解决LLM不具备所有领域知识的问题,未来软件开发将转向开发expert agent。
- (新增) Opus 4.x在编程领域的突破,以及特化模型(而非AGI)的成功,被认为是AI“落地”的有效路径。
- (新增) 认识到AI的“问题解决”目标,以及为实现此目标而进行的工具重构是必然趋势。
- (新增) 保持对AI发展速度的理性预期,避免被夸大的“J曲线”叙事误导,理解技术发展的S型曲线规律。
- (新增) 建议关注AI在特化模型领域的进步,并认识到其“解决问题”导向的工具重构是必然趋势。
- (新增) 关注Sub-agent的领域知识来源问题,并认识到AI在运行时学习能力和数据稀缺性上的局限性。
- (新增) 认为AGI泡沫破灭后,将回归特化模型,Attention Model难以实现AGI。
- (新增) 关注AI在特定领域(如编程)通过高度特化和RL训练实现突破的趋势,这被认为是AI“落地”的有效路径。
- (新增) 在选择AI工具时,应根据具体任务和场景的成熟度进行考量,而非盲目追求最新技术。
- (新增) 理解AI的目标是“解决问题”,并认识到为了实现这一目标,对现有工具进行重构是必然的趋势,而非拘泥于AI必须模仿人类的解决方式。
- (新增) 在AI开发成本高昂的背景下,公司管理层对AI的理解至关重要,AI的落地过程可能并不顺利。
- (新增) 训练Agent需要技术和专业知识,而非简单堆砌算力,未来可能涌现更多由顶尖AI人才开发的高质量Agent。
- (新增) 对于AI在特定领域(如税务)的应用,若存在数据或知识短板,可考虑通过雇佣专家来建立知识库,以促进AI的落地。
- (新增) AI不是淘汰所有人,而是大部分人,大部分人跟expert比起来,超无用处,只是做一些manual tasks罢了。让AI做较为明确的任务,不管多么tedious,简直又快又好,超过绝大部分人。
- (新增) AI带来的改变和前几次工业革命没有本质区别,结果应该是人类进入万物可编程时代,以后的工作必然要和流程化自动化打交道了,落地是迟早的事情。如果认为这次没有本质区别,那么关于之前工业革命的论断依旧成立:短期结构性失业,长期创造就业。
5. 行动建议
- (之前已归纳) 在可接受不确定性或易验证的领域探索AI应用。
- (之前已归纳) 考虑“human in the loop”模式,结合AI和人工进行工作。
- (之前已归纳) 关注AI在减少工作人数方面的潜力,以及高级人才如何利用AI Agent。
- (之前已归纳) 对于企业而言,需要建立新的系统来约束和监控AI的表现,并审慎处理AI的责任问题。
- (之前已归纳) 认识到AI对初级岗位的替代作用,并理解高级人才将更多地扮演指挥AI Agent的角色。
- (之前已归纳) 调整对AI落地时间表的预期,避免过度追求短期内的完美解决方案。
- (之前已归纳) 建议学校大幅改变教学模式,更注重实际应用,类似bootcamp,并将实习机会转化为付费实习。
- (之前已归纳) 在评估AI落地时,应考虑其在特定领域的实际应用和解决问题的比例,而非僵化地追求100%成功率。
- (之前已归纳) 对于预算有限的客户,AI解决方案需要考虑成本效益,或者提供免费/低成本的切入点。
- (之前已归纳) 关注AI发展带来的社会结构和法律变革,为未来可能的AI Native一代或被机器取代的社会做好准备。
- (之前已归纳) 在AI应用中,需要关注其容错率是否满足行业需求,并具备识别和纠正AI错误的能力。
- (之前已归纳) 关注AI在“抄答案”类工作中的应用,但需认识到其在分辨是非对错上的局限性。
- (之前已归纳) 对于SaaS公司,应探索除“per seat fee”外的多元化定价模式,以应对AI可能带来的商业模式颠覆。
- (之前已归纳) 认识到AI在解决复杂商业问题上的局限性,技术和商业问题需要分开考量。
- (之前已归纳) 关注AI发展可能对现有岗位(如Senior PM)的影响,并为未来可能出现的新型职业角色做准备。
- (之前已归纳) 持续关注算力成本的下降趋势,以及其对AI应用范围的潜在影响。
- (之前已归纳) 区分AI的AGI和AI-assisted应用场景,根据实际能力选择合适的落地方式,侧重于普及自动化和降低成本。
- (之前已归纳) 对AI的“落地”标准持谨慎态度,认识到许多应用连基础问题都未能有效解决,应避免过度乐观的预期,尤其是在涉及安全和监管的领域。
- (之前已归纳) 警惕对AI发展速度的线性外推,理解技术发展可能存在的瓶颈和S型曲线效应,对“全Agent社会”的设想保持理性。
- (之前已归纳) 关注AI在满足通用性、快发订单需求方面的应用,以及其在细分场景中结合自动化取代人力的趋势。
- (之前已归纳) 认识到AI在某些工作场景中可能因其“非心机”的特点而更受欢迎,但同时也要警惕其幻觉问题在关键领域的风险。
- (之前已归纳) 建议将AI的优势与人类的劣势相结合,以“取长补短”的方式实现AI的落地。
- (之前已归纳) 关注AI在特定领域(如编程)通过高度特化和RL训练实现突破的趋势,这被认为是AI“落地”的有效路径,而非追求全能AGI。
- (之前已归纳) 在选择AI工具时,应根据具体任务和场景的成熟度进行考量,例如在检测模型领域,成熟的YOLO等可能比最新但未完全落地的模型更实用。
- (之前已归纳) 认识到AI已取代了大量前期准备、整理和初稿工作,即使未达到100%完美,也已取代了相当一部分旧生产力,对就业市场产生显著影响。
- (之前已归纳) AI落地应更关注其对整体生产力提升和旧生产力取代的宏观影响,而非仅停留在个体效率提升的层面。
- (之前已归纳) 对于AI可能带来的大规模失业问题,需要提前思考被取代人群的未来和整体经济的供需平衡。
- (之前已归纳) 承认幻觉累积是工程问题,但目前的Agent/Context Engineering只是为基础模型参数不足的“找补”,建议关注模型本身的进步,而非过度依赖工程实践。
- (之前已归纳) 保持对AI发展速度的理性预期,避免被夸大的“J曲线”叙事误导,理解技术发展的S型曲线规律。
- (之前已归纳) 区分AI带来的效率提升是10%(可控)还是50%(潜在风险),并警惕AI可能引发的通缩螺旋。
- (之前已归纳) 关注AI公司上市后的市场反应,以及对AI实际能力评估的修正。
- (之前已归纳) 在Agent/Context Engineering实践中,注意其局限性,尤其是在开放领域和复杂Function Call的定义上,应更关注基础模型的进步。
- (之前已归纳) 在选择AI工具时,应以实用性为导向,根据任务成熟度选择最合适的工具,而非盲目追求最新技术。
- (之前已归纳) 理解AI的目标是“解决问题”,并认识到为了实现这一目标,对现有工具进行重构是必然的趋势,而非拘泥于AI必须模仿人类的解决方式。
- (新增) AI assist层面已能取代大量人力,且随着技术发展和成本下降,人与AI的平衡点将持续向AI倾斜,AI辅助将成为不可逆的趋势。
- (新增) AI在国防领域的实际应用(如抓捕杜马罗、攻击伊朗)被视为AI“落地”的例证,表明AI已在特定领域产生实际价值。
- (新增) AI在复杂、无测试环境的生产Bug排查等场景下,其Context Window的膨胀问题依然是挑战。
- (新增) AI对公开知识(非编程类)的特化不足,在数据分析中常无法正确理解逻辑,需要人工编写逻辑框架。
- (新增) 可以通过开发expert agent来解决LLM不具备所有领域知识的问题,未来软件开发将转向开发expert agent。
- (新增) 关注AI在特化模型(而非AGI)领域的进步,如Opus 4.x在编程领域的突破,这被认为是AI“落地”的有效路径。
- (新增) 认识到AI的“问题解决”目标,以及为实现此目标而进行的工具重构是必然趋势。
- (新增) 保持对AI发展速度的理性预期,避免被夸大的“J曲线”叙事误导,理解技术发展的S型曲线规律。
- (新增) 建议关注AI在特化模型领域的进步,并认识到其“解决问题”导向的工具重构是必然趋势。
- (新增) 关注Sub-agent的领域知识来源问题,并认识到AI在运行时学习能力和数据稀缺性上的局限性。
- (新增) 认为AGI泡沫破灭后,将回归特化模型,Attention Model难以实现AGI。
- (新增) 关注AI在特定领域(如编程)通过高度特化和RL训练实现突破的趋势,这被认为是AI“落地”的有效路径。
- (新增) 在选择AI工具时,应根据具体任务和场景的成熟度进行考量,而非盲目追求最新技术。
- (新增) 理解AI的目标是“解决问题”,并认识到为了实现这一目标,对现有工具进行重构是必然的趋势,而非拘泥于AI必须模仿人类的解决方式。
- (新增) 在AI开发成本高昂的背景下,公司管理层对AI的理解至关重要,AI的落地过程可能并不顺利。
- (新增) 训练Agent需要技术和专业知识,而非简单堆砌算力,未来可能涌现更多由顶尖AI人才开发的高质量Agent。
- (新增) 对于AI在特定领域(如税务)的应用,若存在数据或知识短板,可考虑通过雇佣专家来建立知识库,以促进AI的落地。
- (新增) AI不是淘汰所有人,而是大部分人,大部分人跟expert比起来,超无用处,只是做一些manual tasks罢了。让AI做较为明确的任务,不管多么tedious,简直又快又好,超过绝大部分人。
- (新增) AI带来的改变和前几次工业革命没有本质区别,结果应该是人类进入万物可编程时代,以后的工作必然要和流程化自动化打交道了,落地是迟早的事情。如果认为这次没有本质区别,那么关于之前工业革命的论断依旧成立:短期结构性失业,长期创造就业。