文摘出品
今年的人工智能领域无比热闹,先是巨头公司们以前所未有的速度发布着改变世界的新模型,让“AGI何时到来”的讨论占据了所有头条。
然后,另一股力量也登上了舞台:无数开源模型和精悍的创业团队异军突起,用更低的成本和更灵活的架构,冲击着“赢家通吃”的预言。
就在这喧嚣之中,技术思想家 Balaji Srinivasan,发表了他对当下局势的思考。他表示,现阶段的人工智能仍属于一种“受限的AI”,而非能通晓一切的全能型AI。(注: Balaji Srinivasan是前 Coinbase 首席技术官及 a16z 普通合伙人)
以下是他总结的十点观察,由DeepSeek翻译:
第一点:当下并不存在唯一的通用人工智能(AGI),而是可能同时存在多个强大的通用人工智能(AGIs)
换言之,我们所见的更像是“多神论”式的人工智能(多个实力相当的模型并存),而非“独神论”式的人工智能(一个全能模型主宰一切)。目前,不同团队研发的AI模型在性能上正趋于相对接近,尚无某个模型远远领先。在这种情况下,我们更值得期待的,是多个人类与AI融合体在未来形成的平衡格局,而不是某个AI大一统,将人类沦为“回形针”或“盐柱”。
第二点:人工智能正在把成本推向“提示”与“验证”这两个边缘环节
现有的人工智能往往并未完成真正的“端到端”工作,而更多是在“中间到中间”环节提升效率。因此,企业的资源和预算逐渐集中于“如何向AI发出高质量提示(Prompts)”以及“如何对AI输出进行充分验证(Verification)”。由此可见,AI提高中间流程效率的同时,也让“提示设计”与“结果验证”成为新瓶颈。
第三点:人工智能更像“增强智能”,而非“自主智能”
当前的人工智能无法完全独立于人类,其代理(agents)既无法设定复杂的长期目标,也无法对结果进行自动核验。换句话说,AI在很大程度上依赖人类的提示、验证和系统集成。因而,AI的效能与使用者的能力密切相关——使用者越擅长提示和验证,AI的表现就越好。这种人机协作模式更接近“增强智能”,而并非真正的“自主智能”。
第四点:人工智能并不会替你“抢”工作,而是让你具备从事任何工作的更多可能
AI为人们提供了快速尝试不同职业或技能的机会,例如模拟一名用户体验设计师或一个特效动画师的工作流程。这并不等于你能立刻达到专业水准,最终的精细打磨仍需要资深从业者完成。但AI的辅助,确实能让更多人跨领域尝试与学习。
第五点:AI并不是要取代你,而是在取代“上一代人工智能”的功能例如,MidJourney 的出现让 Stable Diffusion 的位置被部分替代,GPT-4 相比 GPT-3 也有了质的飞跃。一旦工作流程中引入了AI生成图像、代码或其他内容,企业就会优先投入资源给性能更强的新模型。也就是说,AI在不断迭代演进,持续取代旧版本的AI模型,而非直接取代人类。
第六点:AI在“可视化”任务上更有优势,相较之下文字化任务则更具挑战
在前端领域,如界面设计、图像生成、视频处理等,AI的优势较为明显,因为人眼可以快速检验画面或视觉效果。而大量文本或代码输出则需要更多额外的人力来审查和测试。正如 Andrej Karpathy 所指出的,与视觉结果相比,文本或代码更难被人类直接验证,因此对AI在这一领域的可靠性要求更高。
第七点:真正“致命”的人工智能已经存在,其名为“无人机”
各国对无人机的军用研发高度重视,战争技术也将不断升级。相比于图像生成器或聊天机器人,这些能在战场直接执行指令的无人机才是真正令人担忧的潜在威胁。
第八点:人工智能是“概率性的”,而加密技术是“确定性的”加密技术可用于限制AI的能力。AI能够借助算法破解验证码,却无法篡改区块链上的账户余额;它或许能秒解某些方程,却无力撼动加密算法的确定性。这意味着加密技术为AI提供了一个“无法逾越的界限”。
第九点:人工智能的发展趋势更偏向“去中心化”而非“中心化”观察来看,AI的影响力似乎走向更加分散的格局,原因包括:
市场中出现了大量AI创业公司;
小团队借助合适工具也能高效产出;
大量开源、可复现的高质量模型陆续问世。这些因素共同推动了AI从最初的集中式发展走向更为去中心化的态势。
第十点:AI的最佳使用比例绝非 0% 或 100%
完全不使用AI会极大限制效率,而过度依赖AI又可能导致产出质量粗糙。真正合理的做法,是在 0% 和 100% 之间寻找最优平衡点。具体比例因场景而异,但最重要的共识在于“极端化的两种用法都非最佳”。这就像“拉弗曲线”(Laffer Curve)在经济学里的启示:找到适度的平衡才能获得最大收益。
总结:当下的人工智能是“受限的人工智能”
综上所述,现阶段的人工智能仍属于一种“受限的AI”,而非能通晓一切的全能型AI。其限制主要体现在以下方面:
经济与资源限制:每一次API的调用都成本不菲,且市场上的诸多竞争模型会进一步分散资金和关注点。
数学与理论限制:AI在混沌、湍流以及加密类难题上(从理论上)无能为力,难以给出确定性解答。
实际操作限制:AI需要人类进行提示设计与结果验证,它更像是“中间环节的助力”而非“端到端”的全能管家。
感知与上下文限制:AI目前无法独立感知或检索完整上下文,仍要依赖人类输入或提示提供必要信息。
或许未来某一天,我们能将AI的“概率性(系统1思维)”与传统计算(确定性/逻辑性系统2思维)完美结合,但这尚是未解的研究难题。在此之前,理解AI的边界与潜能,才能更好地发挥它的价值。
via balajis.com/p/ai-is-polytheistic-not-monotheistic
作者长期关注 AI 产业与学术,欢迎对这些方向感兴趣的朋友添加微信Q1yezi,共同交流行业动态与技术趋势!
GPU 训练特惠!
H100/H200 GPU算力按秒计费,平均节省开支30%以上!
扫码了解详情☝
旺润配资,中国股票配资网股票配资,创投策略提示:文章来自网络,不代表本站观点。