Skip to main content
章节6 min read

思想领袖视角:权力与责任

在过去四十年间我见证的所有技术周期中——从个人电脑和互联网的诞生,到移动和云计算的革命——没有一个像现在这个周期一样。多年来,围绕人工智能的讨论一直遵循着熟悉的炒作与幻灭的节奏,所谓的"AI 夏天"之后是漫长而寒冷的冬天。但这一次,情况有所不同。对话发生了明显的变化。如果说过去十八个月的主题是引擎——Large Lan...

在过去四十年间我见证的所有技术周期中——从个人电脑和互联网的诞生,到移动和云计算的革命——没有一个像现在这个周期一样。多年来,围绕人工智能的讨论一直遵循着熟悉的炒作与幻灭的节奏,所谓的"AI 夏天"之后是漫长而寒冷的冬天。但这一次,情况有所不同。对话发生了明显的变化。如果说过去十八个月的主题是引擎——Large Language Model(LLM)令人惊叹的、近乎垂直的飞跃——那么下一个时代将是关于我们在其周围建造的汽车。它将关乎那些驾驭这种原始力量的框架,将其从一个生成合理文本的工具转变为一个真正的行动 Agent。

我承认,我最初是一个怀疑论者。我发现,合理性往往与一个人对某一主题的了解程度成反比。早期的模型,尽管表达流畅,却让我感觉它们带有一种冒名顶替综合征,优化的不是正确性而是可信度。但随后拐点出现了,一类新的"推理"模型带来了阶跃式的变化。突然间,我们不再仅仅在与一个预测序列中下一个词的统计机器对话;我们得以一窥一种新兴的认知形式。

当我第一次试验新型 Agentic 编码工具时,我感受到了那种熟悉的魔力火花。我让它完成一个我一直没有时间做的个人项目:将一个慈善机构网站从一个简单的网站构建器迁移到一个正规的现代 CI/CD 环境。接下来的二十分钟里,它开始工作,提出澄清性问题,请求凭据,并提供状态更新。这种感觉不像在使用工具,而更像是与一位初级开发人员协作。当它交给我一个完全可部署的软件包,附带无可挑剔的文档和单元测试时,我被震撼了。

当然,它并不完美。它犯了错误。它卡住了。它需要我的监督,而且至关重要的是,需要我的判断来引导它回到正轨。这次经历印证了我漫长职业生涯中艰难学到的一个教训:你不能盲目信任。然而,这个过程令人着迷。窥视它的"思维链"(chain of thought)就像观察一个正在工作的大脑——混乱、非线性,充满开始、停止和自我修正,与我们人类自身的推理过程并无太大不同。它不是一条直线,而是一次朝着解决方案的随机漫步。这里蕴含着某种新事物的萌芽:不仅是能够生成内容的智能,而且是能够制定计划的智能。

这就是 Agentic 框架的承诺。这就像静态的地铁地图与能够实时重新规划路线的动态 GPS 之间的区别。经典的基于规则的自动机遵循固定路径;当它遇到意外障碍时,就会崩溃。而由推理模型驱动的 AI Agent,有可能观察、适应并找到另一条路径。它拥有一种数字常识,使其能够穿越现实世界中无数边缘情况的迷宫。

这代表了一种转变:从简单地告诉计算机做什么,到解释为什么我们需要做某事,并信任它自己去找出怎么做。

尽管这一新前沿令人振奋,但它也带来了深刻的责任感,尤其是我身为一家全球性金融机构的 CIO 的视角。风险是难以估量的。一个在研究"鸡肉三文鱼融合派"食谱时出错的 Agent,是一个有趣的轶事。而一个在执行交易、管理风险或处理客户数据时出错的 Agent,则是一个真正的问题。我读过免责声明和警示故事:那个在登录失败后,决定给国会议员发邮件抱怨登录墙的网页自动化 Agent。这是对我们在处理一项我们尚未完全理解的技术这一事实的黑色幽默般的提醒。

正因如此,工艺、文化以及对我们的原则的不懈关注,成为我们必不可少的指南。我们的工程准则不仅仅是纸上的文字,而是我们的指南针。我们必须"有目的地构建"(Build with Purpose),确保我们设计的每一个 Agent 都从清晰理解我们正在解决的客户问题出发。我们必须"放眼未来"(Look Around Corners),预判故障模式,并设计出本质上具有韧性的系统。最重要的是,我们必须"激发信任"(Inspire Trust),在方法上保持透明,对结果负责。

在一个 Agentic 的世界里,这些准则具有了新的紧迫性。一个残酷的真相是,你不能简单地这些强大的新工具叠加在混乱、不一致的系统之上,并期待好的结果。混乱的系统加上 Agent,就是灾难的配方。一个在"垃圾"数据上训练的 AI,不仅会产生垃圾输出;它会产生看起来合理、充满自信的垃圾,足以毒害整个流程。因此,我们首要且最关键的任务是准备好基础。我们必须投资于干净的数据、一致的元数据和定义良好的 API。我们必须构建现代的"州际公路系统",让这些 Agent 能够安全地高速运行。这是构建可编程企业、"企业即软件"(enterprise as software)的艰难基础性工作,让我们的流程与我们的代码一样架构精良。

最终,这段旅程不是关于取代人类的创造力,而是增强它。它对我们所有人提出了一套新的技能要求:清晰阐述任务的能力、委派的智慧,以及验证输出质量的勤奋。它要求我们保持谦逊,承认我们所不知道的,永不停止学习。本书后续的章节提供了一份构建这些新框架的技术地图。我希望你们不仅用它们来构建可能的东西,更去构建正确的、稳健的和负责任的东西。世界在呼唤每一位工程师站出来。我相信我们已准备好迎接这个挑战。

享受这段旅程。

Marco Argenti,高盛 CIO