为什么背景会影响人工智能的经济效益

Perspective

人工智能的下一个制约因素是经济学吗？人工智能的未来价值取决于对上下文的保存和重用。

随着人工智能越来越深入地融入业务运营，各组织不再仅仅关注模型功能和基准分数，而是开始关注有关经济效益和数据价值的新问题。从规模上看，代币消耗、基础设施利用率和维护上下文的成本越来越决定人工智能计划能否带来可持续的商业价值。

如今，从人工智能中创造最大价值的组织可能并非运行最大规模模型的组织。他们拥有最深厚的运营知识，并且能够在需要的时候和地点提供这些知识。这是因为更好的背景信息通常意味着获得有用答案所需的工作量更少。错误启动次数减少，冗余计算减少，使人工智能系统能够更高效地取得有用的结果。

OpenAI¹认为，人工智能投资应该根据业务成果而不是代币消耗来评估。这种观点引出了一个更广泛的问题：环境因素越来越决定这些结果。人工智能系统掌握的相关背景信息越多，它实现目标所需的工作量就越少。

无论是客户支持代理还是编码助手，有限的上下文通常意味着在产生有用结果之前需要更多的检索周期、更多的推理循环和更多的令牌消耗。丰富的上下文信息有助于人工智能更高效地达到相同的结果，从而提高性能和经济效益。

这种经济视角更加注重如何利用数据。许多最有价值的人工智能应用都依赖于对上下文信息的访问。传统分析系统旨在回答已知问题，而人工智能系统可以跨工作流程、团队和未来应用程序重用数据、知识和先前的工作。结果是，即使最初的用途已经完成，保留下来的知识仍能继续创造价值。

知识保留的重要性日益凸显

从历史上看，收集的大部分数据都与特定任务相关。支持工单帮助解决客户问题，工程文档为正在进行的项目提供支持，报告回答了即时的业务问题。一旦这些需求得到满足，这些数据的长期价值往往就很少受到关注了。

这种逻辑并不完全适用于人工智能系统。为某一目的而创造的知识，在完全不同的环境中也可能变得很有价值。为证明某个项目的技术决策合理性而编写的设计文档，日后可能有助于其他团队理解权衡取舍，避免重复犯错，或加快相关工作。项目文档最终演变为机构记忆。

最初的任务甚至可能不是数据最有价值的用途——未来的应用可能会发现它有更大的用途。

决定保留哪些内容

这种现实迫使各组织重新考虑不仅要存储哪些数据，还要考虑哪些知识、历史和背景信息应该保留下来，供未来的员工、应用程序和人工智能系统使用。

存储成本、管理和监管要求仍然会影响哪些内容应该保留、存档或丢弃。随着数据价值的不断提升，人工智能正在重塑这些决策。过去主要基于成本、合规性或直接业务价值的存储基础设施决策，现在也需要考虑未来未知的机遇。

大多数企业数据已经跨越多云、本地和边缘环境。数据引力常常使得移动这些信息变得不切实际或不经济，这也是混合部署模型成为许多采用人工智能的组织的标准做法的原因之一。

但是，在混合环境中管理数据也暴露出一个更深层次的挑战：决定哪些数据值得保留以及数据应该放在哪里。很多组织都面临着数据价值与数据保留决策方式之间日益扩大的差距。数据通常被视为管理成本，而人工智能则将其转化为未来应用和机遇的资产。

这就是为什么可扩展、持久的记录系统比以往任何时候都更加重要的一个重要原因。企业需要数据架构来保存机构知识、运营历史和人工智能生成的信息记录。对许多人来说，这意味着要采用混合方法，既能让数据保留在治理、绩效、主权或经济需要的地方，又能让人工智能系统获取这些信息。

硬盘的经济学

随着人工智能代理变得越来越自主，它们将生成和使用比传统应用程序多得多的上下文信息。在这种环境下，每一次互动、工作流程、决策和结果都可以成为组织不断增长的可重用知识库的一部分。

事实上，IDC预测，2025年至2030年间，年度数据生成量将增长三倍以上，从2025年的218泽字节增长到2030年的718泽字节以上，其中智能体人工智能被认为是机器生成数据日益增长的来源之一。²

条形图比较了 HBM、DDR5 DRAM、SSD 和 HDD 存储层级的 KV 缓存驻留时间。

即使组织只保留其中一小部分信息，规模也会迅速变得非常庞大。如今的挑战不再仅仅是收集数据。组织必须确定哪些知识应该被保存，并确保在合适的时间和地点能够获取这些知识。随着组织需要为员工、应用程序和人工智能系统保留越来越多的上下文信息，存储的经济性变得越来越重要。

除了降低成本之外，存储经济性使得以人工智能系统所需的规模保存和访问知识成为可能。支撑现代云平台的对象存储架构正是基于这种现实而构建的，它将数据管理软件与能够大规模持久保存数据的存储基础设施相结合。这种架构方法使组织能够在员工、应用程序和人工智能系统之间保留和重用知识。

数据的价值并不会随着原始任务的完成而结束。保持信息可访问性有助于未来的问题、工作流程和机遇。随着人工智能系统越来越依赖于积累的知识和背景信息，组织保留的知识和创造的知识可能变得与它们所创造的知识和背景信息同样重要。确定哪些信息在未来会变得重要，并确保这些信息仍然可访问，是信息持续创造价值的唯一途径。消失的信息甚至连机会都没有。

阅读更多：探索持久上下文如何重塑人工智能系统。