인공지능이 비즈니스 운영에 더욱 깊숙이 자리 잡으면서, 기업들은 모델 기능과 벤치마크 점수를 넘어 경제적 가치와 데이터의 가치에 대한 새로운 질문들을 던지고 있습니다. 규모가 커질수록 토큰 소비, 인프라 활용 및 컨텍스트 유지 비용은 AI 이니셔티브가 지속 가능한 비즈니스 가치를 제공할 수 있는지 여부를 결정하는 중요한 요소가 됩니다.
오늘날 인공지능을 통해 가장 큰 가치를 창출하는 조직은 가장 큰 규모의 모델을 운영하는 조직이 아닐 수도 있습니다. 그들은 가장 심도 있는 운영 지식을 보유하고 있으며, 필요할 때 필요한 곳에서 그 지식을 활용할 수 있는 능력을 갖추고 있습니다. 더 나은 맥락을 파악하면 유용한 답을 얻는 데 필요한 노력이 줄어드는 경우가 많기 때문입니다. 잘못된 시작 횟수와 중복 계산이 줄어들어 AI 시스템이 더욱 효율적으로 유용한 결과를 도출할 수 있습니다.
OpenAI1는 AI 투자는 토큰 소비만으로 평가하는 것이 아니라 비즈니스 성과를 기준으로 평가해야 한다고 주장했습니다. 그러한 관점은 더 넓은 의미를 시사합니다. 즉, 맥락이 결과에 결정적인 영향을 미치는 요소가 점점 더 커지고 있다는 것입니다. 인공지능 시스템이 활용할 수 있는 관련 맥락이 많을수록 목표 달성에 필요한 작업량이 줄어듭니다.
고객 지원 담당자든 코딩 도우미든, 제한된 컨텍스트는 유용한 결과를 도출하기 전에 더 많은 검색 주기, 더 많은 추론 루프, 더 많은 토큰 소모를 의미하는 경우가 많습니다. 풍부한 맥락 정보는 AI가 동일한 결과를 더욱 효율적으로 달성하도록 도와주어 성능과 경제성을 모두 향상시킵니다.
이러한 경제적 관점은 데이터가 어떻게 활용되는지에 대해 더욱 명확한 초점을 제공합니다. 가장 가치 있는 AI 애플리케이션 중 상당수는 맥락 정보에 대한 접근을 필요로 합니다. 기존 분석 시스템은 이미 알려진 질문에 답하도록 설계되었지만, AI 시스템은 워크플로, 팀 및 미래 애플리케이션 전반에 걸쳐 데이터, 지식 및 이전 작업을 재사용할 수 있습니다. 그 결과, 보존된 지식은 원래의 목적을 달성한 후에도 오랫동안 지속적으로 가치를 창출합니다.
보유 지식의 중요성 증대
역사적으로 수집된 데이터의 대부분은 특정 작업과 관련되어 있었습니다. 지원 티켓은 고객 문제를 해결하는 데 도움이 되었고, 엔지니어링 문서는 이미 진행 중인 프로젝트를 지원했으며, 보고서는 즉각적인 비즈니스 질문에 대한 답변을 제공했습니다. 그러한 요구사항들이 충족되고 나면, 그 데이터의 장기적인 가치에 대해서는 훨씬 적은 관심이 쏟아지는 경우가 많았다.
그러한 논리는 인공지능 시스템에는 그대로 적용되지 않습니다. 특정한 목적을 위해 만들어진 지식은 전혀 다른 환경에서도 가치를 지닐 수 있습니다. 한 프로젝트에서 기술적 결정을 정당화하기 위해 작성된 설계 문서는 나중에 다른 팀이 장단점을 이해하고, 반복적인 실수를 피하거나, 관련 작업을 가속화하는 데 도움이 될 수 있습니다. 프로젝트 문서화로 시작된 것이 기관의 기억이 된다.
원래의 목적이 데이터를 활용하는 가장 가치 있는 방법이 아닐 수도 있습니다. 미래의 응용 분야에서는 그 데이터가 훨씬 더 큰 목적을 가질 수도 있습니다.
무엇을 남길지 결정하기
이러한 현실은 조직들이 어떤 데이터를 저장할지뿐만 아니라 미래의 직원, 애플리케이션 및 AI 시스템을 위해 어떤 지식, 이력 및 맥락을 보존해야 하는지를 재고하도록 강요하고 있습니다.
저장 비용, 관리 및 규제 요건은 여전히 무엇을 보존, 보관 또는 폐기해야 하는지에 영향을 미칩니다. 데이터의 가치가 계속해서 커짐에 따라 AI는 그러한 의사 결정 방식을 재편하고 있습니다. 과거에는 주로 비용, 규정 준수 또는 즉각적인 비즈니스 가치에 기반하여 이루어졌던 스토리지 인프라 관련 의사 결정이 이제는 미래의 알려지지 않은 기회까지 고려해야 합니다.
대부분의 기업 데이터는 이미 멀티클라우드, 온프레미스 및 엣지 환경에 걸쳐 분포되어 있습니다. 데이터 중력으로 인해 정보를 이동하는 것이 비현실적이거나 비경제적인 경우가 많은데, 이것이 바로 많은 조직이 AI를 도입할 때 하이브리드 배포 모델을 표준으로 삼는 이유 중 하나입니다.
하지만 하이브리드 환경에서 데이터를 관리하는 것은 더 근본적인 문제를 드러냅니다. 바로 어떤 데이터를 보존할 가치가 있는지, 그리고 어디에 보관해야 하는지를 결정하는 것입니다. 많은 조직들이 데이터의 가치와 데이터 보존 결정 방식 사이의 격차가 점점 커지는 문제에 직면하는 지점이 바로 여기입니다. 데이터는 흔히 관리 비용으로만 여겨지지만, 인공지능은 데이터를 미래의 응용 분야와 기회를 위한 자산으로 바꿔놓습니다.
이는 확장 가능하고 내구성이 뛰어난 기록 시스템이 그 어느 때보다 중요한 이유 중 하나입니다. 기업은 조직의 지식, 운영 이력 및 AI가 생성한 정보를 기록으로 보존하는 데이터 아키텍처가 필요합니다. 많은 사람들에게 이는 거버넌스, 성과, 주권 또는 경제적 요구 사항에 따라 데이터가 필요한 곳에 남아 있도록 하면서도 AI 시스템에서 해당 정보를 활용할 수 있도록 하는 하이브리드 접근 방식을 수용하는 것을 의미합니다.
하드 드라이브의 경제학
인공지능 에이전트가 더욱 자율적으로 발전함에 따라 기존 애플리케이션보다 훨씬 더 많은 컨텍스트 정보를 생성하고 소비하게 될 것입니다. 이러한 환경에서는 모든 상호 작용, 워크플로, 의사 결정 및 결과가 조직의 재사용 가능한 지식 체계의 일부가 될 수 있습니다.
실제로 IDC는 연간 데이터 생성량이 2025년 218제타바이트에서 2030년 718제타바이트 이상으로 세 배 이상 증가할 것으로 예상하며, 에이전트형 AI가 기계 생성 데이터의 주요 원천으로 떠오르고 있다고 밝혔습니다.²
조직이 그 정보의 일부만 보유하더라도 그 규모는 금세 엄청나게 커집니다. 이제는 단순히 데이터를 수집하는 것만이 과제가 아닙니다. 조직은 어떤 지식을 보존해야 하는지 결정하고, 적절한 시기와 장소에서 해당 지식에 접근할 수 있도록 보장해야 합니다. 조직들이 직원, 애플리케이션 및 AI 시스템에 대한 더 많은 양의 컨텍스트 데이터를 보관함에 따라 스토리지 비용 효율성이 점점 더 중요해지고 있습니다.
비용 절감 외에도, 스토리지 경제성 덕분에 AI 시스템에 필요한 규모의 지식을 보존하고 접근하는 것이 실현 가능해졌습니다. 최신 클라우드 플랫폼을 구동하는 객체 스토리지 아키텍처는 이러한 현실을 바탕으로 구축되었으며, 데이터 관리 소프트웨어와 대규모 데이터를 영구적으로 보존할 수 있는 스토리지 인프라를 결합합니다. 이러한 아키텍처 접근 방식은 조직이 직원, 애플리케이션 및 AI 시스템 전반에 걸쳐 지식을 보존하고 재사용할 수 있도록 합니다.
데이터의 가치는 원래의 작업이 완료되었다고 해서 사라지는 것이 아닙니다. 접근 가능한 상태로 유지되는 정보는 미래의 질문, 워크플로 및 기회에 기여할 수 있습니다. 인공지능 시스템이 축적된 지식과 맥락에 점점 더 의존하게 됨에 따라, 조직이 보유하는 정보가 새롭게 창출하는 정보만큼이나 중요해질 수 있습니다. 미래에 어떤 정보가 중요해질지 판단하고, 그 정보에 대한 접근성을 보장하는 것이야말로 정보가 지속적으로 가치를 창출할 수 있는 유일한 방법입니다. 사라지는 정보는 애초에 존재할 기회조차 얻지 못한다.
더 읽어보기: 지속적인 컨텍스트가 AI 시스템을 어떻게 재구성하고 있는지 살펴보세요.
주석
- https://openai.com/index/managing-ai-investments-in-agentic-era
- IDC, 시장 전망: IDC 글로벌 데이터스피어 전망, 2026~2030, 2026년 6월
-v4.png/_jcr_content/renditions/4-3-medium-688x516.png)
