コンテキストがAIの経済性を左右する理由

Perspective

AIの次の制約は経済性になるのでしょうか？AIの将来的な価値は、コンテキストを保持し、再利用できるかどうかにかかっています。

接続されたデータ・ノードの間に浮かぶ、光り輝く球体を抽象的に描いたイラスト。AIのコンテキストとデータの流れを表している。

AIが事業運営にますます深く浸透するにつれ、組織はモデルの性能やベンチマーク・スコアにとどまらず、経済性やデータの価値に関する新たな課題に注目し始めています。大規模な展開においては、トークンの消費量、インフラストラクチャの利用率、およびコンテキストを維持するためのコストが、AIイニシアチブによって持続可能なビジネス価値をもたらせるかどうかをますます左右するようになっています。

最近では、AIから最大の価値を生み出している組織は、必ずしも最大規模のモデルを運用しているとは限らないようです。そうした組織こそが、最も深い業務知識を持ち、必要な時に必要な場所でその知識を活用できる能力を備えているのです。なぜなら、コンテキストが明確であればあるほど、有用な答えにたどり着くために必要な労力が少なく済むことが多いからです。無駄な試行や冗長な計算が減少するため、AIシステムはより効率的に有用な成果を導き出すことができます。

OpenAI¹は、AIへの投資は、トークンの消費量だけではなく、ビジネス成果に基づいて評価されるべきであると主張しています。この視点は、コンテキストがますますそうした結果を左右するようになっていることを示唆しています。AIシステムが利用できる関連性の高いコンテキストが多ければ多いほど、目標を達成するために必要な作業量は少なくなります。

カスタマー・サポート担当者であれ、コーディング・アシスタントであれ、コンテキスト情報が限られていると、有用な結果が得られるまでに、検索サイクルや推論ループが増え、トークンの消費量も増えることがよくあります。豊富なコンテキストがあれば、AIはより効率的に同じ結果に到達できるようになり、パフォーマンスと経済性の両方が向上します。

この経済的な視点では、データがどのように活用されているかという点が重視されます。最も価値の高いAIアプリケーションの多くは、コンテキスト情報を利用することに依存しています。従来の分析システムは、既知の疑問に答えることを目的に設計されていました。これに対してAIシステムは、ワークフローやチーム、さらには将来のアプリケーションを横断して、データや知識、過去の成果を再利用することができます。その結果、蓄積された知識は、本来の目的を果たした後も、長い間価値を生み出し続けることになります。

蓄積された知識の重要性の高まり

これまで、収集されたデータの多くは、特定の業務に関連付けられていました。サポート・チケットはお客様の課題解決に役立ち、技術文書はすでに進行中のプロジェクトを支え、レポートは差し迫ったビジネス上の疑問に答えていました。そうしたニーズが満たされると、そのデータの長期的な価値が注目されることはほとんどありませんでした。

その論理は、AIシステムには必ずしも当てはまりません。ある特定の目的のために生み出された知識は、まったく異なる状況においても価値あるものとなり得ます。あるプロジェクトにおける技術的な決定を正当化するために作成された設計文書は、後日、別のチームがトレードオフを理解したり、同じ過ちを繰り返さないようにしたり、関連する作業を迅速に進めたりするのに役立つことがあります。当初は単なるプロジェクトの記録として始まったものが、やがて組織の記憶となるのです。

当初のタスクはそのデータの活用方法として最も効果的なものではないかもしれず、将来より重要な用途が見出される可能性があります。

何を保存すべきかという判断

この現実により、組織は、どのようなデータを保存すべきかだけでなく、将来の従業員やアプリケーション、AIシステムが利用できるようにしておくべき知識、履歴、コンテキストについても再考せざるを得なくなっています。

保存コスト、ガバナンス、および規制上の要件は、依然として、何を保持し、アーカイブし、あるいは破棄すべきかを左右しています。データの価値が拡大し続けるにつれ、AIはそうした意思決定のあり方を変えつつあります。ストレージ・インフラストラクチャに関する決定は、かつては主にコスト、コンプライアンス、目先のビジネス価値に基づいて行われていましたが、現在では将来の未知の機会も考慮に入れる必要があります。

企業のデータのほとんどは、すでにマルチクラウド、オンプレミス、エッジ環境にまたがっています。また、データ・グラビティの影響により、その情報を移動させることが現実的でない、あるいは経済的に見合わない場合が多く、これが、AIを導入する多くの組織において、ハイブリッド型の導入モデルが標準となっている理由の一つです。

しかし、ハイブリッド環境全体にわたるデータ管理には、さらに根本的な課題も伴います。それは、どのデータが保存する価値があり、そのデータをどこに配置すべきかを判断することです。多くの組織において、データの価値と、依然として行われている保存期間の決定方法との間に、ますます大きな隔たりが生じているのはこのためです。データは多くの場合、主に管理コストとして扱われていますが、AIによって、将来の活用や機会に向けた資産へと変貌を遂げます。

そのため、拡張性と耐久性に優れたシステム・オブ・レコードがこれまで以上に重要となっています。企業には、組織の知見、業務履歴、およびAIによって生成された情報の記録を保存できるデータ・アーキテクチャが必要です。多くの人にとって、それは、ガバナンス、パフォーマンス、主権、あるいは経済性の観点から必要とされる場所にデータを保持しつつ、その情報をAIシステムが利用できるようにするハイブリッドなアプローチを採用することを意味します。

ハードディスク・ドライブの経済性

AIエージェントの自律性が高まるにつれ、従来のアプリケーションよりもはるかに多くのコンテキストを生成、消費するようになるでしょう。このような環境においては、あらゆるやり取り、ワークフロー、意思決定、そして成果が、組織が蓄積し続ける再利用可能な知識の一部となり得ます。

実際、IDCの予測によると、年間データ生成量は2025年の218ゼタバイトから、2030年には718ゼタバイトと3倍以上に増加すると見込まれており、増大する機械生成データの発生源としてエージェント型AIが注目されています。²

HBM、DDR5 DRAM、SSD、HDDの各ストレージ階層におけるKVキャッシュの滞留時間を比較した棒グラフ。

たとえ組織がその情報のごく一部しか保持していなかったとしても、その規模はあっという間に膨大なものになってしまいます。課題はもはや、単にデータを収集することだけではありません。組織は、どのような知識を保存すべきかを判断し、適切なタイミングと場所でその知識にアクセスできるようにしなければなりません。組織が従業員、アプリケーション、AIシステムに関するコンテキスト・データをより大量に保持するにつれ、ストレージの経済性がますます重要になってきています。

コスト削減に加え、ストレージの経済性により、AIシステムに必要な規模で知識を保存・活用することが現実的になっています。現代のクラウド・プラットフォームを支えるオブジェクト・ストレージ・アーキテクチャは、この現実を踏まえて構築されており、データ管理用のソフトウェアと、大規模なデータを永続的に保持できるストレージ・インフラストラクチャが統合されています。こうしたアーキテクチャによるアプローチにより、組織は従業員、アプリケーション、AIシステムを横断して知識を保持し、再利用することができます。

データの価値は、当初のタスクが完了した時点でなくなるわけではありません。引き続き利用可能な情報は、将来の問いやワークフロー、機会に貢献する可能性があります。AIシステムが蓄積された知識やコンテキストへの依存度を高めるにつれ、組織が何を保持するかは、組織が何を生み出すかと同じくらい重要になる可能性があります。将来、どのような情報が重要になるかを判断し、その情報へのアクセスを確保し続けることこそが、情報によって価値を生み出し続けるための唯一の方法です。情報が消えてしまっては、そうしたチャンスは決して得られないからです。

詳細：永続コンテキストがAIシステムをどのように変革しているかをご覧ください。