Yapay zeka altyapısı için gelişen depolama ihtiyaçları.

Yapay zeka gelişmeye devam ettikçe, onu destekleyen altyapının veri depolama ve işleme konusunda artan talepleri karşılayacak şekilde gelişmesi gerekir. Veri depolama, yapay zeka altyapısının yaşam döngüsünde kritik bir rol oynar ve çözümlerin mevcut ve gelecekteki yapay zeka zorluklarına dayanabilmesi gerekir.

Her gün üretilen veri miktarı şaşırtıcıdır. Kaleido Intelligence raporuna¹ göre 143 petabayt veri üreten akıllı şehirlerden günlük terabaytlarca (TB) veri üreten otonom araçlara, verimli veri depolama çözümlerine yönelik ihtiyaç her zamankinden daha acil hâle geldi. Otonom araç şirketleri, yapay zeka modellerini geliştirmek üzere işlenilmesi ve kullanılması için bulut hizmeti sağlayıcılarına büyük miktarda veri yüklüyor. Bu sürekli veri akışı, yapay zeka uygulamaları için gereken hacmi ve hızı kaldırabilecek sağlam depolama çözümleri gerektirir.

Performansa karşı güç.

Grafik işleme birimleri (GPU'lar) gibi en son teknolojilere odaklanılmasına rağmen, sabit diskler yapay zeka altyapısının kritik bir bileşeni olmaya devam ediyor. Yapay zeka eğitiminde kullanılan devasa veri kümeleri için gerekli depolama kapasitesini ve sonucu sağlarlar. GPU'lar veri işlemenin ağır yükünü üstlenirken, sabit diskler bu işlemleri besleyen verileri depolar. Bu simbiyotik ilişki, yapay zeka sistemlerinin depolama sınırlamaları nedeniyle darboğaz yaşamadan verimli bir şekilde çalışmasını sağlar.

Yapay zeka altyapısındaki en büyük zorluklardan biri, performansı güç tüketimiyle dengelemektir. GPU kümeleri büyüdükçe bunları çalıştırmak için gereken güç de önemli ölçüde artar. Örneğin, yapay zeka liderlerininki gibi büyük dağıtımlar, her biri önemli miktarda güç tüketen binlerce GPU içerir. Bu durum, sadece yüksek performans sunmakla kalmayıp güç kullanımı açısından da verimli bir şekilde çalışan depolama çözümlerine yönelik bir ihtiyaç doğurur. Bunu bir perspektife oturtmak gerekirse tek bir GPU 700 watt'a kadar güç tüketebilir ve büyük ölçekli dağıtımlar 100.000'e kadar GPU'yu içerebilir. Bu da 70 megawatt'lık bir güç gereksinimine neden olabilir. Bu bileşen, büyük bir veri merkezinin toplam güç tahsisine eşdeğerdir. Bu nedenle depolama çözümleri, GPU'larla birlikte çözüme uyum sağlamak istiyorlarsa performansı en üst düzeye çıkarırken güç tüketimini en aza indirecek şekilde tasarlanmalıdır.

Kontrol noktalarının önemi.

Yapay zeka eğitiminde kontrol noktaları, sistem arızaları durumunda ilerleme kaybını önlemek için kritik öneme sahiptir. Bu kontrol noktaları, yapay zeka modelinin durumunu düzenli aralıklarla (örneğin birkaç dakikada bir) kaydederek, eğitim sürecinin baştan başlamak yerine son kaydedilen durumundan devam etmesini sağlar. Bu, haftalar hatta aylar sürebilen uzun süreli eğitim oturumları için özellikle önemlidir. Verimli kontrol noktaları, büyük miktarda veriyi hızlı bir şekilde kaydedebilen ve alabilen hızlı depolama çözümleri gerektirir.

Örneğin bazı büyük eğitim platformları, eğitim sırasında her dakika kontrol noktaları gerçekleştirerek verileri katı hal disklerine (SSD'ler) kaydeder ve sonra bunları sabit disklere aktarır. Bu işlem, bir hata oluştuğunda bile eğitimin minimum veri kaybıyla devam etmesini sağlar. Bu kontrol noktalarının boyutu oldukça büyük olabilir ve bazı modellerde kontrol noktası başına 12 TB'a kadar depolama alanı gerekir.

Sabit diskler; ölçeklenebilirlik, maliyet verimliliği, güç verimliliği, sürdürülebilirlik ve uzun ömür nedeniyle yapay zeka kontrol noktaları için gereklidir.

Gelecekteki eğilimler ve yenilikler.

Geleceğe bakıldığında, yapay zeka depolamaya olan talebin katlanarak artması bekleniyor. Bloomberg Intelligence, IDC, eMarketer ve Statista’dan alınan verilere göre², 2032 yılına kadar yapay zeka depolama pazarının 92 milyar dolara ulaşacağı tahmin ediliyor. Bu büyüme, yapay zeka modellerinin karmaşıklığının artması ve yapay zekanın çeşitli sektörlerde daha fazla kullanılmasıyla desteklenecektir. Bu talepleri karşılamak için depolama çözümlerinin daha gelişmiş hâle gelmesi ve daha yüksek kapasiteler, daha yüksek hızlar ve daha iyi güç verimliliği sunması gerekecektir.

Yapay zeka altyapısının depolama ihtiyaçlarını karşılamak için çeşitli teknik yenilikler araştırılmaktadır:

• Alan yoğunluğu artışı. Cihazların kafalarını ve medyasını yenileyerek sabit disklerin sürekli büyümesi, aynı form faktöründe daha büyük bir kapasite ayak izine olanak tanır. Seagate Mozaic özellikli sabit diskler dünyanın en verimli sabit disk depolama alanını sunar ve üretkenliği artırırken edinme maliyetleri ile operasyonel maliyetleri düşürebilir. Mozaic'in yüksek alan yoğunluğu sunan diski sayesinde müşteriler alan, güç veya doğal kaynak tüketimini artırmadan daha fazla veri depolayabilir. Mozaic 3+, terabayt başına gömülü karbonu %55 oranında azaltarak müşterilerin, büyük ölçekli veri merkezleri için kritik olan sürdürülebilirlik hedeflerine ulaşmalarına da yardımcı olur³.
• Çift çalıştırıcılı diskler. Bu diskler, verileri aynı anda okumak ve yazmak için iki çalıştırıcı kullanarak daha yüksek performans sunar. Bu, veri iş yükünü önemli ölçüde artırarak yapay zeka uygulamaları tarafından oluşturulan büyük hacimli verilerin işlenmesini kolaylaştırabilir.
• NVMe tabanlı sabit diskler. Geçici olmayan hızlı bellek (NVMe) teknolojisi, geleneksel SATA (seri gelişmiş teknoloji bağlantısı) veya SAS arayüzlerine (seri bağlı SCSI [küçük bilgisayar sistemi arayüzü]) göre daha hızlı veri erişimi sağlar. Veri merkezleri, NVMe tabanlı sabit diskleri benimseyerek yapay zeka iş yükleri için çok önemli olan daha yüksek performans ve daha düşük gecikme süresi elde edebilir.
• Optik ara bağlantılar. Veri aktarım hızları arttıkça, geleneksel bakır ara bağlantılar bir darboğaz hâline gelebilir. Optik ara bağlantılar, daha yüksek bant genişliği ve daha düşük gecikme süresi sunarak depolama cihazları ve işlem birimleri arasında daha hızlı veri hareketi sağlar.
• Enerjide verimli depolama çözümleri. Yapay zeka altyapısının artan güç talepleri ile birlikte depolama çözümlerinin daha fazla enerji tasarrufu sağlaması gerekiyor. Bu, yüksek performansı korurken daha az güç tüketen disklerin geliştirilmesini ve büyük ölçekli dağıtımlar tarafından üretilen ısıyı yönetmek için yeni soğutma teknolojilerinin keşfedilmesini içerir.

Gelişen yapay zeka depolama talepleri.

Yapay zeka altyapısına yönelik depolama ihtiyaçları, verilerin katlanarak büyümesi ve yapay zeka modellerinin artan karmaşıklığı nedeniyle hızla gelişiyor. Geleceğe doğru ilerlerken, yapay zeka sistemlerinin gelişmeye devam edebilmesi ve sektörleri dönüştürme ve yaşamları iyileştirme vaadini yerine getirebilmesi için bu taleplere ayak uydurabilecek depolama çözümleri geliştirmek çok önemli olacaktır.

1.  Hücresel Nesnelerin İnterneti Bağlantı Serisi: Akıllı Şehir Fırsatları ve Tahminleri, Kaleido Intelligence, 2023, https://kaleidointelligence.com/smart-cities-2027/
2. Üretken Yapay Zeka 2032’ye Kadar 1,3 Trilyon Dolarlık Bir Pazar Hâline Gelecek, Research Finds, Bloomberg Intelligence, 2023, https://www.bloomberg.com/company/press/generative-ai-to-become-a-1-3-trillion-market-by-2032-research-finds/
3. 30 TB Mozaic 3+ disk ile 16 TB geleneksel PMR disk karşılaştırması. Gömülü karbon; ham madde çıkarma, ürün imalatı/montajı ve malzemelerin çıkarma sahasından imalat alanına ve imalat alanından müşterilere kadar taşınması sırasında oluşturulan emisyonları içerir.