Tantangan yang terus berkembang dalam penyimpanan data AI
Kecerdasan buatan mendorong terobosan di seluruh industri, merevolusi semuanya, mulai dari diagnostik layanan kesehatan dan pemodelan keuangan hingga kendaraan otonom dan otomatisasi berskala besar. Namun, karena sistem AI menjadi lebih canggih, tuntutan penyimpanan data telah tumbuh secara eksponensial, menciptakan tantangan dalam skalabilitas, efisiensi, dan biaya.
Kumpulan data pembelajaran mesin kini memerlukan penyimpanan petabyte, dengan beberapa perusahaan mengelola kumpulan data skala exabyte untuk mengikuti model AI yang terus berkembang. Kumpulan data besar ini harus disimpan, diambil, dan diproses secara efisien untuk mendukung pelatihan dan inferensi model. Infrastruktur penyimpanan di balik AI tidak lagi hanya menjadi perhatian TI, tetapi telah menjadi pendorong inti inovasi AI itu sendiri.
Terlepas dari kemajuan dalam komputasi AI, arsitektur penyimpanan biasa telah menjadi rumit dan mahal pada skala yang diperlukan untuk memenuhi GPU yang menginginkan data, memperkenalkan batasan yang memperlambat penerapan AI. Ada tiga alasan untuk ini:
Pertama, meskipun arsitektur berbasis SSD menghadirkan performa berkecepatan tinggi, biaya akuisisinya yang tinggi membuatnya tidak praktis untuk kebutuhan penyimpanan berskala besar dari beban kerja pelatihan AI. Menyimpan kumpulan data besar hanya pada SSD secara finansial tidak berkelanjutan untuk sebagian besar perusahaan.
Kedua, meskipun sistem hard disk SAS/SATA terus menyediakan penyimpanan yang andal dan hemat biaya untuk banyak aplikasi perusahaan, beban kerja AI menempatkan tuntutan unik pada infrastruktur penyimpanan. Interface SAS/SATA mengandalkan silikon eksklusif, HBA (adaptor bus host), dan arsitektur pengontrol yang awalnya tidak dirancang untuk kebutuhan beban kerja AI dengan throughput tinggi dan latensi rendah. Seiring meningkatnya penerapan AI, faktor-faktor ini dapat menimbulkan kerumitan dan latensi tambahan, yang mempersulit model AI untuk mengakses kumpulan data besar dengan cepat.
Terakhir, beban kerja AI yang bergantung pada penyimpanan berbasis cloud sering kali mengalami biaya transfer data WAN yang tinggi, lonjakan latensi, dan waktu pengambilan yang tidak dapat diprediksi. Inefisiensi ini membatasi responsivitas model AI dan meningkatkan biaya operasi saat memproses perangkat keras yang menunggu data jarak jauh.
Oleh karena itu, seiring AI yang terus meningkat, diperlukan pendekatan baru, yakni pendekatan yang melengkapi arsitektur penyimpanan yang ada sekaligus menyeimbangkan kapasitas, biaya, dan kecepatan untuk mendukung pelatihan serta inferensi AI tanpa kompromi.
Pendekatan baru: Hard disk NVMe untuk beban kerja AI
Seagate memelopori solusi transformasional dengan menghadirkan teknologi NVMe ke hard disk berkapasitas tinggi. Dengan mengembangkan NVMe sebagai protokol standar masa mendatang untuk konektivitas hard disk, Seagate menyediakan alternatif yang dirancang untuk mengoptimalkan saluran data AI, mengurangi kemacetan penyimpanan sekaligus mempertahankan keunggulan keterjangkauan dan densitas hard disk.
Tidak seperti hard disk berbasis SAS/SATA, hard disk NVMe menghilangkan kebutuhan akan HBA, jembatan protokol, dan infrastruktur SAS tambahan, sehingga penyimpanan AI menjadi lebih efisien. Hard disk ini memungkinkan beban kerja AI untuk menskalakan secara lancar dengan mengintegrasikan penyimpanan hard disk berdensitas tinggi dengan penyimpanan cache SSD berkecepatan tinggi dalam arsitektur NVMe terpadu.
Peralihan ini akan memberikan keunggulan yang signifikan. Pertama, dengan menghilangkan adaptor perangkat keras untuk interface dengan prosesor, hard disk NVMe menyederhanakan penggunaan penyimpanan AI, memungkinkan organisasi membangun lingkungan penyimpanan AI berskala besar tanpa pengontrol khusus. Kedua, dengan satu driver NVMe dan jajaran OS, hard disk ini memastikan bahwa hard disk dan SSD bekerja sama secara efisien, sehingga tidak memerlukan lapisan perangkat lunak terpisah.
Salah satu manfaat paling penting adalah akses data langsung dari GPU ke penyimpanan melalui DPU, sehingga dapat menghindari kemacetan CPU. Arsitektur penyimpanan biasa merutekan data melalui saluran berbasis CPU, sehingga menimbulkan masalah latensi. Hard disk NVMe dapat menghilangkan inefisiensi ini, memungkinkan model AI mengambil dan memproses kumpulan data besar dengan penundaan yang berkurang secara signifikan.
Selain itu, NVMe-oF (NVMe over Fabrics) memungkinkan hard disk NVMe berintegrasi dalam arsitektur penyimpanan AI terdistribusi, sehingga memastikan penskalaan yang lancar dalam jaringan pusat data berperforma tinggi. Fitur ini sangat bermanfaat bagi perusahaan yang memerlukan solusi penyimpanan fleksibel dan dapat disusun untuk alur kerja AI.
Dengan menggunakan hard disk NVMe bersama SSD, organisasi akan dapat mengoptimalkan biaya sekaligus mempertahankan performa, mencadangkan SSD untuk kumpulan data aktif, dan menggunakan hard disk untuk retensi data pelatihan AI jangka panjang.
Membuktikan masa depan: Bukti konsep hard disk NVMe Seagate
Untuk menunjukkan potensi dampak hard disk NVMe di dunia nyata, Seagate melakukan POC (bukti konsep) yang mengintegrasikan hard disk NVMe, SSD NVMe, DPU NVIDIA BlueField, dan perangkat lunak AIStore, yang menampilkan ekosistem penyimpanan AI dengan efisiensi tinggi.
POC ini menyoroti keunggulan utama hard disk NVMe dalam alur kerja AI, memberikan bukti bahwa hard disk tersebut dapat memiliki dampak yang signifikan dalam lingkungan penyimpanan AI berskala besar:
- Para teknisi menunjukkan bahwa komunikasi langsung dari GPU ke penyimpanan melalui hard disk NVMe dan DPU membantu mengurangi latensi terkait penyimpanan dalam alur kerja data AI.
- Biaya operasional SAS/SATA lama telah dihilangkan, sehingga menyederhanakan arsitektur sistem dan meningkatkan efisiensi penyimpanan.
- AIStore mengoptimalkan penyimpanan cache dan tingkatan secara dinamis, meningkatkan performa pelatihan model sekaligus menyederhanakan agregasi penyimpanan dan skalabilitas ke tingkat exabyte.
- Integrasi NVMe-oF memungkinkan penskalaan yang lancar, membuktikan komposabilitas kluster penyimpanan AI multirak.
Melalui POC ini, Seagate menunjukkan bagaimana hard disk NVMe dapat mendukung beban kerja AI terberat di dunia tanpa memerlukan semua arsitektur flash.
Dampak di dunia nyata: Cara kerja penyimpanan AI
Seagate memanfaatkan pengalamannya selama satu dekade dalam menerapkan model AI di pabrik pintarnya untuk memvalidasi hard disk NVMe dalam beban kerja AI di dunia nyata.
Di fasilitas produksi antena kuantum Seagate, deteksi kecacatan berbasis AI mengandalkan pengambilan gambar berkecepatan tinggi dan pengambilan cepat untuk pelatihan model serta peningkatan berkelanjutan. Dengan menerapkan wawasan dari lingkungan produksinya yang mendukung AI, Seagate menelusuri bagaimana hard disk NVMe akan mengaktifkan proses ini dengan menyediakan penyimpanan terukur dan hemat biaya yang mendukung pemrosesan secara real-time dan retensi jangka panjang:
- Kapasitas besar untuk menyimpan gambar definisi tinggi tanpa kompresi data yang hilang.
- Penyimpanan jangka panjang yang efisien terhadap kumpulan data pelatihan AI.
- Akses lancar untuk pelatihan ulang model AI dan peningkatan berkelanjutan.
Dengan menjelajahi integrasi hard disk NVMe dalam arsitektur penyimpanan, Seagate menunjukkan bagaimana teknologi baru ini akan mengurangi biaya penyimpanan AI sekaligus memastikan responsivitas secara real-time untuk deteksi kecacatan AI. Peningkatan efisiensi mencakup analisis berbasis AI yang lebih cepat, akurasi yang ditingkatkan, dan biaya infrastruktur yang lebih rendah.
Selain manufaktur, hard disk NVMe dapat diterapkan di kendaraan otonom, pencitraan layanan kesehatan, analitik keuangan, dan platform AI cloud hyperscale.
Keberlanjutan dan hemat biaya: Keunggulan hard disk NVMe
Infrastruktur AI menghabiskan daya dalam jumlah besar, membuat keberlanjutan menjadi prioritas yang terus berkembang. Karya Seagate dengan hard disk NVMe menelusuri alternatif yang hemat biaya dan energi untuk arsitektur SSD yang berat.
Dibandingkan dengan SSD, hard disk NVMe akan menawarkan:
- Kandungan karbon 10× lebih efisien per terabyte, yang secara signifikan mengurangi dampak lingkungan.
- Pemakaian daya operasi 4× lebih efisien per terabyte, sehingga menurunkan biaya energi pusat data AI.
- Biaya per terabyte yang jauh lebih rendah, sehingga mengurangi TCO penyimpanan AI dalam skala besar.
Seiring berkembangnya infrastruktur AI, penyimpanan berkelanjutan akan menjadi faktor penting dalam mengurangi biaya dan dampak lingkungan. Teknik perencanaan pengembangan Seagate mencakup kemajuan berkelanjutan dalam hal efisiensi hard disk NVMe, dengan tujuan membantu organisasi menskalakan penyimpanan AI sekaligus memenuhi tujuan keberlanjutan jangka panjang.
Teknik perencanaan untuk masa depan penyimpanan AI
Seagate sedang mengembangkan inovasi yang akan memungkinkan generasi berikutnya dari infrastruktur penyimpanan siap-AI, selaras dengan tren industri serta kebutuhan lingkungan hyperscale dan cloud.
Teknik perencanaan tersebut meliputi:
- Menskalakan platform Mozaic (sekarang mengirimkan hard disk 36 TB) untuk mengembangkan hard disk NVMe berkapasitas lebih tinggi.
- Memajukan dukungan NVMe-oF, yang memungkinkan beban kerja AI diskalakan dengan lancar di seluruh lingkungan hibrid.
- Membuat arsitektur referensi, yang memastikan pengembang AI dapat menerapkan pengoptimalan solusi penyimpanan dengan mudah.
Seagate bekerja sama dengan pelanggan dan mitra untuk menelusuri bagaimana hard disk NVMe dapat sesuai dengan solusi penyimpanan AI generasi berikutnya, memastikan perusahaan dapat memenuhi permintaan penyimpanan AI dengan harga terjangkau dan efisien.
Komitmen Seagate terhadap masa depan penyimpanan AI
AI mengubah industri, tetapi banyak organisasi berjuang dengan kerumitan manajemen data dan meningkatnya biaya penyimpanan. Penyimpanan yang terukur dan efisien sangat penting untuk menjaga inovasi AI terus maju.
Karya Seagate di bidang hard disk NVMe menunjukkan bagaimana konektivitas NVMe dapat mengurangi kerumitan penggunaan penyimpanan sekaligus mempertahankan keunggulan biaya dan densitas hard disk.
Dengan mengaktifkan integrasi AIStore, skalabilitas NVMe-oF, dan jalur penyimpanan yang dioptimalkan GPU di POC-nya, Seagate memimpin gelombang inovasi infrastruktur AI berikutnya.
Saat AI membentuk ulang industri, Seagate mendefinisikan ulang bagaimana skala infrastruktur penyimpanan AI memenuhi permintaan penyimpanan data yang terus meningkat.
