Um desafio crescente no armazenamento de dados de IA
A inteligência artificial está gerando inovações em todos os setores, revolucionando tudo, desde diagnóstico de saúde e modelagem financeira a veículos autônomos e automação de grande escala. Entretanto, à medida que os sistemas de IA ficam mais sofisticados, as demandas sobre o armazenamento de dados crescem exponencialmente, criando desafios em escalabilidade, eficiência e custo.
Agora, os conjuntos de dados de machine learning precisam de petabytes de armazenamento, e algumas empresas gerenciam conjuntos de dados em escala de exabytes para acompanhar os modelos de IA em evolução. Esses conjuntos de dados massivos devem ser armazenados, recuperados e processados de maneira eficiente para oferecer suporte ao treinamento de modelo e inferência. A infraestrutura de armazenamento por trás da IA não é mais apenas uma preocupação da TI, mas passou a ser um viabilizador básico da própria inovação da IA.
Apesar dos avanços na computação de IA, as arquiteturas de armazenamento tradicionais ficaram complexas e caras na escala necessária para alimentar GPUs que consomem muitos dados, introduzindo limitações que retardam a adoção da IA. Há três motivos para isso:
Primeiro, embora as arquiteturas baseadas em SSD forneçam desempenho de alta velocidade, seus altos custos de aquisição as tornam impraticáveis para as necessidades de armazenamento de escala massiva das cargas de trabalho de treinamento de IA. Reter grandes conjuntos de dados unicamente em SSDs é financeiramente insustentável para a maioria das empresas.
Segundo, embora os sistemas de disco rígido SAS/SATA continuem a fornecer armazenamento confiável e econômico para muitas aplicações corporativas, as cargas de trabalho de IA criam demandas exclusivas sobre a infraestrutura de armazenamento. As interfaces SAS/SATA dependem de silício proprietário, adaptadores de barramento de host (HBAs) e arquiteturas de controlador que não foram originalmente desenvolvidas para as necessidades de alto throughput e baixa latência das cargas de trabalho de IA. À medida que a adoção da IA aumenta, esses fatores podem introduzir complexidade e latência adicional, dificultando para os modelos de IA o acesso rápido a conjuntos de dados massivos.
Por fim, as cargas de trabalho de IA que dependem de armazenamento baseado em nuvem costumam apresentar custos altos de transferência de dados de WAN, picos de latência e tempos de recuperação imprevisíveis. Essas ineficiências limitam a capacidade de resposta dos modelos de IA e aumentam as despesas operacionais enquanto o hardware de processamento espera por dados remotos.
Consequentemente, à medida que a IA continua a se expandir, uma nova abordagem se faz necessária, uma que complemente as arquiteturas de armazenamento existentes, equilibrando capacidade, custo e velocidade para oferecer suporte ao treinamento e inferência de IA sem comprometimentos.
Uma nova abordagem: Discos rígidos NVMe para cargas de trabalho de IA
A Seagate é pioneira em uma solução transformacional levando a tecnologia NVMe aos discos rígidos de alta capacidade. Ao desenvolver a NVMe como um protocolo padrão futuro para conectividade de disco rígido, a Seagate oferece uma alternativa projetada para otimizar os pipelines de dados de IA, reduzindo os gargalos de armazenamento e mantendo as vantagens de densidade e preço dos discos rígidos.
Diferentemente dos discos rígidos baseados em SAS/SATA, os discos rígidos NVMe removem a necessidade de haver HBAs, pontes de protocolo e infraestrutura SAS adicional, tornando o armazenamento de IA mais dinâmico. Com esses discos, as cargas de trabalho de IA podem ser expandidas perfeitamente, integrando o armazenamento de disco rígido de alta densidade com o cache SSD de alta velocidade em uma arquitetura NVMe unificada.
Essa mudança traria vantagens significativas. Primeiro, ao eliminar adaptadores de hardware para interface com o processador, os discos rígidos NVMe simplificam a implantação do armazenamento de IA, permitindo que as organizações criem ambientes de armazenamento de IA em grande escala sem controladores especializados. Segundo, com um único driver NVMe e uma pilha de SO, essas unidades garantem que os discos rígidos e SSDs funcionem juntos de forma eficiente, removendo a necessidade de haver camadas de software separadas.
Um dos benefícios mais importantes é o acesso direto a dados da GPU ao armazenamento por meio de DPUs, contornando os gargalos da CPU. As arquiteturas de armazenamento tradicionais encaminham os dados por meio de pipelines acionados por CPU, criando problemas de latência. Os discos rígidos NVMe podem eliminar essa ineficiência, permitindo que os modelos de IA ingiram e processem conjuntos de dados massivos com atrasos significativamente reduzidos.
Além disso, o NVMe over Fabrics (NVMe-oF) permite que os discos rígidos NVMe se integrem em arquiteturas distribuídas de armazenamento de IA, garantindo a expansão perfeita dentro das redes de data center de alto desempenho. Esse recurso é especialmente vantajoso para empresas que precisam de soluções de armazenamento compostas para fluxos de trabalho de IA.
Ao usar discos rígidos NVMe com SSDs, as organizações poderão otimizar o custo ao mesmo tempo em que mantêm o desempenho, reservando SSDs para conjuntos de dados ativos e usando discos rígidos para retenção de dados de treinamento de IA de longo prazo.
Provando do futuro: Prova de conceito do disco rígido NVMe da Seagate
Para demonstrar o possível impacto real dos discos rígidos NVMe, a Seagate conduziu uma prova de conceito (PDC) integrando discos rígidos NVMe, SSDs NVMe, DPUs NVIDIA BlueField e software AIStore, demonstrando um ecossistema de armazenamento de IA de alta eficiência.
Essa PDC destacou as principais vantagens dos discos rígidos NVMe nos fluxos de trabalho de IA, fornecendo evidências de que eles podem ter um impacto significativo em ambientes de armazenamento de IA de grande escala:
- Os engenheiros demonstraram que a comunicação direta da GPU ao armazenamento por meio dos discos rígidos NVMe e DPUs ajudaram a reduzir a latência relacionada ao armazenamento nos fluxos de trabalho de dados de IA.
- A sobrecarga do SAS/SATA legado foi eliminada, simplificando a arquitetura do sistema e aprimorando a eficiência do armazenamento.
- O AIStore otimizou dinamicamente o armazenamento em cache e as camadas, aprimorando o desempenho de treinamento de modelo e simplificando a agregação e a escalabilidade do armazenamento para níveis de exabyte.
- A integração de NVMe-oF possibilitou o escalonamento perfeito, comprovando a modularidade dos clusters de armazenamento de IA de vários racks.
Nessa PDC, a Seagate está demonstrando como os discos rígidos NVMe poderão suportar as cargas de trabalho de IA mais exigentes do mundo sem precisar de arquiteturas totalmente flash.
Impacto real: Armazenamento de IA em ação
A Seagate está aproveitando sua década de experiência na implantação de modelos de IA em suas fábricas inteligentes para validar discos rígidos NVMe em cargas de trabalho de IA reais.
Nas instalações de produção de antenas quânticas da Seagate, a detecção de defeitos gerada por IA depende da ingestão de imagens em alta velocidade e recuperação rápida para treinamento de modelo e aprimoramento contínuo. Ao aplicar insights de seus próprios ambientes de produção habilitados para IA, a Seagate está explorando como os discos rígidos NVMe possibilitariam esse processo, fornecendo um armazenamento econômico e escalável que oferece suporte a processamento em tempo real e retenção de longo prazo:
- Capacidade massiva para armazenar imagens em alta definição sem perda de compressão de dados.
- Armazenamento eficiente de longo prazo de conjuntos de dados de treinamento com IA.
- Acesso fácil para retreinamento de modelo de IA e aprimoramentos contínuos.
Ao explorar a integração de discos rígidos NVMe em uma arquitetura de armazenamento, a Seagate mostra como a nova tecnologia reduziria os custos do armazenamento com IA, garantindo capacidade de resposta em tempo real para a detecção de defeitos de IA. Os ganhos de eficiência incluem análise mais rápida impulsionada por IA, maior precisão e custos de infraestrutura mais baixos.
Além da fabricação, os discos rígidos NVMe têm aplicações em veículos autônomos, imagens de saúde, análise financeira e plataformas de IA em nuvem de hiperescala.
Sustentabilidade e redução de custos: Vantagens do disco rígido NVMe
A infraestrutura de IA consome enormes quantidades de energia, tornando a sustentabilidade uma preocupação crescente. O trabalho da Seagate com discos rígidos NVMe explora uma alternativa econômica e eficiente em termos de energia às arquiteturas com muitos SSDs.
Em comparação com SSDs, os discos rígidos NVMe ofereceriam:
- carbono incorporado 10 vezes mais eficiente por terabyte, reduzindo significativamente o impacto ambiental.
- Consumo de energia em operação 4 vezes mais eficiente por terabyte, reduzindo os custos de energia do data center com IA.
- Custo por terabyte significativamente mais baixo, reduzindo o TCO do armazenamento de IA em grande escala.
À medida que a infraestrutura de IA se expandir, o armazenamento sustentável se tornará um fator essencial na redução dos custos e do impacto ambiental. O roadmap de desenvolvimento da Seagate inclui avanços contínuos na eficiência do disco rígido NVMe, com o objetivo de ajudar as organizações a expandir o armazenamento de IA ao mesmo tempo em que cumpre metas de sustentabilidade de longo prazo.
Um roadmap para o futuro do armazenamento de IA
A Seagate está desenvolvendo inovações que possibilitarão a próxima geração de infraestrutura de armazenamento pronta para IA, alinhando-se com as tendências do setor e as necessidades dos ambientes de nuvem e hiperescala.
O roadmap inclui:
- Expansão da plataforma Mozaic (agora com discos de 36 TB) para desenvolver discos rígidos NVMe de capacidade ainda mais alta.
- Avançar o suporte a NVMe-oF, permitindo que cargas de trabalho de IA sejam escaladas perfeitamente em ambientes híbridos.
- Criar arquiteturas de referência, garantindo que os desenvolvedores de IA possam implementar soluções de armazenamento otimizadas com facilidade.
A Seagate está trabalhando com clientes e parceiros para explorar como os discos rígidos NVMe podem se encaixar nas soluções de armazenamento de IA de próxima geração, garantindo que as empresas possam atender às demandas de armazenamento de IA de forma econômica e eficiente.
O compromisso da Seagate com o futuro do armazenamento de IA
A IA está transformando setores, mas muitas organizações lutam com a complexidade do gerenciamento de dados e os custos crescentes de armazenamento. O armazenamento escalável e eficiente é essencial para manter o avanço da inovação da IA.
O trabalho da Seagate com os discos rígidos NVMe está demonstrando como a conectividade NVMe poderia reduzir a complexidade de implantação de armazenamento, mantendo as vantagens de custo e densidade dos discos rígidos.
Ao permitir a integração com AIStore, a escalabilidade de NVMe-oF e caminhos de armazenamento otimizados para GPU em sua PDC, a Seagate está liderando a próxima onda de inovação de infraestrutura de IA.
À medida que a IA reformula os setores, a Seagate está redefinindo como a infraestrutura de armazenamento de IA é dimensionada para atender à crescente demanda por armazenamento de dados.
