BlockBeats haberine göre, 6 Ağustos'ta Western Digital Ürün Müdürü Ahmed Shihab, yapay zeka depolama rekabetinin anahtarının yalnızca en hızlı ortamı kovalamak değil, kapasiteyi karşılanabilir bir maliyetle sürekli olarak genişletebilmek olduğunu belirtti. Ona göre, birçok mimari erken aşamalarda sorunsuz çalışır, ancak veri ölçeği birkaç PB'den yüzlerce PB hatta EB seviyesine büyüdüğünde, maliyet kontrolünün kaybedilmesi nedeniyle sorunlar ortaya çıkabilir.
Flash bellek, model ağırlıkları, GPU taşması, KV önbelleği ve oturum bağlamı gibi yüksek performans ve düşük gecikme gerektiren senaryolar için uygundur; HDD ise eğitim külliyatı, günlükler, kontrol noktaları, uyumluluk kayıtları, sentetik veriler ve çıkarım çıktıları gibi büyük ölçekli, uzun süreli saklama ve maliyete duyarlı veriler için daha uygundur. Özetle: "Flash bellek anlık işleri halleder, HDD ise tüm yaşam döngüsünü yönetir."
Yapay zeka ölçeğinde, depolama maliyeti başlı başına bir mimari sorun haline gelir. Büyük miktarda veriyi uzun süre yüksek performanslı ortamda tutmak, hesaplama, ağ, elektrik ve personel bütçelerini tüketir. Birçok toplu depolama iş yükü için sorun, flash belleğin depolayıp depolayamayacağı değil, müşterilerin tamamen flash bellek kullanmanın maliyetini uzun vadede karşılayıp karşılayamayacağıdır.
Gelecekteki yapay zeka depolaması tek bir teknoloji tarafından domine edilmeyecek; performans, maliyet, güç tüketimi, yoğunluk, güvenilirlik ve veri yaşam döngüsüne göre katmanlı bir tasarım gerektirecektir. Bunun flash bellek ile HDD arasında bir rekabet olmadığını, farklı iş yükleri için en baştan uygun ortamın eşleştirilmesi gerektiğini vurguladı; aksi takdirde mimari ölçek büyüdükçe iş sürdürülebilirliğini etkileyebilir.
