Tek modülde 256 GB

Yeni modül, sektörün ilk monolitik 32 Gb LPDDR5X yonga tasarımına dayanıyor. Düşük güç tüketimli DRAM teknolojisinin sunucu kullanımına uyarlanmış bir versiyonu olan LPDRAM, SOCAMM2 form faktörüyle birlikte geleneksel RDIMM ve LRDIMM modüllere kıyasla daha yüksek yoğunluğu daha kompakt bir yapıda sunuyor.

Micron’un verdiği bilgilere göre 256 GB SOCAMM2, önceki en yüksek kapasiteli 192 GB’lık sürüme kıyasla yüzde 33 daha fazla kapasite sunuyor. Sekiz kanallı bir CPU yapılandırmasında toplam 2 TB LPDRAM kapasitesine ulaşılabiliyor. Bu da özellikle geniş bağlam pencerelerine sahip büyük dil modelleri ve karmaşık çıkarım (inference) senaryoları için kritik bir avantaj anlamına geliyor.

Micron’un şirket içi test sonuçlarına göre, 256 GB LPDRAM modülleriyle donatılmış genel amaçlı sunucular, Apache Spark üzerinde çalışan SVM iş yüklerinde 4 kata kadar performans artışı sağlayabiliyor.

Ayrıca Bkz.Lenovo, dizüstünde LPCAMM2 dönemini başlattı

Birleşik bellek mimarilerinde ise 256 GB SOCAMM2, uzun bağlamlı ve gerçek zamanlı büyük dil modeli çıkarımında, KV önbellek boşaltma senaryolarında “ilk token’a ulaşma süresini” 2,3 katın üzerinde iyileştiriyor. Bağımsız CPU uygulamalarında ise modül, ana akım bellek çözümlerine kıyasla watt başına 3 kattan fazla performans artışı sunuyor.

Şirket aynı zamanda 256 GB SOCAMM2 modülünün müşteri örneklemelerini sevk etmeye başladığını açıkladı. Micron’un veri merkezi odaklı LPDRAM portföyü böylelikle 8 GB ile 64 GB arası bileşenlerden, 48 GB ile 256 GB arası SOCAMM2 modüllere kadar uzanmış oldu.