HBM (High Bandwidth Memory) yongaları, üst üste yerleştirilmiş DRAM katmanlarından oluşuyor ve genellikle 12 katmana kadar çıkabiliyor. Bu katmanlar, TSV (Through-Silicon Via) bağlantılarıyla bir araya geliyor. İlginç olan, bu yongaların taban katmanına özel bir mantık veya hızlandırıcı devresi eklenebilmesi. Nvidia ve AMD, bu opsiyonu yalnızca performans kazanmak için değil, aynı zamanda üçüncü parti ASIC çözümlerini geride bırakmak için aktif olarak uygulamaya çalışıyor.

Özelleştirilmiş HBM4’ler geliyor

Ayrıca Bkz.Nvidia denizi geçti derede boğuldu: Bu kez Çin ambargo koydu

Şirketler genellikle Samsung, Micron veya SK Hynix gibi tedarikçilerden standart HBM bellekler alıyor. Ancak büyük hacimli siparişlerde Nvidia ve AMD özelleştirilmiş taleplerini ileterek taban katmanına özel geliştirmeler yaptırabiliyor. Bu modifikasyonlar, doğrudan TeraFLOPS seviyesinde işlem gücü sağlamasa da veri paketlerini daha verimli yönlendiren bir mantık katmanı olarak çalışıyor. Özellikle gecikmenin kritik olduğu çıkarım işlemlerinde “daha akıllı” bir HBM, çift haneli oranlarda veri işleme hızına katkı sağlayabilir.