Arama butonu
Bu konudaki kullanıcılar: 1 misafir, 1 mobil kullanıcı
1
Cevap
256
Tıklama
1
Öne Çıkarma
SK hynix ve Sandisk’ten yeni nesil bellek HBF ortaklığı
M
5 ay (13288 mesaj)
Yarbay
Konu Sahibi

SK hynix ve Sandisk’ten yeni nesil bellek HBF ortaklığı
Güney Kore merkezli SK hynix ve Amerikan teknoloji devi Sandisk, yapay zeka çıkarım dönemi için geliştirdikleri yeni nesil bellek çözümü High Bandwidth Flash (HBF - Yüksek Bant Genişlikli Flash)’in küresel standardizasyon stratejisini duyurdu.



SK hynix, HBF’yi endüstri standardı haline getirerek tüm AI ekosisteminin birlikte büyümesini desteklemeyi hedeflediklerini belirtti. Bunun için Sandisk ile birlikte Open Compute Project (OCP) kapsamında özel bir çalışma grubu kurulacak ve standardizasyon süreci başlatılacak. OCP, dünya çapında en büyük açık veri merkezi teknolojisi girişimi olarak biliniyor.



Yapay zeka sektöründe son dönemde odak noktası, büyük dil modelleri (LLM) yaratmaya odaklanan eğitim süreçlerinden, kullanıcıya doğrudan hizmet sunan çıkarım (inference) süreçlerine kayıyor. Bu geçişle birlikte hızlı ve verimli bellek çözümleri kritik önem taşıyor. Mevcut bellek yapıları, çıkarım aşamasında yüksek kapasiteli veri işleme ile enerji verimliliğini aynı anda sağlayamıyor. HBF teknolojisi ise tam olarak bu ihtiyacı karşılamak üzere tasarlandı.



HBM ve SSD arasında yeni bellek katmanı



SK hynix ve Sandisk’ten yeni nesil bellek HBF ortaklığı
HBF, ultra hızlı bellek HBM ile yüksek kapasiteli depolama cihazı SSD arasında konumlanan yeni bir bellek katmanı olarak öne çıkıyor. Bu teknoloji, HBM’in yüksek performansı ile SSD’nin yüksek kapasitesi arasındaki boşluğu doldurabiliyor. Haliyle AI çıkarımlarında hem kapasite artışı hem de güç verimliliği sağlıyor. HBM yüksek bant genişliğini yönetirken, HBF mimaride destekleyici bir katman görevi görüyor.



Ayrıca Bkz.Çin, iki yıl içerisinde gelişmiş çip üretimini 5 kat arttırabilir



Endüstri analistleri, HBF dahil karmaşık bellek çözümlerine olan talebin 2030 civarında ciddi şekilde artacağını öngörüyor. Bu bağlamda SK hynix ve Sandisk, HBM ve NAND alanındaki tasarım, paketleme ve seri üretim tecrübelerini HBF standardizasyonu ve ticarileştirmeye taşıyor.



Sandisk’in HBF teknoloji detayları



SK hynix ve Sandisk’ten yeni nesil bellek HBF ortaklığı
Sandisk, HBF’yi NAND tabanlı bir bellek katmanı olarak konumlandırıyor ve HBM’e göre 8 ila 16 kat daha fazla kapasite sunabileceğini belirtiyor. İlk nesil HBF donanımında, okuma bant genişliği 1,6 TB/s, her bir küçük bellek kalıbı için 256 Gb ve 16 kalıplı bir yığının toplam kapasitesi 512 GB olacak şekilde planlanıyor. Ayrıca bu yığınların HBM4 ile fiziksel boyut, güç profili ve yükseklik açısından uyumlu olduğu belirtiliyor. Bu da HBM yığınlarıyla AI hızlandırıcılarında benzer bir entegrasyon modeli sunuyor.



Sandisk’in yol haritasına göre HBF Gen2 ve Gen3, sırasıyla 2 TB/s ve 3,2 TB/s üzeri okuma bant genişliği, 1 TB ve 1,5 TB yığın kapasitesi ve Gen1’e kıyasla daha düşük güç tüketimi (0,8x ve 0,64x) hedefliyor. Henüz kesin bir uygulama takvimi açıklanmamış olsa da SK hynix ve Sandisk, OCP çatısı altında standardizasyon sürecini bir sonraki adım olarak konumlandırmış durumda.




Kaynak:https://videocardz.com/newz/sk-hynix-and-sandisk-launch-ocp-workstream-to-standardize-high-bandwidth-flash-memory
Kaynak:https://news.skhynix.com/sk-hynix-and-sandisk-begin-global-standardization-ofnext-generation-memory-hbf/

 Haberi Portalda Gör

E
5 gün (96 mesaj)
Çavuş

Bu haber müthiş Sallıyorum 256B MoE yapısındaki modeli bir kez yüklersin, elektrik kesilse bile model hafızadan silinmez. Bilgisayarı açınca birkaç saniyede model uyanır. MoE yapısı sayesinde de 4GB HBM bile yeterli olur. Kullanılan model örneğin gemma-4-26b-a4b-it-imatrix-iq4-xs yerine daha az sıkıştırılmış ve onlarca kat fazla parametreye sahip modeli kullanabilirsin. Tek GPU ile çok zeki modeller istenen her işi yapabilirler ??




DH Mobil uygulaması ile devam edin. Mobil tarayıcınız ile mümkün olanların yanı sıra, birçok yeni ve faydalı özelliğe erişin. Gizle ve güncelleme çıkana kadar tekrar gösterme.