Arama butonu
Bu konudaki kullanıcılar: 1 misafir
10
Cevap
468
Tıklama
1
Öne Çıkarma
AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!
M
2 yıl
Yarbay
Konu Sahibi

AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!
Teknolojik gelişmeler yaşandıkça ve üretim teknolojisindeki ilerlemelere daha küçük transistörlerin üretilmesi sayesinde bilgisayar donanımlarının daha az güç tüketeceğini düşünürdük. Ancak son yıllar bunun olmadığını gösteriyor. AMD’nin birkaç gün önce tanıttığı Instinct MI300X GPU’su da tam olarak bu durumu ortaya koyuyor. Yapay zeka iş yükleri için hazırlanan Instinct MI300X, 1 KW güç tüketim sınırına yaklaşıyor.



AMD, 1 KW sınırına doğru ilerliyor



Nvidia H100 GPU, 700W'a varan nominal güç tüketimiyle piyasaya sürüldüğünden beri en çok güç tüketen veri merkezi yongası olmuştu. Ancak bu durum daha da fazla güç tüketecek olan Instinct MI300X ile değişiyor. AMD'nin Instinct MI300X GPU'su piyasaya çıktığında 1KW'a yakın güç tüketerek en fazla güç tüketen yonga olacak.



AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!
AMD’nin belgelerine göre Instinct MI300X OAM GPU hızlandırıcısı 750W güç tüketimine sahip olacak. Karşılaştırma yapmak gerekirse, CDNA 2 GPU mimarisini temel alan Instinct MI250X GPU'ları 500 ila 560 Watt arasında güç tüketiyordu. Yani güç gereksinimleri tek bir nesilde yüzde 34-50 oranında artmış durumda. Öte yandan çipin tasarımı ve sunduğu performans göz önüne alındığında bu güç artışı beklenen bir durum. Çip, yapay zeka iş yüklerinde 8 kat performans artışı sağlarken 5 kat daha verimli çalışıyor.



Önceki nesle göre dev iyileşmeler var



AMD Instinct MI300X GPU'nun MI250X'te yer alan 220 işlem birimine karşılık 304 CDNA 3 işlem birimine sahip olması bekleniyor. Bu da yüzde 38'lik bir artış anlamına geliyor. Ayrıca çip, 192 GB kapasitede HBM3 bellek barındırıyor. Bu, MI250X tarafından kullanılan 128 GB HBM2e bellekten yüzde 50 daha fazla ve HBM3'ten bahsettiğimiz için çok daha yüksek aktarım hızları da göreceğiz.



Ayrıca Bkz.AMD yeni Instinct MI300 hızlandırıcısını duyurdu



Instinct MI300X GPU'nun ve devasa büyüklükteki 192 GB VRAM'in en büyük avantajı, büyük dil modellerini rakiplerinden daha az GPU ile çalıştırabilmesi olacak. Instinct MI300X, rakiplerinin 80 GB'lık H100 çiplerinden daha az GPU ile 540 Milyar parametreye kadar LLM çalıştırabiliyor.



"Nükleer reaktör gerekecek"



AMD’nin Instinct MI300X kartının güç tüketimi şaşırttı: 1KW sınırına yaklaşıyoruz!
GPU'lar ve HPC hızlandırıcıları giderek daha güçlü hale geldikçe bu güç gereksinimleri de artmaya devam ediyor. Yakın tarihli bir Gigabyte Sunucu yol haritası, CPU'ların, GPU'ların ve APU'ların 1000W güç bariyerine yaklaşacağını gösteriyordu. AMD kesinlikle en fazla güç tüketen yongaya sahip ancak kırmızı ekip aynı zamanda güç gereksinimlerini önemli ölçüde azaltmalarına olanak tanıyan bir dizi yonga ve paketleme teknolojisine de yatırım yaptı.



ISSCC 2023 konferansı sırasında AMD'nin CEO'su Dr. Lisa Su, yeni tasarımların benimsenmemesi halinde Zettascale bilişimin enerji talebini karşılamak için bir "Nükleer Reaktöre" ihtiyaç duyacağını ve bunun sadece bir sistem için geçerli olduğunu belirtti. Bununla birlikte, MI300X GPU'lar, özellikle PCIe form faktörlerinde daha düşük güç gereksinimleri ile muhafazakar varyantlarda da mevcut olacak. Bunlar henüz duyurulmadı ancak 2024 yılına kadar gelmeleri bekleniyor.




Kaynak:https://wccftech.com/amd-pushes-gpu-power-closer-to-1kw-with-its-instinct-mi300x-gpu-consumes-750w/

DH forumlarında vakit geçirmekten keyif alıyor gibisin ancak giriş yapmadığını görüyoruz.

Üye olduğunda özel mesaj gönderebilir, beğendiğin konuları favorilerine ekleyip takibe alabilir ve daha önce gezdiğin konulara hızlıca erişebilirsin.

Üye Ol Şimdi Değil

 Haberi Portalda Gör

aslinda chipler enerji tuketmiyorlar, havadaki statik elektrik ile calisiyorlar, enerji sirketleri para kazanmak icin dokumhanelerde chiplrin icinde resistans koydurarak etrafi isitmalarini sagliyorla...
Yoruma Git
Yorumun Devamı darkaura - 2 yıl +8
D
2 yıl
Yarbay

aslinda chipler enerji tuketmiyorlar, havadaki statik elektrik ile calisiyorlar, enerji sirketleri para kazanmak icin dokumhanelerde chiplrin icinde resistans koydurarak etrafi isitmalarini sagliyorlar. dokumhanelerle enerji sirketlerinin ortak oyunu bu. ( bir kerede ben yapiyim dedim nasil oluyormus :))) tamamen ironidir, kimse ciddiye alip cevap yazmasin)



Bu mesaja 1 cevap geldi.
A
2 yıl
Binbaşı

Güç tüketimini kimse umursamıyor çünkü. Hiçkimse veya hiçbir şirket güç tüketimini birinci sıraya koymaz. En öncelikli kriter performanstır. Kimse gidipte daha az harcıyor diye i5 almıyor, parası yetmiyor yada diğer bileşenlere daha fazla bütçe ayırmak istediği için i5 alıyor. Yoksa i7 nin güç tüketimi kimsenin umrunda değil



< Bu ileti iOS uygulamasından atıldı >
Bu mesaja 1 cevap geldi.
C
2 yıl
Yarbay

2500 watt psu larda kampanya var:)




E
2 yıl
Yarbay

Kendi adına konuş... Ciddi işlem gücü gerektiren sunucularda toplam işletme maliyetinde elektrik önemli bir gider.





Bu mesajda bahsedilenler: @Ahmet DOĞAN
F
2 yıl
Yarbay

Yok gercek sandik bir iyiki belirtissin sonunda :DDDD



Bu mesaja 1 cevap geldi.

Bu mesajda bahsedilenler: @darkaura
C
2 yıl
Yarbay

NVIDIA'nın H100'ü de yaklaşık 700W çekiyor, şaşılacak bir durum değil yani. CDNA 3 mimarili 220 CU birimli 14080 akış işlemcili, MI300X'ün oyun kartı GPU'su olmadığı düşünülürse, 1 KW'lık güce yaklaşan sarfiyatı olsa bile, bu tür donanımlar için normal denilir.

Bunlar AI/HPC sistemleri için kullanılıyor, 96 CU'lu 6144 akış işlemcili 7900 XTX'in bazı özel modelleri bile, kolayca 4090 seviyesine yakın 421W'a ulaşabiliyor. Rekor yine 3090 Ti'da, 3090 Ti'un güç tüketim rekorunun kolayca kırılacağı da mümkün görünmüyor, tabi 4090 Ti çıkmadığı için.

MI250X'e göre yapay zeka iş yüklerinde, 8 kat performans artışı sağlarken 5 kat daha verimli çalışıyor. Bu tür donanımları kullanan şirketlerin, güç tüketimi umurunda olmaz, hız verimlilik oranı ön plandadır. Ayrıca oyunlarda GPU'nun tüm akış işlemcileri yüke her zaman girmeyebilir, AI uygulamaları ise benchmark gibi GPU'yu full kullanır.



< Resime gitmek için tıklayın >





< Bu mesaj bu kişi tarafından değiştirildi Cpt. Miller -- 17 Haziran 2023; 10:17:9 >

D
2 yıl
Yarbay

gercek zanneden bir mal illaki cikiyor. sonra onlarin cevaplariyla ugras. turkiyede yasadigim bunca yilda ogrendigim en onemli ders: insanlarin aptalligini asla kucumseme.




Bu mesajda bahsedilenler: @Fearless_tr
P
2 yıl
Yarbay

ne kadar güç tükettiği değil !
ne kadar veri işleye bildiği önemli !
örneğin şu an sap gibi şu baktığın masa üstü ekranı bile
durduk yere 250W tüketiyor !
dünyaya ne 1 gram faydası var
nede 1 kuruş faydası var
işi gücü elektrik faturasını artırmak
işe bu açıdan bakın
yani 1000 pc gücünde olsa
1w bile tüketmeyen bir sistem var karşınızda !

ama burada yazılanları okumayanlardan
bu oyunlarda kaç fps falan veriyor gibi sorularını soracaktır.





< Bu mesaj bu kişi tarafından değiştirildi ProjectMan -- 17 Haziran 2023; 11:40:43 >


B
2 yıl
Binbaşı

Teknoloji 50 yıl geriye doğru gidiyor 50 yıl sonra eve santral kurduracaklar birilerin buna dur demesi şart

Bu teknolojiye izin veren çevreci ulusal kuruluşların UNEP, WWF, Greenpeace, IUCN, TEMA ...





< Bu mesaj bu kişi tarafından değiştirildi bjkyener -- 17 Haziran 2023; 11:49:45 >

S
2 yıl
Yüzbaşı

temel mesele verimliliktir 1kW karşılığında diğer kartlara göre daha yüksek performans veriyorsa isterse 10kW olsun farketmez. Millet işlem gücü yetmediği için bu kartlardan 2000 tanesiyle cluster yapıyor artık 200tanesiyle yaparlar. En kötü alandan tasarruf



DH Mobil uygulaması ile devam edin. Mobil tarayıcınız ile mümkün olanların yanı sıra, birçok yeni ve faydalı özelliğe erişin. Gizle ve güncelleme çıkana kadar tekrar gösterme.