Ayrıca Bkz.Apple M5 Max, M4 Max ve M3 Ultra ile karşılaştırıldı

M4 Mac ve iPad'de 15.8 TFLOPS'luk gizli yapay zeka işlem gücü

Apple, bu gelişmiş görevler için Neural Engine ile doğrudan iletişim kurmak için gerekli izin seviyelerini vermediğinden, geliştirici CoreML, Metal gibi standart araçları kullanmadan ve grafik işlem birimine güvenmeden çalışmanın bir yolunu bulmak zorunda kaldı. Bunu başarmak için, sıfırdan özel bir Model Ara Dili (MIL) geliştirdi. Bu özel yazılım, aradaki boşluğu başarıyla kapatarak Apple Neural Engine üzerinde doğrudan tam geri yayılım ve transformatör eğitimine imkan verdi.

https://x.com/0x0SojalSec/status/2066629930889474333?s=20

Donanım tasarım gereği oldukça kısıtlı olduğundan, geliştirici sistemi kararlı tutmak için birkaç çözüm de kullanmak zorunda kaldı. Örneğin; yoğun eğitim aşamasında bir işlem takılıp kalırsa, özel dil, işlemi yeniden başlatmak için belirli bir yürütme komutu kullanıyor. Bu, sistemin mevcut durumunu yenilemesine ve tüm programı çökertmeden makine öğrenimine yeniden başlamasına olanak tanıyor.

Bu ağır iş yükünün etkili bir şekilde çalıştırılmasında hız da önemli bir faktör. Eğitimin mümkün olduğunca sorunsuz çalışmasını sağlamak için geliştirici, işlemi her şeyi tamamen sistem belleğine yazacak şekilde ayarladı. Çok daha yavaş olan NAND flaş depolama alanından kaçınıldığından, tüm işlem inanılmaz derecede hızlı gerçekleşti.

M4 işlemcili Mac veya iPad kullanan herkes için bu ilgi çekici çözüm, Apple çipin yeteneklerini gizli tutmayı tercih etse bile, ağır yapay zeka eğitim iş yüklerini rahatlıkla kaldırabileceğini gösteriyor.