macOS desteği de yolda

Microsoft’un açıklamasına göre GPT-OSS-20B modeli, en az 16 GB VRAM içeren ekran kartlarına sahip cihazlarda sorunsuz çalışabiliyor. Bu da üst düzey Nvidia GPU’ları ya da benzer şekilde yüksek bellek kapasiteli AMD Radeon kartlarını zorunlu kılıyor. Model, özellikle araç kullanımı ve kod yürütme görevlerinde yüksek performans vadediyor.

Microsoft, bu modeli yerel çıkarım için önceden optimize ettiğini ve düşük bant genişliği gibi sınırlı koşullarda dahi etkili çalıştığını belirtiyor. Yapay zeka destekli otonom asistanlar geliştirmek isteyenler veya AI’ı günlük iş akışlarına entegre etmek isteyen geliştiriciler için GPT-OSS-20B'nin ideal olduğu vurgulanıyor.

Bu arada Microsoft, bu modeli macOS kullanıcılarına da sunacak. Net tarih açıklanmadı ancak çıkış yakında olacağı belirtiliyor. Ayrıca daha fazla cihaza destek sağlanması planlanıyor; bu da Copilot Plus PC’ler gibi AI donanımına sahip cihazlar için özel sürümlerin yolda olabileceği anlamına geliyor. Bu arada bir diğer önemli detay a Amazon’un bulut hizmetlerine GPT-OSS desteğini hızla entegre etmesi.

GPT-OSS nedir, neler sunuyor?

İki sürümle sunulan modelin GPT-OSS-120B versiyonu büyük ölçekli sistemlerde çalışırken, GPT-OSS-20B sürümü yerel cihazlarda kullanılabilecek şekilde optimize edildi. Her iki model de Apache 2.0 lisansı ile yayınlandı ve bu sayede şirketler tarafından ticari projelere entegre edilerek özelleştirilebiliyor.

Ayrıca Bkz.OpenAI’dan sürpriz: Açık ağırlıklı GPT-OSS tanıtıldı, neler yapabiliyor?

Modellerin kod yazımı, araç kullanımı, web arama ve temel akıl yürütme gibi görevlerde etkili olduğu belirtiliyor. Ancak yalnızca metin tabanlı çıktılar üretebiliyorlar. GPT-OSS modelleri, daha küçük yapıda oldukları için halüsinasyon oranları yüksek ve görsel ya da sesli içerik üretemiyorlar.