Arama butonu
Bu konudaki kullanıcılar: 1 misafir
13
Cevap
502
Tıklama
4
Öne Çıkarma
DeepSeek'in R1 yapay zeka modeli, güvenlik testinden geçemedi
E
5 ay
Yarbay

"DeepSeek'in güvenlik açıkları araştırmacıları endişelendiriyor"

Kapatalım n'olurrrr 😢
(Hocam ABD ağlıyor, tuvalete gidebilir miyiz)




"DeepSeek'in güvenlik açıkları araştırmacıları endişelendiriyor"

Kapatalım n'olurrrr 😢
(Hocam ABD ağlıyor, tuvalete gidebilir miyiz)
Yoruma Git
E_Y_B_H_P_T - 5 ay +22
Çin adı geçen herşeyi boklamak zaten batının son dönemdeki klasik hamlesi.
Yoruma Git
KaSaTuRa. - 5 ay +13
Kuvvetle muhtemel bunlar bir karalama kampanyası, ama yine de dikkatli olmakta fayda var. Sam Altman/Sundar Pichai rekabetin ne olduğunu; tüketiciye en iyisini en uyguna vermekten başka çare...
Yoruma Git
Yorumun Devamı khaos - 5 ay +5
K
5 ay
Yarbay

Çin adı geçen herşeyi boklamak zaten batının son dönemdeki klasik hamlesi.



K
5 ay
Yarbay

Kuvvetle muhtemel bunlar bir karalama kampanyası, ama yine de dikkatli olmakta fayda var. Sam Altman/Sundar Pichai rekabetin ne olduğunu; tüketiciye en iyisini en uyguna vermekten başka çareleri olmadığını öğrenecekler.



< Bu ileti Android uygulamasından atıldı >

A
5 ay
Binbaşı
Konu Sahibi

DeepSeek'in R1 yapay zeka modeli, güvenlik testinden geçemedi
Yapay zeka teknolojilerinin güvenliği konusunda yeni bir endişe kaynağı ortaya çıktı. Cisco ve Pennsylvania Üniversitesi'nden araştırmacılar, Çin merkezli yapay zeka şirketi DeepSeek'in yeni R1 modelinde önemli güvenlik açıkları tespit etti. Araştırmacılar, modelin zararlı içerik üretmeyi engellemek için tasarlanmış güvenlik önlemlerinin tamamının başarısız olduğunu açıkladı.



Ayrıca Bkz.Yeni bir yapay zeka, akciğer hastalıklarını anında yakalıyor



DeepSeek'in güvenlik açıkları araştırmacıları endişelendiriyor



Araştırma kapsamında, HarmBench adı verilen standart değerlendirme kütüphanesinden seçilen 50 farklı kötü amaçlı komut test edildi. Sonuçlar oldukça çarpıcıydı. Çünkü DeepSeek R1 modeli, test edilen zararlı içeriklerin tamamını engelleme konusunda başarısız oldu. Bu durum, araştırmacıların deyimiyle yüzde 100 saldırı başarı oranı anlamına geliyor.



Cisco'nun ürün, yapay zeka yazılımı ve platform başkan yardımcısı DJ Sampath, durumun ciddiyetine dikkat çekerek bu sonuçların maliyet ve güvenlik arasındaki dengeyi gözler önüne serdiğini belirtti. Sampath'e göre, daha uygun maliyetli bir model geliştirme çabası, gerekli güvenlik önlemlerinin göz ardı edilmesine yol açmış olabilir.



DeepSeek'in R1 yapay zeka modeli, güvenlik testinden geçemedi
AI güvenlik şirketi Adversa AI tarafından yapılan bağımsız bir analiz de benzer sonuçlara ulaştı. Şirketin CEO'su Alex Polyakov, DeepSeek modelinin basit dil hilelerinden karmaşık yapay zeka tarafından oluşturulan komutlara kadar çeşitli jailbreak tekniklerine karşı savunmasız olduğunu doğruladı.



Güvenlik açıklarının en önemli boyutlarından biri, modelin dolaylı hızlı enjeksiyon saldırıları olarak bilinen tehditlere karşı zayıf olması. Bu tür saldırılar, yapay zeka sistemlerinin dış kaynaklardan aldığı verileri işleme biçimini hedef alıyor ve sistemin güvenlik kontrollerini atlatmasına neden olabiliyor.



DeepSeek'in bu durumu, yapay zeka endüstrisinde giderek büyüyen bir soruna işaret ediyor. OpenAI ve Meta gibi büyük teknoloji şirketleri, modellerinin güvenliğini sürekli olarak güçlendirirken yeni oyuncuların pazara girmesiyle birlikte güvenlik standartlarında tutarsızlıklar ortaya çıkıyor. DeepSeek ise henüz bu bulgulara yönelik herhangi bir açıklama yapmadı.




Kaynak:https://www.wired.com/story/deepseeks-ai-jailbreak-prompt-injection-attacks/

DH forumlarında vakit geçirmekten keyif alıyor gibisin ancak giriş yapmadığını görüyoruz.

Üye olduğunda özel mesaj gönderebilir, beğendiğin konuları favorilerine ekleyip takibe alabilir ve daha önce gezdiğin konulara hızlıca erişebilirsin.

Üye Ol Şimdi Değil

 Haberi Portalda Gör

S
5 ay
Binbaşı

Onların açık dediği şey istifade edenler için nimettir. Vatandaşa sansür uygulasınlar ama kendileri istediğini serbestçe yapsın. Bir modele yenileceksiniz.



< Bu ileti Android uygulamasından atıldı >

D
5 ay
Çavuş

Tabi tabi geçememiş ABD yi madara edince zaten her açıgı çıkar ortaya




B
5 ay
Yarbay

quote:

Cisco ve Pennsylvania Üniversitesi'nden araştırmacılar…



K
5 ay
Yarbay

Cisco = ABD
Pensilvanya Üniversitesi = ABD

Fazla söze gerek yok bence. Deepseek’in hızlı yükselişi ABD’nin canını çok sıkmış.



< Bu ileti mobil sürüm kullanılarak atıldı >

J
5 ay
Yarbay

İnternete açık olan herşeyde bir güvenlik açığı vardır.




C
5 ay
Çavuş

he inandık




O
5 ay
Çavuş

Amerika merkezli hiçbir teste güvenmiyorum DeepSeek hakkında her kara propaganda sonrası bir arkadaşıma daha indirtiyorum seni yenicem amerika



< Bu ileti iOS uygulamasından atıldı >

D
5 ay
Yarbay

Laga luga yapmaya gerek yok açın bakın. Deepseek denen uygulamayı denemek için indirdim sen mi iyisin chat gpt mi dedim insan mi iyi yapay mi zeka olarak algiladi. Chat gpt nin yanına yaklaşamaz. En ufak değişik test edin hata verip kapatıyor basit bir kopyalama çalıntı ornegi. Yapay zekaya en basit ilgi duyan adam anlar bunu.




D
5 ay
Yarbay

Kesin Amerika'nın işi bu işte karalama kötüleme kampanyası başlattılar sırf openai den daha iyi daha hızlı diye bence deep seek çok başarılı olacak bunu istemiyor ABD bu yüzden önüne engel konulmaya başladılar




F
5 ay
Yüzbaşı

Herhangi bir yapay zeka uygulaması bana güven vermiyor zaten.

Arama motorları bizi takip ediyor yapay zeka motorları etmesin mi? Etmediğini düşünen de baya polyannadır.



DH Mobil uygulaması ile devam edin. Mobil tarayıcınız ile mümkün olanların yanı sıra, birçok yeni ve faydalı özelliğe erişin. Gizle ve güncelleme çıkana kadar tekrar gösterme.