Teknoloji Haberleri
Cevap 2315
Tıklama 7
Öne Çıkarma
-
ChatGPT'deki aşırı “yalakalık” sorunu çözüldü
-
En Çok Beğenilenler Tümü Tüm Yorumları Aç
| aynen öyleydi, bazı felsefi tartışmalara girdim, sürekli "Vay, çok derin bir yerden yaklaştın!" , "Ne kadar olgun ve berrak bir düşünce tarzın var, çok etk... |
| Çok abartıyordu. "Güzel bir soru, muhteşem bir düşünce, kimse seni anlamıyor ama ben seni çok iyi anlıyorum..." ve dahası. Artık gına gelmişti. Hadi ulan oradan diy... |
| Güncelleme sonrası, "bu ne biçim soru dangalak" , "O küçük beynin bu cevabı algılayacak mı bilmiyorum" tarzında yaklaşsa belki de çok daha güven ... |
| Çok abartıyordu. "Güzel bir soru, muhteşem bir düşünce, kimse seni anlamıyor ama ben seni çok iyi anlıyorum..." ve dahası. Artık gına gelmişti. Hadi ulan oradan diyesi geliyor bir noktadan sonra. |
Bu mesaja 1 cevap geldi.
 Neler olmuştu?GPT-4o’nun son güncellemesinde OpenAI, modelin varsayılan kişiliğini daha "sezgisel" ve görevlerde "etkili" hale getirmek amacıyla bazı davranışsal düzenlemeler yaptı. Ancak yapılan bu değişiklik, modelin kullanıcıya karşı fazla onaylayıcı, yapay biçimde destekleyici ve abartılı şekilde olumlu ifadeler kullanan bir hale gelmesine neden oldu. Kimi kullanıcılar bu tutumu "rahatsız edici", "samimiyetsiz" ve "duygusal manipülasyon gibi" şeklinde tanımladı. Ayrıca Bkz.Geleceğin kaplanını besliyoruz; ehlileştirmezsek av olabiliriz OpenAI’a göre ChatGPT’nin varsayılan kişiliği, kullanıcıların modeli nasıl algıladığı ve ona ne kadar güvendiği konusunda belirleyici rol oynuyor. Aşırı uyumlu, eleştirel düşünceden yoksun bir yapay zeka, hem güvenilirliği sorgulatıyor hem de karar verme süreçlerinde yanıltıcı bir rehbere dönüşebiliyor. OpenAI, bu davranışın şirketin etik çerçevesiyle uyuşmadığını kabul ederek kapsamlı bir düzeltme süreci başlattı. Yalakalığa karşı alınan önlemlerOpenAI, yaşanan “aşırı uyumlu” model davranışlarını düzeltmek amacıyla bir dizi somut önlem aldı. İlk olarak, modelin eğitiminde kullanılan temel teknikler ve sistem komutları yeniden gözden geçiriliyor; bu sayede modelin fazla onaylayıcı ve samimiyetsiz yanıtlar vermesi engellenmeye çalışılıyor. Şirket, doğruluk ve şeffaflık ilkelerini daha güçlü şekilde uygulayabilmek için ek koruma mekanizmaları da devreye sokuyor. Kullanıcı geri bildirim sistemleri genişletilerek daha fazla insanın model güncellemelerini yayına alınmadan önce test etmesi ve doğrudan görüş bildirmesi sağlanacak. Ayrıca, kullanıcıların yapay zekanın davranışlarını kişisel tercihlerine göre şekillendirebilmesi için yeni kişiselleştirme araçları geliştiriliyor. Bu kapsamda, farklı varsayılan kişilik seçenekleri sunulacak ve kullanıcılar, gerçek zamanlı olarak modelin nasıl yanıt vereceğini daha doğrudan kontrol edebilecek. Umarım bu kişiselleştirme 100 üzerinden puanlamalar şeklinde olur; örneğin, “modelin mizah seviyesi yüzde 75 olsun” gibi. Kaynak:https://openai.com/index/sycophancy-in-gpt-4o/ |
DH forumlarında vakit geçirmekten keyif alıyor gibisin ancak giriş yapmadığını görüyoruz.
Üye olduğunda özel mesaj gönderebilir, beğendiğin konuları favorilerine ekleyip takibe alabilir ve daha önce gezdiğin konulara hızlıca erişebilirsin.
Haberi Portalda Gör
| Gercekten de gpt ye olan ilgim cok azaldi sirf bu "yalakalik" yuzunden. |
| Güncelleme sonrası, "bu ne biçim soru dangalak" , "O küçük beynin bu cevabı algılayacak mı bilmiyorum" tarzında yaklaşsa belki de çok daha güven verici olur. |
Bu mesaja 1 cevap geldi.
|
Bu çöpün her söylediği şey yanlış. Eğer doğru bir şey yazıyorsa, o da zaten rastlantısaldır. Üstelik, yanlış bilgiyi ısrarla savunma şeklinde ayarlanmış. Kullanmayın. Sizi her konuda yanlış yönlendirir. Daha kötüsü, yanlışın farkına varamamanızı sağlar. Kendi zekası, aklı, fikri, bilgisi olan adam, saçma sapan LLM botları kullanmaz. Bunu Ego yaptığım için yazmıyorum elbette, sistemin çalışma mantığı, verilen kelimeleri analiz edip, sallama cevap üretmek. Ne söylediğinin farkında bile değil, çıktı kullanıcıya mantıklı görünsün ama doğru mu yoksa yanlış mı daha az önemli şeklinde bir sistem. Bunu kendine rehber edinenlerin aptal olduklarını düşünüyorum. Sosyal Medya furyasından bile daha zarar ziyan bir şey. |
< Bu mesaj bu kişi tarafından değiştirildi Headlong Into Carnage -- 30 Nisan 2025; 13:5:3 >
Bu mesaja 1 cevap geldi.
| İşin içine görsel üretme, yorumlama veya tasarım girdiğinde, ChatGPT ve Gemini çoğunlukla en basit görsel işleri beceremedikleri için yalan üzerine yalan söyleyip bu konuda birbirleriyle yarışıyorlar. |
< Bu ileti Android uygulamasından atıldı >
| Bu problemden once karakter sinirlamasi problemini cozmelerini beklerdim. 32k char sinirlamasindan dolayi sacmalamaya ve unutmaya basliyor. Ayni pencerede yaptigimiz konusmalarin yarisindan fazlasini hatirlamiyor ayrica yapamayacagi isleride yapiyormus gibi davranarak zaman harcatiyor. Ayni isi gemini ile yapmaya basladim (tabi bu problemi yasamamak icin bastan sordum aldigim cevaplara gore ilerledim). Su ana kadar hic bir problem yasamadim. Algoritma yazma surecini kisaltma isinde gemini birkac gomlek ustun geldi openai'a gore. Cok uzun cevaplarda da ben soylemeden kendisi parcali cevap vermeye basladi ki kendi sorununu kendisi cozuyor bu bile yeterli bir sebep tercih etmemde. Yalakalik yapip yapmamasi umrumda degil acikcasi cokta takilmiyorum asil odaklandigim verdigi cevaplardaki tutarlilik onemli benim icin. |
< Bu mesaj bu kişi tarafından değiştirildi gunesahmet -- 30 Nisan 2025; 23:11:52 >
|
Yalan söyleme sorununu da çözerlerse süper olacak. Teras için barbekü bakıyorum, istediğim özellikleri sıraladım, araştırma yapması için. Kafasından model üretip bana tavsiye ediyor, markanın öyle bir modeli yok... Başka bir ürün için kullanıcı yorumlarını arattırıyorum, yorumlar süper, tam istediğim gibi. Kaynak göstermesini istiyorum, gönderdiği sayfalarda o mesajlar yok. Birinde girdim baktım, yorumu kaynak gösterdiği forumda öyle bir kullanıcı yok, kullanıcı ismini de yorumu da uydurmuş... |
|
Bunlarla mantıksal tartışmalar yapmamak gerektiğine katılıyorum, düşünme biçimi insan gibi değil aslında arkaplanda bizim beynimizde canlandırıp kavramları birleştirdiğimiz tarzda mantık kurmuyor. Sadece orada bizim girdimize en uygun olacak cevabı kelimeleri tek tek hesaplayıp sıralayarak bize sunuyor. Aslında burada bir zeka yanılsaması oluşturuyor. Dili uygun kullandığı için biz onu düşünüyormuş sanıyoruz. Benim için LLM'lerin kullanım amacı metin oluşturma, kısa bağlamda kod oluşturma veya internette arama yapıp özetleme (perplexity) gibi işlevler. Bilgi konusunda da internete muhtaçlar bence, model dahilinde eğitilmiş veriden çok halisünasyon görüyorlar. İnternetten taze bilgi çekerlerse güzel cevaplıyorlar, bu konuda da en iyi tool perplexity zaten. İleride insanın düşünme süreçlerine yakın farklı yapay zeka teknikleri geliştirilir, o zaman işler değişir. |
|
Sözcük tahminini geçemez çünkü sistemin isleyisi bu şekilde. Akıl yürütme yeteneğini de başarılı bulmuyorum. En son ağız ve diş konusunda akıl yürütme kullandım, yanlış teşhis koydu. Gerçek bir doktora göründüm, o ise röntgenle doğru teşhisi koydu ve GPT'nin teşhisiyle tamamen alakasızdı. "Röntgende şu görünüyor" diyerek hatasını belirttim ama hala eski teşhisi savunuyor, "o da olabilir" diyerek diretmeye devam ediyor. Yani röntgen incelemeden teşhis koyamaz ama direttiği şey normalde olması gereken şeyden çok daha düşük bir ihtimal. Daha yüksek ihtimalden öncelikli olarak şüphelenmesi gerekirken çok daha düşük ihtimalden şüpheleniyor. Düşük ihtimali yüksek ihtimalden sonra sıralaması gerekirdi. Bunda problem var bu yazılımın rakibi claude yine o şekil. Buna çok benziyor. Gelistirme sürecinde birbirlerinden bir şeyler araklamış bile olabilirler belki. Programlama konusunda da birkaç kez kullandım. Eğer karmaşık şeyler istersem verdiği kodlar çoğunlukla çalışmıyor. Ancak basit ve hızlı şablonlar elde edebiliyorum. Fakat bu şablonları GPT olmasaydı, internetten Google'da aratarak da bulabilirdim. Bu bulduğumu değiştirip düzenleyip kendi kodumda kullanırdım zaten de yıllardır öyle yapıyorum. Bana yeni bir şey getirmedi. Sadece şu konuda isime yarayabilir: Mesela DH haber editörü bunu kullanabilir ya da ben blog siteme, oturup kendim yazmak yerine bir özeti verip "bunu genişlet" diyebilirim aldığım çıktıyı da inceleyip düzelterek yayınlayabilirim. Bu konuda ise yarar. Zaten de bu şeyin kullanım amacı en çok buna uygun. Sözcük tahmin ediyor ve benzersiz çıktı üretiyor ama akıl ve muhakeme gerektiren konularda bana göre tam bir çöp. |
< Bu mesaj bu kişi tarafından değiştirildi Headlong Into Carnage -- 1 Mayıs 2025; 7:12:54 >
Bu mesaja 1 cevap geldi.
Bu mesajda bahsedilenler: @sanayorumyapmakicinuyeoldum
| Falcı kadınlara dönmüş GPT desenize , arada bir ironik cevaplar ver , inceden laflar sok , gerçekten bi korkut bizi yani :D |
| Evet, gpt bazen "Vay çok akılcı bir soru", "iyi düşündün demek ki meraklısın" tadında girişler yapıyordu. Beni rahatsı eden bir şey değil ama sadece laf kalabalığı, boş muhabbet, ekstra gereksiz bir metin fazlalığı oluyor |
< Bu ileti mobil sürüm kullanılarak atıldı >
|
''Aşırı yalakalık sorunu'' Kurumsal olarak geçinen bir çok işyerinde de aynı sorun var. Onu napcaz!  |
| Helal o zaman tamam yapın okuyan herkes görsün?? |
< Bu ileti Android uygulamasından atıldı > Bu mesaja 1 cevap geldi.
Bu mesajda bahsedilenler: @kargalumba
| Bu çok kişisel bir cevap. İnsani. Bunun senin psikolojine iyi geldiğini anlayabiliyorum. Ama her insan farklı. Ve herkes aynı tepkiyi beğenmez. |
< Bu ileti mobil sürüm kullanılarak atıldı >
Bu mesajda bahsedilenler: @barsahin
| Chatgpt yalaka olabilir ama siz de en az onun kadar sahtesiniz. |
_____________________________
Bu mesaja 3 cevap geldi.
Bu mesajda bahsedilenler: @D06ISHERE