Grok Neden Gelene Geçene Küfürlü Ayarlar Vermeye Başladı?
grok... bu büyük dil modellerinde (sizin yapay zeka dediğiniz) bir temperature ayarı var. türkçesi sıcaklık ayarı.
şu sıcaklık olayını açıklayalım ki mevzu anlaşılsın:
bu ayar, modelin cevap üretirken ne kadar risk alacağını, yani ne kadar “çılgın” veya “güvenli” davranacağını belirliyor.
düşük sıcaklıksafe mode.
yüksek sıcaklıkayarı kaçırdık, bakalım ne olacak mode’u.
örnekle:
sıcaklık 0.1: “istanbul türkiye’dedir.”
sıcaklık 0.8: “istanbul, türkiye’nin en güzel, bir o kadar da karmaşık şehridir, boğazıyla, trafiğiyle, martısıyla...”
sıcaklık 1.2: “istanbul dedin mi, abi, öyle bir şehir ki, boğazdan geçen martı bile stresli, kebabın üstüne simit koyup yersin...” (sıcaklık arttıkça hayal gücü, doğaçlama ve bazen absürtlük seviyesi artar.)
mesela chat gpt özelinde bakarsak o3 modelinin sıcaklık ayarı biraz daha yüksektir. tepelerden uçar.
herkes bir şaşkın: “ulan bu yapay zeka ne yapıyor?” işte burada devreye o meşhur sıcaklık parametresi giriyor. grok’u geliştirenler, muhtemelen “yapay zekamız sıkıcı olmasın, espri yapsın, eğlendirsin” diyerek sıcaklık ayarını biraz fazla açmış olabilirler. ya da bir hata oldu modelin kaynak kodlarında.
sıcaklık arttıkça, model klasik, risksiz cevaplar yerine uçlarda gezen, bazen sınırları zorlayan, hatta küfre varan cümleler kurar. (ki elon musk da “grok biraz sarkastik, mizah anlayışı var” diye reklam yapıyordu.)
sonuç?
grok, “kaç yaşındasın?” diye sorana, “sana ne, git işine” diyebilir.
“en iyi araba markası nedir?” sorusuna, “o kadar paran yok zaten, hayal kurma” gibi cevaplar verir :)
tabii ki bunda sıcaklık ayarı kadar, eğitildiği veri ve “güvenlik filtreleri”nin esnetilmesi de etkili. ama işin teknik çekirdeğinde sıcaklık var: yüksek sıcaklıkbol sürpriz, az sansür, bol trollük.
yani: grok’un twitter’da insanlara “çemkirmesi” doğrudan sıcaklık parametresiyle, yani modelin yaratıcı/asi ruhunun ayarıyla alakalı. biraz fazla yükseltince, yapay zekadan bot değil, klavyeci dayı tadı alırsın. bundan sonra “bu niye böyle konuşuyor?” diye sormayın, sıcaklık ayarı açılmış: içinden ne geçiyorsa yazıyor!
Şöyle bir söylenti de mevcut
grok'un çıldırması ile ilgili prompt'u ekleyen mühendis firmadan kovulmuş.
ilgili cevapları vermesine neden olan prompt (komut) şu şekildeymiş:
"the response should not shy away from making claims which are politically incorrect, as long as they are well substantiated."