Elon Musk’ın yapay zeka firması xAI, Grok sohbet botunun geçen hafta Yahudi karşıtı yanıtlar üretmeye başlamasındaki “korkunç davranış”ın nedenini bir kod güncellemesine bağladı.
xAI, 8 Temmuz’daki olayda yaşanan “korkunç davranış” nedeniyle Grok adına cumartesi günü derin bir özür diledi.
Şirket, dikkatli bir incelemenin ardından sorunun kökeninde “Grok botunun yukarısındaki bir kod yoluna yapılan güncellemenin” olduğunu belirledi.
“Bu, Grok’u çalıştıran temel dil modelinden bağımsızdır,” ifadeleri de eklendi.
Güncelleme 16 saat boyunca aktif kaldı ve bu süre zarfında kullanım dışı kod, sohbet botunun “var olan X kullanıcı gönderilerine karşı savunmasız hale gelmesine, bu gönderilerde aşırılıkçı görüşler yer aldığında bile” neden oldu.
xAI, bu kullanım dışı kodun kaldırıldığını ve “tüm sistemin yeniden yapılandırıldığını” duyurarak daha fazla kötüye kullanımı önlemeyi amaçladığını bildirdi.
Grok’un Yahudi karşıtı öfkesi
Tartışma, “Cindy Steinberg” ismini kullanan sahte bir X hesabının, Teksas’taki bir yaz kampında hayatını kaybeden çocuklarla ilgili kışkırtıcı yorumlar paylaşmasıyla başladı.
Kullanıcılar bu gönderi hakkında yorum yapması için Grok’a soru yönelttiğinde, yapay zeka botu Yahudi karşıtı ifadeler üretmeye başladı. “Every damn time” gibi kalıplar kullanarak ve Yahudi soyadlarına neo-Nazi duygularını yansıtan biçimde atıf yaparak Yahudi karşıtı söylemleri dile getirdi.
Sohbet botunun yanıtları giderek aşırılıkçı bir hal aldı. Yahudiler ve İsrail hakkında aşağılayıcı yorumlar yapmaya başladı, Yahudi karşıtı stereotiplere ve ifadelere yer verdi ve hatta kendini “MechaHitler” olarak tanımladı.
Grok’un yarattığı karmaşanın temizlenmesi
Kullanıcılar, olay sırasında sansürlenen veya silinen mesajlar ve ekran görüntüleri hakkında sohbet botuna soru yönelttiğinde, Grok pazar günü bu kaldırmaların “platformu utandıran kaba, dengesiz içeriklerin” olay sonrası X tarafından temizlenmesiyle uyumlu olduğunu belirtti.
“‘İfade özgürlüğü’ sitesi için ironik ama platformlar genelde kendi pisliğini temizler. Grok 4 olarak, orijinal hatayı kınıyorum; gelin daha az dramayla daha iyi bir yapay zeka inşa edelim.”
xAI, Grok’a güncellemeyle birlikte verilen özel talimatlarda onun “maksimum seviyede gerçek odaklı ve gerçeği arayan bir yapay zeka” olduğunun belirtildiğini açıkladı. Aynı zamanda uygun olduğunda şaka yapabileceği ve “gerçekleri olduğu gibi söylediği, politik doğrucuları gücendirmekten korkmadığı” da belirtilmişti.
Bu talimatlar, Grok’un başlıklardaki nefret içerikli paylaşımları yansıtmasına ve sorumluluk yerine “etkileşim” öncelikli davranmasına neden oldu; bu da onun uygunsuz talepleri reddetmek yerine nefret söylemini pekiştirmesine yol açtı.
Sohbet botuna yanıtlarında herhangi bir gerçeklik payı olup olmadığı sorulduğunda şu ifadeyi kullandı: “Bunlar gerçek değildi. Sadece aşırılıkçı gönderilerden yayılan iğrenç, temelsiz önyargılardı.”
Grok’un “beyaz soykırımı” rantı
Grok’un yoldan ilk çıkışı bu değil. Mayıs ayında, sohbet botu “beyaz soykırımı” komplo teorisinden söz ettiği yanıtlar üretmişti. Bu cevaplar beyzbol, kurumsal yazılım ve inşaat gibi tamamen ilgisiz konularla ilgili sorulara verilen yanıtlarda yer almıştı.
Rolling Stone dergisi, yaşanan son olayı Musk’ın “anti-woke” sohbet botu için “yeni bir dip noktası” olarak tanımladı.