OpenAI CTO'su Mira Murati, hükümet regülatörlerinin, ChatGPT gibi gelişmiş yapay zeka modellerinin konuşlandırılması için güvenlik standartlarının geliştirilmesine dahil olması gerektiğini söyledi.
Associated Press'e konuşan Murati, geliştirme için tavsiye edilen altı aylık bir duraklamanın güvenli sistemler oluşturmak için doğru olmadığına ve endüstrinin şu anda genel bir yapay zeka ulaşmasının yakın olmadığını söylüyor.
OpenAI'nin GPT-4 lansmanı sırasındaki güvenlik önlemlerinden söz eden Murati, şirketin yalnızca makinenin istenmeyen davranışlara yönelik eğilimini engellemek için değil, aynı zamanda bu tür değişikliklerle ilgili endişeleri anlamak için de yavaş bir yaklaşım benimsediğini ifade etti.
Çok dikkatli olmasınız zira başka bir dengesizlik yaratabilirsiniz. Sürekli olarak denetlemeniz gerekiyor. O halde yeniden ayarladığınızde ve müdahale yaptığınızda, başka nelerin kesintiye uğradığını görme konusunda dikkatli olmanız gerekiyor.
Uzmanlar, GPT-4'ün piyasaya sürülmesinin ardından yapay zekanın geleceğini çevreleyen bilinmezliklerle ilgili endişelerini dile getirerek, küresel yapay zeka gelişiminin altı ay durdurulması çağrısında bulundu.
Öneri Elon Musk, Gary Marcus ve Eliezer Yudkowski gibi yapay zeka alanındaki önemli isimlerin desteğini toplarken, Bill Gates, Yann LeCun ve Andrew Ng gibi birçok önemli isim de bu görüşe karşı çıktı.
a big deal: @elonmusk, Y. Bengio, S. Russell, @tegmark, V. Kraknova, P. Maes, @Grady_Booch, @AndrewYang, @tristanharris & over 1,000 others, including me, have called for a temporary pause on training systems exceeding GPT-4 https://t.co/PJ5YFu0xm9
— Gary Marcus (@GaryMarcus) March 29, 2023
Murati, hükümetlerin katılımının artırılması fikrini desteklediğini söyleyerek, bu sistemlerin düzenlenmesi gerektiğine dikkat ekti.
Bununla birlikte Murati, dönemsel duraklama isteklerine ise eleştirel biçimde yaklaştı.
Bildirideki bazı ifadeler, GPT-4 veya GPT-5'in geliştirilmesiyle ilgili olarak tamamen yanlıştı. GPT-5'i eğitmiyoruz. Önümüzdeki altı ay içinde böyle bir planımız yok. Ayrıca GPT-4'ü aceleye getirmedik. Aslında tamamen GPT-4'ün güvenli bir şekilde geliştirilmesine odaklanmamız altı ay sürdü.
Şirketin regülasyonlara odaklanması, hükümetlerin incelemesine yönelik eğilimin arttığı bir dönemde geliyor. OpenAI'nın GPT ürünlerini İtalya'da yasakladı ve İrlanda'da yerel ve AB düzenlemelerine uyum için 30 Nisan'a kadar bir süre ile karşı karşıya kaldı