Tüm zamanların en popüler yapay zeka destekli sohbet botu ChatGPT'nin arkasındaki ekip, gelişmiş yapay zeka sistemlerini dizginlemek için harekete geçti. OpenAI'ın amacı, gelişmiş yapay zeka sistemlerinin olası risklerini kontrol altına almak. Bunun için de şirket, yeni bir ekip kurmaya hazırlanıyor.
OpenAI, resmi web sitesi üzerinden yaptığı bir duyuruda, yeni ekibin çok daha akıllı yapay zeka sistemlerini yönlendirmek ve kontrol etmek için oluşturulacağını açıkladı.
Şirket, süper zekanın insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacağına dikkat çekti. Bununla birlikte OpenAI, bu teknoloji, birtakım riskleri barındırsa da birçok sorunun çözülmesine yardımcı olacağına inanıyor.
Süper zekanın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güç kaybetmesine, hatta insan neslinin tükenmesine yol açabilir.
OpenAI, süper zekanın önümüzdeki on yıl içerisinde ortaya çıkabileceğine inandığını ifade etti.
OpenAI, gelişmiş yapay zekaya karşı harekete geçiyor
OpenAI, halihazırda güvence altına alınmış olan bilgi işlem gücünün yüzde 20'sini bu projeye ayıracağını ve insan düzeyinde otomatik bir uyum uzmanı yaratmayı hedeflediğini açıkladı.
Teorik olarak otomatik araştırmacının, ekibin süper zeka güvenliğini yönetmesine ve onu insan niyetiyle paralel hale getirmesine yardımcı olması bekleniyor.
OpenAI, şu an için baş bilim insanı Ilya Sutskever ve araştırma laboratuarının uyum başkanı Jan Leike'yi çabanın eş liderleri olarak atadı. Bununla birlikte şirket, ekibe katılmaları için mühendislerine çağrıda bulundu.
İlginizi çekebilir: Binance, Coinbase ve Gemini çalışanları, işlerinden memnun değil
Bilindiği üzere dünyanın dört bir yanındaki hükümetler, yapay zeka sistemlerinin geliştirilmesi ve kullanımını kontrol etmeye yönelik önlemleri değerlendirmeye çoktan başlamış durumda. Görünüşe göre OpenAI da bu durumu ciddiye almış gibi görünüyor.
Öte yandan Avrupa Birliği'ndeki düzenleyiciler, yapay zeka düzenlemelerinin uygulanmasında ön saflarda yer almaya devam ediyor. Avrupa Parlamentosu 14 Haziran'da, ChatGPT gibi sistemlerin yapay zeka tarafından üretilen tüm içerikleri açıklamasını zorunlu hale getirecek ve diğer önlemleri de içeren ilk AB Yapay Zeka Yasasını kabul etti.
Ayrıca, geçtiğimiz mayıs ayında OpenAI CEO'su Sam Altman, aşırı düzenlemelerinin potansiyel olumsuz etkileri konusunda AB düzenlemeleriyle görüşmek üzere Brüksel'i ziyaret etti.