OpenAI CEO'su ve Wordcoin'in kurucu ortaklarından Sam Altman, geçtiğimiz günlerde IBM'nin güvenlik şefi Christina Montgomery ve NYU profesörü Gary Marcus ile birlikte Kongre önünde ifade verdi.
Senato komitesi, Altman'ın Kongre huzuruna ilk kez çıkmasını sağlayarak OpenAI CEO'sunun regülasyonlar hakkında görüşlerini sunma fırsatı verdi.
'If this technology goes wrong, it can go quite wrong.'
— NowThis (@nowthisnews) May 16, 2023
OpenAI CEO Sam Altman admitted during a Senate hearing that his 'worst fears' are causing 'significant harm to the world' via developing tech. pic.twitter.com/RROe9DnR2U
Illinois Senatörü Dick Durbin tarafından "tarihi" olarak adlandırılan oturum, ChatGPT gibi üretken yapay zeka modellerinin oluşturduğu potansiyel tehditleri ve kanun yapıcıların regülasyonlara nasıl yaklaşması gerektiğine odaklandı.
Altman'ın yorumları şaşırttı
Altman'ın yaptığı yorumlar, birkaç senato üyesinin şaşırmasına neden oldu.
Altman, geliştirme lisansı verme ve iptal etme yetkisine sahip bir federal gözetim kurulunun meydana getirilmesi gerektiğini savundu. OpenAI CEO'su, ürünleri kullanırken zarar gören tüketicilerin dava açma hakkına sahip olması gerektiğini de söyledi.
Altman, OpenAI'nin GPT'yi değerlendirmek için altı aydan fazla zaman harcadığını vurgulayarak, GPT-4'ten daha güçlü sistemlerin konuşlandırılmasına ilişkin altı aylık bir moratoryum çağrısı yapan son "AI duraklatma" mektubuyla ilgili soruları umursamadı. Ek olarak şirketinin önümüzdeki altı ay içinde başka bir modeli devreye sokma planı olduğunu söyledi.
Duraklatma mektubunu imzalayan isimlerden biri olan Gary Marcus, mektubun içeriğinden çok ruhuna katıldığını belirtti. Ancak yine de Kongre'yi federal düzenlemelerin yanı sıra küresel gözetimi de dikkate almaya çağırdı.
Duruşma boyunca üç konuk konuşmacı da çoğunlukla aynı fikirdeydi. Buna, mahremiyet korumaları için destek, daha fazla devlet gözetimi, üçüncü taraf denetimi ve ABD hükümetinin sektörü hemen düzenlemeye çalışması gerektiği de dahildir.
Senator Lindsey Graham asks the witnesses at the hearing on artificial intelligence regulation if there should be an agency to license and oversee AI tools.
— Yahoo Finance (@YahooFinance) May 16, 2023
All say yes, but IBM Chief Privacy & Trust Officer Christina Montgomery has stipulations: pic.twitter.com/UD7R8N7s23
Tek anlaşmazlık ise, yapay zeka endüstrisindeki regülasyonları uygulamak için yeni bir federal kurumun gerekli olduğu fikrine katılmayan IBM yetkilisi Christina Montgomery'den geldi.
Her üç konuşmadı da yapay zekanın zararlı olabileceği ve güvenlik müdahaleleri gerektirdiği konusunda hemfikir olsa da, Marcus şu anda kimsenin mevcut yapay zeka ürünlerinin ne kadar zararlı olabileceğini anlamadını veya tahmin edemeyeceğine inandığını belirtti. Daha fazla şeffaflık gerektiğini vurguladı.
'We have built machines that are like bulls in a china shop: powerful, reckless, and difficult to control.'
— NowThis (@nowthisnews) May 16, 2023
NYU Professor Gary Marcus sounded the alarm during a Senate hearing Tuesday on the emerging threats of AI. pic.twitter.com/d2b2kdJBWK
Konuşmacılar ek olarak, Kongre üyeleriyle ABD'nin Avrupa'dakilere benzer bir ulusal gizlilik yasasına ihtiyaç duyulduğu konusunda hemfikirdi.