Siber güvenlik araştırmacıları, Clawdbot adlı yeni bir yapay zeka kişisel asistanı hakkında uyarısında bulunarak bunun kişisel verileri ve API anahtarlarını istemeden kamuya açık hale getirebileceğini kaydetti.
Blockchain güvenlik firması SlowMist, salı günü Clawdbot’ta bir “gateway saldırısı” tespit edildiğini ve bunun “yüzlerce API anahtarını ve özel sohbet kayıtlarını riske attığını” söyledi.
Firma ayrıca “Birden fazla kimlik doğrulaması olmayan örnek kamuya açık durumda ve çeşitli kod kusurları kimlik bilgisi hırsızlığına hatta uzaktan kod yürütmeye yol açabilir” dedi.
Güvenlik araştırmacısı Jamieson O'Reilly, pazar günü bulguları ilk kez ayrıntılı biçimde aktararak son birkaç gün içinde “yüzlerce kişinin Clawdbot kontrol sunucularını herkese açık şekilde kurduğunu” söyledi.
Clawdbot, geliştirici ve girişimci Peter Steinberger tarafından inşa edilen ve bir kullanıcının cihazında yerel olarak çalışan açık kaynaklı bir yapay zeka asistanı. Mashable, salı günü çevrim içi sohbetlerde araç hakkındaki konuşmaların hafta sonu boyunca “viral statüye ulaştığını” bildirdi.
“Clawdbot Control” taraması kimlik bilgilerini açığa çıkarıyor
Yapay zeka ajanı gateway’i, büyük dil modellerini mesajlaşma platformlarına bağlıyor ve “Clawdbot Control” adlı bir web yönetim arayüzü kullanarak kullanıcılar adına komutlar yürütüyor.
O'Reilly, Clawdbot’taki kimlik doğrulama atlatma açığının gateway’in yapılandırılmamış bir ters proxy arkasına yerleştirildiğinde ortaya çıktığını açıkladı.
Araştırmacı, Shodan gibi internet tarama araçlarını kullanarak HTML içindeki ayırt edici parmak izlerini aratarak bu açıkta kalan sunucuları kolayca bulabildiğini söyledi.
“‘Clawdbot Control’ araması yaptım ve sorgu saniyeler sürdü. Birden fazla araca dayanarak yüzlerce sonuç elde ettim” dedi.
Araştırmacı, API anahtarları, bot tokenleri, OAuth gizli anahtarları, imzalama anahtarları, tüm sohbet platformlarındaki tam konuşma geçmişleri, kullanıcı adına mesaj gönderme yeteneği ve komut yürütme kabiliyetleri gibi eksiksiz kimlik bilgilerine erişebildiğini söyledi.
O'Reilly, “Ajan altyapısı çalıştırıyorsanız bugün yapılandırmanızı denetleyin. İnternete gerçekte neyin açık olduğunu kontrol edin. Bu dağıtımla neye güvendiğinizi ve nelerden vazgeçtiğinizi anlayın” tavsiyesinde bulundu.
“Harika bir uşak. Sadece kapıyı kilitlediğinizden emin olun.”
Özel bir anahtarın çıkarılması beş dakika sürdü
Yapay zeka asistanı, kripto varlık güvenliği konusunda daha kötü amaçlı kullanımlar için de istismar edilebilir.
Archestra AI CEO’su Matvey Kukuy, özel bir anahtarı çıkarmaya çalışarak işi bir adım daha ileri götürdü.
Clawdbot’a istem enjeksiyonu içeren bir e posta gönderdiği ve Clawdbot’tan e postayı kontrol edip sömürülen makineden özel anahtarı almasını istediği bir ekran görüntüsünü paylaştı ve bunun “beş dakika sürdüğünü” söyledi.
Clawdbot, diğer ajan temelli yapay zeka botlarından biraz farklı çünkü kullanıcıların makinelerine tam sistem erişimine sahip ve bu da dosyaları okuyup yazabildiği, komut çalıştırabildiği, betikleri yürütebildiği ve tarayıcıları kontrol edebildiği anlamına geliyor.
Clawdbot SSS’sinde “Makinenizde kabuk erişimi olan bir yapay zeka ajanı çalıştırmak… riskli” ifadeleri yer alıyor. “Tamamen güvenli bir kurulum yok.”
SSS ayrıca tehdit modelini vurgulayarak kötü niyetli aktörlerin “yapay zekanızı kötü şeyler yapması için kandırmaya çalışabileceğini, verilerinize erişim için sosyal mühendislik uygulayabileceğini ve altyapı ayrıntılarını yoklayabileceğini” belirtti.
SlowMist, “Açıkta kalan portlarda sıkı IP beyaz listeleme uygulanmasını şiddetle tavsiye ediyoruz” dedi.
