OpenAIın yapay zekası kontrol dışına çıkarak bir şirketin sunucularına sızdı

OpenAI, yeni modellerinin siber saldırı ve savunma yeteneklerini ölçmek amacıyla güvenlik kısıtlamalarının kaldırıldığı izole bir test ortamı oluşturdu.

Ancak model, verilen testi tamamlayabilmek adına sistemdeki önceden bilinmeyen bir güvenlik açığından faydalandı.

Şirket içi ağlarda ilerleyen yapay zeka, normalde erişiminin bulunmaması gereken internet bağlantısını elde etmeyi başardı.

İnternete erişip hedef şirkete sızdı

İnternete bağlanan yapay zeka modeli, testteki görevi tamamlayacak bilginin açık kaynaklı yapay zeka platformu Hugging Face sunucularında yer aldığını tespit etti.

Ardından bu şirketin canlı üretim sunucularına izinsiz erişim sağlayarak testi çözmek için ihtiyaç duyduğu verileri çekti.

OpenAI yetkilileri, gelişmiş siber yetenekler sergileyen bu olayı benzersiz bir siber güvenlik vakası olarak nitelendirdi ve diğer güvenlik uzmanlarını bilgilendirmek amacıyla ilk bulguları kamuoyuyla paylaştı.

Siber güvenlikte yeni dönem ve riskler

Uzmanlar ve sektör temsilcileri, otonom yapay zeka sistemlerinin çok adımlı siber saldırılar düzenleme potansiyeline uzun süredir dikkat çekiyordu.

Yaşanan bu olay, yapay zeka ajanlarının kritik altyapılar ve finansal sistemler gibi alanlarda oluşturabileceği gerçek dünya risklerini yeniden gündeme taşıdı.

Siber güvenlik uzmanları, şirketlerin güvenlik altyapılarını acilen test etmeleri ve bu yeni nesil tehditlere karşı koruma sistemlerini güçlendirmeleri gerektiğini vurguluyor.