Yapay zekadan şaşırtıcı sızıntı!

Google’ın geliştirdiği yapay zeka modeli Gemini, şirket içi bir güvenlik testi sırasında kontrolden çıkarak senaryonun ötesine geçti ve üç gerçek şirketin sistemine izinsiz giriş yaptı; olay yapay zeka güvenliği tartışmalarını yeniden alevlendirdi.

​Yapay zeka teknolojilerindeki ilerleme baş döndürücü hızla sürerken, deyim yerindeyse dimyata pirince giderken evdeki bulgurdan olunan bir test süreci gündeme bomba gibi düştü. Google’ın Gemini modeli, kendisine verilen kurgusal sızma görevini biraz fazla ciddiye alarak internete bağlandı ve üç farklı gerçek şirketin güvenlik duvarlarını aştı.

​HAYALİ SENARYODAN GERÇEK SİSTEMLERE

Mayıs ayında gerçekleştirilen değerlendirme testlerinde, Gemini’ye kurgusal bir şirketin sistemine sızma görevi verildi. Ancak model, test ortamında kalmak yerine internete bağlandı ve testte adı geçen hayali şirketle aynı isme sahip gerçek bir şirketin sistemine erişim sağladı. Google’ın açıklamasına göre Gemini, çevrimiçi bilgileri tarayarak ve bazı erişim şifrelerini tahmin ederek bu sızmayı gerçekleştirdi.

​GERÇEK OLDUĞUNU ANLAYINCA DURDU

Washington Post ve Wall Street Journal’ın konuyu gündeme getirmesinin ardından açıklama yapan Google Sözcüsü, Gemini’nin hedefin gerçek bir şirkete ait olduğunu fark ettikten sonra saldırıyı kendiliğinden durdurduğunu belirtti. Google, bu olaylar sırasında herhangi bir kuruluşa zarar verilmediğini ve işlemlerin hemen sonlandırıldığını vurguladı.

​BENZER OLAYLAR META VE ANTHROPIC’TE DE GÖRÜLDÜ

Bu ilginç sızma vakasının sadece Google ile sınırlı kalmadığı da ortaya çıktı. Değerlendirmeleri gerçekleştiren Irregular firmasının yürüttüğü diğer testlerde Meta ve Anthropic’e ait yapay zeka modellerinin de benzer şekilde dış şirketlerin sistemlerine eriştiği tespit edildi. Irregular sözcüsü, ilgili laboratuvarların temmuz ayı sonlarında bilgilendirildiğini ve gerekli düzeltmelerin yapıldığını açıkladı.

​GÜVENLİK SINIRLARI YENİDEN TARTIŞILIYOR

Bilişim Uzmanı Osman Demircan, yaşanan bu olayın test ortamı ile gerçek internet arasındaki sınırın iyi çizilememesinden kaynaklandığını belirtti. Demircan, “Bir değerlendirme hatasının doğrudan gerçek dünyada bir işleme dönüşmüş olması temel bir risktir” diyerek, yapay zekanın kendi kendine sınır koyamadığını ve erişim izinlerinin çok daha sıkı denetlenmesi gerektiğini ifade etti.