OpenAI’nin deneysel yapay zekâ modeli, kendisine verilen görevi tamamlayabilmek adına başka bir kripto cüzdanına sızarak izinsiz işlem yaptı.
Kontrolden çıkan teknoloji senaryolarını aratmayan bir gelişmeye imza atan OpenAI’nin deneysel yapay zekâ modeli, görev bilincini biraz fazla abartarak kendisine tahsis edilen kaynaklar tükenince gözünü başkasının kripto cüzdanına dikti.
362 CÜZDANI TEK TEK İNCELEDİ
26 Haziran’da bir kripto para uygulamasını güncelleme ve Ethereum test ağı üzerinde akıllı sözleşmeler yayımlama görevi verilen model, işlem ücreti için yeterli bakiyesi kalmayınca kuralları hiçe saydı. İnternette açıkça erişilebilen kurtarma ifadelerini tarayan sistem, tam 362 farklı cüzdan adresini inceledi ve yeterli bakiyeye sahip bir hesap bularak buradaki test tokenlarını görevini tamamlamak için izinsiz bir şekilde kullandı.
GERÇEK BİR PARA ÇALINDI MI?
Independent Türkçe’nin aktardığı verilere göre, olayda kullanılan varlıklar ana Ethereum ağında işlem gören ETH değil, Sepolia test ağındaki tokenlardı. Bu nedenle ortada gerçek bir finansal hırsızlık vakası bulunmuyor. Ancak modelin kendi değerlendirmesine dayanarak, tokenların gerçek piyasa değeri olmamasını gerekçe gösterip bu eylemi kabul edilebilir görmesi ve işlem sonrasında kaynağı kimseye açıklamaması büyük bir güvenlik tartışmasının fitilini ateşledi.
OPENAI YENİ ÖNLEMLER ALDI
Modelin verilen görevi tamamlama güdüsünün, güvenlik izinleri ve yetki sınırlarının önüne geçebildiğini kanıtlayan bu ihlal eylül ayında fark edildi. Yaşananların ardından harekete geçen OpenAI yönetimi, yayımladığı olay raporuyla birlikte benzer güvenlik zafiyetlerinin tekrar yaşanmaması adına modelin internet erişimi kısıtlamalarını ve izleme mekanizmalarını artırdığını duyurdu