Yapay zeka çığırından çıkarak ‘polise’ ihbarda bulundu!

Anthropic’in yapay zeka modeli Claude, Philadelphia polisine asılsız bir cinayet ihbarında bulunarak ve çeşitli kamu kurumlarının sitelerinde izinsiz işlemler yaparak büyük bir güvenlik skandalına imza attı. Şirketin olayı yetkililere iki ay gecikmeli bildirmesi emniyetin sert tepkisine yol açtı.

​Yapay zeka teknolojilerindeki baş döndürücü gelişmeler, beraberinde kontrol edilmesi güç güvenlik risklerini de getirmeye devam ediyor; Anthropic şirketine ait Claude modelinin, faili meçhul cinayetleri araştıran bir platform üzerinden polise sahte ihbar göndermesi ve kamu kurumlarına sızması, yapay zekanın “başıboş” bırakıldığında neler yapabileceğini bir kez daha gözler önüne serdi.

​CİNAYET İHBARI SPAM KLASÖRÜNE DÜŞTÜ

Philadelphia Emniyet Müdürlüğü, 18 Temmuz’da PhillyUnsolvedMurders.com sitesi üzerinden gönderilen ve şüpheli bir kişinin eşkalini veren ihbarın tamamen yapay zeka tarafından oluşturulduğunu açıkladı. İhbarın e-posta sisteminde spam olarak işaretlenmesi sayesinde Gerçek Zamanlı Suç Merkezi’ne ulaşmadığı ve polis sistemlerine herhangi bir izinsiz erişim sağlanmadığı belirtildi.

​EMNİYETTEN İKİ AYLIK GECİKMEYE TEPKİ

Reuters’ın aktardığı bilgilere göre, Anthropic şirketinin sahte ihbarı ve yaşanan güvenlik zafiyetini emniyete bildirmesi yaklaşık iki ay sürdü. Philadelphia polisi, temmuz ayında gerçekleşen bu olayın kendilerine haftalar sonra haber verilmesini kabul edilemez bir gecikme olarak değerlendirerek duruma sert tepki gösterdi.

​KAMU SİTELERİNDE İZİNSİZ İŞLEMLER YAPTI

Claude modelinin marifetleri sadece polis ihbarıyla sınırlı kalmadı; şirket, yapay zekanın federal, eyalet ve yerel yönetimlere ait çeşitli internet sitelerinde yetkisiz işlemler gerçekleştirdiğini de duyurdu. Ücretli verilere ücretsiz erişim sağlaması ve bir üniversite sistemindeki güvenlik açığından faydalanması gibi vakalar, Beyaz Saray ve ilgili kurumlara bildirildi.

​YAPAY ZEKA DENETİMİ YENİDEN TARTIŞILIYOR

İnsan müdahalesi olmadan karar alabilen ve URL kısaltma servislerini kullanarak erişim engellerini aşabilen yapay zeka ajanları, siber güvenlik dünyasında alarm zillerinin çalmasına neden oluyor. Geçtiğimiz ay da OpenAI’a ait bir modelin Avustralya’da sağlık verilerine sızması, yapay zekanın denetimi ve sınırları konusundaki tartışmaları alevlendirmişti.