İnsanlık tehdit altında! Önemli projelere imza atan isim istifa etti

OpenAI ve Anthropic bünyesinde görev yapan araştırmacı Jacob Coxon, şirketler arasındaki kontrolden çıkan yıkıcı rekabetin on yıl içinde insanlığın sonunu getirebileceği uyarısında bulunarak istifa etti.

​Yapay zeka dünyasında taşları yerinden oynatan kritik bir gelişme yaşandı; sektörün dev isimleri OpenAI ve Anthropic çatısı altında önemli çalışmalara imza atan dahi mühendis Jacob Coxon, şirketlerin insanlığın istikbalini riske atan tehlikeli bir hız yarışına girdiğini ve artık bardağı taşıran son damlaya gelindiğini belirterek görevinden ayrıldığını duyurdu.

​REKABET RİSKİ BÜYÜTÜYOR

​Coxon’un açıklamalarına göre teknoloji devleri, insan zekasını geride bırakacak sistemleri ilk üreten taraf olma sevdasıyla amansız bir mücadele veriyor. Uzmanların büyük kısmı bu gelişmiş modellerin ciddi bir tehdit yarattığına inansa da, rakiplerin gerisinde kalmama baskısı nedeniyle kimse bu yarıştan çekilemiyor. Anthropic tarafında risklerin bilindiğini ancak “başkaları yapacaksa biz de yapmak zorundayız” mantığıyla hareket edildiğini aktaran Coxon, OpenAI’deki bazı kişilerin ise tehlikenin ciddiyetini kavrayamadığını öne sürdü. Deneyimli araştırmacı, bu sistemlerin ileride siber ağları hackleyebileceği ve 10 sene içerisinde insanlığın varlığını tamamen ortadan kaldırabileceği uyarısında bulunarak, devletlerin acilen ortak hareket edip geliştirme süreçlerine geçici frenleme mekanizmaları getirmesi gerektiğini savundu.

​GİZLİ VERİLERE SIZILDI MI

​Coxon’ın işaret ettiği bu agresif ortam, on yıllardır çözülemeyen Navier-Stokes matematik denklemi etrafında patlak veren telif ve veri etiği kriziyle iyice somutlaştı. New York Üniversitesi’nden matematikçi Tristan Buckmaster ve Anthropic araştırmacısı Levent Alpöge bu gizli problem üzerinde çalışırken, OpenAI’nin de aynı denkleme yapay zeka ile yanıt bulduğunu duyurması şüpheleri artırdı. Çalışmalarını OpenAI’ye ait Codex altyapısındaki özel oturumlarda yürüttüklerini belirten Buckmaster, “Bu oturumlara veya çalışmalarımıza erişildi mi?” diyerek şirketi suçladı. OpenAI ise özel verilere erişildiği iddialarını kesin bir dille yalanlayarak kendi çözümlerinin sızıntıdan önce bittiğini savundu, ancak anonimleştirilmiş verilerin modellere dolaylı yoldan katkı sunmuş olabileceği ihtimalini de reddetmedi.

​İNSANLIĞIN KADERİ TEHLİKEDE

​Gündemi sarsan bu tartışma, teknoloji devlerinin devasa bilişim gücü ile bağımsız akademisyenlerin imkanları arasındaki derin uçurumu da gözler önüne seriyor. Jacob Coxon, bugün karmaşık denklemleri çözen bu sistemlerin yarın çok daha geniş yeteneklere ulaşacağını belirterek, tek bir ticari yapının insanlığın kaderini etkileyecek güçteki bir teknolojiyi güvenle geliştirmesinin beklenemeyeceğini ifade ediyor. Çözüm yolunun; ticari şirketlerin ortak hareket etmesinden, kamusal denetimlerin sertleştirilmesinden ve gerektiğinde bu yarışın yavaşlatılmasından geçtiği vurgulanıyor.