Gerçekleşen istifa, yapay zekanın askeri alanlardaki kullanımı ve etik sınırları konusundaki tartışmaları yeniden alevlendirdi.

İSTİFANIN PERDE ARKASI: GİZLİ AĞLAR VE ETİK KAYGILAR

Kalinowski, ayrılık kararının temelinde yapay zeka modellerinin Pentagon’un gizli bulut ağlarına entegre edilmesi hamlesinin yattığını açıkladı.

Eski donanım liderine göre, bu çapta bir iş birliği yeterli tartışma zemini oluşturulmadan “hızlandırılmış bir süreçle” tamamlandı. Kalinowski’nin işaret ettiği temel riskler şunlar:

Denetimsiz Gözetleme: Yargı denetimi dışındaki iç istihbarat faaliyetleri.

Otonom Silahlar: İnsan onayı barındırmayan, ölümcül karar alma yetisine sahip sistemler.

ANTHROPİC’İN REDDETTİĞİ MASAYA OPENAI OTURDU

Sürecin en dikkat çekici detaylarından biri, Pentagon’un daha önce OpenAI’nin rakibi Anthropic ile görüşmesi oldu.

Anthropic, kitlesel gözetim ve otonom silah sistemlerine karşı yeterli güvence alamadığı için masadan kalkmıştı.

OpenAI ise rakibinin çekildiği noktada projeyi üstlenerek Pentagon ile el sıkıştı.

YÖNETİMİN SAVUNMASI VE GÜVENLİK PROTOKOLLERİ

Eleştirilerin hedefindeki CEO Sam Altman, Pentagon ile yapılan sözleşmede Anthropic’in talep ettiği maddelere benzer koruma mekanizmalarının yer aldığını savunuyor. Altman, şu güvenceleri öne çıkardı:

• İnsan Kontrolü: Güç kullanımında insan sorumluluğunun korunması yasal taahhüt altına alındı.
• Teknik Bariyer (FDE): Modellerin istendiği gibi davranmasını sağlamak için Sabit Veri Elemanları (FDE) kullanılacak.
• Müdahale Yasağı: Yapay zeka etik gerekçelerle bir görevi reddederse, hükümet bu kararı geçersiz kılmaya zorlayamayacak.

SEKTÖREL STANDART ÇAĞRISI

OpenAI, bu tür güvenlik şartlarının tüm yapay zeka firmaları için standart hale getirilmesi için ABD Hazine Bakanlığı’na çağrıda bulundu. Şirket, krizleri yasal müdahaleler yerine somut teknik anlaşmalarla çözmeyi hedeflese de, Kalinowski’nin istifası kurum içindeki “hız vs. etik” çatışmasının ne kadar derin olduğunu kanıtlar nitelikte.

OpenAI’da “Pentagon” depremi: ‘Ölümcül oyunda yokum’ dedi! Kilit isim istifa etti… yazısı ilk önce Milli Nizam üzerinde ortaya çıktı.

Yapay zeka modellerinin bakanlığın ağına entegre edileceği anlaşma kapsamında OpenAI’ın güvenlik ve etik ilkeleri korunacak. Pentagon’un güvenlik konusunda hassasiyet gösterdiğini ifade eden Altman, OpenAI’ın temel ilkeleri arasında “yurt içi kitlesel gözetimin yasaklanması ile güç kullanımında insan sorumluluğunun korunması” bulunduğunu kaydederek, bakanlığın da bu ilkeleri benimsediğini aktardı.

Pentagon, Anthropic’e ültimatom vermişti

ABD ordusunun bugüne kadar istihbarat çalışmaları, silah geliştirme faaliyetleri ve askeri operasyonların yürütüldüğü sistemlerde Anthropic’in geliştirdiği yapay zeka sohbet robotu Claude modelini kullandığı belirtiliyor.

ABD Savunma Bakanı Pete Hegseth, 24 Şubat’ta Anthropic’e ültimatom vermiş, Pentagon’un, şirketin yapay zekasını istediği şekilde kullanmasına 27 Şubat’a kadar izin vermedikleri takdirde hükümetle sözleşmelerini kaybetme riski bulunduğunu söylemişti.

ABD Başkanı Donald Trump da açıklamasında tüm federal kurumlara Anthropic teknolojisinin kullanımının derhal durdurulması talimatı vermişti. Bazı askeri yetkililer, Anthropic’in ayrıca “tedarik zinciri riski” olarak nitelendirilebileceği ve hatta ordunun, firmanın ürünlerini daha geniş şekilde kullanmasına olanak tanıyan bir yasanın yürürlüğe koyulabileceği konusunda uyarmıştı.

Şirketin, Claude modelini “tüm yasal askeri amaçlar” için kullanıma açmayı reddetmesinin ve askeri kullanıma dair güvenlik endişelerinin, Pentagon ile anlaşmazlıklara yol açtığı ifade ediliyor.

OpenAI, ABD ordusunun güdümüne girdi! yazısı ilk önce Milli Nizam üzerinde ortaya çıktı.

Telegraph’da yer alan habere göre Nelson’ın sohbet geçmişi, ChatGPT’nin madde kullanımı konusunda son derece riskli tavsiyelerde bulunduğunu gösteriyor:

Toksikoloji sonuçları ve ölüm nedeni

Sam Nelson, 31 Mayıs tarihinde yatak odasında annesi tarafından ölü bulundu. İki hafta sonra çıkan toksikoloji raporu, ölüm nedeninin alkol, Xanax ve kratomun ölümcül kombinasyonu olduğunu doğruladı.

Bu karışımın merkezi sinir sistemini aşırı derecede baskılayarak boğulmaya (asfiksi) yol açtığı tespit edildi.

OpenAI’dan açıklama: ‘Trajik bir durum’

Sam’in annesi Turner-Scott, oğlunun ölümünü anlamak için internet geçmişini inceleyerek 40 saat harcadığını belirtti.

ChatGPT, bir gencin ölümüne neden oldu! yazısı ilk önce Milli Nizam üzerinde ortaya çıktı.