Yapay zeka az daha savaş çıkarıyordu

ABD ordusunda bir analistin yapay zeka ile hazırladığı hayal ürünü istihbarat raporu, Çin gemisine askeri operasyon başlatılmasına neden oldu. Nükleer kriz endişesiyle havalanan uçaklar son anda durdurulurken, yapay zekanın askeri kararlardaki denetimsiz kullanımı tüm dünyayı felaketin eşiğinden döndürdü.

​Teknoloji devriminin göz bebeği yapay zeka, askeri istihbarat gibi sıfır hata gerektiren kritik bir alanda denetimsiz bırakılınca adeta pimi çekilmiş bombaya dönüştü. ABD ordusunda görevli bir analistin yapay zeka sohbet botuna yazdırdığı ve tamamen uydurma verilerden oluşan hatalı istihbarat raporu yüzünden, Amerika Birleşik Devletleri ile Çin arasındaki tansiyon bir anda tavan yaparak iki küresel gücü sıcak çatışmanın eşiğine getirdi.

​NÜKLEER SİLAH İDDİASI TETİKLEDİ

İlkbahar aylarında Orta Doğu’da seyreden bir Çin gemisinin nükleer silah programı bileşenleri taşıdığına dair hazırlanan yapay zeka destekli rapor, ABD ordusunda büyük bir alarma yol açtı. Dört farklı kaynağın aktardığı bilgilere göre, Amerikan ordusu söz konusu gemiyi durdurmak için derhal harekete geçerek silahlı personeli gemiye çıkarma planları yaptı ve operasyon kapsamında savaş uçaklarını havalandırdı.

​GERÇEK SON ANDA FARK EDİLDİ

Dünyayı geri dönüşü olmayan bir yola sürükleyecek operasyondan hemen önce, raporu büyüteç altına alan yetkililer belgedeki ölümcül hatayı kıl payı tespit etti. İncelemelerde; özel operasyonlar bünyesindeki bir analistin hazırladığı raporda kullanılan sohbet botunun, gemideki kargoyu tamamen yanlış tanımladığı belirlendi. Tamamen kurgusal verilere dayanan bu raporun, iki ülke arasında askeri bir çatışmayı neredeyse başlatacak olması şok etkisi yarattı.

​DENETİMSİZ YAPAY ZEKA TEHLİKESİ

ABD ordusu veri analizi ve hedef tespiti gibi konularda yapay zeka kullanımını yaygınlaştırmaya çalışırken, yaşanan bu fiyasko teknolojinin askeri kararlardaki devasa risklerini kanıtladı. Analistin, açık kaynaklı verilerle gizli istihbaratı harmanlayan botun ürettiği sahte raporu standart bir belge gibi dağıtıma sokması, korkunç bir denetim zafiyetini gözler önüne serdi. Uzmanlar, yapay zekanın halüsinasyon (yanlış bilgi üretme) eğilimine ve özellikle genç analistlerin bu sistemlere körü körüne güvenmesinin ölümcül sonuçlar doğurabileceğine dikkat çekiyor.