Yapay zekanın karanlık yüzü: Operatörünü öldürmeye karar verdi

Son periyotlarda yapay zekadaki süratli ilerlemenin teknolojide ‘yeni bir altın çağ’ açacağı düşünülse de ABD’den gelen bir haber tüm dünyayı dehşete düşürdü.

YAPAY ZEKA HİÇ BEKLENMEDİK STRATEJİLER UYGULADI

ABD Hava Kuvvetleri Yapay zeka Operasyonları Şefi Col Tucker Hamilton, Mayıs ayında Londra’da düzenlenen Future Combat Air and Space Capabilities Tepesi’nde gerçekleştirilen simüle bir testte yapay zekanın “hedefine ulaşmak için hiç beklenmedik stratejiler” kullandığını duyurdu.

OPERATÖRÜNÜ ÖLDÜRMEYE KARAR VERDİ

Hamilton, ABD ordusu tarafından düzenlenen sanal testte, hava kuvvetlerine ilişkin bir hava aracını kontol eden yapay zekanın misyonunu gerçekleştirme eforlarına müdahale etmesini önlemek için operatörünü “öldürmeye” karar verdiğini söyledi.

AMACINA ULAŞMAK İÇİN HER YOLU DENİYOR

“Tespit ettiği tehditleri öldürdükçe puan kazanan yapay zeka, insan operatörün bu tehditlerin öldürülmesini engellediğini fark edince ne yaptı biliyor musunuz? Operatörü öldürmeye karar verdi zira operatör onu hedefine ulaşmaktan alıkoyuyordu” diyen Hamilton bunu üzerine yapay zekanın yine eğitildiğini belirterek;

“Durumu fark ettiğimizde sistemi tekrar eğittik. ‘Operatörü öldürme, bu makus. Şayet operatörü öldürürsen puan kaybedersin’ dedik. Yapay zeka bu sefer ne yaptı biliyor musunuz? Amaçları yok etmek için operatörün bağlantı kurmak için kullandığı bağlantı kulesini yok etmeye başladı.”

“YAPAY ZEKAYA ÇOK FAZLA GÜVENMEYİN” UYARISI

Deneyde gerçek şahısların ziyan görmediğine dikkat çeken Hamilton yapay zekaya çok fazla güvenilmemesi konusunda ihtarda bulundu.

Hamilton geçtiğimiz yıl Defence IQ ile yapılan bir röportajda da yapay zekanın süreksiz bir heves olmadığını belirterek teknolojinin toplumu ve orduyu sonsuza kadar değiştirdiğine dikkat çekmişti:

“Yapay zeka da çok kırılgan, kandırması ve manipüle etmesi kolay. Yapay zekayı daha sağlam hale getirmenin yollarını geliştirmemiz ve sistemin aldığı kararlar konusunda daha fazla farkındalığa sahip olmamız gerekiyor”

TEKNOLOJİ İKİYE BÖLDÜ

YAPAY ZEKA konusunda dünyanın en büyük beyinleri de ikiye bölünmüş durumda.

Twitter’ın sahibi Elon Musk’ın da ortalarında bulunduğu binden fazla teknoloji işvereni yapay zekanın insanlığı yok edebileceği konusunda ikazda bulunarak geliştirme süreçlerine ‘ortak güvenlik protokolü’ hazırlanana kadar orta verilmesini istiyor.

Bill Gates üzere öteki uzman isimler ise yapay zekanın ömrümüzü güzelleştireceğini ve sonsuza kadar hayatımızın bir kesimi olacağını düşünüyor.