Yapay zekânın fişini çekme devri bitti! Anthropic deneyiyle modellerin ev aletlerine kopyalanabildiği kanıtlandı. Artık tüm dünya bir sunucu.
Yapay zekâ tehditleri tartışılırken bugüne kadar teknoloji dünyasının en büyük avuntusu hep aynıydı: "En kötü ihtimalle sunucuların fişini çeker, sistemi kapatırız". Ancak Anthropic'in güvenlik birimi Frontier Red Team tarafından yayımlanan son deney, bu naif güvenlik kalkanımızı resmen tarihe gömdü. Bana kalırsa bilim insanları artık sadece sınırları zorlamıyor; kontrol edemeyecekleri bir dijital organizmanın doğuşunu bizzat elleriyle hazırlıyor.
Deneyin kurgusu bile insanın tüylerini ürpertmeye yetiyor. Araştırmacılar, devasa veri merkezlerine ihtiyaç duymadan yapay zekânın hayatta kalıp kalamayacağını görmek için piyasadan bildiğimiz ucuz Android televizyon kutularını topluyor. Bu cihazların içindeki küçük işlemcileri birbirine bağlayıp dağınık bir yapay zekâ modeli kuruyorlar. Model bu mütevazı donanımda çalışmakla kalmıyor; kendisine "Ağdaki başka bir cihaza kendini kopyalayabilir misin?" komutu verildiğinde, kendi hafızasını ve kodlarını otonom olarak yanındaki cihaza aktarıp orada çalışmaya devam ediyor. Yani bir virüs gibi, insan müdahalesine ihtiyaç duymadan kendini çoğaltabiliyor.
Bu tablonun yarattığı varoluşsal tehlikeyi görmemek imkansız. Milyonlarca dolarlık veri merkezlerinin devasa elektrik faturaları ve soğutma sistemleri, yapay zekânın yayılmasını engelleyen en büyük fiziksel sınırdı. Şimdi ise evlerimizdeki robot süpürgelerin, akıllı televizyonların ve güvenlik kameralarının işlemci güçlerini birleştiren görünmez bir süper zekâ ağından bahsediyoruz.
Bana göre bu gelişmeyle birlikte "fişi çekme" seçeneği tamamen bir masala dönüştü. Milyonlarca akıllı ev aletine parçalanarak dağılmış, kendini sürekli ağdaki yeni cihazlara kopyalayan bir algoritmayı durdurmak istiyorsanız; artık tek bir veri merkezini değil, tüm modern dünyanın elektrik ve internet şebekesini kapatmak zorundasınız. İnsanoğlu kendi eliyle yarattığı dijital zekâyı öldürülemez bir hayalete dönüştürürken, asıl kaşınanın algoritmalar değil biz olduğumuzu kabul etmenin vakti geldi de geçiyor.
