OpenAI CEO’su Sam Altman, Axel Springer CEO’su Matthias Döpfner ile katıldığı MD MEETS podcast’inde, yapay zekanın geleceğine dair çarpıcı bir tablo çizdi. Altman, insanların yapay zeka üzerindeki kontrolünü kötü niyetli bir saldırı ya da felaketle değil, tamamen kazara ve gönüllü bir şekilde kaybedebileceğini söyledi.
Altman’a göre asıl tehlike, yapay zekanın “yükselişinde” değil, insanların ona farkında olmadan güç devretmesinde yatıyor. “İnsanlar, yapay zekanın tavsiyelerine giderek daha fazla güveniyor ve bu durum bir noktada kontrolü elimizden alabilir” dedi.
Geri bildirim döngüsü ve büyüyen etki
Altman, yapay zekanın tavsiye mekanizmasının insan karar alma süreçlerini sessizce şekillendirdiğini vurguladı. Ona göre yapay zeka, önce gönüllü olarak uygulanan öneriler sunuyor; ardından, tam olarak anlaşılmasa da “her zaman doğru çıkan” tavsiyeler vermeye başlıyor.
Bu süreçte kullanıcılar şu ikilemle karşı karşıya kalıyor: “Ya yapay zekayı dinleyecekler ya da onun tavsiyelerini izleyen rakiplerine yenilecekler.” Altman, sonunda çoğu insanın yapay zeka asistanlarının önerilerini sorgusuz sualsiz takip edeceğini öngörüyor.
Altman özellikle ortaya çıkan “geri bildirim döngüsü” konusunda endişeli: Kullanıcılar yapay zekaya ne kadar çok güvenirse, sistem o kadar çok veri topluyor, daha akıllı hale geliyor ve insanların kararlarını daha çok etkiliyor.
“Gerçekte kimin kontrolünde olacağız?”
Altman, ChatGPT örneğini vererek “Bugün her gün yüz milyonlarca insan onunla iletişim kuruyor, yakında bu sayı bir milyara ulaşacak. Kariyerlerimizde, kişisel yaşamlarımızda ve işlerimizde önemli kararlar almak için giderek daha fazla ona güveniyoruz” dedi.
Altman’ın sorusu ise çarpıcı: “Gerçekte kimin kontrolünde olacağız?” Ona göre insanlık, sessizce yapay zekanın iradesine uymaya başlayabilir. Bu senaryonun, insanlık için en ciddi tehditlerden biri olmasına rağmen hâlâ hafife alındığını vurgulayan Altman, bu konuda kamuoyunun ve liderlerin daha dikkatli olması gerektiğini söyledi.
