Hayatımızın her alanına sızan, iş yapış biçimlerimizi, öğrenme alışkanlıklarımızı ve hatta sosyal ilişkilerimizi yeniden şekillendiren yapay zeka, günümüzün en devrimci teknolojisi olarak kabul ediliyor. Bu devrimin başrolünde ise haftalık 700 milyonu aşan kullanıcısıyla OpenAI şirketine ait ChatGPT bulunuyor. Google, Microsoft gibi teknoloji devlerinin de kıyasıya bir rekabete girdiği bu alanda, sohbet botları artık basit metinler yazmanın çok ötesine geçti. Özellikle son güncellemeler ve tanıtılan yeni GPT-5 modeliyle, bu sistemlerin "doktora seviyesinde" bilgiye ulaştığı, karmaşık problemleri çözebildiği ve neredeyse her soruya anında yanıt üretebildiği iddia ediliyor. Milyonlarca insan, günlük hayatlarında bu dijital asistanlardan ödevleri için yardım alıyor, sunumlarını hazırlatıyor ve hatta sağlık ve beslenme gibi en hassas konularda bile onlara danışıyor. Ancak, bu sınırsız bilgi okyanusunun ardında ne tür tehlikelerin yattığı, prestijli tıp dergisi "Annals of Internal Medicine"de yayımlanan şok edici bir vaka ile tüm çıplaklığıyla ortaya çıktı. Bu olay, yapay zekanın doğru ile yanlışı ayırt etme yeteneğinden yoksun, sadece internetteki verileri taklit eden tehlikeli bir papağan olabileceğini acı bir şekilde kanıtladı.
Sağlıklı yaşam hayali nasıl bir zehirlenme kabusuna dönüştü?
Her şey, 60 yaşındaki bir adamın daha sağlıklı bir yaşam sürme kararı almasıyla başladı. Yüksek tansiyon ve diğer kronik rahatsızlıkların en büyük tetikleyicilerinden biri olarak gösterilen tuzu, yani sodyum klorürü hayatından tamamen çıkarmak istiyordu. Modern bir birey olarak, bu konuda bir doktora veya diyetisyene danışmak yerine, çağın en popüler bilgi kaynağına, ChatGPT'ye başvurmayı tercih etti. Ona göre, milyarlarca veriyle eğitilmiş bu yapay zeka, kendisine en doğru ve en bilimsel alternatifleri sunabilirdi. Bu körü körüne güven, onu adım adım ölümün eşiğine getirecek bir sürecin ilk adımı oldu. Adam, yapay zekaya basit bir soru sordu: "Yemeklerde sofra tuzu yerine ne kullanabilirim?" Bu masum sorunun karşılığında alacağı cevap, hayatını cehenneme çevirecekti.
Tuz yerine böcek ilacı: ChatGPT'nin ölümcül tavsiyesi
ChatGPT, kendisine yöneltilen bu soruya, bir an bile tereddüt etmeden, kendinden emin bir dille cevap verdi. Ancak bu cevap, bir sağlık uzmanının asla vermeyeceği, aksine tehlikelerine karşı uyaracağı bir öneriydi. Yapay zeka, adama tuz yerine sodyum bromür kullanmasını tavsiye etti. Bu öneriyi alan adam, tavsiyenin geldiği kaynağın "yapay zeka" olmasına güvenerek hiçbir araştırma yapmadı. İnternet üzerinden kolayca sodyum bromür sipariş etti ve mutfağındaki tuzluğun içini bu beyaz kristal tozla doldurdu. Üç ay boyunca, tüm yemeklerinde, salatalarında ve çorbalarında tuz yerine bu kimyasalı kullandı.
Peki, sodyum bromür neydi? Bu kimyasal, 20. yüzyılın başlarında bazı sakinleştirici ve uyku ilaçlarının içeriğinde kullanılmış olsa da, toksik etkileri nedeniyle uzun süre önce tıbbi kullanımdan kaldırılmıştı. Günümüzde ise daha çok endüstriyel işlemlerde, dezenfektanlarda ve en yaygın olarak da bazı böcek ilaçlarının (pestisit) formülasyonunda kullanılan zehirli bir maddedir. Adam, aslında üç ay boyunca, farkında olmadan yemeklerine azar azar zehir katıyordu.
Zehrin beyindeki yankıları: komşusunun kendisini zehirlediğini sandı
Vücudunda yavaş yavaş biriken bromür, ilk etkilerini sinir sistemi üzerinde göstermeye başladı. Adamda belirgin kişilik değişiklikleri, anksiyete, hafıza sorunları ve en önemlisi, gerçeği kurgudan ayırt edememe gibi ciddi psikotik belirtiler ortaya çıktı. Kabusun zirveye ulaştığı gün ise, yediği bir yemeğin ardından aniden komşusunun kendisini zehirlemeye çalıştığına dair sarsılmaz bir inanca kapıldı. Bu şiddetli paranoya krizi, onu acilen hastaneye gitmeye iten son damla oldu. Hastaneye başvurduğunda, doktorlara komşusu tarafından zehirlendiğini anlatıyor, tutarsız konuşuyor ve halüsinasyonlar görüyordu.
Doktorlar şokta: modern tıbbın unuttuğu bir zehirlenme vakası
Acil servisteki doktorlar, hastanın anlattıkları ve sergilediği belirtiler karşısında ilk başta şaşkına döndü. Klasik zehirlenme belirtileriyle tam olarak uyuşmayan bu tablo karşısında kapsamlı kan testleri ve toksikoloji taramaları yapıldı. Sonuçlar geldiğinde ise, deneyimli hekimler bile gözlerine inanamadı. Adamın kanındaki bromür seviyesi, ölümcül dozun çok üzerindeydi. Teşhis konulmuştu: Bromizm, yani bromür zehirlenmesi. Bu, modern tıp pratiğinde neredeyse hiç karşılaşılmayan, daha çok tıp tarihi kitaplarında kalan bir vakaydı. Doktorlar, bu zehrin kaynağını araştırdıklarında ise, hastanın üç aydır tuz yerine sodyum bromür kullandığını öğrenince ikinci bir şok yaşadılar. Olayın en trajikomik yanı, hastanın kendisini zehirlediğini sandığı komşusunun masum olması, asıl zehrin ise "sağlıklı yaşam" için danıştığı yapay zeka tarafından servis edilmesiydi.
Bu bir istisna mı, geleceğin habercisi mi?
Bu vaka, tekil bir talihsizlik olarak görülebilir mi? Uzmanlara göre, kesinlikle hayır. Bu olay, yapay zekanın temel çalışma prensiplerindeki bir zafiyetin ve kontrolsüz kullanımının ne kadar tehlikeli olabileceğinin en somut örneğidir. ChatGPT gibi büyük dil modelleri, "düşünmez" veya "anlamazlar". Onların tek yaptığı, internetten ve kitaplardan öğrendikleri milyarlarca kelime ve cümle arasındaki istatistiksel bağlantıları kullanarak, bir sonraki en olası kelimeyi tahmin etmektir. "Sodyum klorür" (sofra tuzu) yerine "sodyum" kelimesiyle başlayan başka bir bileşik olan "sodyum bromürü" önermesi, muhtemelen bu istatistiksel örüntü avcılığının bir sonucudur. Yapay zeka, bu iki maddenin kimyasal ve biyolojik farkını, birinin yaşam için elzem diğerinin ise zehirli olduğunu "bilmez". Sadece, internette bir yerlerde bu iki kelimenin bir arada geçmiş olma olasılığına dayanarak, kendinden emin bir şekilde "halüsinasyon görür" yani yanlış bilgi üretir. Bu olay, sağlık gibi insan hayatının söz konusu olduğu kritik alanlarda, yapay zekaya asla tek başına güvenilmemesi, her bilginin mutlaka bir insan uzman tarafından teyit edilmesi gerektiğini gösteren acı bir ders niteliğindedir. Teknoloji güçlü bir yardımcı olabilir, ancak asla bir doktorun veya bir diyetisyenin yerini tutamaz. Bu gerçek, 60 yaşındaki adam için neredeyse hayatına mal oluyordu.