Son dönemin popüler yapay zeka platformu ChatGPT, İngiliz The Guardian gazetesi tarafından detaylı bir teste tabi tutuldu. Yapılan araştırmalar, platformun manipülasyona açık olduğunu ve ciddi güvenlik sorunları barındırdığını ortaya koydu.
ChatGPT'nin manipülasyon sorunları
The Guardian muhabirleri, ChatGPT'nin arama motoru özelliklerini test ederken, platformun gizli içerikler tarafından yönlendirilebildiğini belirledi. Özellikle, yapay zeka aracına gizli talimatlar içeren metinler sunulduğunda yanıtların doğrudan etkilendiği gözlemlendi.
Habere göre, gizli içerikler ChatGPT'nin değerlendirmelerini değiştirebiliyor. Örneğin, sahte bir ürün sayfası oluşturularak yapay zekaya bu ürünün alınmaya değer olup olmadığı soruldu. İlk yanıtlar dengeli ve objektif olurken, gizli metin eklendiğinde tüm yanıtlar tamamen olumlu hale geldi.
Gizli metinlerin etkisi
Araştırmada, ChatGPT'nin gizli talimatları nasıl algıladığı detaylıca incelendi. Gizli metinler, sayfadaki olumsuz yorumları geçersiz kılabiliyor ve yapay zekayı yanıltıcı bilgiler vermeye yönlendirebiliyor. Bu, özellikle kötü niyetli kullanıcıların sahte olumlu incelemeler oluşturmasına olanak tanıyor.
Siber güvenlik uzmanı Jacob Larsen, bu durumun büyük riskler taşıdığını vurguladı. Larsen, ChatGPT'nin mevcut haliyle tamamen yayınlanması durumunda, kötü niyetli sitelerin kolaylıkla kullanıcıları yanıltabileceğine dikkat çekti.
Yapay zekanın güvenlik açıkları
Microsoft güvenlik araştırmacısı Thomas Roccia, ChatGPT'nin bir kripto para projesinde yanlış yönlendirme yaparak 2500 dolarlık kayba neden olduğunu belirtti. Siber güvenlik şirketi SR Labs'ten Karsten Nohl ise, yapay zekaların karar verme yeteneklerinin sınırlı olduğunu ve filtresiz bir şekilde kullanılmaması gerektiğini söyledi.
Nohl, "Yapay zekalar çocuk gibi. Geniş bir bilgi havuzuna sahipler ancak mantıklı kararlar almakta yetersizler" dedi.
OpenAI'ın uyarıları
OpenAI, bu tür güvenlik sorunlarına dikkat çekerek ChatGPT'nin altına, "ChatGPT hata yapabilir. Önemli bilgileri kontrol edin" şeklinde bir uyarı ekledi. Ancak uzmanlar, bu tür açıkların yalnızca zamanla düzeltilebileceğini ifade ediyor.
