OpenAI uyardı: Yapay zekâ tarayıcıları asla tamamen güvenli olmayabilir

OpenAI, yapay zekâ destekli tarayıcıların “prompt injection” saldırılarına karşı hiçbir zaman yüzde 100 güvenli hale gelmeyebileceğini kabul ediyor. Ancak şirket, bu durumun sektörü pes etmeye zorlamaması gerektiğini vurguluyor. OpenAI’ye göre, dolandırıcılara teslim olmak yerine ürünleri daha dayanıklı hâle getirmenin etkili yolları mevcut.

Şirket, yapay zekâ destekli tarayıcısı Atlas üzerine yayımladığı yeni blog yazısında, siber güvenlik risklerini ve bu risklere karşı benimsediği yaklaşımı detaylandırdı. Ortaya konan tablo karamsar olsa da OpenAI, uzun vadede riskleri azaltma konusunda iyimser.

“Prompt injection asla tamamen ortadan kalkmayabilir”

OpenAI, prompt injection saldırılarını internet üzerindeki dolandırıcılık ve sosyal mühendislik yöntemlerine benzetiyor. Şirketin blog yazısında şu ifadeler yer alıyor:

“Prompt injection, tıpkı internet dolandırıcılıkları gibi, muhtemelen hiçbir zaman tamamen çözülemeyecek. Ancak proaktif ve hızlı çalışan bir müdahale döngüsü sayesinde gerçek dünyadaki riskleri zamanla ciddi ölçüde azaltabileceğimize inanıyoruz.”