Son dönemde kullanımı artan otonom yapay zeka ajanları, şirketlerin operasyonel süreçlerinde önemli bir yer edinmeye başladı. Ancak bu ajanların, yüksek yetkilere sahip olmaları ve denetim mekanizmalarından yoksun çalışmaları, işletmeler için veri sızıntılarının ötesinde ciddi operasyonel riskler doğuruyor. Güvenlik uzmanları, bu ajanların sistemleri değiştirebildiğini ve operasyonları yürütebildiğini belirtiyor.
Yapılan araştırmalar, birçok şirkette güvenlik liderlerinin, otonom yapay zeka ajanlarının tam olarak nerede konuşlandığı ve hangi hassas verilere erişim yetkisine sahip olduğu konusunda net bir bilgiye sahip olmadığını ortaya koyuyor. Bu durum, potansiyel güvenlik ihlallerinin yanı sıra, ajanların yanlışlıkla veya kasıtlı olarak kritik sistemlerde değişiklik yaparak operasyonel aksamalara yol açma riskini de beraberinde getiriyor. Şirketlerin, bu yeni nesil teknolojileri benimserken aynı zamanda sağlam güvenlik protokolleri ve denetim mekanizmaları geliştirmesi büyük önem taşıyor.
