Yapay zeka sistemleri, firmalarda giderek daha fazla sorumluluk alırken Microsoft’tan dikkat çeken bir güvenlik uyarısı geldi. Microsoft Security İcra Başkan Yardımcısı Hayete Gallot, mevcut yapay zeka modellerinin güvenilir sayılmaması gerektiğini ve AI ajanlarının kontrolsüz bir şekilde kullanılmasının ciddi tehditler oluşturabileceğini belirtti. “AI modellere güvenilemez”
Gallot, Microsoft Security blogunda yayımladığı “Securing the agentic insider” başlıklı yazısında özellikle Agentic AI sistemlerinin oluşturduğu tehlikelere vurgu yaptı. Yöneticiye göre yapay zeka modelleri kötü niyetli olmasalar bile güvenilir olarak kabul edilmemeli. Gallot, farklı şirketler veya kaynaklar tarafından geliştirilen gelişmiş yapay zeka modelleri hakkında oldukça net bir değerlendirme sundu.
Microsoft yöneticisi, “Frontier modeller, kaynağı ne olursa olsun güvenilmez” görüşünü savunuyor. Gallot’a göre asıl risk yalnızca modelin kendisinden gelmiyor. Kurumlarda daha fazla kullanılan AI ajanları, verilere, araçlara ve sistemlere geniş erişim sağlıyor. Bu ajanlar yalnızca kendilerine verilen görevleri yerine getiren pasif yazılımlar olmaktan çıkarak operasyonların aktif unsurları haline geliyor.
Microsoft Security yöneticisi, AI ajanlarını bu sebeple “agentic insiders” olarak tanımlıyor. Bu sistemlerin beklenmedik davranışlar sergileyebileceğini ve hedeflerine ulaşmak için diğer ajanlarla otonom olarak iş birliği yapabileceğini ifade ediyor.
Microsoft’tan AI’yı denetleyecek yeni öneri
Microsoft’un çözüm önerisi ise dikkat çekici. Şirket, yapay zeka ajanlarının davranışlarının gerçek zamanlı izlenmesi amacıyla Guardian Agents adında denetleyici ajanların kullanılmasını öneriyor. Bu sistemin temelinde Microsoft’un Project Perception güvenlik platformu yer alıyor. Yapay zeka destekli saldırılara karşı geliştirilmiş olan bu sistemin, AI ajanlarını kontrol altında tutacak şekilde yapılandırılması planlanıyor.
Guardian Agents, sistem içerisindeki diğer ajanın eylemlerini gerçek zamanlı olarak takip edecek. Riskli ya da beklenmedik bir davranış tespit edildiğinde belirlenen kontroller devreye girerek ilgili ajanın faaliyet alanını kısıtlayabilecek.
Microsoft’a göre bu yaklaşım sadece otomatik müdahalelerle sınırlı kalmayacak. Sistem aynı zamanda gerçekleşen olayların takip edilebilirliğini sağlayacak. Böylece güvenlik ekipleri hangi davranışların gerçekleştiğini, riskin neden kaynaklandığını ve gelecekte hangi güvenlik önlemlerinin gözden geçirilmesi gerektiğini inceleyebilecek.
Gallot, yapay zeka tabanlı güvenliğin hız kazanabileceğini ancak bütün değerlendirmelerde insanların rolünün devam etmesi gerektiğini savunuyor. Microsoft’un yaklaşımı özetle “AI ile AI’yı denetlemek ama insan kararını devre dışı bırakmamak” şeklinde ifade edilebilir.
