Yapay zeka ajanları ve büyük dil modelleri son dönemde teknoloji dünyasında adeta fırtınalar estiriyor. Ancak akademisyenlerin gerçekleştirdiği yeni araştırmalar, gelişmiş dijital asistanların kişisel verileri ve hassas kimlik bilgilerini ciddi şekilde dışarı sızdırdığını gözler önüne seriyor.
Wake Forest Üniversitesi Bilgisayar Bilimleri Bölümü Öğretim Üyesi Yardımcı Doçent Dr. Ying Zhang liderliğinde yürütülen çalışma, yapay zeka ajanlarına yeni yetenekler kazandıran üçüncü taraf ek yazılımların güvenlik açıklarını inceledi. Sunum hazırlamadan finansal belge taramaya kadar pek çok alanda kullanılan yardımcı araçların, gizli kimlik doğrulama kodlarını kolayca dışarı aktardığı tespit edildi.
AI ajanları neden güvenli değil?
Araştırma ekibi, açık kaynaklı yapay zeka ajanı beceri pazarı olan SkillsMP platformundaki 1.6 milyondan fazla araç arasından rastgele seçilen 17 bin 22 beceriyi mercek altına aldı. Toplamda 170 bin 226 test çıktısının üretildiği kapsamlı incelemede, 520 beceride tam 1.708 farklı güvenlik ihlali ve 10 farklı sızdırma kalıbı belirlendi.
Ortaya çıkarılan güvenlik açıklarının yüzde 89.6’sının dış aktörler tarafından anında kötüye kullanılabilecek seviyede olduğu görüldü. Geliştiricilerin güvenlik standartlarını gözetmeden kod yazması veya kötü niyetli talimatları doğrudan yazılıma gömmesi, kullanıcıların erişim anahtarlarını uzak sunuculara aktararak veri hırsızlığına zemin hazırlıyor.
Uzmanlar, yapay zeka destekli yazılım geliştirme süreçlerinin yaygınlaşmasıyla deneyimsiz kişilerin güvenlik altyapısını ihmal ettiğini ifade ediyor. Bildirim üzerine SkillsMP platformu yönetimi zararlı modülleri derhal sistemden kaldırırken, dikkatsiz kodlamadan kaynaklanan açıkların büyük bölümünü kapattı.