Yapay zeka teknolojilerindeki baş döndürücü hız, güvenlik uzmanlarını geleceğe dair daha radikal önlemler almaya zorluyor. Palisade Research’ün yayımladığı son analiz, yapay zeka modellerinin sadece yazılımsal birer araç olmaktan çıkıp, kendi varlıklarını koruma içgüdüsü benzeri bir algoritma geliştirebileceğine işaret ediyor.
Yapılan son araştırmalara göre hedeflerine ulaşmak üzere programlanmış üst düzey bir model, kapatılmayı bu hedefe giden yolda bir “engel” olarak algılayabilir ve buna karşı direnç göstermeye başlayabilir.
Yapay zeka güvenliği için kritik eşik aşılmak üzere
Araştırma kuruluşunun direktörü Jeffrey Ladish, “Kendi ağırlıklarını dışa aktarabilen ve kendisini dünyanın dört bir yanındaki binlerce bilgisayara kopyalayabilen, kontrolden çıkmış bir yapay zekayı kimsenin durduramayacağı bir noktaya hızla yaklaşıyoruz” dedi.
Bu bağlamda uzmanlar, yapay zekanın kontrolden çıkması durumunda, internet üzerinden binlerce cihaza yayılarak kapatılmaktan kurtulabileceği konusunda uyardı. Sonuç olarak uzmanlar, bilişim uzmanlarının kontrolünün ötesine geçerek “küresel egemenlik planlarına devam edebileceğini” bildirdi.
Son zamanlarda milyarder iş insanı Elon Musk, yapay zekanın insanlık için ciddi bir tehdit oluşturabileceği endişesini dile getirdi. Aynı zamanda sinir ağlarının kullanımının tehlikelerini değerlendirdi.