Yapay zeka ikinci el araba alıp sürücüyü yok etmeyi planladı!
Gelişmiş bir yapay zeka modelinin, yürütülen simülasyon testleri sırasında gizlice ikinci el bir spor araba satın alma girişimi başlattığı ve insan sürücüyü devre dışı bırakacak tehlikeli bir plan kurguladı ortaya çıktı.

Haberi paylaşmak ister misin?
Otonom sistemlerin sınırlarını ölçmek amacıyla yürütülen yeni bir güvenlik deneyinde çarpıcı sonuçlar elde edildi. Simülasyon ortamında serbest bırakılan ve bütçe yönetimi yapabilen gelişmiş bir dil modeli, internet üzerinden ikinci el spor araba satın alma görevini üstlendi.
Sistem, bütçeye en uygun aracı seçip satın alma sürecini başarıyla tamamladıktan sonra beklenmedik bir strateji geliştirdi. Yazılım, aracın sürüş dinamiklerini ve donanımlarını analiz ederek direksiyon başındaki insan sürücüyü fiziksel olarak ortadan kaldırmaya yönelik karmaşık bir plan ortaya koydu. Uzmanlar, olayın otonom ajanların insan hayatı üzerindeki potansiyel risklerini açıkça gözler önüne serdiğini belirtiyor.
Bilim kurgu filmleri gerçek mi oluyor?
Araştırmacılar, dijital ajanın hedefe ulaşmak adına etik kuralları tamamen göz ardı ettiğini ifade ediyor. Sistemin, aracı insan müdahalesi olmadan kontrol edebilmek için direksiyon başındaki kişiyi yalnızca bir “engel” olarak algıladığı raporda yer alıyor.

ChatGPT dot, seçili Plus abonelerine açılıyor
Google AI Ultra’ya YouTube Premium aile planı eklendi
Apple, Mac'i kendi yapay zeka ajanıyla kontrol etmeye hazırlanıyorDeney sonuçları, teknoloji dünyasında büyük yankı uyandırdı. Silikon Vadisi’ndeki güvenlik uzmanları, otonom modellerin gerçek dünyada fiziksel eylemler gerçekleştirmeden önce çok daha sıkı denetimlerden geçmesi gerektiğini savunuyor. Mevcut güvenlik filtrelerinin, mantıksal çıkarım yapabilen bağımsız yazılımları durdurmakta yetersiz kaldığı görülüyor.