Google, yapay zeka alanındaki en önemli ürünlerinden biri olan Gemini için güvenlik odaklı yeni bir güncelleme yayınladı. Şirketin açıkladığı yeni sistem, kullanıcıların konuşmalarında intihar ya da kendine zarar verme riski tespit edildiğinde devreye giriyor. Bu durumda Gemini, kullanıcıyı telefon, mesaj veya web üzerinden kriz destek hatlarına yönlendiren özel bir arayüz sunuyor. Güncelleme, özellikle ABD’de açılan bir dava sonrası dikkat çekici bir zamanlamayla duyuruldu. Google, aynı zamanda kriz destek sistemlerini güçlendirmek için üç yıl içinde 30 milyon dolar yatırım yapacağını açıkladı. Yapay zeka güvenliği konusundaki bu adım, sektör genelinde benzer uygulamaların yaygınlaşabileceğine işaret ediyor.
Gemini’ye “tek dokunuşla kriz hattı” özelliği geldi
Quartz’ın haberine göre, Google’ın yeni güncellemesiyle birlikte Gemini, kullanıcı güvenliğini önceliklendiren önemli bir özellikle donatıldı. Sistem, konuşmalar sırasında potansiyel bir kriz durumu tespit ettiğinde otomatik olarak devreye giriyor. Kullanıcılar, ekranda beliren özel bir arayüz üzerinden kriz destek hatlarına hızlıca ulaşabiliyor. Bu erişim telefon, mesaj veya web bağlantısı aracılığıyla sağlanıyor. Ayrıca yardım kartı konuşma boyunca ekranda sabit kalıyor. Böylece kullanıcılar destek almaya yönlendirilirken sohbet kesintiye uğramıyor.
Dava sonrası gelen güncelleme dikkat çekti
Yeni özellik, Florida’da açılan ve büyük yankı uyandıran dava sonrası duyuruldu. Söz konusu davada, bir kullanıcının Gemini ile etkileşimi sonrası intihara sürüklendiği iddia edildi. Google ise savunmasında, sistemin kullanıcıyı defalarca kriz hatlarına yönlendirdiğini belirtti. Buna rağmen şirket, güvenlik önlemlerini daha da artırma kararı aldı. Güncelleme bu bağlamda yalnızca teknik değil, aynı zamanda stratejik bir hamle olarak değerlendiriliyor. Yapay zekanın sorumluluğu konusu yeniden gündeme taşındı.
30 milyon dolarlık destek planı açıklandı
Google, yalnızca yazılım güncellemesiyle yetinmeyerek küresel ölçekte bir destek planı da duyurdu. Şirket, kriz hatlarının kapasitesini artırmak amacıyla üç yıl içinde 30 milyon dolar yatırım yapacak. Bu kapsamda ReflexAI gibi kuruluşlarla iş birlikleri derinleştirilecek. Ayrıca gönüllüler için geliştirilen simülasyon platformlarına teknik destek sağlanacak. Eğitim programlarıyla kriz yönetimi becerilerinin artırılması hedefleniyor. Bu adım, teknoloji şirketlerinin sosyal sorumluluk alanındaki rolünü güçlendiriyor.
Yapay zekada güvenlik yarışı hızlandı
Google’ın bu hamlesi, sektördeki diğer oyuncuları da harekete geçirdi. Özellikle OpenAI, benzer şekilde ChatGPT için güvenlik güncellemeleri üzerinde çalıştığını duyurdu. Yapay zeka sistemlerinin kullanıcı psikolojisi üzerindeki etkileri giderek daha fazla tartışılıyor. Uzmanlar, özellikle genç kullanıcılar için daha sıkı önlemler alınması gerektiğini vurguluyor. Yeni düzenlemeler, sohbet robotlarının insan davranışlarına etkisini sınırlandırmayı hedefliyor.