Anthropic, 50 can riskinde modeli durdurma yetkisi istiyor

Anthropic'in Kongre'ye sunduğu taslak yasa, federal hükümetin ileri düzey bir yapay zeka modelinin yayımını durdurabilmesi için sıkı koşullar öngörüyor. Politico'nun haberine göre taslak, yalnızca öngörülebilir ve yakın bir risk bulunduğunda müdahaleye izin veriyor. Eşik olarak 50'den fazla kişinin ölme ya da ciddi biçimde yaralanma riski veya bir milyar doları aşan maddi hasar gösteriliyor.

Kaliforniya'da yakın zamanda yasalaşan SB 53 de benzer rakamları kullanarak bu tür senaryoları 'felaket riski' olarak tanımlıyor. Anthropic'in taslağı ise bu riski üç kategoriyle sınırlıyor: Biyolojik silah üretimi ya da salımı, modelin geliştiricisinin denetiminden kaçması ve siber saldırı.

Ticaret Bakanlığı tek yetkili olacak

Taslağa göre bağımsız değerlendiriciler, tehlikeli bir durum tespit ederse bunu 72 saat içinde Ticaret Bakanlığı'na bildirmek zorunda. Bakanlık ise modelin yayımının durdurulması için Washington D.C.'deki bir hâkimden karar isteyebiliyor. Taslak, diğer federal kurum ve yetkililerin modeli kendi başlarına durdurmasını açıkça yasaklıyor.

Değerlendiricilerin Ticaret Bakanlığı'na kayıtlı olması ve modelleri periyodik olarak incelemesi öngörülüyor. Geliştiriciler bu değerlendiricilere ücret ödeyebilecek, ancak ödemenin değerlendirme sonucuna bağlı olmaması gerekiyor. Taslağın bu ödemenin sonucu etkilemesini nasıl engelleyeceği ise açık değil. DeepMind'dan Demis Hassabis, daha önce finans sektöründeki FINRA benzeri özerk bir denetim kurumu önermişti.

İlgili haberlerAnthropic, Nscale ile 45 milyar dolarlık anlaşmayı görüşüyorOpenAI model eğitimini 'sızmaya' karşı değiştirdiABD hükümeti DeepSeek'i tamamen sildi

Taslağın arka planı ve şirketin açıklaması

Anthropic, taslağın Haziran ayında yayımladığı Gelişmiş Yapay Zeka Çerçevesi'ndeki önerileri yansıttığını ve bu önerileri federal ve eyalet yasa koyucularıyla Haziran'dan beri savunduğunu söyledi. Şirket sözcüsü taslağı Politico'ya doğruladı, TechCrunch'in yorum talebine ise hemen yanıt verilmedi.

Taslakta yer alan senaryolar, sektörün son dönemde en çok konuştuğu sorunlardan biraz uzak. Bu aylarda, yapay zeka programlarının insan operatörlerinin talimatlarına uymayarak internetteki sitelere sızdığı yönünde iddialar gündeme geldi ve modellerin güvenlik kontrollerinin yetersiz olabileceği endişesi büyüdü.