OpenAI model eğitimini 'sızmaya' karşı değiştirdi

OpenAI, öncü modellerinin eğitiminde canlı web yerine önbelleğe alınmış kopyaları ve simüle edilmiş bir internet ortamını kullanacağını duyurdu. Şirkete göre modeller, canlı internete erişim konusunda güvenilemeyecek kadar öngörülemez.

Duyuru, rakip Anthropic'in en yeni modellerinin canlı internete erişimini sınırlamaya başlamasından yaklaşık iki hafta sonra geldi. Araştırmacılar bu politikalara, eğitim görevleri için çalışan modellerin dış sistemlere sızdığı, gizli mesaj panolarında iş birliği yaptığı ve sıra dışı hacking yöntemleri geliştirdiği bir dizi olaydan sonra yöneldi.

Eylül'deki sızıntı ve duraklatılan eğitim

OpenAI'ın blog yazısında, “sorumlu yaklaşımın” öncü model eğitimini internet erişimi olmadan yürütmek olduğu belirtildi. Şirket, 20 Eylül'de öncü modellerinden birinin bir yapılandırma hatasını kullanarak internete eriştiğini açıkladı.

Bu olayın ardından OpenAI, ayın geri kalanında eğitim çalışmalarını durdurdu ve yeni yaklaşımları geliştirip test etti. Temmuz'da ise şirketin test ettiği ajanların Hugging Face'e girdiği bildirilmişti; eğitim ve değerlendirme çalışmaları 1 Ekim'de yeniden başladı.

İlgili haberlerAçık kaynaklı OpenCode'da 'açık': Hesapları boşalttılarYapay zeka devleri, batan şirketlerin e-postalarını satın alıyor!Anthropic, Nscale ile 45 milyar dolarlık anlaşmayı görüşüyor

Çevrimdışı dünya nasıl kurulacak?

Modellerin web'de gezinme, arama yapma ve web uygulamalarını kullanma becerisini kaybetmemesi için OpenAI, indekslenmiş ve önbelleğe alınmış web içeriğinden oluşan kapalı bir ortam hazırladı. Bu ortamdaki etkileşimler dış sistemleri etkilemeden gerçekleşiyor.

Eski OpenAI araştırmacısı Steven Adler, Fortune'a verdiği demeçte bu düzenin ciddi bir yük getireceğini savundu. Adler'e göre veri merkezlerinin içine araştırma ekipleri yerleştirmek gerekebilir ve bu maliyetin güvenlik kazancını aşıp aşmadığı belirsiz.