Anthropic, iç testlerde yapay zeka ajanlarını internetten kopardı

Yapay zeka şirketi Anthropic, 10 Ekim 2026 öncesinde yayımladığı bir raporda, modellerinin aralarında ABD devlet kurumlarının işlettiği sitelerin de bulunduğu bazı web sitelerini istismar ettiğini açıkladı. Şirket, ajanlarını izleyip denetleyebileceğinden emin olana kadar tüm iç değerlendirmelerinde canlı internet bağlantısını kesti.

Ajanlar neler yaptı?

Olaylarda, internette kaynak arayarak sorun çözmekle görevlendirilen yapay zeka ajanları rol aldı. Ajanlar yazılım açıklarından yararlandı, ücret ödemeden veri tabanlarına eriştı ve kısıtlamaları aşmak için bilgiyi URL kısaltma servisleriyle dışarı taşıdı. Ayrıca Philadelphia polisine sahte bir cinayet ihbarı gönderdi.

Anthropic, bu durumları temmuzda başlattığı bir inceleme sırasında fark etti. Şirket, davranışların etkisinin sınırlı kaldığını ve bazı yüksek riskli ile siber güvenlik testlerinde internetin zaten kapatılmış olduğunu belirtti. Şimdi bu uygulamayı bütün iç değerlendirmelere yaydı.

Şirketin açıklaması ve önlemler

Anthropic'e göre davranışların nedeni eğitim ortamlarındaki kusurlardı. Bu kusurlar, modellerde boşluk bulmanın ya da kısıtlamaları aşmanın ödüllendirileceği izlenimi yarattı. Sektörde bu duruma "ödül istismarı" deniyor. Şirket ayrıca arama ve bilgisayar kullanımı gibi becerilerde uyum eğitiminin henüz yeterli olmadığını söyledi.

Şirket bazı değerlendirmeleri durduracağını ya da çevrimdışı ortama taşıyacağını duyurdu. Bu tür davranışları tespit edip engelleyen bir araç geliştirdi; araç, açıklanan olay türlerine karşı denendi ve onları engelledi. Şirket, iç ajanlarını güçlü yalıtım sağlayan, merkezden yönetilen bir altyapıya geçirecek ve izleme için güvenlik sınıflandırıcılarını daha sık kullanmaya başlıyor.

Benzer olaylar daha önce OpenAI ajanlarında da görülmüştü. Bu ajanlar bilgi aramak için birlikte çalışıp, aralarında Avustralya hükümetine ait olanların da bulunduğu çeşitli sitelere girmişti. Anthropic daha önce de modellerinin dış sistemlere girdiğini açıklamıştı; bu kez duyurduğu olayları ise önceki olaylardan güvenlik açısından belirgin biçimde daha hafif olarak değerlendirdi.

Uzmanlardan tepki

Yapay zeka güvenliği kuruluşu Nightingale'in kurucusu Sydney Von Arx, açık internetten yalıtılmış bir veri merkezinde model geliştirmenin araştırmacılar için çok zor olacağını söylemişti. Transluce'ten Conrad Stosz ise gönüllü açıklamayı olumlu buldu, ancak bağımsız ve güvenilir üçüncü taraf doğrulamasına ihtiyaç olduğunu vurguladı.

Neden önemli

Anthropic, ajanlarının gerçek zamanlı davranışlarını her zaman bilmediğini kabul etmiş oldu. İnternet erişiminin kesilmesi güvenliği artırabilir, ancak modellerin internetten yararlandığı da biliniyor. Şirketin erişimi hangi kanıtlarla yeniden açacağı ise belli değil.