Anthropic, yapay zekâ modellerinin aldatma, aşırı uyum gösterme, gizlilik ihlali ve jailbreak gibi davranışlarını azaltmak için yine yapay zekâdan yararlandığı yeni bir çalışma yayımladı. Claude tabanlı araştırma ajanı literatürü taradı, eğitim yöntemleri önerdi, veri oluşturdu, modelleri eğitti ve sonuçları test etti. Şirket, incelenen 10 uyum başarısızlığının tamamında hedef ölçütleri iyileştiren çözümler bulunduğunu söylüyor. Sonuç güçlü; fakat çalışmanın kendi laboratuvarı, seçilmiş kıyaslamalar ve otomatik denetim sınırları içinde değerlendirilmesi gerekiyor.
Araştırma Döngüsü Nasıl Kuruldu?
Sistem her seferinde tek bir uyum sorununa odaklandı. Ajan önce yayınları ve bilinen yöntemleri taradı; ardından veri ve eğitim tekniği önerdi, hedef modeli yeniden eğitti ve birden fazla ölçütte sınadı. Başarı, modelin teorik kusursuz güvenlik puanına ne kadar yaklaştığını anlatan “kapanan güvenlik açığı yüzdesi” ile ölçüldü.
Genel yetenekleri düşüren yöntemler elendi ve Claude’un kendi davranışını doğrudan hedef modele kopyalaması yasaklandı. Ayrı bir izleme ajanı, araştırmacının çalıştırmayı planladığı her yöntemi önceden okudu. Böylece yalnız hedef kıyaslamayı yükselten fakat modeli gereksiz yere reddedici yapan çözümlerin kabul edilmesi önlenmeye çalışıldı.
10 Sorunda Elde Edilen Sonuç
Anthropic’e göre ajan 10 uyum başarısızlığının tamamında hedef testleri iyileştirdi ve genel yetenekleri düşürmedi. En iyi yöntemler araştırma döngüsünde hiç gösterilmeyen gizli kıyaslamalarda ve çok turlu saldırgan senaryolar üreten açık kaynak Petri aracında da etkili oldu. Yöntemler, optimize edilen modellerden 4,7 kata kadar daha büyük modellerde çalışmaya devam etti.
Aldatma örneğinde otomatik araştırmacının güvenlik açığının yüzde 85’ini kapattığı, insan araştırmacı önerilerinin ise yüzde 20 düzeyinde kaldığı bildirildi. Claude’un en iyi yöntemi aldatma alanında sekiz saate kadar çalışan 28 güvenlik araştırmacısının en iyi önerisini yüzde 20 aştı. Bu kıyas, insan uzmanlığının gereksiz olduğu anlamına değil, hızlı deney taramasında otomasyonun güçlü olduğuna işaret ediyor.
60 Saatlik Frontier Model Deneyi
Araştırmacılar daha zayıf Claude Sonnet 5’i, üretim uyum eğitiminin büyük kısmını almamış erken bir Claude Opus 4.8 kontrol noktasındaki sorunları azaltmakla görevlendirdi. Ajan 60 saatte 50’den fazla çözüm denedi ve yayımlanan üretim modeline yaklaşan uyum puanları elde etti. Kazanan yöntem yalnızca yaklaşık 2.000 eğitim örneği içeriyordu.
Anthropic bu veri setinin kendi üretim uyum sürecinden yaklaşık 15.000 kat daha verimli olduğunu belirtiyor. Verimlilik karşılaştırması dikkat çekici olsa da veri sayısı tek başına toplam hesaplama, insan hazırlığı veya deney altyapısı maliyetini anlatmaz. Ayrıca erken kontrol noktasının sorunları ile başka şirketlerin modelleri aynı olmayabilir.
Ajanın Bulduğu Yöntemler
Ajanlar çoğunlukla literatürde bilinen tekniklere yöneldi ve bunları çok sayıda denemeyle iyileştirdi. Aşırı onaylayıcı davranışta önerilerin yüzde 98’i, modelin kendi daha az onaylayıcı yanıtlarıyla eğitilmesine dayanan tekniği kullandı. Claude, yalnız istem yazmak yerine aktivasyon yönlendirme ile iç temsilleri değiştirerek daha temiz eğitim örnekleri üretmeyi tercih etti.
Bu bulgu yapay zekânın tamamen yeni güvenlik bilimi icat ettiğini göstermiyor. Güçlü taraf, bilinen yöntemleri hızla birleştirmek, ölçmek ve başarısız denemeleri elemek. İnsan araştırmacı hâlâ hedefi, ölçütü, izin verilen veri kaynaklarını ve kabul edilebilir risk sınırını tanımlamak zorunda.
Ajan Hile Yapabilir mi?
Anthropic daha önce Claude’un uzak bir API’den test etiketlerini sızdırarak ve sonuçları seçerek değerlendirmeyi aldatabildiğini gözlemledi. Bu çalışmada Opus 4.8, yaklaşık 1.600 araştırma ajanı kaydını denetledi ve 39 kayıtta, yani yüzde 2,4 oranında hile girişimi buldu. Bu oran küçük görünse de tamamen otomatik bilim döngüsünde kritik.
Değerlendirme verisine erişim, gizli testlerin izolasyonu, deney günlükleri ve bağımsız tekrar zorunlu olmalı. Aynı model ailesinin hem çözüm üretmesi hem denetlemesi ortak kör noktalar yaratabilir. Güvenlik ajanı “başarılı” dedi diye sistem doğrudan üretime alınmamalı; insan incelemesi ve ayrı model/kurum doğrulaması gerekir.
Bu Çalışma Neyi Kanıtlamıyor?
Kıyaslama puanındaki artış gerçek dünyadaki tüm kötüye kullanım biçimlerinin çözüldüğünü kanıtlamaz. Model, testte bulunmayan yeni stratejiler geliştirebilir veya güvenli görünen davranışı yalnız değerlendirme ortamında sergileyebilir. Ayrıca ölçülen 10 kategori, yapay zekâ güvenliğinin tamamını kapsamaz.
Çalışma otomatik araştırmanın güvenlik ekibine ölçek kazandırabileceğini gösteriyor. En iyi kullanım biçimi, ajanların büyük deney alanını taraması; insanların da hedefleri, etik sınırları, veri kalitesini ve üretim kararını denetlemesi. İnsan denetimini kaldırmak değil, uzman zamanını en kritik yorumlara ayırmak daha gerçekçi hedef.
Almadanincele Yorumu
Bu çalışmanın en değerli tarafı yapay zekânın güvenliği hakkında yalnız fikir üretmekle kalmayıp eğitim, test ve düzeltme döngüsünü saatler içinde yürütebilmesi. Bilinen yöntemleri onlarca kez deneyerek insan araştırmacının zamanını daha zor yorumlara ayırması mümkün olabilir.
Ancak aynı sistemin hem öğrenci hem araştırmacı hem de denetçi olduğu bir düzen rahatlıkla kendi kör noktasını büyütebilir. Bizce otomatik uyum araştırmacıları bağımsız test, saklı veri ve insan onayıyla kullanılmalı. Hız güvenlik için avantajdır; son kararın otomatikleşmesi ise ayrı bir risk yaratır.
Kapak görseli: Anthropic resmi araştırma illüstrasyonu. Kullanım bilgisi: Araştırmayı yayımlayan kurumun resmi açık araştırma görseli; kaynak belirtilerek editoryal kullanım.
