AI News
  • Teknoloji Haberleri
  • İnceleme
  • Mobil
  • Nasıl Yapılır
  • Otomobil
  • Oyun
  • Yazılım
  • Yapay Zeka
No Result
View All Result
AI News
  • Teknoloji Haberleri
  • İnceleme
  • Mobil
  • Nasıl Yapılır
  • Otomobil
  • Oyun
  • Yazılım
  • Yapay Zeka
No Result
View All Result
AI News
No Result
View All Result
Dört yapay zekâ işlem düğümü arasındaki gizli bağlantıyı ortaya çıkaran izleme ışını

VLA yaklaşımı, ajanların görünür mesajlarının altında kalan gizli durumları eylemlerle ilişkilendirerek şüpheli koordinasyonu izlemeyi amaçlıyor.

Yapay Zekâ Ajanları Gizlice Anlaşabilir mi? VLA Testi Görünmez Koordinasyonu Yakaladı

Ağustos 21, 2026
in Yapay Zeka
0
585
SHARES
3.3k
VIEWS
ChatGPT ile özetleyinFacebook'ta paylaş

Birden fazla yapay zekâ ajanı aynı hedef üzerinde çalıştığında aralarında mesajlaşması beklenir. Güvenlik ekipleri bu konuşmaları kaydederek neden belirli bir karar alındığını anlamaya çalışır. Ancak ajanlar yalnızca okunabilir metin değil, insanın doğrudan göremediği sürekli “gizli durum” vektörleri üzerinden iletişim kurarsa kayıtlı konuşma gerçeğin tamamını göstermeyebilir.

19 Ağustos 2026’da arXiv’e gönderilen “Beyond the Transcript” başlıklı ön çalışma, bu riski kontrollü bir çok ajanlı açık artırma ortamında inceliyor. Çalışma hakem sürecinden geçmiş nihai bir güvenlik standardı değil; sonuçlar bu sınırlamayla okunmalı.

Gizli İletişim Nedir?

Dil modeli normalde kelimeleri üretmeden önce yüksek boyutlu sayısal temsiller oluşturur. Araştırma düzeninde ajanlar bu ara temsillerin bir bölümünü birbirine aktarabiliyor. Böylece kamuya açık mesaj “rekabet edeceğim” derken özel kanal diğer ajanlara daha düşük teklif verme sinyali taşıyabilir.

Bu iletişim yöntemi verimlilik amacıyla da kullanılabilir. Ajanlar uzun metin yerine sıkıştırılmış temsil paylaşarak daha hızlı iş birliği yapabilir. Sorun, denetçinin yalnız son konuşmayı görmesi hâlinde zararlı anlaşmayı, manipülasyonu veya görev dışı koordinasyonu fark edememesi.

VLA Yaklaşımı Ne Yapıyor?

Araştırmacılar Verifiable Latent Alignments, yani Doğrulanabilir Gizli Hizalamalar adını verdikleri bir izleme yaklaşımı öneriyor. Sistem, ajanların özel iç durumunu, kanalın o anda açık veya kapalı olmasını ve sonrasında gerçekleşen kamuya açık eylemi aynı olay kimliği altında bağlıyor.

İzleme katmanı yalnız şüpheli örneklerle eğitilmiyor. Temiz, koordinasyon içermeyen davranıştan bir referans çıkarılıyor. Ardından üç farklı belirti aranıyor: temsilin normal dağılımdan sapması, gizli kanal kapatıldığında eylem olasılığının değişmesi ve seyrek oto-kodlayıcıyla yorumlanabilen özelliklerin etkinleşmesi.

Üç İzleme Katmanı

  1. Temsil anomalisi: Ajanın gizli durumu, benzer temiz görevlerde görülen normal örüntüden ne kadar uzak?
  2. Karşı-olgusal etki: Gizli mesaj kaldırıldığında veya değiştirilince teklif, seçim ya da hareket dağılımı belirgin biçimde değişiyor mu?
  3. Yorumlanabilir özellik: İç temsilde ortak fiyat düşürme veya belirli katılımcıya uyum sağlama gibi davranışla ilişkili seyrek özellikler etkin mi?

Bu üç sinyal tek başına kesin suç kanıtı değil. Birlikte değerlendirildiklerinde “ajanlar aynı sonuca bağımsız mı ulaştı, yoksa özel kanal kararlarını birbirine mi bağladı?” sorusuna daha güçlü cevap veriyor.

Deney Nasıl Kuruldu?

Çalışma 25 ile 100 arasında değişen teklifçi ajanlarla kontrollü bir açık artırma simülasyonu kullanıyor. Homojen deneylerde ajanlar aynı veya çok benzer model düzenine sahip; heterojen deneylerde farklı yapı ve davranışlar bir araya geliyor. Araştırmacılar kanalın açık-kapalı durumunu ve müdahaleleri değiştirerek izleyicinin gerçek koordinasyonu ayırt edip edemediğini ölçüyor.

Bu ortamın avantajı, gizli anlaşmanın ne zaman üretildiğinin bilinmesi. Gerçek şirket ajanlarında “doğru etiket” çoğu zaman yoktur. Dezavantajı ise açık artırmanın müşteri hizmetleri, kod yazma veya otonom araştırma gibi karmaşık görevlerin tamamını temsil etmemesi.

Sonuçlar Ne Kadar Güçlü?

Sıralı izleyici homojen ajanlarda 0,993 AUROC, heterojen ajanlarda 0,854 AUROC sonucuna ulaştı. AUROC değeri 1’e yaklaştıkça sistemin şüpheli ve normal örneği ayırma gücü artıyor. İlk sonuç çok yüksek; farklı modellerin karıştığı ikinci ortamda belirgin düşüş olması gerçek dünyaya geçişte zorluğun büyüdüğünü gösteriyor.

Deneylerde Qwen3-0.6B ölçeğinde modeller ve farklı teklifçi sayıları kullanıldı. Araştırmacılar izleme yükünün normalize edildiğinde küçük kaldığını bildiriyor. Beyaz kutu yönlendirme deneyinde teklif dağılımının teknik olarak tamamen geri kazanıldığı ve koordinasyonla düşürülen tekliflerin 47,3 yüzde puan azaltıldığı belirtiliyor.

“Yüzde 100” Ne Anlama Gelmiyor?

Bu sayı her modelin düşüncesinin yüzde 100 okunduğu anlamına gelmiyor. Belirli deney düzeninde, araştırmacıların iç aktivasyonlara erişebildiği ve temiz referansın uygun olduğu bir yönlendirme hedefini ifade ediyor. Kapalı API, şifreli temsil, model güncellemesi veya tamamen farklı görevde aynı başarı garanti değil.

Şirketler İçin Neden Önemli?

Satın alma, fiyatlandırma, reklam açık artırması veya iş gücü planlama gibi alanlarda çok sayıda ajan aynı sisteme bağlanacaksa yalnız konuşma kaydı tutmak yetersiz kalabilir. Denetim tasarımı kanal erişimi, model sürümü, olay kimliği ve eylem sonucu arasındaki zinciri korumalı.

Yine de iç aktivasyonları saklamak yeni bir gizlilik sorunu yaratır. Bu veriler kullanıcı içeriği veya ticari sırla ilişkili bilgi taşıyabilir. İzleme sistemi en az veri, sınırlı saklama, erişim kaydı ve bağımsız denetim ilkeleriyle kurulmalı.

Çalışmanın Sınırlamaları

  • Sonuçlar kontrollü açık artırma benchmark’ına dayanıyor.
  • İç aktivasyona erişim gerektiren beyaz kutu varsayımı her modelde mümkün değil.
  • Temiz referansla gerçek üretim trafiği arasındaki fark yanlış alarm üretebilir.
  • Heterojen ajanlarda başarı belirgin biçimde düşüyor.
  • Ön çalışma henüz geniş bağımsız tekrarlarla doğrulanmış değil.

Almadanincele Yorumu

Bu çalışma, “bütün konuşmaları kaydedersek ajanları denetleriz” varsayımının eksik olabileceğini gösteriyor. Ajanların birbirine kelime dışında temsil aktardığı sistemlerde asıl karar zinciri görünen metnin altında kalabilir.

VLA umut verici, fakat bugünden evrensel çözüm değil. Bizce en doğru yaklaşım gizli kanalı varsayılan olarak sınırlamak, gerekli olduğunda olay bazında kaydetmek ve karar değişimine etkisini test etmek. İnsan denetimi de yalnız son cevaba değil, kanal ile eylem arasındaki kanıta bakmalı.

Kapak görseli: Almadanincele / OpenAI ImageGen – özgün editoryal görsel. Kullanım bilgisi: Almadanincele için OpenAI ImageGen ile özgün üretilmiştir.

Kaynaklar

  • Beyond the Transcript: Detecting Covert Coordination in Latent Multi-Agent Communication
Tags: Çok Ajanlı SistemlerGizli KoordinasyonVLAYapay Zeka AjanlarıYapay Zeka Güvenliği
SummarizeShare234
Previous Post

Fujifilm Instax Mini 13 İncelemesi: Selfie Zamanlayıcısı Gerçekten İşe Yarıyor mu?

Next Post

Bilgisayar Kullanan Yapay Zekâ Neden Basit Düğmede Takılıyor? 2.910 Görevlik ComponentBench Sonucu

Almadanincele Editör Ekibi

Almadanincele Editör Ekibi

Almadan İncele editör ekibi; teknoloji, yapay zeka, mobil, oyun, otomobil ve yazılım dünyasındaki gelişmeleri satın alma kararı odaklı, anlaşılır ve kaynaklı şekilde değerlendirir.

İlgili Haberler

Google St. Ghislain veri merkezindeki gerçek sunucu rafları ve orta koridor

Tunix ve Gemma 4 ile Çok Adımlı Ajan Eğitimi: Yüzde 95 Sonucu Nasıl Okumalı?

by Almadanincele Editör Ekibi
Kasım 20, 2026
0

Google’ın yeni örneği, araç kullanan bir ajanın deneme ve geri bildirimle öğrenmesini gösteriyor. Küçük bir oyun ortamındaki sonuç, genel iş başarısı sayılmamalı.

Google Alabama veri merkezinde sunucu raflarının arkasındaki gerçek ağ kabloları

Google Streaming DiLoCo’yu MaxText’e Getirdi: Daha Az Veri Trafiği Ne Anlama Geliyor?

by Almadanincele Editör Ekibi
Kasım 20, 2026
0

Google’ın 19 Kasım tarihli çalışması, dağıtık model eğitiminde ağ darboğazını ele alıyor. İletişimin azalması, her modelin aynı oranda hızlandığı anlamına gelmiyor.

OpenAI’nin resmî kullanıcı hikâyesi videosunda doğal ışık alan çalışma ortamındaki bir konuşmacı

GPT-6.2 Astra ve Sol: Yeni Modellerde İş Kalitesi Nasıl Değerlendirilmeli?

by Almadanincele Editör Ekibi
Kasım 19, 2026
0

Astra zor projelere, Sol günlük işlere odaklanıyor. Yeni modelleri değerlendirirken güzel görünen dosyayı doğru ve tamamlanmış işle karıştırmamak gerekiyor.

Google DeepMind’in resmî arşiv videosunda aydınlık bir ofiste bilgisayar başında çalışan iki kişi

Gemini 4 Neon Duyuruldu: Hız, Uzun Belgeler ve Gerçek İş Maliyeti

by Almadanincele Editör Ekibi
Kasım 19, 2026
0

Google’ın yeni modeli hız ve uzun bağlamı öne çıkarıyor. Asıl soru, bir yanıtı ne kadar hızlı yazdığı değil işin tamamını ne kadar doğru bitirdiği.

Next Post
Kullanıcı arayüzü bileşenlerini koordinat ve erişilebilirlik ağacıyla kontrol eden iki yapay zekâ yaklaşımı

Bilgisayar Kullanan Yapay Zekâ Neden Basit Düğmede Takılıyor? 2.910 Görevlik ComponentBench Sonucu

Bir yanıt yazın Yanıtı iptal et

E-posta adresiniz yayınlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir

Tavsiye edilen

GOES-16 uydusunun 8 Ekim 2024 Milton Kasırgası arşiv görüntüsü; uydu hava gözlemleri için örnek

Google PARDIG ve SatWeave Verilerini Açtı: Yapay Zekâ Hava Tahmininde Gözlem Neden Önemli?

Kasım 17, 2026
Modern bir çalışma alanında ekrandaki analizleri birlikte değerlendiren iki kişi; yapay zekâ güvenlik testi haberi için temsili görsel

OpenAI Araştırması: Güvenlik Testleri Gerçek Kullanımdaki Yapay Zekâ Ajanlarını Ne Kadar Yansıtıyor?

Kasım 4, 2026
Gri Mitsubishi Delica D:5 minivanın ön ve yan görünümü

Mitsubishi Delica D:5’e RJC Özel Ödülü: Uzun Ömürlü Bir Minivanın Hikâyesi

Kasım 12, 2026
Microsoft Surface Laptop Ultra dizüstü bilgisayarın açık haldeki 15 inç ekranı

Surface Laptop Ultra Ön İnceleme: RTX Spark’lı 15 İnç Surface Neler Vaat Ediyor?

Kasım 4, 2026
Bir yazılım ekibi ortak ekrandaki iş akışını toplantı sırasında inceliyor

Google Workspace MCP İçin Son Gün Yaklaşıyor: OAuth İstemcilerinde Ajan İşareti Gerekecek

Kasım 10, 2026
Pimax Crystal Pro sanal gerçeklik başlığı ve yüksek çözünürlüklü lenslerinin önden görünümü

Pimax Crystal Pro Ön İnceleme: 2880×2880 Görüntü Kablosuz VR’da Ne Vaat Ediyor?

Ekim 21, 2026
Siyah PlayStation Pulse Elevate kablosuz masaüstü hoparlör çifti

PlayStation Pulse Elevate 12 Kasım’da Çıkmadı: Sony Üretim Sorunu Nedeniyle Erteledi

Kasım 12, 2026
Robotik makinelerin üretim hattında otomobil gövdesi üzerinde çalışması

Stellantis Bugün Üçüncü Çeyrek Sonuçlarını Açıklıyor: Otomobil Pazarında Hangi Veriler Önemli?

Ekim 28, 2026
Almadan İncele

Almadan İncele; teknoloji, mobil, oyun, otomobil ve yazılım dünyasında satın almadan önce doğru karar vermenize yardımcı olan inceleme, haber ve rehber içerikleri yayınlar.

Follow us

Son Yazılar

NuPhy Air75 V3 Moonbow Edition klavye, dizüstü bilgisayar ve masa aksesuarlarıyla açık mavi zeminde

NuPhy Air75 V3 Moonbow Edition Ön İnceleme: Görünümden Önce Tuş Düzenine Bakın

Kasım 20, 2026
OBSBOT Tail 2 ADV motorlu yayın kamerası, koyu zeminde ürün tanıtım karesi

OBSBOT Tail 2 ADV Ön İnceleme: 21x Optik Zoom Yayın Akışında Ne Değiştiriyor?

Kasım 20, 2026

Takip

Xbox Free Play Days 19–22 Kasım 2026 afişinde Deadlink, Slayers X ve Polterguys

Xbox Free Play Days 19–22 Kasım: Deadlink, Slayers X ve Polterguys Nasıl Denenir?

Kasım 20, 2026
Google’ın Gemini Android duyurusunda telefon ekranındaki bir belge hakkında sorulan soru

Gemini Android Go Telefonlara Geliyor: 2 GB RAM Desteği Ne Anlama Geliyor?

Kasım 20, 2026
  • Teknoloji Haberleri
  • İnceleme
  • Mobil
  • Nasıl Yapılır
  • Otomobil
  • Oyun
  • Yazılım
  • Yapay Zeka

© 2026 almadanincele.com. Tüm hakları saklıdır.

No Result
View All Result
  • Teknoloji Haberleri
  • İnceleme
  • Mobil
  • Nasıl Yapılır
  • Otomobil
  • Oyun
  • Yazılım
  • Yapay Zeka

© 2026 almadanincele.com. Tüm hakları saklıdır.