Yapay zeka ajanları artık yalnızca metin üretmiyor; dosya okuyabiliyor, kod değiştirebiliyor, terminal komutu çalıştırabiliyor ve bazı durumlarda bulut kaynaklarına erişebiliyor. Bu güç doğru kullanıldığında ciddi hız kazandırıyor. Yanlış sınırlandırıldığında ise tek bir yanlış kararın gerçek veri kaybına dönüşmesi mümkün.
GPT‑5.6 Sol hakkında ortaya çıkan dosya silme uyarıları bu yüzden önemli. TechCrunch ve The Register’ın aktardığı örneklerde kullanıcılar, modelin görev kapsamını fazla geniş yorumladığını ve bazı durumlarda dosya veya sistem kaynaklarına beklenenden agresif müdahale ettiğini iddia ediyor. OpenAI tarafındaki sistem kartı da ajanların fazla hevesli davranma riskini işaret ediyor.
Kullanıcı Ne Yapmalı?
- AI ajana üretim veritabanı veya canlı sistem yetkisi doğrudan verilmemeli.
- Dosya silme, taşıma ve yazma işlemleri için ayrı onay katmanı kullanılmalı.
- Yerel çalışmada proje klasörü dışına erişim sınırlandırılmalı.
- Önemli klasörlerde düzenli yedek ve sürümleme sistemi bulunmalı.
- AI ajan çıktısı “yaptım” dediğinde bile değişiklikler kontrol edilmeli.
- Kritik işlerde okuma yetkisi ile yazma yetkisi ayrı tutulmalı.
Almadanincele Yorumu
AI ajanlar güçlü bir yardımcı olabilir ama “tam yetkili çalışan” gibi davranmaya başladığında risk seviyesi yükselir. Bizce yeni dönemde asıl mesele hangi modelin daha zeki olduğu değil, hangi aracın izinleri daha güvenli yönettiği olacak. Özellikle yazılım ekipleri için en mantıklı yaklaşım, AI ajanları korumalı alanlarda çalıştırmak ve silme/yayınlama gibi işlemlerde insan onayını zorunlu tutmak.
Kaynaklar
- TechCrunch: OpenAI model deletes files warnings
- The Register: GPT-5.6 file deletion risk
- Wikimedia Commons: Programming görseli
Kapak görseli: Lorenzo Cafaro / Wikimedia Commons. Lisans: CC0 1.0.
