ChatGPT, Codex ve OpenAI API gibi hizmetlerde bir kullanıcı düğmeye bastığında arka planda tek bir model çağrısından çok daha fazlası çalışıyor. Oturum bilgisi, ayarlar, yetki, geçmiş ve ürün durumu için çok sayıda veri sorgusu gerekiyor. OpenAI, 11 Eylül 2026'da yayımladığı teknik yazıda bu trafiği yöneten Habitat adlı çevrimiçi depolama platformunun saniyede 70 milyondan fazla isteği işlediğini açıkladı. Şirketin verdiği rakamlar, yapay zekâ ürünlerinde model kadar veri altyapısının da belirleyici hâle geldiğini gösteriyor.
Habitat nedir?
Habitat, OpenAI ürünlerinin ihtiyaç duyduğu veriye hızlı ve güvenilir biçimde erişmesi için geliştirilen bir hizmet katmanı. İlk sürüm, 2023 DevDay döneminde GPT'leri desteklemek amacıyla Azure Cosmos DB'ye bağlanan küçük bir Python istemci kitaplığı olarak başlamış. Ürün ekipleri zamanla şema bulma, yönlendirme, yetkilendirme, şifreleme, serileştirme, önbellek ve bağlantı havuzu gibi ayrıntıları bu ortak katmana bırakmış.
Bugünkü tabloda Habitat'ın arkasında Azure Cosmos DB, Nanobase, Valkey önbellekleri, nesne depolama, Kafka, Databricks ve değişiklik verisi akışı gibi farklı sistemler bulunuyor. OpenAI; platformun yaklaşık 40 coğrafi bölgede, haftada bir milyardan fazla kişinin kullandığı ürünleri desteklediğini ve 500 petabayttan fazla veriye hizmet verdiğini belirtiyor. Bunlar şirketin kendi ölçümleri; bağımsız denetim verisi olarak görülmemeli.
Neden istemci kitaplığından ayrı hizmete dönüştü?
Habitat önce her ürün hizmetinin içine eklenen bir kitaplıktı. Bu yaklaşım başlangıçta hızlı geliştirme sağladı, fakat OpenAI hizmetlerinin sayısı arttıkça aynı güncellemeyi onlarca farklı uygulamaya dağıtmak zorlaştı. Şirketin verdiği örnekte bölgesel bir kesintinin etkisini azaltacak yönlendirme değişikliği, her istemcide yeni kod ve aşamalı özellik bayrağı gerektirmiş. Ekiplerden birinin eski sürüme dönmesi, çözülmek istenen hatayı tekrar sisteme taşıyabilmiş.
Habitat'ın bağımsız hizmete dönüşmesi, yönlendirme ve güvenlik politikalarını tek noktadan uygulamaya izin vermiş. Bu mimari, ürün ekiplerinin her veritabanı değişikliğini ayrıca yönetmesini azaltıyor. Aynı zamanda erişim kontrolü, denetim kaydı ve veri ikameti gibi kuralların merkezi uygulanmasını sağlıyor. Fakat merkezi katman yeni bir kritik bağımlılık da yaratıyor; Habitat'taki geniş kapsamlı bir sorun çok sayıda ürünü aynı anda etkileyebilir. Bu nedenle bölgesel izolasyon ve aşırı yük koruması hayati.
Python saniyede 20 milyon isteğe kadar nasıl dayandı?
OpenAI, Habitat hizmetini ilk aşamada Python ile çalıştırmanın bilinçli bir teknik borç tercihi olduğunu söylüyor. Python geliştirme hızını korurken CPU ve bellek maliyeti yükselmiş. Özellikle asyncio aynı anda çok sayıda ağ işini bekletebilse de tek işlemci iş parçacığında gerçek CPU paralelliği sağlamıyor. Şifreleme, sıkıştırma, yönlendirme ve sağlama toplamı gibi işler arttığında olay döngüsü gecikmiş.
Ekip, yüksek yükte her sürecin az sayıda eş zamanlı istek işlemesini ve çok sayıda işçi süreci çalıştırmayı tercih etmiş. Özellik bayrağı yapılandırmasının her dakika aynı anda ayrıştırılması gibi görünüşte küçük bir işlem, tüm işçilerin kısa süreli durmasına yol açmış. Daha küçük yapılandırma, daha uzun yenileme aralığı ve rastgele gecikme eklenerek bu dalgalanma azaltılmış.
Bağlantı havuzunda kullanılan son giren ilk çıkar yaklaşımı da yavaş sunuculara yeniden iş göndererek kendi kendini büyüten bir darboğaz oluşturmuş. İlk giren ilk çıkar düzenine geçmek yük dağılımını iyileştirmiş. OpenAI bugün bağlantı havuzu ve yük dengelemede Istio ile Envoy'dan yararlandığını belirtiyor.
Python'dan Rust'a geçiş
Habitat'ın Python sürümü zirvede saniyede 20 milyondan fazla isteğe hizmet vermiş. OpenAI, 2026'nın ikinci çeyreğinde iki mühendis ile Codex ve GPT-5.5 desteği kullanarak hizmeti Rust'a yeniden yazdığını söylüyor. Yeni sürümün üretim trafiğinin yüzde 95'ini taşıdığı; Python'a kıyasla işlemci kullanımında altı, bellek kullanımında 15 kat daha verimli olduğu belirtiliyor.
Bu rakamlar güçlü görünse de şirket içi ölçümler. İş yükü, optimizasyon kapsamı ve karşılaştırılan donanım ayrıntıları kamuya açık bağımsız bir testte doğrulanmış değil. Sonucun “Rust her zaman Python'dan 15 kat iyidir” biçiminde genellenmesi yanlış olur. Buradaki kazanç, düşük seviyeli dil değişiminin yanında yıllar içinde öğrenilen trafik yapısının yeni mimariye uygulanmasından da kaynaklanıyor.
Neden sınırlı bir NoSQL arayüzü kullanılıyor?
Habitat, geliştiricilere sınırsız SQL sorgusu vermek yerine öngörülebilir maliyetli nesne ve kenar işlemleri sunuyor. Karmaşık bir birleşim veya sınırsız tarama çevrimiçi sistemi kilitleyebileceği için pahalı sorgular varsayılan yolun dışında bırakılıyor. Nesneler ve doğrudan ilişkiler yatay bölümlenebiliyor; daha karmaşık analizler değişiklik verisi akışıyla ayrı Rockset ortamlarına taşınıyor.
Bu yaklaşım geliştirici özgürlüğünü bir miktar azaltıyor, fakat canlı kullanıcı trafiğini ağır analitik sorgulardan yalıtıyor. Yapay zekâ ajanlarının kendi araçlarıyla veri sistemlerine eriştiği dönemde, öngörülemez sorguyu sınırlamak yalnız performans değil güvenlik açısından da önemli. Merkezi yetkilendirme, bir ajanın erişmemesi gereken kayda gitmesini engelleyen son savunma katmanlarından biri olabilir.
Kullanıcı açısından ne anlama geliyor?
Kullanıcı çoğu zaman bu altyapıyı görmez. Başarılı olduğunda sohbet daha hızlı açılır, geçmiş güvenilir yüklenir ve bölgesel sorunlar daha dar alanda kalır. Başarısız olduğunda ise en güçlü model bile oturum veya dosya verisine ulaşamadığı için hizmet veremez. Dolayısıyla yapay zekâ ürünlerinin güvenilirliği yalnız model performansına değil veri katmanının gecikme, güvenlik ve dayanıklılığına bağlı.
Habitat örneği, yapay zekâ şirketlerinin artık klasik internet ölçeği sorunlarıyla karşılaştığını da anlatıyor. Petabaytlarca veri, veri ikameti, çok kiracılı yapı ve ajan erişimi; hız kadar denetim ve gizlilik tasarımını öne çıkarıyor. OpenAI'ın teknik yazısı mimariyi açıklıyor fakat kullanıcı verisinin saklama süresi veya ürün bazlı gizlilik tercihleri için ayrı politika belgelerine bakmak gerekiyor.
Almadanincele Yorumu
Habitat'ın hikâyesi, yapay zekâ yarışının yalnızca daha büyük model üretmekten ibaret olmadığını gösteriyor. Saniyede 70 milyon isteği taşıyan veri katmanı, modelin doğru bağlama zamanında ulaşmasını sağlayamazsa kullanıcı tarafındaki zekâ hissi hızla kaybolur.
Python'dan Rust'a geçiş dikkat çekici olsa da asıl ders dil karşılaştırması değil. OpenAI önce ürün ekiplerini ortak bir hizmette buluşturmuş, darboğazları gerçek trafikle öğrenmiş ve sonra kritik bölümü yeniden yazmış. Şirket ölçümlerinin bağımsız olarak doğrulanması gerekir; buna rağmen açıklanan ölçek, yapay zekâ altyapısının başlı başına bir mühendislik alanına dönüştüğünü açıkça ortaya koyuyor.
Kapak görseli: Almadanincele özgün Habitat altyapısı editoryal görseli. Kullanım bilgisi: Almadanincele için yapay zekâ ile oluşturulmuş özgün temsili editoryal görsel; gerçek bir olay fotoğrafı veya ürün ekran görüntüsü değildir.
