İşNet'te Tek Platform

Kurumlar Gao Kaptan ile Kubernetes ortamlarını, GPU kaynaklarını ve yapay zeka modellerini tek platformdan yönetirken, self-servis yapısı sayesinde ihtiyaç duydukları altyapıya dakikalar içinde erişebiliyor; kullandıkça öde modeliyle kaynak kullanımını ve maliyetlerini anlık olarak takip edebiliyor.

Yapay zeka uygulamalarının yaygınlaşmasıyla birlikte Kubernetes tabanlı iş yükleri, GPU kapasitesi, depolama ve maliyet takibinin birlikte yönetilmesi, kurumların bulut altyapılarında merkezi yönetim ihtiyacını artırıyor.

İşNet, bu ihtiyaca yanıt vermek üzere geliştirdiği yeni platformu Gao Kaptan’ı kullanıma sundu. İşNet’in İstanbul’da bulunan, uluslararası TIER IV sertifikalı veri merkezi altyapısı üzerinde çalışan Gao Kaptan; Kubernetes operasyonlarını, GPU kaynaklarını ve platform bünyesinde sunulan dil modelleriyle yapay zekâ iş yüklerini tek bir platform üzerinden yönetme imkânı sunuyor. Platform; kurumların uygulamalarını daha hızlı devreye almasına, altyapı kaynaklarını merkezi olarak yönetmesine ve maliyetlerini kontrol altında tutmasına yardımcı oluyor.

Geliştiriciler ve BT ekipleri, Kubernetes tabanlı uygulamalarını saniyeler içinde devreye alabiliyor; GPU, CPU ve RAM kaynaklarından ihtiyaçları doğrultusunda yararlanabiliyor. Kaynaklar iş yüküne göre ölçeklendirilebilirken kullanılmayan kaynakların uyku moduna alınması, kaynak kullanımının optimize edilmesini ve maliyetlerin kontrol altında tutulmasını sağlıyor.

Modern yazılım geliştirme süreçlerinde hız, ölçeklenebilirlik ve kaynak verimliliğinin önemine dikkat çeken İşNet Proje Yönetimi ve Yazılım Geliştirme Grup Müdürü Şeyda Polat şunları söyledi:

“Kurumların yapay zeka ve bulut projeleri büyüdükçe Kubernetes ortamlarının, GPU kapasitesinin ve altyapı maliyetlerinin etkin biçimde yönetilmesi önemli bir ihtiyaç hâline geliyor. Kurumlar artık güçlü bir bulut altyapısının yanı sıra bu altyapıyı kolayca yönetebilecekleri, kaynak kullanımını izleyebilecekleri, optimize edecekleri ve yatırımlarının geri dönüş süresine ilişkin öngörü elde edebilecekleri akıllı platformlara ihtiyaç duyuyor.

Gao Kaptan’ı, geliştiricilerin ve BT ekiplerinin ileri düzey Kubernetes uzmanlığına ihtiyaç duymadan uygulamalarını devreye alabilecekleri, yapay zeka modellerine ve GPU kaynaklarına hızla erişebilecekleri bir platform olarak geliştirdik. Böylece operasyonel süreçleri sadeleştirmeyi, geliştirme süreçlerini hızlandırmayı ve ekiplerin yenilikçi projelere daha fazla zaman ayırmasını hedefliyoruz.”

Self-servis erişim, dakikalar içinde kayıt

Gao Kaptan’ın self-servis (self-service) yapısı sayesinde kurumlar, satış süreci veya onay adımlarına ihtiyaç duymadan platforma doğrudan erişebiliyor. Kullanıcılar web üzerinden birkaç adımda kayıt olarak hesaplarını oluşturabiliyor, bakiye yükleyerek GPU kaynaklarını ve yapay zeka modellerini kullanmaya başlayabiliyor.

Bu yapı sayesinde geliştiriciler ve kurumlar, uzun tedarik ve kullanıma alım (onboarding) süreçlerine ihtiyaç duymadan geliştirme ortamlarını oluşturabiliyor, fikirlerini kısa sürede test edebiliyor ve projelerini daha hızlı hayata geçirebiliyor.

Kubernetes operasyonları tek ekranda

Gao Kaptan, kullanıcıların konteyner ve pod’ları birkaç adımda oluşturmasını, yönetmesini, durdurmasını ve yeniden çalıştırmasını sağlıyor. Canlı log takibi, ayrıntılı tanılama ve web terminali özellikleri sayesinde uygulamaların çalışma durumu doğrudan platform üzerinden izlenebiliyor. Kullanıcılar, tarayıcı üzerinden çalışma ortamlarına erişerek komut çalıştırabiliyor.

Port yönlendirme (Port forward) ve kalıcı URL özellikleriyle servislere internet üzerinden erişim sağlanabiliyor. API desteği sayesinde platformun işlevleri kurumların mevcut uygulama ve sistemlerine entegre edilebiliyor.

Yedekleme ve depolama süreçleri kolaylaşıyor

Platform üzerinden kalıcı depolama alanları oluşturulabiliyor, boyutlandırılabiliyor ve yönetilebiliyor. Otomatik senkronizasyon, anlık görüntü (snapshot) alma, zamanlanmış yedekleme ve tek komutla geri yükleme özellikleri, verilerin korunmasına ve ihtiyaç halinde hızla geri yüklenmesine yardımcı oluyor.

Yapay zeka modellerine ve GPU kaynaklarına hızlı erişim

Gao Kaptan, açık kaynaklı yapay zeka modellerinin doğrudan kullanılmasına ve mevcut uygulamalara entegre edilmesine imkân tanıyor. OpenAI ile uyumlu API desteği sayesinde uygulamalar, kapsamlı kod değişikliklerine ihtiyaç duyulmadan farklı büyük dil modelleriyle çalışabiliyor.

NVIDIA GPU kaynakları iş yüklerine otomatik olarak atanırken MIG (Multi-Instance GPU) desteği, yüksek kapasiteli GPU kaynaklarının farklı iş yükleri arasında birbirinden izole biçimde paylaşılmasını sağlıyor. Yapay zeka modelleri, düşük gecikmeli ve ölçeklenebilir çıkarım (inference) altyapısında çalıştırılabiliyor. Platform içindeki yapay zeka asistanı ise kullanıcıların platform üzerindeki işlem adımlarını daha hızlı tamamlamasına, kaynak ve uygulama yönetimine ilişkin süreçleri daha kolay yürütmesine yardımcı oluyor.

Kullandıkça öde modeliyle maliyet görünürlüğü

Gao Kaptan ile kullanıcılar, LLMaaS hizmetinde kullandıkları token sayısı, GPU hizmetinde ise kullanım süresi üzerinden (saatlik) ücretlendiriliyor. Yalnızca kullanılan kapasite için ödeme yapılan bu yapıda kullanıcılar; bakiye, kullanım geçmişi, maliyet ve faturalama bilgilerini tek ekran üzerinden takip edebiliyor.

Gao Kaptan, kurumların ihtiyaç duydukları kapasiteye hızla erişmesini, kaynaklarını verimli kullanmasını ve bulut altyapı maliyetlerini daha öngörülebilir biçimde yönetmesini sağlayarak yapay zeka ve uygulama geliştirme süreçleri için ölçeklenebilir ve esnek bir altyapı sunuyor.