Masaüstü yapay zekânın ekonomisi

Önceki bir yazıda BOXX’un yapay zekâyı masaüstüne getirmesinin temel avantajlarını konuşmuştuk; bunlardan biri finansaldı. Listede son sırada olsa da belki de en önemlisi.

Önceki bir yazıda BOXX’un yapay zekâyı masaüstüne getirmesinin başlıca avantajlarını konuşmuştuk; bunlardan biri de finansaldı. Listenin sonunda yer alsa da pekâlâ en önemlisi olabilir.

Ciddi yapay zekâ iş yüklerinin çoğunda işlenen veri miktarı bulut tabanlı bir hizmeti zorunlu kılıyor ve bu hizmetin ciddi bir bedeli var. Her yeni iş yükü, çalışabilmek için işlem ve bellek düğümleri gerektiriyor. Uygulama ya da görev karmaşıklaştıkça daha çok kaynak tüketiyor. Bulut sağlayıcıları saat başına kullandığınız çekirdek sayısına ve gigabayt belleğe göre ücretlendiriyor ve ödediğiniz bu bulut kaynakları sınırsız değil. Durum böyleyken, daha önemli uygulamaların üretkenliğini engelleyecekse ya da maliyet etkin değilse değerli bulut kaynaklarını tüketmek istemezsiniz.

Buna bulutta depolamaya yükleme ve indirme maliyetini de ekleyin; kısa sürede ciddi bir gidere dönüşebilir. Elbette uygulama geliştirildikten sonra bulut hizmetiniz zaman kazandıracak ve çok daha hızlı olacak; ancak söz konusu yapay zekâ uygulamasının bulutta geliştirilmesi ekonomik olarak akıllıca değil.

Yani bazı yapay zekâ uygulamalarının gerektirdiği ham işlem gücü nedeniyle bir noktada iş yükünüzü buluta taşımanız gerekeceği anlaşılıyor. Ama bu tartışma açısından kilit ifade şu: “bir noktada”.

Çünkü yapay zekâ iş akışınızın erken aşamaları farklı modeller ve algoritmalarla denemeler yapmayı içerebilir; bu da çok sayıda yinelemeye yol açan son derece zaman alıcı bir süreçtir. Bulut tabanlı bir yapay zekâ hizmetine ödeme yaparken zaman kesinlikle paradır; o hâlde bulut hizmetinin bedelini ödemeden önce modellerinizi geliştirmenin ve eğitmenin maliyet etkin bir yolunu düşünün. Çözüm, masaüstü bir yapay zekâ iş istasyonu.

Giriş seviyesinde BOXX; Intel Xeon W5-2465X işlemciden ve 128GB bellekli tek bir NVIDIA RTX 6000 Ada GPU’dan güç alan, sıvı soğutmalı ve küçük gövdeli APEXX W3’ü sunuyor. İş yükünüz daha fazla işlem gücü gerektiriyorsa; Intel Xeon W7-3455 işlemcili, iki adede kadar NVIDIA RTX 6000 Ada GPU ve 256GB bellekle yapılandırılabilen sıvı soğutmalı APEXX W4 en uygun seçim. Bu iki iş istasyonundan biriyle ya da BOXX RAXX W3 rafa monte sistemiyle (Intel Xeon W9-3475X işlemci, dört NVIDIA RTX 6000 Ada Generation GPU ve 512GB bellek) modelinizi buluta ve bütçenize hiç yüklenmeden geliştirip ince ayarlayabilirsiniz.

Örneğin nitelik, hacim ve ton içeren yapılandırılmamış bir göreve girişmek istediğinizi düşünün: 1990–1999 arasındaki kızıl saçlı televizyon karakterlerinin bütün görüntülerini belirleyip derlemek gibi. Bu, eninde sonunda yüzlerce terabaytlık video verisini işlemek, yani çok zaman ve çok para demek. Masaüstü iş istasyonunuzla (ve önerilen, ekonomik olarak uygulanabilir bir depolama çözümüyle) soruları belirleyip iyileştirmenin, örnek veri sağlamanın, yerel kopya almanın ve model geliştirmeye ince ayar yapmanın süresine para ödemeden bir yapay zekâ deneme sürüşü yapabilirsiniz.

Elbette masaüstü bir iş istasyonu satın almanın peşin maliyeti var; ancak yapay zekâ iş yükleriyle uğraşıyorsanız zamanla ciddi bir yatırım getirisi elde edersiniz.