IPU nedir, ne işe yarar?

Geçmişte yalnızca CPU tarafından gerçekleştirilen görevleri hızlandırmak için giderek daha fazla işlem birimi ortaya çıkıyor. İlk yardımcı işlemcilerden veya FPU’lardan grafik hızlandırıcılara, IPU ve DPU gibi HPC sektörüne gelen en yeni birimlere kadar. Intel ve NVIDIA, sırasıyla IPU’lar ve DPU’lar alanına katılan ilk şirketler.

Diğer yandan, önemli sıçramalar yapmak için yeterli performansı elde etmek için geleneksel işlem birimlerinin geliştirilmesi giderek daha zor hale geliyor. Bu nedenle, AI gibi diğer yönlere veya yardımcı olabilecek bu yeni unsurlara bakıyoruz. Aslında, büyük şirketler zaten kendi cihazlarını geliştiriyor.

Intel, SmartNIC gibi, bilgisayarların CPU’sunu boşaltarak bilgi işlem, ağ iletişimi ve depolamayı geliştirmek için tasarlanmış IPU’yu (Infrastructure Processing Unit) piyasaya sürdü. Bir IPU, ağ oluşturma, bilgi işlem ve depolamayı iyileştirmek için görevleri bilgisayarların ana CPU’larından uzaklaştırmayı amaçlayan bilgi işlem mimarilerinde önemli bir bileşendir. Bir IPU, veri merkezlerinde ve uçta çekirdek CPU’ları boşaltmak, öngörülebilir ve verimli uygulama performansı sağlamak ve CSP’ler ve operatörler tarafından aranan gelişmiş sanallaştırma yetenekleri sağlamak için tasarlanmıştır.

Bulut sağlayıcı, IPU ile altyapı işlevlerini güvenli bir şekilde yönetirken, müşterilerine sistemin CPU ve bellek işlevleri üzerinde tam kontrol sağlayabilir. Intel’e göre, bir IPU sayesinde müşteriler, hem servis sağlayıcılar hem de misafirler için daha fazla güvenlik ve izolasyon sağlayan güvenli, istikrarlı ve programlanabilir bir çözüm aracılığıyla kaynakları daha iyi kullanabilirler.

Hedefteki veri merkezleri

Intel, bulut veri merkezi pazarındaki erişimini hızla genişletecek ve veri merkezleri tarafından etkinleştirilen mikro hizmet tabanlı mimariler kullanılarak oluşturulan yüksek bant genişliğine sahip uygulamaları hızlandırmak için IPU’lar geliştirecektir. Şirket ayrıca müşteri ihtiyaçlarına daha iyi hizmet vermek ve veri merkezi yönetimini ve verimliliğini artırmak için tasarlanmış açık yazılım çerçevelerine sahip olacak. Intel, geliştiricilerin teknolojiye erişimini kolaylaştırmak ve müşterilerin bulut düzenlemesi için yazılım ve hizmetler oluşturmasına yardımcı olmak için toplulukla birlikte çalıştığını belirtti.

Intel, cihaz portföyünün neden veri merkezi planlarının önemli bir parçası olacağını ayrıntılandırarak IPU geliştirme yol haritasını ortaya koydu. Bu yol haritasıyla Intel, IPU’ları için FPGA’lara ve ASIC’lere dayanan eksiksiz bir platform seti dağıtarak uçtan uca programlanabilir ağlar kurmayı planladığını söyledi. Aslında Intel, açıklanan yol haritasına göre FPGA’ların üzerine inşa edilmiş daha fazla özel IPU ve ASIC platformları yayınlayacağını belirtti.

Intel, veri merkezi operasyonlarının geleceğinin ASIC’ler tarafından programlanan CPU’ları çalıştıran giderek daha güçlü sunuculara bağlı olduğuna bahse giriyor ve Intel’in ek yükü azaltmak ve performansın kilidini açmak için tasarlanmış tescilli programlanabilir ağları olan IPU’lar geliştirilmesine büyük önem veriyor. Bu, şirketin ASIC’leri / FPGA’ları tarafından desteklenecek, yonga üreticisinin bir sonraki ürününü sunduğu Intel Vision etkinliğinde duyuruldu. 400 Gbit/s ve 800 Gbit/s’ye ulaşacak cihazlar olacak. Geçen yıl Intel Mimari Günü’nde tanıtılan Mt. Morgan, Intel’in ASIC içeren ilk IPU’su.

FPGA + ASIC = Altera + Intel = IPU

Intel’in ilk IPU’su Xeon CPU’ları ve FPGA’ları birleştirdi, ancak sonunda şirketin Açık Sistem Tabanlı Altyapı Programcısı Geliştirme Kiti (IPDK) yazılımı tarafından yapılandırılabilen ve kontrol edilen yüksek güçlü bir ASIC’ye dönüşecekti. Intel’in IPU’su, şirketin SPDK, DPDK ve P4’e açık katılım geçmişine dayanan Altyapı Programcıları Geliştirme Kiti (IPDK) dahil olmak üzere açık kaynaklı yazılım tarafından desteklenen bir temel tarafından sağlanır. Intel IPU’lar, akıllı altyapı hızlandırma, sistem düzeyinde güvenlik, yönetim ve yalıtım, paylaşılan yazılım altyapısı ve müşterilerin en yüksek önceliklerini karşılayan programlanabilir donanım/yazılım anahtarları sunar.

IPU, altyapı kaynaklarını sistem düzeyinde akıllı bir şekilde düzenleyen ve bu işlevleri bir veri merkezinde güvenli bir şekilde hızlandıran programlanabilir bir ağ cihazıdır. AWS Nitro Katmanında gördüğümüz gibi, IPU’lar sanallaştırmada daha iyidir, depolama, ağ ve güvenlik işlevlerini güvenli bir şekilde hızlandırır.

Veri merkezlerinin diğer temel ayağı olan sanallaştırma

Intel, bulut ve iletişim sağlayıcılarının hem daha yüksek performans ve öngörülebilirliği hem de daha fazla kontrol derecesini korurken tamamen sanallaştırılmış bir ağ ve depolama mimarisine doğru ilerleyebileceğini söylüyor. Temel olarak, altyapı sağlayıcısı, veri merkezlerinde uygulamalar çalıştıran potansiyel olarak güvenilmeyen üçüncü taraflara bileşik bir şekilde ölçeklenebilir kaynaklar sağlamak için bir ağ yapısından yararlanacaktır.

Altyapı iş yükleri, tümü olmasa da, veri merkezi kullanım durumlarının çoğuna geniş ölçüde uygulanabilir ve bu önemli donanım avantajları sunar. Birlikte ele alındığında, Intel’in Mount Evans tasarımı birçok veri merkezinin altyapı ihtiyaçlarını karşılayabilir.

Mount Evans, tam donanım sanallaştırma, IPU’larda yerel NVMe arabirimleri sağlama ve cihaz öykünmesini destekleme gibi şeyleri etkinleştirerek, hizmet sağlayıcının sanal makineler ve kapsayıcılar için yaptığı gibi yalın donanım ana bilgisayarlar için aynı hizmet modelini kullanmasına olanak tanıyan bir kanca sağlar. Tedarik, veri merkezi genelinde ortaya çıkan kullanım durumlarını mümkün kılmakla birleştiğinde, Intels Mount Evans’ı bir IPU olarak kullanmayı bilgi işlem altyapınız için akıllı bir seçim haline getirir. Genel olarak IPU’lar ve özel olarak Mount Evans, CPU üzerinde bir altyapı iş yükünü çalıştırmaya kıyasla etkileyici bir performans avantajı sunar.

IPU mimarisinin diğer bir temel bileşeni, doğrudan IPU’ya entegre edilmiş Intel’in ultra yüksek performanslı Optane NVMe yığınındaki Intel’in uzmanlığından yararlanan yerel NVMe entegrasyonudur. Intel’in IPU çözümü, depolama sanallaştırması, ağ sanallaştırması ve özel protokol hızlandırıcıları aracılığıyla güvenlik dahil altyapı işlevlerini hızlandırarak ve CPU çekirdeklerini serbest bırakarak, daha önce gerçekleştirilen depolama ve ağ işlevlerini taşıyarak mikro hizmetler üzerinde bir işlem vergisi olarak tanımlanabilecek şeyi doğrudan ele alır. Intel IPU’su, dinamik iş yükü konumlandırmayı etkinleştirirken CC kullanımını artırmak ve bulut sağlayıcılarının altyapı işlevlerinin dağıtımını yazılım verimliliği düzeyinde yapılandırmasını sağlamak için tasarlanmıştır.

Sonuç ve karar

Intel’in sunucu platformlarında kullanılan mevcut SmartNIC teknolojisini, bulut hizmetleri aracılığıyla depolama ve ağ yığınlarını boşaltmak ve hızlandırmak için genişlettiğinden, Intel’in IPU’sunun rekabetçi konumunun güçlenmesini bekliyorum. Intel’in IPU portföy geliştirmesini doğrudan hiper ölçekleyicilere güç sağlamak için hizalamaya yönelik stratejik kararının, veri merkezi altyapı alanında kritik bir farklılaştırıcı olacağını kanıtlayacağına inanıyorum. Intel, pazarda hızla dağıtılmak üzere tasarlanmış yazılım tanımlı bulut, bilgi işlem, ağ, depolama ve güvenlik hizmetlerini etkinleştiren akıllı NIC’ler ve DPU’lar oluşturmak için çalışan Nvidia, AWS ve AMD dahil olmak üzere büyüyen bir satıcı veya sağlayıcı ağları listesi arasında yer alıyor.

CPU’nun ortak lansmanı ile şirketler, veri merkezlerinin ve özellikle bulut sağlayıcılarının, büyük altyapı maliyetlerine maruz kalmadan bulut tabanlı hizmetleri müşterilere hızlı ve kolay bir şekilde dağıtma yeteneğini basitleştirmeyi umuyor. İşlemci, yedi nanometre üretimde konuşlandırılır ve Intel’in Havana Labs bölümünden yüksek verimli bir mimari kullanarak, müşterilerin veri merkezlerinde bilgisayar görüşü ve doğal dil uygulamaları için daha güçlü kalıp öğrenimi ve çıkarım yapmalarını sağlar.