İç Bellek ve Yakın Bellek hesaplama

In-/Near memory (İç Bellek ve Yakın Bellek), geleneksel bellek sistemlerinin performansını iyileştirmeye yarayan yeni bir bilgi işlem paradigmasıdır. Günümüzün en önemli güç darboğazlarından birini hafifletmek için işlemci birimlerinin belleğe daha düşük gecikmeyle erişme biçimini iyileştirmek için mimaride bir değişiklik sunar.

Bu paradigma, gelen yeni ekipmanlarda giderek daha fazla kullanılacak ve bu nedenle, bu yeni teknolojiyi tanıtmak için bu makaleyi ona ayırmamızı hak ediyor.

İç Bellek (In-Memory) hesaplama

İç Bellek hesaplama, hesaplamaların tamamen bilgisayarın belleğinde (örneğin, RAM’de) yürütülmesini ifade eder. Bu prosedür, bir kümedeki bilgisayarlarda çalışan özel sistem yazılımının kullanılmasıyla mümkün olur. Bilgisayarlar RAM kaynaklarını bir araya getirdiğinde, tüm bilgisayarlardaki toplu RAM miktarlarından yararlanarak hesaplamalar hepsi üzerinde yürütülür. Bellek içi hesaplama, özellikle hesaplamalara atıfta bulunduğundan, olası küçük bir nüans istisnası dışında, esas olarak bellek içi işleme ve bellek içi hesaplama ile aynıdır.

Bellek içi hesaplamanın nasıl çalıştığını merak ediyorsanız, burada göreceğiz. Yavaş veri erişimlerini ortadan kaldırarak ve yalnızca RAM’de depolanan verilere güvenerek, bellek içi bilgi işlem genel hesaplama performansını artırır. Genel hesaplama performansını artırmak ve sabit sürücülere veya SSD’lere erişirken gecikmeyi ortadan kaldırmak için bir veya daha fazla bilgisayardaki yazılım, hesaplamayı ve bellekteki verileri yönetir. Birden çok bilgisayar, her bilgisayara paralel olarak çalışacak şekilde dağıtılan daha küçük görevlere bölerek hesaplamaya katkıda bulunur. Bellek içi hesaplama, sıklıkla bellek içi veri ağları (IMDG) kullanılarak gerçekleştirilir. Bir örnek, kullanıcıların bir donanım sunucusu kümesinde yüksek hızı korurken büyük veri kümeleri üzerinde karmaşık hesaplamalar yapmasına olanak tanıyan Hazelcast IMDG’dir.

Yakın Bellek (Near-Memory) hesaplama

İşlemci yeniliği, bellek duvarı olarak bilinen gecikme ve güç tüketimi açısından belleği geride bırakırken, bellek teknolojisi bunu başaramadı. Daha önce sistem mimarları, DRAM’ın bazı dezavantajlarını azaltmak için bellek hiyerarşilerini kullanarak bu boşluğu kapatmaya çalıştı. Ancak bellek paketlerinin sınırlı pin sayısı, çok çekirdekli işlemcilerin bant genişliği taleplerini karşılayamaz. Buna ek olarak, koyu silikon bilgisayarların performansı, Dennard ölçeğinin ortadan kalkması, Moore yasasının yavaşlaması ve koyu silikon bilgisayarların ortadan kalkması nedeniyle bir platoya ulaştı.

Çağdaş bellek hiyerarşisi, çeşitli önbellek, ana bellek ve depolama düzeylerini içerir. Yakın belleğe dayalı hesaplamada, veriler depolamadan önbelleğe alınır ve orada işlenir. Yakın bellekte bilgi işlem ile, verileri yaşadıkları yere yakın olarak işlemek için veri merkezli teknikler kullanılır. Bunun yerine, belleğe yakın bilgi işlem, verileri mümkün olduğunca konumuna yakın bir yerde işlemeye çalışır. Veri merkezli olmanın yanı sıra, belleğe yakın bilgi işlem çiftleri, bilgi işlem ve bellek yongalarını istifleyerek 3B paketler gibi maliyetli veri aktarımlarını en aza indirmek için verilere yakın birimleri hesaplar. Yakın bellekte işleme, bellek erişim gecikmesini, güç tüketimini ve bant genişliğini en aza indiren tek bir silikon ray (TSV) üzerinde mantık ve belleğin istiflenmesiyle mümkün olur.

Kısacası, bellek ve (giderek daha hızlı) işlem birimleri arasındaki darboğaz, mevcut hesaplama paradigmasının yüklerinden biri olduğundan, bellek içi ve belleğe yakın hesaplama, mevcut bellek hiyerarşisinin mevcut engellerini ortadan kaldırmayı amaçlar. Bu nedenle, mimarideki bu değişikliklerle büyük kazanımlar elde edilebilir ve FPGA’ler veya DSA’lar gibi diğer teknolojilerle birleştiğinde, AI’nın dahil edilmesi sayesinde daha az tüketim, daha fazla performans ve daha akıllı bilgi işlem ile çok daha verimli hale gelecektir.