Nvidia, Yeni Blackwell Mimarisi ile Yapay Zeka Çip Oyununda Öne Çıktı

Nvidia, Yeni Blackwell Mimarisi ile Yapay Zeka Çip Oyununda Öne Çıktı

Nvidia, beş yıl aradan sonra ilk kişisel GPU Teknoloji Konferansı’nda (GTC) Pazartesi günü Blackwell GPU mimarisini duyurarak yapay zeka çipleri serisinin gücünü artırıyor.

Nvidia’ya göre, AWS, Azure ve Google gibi şirketlere güç veren büyük veri merkezlerinde kullanılmak üzere tasarlanan çip, yapay zeka eğitimi iş yüklerinde 4 kat, yapay zekada ise 30 kat daha hızlı olan 20 PetaFLOPS yapay zeka performansı sunuyor. iş yüklerini çıkarsama ve önceki modele göre 25 kata kadar daha fazla güç verimliliği.

Nvidia, selefi H100 “Hopper” ile karşılaştırıldığında B200 Blackwell’in hem daha güçlü hem de enerji açısından daha verimli olduğunu savundu. Örneğin GPT-4 boyutunda bir yapay zeka modelini eğitmek için 8.000 H100 yongası ve 15 megawatt güç gerekiyor. Aynı görev için yalnızca 2.000 B200 yongası ve dört megavatlık güç gerekiyor.

Kurucusu ve baş analisti Bob O’Donnell, “Bu, Hopper mimarisinin iki yıl önce piyasaya sürülmesinden bu yana şirketin çip tasarımındaki ilk büyük ilerlemesi” dedi. Teknik Analiz Araştırmasıhaftalık LinkedIn bülteninde şunu yazdı.

Yeniden Paketleme Alıştırması

Ancak, CTO’su Sebastien Jean Phison ElektronikTayvanlı elektronik şirketi çipi “yeniden paketleme egzersizi” olarak nitelendirdi.

TechNewsWorld’e “Bu iyi ama çığır açıcı değil” dedi. “Daha hızlı çalışacak, daha az güç kullanacak ve daha küçük bir alanda daha fazla bilgi işlem yapılmasına olanak sağlayacak, ancak teknoloji uzmanı perspektifinden bakıldığında, temel hiçbir şeyi değiştirmeden alanı küçülttüler.”

“Bu, sonuçlarının rakipleri tarafından kolayca kopyalanabileceği anlamına geliyor” dedi. “Her ne kadar birinci olmanın değeri olsa da, çünkü rakipleriniz yetişirken bir sonraki şeye geçersiniz.”

“Rakiplerinizi kalıcı bir yakalama oyununa zorladığınızda, çok güçlü bir liderliğe sahip olmadıkları sürece, farkına varmadan ‘hızlı takipçi’ zihniyetine düşecekler” dedi.

“Agresif davranarak ve ilk olarak, Nvidia tek gerçek yenilikçilerin kendileri olduğu fikrini güçlendirebilir, bu da ürünlerine olan talebin artmasına neden olur.

Blackwell bir yeniden paketleme çalışması olsa da, bunun gerçekten net bir faydası olduğunu da ekledi. “Pratik anlamda, Blackwell kullanan kişiler aynı güç ve alan bütçesiyle daha fazla hesaplamayı daha hızlı yapabilecek” diye belirtti. “Bu, Blackwell’e dayalı çözümlerin rakiplerini geride bırakmasına ve daha iyi performans göstermesine olanak tanıyacak.”

Geçmişle Fiş Uyumlu

O’Donnell, Blackwell mimarisinin ikinci nesil transformatör motorunun önemli bir ilerleme olduğunu, çünkü AI kayan nokta hesaplamalarını sekiz bitten dört bit’e düşürdüğünü ileri sürdü. “Pratik olarak konuşursak, bu hesaplamaları önceki nesillerdeki 8 bitten aşağıya düşürerek, bu tek değişiklikle Blackwell’de destekleyebilecekleri bilgi işlem performansını ve model boyutlarını iki katına çıkarabilirler” dedi.

Yeni çipler aynı zamanda öncekilerle de uyumlu. Kurucusu ve baş analisti Jack E. Gold, “Nvidia’nın H100’lü sistemleri zaten varsa, Blackwell fiş uyumludur” dedi. J.Gold AssociatesNorthborough, Massachusetts’te bir BT danışmanlık şirketi.


TechNewsWorld’e “Teoride H100’lerin fişini çıkarıp Blackwell’leri takabilirsiniz” dedi. “Bunu teorik olarak yapabilseniz de finansal olarak yapamayabilirsiniz.” Örneğin, Nvidia’nın H100 çipinin tanesinin fiyatı 30.000 ile 40.000 dolar arasında. Nvidia yeni AI çip serisinin fiyatını açıklamamış olsa da fiyatlandırma muhtemelen bu doğrultuda olacaktır.

Gold, Blackwell çiplerinin geliştiricilerin daha iyi yapay zeka uygulamaları üretmesine yardımcı olabileceğini ekledi. “Ne kadar çok veri noktasını analiz ederseniz yapay zeka da o kadar iyi olur” diye açıkladı. “Nvidia’nın Blackwell ile bahsettiği şey milyarlarca veri noktasını analiz etmek yerine trilyonları analiz edebilirsiniz.”

GTC’de ayrıca Nvidia Inference Microservices (NIM) de duyuruldu. Sermaye stratejisti Brian Colello, “NIM araçları, Nvidia’nın CUDA platformunun üzerine inşa edildi ve işletmelerin özel uygulamaları ve önceden eğitilmiş yapay zeka modellerini üretim ortamlarına getirmesine olanak tanıyacak, bu da bu firmaların pazara yeni yapay zeka ürünleri getirmesine yardımcı olacak” dedi. Morningstar Araştırma HizmetleriChicago’da, Salı günü bir analistin notunda yazdı.

Yapay Zekanın Dağıtılmasına Yardımcı Olmak

“Veri merkezlerine sahip büyük şirketler yeni teknolojileri hızlı bir şekilde benimseyebilir ve bunları daha hızlı devreye alabilir, ancak insanların çoğu yeni teknolojileri satın alacak, özelleştirecek ve dağıtacak kaynaklara sahip olmayan küçük ve orta ölçekli işletmelerde çalışıyor. Yeni teknolojiyi benimsemelerine ve daha kolay kullanmalarına yardımcı olabilecek NIM gibi herhangi bir şey onlara fayda sağlayacaktır,” diye açıkladı yarı iletken analisti Shane Rau. IDCküresel bir pazar araştırma şirketi.

TechNewsWorld’e “NIM ile yapmak istediğiniz işe özel modeller bulacaksınız” dedi. “Genel olarak herkes yapay zeka yapmak istemiyor. Özellikle şirketleri veya kuruluşlarıyla alakalı yapay zeka yapmak istiyorlar.”

NIM, en yeni donanım tasarımları kadar heyecan verici olmasa da O’Donnell, uzun vadede çeşitli nedenlerden dolayı çok daha önemli olduğunu belirtti.


“Öncelikle” diye yazdı, “şirketlerin GenAI deneylerinden ve POC’lerden (kavramların kanıtlanması) gerçek dünya üretimine geçişini daha hızlı ve daha verimli hale getirmesi gerekiyor. Ortalıkta dolaşacak yeterli veri bilimci ve GenAI programlama uzmanı yok; GenAI’yi uygulamaya istekli pek çok şirket teknik zorluklar nedeniyle sınırlı kaldı. Sonuç olarak Nvidia’nın bu süreci kolaylaştırmaya yardımcı olduğunu görmek harika.”

“İkincisi,” diye devam etti, “bu yeni mikro hizmetler Nvidia için tamamen yeni bir gelir akışı ve iş stratejisi oluşturulmasına olanak tanıyor çünkü bunlar GPU başına/saat bazında (ve diğer varyasyonlarla) lisanslanabiliyor. Bu, Nvidia için gelir elde etmenin önemli, uzun ömürlü ve daha çeşitli bir yolu olabilir; dolayısıyla ilk günler olmasına rağmen bunu izlemek önemli olacak.”

Sağlam Lider

Rau, Nvidia’nın öngörülebilir gelecekte tercih edilen yapay zeka işleme platformu olarak sağlam kalacağını öngördü. “Ancak AMD ve Intel gibi rakipler GPU pazarının mütevazı bir kısmını alabilecekler” dedi. Yapay zeka için kullanabileceğiniz farklı çipler (mikroişlemciler, FPGA’ler ve ASIC’ler) olduğundan, bu rakip teknolojiler pazar payı için rekabet edecek ve büyüyecek.”

San Francisco’daki bir veri yönetimi şirketi olan Serene Data Ops’un kurucusu Abdullah Anwer Ahmed, “Nvidia’nın bu pazardaki hakimiyetine yönelik çok az tehdit var” diye ekledi.

TechNewsWorld’e şunları söyledi: “Üstün donanımlarının yanı sıra yazılım çözümleri CUDA, on yılı aşkın süredir temel yapay zeka segmentlerinin temelini oluşturuyor.”

“Asıl tehdit Amazon, Google ve Microsoft/OpenAI’nin bu modeller etrafında optimize edilmiş kendi çiplerini oluşturmaya çalışmalarıdır” diye devam etti. “Google’ın ‘TPU’ çipi zaten üretimde. Amazon ve OpenAI benzer projelerin ipuçlarını verdi.”

“Her durumda, kişinin kendi GPU’sunu oluşturması yalnızca en büyük şirketlerin kullanabileceği bir seçenektir” diye ekledi. “LLM endüstrisinin çoğu Nvidia GPU’ları satın almaya devam edecek.”

Yorum gönder