Parasız Semiconductors güncellemelerini alın
sana bir yollayacağız myFT Günlük Özet en sonuncuyu yuvarlayan e-posta yarı iletkenler her sabah haber
ABD, Çin’in askeri amaçlar için suni zeka geliştirme kabiliyetini sınırlamak için geçen yıl agresif davrandı ve AI sistemlerini eğitmek için kullanılan en gelişmiş ABD çiplerinin orada satışını engelledi.
Üretken suni zekayı geliştirmek için kullanılan çiplerdeki büyük ilerlemeler, Çin’de satışta olan son olarak ABD teknolojisinin daha ilkin mevcut olan her şeyden daha kuvvetli olduğu anlamına geliyordu. Bu, çiplerin Çin pazarının kabiliyetlerini sınırlaması için kasıtlı olarak engellenmesine ve onları dünyanın başka yerlerinde bulunan ürünlerden daha azca etkili hale getirmesine karşın.
Netice, son olarak gelişmiş ABD işlemcileri için Çin siparişlerinin hızla artması oldu. Çin’in önde gelen web şirketleri, grafik işleme birimleri büyük AI modellerini eğitmek için güç deposu haline gelen Nvidia’dan 5 milyar dolarlık çip siparişi verdi.
Nvidia’nın ürünlerine yönelik artan küresel talebin tesirinin, çip üreticisinin Çarşamba günü açıklanacak olan ikinci çeyrek mali sonuçlarının temelini oluşturması olası.
İnternet şirketlerinin son olarak büyük dil modellerini eğitmek için geliştirilmiş çiplere olan talebi yansıtmanın yanı sıra, ABD’nin ihracat kontrollerini daha da sıkılaştırarak bu sınırı olan ürünleri bile gelecekte kullanılamayacak hale getirebileceği endişeleri de bu aceleye niçin oldu.
Sadece Nvidia’nın baş bilim adamı Bill Dally, ABD ihracat kontrollerinin gelecekte daha büyük etkiye haiz olacağını öne sürdü.
“Eğitim gereksinimleri olarak [for the most advanced AI systems] her altı ila 12 ayda bir ikiye katlanmaya devam edecek”, Çin’de satılan çipler ile dünyanın geri kalanında bulunanlar arasındaki fark “hızla büyüyecek” dedi.
İşleme hızlarını sınırlama
Geçen yıl ABD’nin çipler üstündeki ihracat kontrolleri, Çinli müşterilerin gelişmiş çipler yapmak için lüzumlu ekipmanı satın almasını engellemiş olan bir paketin parçasıydı.
Washington, Çin’de satılabilecek çiplerin maksimum işlem hızına ve çiplerin veri aktarma hızına bir sınır koydu – bu, büyük suni zeka modellerinin eğitimi söz mevzusu olduğunda eleştiri bir faktördür; oldukça sayıda çipi birbirine bağlamak.
Nvidia, o zamanlar en üst düzey GPU’ları olan A100 işlemcilerindeki veri aktarım hızını düşürerek cevap verdi ve Çin için ihracat kontrollerini karşılayan A800 adlı yeni bir ürün yarattı.
Bu yıl, büyük dil modellerini eğitmek için hususi olarak tasarlanmış yeni ve oldukça daha kuvvetli bir işlemci olan H100’deki veri aktarım limitlerini takip etti ve Çin pazarı için H800 adlı bir sürüm yarattı.
Yonga üreticisi, Çin için üretilen işlemcilerin teknik özelliklerini açıklamadı, sadece bilgisayar üreticileri ayrıntılar mevzusunda açık. Mesela Lenovo, saniyede yalnızca 400 gigabayt aktarım hızına haiz olmaları haricinde dünyanın başka yerlerinde satılan H100’lerle her yönden aynı bulunduğunu söylediği H800 yongaları içeren sunucuların reklamını yapar.
Bu, ABD’nin Çin’e çip ihracatı için belirlediği 600 GB/s sınırının altında. Karşılaştırıldığında Nvidia, bu senenin başlarında müşterilere göndermeye başladığı H100’ün 900 GB/sn aktarım hızına haiz bulunduğunu söylemiş oldu.
Çin’deki düşük aktarım hızı, oradaki çip kullanıcılarının suni zeka sistemleri için dünyanın başka yerlerindeki Nvidia müşterilerine nazaran daha uzun eğitim süreleriyle karşı karşıya kalmış olduğu anlamına geliyor; bu, modellerin boyutu büyüdükçe mühim bir sınırlama.
Büyük modellerde en büyük masraflardan kabul edilen çiplerin daha çok güç tüketmesi gerekeceğinden, daha uzun eğitim süreleri maliyetleri yükseltir.
Bununla beraber, bu sınırlara karşın, Çin’de satışa sunulan H800 yongaları, bu yıldan ilkin herhangi bir yerde bulunan her şeyden daha kuvvetli ve bu da büyük bir öğrenci yol açıyor.
Moor Insights & Strategy’de ABD’li yonga analisti Patrick Moorhead’e nazaran H800 yongaları, Nvidia’nın en kuvvetli GPU’ları olan A100 yongalarından beş kat daha süratli.
Bu, AI modellerini ABD ihracat kontrollerinden ilkin satın alınan birinci derslik yongaları kullanarak eğiten Çinli web şirketlerinin en yeni yarı iletkenleri satın alarak hala büyük gelişmeler bekleyebilecekleri anlamına geliyor.
Moorhead, “Görünüşe nazaran ABD hükümeti Çin’in suni zeka çabasını durdurmak değil, zorlaştırmak istiyor” dedi.
Yarar maliyet
Birçok Çinli teknoloji şirketi, bireysel GPU çiplerinden oldukça fazla performans harcayan ve yüksek derecede veri aktarım kabiliyeti gerektiren büyük dil modellerini evvelde eğitme aşamasındadır.
Çinli AI mühendisleri, yalnızca Nvidia’nın çiplerinin ön eğitim için ihtiyaç duyulan verimliliği sağlayabileceğini söylüyor. 800 serisinin bireysel çip performansı, zayıflamış geçirme hızlarına karşın hala piyasadaki diğerlerinin önünde.
Çin’in önde gelen web şirketlerinden bir suni zeka mühendisi, “Nvidia’nın GPU’ları pahalı görünebilir, sadece aslen en uygun maliyetli seçenektir” dedi.
Mühendis, öteki GPU satıcılarının daha zamanında hizmet için daha düşük fiyatlar teklif ettiğini, sadece firmanın eğitim ve geliştirme maliyetlerinin artacağını ve fazladan belirsizlik yükü taşıyacağına karar verdiğini söylemiş oldu.
Nvidia’nın teklifi, 2006’da kurduğu ve AI altyapısının bir parçası haline gelen informasyon işlem platformu Compute Unified Device Architecture yada Cuda ile yazılım ekosistemini içeriyor.
Sanayi analistleri, Çinli şirketlerin yakında 800 serisi yongalar arasındaki ara bağlantı hızında sınırlamalarla karşı karşıya kalabileceğine inanıyor. Bu, suni zeka eğitimi için ihtiyaç duyulan artan oranda veriyle başa çıkma becerilerini engelleyebilir ve büyük dil modellerini araştırma ve geliştirme mevzusunda daha derine indikçe engellenecektir.
86Research’te Şangay merkezli bir analist olan Charlie Chai, durumu, aralarında sıkışık otoyollar olan oldukça sayıda yapınak inşa etmekle karşılaştırdı. Zayıflamış çipleri barındırabilen firmalar bile önümüzdeki iki yada üç yıl içinde sorunlarla karşılaşabilir.
Source: www.ft.com