Ang Pag-angat ng China GPU Makers: AI at Tech Sovereignty Nagtutulak ng mga Bagong GPU Entrants

Ang bilang ng mga GPU startup sa China ay hindi pangkaraniwan habang sinusubukan ng bansa na makakuha ng AI prowess pati na rin ang semiconductor sovereignty, ayon sa isang bagong ulat mula sa Jon Peddie Research. Bilang karagdagan, ang bilang ng mga gumagawa ng GPU ay lumago sa buong mundo sa mga nakalipas na taon habang ang demand para sa artificial intelligence (AI), high-performance computing (HPC), at graphics processing ay tumaas sa medyo hindi pa nagagawang rate. Pagdating sa discrete graphics para sa mga PC, ang AMD at Nvidia ay nagpapanatili ng lead, samantalang sinusubukan ng Intel na makahabol.

18 Mga Nag-develop ng GPU

Sampu-sampung kumpanya ang bumuo ng mga graphics card at discrete graphics processor noong 1980s at 1990s, ngunit ang cut-throat na kumpetisyon para sa pinakamataas na performance sa mga 3D na laro ang nagtulak sa karamihan sa kanila na mawala sa negosyo. Pagsapit ng 2010, ang AMD at Nvidia lang ang maaaring mag-alok ng mapagkumpitensyang standalone na GPU para sa paglalaro at pag-compute, samantalang ang iba ay nakatuon sa alinman sa pinagsamang mga GPU o GPU IP.

Noong kalagitnaan ng 2010s, mabilis na tumataas ang bilang ng mga developer ng PC GPU na nakabase sa China, na pinalakas ng pagtulak ng bansa para sa tech self-sufficiency pati na rin ang pagdating ng AI at HPC bilang mga high-tech na megatrends.

Sa kabuuan, mayroong 18 kumpanya na bumubuo at gumagawa ng mga GPU, ayon kay Jon Peddie Research. Mayroong dalawang kumpanya na gumagawa ng mga SoC-bound GPU na pangunahing nasa isip ang mga smartphone at notebook, mayroong anim na GPU IP provider, at mayroong 11 GPU developer na nakatutok sa mga GPU para sa mga PC at datacenter, kabilang ang AMD, Intel, at Nvidia, na nagdidisenyo ng mga graphics card na napupunta sa aming listahan ng pinakamahusay na mga graphics card.

Sa katunayan, kung idinagdag namin ang iba pang kumpanyang nakabase sa China tulad ng Biren Technology at Tianshu Zhixin sa listahan, magkakaroon pa ng mas maraming GPU designer. Gayunpaman, sina Biren at Tianshu Zhixin ay nakatuon lamang sa AI at HPC sa ngayon, kaya hindi sila itinuturing ng JPR na mga developer ng GPU.

Mag-swipe para mag-scroll nang pahalangPCDCIPSoCAMDBirenArmAppleBoltTianshu ZhixinDMPQualcommInnosiliconRow 3 – Cell 1 Imagination TechnologyRow 3 – Cell 3 IntelRow 4 – Cell 1 Think SiliconRow 4 – Cell 3 JingiaRow 5 – Cell 1 Verisilicon 3 Row 5 – Cell 1 Verisilicon 3 Cell Row 5 – Cell 1 Verisilicon 6 – Cell 5 7 – Cell 1 Row 7 – Cell 2 Row 7 – Cell 3 NvidiaRow 8 – Cell 1 Row 8 – Cell 2 Row 8 – Cell 3 SiArtRow 9 – Cell 1 Row 9 – Cell 2 Row 9 – Cell 3 XiangdixianRow 10 – Cell 1 Row 10 – Cell 2 Row 10 – Cell 3 ZhaoxinRow 11 – Cell 1 Row 11 – Cell 2 Row 11 – Cell 3

Gusto ng China ng mga GPU

Bilang pangalawang pinakamalaking ekonomiya sa mundo, hindi maiiwasang makipagkumpitensya ang China laban sa US at iba pang maunlad na bansa sa halos lahat ng bagay, kabilang ang teknolohiya. Malaki ang ginawa ng China para akitin ang mga inhinyero mula sa buong mundo at gawing sulit ang pagtatatag ng iba’t ibang mga startup sa disenyo ng chip sa bansa. Sa katunayan, daan-daang mga bagong disenyo ng IC na bahay ang lumalabas sa China bawat taon. Binubuo nila ang lahat ng uri ng mga bagay mula sa maliliit na sensor hanggang sa kumplikadong mga chips ng komunikasyon, kaya pinapagana ang pagiging sapat ng bansa mula sa mga Western supplier.

(Kredito ng larawan: Moore Threads)

Ngunit para talagang tumalon sa AI at HPC bandwagon, kailangan ng China ng mga CPU, GPU, at mga accelerator na may espesyal na layunin. Pagdating sa pag-compute, imposible para sa mga kumpanyang Tsino na iwanan ang matagal nang mga pinuno ng merkado ng CPU at GPU anumang oras sa lalong madaling panahon. Gayunpaman, ito ay arguably mas madali at marahil mas mabunga upang bumuo at makabuo ng isang disenteng GPU kaysa subukang bumuo ng isang mapagkumpitensyang CPU.

“Ang pagsasanay sa AI ay ang malaking motivator [for Chinese GPU companies]at pag-iwas sa mataas na presyo ng Nvidia, at (marahil karamihan) ang pagnanais ng Tsina para sa pagsasarili,” sabi ni Jon Peddie, ang pinuno ng JPR.

Ang mga GPU ay likas na magkatulad, na nangangahulugang mayroong maraming mga compute unit sa loob na maaaring magamit para sa redundancy, na nagpapadali sa pag-andar ng GPU (ipagpalagay na ang mga gastos sa bawat transistor ay medyo mababa at ang pangkalahatang mga ani ay disente). Gayundin, dahil ang mga GPU ay parallel sa panimula, mas madaling iparallelize ang mga ito sa scale-out na paraan. Tandaan na ang SMIC na nakabase sa China ay walang mga production node na kasing-advance ng TSMC, ang ganitong paraan ng pag-scale ng performance ay mukhang sapat. Sa katunayan, kahit na mawalan ng access ang mga developer ng Chinese GPU sa mga advanced na node ng TSMC (N7 at mas mababa), kahit ilan sa kanila ay makakagawa pa rin ng mas simpleng mga disenyo ng GPU sa SMIC at matugunan ang AI/HPC at/o gaming/entertainment market.

Mula sa pananaw ng China bilang isang bansa, ang mga GPU na may kakayahang AI at HPC ay maaaring mas mahalaga rin kaysa sa mga CPU dahil maaaring paganahin ng AI at HPC ang mga bagong application, tulad ng mga autonomous na sasakyan at matalinong lungsod pati na rin ang mga advanced na conventional arm. Siyempre, pinaghihigpitan ng gobyerno ng US ang mga pag-export ng mga supercomputer-bound na CPU at GPU sa China sa hangarin na bumagal o hadlangan pa ang pagbuo ng mga advanced na armas ng malawakang pagsira, ngunit ang isang medyo sopistikadong AI-capable GPU ay maaaring paganahin ang isang autonomous killer drone, at drone swarms kumakatawan sa isang mabigat na puwersa, halimbawa.

Ang GPU Microarchitecture ay Medyo Madali, Ang Disenyo ng Hardware ay Mahal

Samantala, dapat tandaan na habang mayroong isang grupo ng mga developer ng GPU, dalawa lang ang aktwal na makakabuo ng mapagkumpitensyang mga discrete GPU para sa mga PC. Iyon ay marahil dahil ito ay medyo madali upang bumuo ng isang GPU architecture, ngunit ito ay tunay na mahirap na maayos na ipatupad ito at magdisenyo ng mga tamang driver.

Ang mga microarchitecture ng CPU at GPU ay mahalagang nasa intersection ng agham at sining. Ang mga ito ay mga hanay ng mga sopistikadong algorithm na maaaring mabuo ng mga maliliit na grupo ng mga inhinyero, ngunit maaaring tumagal sila ng mga taon upang bumuo, sabi ni Peddie.

“[Microarchitectures] tapusin ang mga napkin at white board,” sabi ni Peddie.[As for costs] kung mismong mga architects lang yan [team] maaaring kasing baba ng isang tao hanggang tatlo – apat. [But] arkitektura ng anumang uri, mga gusali, rocket ships, network o processor ay isang kumplikadong laro ng chess. Ang pagsisikap na hulaan kung saan ang proseso ng pagmamanupaktura at mga pamantayan ay limang taon na ang layo, kung saan ang mga cost-performance tradeoffs ay, kung anong mga feature ang idaragdag at kung ano ang ihuhulog o huwag pansinin ay napakahirap at nakakaubos ng oras. […] Ang mga arkitekto ay gumugugol ng maraming oras sa kanilang ulo sa pagpapatakbo ng mga what-if scenario — paano kung ginawa naming 25% na mas malaki ang cache, paano kung mayroon kaming 6,000 FPU, dapat ba kaming gumawa ng isang PCIe 5.0 I/O, mawawala ba ito sa oras.”

(Kredito ng larawan: Nvidia)

Dahil ang microarchitectures ay maaaring tumagal ng mga taon upang bumuo at nangangailangan sila ng mga mahuhusay na designer, sa isang mundo kung saan time-to-market ang lahat, maraming kumpanya ang naglilisensya ng isang off-the-shelf microarchitecture o kahit isang silicon-proven na GPU IP mula sa mga kumpanya tulad ng Arm o Imagination Technologies . Halimbawa, ang Innosilicon — isang contract developer ng chips at pisikal na IP — ay nagbibigay ng lisensya sa GPU microarchitecture IP mula sa Imagination para sa mga Fantasy GPU nito. May isa pang developer ng GPU na nakabase sa China, na gumagamit ng arkitektura ng PowerVR mula sa Imagination. Samantala, ang Zhaoxin ay gumagamit ng isang mataas na inuulit na GPU microarchitecture na nakuha nito mula sa Via Technologies, na minana ito mula sa S3 Graphics.

Ang halaga ng pagbuo ng microarchitecture ay maaaring mag-iba, ngunit ito ay medyo mababa kung ihahambing sa mga gastos ng isang pisikal na pagpapatupad ng isang modernong high-end na GPU.

Sa loob ng maraming taon, ang Apple at Intel, parehong mga kumpanyang may maraming talento sa engineering, ay umasa sa Img para sa kanilang mga disenyo ng GPU (ginagawa pa rin ng Apple sa isang tiyak na lawak). Umaasa ang MediaTek at iba pang maliliit na supplier ng SoC sa Arm. Ginamit ng Qualcomm ang ATI/AMD para sa isang pinalawig na panahon, at ang Samsung ay gumagamit ng AMD pagkatapos ng ilang taon ng pagsubok na magdisenyo ng kanilang sariling graphics engine.

Dalawa sa mga bagong kumpanyang Tsino ang kumuha ng mga dating arkitekto ng AMD at Nvidia upang simulan ang kanilang mga kumpanya ng GPU, at dalawa pang gumagamit ng Img. Ang oras upang mag-market at matutunan ang mga kasanayan sa pagiging isang arkitekto, kung ano ang dapat ipag-alala, at kung paano makahanap ng isang ayusin ay isang napaka-oras na proseso.

“Kung maaari kang pumunta sa isang kumpanya na mayroon nang disenyo at matagal nang nagdidisenyo, makakatipid ka ng maraming oras at pera – at oras sa merkado ang lahat,” sabi ng pinuno ng Jon Peddie Research. “Napakaraming gotcha. Hindi lahat ng GPU na dinisenyo ng AMD o Nvidia ay naging panalo. [But] ang isang magandang disenyo ay tumatagal ng ilang henerasyon na may mga pag-aayos.”

Ang pagpapatupad ng hardware at pagbuo ng software ay napakamahal sa mga bagong production node. Tinatantya ng International Business Times na ang mga gastos sa disenyo para sa isang medyo kumplikadong device na ginawa gamit ang 5nm-class na teknolohiya ay lumampas sa $540 milyon. Ang mga gastos na ito ay magiging triple sa 3nm.

“Kung isasama mo ang layout at floor plan, simulation, verification, at mga driver kung gayon ang [GPU developer] ang mga gastos at oras ay tumataas,” paliwanag ni Peddie. ” Ang disenyo at layout ng hardware ay medyo diretso: magkamali ng isang bakas at maaari kang gumugol ng mga buwan sa pagsubaybay dito.”

May ilang kumpanya lang sa mundo na maaaring bumuo ng chip na nagtatampok sa pagiging kumplikado ng modernong gaming o compute ng mga GPU mula sa AMD at Nvidia (46 bilyon — 80 bilyong transistor), ngunit ang Biren na nakabase sa China ay maaaring gumawa ng katulad sa BR104 at BR100 nito. mga device (inaakala namin na ang BR104 ay naglalaman ng mga 38.5 bilyong transistor).

Mga kaisipan

Sa kabila ng mataas na gastos, walo sa 11 PC/datacenter GPU designer ay mula sa China, na nagsasalita para sa sarili nito. Marahil ay hindi tayo makakakita ng mapagkumpitensyang discrete gaming GPU mula sa sinuman maliban sa malalaking kumpanyang Amerikano sa malapit na hinaharap. Iyon ay bahagyang dahil sa hirap at pag-ubos ng oras nito upang bumuo ng GPU, at sa isang malaking antas ay nangangailangan ito ng napakamahal na pagpapatupad ng hardware para sa mga high-complexity na GPU na ito. Kung kaya o hindi ng China ang mga kalahok na mapagkumpitensya ay nananatiling makikita, ngunit ang anumang kabiguan ay hindi magmumula sa kakulangan ng pagsubok.