‘Lahat at Ang Kanilang Aso ay Bumibili ng mga GPU,’ Sabi ni Musk habang Lumalabas ang Mga Detalye ng Startup ng AI

Kinumpirma ni Elon Musk na ang kanyang mga kumpanyang Tesla at Twitter ay bumibili ng tonelada ng mga GPU nang tanungin upang kumpirmahin kung siya ay nagtatayo ng Twitters compute prowess upang bumuo ng isang generative artificial intelligence project. Samantala, ang Financial Times ay nag-uulat (nagbubukas sa bagong tab) na ang AI venture ng Musk ay magiging isang hiwalay na entity mula sa kanyang iba pang mga kumpanya, ngunit maaari itong gumamit ng nilalaman ng Twitter para sa pagsasanay.

Ang AI project ni Elon Musk, na sinimulan niyang tuklasin mas maaga sa taong ito, ay iniulat na hiwalay sa iba pa niyang mga kumpanya, ngunit maaaring potensyal na gumamit ng nilalaman ng Twitter bilang data upang sanayin ang modelo ng wika nito at mag-tap sa mga mapagkukunan ng computing ng Tesla, ayon sa Financial Times. Ito ay medyo sumasalungat sa naunang ulat na nagsasabing ang proyekto ng AI ay magiging bahagi ng Twitter.

Upang mabuo ang bagong proyekto, ang Musk ay nagre-recruit ng mga inhinyero mula sa mga nangungunang kumpanya ng AI, kabilang ang DeepMind, at dinala na si Igor Babuschkin mula sa DeepMind at humigit-kumulang kalahating dosenang iba pang mga espesyalista sa AI.

Ang Musk ay iniulat din na nakikipag-usap sa iba’t ibang mga mamumuhunan ng SpaceX at Tesla tungkol sa posibilidad na pondohan ang kanyang pinakabagong pagsisikap sa AI, ayon sa isang indibidwal na may alam mismo tungkol sa mga pag-uusap, na maaaring kumpirmahin na ang proyekto ay hindi nakatakdang maging bahagi ng Twitter.

Sa isang kamakailang panayam sa Twitter Spaces, tinanong si Musk tungkol sa isang ulat na nagsasabing ang Twitter ay nakakuha ng humigit-kumulang 10,000 ng Nvidia compute GPU. Kinilala ito ni Musk na nagsasabi na lahat, kabilang ang Tesla at Twitter, ay bumibili ng mga GPU para sa compute at AI sa mga araw na ito. Totoo ito dahil parehong nakuha ng Microsoft at Oracle ang libu-libong A100 at H100 GPU ng Nvidia sa mga kamakailang quarter para sa kanilang mga serbisyo sa AI at cloud.

“Mukhang lahat at ang kanilang aso ay bumibili ng mga GPU sa puntong ito,” sabi ni Musk. “Tiyak na bumibili ang Twitter at Tesla ng mga GPU.”

Ang pinakabagong H100 GPU ng Nvidia para sa AI at high-performance computing (HPC) ay medyo mahal. Ang CDW ay nagbebenta ng H100 PCIe card ng Nvidia na may 80GB ng HBM2e memory sa halagang $30,603 bawat unit. Sa Ebay, ang mga bagay na ito ay nagbebenta ng higit sa $40,000 bawat yunit kung gusto ng isang tao ang produktong ito nang mabilis.

Kamakailan ay inilunsad ng Nvidia ang mas makapangyarihang H100 NVL na produkto nito na nagtulay sa dalawang H100 PCIe card na may 96GB ng HBM3 memory sa bawat isa para sa isang ultimate dual-GPU 188GB na solusyon na partikular na idinisenyo para sa pagsasanay ng malalaking modelo ng wika. Ang produktong ito ay tiyak na nagkakahalaga ng higit sa $30,000 bawat yunit, kahit na hindi malinaw kung aling presyo ang ibinebenta ng Nvidia ng mga naturang unit sa mga customer na bumibili ng libu-libong board para sa kanilang mga proyekto sa LLM.

Samantala, ang eksaktong posisyon ng AI team sa corporate empire ng Musk ay nananatiling hindi malinaw. Ang kilalang negosyante ay nagtatag ng isang kumpanyang tinatawag na X.AI noong ika-9 ng Marso, iniulat ng Financial Times na binanggit ang mga rekord ng negosyo mula sa Nevada. Samantala, pinalitan niya kamakailan ang pangalan ng Twitter sa mga talaan ng kumpanya sa X Corp., na maaaring bahagi ng kanyang balak na bumuo ng isang ‘everything app’ sa ilalim ng tatak na ‘X’. Ang Musk ay kasalukuyang nag-iisang direktor ng X.AI, habang si Jared Birchall, na namamahala sa kayamanan ni Musk, ay nakalista bilang sekretarya nito.

Ang mabilis na pag-unlad ng OpenAI’s ChatGPT, na itinatag ni Elon Musk noong 2015 ngunit hindi na kasali, ay naiulat na nagbigay inspirasyon sa kanya upang galugarin ang ideya ng isang karibal na kumpanya. Samantala, ang bagong AI venture na ito ay inaasahang magiging isang hiwalay na entity mula sa kanyang iba pang mga kumpanya na posibleng matiyak na ang bagong proyektong ito ay hindi malilimitahan ng Tesla’s o Twitter’s frameworks.