Pelaburan

Startups vie for Nvidia’s vital component amid AI chip crunch

Startups vie for Nvidia’s vital component amid AI chip crunch
rumahkabin black
Startups vie for Nvidia’s vital component amid AI chip crunch
OpenAI’s US$10 billion investment by Microsoft is widely understood to be credit for Nvidia GPU-powered data centre access. (Nvidia pic)

WASHINGTON: The artificial intelligence revolution is fully underway, but soaring demand for its most crucial component has startups scratching their heads on how they can deliver on AI’s promise.

Generative AI’s lifeblood is a book-sized semiconductor known as the graphics processing unit (GPU) — built by one company, Nvidia.

Nvidia’s CEO and founder Jensen Huang made a wild bet years ago that the world would soon clamor for a powerful chip usually used for making video games, but that could build AI as well.

No company working with the generative AI models that fuel today’s frenzy can get off the ground without Nvidia’s singular product: the latest model is the H100 and its accompanying software.

That painful reality is one that Amazon, Intel, AMD and others are scrambling to fix with their own alternatives, but those attempts could take years.

‘Not a lot of GPUs’

And with the biggest tech companies throwing all their financial might into generative AI, the smaller fish must go on the hunt to secure Nvidia’s holy grail.

“Around the world, it is becoming very hard to get thousands of GPUs because all these big companies are putting in billions of dollars, stockpiling GPUs,” said Fangbo Tao, co-founder of Mindverse.AI, a Singapore-based startup.

“There’s not a lot of GPUs around,” he said.

Tao spoke to AFP at the TechCrunch Disrupt conference in San Francisco, where AI startups jostled to make their pitches to Silicon Valley’s venture capitalists (VC).

ChatGPT took the world by storm just as Silicon Valley was caught in a nasty hangover from the pandemic when investors threw money at startups, convinced that life had gone irreversibly online.

That turned out to be far-fetched, and the US tech scene entered a downturn with rounds of layoffs and VC money dried up.

Thanks to AI, some of the old mojo is back, and anyone with those two letters on their resume will likely see a red carpet rolled out on the legendary Sand Hill Road, home to Silicon Valley’s most storied investors.

But as the startups walk away with their VC cash, the money in their pockets will be quickly forked out to Nvidia for GPUs either directly or through providers to bring their AI dreams to execution.

“We call on a lot of the big cloud providers (Microsoft, AWS and Google) ), and they all tell us even they are having trouble getting supplies,” said Laurent Daudet, CEO of AI startup LightOn.

The problem is most acute for companies involved in training generative AI models, which requires that power hungry GPUs work at peak capacity to process troves of data ingested from the internet.

The computing needs are so massive that only a few companies can stump up the cash to build one of these state-of-the-art large language models.

‘Sucking the oxygen’

The ten billion dollars investment by Microsoft into OpenAI is widely understood to be paid out as credits to access purpose-built data centers humming with Nvidia GPUs.

See also  Amir Ahnaf lagi suka duduk rumah layan Netflix, enggan fikirkan kontroversi

Google has built its own models and now Amazon on Monday said it was pumping four billion dollars into Anthropic AI, another company that trains AI.

Training on that mountain of data “is sucking out almost all the oxygen from the GPU market right now”, said Said Ouissal, CEO of Zededa, a company that works on making AI less power hungry.

“You’re looking at mid-next year, maybe late next year before you’re actually going to get delivery on new orders. The shortage doesn’t seem to be letting up,” added Wes Cummins, CEO Applied Digital, a company that supplies AI infrastructure.

Companies on the AI frontlines also point out that Nvidia’s primordial role makes it the de-facto kingmaker on where the technology is going.

The market is “almost entirely driven by the big players — Googles, Amazons, Metas” that have the “enormous amounts of data and enormous amounts of capital,” former Nvidia engineer Jacopo Pantaleoni told The Information.

“This was not the world I wanted to help build,” he said.

Some veterans of Silicon Valley said that the frenzied days of Nvidia GPUs will not last forever and that other options will inevitably emerge.

Or the cost of entry will prove too high, even for the giants, bringing the current boom down to earth.

rumahkabin black
Desain Rumah Kabin
Rumah Kabin Kontena
Harga Rumah Kabin
Kos Rumah Kontena
Rumah Kabin 2 Tingkat
Rumah Kabin Panas
Rumah Kabin Murah
Sewa Rumah Kabin
Heavy Duty Cabin
Light Duty Cabin


Source

Kabin Kontena Terpakai Pembekal Kabin Kontena , Kontena Price , Kontena Steamboat , Kabin Kontena Terpakai Untuk Dijual , Kabin Kontena Murah , Kabin Kontena Untuk Dijual , Kabin Kontena Terpakai , Kabin Kontena Untuk Dijual Di Melaka , Kabin Kontena Murah Penang , Kabin Kontena Terengganu , Kabin Kontena Untuk Dijual Sabah , Kabin Kontena Di Kedah , Harga Kabin Kontena , Saiz Kabin Kontena , Rumah Kabin Kontena , Pembekal Kabin Kontena , Harga Rumah Kabin Kontena , Sewa Kabin Kontena , Contoh Rumah Kabin Kontena , Harga Kabin Kontena Terpakai , Jual Kabin Kontena , Cara Buat Kabin Kontena , Kontena Terpakai Untuk Dijual , Harga Kontena Terpakai , Harga Kontena Kargo , Pembekal Kabin Kontena , Kontena Terpakai Untuk Dijual Di Kedah , Harga Rumah Kontena Pasang Siap , Kabin Kontena Murah Penang , Kabin Kontena Murah Di Ipoh , Kabin Kontena Murah Di Melaka , Kabin Kontena Murah Kuala Lumpur , Kabin Kontena Murah Seremban , Kabin Kontena Murah Kota Kinabalu , Kabin Kontena Size , Kontena Murah , Rumah Kontena , Rumah Pasang Siap , Bina Rumah Atas Tanah Sendiri , Rumah Kabin , Buat Rumah Atas Tanah Sendiri , Rumah Kontena Pasang Siap , Rumah Pasang Siap Malaysia , Rumah Ibs Malaysia , Bina Rumah Atas Tanah Sendiri Selangor , Kontraktor Rumah , Kontraktor Bina Kabin Kontena Di Batang Kali‎ , Kontraktor Bina Kabin Kontena Di Klang‎ , Kontraktor Bina Kabin Kontena Di 16 Sierra, Puchong , Kontraktor Bina Kabin Kontena Di Ampang Jaya , Kontraktor Bina Kabin Kontena Di Ara Damansara , Kontraktor Bina Kabin Kontena Di Balakong , Kontraktor Bina Kabin Kontena Di Bandar Baru Bangi , Kontraktor Bina Kabin Kontena Di Bandar Baru Klang , Kontraktor Bina Kabin Kontena Di Bandar Baru Selayang , Kontraktor Bina Kabin Kontena Di Bandar Botanic , Kontraktor Bina Kabin Kontena Di Bandar Bukit Puchong 1, Puchong , Kontraktor Bina Kabin Kontena Di Bandar Bukit Puchong 2, Puchong , Kontraktor Bina Kabin Kontena Di Bandar Bukit Puchong, Puchong , Kontraktor Bina Kabin Kontena Di Bandar Bukit Tinggi , Kontraktor Bina Kabin Kontena Di Bandar Country Homes , Kontraktor Bina Kabin Kontena Di Bandar D'alpinia, Puchong , Kontraktor Bina Kabin Kontena Di Bandar Kinrara Bk 1 Sehingga 6, Puchong , Kontraktor Bina Kabin Kontena Di Bandar Mahkota Cheras , Kontraktor Bina Kabin Kontena Di Bandar Nusa Rhu , Kontraktor Bina Kabin Kontena Di Bandar Puchong Utama, Puchong , Kontraktor Bina Kabin Kontena Di Bandar Puteri Puchong, Puchong , Kontraktor Bina Kabin Kontena Di Bandar Putra Permai , Kontraktor Bina Kabin Kontena Di Bandar Rasa , Kontraktor Bina Kabin Kontena Di Bandar Rinching , Kontraktor Bina Kabin Kontena Di Bandar Saujana Utama , Kontraktor Bina Kabin Kontena Di Bandar Seri Putra , Kontraktor Bina Kabin Kontena Di Bandar Sungai Buaya , Kontraktor Bina Kabin Kontena Di Bandar Sungai Long , Kontraktor Bina Kabin Kontena Di Bandar Sunway Semenyih , Kontraktor Bina Kabin Kontena Di Bandar Tasik Kesuma , Kontraktor Bina Kabin Kontena Di Bandar Teknologi Kajang , Kontraktor Bina Kabin Kontena Di Bandar Teluk Datok , Kontraktor Bina Kabin Kontena Di Bandar Utama , Kontraktor Bina Kabin Kontena Di Banting , Kontraktor Bina Kabin Kontena Di Batang Kali , Kontraktor Bina Kabin Kontena Di Batu 9 Cheras , Kontraktor Bina Kabin Kontena Di Batu Arang , Kontraktor Bina Kabin Kontena Di Bernam Jaya , Kontraktor Bina Kabin Kontena Di Bukit Antarabangsa , Kontraktor Bina Kabin Kontena Di Bukit Beruntung , Kontraktor Bina Kabin Kontena Di Bukit Gasing , Kontraktor Bina Kabin Kontena Di Bukit Komanwel , Kontraktor Bina Kabin Kontena Di Bukit Lanjan , Kontraktor Bina Kabin Kontena Di Bukit Raja , Kontraktor Bina Kabin Kontena Di Bukit Rimau , Kontraktor Bina Kabin Kontena Di Bukit Sentosa , Kontraktor Bina Kabin Kontena Di Bukit Tagar , Kontraktor Bina Kabin Kontena Di Bukit Tampoi , Kontraktor Bina Kabin Kontena Di Country Heights , Kontraktor Bina Kabin Kontena Di Damansara Damai , Kontraktor Bina Kabin Kontena Di Damansara Intan , Kontraktor Bina Kabin Kontena Di Damansara Jaya , Kontraktor Bina Kabin Kontena Di Damansara Perdana , Kontraktor Bina Kabin Kontena Di Damansara Utama , Kontraktor Bina Kabin Kontena Di Denai Alam , Kontraktor Bina Kabin Kontena Di Dengkil , Kontraktor Bina Kabin Kontena Di Dusun Tua , Kontraktor Bina Kabin Kontena Di Gombak Setia , Kontraktor Bina Kabin Kontena Di I-City , Kontraktor Bina Kabin Kontena Di Kajang , Kontraktor Bina Kabin Kontena Di Kalumpang , Kontraktor Bina Kabin Kontena Di Kampung Jenderam Hilir , Kontraktor Bina Kabin Kontena Di Kampung Kubu Gajah Dalam , Kontraktor Bina Kabin Kontena Di Kelana Jaya , Kontraktor Bina Kabin Kontena Di Kinrara , Kontraktor Bina Kabin Kontena Di Klang , Kontraktor Bina Kabin Kontena Di Kota Damansara , Kontraktor Bina Kabin Kontena Di Kuala Kubu Bharu , Kontraktor Bina Kabin Kontena Di Kuang , Kontraktor Bina Kabin Kontena Di Kwasa Damansara , Kontraktor Bina Kabin Kontena Di Lembah Beringin , Kontraktor Bina Kabin Kontena Di Mutiara Damansara , Kontraktor Bina Kabin Kontena Di Pandan Indah , Kontraktor Bina Kabin Kontena Di Pelabuhan Klang , Kontraktor Bina Kabin Kontena Di Pinggiran Cyberjaya , Kontraktor Bina Kabin Kontena Di Puchong, Selangor , Kontraktor Bina Kabin Kontena Di Bandar Puteri Bangi , Kontraktor Bina Kabin Kontena Di Rawang, Selangor , Kontraktor Bina Kabin Kontena Di Sungai Rinching , Kontraktor Bina Kabin Kontena Di Sabak, Selangor , Kontraktor Bina Kabin Kontena Di Sekinchan , Kontraktor Bina Kabin Kontena Di Selayang , Kontraktor Bina Kabin Kontena Di Semenyih , Kontraktor Bina Kabin Kontena Di Serendah , Kontraktor Bina Kabin Kontena Di Seri Kembangan , Kontraktor Bina Kabin Kontena Di Subang Bestari , Kontraktor Bina Kabin Kontena Di Subang Jaya , Kontraktor Bina Kabin Kontena Di Taman Tasik Semenyih , Kontraktor Bina Kabin Kontena Di Tanjung Sepat , Kontraktor Bina Kabin Kontena Di Teluk Datok , Kontraktor Bina Kabin Kontena Di Teluk Panglima Garang , Kontraktor Bina Kabin Kontena Di Tropicana , Kontraktor Bina Kabin Kontena Di Uep Subang Jaya , Kontraktor Bina Kabin Kontena Di Ulu Yam , Kontraktor Bina Kabin Kontena Di Gombak , Kontraktor Bina Kabin Kontena Di Hulu Langat , Kontraktor Bina Kabin Kontena Di Hulu Selangor , Kontraktor Bina Kabin Kontena Di Kuala Langat , Kontraktor Bina Kabin Kontena Di Kuala Selangor , Kontraktor Bina Kabin Kontena Di Petaling Jaya , Kontraktor Bina Kabin Kontena Di Sabak Bernam , Kontraktor Bina Kabin Kontena Di Sepang , Kontraktor Bina Kabin Kontena Di Selangor , Kontraktor Bina Kabin Kontena Di Kuala Lumpur , Kontraktor Bina Kabin Kontena Di Shah Alam , Kontraktor Bina Kabin Kontena Di Kapar , Kontraktor Bina Kabin Kontena Di Meru , Kontraktor Bina Kabin Kontena Di Puncak Alam , Rumah Kontena Untuk Dijual Malaysia , Harga Kontena Kosong , Kelemahan Rumah Kontena , Harga Rumah Kabin Untuk Dijual , Rumah Kontena Design , Kelemahan Rumah Kontena , Pakej Rumah Kontena , Harga Kontena Kosong , Rumah Kontena Pasang Siap , Harga Rumah Kontena Pasang Siap , Harga Rumah Kontena Terpakai , Harga Rumah Kontena Sabah , Harga Rumah Kontena Murah , Harga Rumah Kontena Melaka , Harga Rumah Kontena Di Malaysia , Berapa Harga Rumah Kontena , Harga Kontena Untuk Buat Rumah , Keburukan Rumah Pasang Siap , Pembekal Rumah Pasang Siap , Rumah Pasang Siap Kelantan , Harga Rumah Pasang Siap Di Malaysia , Kos Rumah Pasang Siap , Rumah Pasang Siap Selangor , Pembekal Rumah Pasang Siap , Keburukan Rumah Pasang Siap , Rumah Pasang Siap In English , Kos Rumah Pasang Siap , Rumah Pasang Siap Murah , Rumah Pasang Siap Selangor , Rumah Pasang Siap Murah , Rumah Pasang Siap Murah Malaysia , Rumah Pasang Siap Johor , Rumah Pasang Siap Selangor , Rumah Pasang Siap Kelantan , Rumah Pasang Siap Sabah , Rumah Pasang Siap Kedah , Rumah Pasang Siap Melaka , Rumah Pasang Siap Perak , Harga Rumah Pasang Siap Di Malaysia , Keburukan Rumah Pasang Siap , Pembekal Rumah Pasang Siap , Dinding Rumah Pasang Siap , Kos Rumah Pasang Siap , Tiang Rumah Pasang Siap , Pagar Rumah Pasang Siap , Contoh Rumah Pasang Siap , Bina Rumah Pasang Siap , Harga Rumah Pasang Siap Ibs , Rumah Kontena Pasang Siap , Rumah Kabin Pasang Siap , Rumah Kayu Pasang Siap Untuk Dijual , Rumah Kayu Pasang Siap , Rumah Kecil Pasang Siap , Rumah Chalet Pasang Siap , Rumah Orkid Pasang Siap , Rumah Kebun Pasang Siap , Rumah Kayu Pasang Siap Murah Malaysia , Rumah Kayu Pasang Siap Malaysia

See also  Siang malam teman isteri sakit, kesetiaan warga emas buat warganet cemburu