Dalam era di mana kecerdasan buatan (AI) semakin menjadi inti dari inovasi industri, perusahaan-perusahaan global merangkul kebutuhan akan solusi AI yang dapat diandalkan, skalabel, dan efisien. Intel, sebagai pemimpin dalam teknologi komputasi, telah merespons kebutuhan ini dengan memperkenalkan Intel® Gaudi® 3 AI accelerator, membawa evolusi dalam komputasi AI ke tingkat berikutnya.
Inovasi Intel Gaudi 3
Dibangun di atas fondasi kinerja dan skalabilitas yang kuat dari pendahulunya, Intel Gaudi 3 AI accelerator menawarkan kemampuan komputasi AI 4x lebih tinggi untuk BF16, peningkatan bandwidth memori 1,5x, dan bandwidth jaringan 2x. Ini adalah lompatan signifikan yang mengubah paradigma dalam pelatihan dan inferensi AI, khususnya untuk model large language (LLMs) dan model multimodal.
Dengan dirancang untuk efisiensi produksi dengan teknologi proses 5 nanometer (nm), Intel Gaudi 3 mampu mengaktifkan semua mesin secara paralel, memungkinkan akselerasi yang diperlukan untuk komputasi dan peningkatan kapasitas deep learning yang cepat dan efisien. Fitur-fitur utama, seperti mesin komputasi khusus AI, peningkatan memori untuk kapasitas LLM, dan integrasi jaringan Ethernet standar industri, membuatnya menjadi pilihan unggul bagi perusahaan yang bergerak di berbagai sektor, termasuk keuangan, manufaktur, dan layanan kesehatan.
Solusi Fleksibel untuk Kebutuhan GenAI Enterprise
Dalam lanskap AI yang terus berkembang, Intel Gaudi 3 menawarkan pilihan yang sangat dibutuhkan bagi perusahaan. Justin Hotard, executive vice president dan general manager of the Data Center and AI Group di Intel, menyoroti pentingnya memiliki solusi yang dapat mengakomodasi faktor-faktor seperti ketersediaan, skalabilitas, kinerja, biaya, dan efisiensi energi. Dengan Intel Gaudi 3, perusahaan dapat mengimplementasikan proyek-proyek AI generatif (GenAI) dengan cepat dan efisien, meningkatkan kapasitas sistem dan aplikasi mereka secara fleksibel.
Peningkatan Kinerja dan Efisiensi GenAI
Intel Gaudi 3 memimpin dengan arsitektur kustom yang menghadirkan kinerja dan efisiensi yang unggul. Dengan mesin komputasi khusus AI, peningkatan memori, dan integrasi jaringan Ethernet standar industri, akselerator ini dirancang untuk mendukung tugas-tugas pelatihan dan inferensi pada model GenAI terkemuka dengan hasil yang mengesankan. Proyeksi kinerja Intel Gaudi 3 yang mencakup waktu pelatihan yang lebih cepat dan throughput inferensi yang lebih besar menegaskan posisinya sebagai pemimpin pasar dalam komputasi AI.
Peta Jalan Menuju Masa Depan AI
Akselerator Intel Gaudi 3 akan tersedia bagi para OEM pada kuartal kedua tahun 2024, membawa inovasi ini lebih dekat ke tangan para pelanggan. Dengan dukungan dari OEM terkemuka seperti Dell Technologies, HPE, Lenovo, dan Supermicro, Intel Gaudi 3 akan menjadi solusi yang dapat diandalkan bagi organisasi-organisasi yang menginginkan kemajuan dalam implementasi AI mereka. Melalui infrastruktur cloud LLM yang hemat biaya, Intel Gaudi 3 juga menawarkan fleksibilitas dan efisiensi bagi organisasi yang mengadopsi teknologi ini.