Red Hat, Inc., penyedia solusi open source terkemuka, mengumumkan langkah strategisnya dengan menandatangani kesepakatan definitif untuk mengakuisisi Neural Magic, pelopor dalam teknologi inferensi AI generatif. Langkah ini memperkuat komitmen Red Hat untuk membantu perusahaan menjalankan berbagai beban kerja—termasuk AI generatif (Gen AI)—di seluruh hybrid cloud, mulai dari on-premise, public cloud, hingga edge.
Akuisisi ini membawa teknologi canggih Neural Magic, seperti algoritma optimasi model dan inferensi berperforma tinggi, ke dalam ekosistem Red Hat, menjadikannya lebih siap untuk mendukung kebutuhan AI modern.
Mengatasi Tantangan AI Generatif
Popularitas Large Language Models (LLM) sebagai inti AI generatif terus meningkat. Namun, pengembangan LLM berskala besar menghadirkan tantangan:
- Daya komputasi yang tinggi,
- Biaya operasional yang besar, dan
- Keterampilan teknis yang kompleks.
Red Hat berupaya menjawab tantangan ini melalui inovasi terbuka seperti vLLM, proyek open source yang dikembangkan komunitas untuk memfasilitasi inferensi model AI di berbagai perangkat keras seperti AMD GPU, Google TPU, hingga NVIDIA GPU.
“Kami antusias melengkapi portofolio AI hybrid cloud kami dengan inovasi Neural Magic. Langkah ini mendorong visi kami untuk menjadi pemimpin AI open source,” kata Matt Hicks, CEO Red Hat.
Keunggulan Neural Magic dalam Hybrid Cloud AI
Didirikan pada tahun 2018 di MIT, Neural Magic mengembangkan teknologi inferensi yang dirancang untuk deep learning. Dengan bergabungnya Neural Magic, Red Hat akan menghadirkan:
- Model Open Source yang Fleksibel
- Mendukung skala parameter mulai dari 1 miliar hingga 405 miliar, model ini dapat berjalan di mana saja, termasuk di data center, cloud, dan edge.
- LLM yang Lebih Personal dan Aman
- Perusahaan dapat menyesuaikan LLM dengan data spesifik mereka, dengan keamanan dan jejak digital yang lebih kuat.
- Efisiensi Operasional
- Inferensi yang lebih optimal dan hemat biaya, berkat teknologi optimasi model seperti LLM Compressor dari Neural Magic.
- Pilihan Ekosistem yang Luas
- Mendukung berbagai hardware dan tool open source untuk memenuhi kebutuhan pelanggan yang beragam.
Solusi AI Inovatif Red Hat
Akuisisi ini memperkuat penawaran AI Red Hat, yang mencakup:
- Red Hat Enterprise Linux AI (RHEL AI): Platform AI berbasis Linux untuk mengembangkan, melatih, dan menjalankan LLM seperti IBM Granite di lingkungan hybrid.
- Red Hat OpenShift AI: Platform AI untuk mengelola siklus hidup model machine learning di Kubernetes, baik di cloud maupun di edge.
- InstructLab: Proyek open source yang berfokus pada pengembangan LLM secara kolaboratif, mendukung inovasi AI berbasis komunitas.
Kepemimpinan Teknologi vLLM
Neural Magic memperkuat kapabilitas Red Hat melalui kontribusinya di vLLM, yang memungkinkan:
- Pengoptimalan inferensi LLM di lingkungan hybrid cloud,
- Dukungan terhadap kebijakan keamanan yang ketat, dan
- Efisiensi melalui algoritma sparsity dan kuantisasi.
“Kami yakin kolaborasi ini akan membantu pelanggan memanfaatkan AI generatif secara lebih luas dan efisien,” ujar Brian Stevens, CEO Neural Magic.
Masa Depan AI Generatif di Hybrid Cloud
Akuisisi Neural Magic memperkuat posisi Red Hat sebagai pemimpin dalam AI open source. Dengan teknologi yang fleksibel dan inovatif, Red Hat siap membantu perusahaan memanfaatkan kekuatan transformatif AI generatif di seluruh hybrid cloud.
Transaksi ini masih menunggu tinjauan regulasi dan diharapkan selesai dalam beberapa bulan mendatang.
