Perkembangan teknologi kecerdasan buatan (AI) di dunia enterprise kini semakin pesat. Banyak organisasi mulai mengintegrasikan AI untuk meningkatkan efisiensi operasional, analisis data, hingga otomatisasi proses bisnis. Namun, tidak sedikit perusahaan yang masih terjebak dalam fase eksperimen karena penggunaan tool AI yang terpisah-pisah serta infrastruktur yang tidak konsisten.
Menjawab tantangan tersebut, Red Hat memperkenalkan Red Hat AI Enterprise, sebuah platform AI terintegrasi yang dirancang untuk membantu perusahaan menjalankan, mengelola, dan mengembangkan model serta aplikasi AI secara lebih terstruktur di lingkungan hybrid cloud.
Platform AI Enterprise yang Menyatukan Seluruh Siklus Hidup AI
Red Hat AI Enterprise dirancang untuk menjembatani kesenjangan antara infrastruktur AI dan implementasi AI yang siap produksi. Platform ini mengintegrasikan berbagai komponen penting dalam siklus hidup AI, mulai dari pengembangan model hingga pengelolaan agen AI.
Solusi ini melengkapi portofolio AI Red Hat yang sudah ada, termasuk Red Hat AI Inference Server, Red Hat OpenShift AI, serta Red Hat Enterprise Linux AI. Bersamaan dengan peluncuran platform baru ini, Red Hat juga memperkenalkan pembaruan Red Hat AI 3.3 yang menghadirkan berbagai peningkatan kemampuan di seluruh ekosistem AI mereka.
Pendekatan ini menghadirkan apa yang disebut Red Hat sebagai stack AI “metal-to-agent”, yang mengintegrasikan infrastruktur dasar seperti Linux dan Kubernetes dengan kemampuan inference dan sistem agen AI tingkat lanjut. Dengan pendekatan tersebut, organisasi dapat beralih dari eksperimen AI yang terfragmentasi menuju implementasi AI yang lebih stabil dan siap produksi.
Infrastruktur Hybrid Cloud yang Skalabel
Salah satu keunggulan utama Red Hat AI Enterprise adalah kemampuannya berjalan di berbagai lingkungan hybrid cloud. Platform ini dibangun di atas Red Hat OpenShift, platform aplikasi berbasis Kubernetes yang memungkinkan perusahaan menjalankan aplikasi secara konsisten di berbagai lingkungan IT.
Melalui fondasi tersebut, perusahaan dapat menjalankan model, agen, serta aplikasi AI secara fleksibel tanpa harus terikat pada satu infrastruktur tertentu. Hal ini memberikan kebebasan bagi organisasi untuk mengoptimalkan sumber daya yang dimiliki sekaligus meningkatkan skalabilitas sistem.
Red Hat juga bekerja sama dengan NVIDIA untuk menghadirkan Red Hat AI Factory with NVIDIA, yang menggabungkan Red Hat AI Enterprise dengan NVIDIA AI Enterprise. Kolaborasi ini bertujuan untuk mempercepat proses pengembangan dan penerapan AI di tingkat enterprise dengan dukungan akselerasi GPU.
Performa AI Lebih Cepat dan Efisien
Platform ini juga menghadirkan kemampuan inference AI yang lebih cepat dan efisien. Hal tersebut dimungkinkan berkat penggunaan inference engine vLLM serta framework distributed inference llm-d, yang membantu mengoptimalkan penerapan model AI generatif di berbagai jenis hardware.
Selain itu, Red Hat AI Enterprise menyediakan kemampuan observability dan manajemen lifecycle yang terintegrasi. Fitur ini membantu tim IT memantau performa model, mengelola siklus hidup AI, serta memitigasi risiko dalam operasional AI di lingkungan perusahaan.
Dengan pendekatan tersebut, AI dapat dikelola sebagai sistem enterprise yang terstandarisasi, bukan sekadar proyek eksperimen yang berdiri sendiri.
Red Hat AI 3.3 Hadirkan Ekosistem Model Lebih Luas
Selain platform AI Enterprise, Red Hat juga memperkenalkan Red Hat AI 3.3 yang membawa berbagai peningkatan teknologi. Salah satunya adalah perluasan ekosistem model AI yang tersedia.
Beberapa model baru yang telah divalidasi dan siap produksi kini tersedia melalui OpenShift AI Catalog, termasuk versi terkompresi dari Mistral-Large-3, Nemotron-Nano, dan Apertus-8B-Instruct. Platform ini juga mendukung model terbaru seperti Ministral 3 dan DeepSeek-V3.2 yang memanfaatkan teknik sparse attention untuk meningkatkan efisiensi pemrosesan data.
Selain peningkatan performa model, Red Hat AI 3.3 juga menghadirkan berbagai kemampuan baru seperti peningkatan kecepatan pemrosesan multimodal, peningkatan kinerja model Whisper hingga tiga kali lebih cepat, serta dukungan tool calling yang lebih canggih untuk mendukung workflow berbasis agen AI.
Model AI-as-a-Service untuk Perusahaan
Salah satu fitur menarik yang diperkenalkan dalam versi terbaru ini adalah Models-as-a-Service (MaaS). Fitur ini memungkinkan tim IT menyediakan akses model AI secara mandiri kepada pengguna internal melalui API gateway.
Dengan pendekatan ini, perusahaan dapat menghadirkan layanan AI secara on-demand bagi berbagai departemen dalam organisasi. Model yang digunakan dapat di-host secara privat sehingga memberikan kontrol yang lebih baik terhadap keamanan dan privasi data.
Pendekatan MaaS juga membantu perusahaan mempercepat adopsi AI tanpa harus membangun infrastruktur AI dari nol untuk setiap proyek.
Dukungan Hardware dan Infrastruktur yang Lebih Luas
Red Hat AI 3.3 juga memperluas dukungan hardware untuk menjalankan AI generatif secara lebih fleksibel. Platform ini kini mampu menjalankan model AI generatif di CPU, termasuk CPU Intel, khususnya untuk kebutuhan small language model (SLM) yang lebih hemat biaya.
Selain itu, platform ini juga telah mendukung sertifikasi hardware untuk GPU generasi terbaru seperti NVIDIA Blackwell Ultra serta akselerator AMD MI325X, yang memberikan performa komputasi lebih tinggi untuk pelatihan dan inference AI.
Red Hat juga menghadirkan kemampuan GPU-as-a-Service internal, yang memungkinkan organisasi mengelola dan mendistribusikan sumber daya GPU secara lebih efisien melalui sistem pooling dan checkpointing otomatis.
AI Enterprise yang Lebih Aman dan Terpantau
Dalam implementasi AI di lingkungan enterprise, keamanan dan pengawasan menjadi faktor yang sangat penting. Untuk itu, Red Hat AI 3.3 menghadirkan kemampuan observability yang lebih komprehensif.
Platform ini menyediakan telemetri real-time untuk memantau kesehatan, performa, serta perilaku model AI di seluruh workload. Selain itu, sistem ini juga terintegrasi dengan teknologi NeMo Guardrails, yang membantu memastikan operasional AI tetap aman dan selaras dengan kebijakan perusahaan.
Dengan visibilitas yang lebih baik terhadap sistem AI, organisasi dapat mengelola risiko serta memastikan implementasi AI berjalan sesuai standar operasional yang telah ditetapkan.
Menuju Operasional AI yang Lebih Terstruktur
Melalui Red Hat AI Enterprise dan Red Hat AI 3.3, Red Hat ingin membantu organisasi bergerak dari fase eksperimen menuju operasional AI yang terkelola dan repeatable. Dengan platform yang menyatukan infrastruktur, model, hingga agen AI dalam satu ekosistem, perusahaan dapat membangun solusi AI yang lebih stabil, aman, dan skalabel.
Pendekatan ini juga menegaskan posisi Red Hat sebagai penyedia solusi hybrid cloud terbuka yang berfokus pada inovasi teknologi berbasis open source untuk mendukung transformasi digital di berbagai industri.
