Red Hat, Inc., penyedia solusi open source terkemuka di dunia , baru-baru ini mengumumkan peluncuran Red Hat Enterprise Linux AI (RHEL AI), sebuah platform landasan model yang membantu pengguna mengembangkan, menguji, dan menjalankan model AI generatif (GenAI) yang mulus. RHEL AI menggabungkan model bahasa besar (LLM) Granite yang berlisensi open source dari IBM Research, alat untuk penyelarasan model dari InstructLab yang didasarkan pada metodologi LAB (Large-scale Alignment for chatBots) , dan pendekatan berbasis komunitas untuk pengembangan model. melalui proyek InstructLab . Seluruh solusi dikemas sebagai image RHEL yang dioptimalkan dan dapat di-boot , untuk digunakan pada server individual di seluruh cloud hybrid dan juga mencakup bagian dari OpenShift AI, platform operasi pembelajaran mesin hybrid (MLOps) Red Hat , untuk menjalankan model InstructLab dan pengembangan di seluruh lingkungan cluster yang tersebar. .
Peluncuran ChatGPT telah membangkitkan minat yang besar terhadap GenAI, dan inovasi pun semakin cepat sejak saat itu. Perusahaan mulai beralih dari penilaian awal layanan GenAI ke fase pengembangan aplikasi dengan AI. Ekosistem pilihan model terbuka yang berkembang pesat telah mendorong inovasi AI lebih lanjut dan menunjukkan bahwa tidak akan pernah ada “satu model yang mengendalikan semuanya.” Pelanggan akan mendapatkan manfaat dari beragam pilihan yang tersedia untuk memenuhi kebutuhan spesifik, yang semuanya akan dipercepat dengan pendekatan inovasi yang terbuka.
Penerapan strategi AI memerlukan lebih dari sekadar memilih model; Perusahaan teknologi memerlukan keahlian untuk menyempurnakan model tertentu untuk kasus penggunaan spesifik mereka, serta mengatasi biaya penerapan AI yang besar. Kelangkaan keterampilan ilmu data diperparah dengan kebutuhan finansial yang besar, termasuk:
● Mengadakan infrastruktur AI atau memanfaatkan layanan AI
● Proses kompleks dalam menyempurnakan model AI untuk kebutuhan bisnis tertentu
● Mengintegrasikan AI ke dalam aplikasi perusahaan
● Mengelola aplikasi dan model siklus hidup
Untuk benar-benar mendobrak hambatan terhadap inovasi AI, perusahaan harus mampu menyusun daftar orang-orang yang dapat mengerjakan inisiatif AI dan pada saat yang sama mencoba mengendalikan biaya. Dengan menyelaraskan alat-alat dari InstructLab, model Granite, dan RHEL AI, Red Hat akan memberikan manfaat proyek open source yang sebenarnya , yaitu akses gratis dan dapat digunakan kembali, transparansi dan keterbukaan terhadap kontribusi, ke dalam GenAI dalam upaya menghilangkan hambatan-hambatan tersebut.
Kembangkan AI secara terbuka dengan InstructLab
IBM Research menciptakan teknik Penyelarasan Skala Besar untuk chatBots (LAB) , sebuah pendekatan penyelarasan model yang menggunakan pembuatan data sintetis yang dipandu oleh taksonomi multi-fase baru dan kerangka kerja penyetelan . Pendekatan ini menjadikan pengembangan model AI lebih terbuka dan dapat diakses oleh semua pengguna dengan mengurangi ketergantungan pada anotasi manusia yang mahal dan model kepemilikan . Dengan menggunakan metode LAB, model dapat ditingkatkan dengan menentukan keterampilan dan pengetahuan yang terkait dengan taksonomi, sehingga menghasilkan data sintetik dari informasi tersebut dalam skala besar untuk memengaruhi model dan menggunakan data yang dihasilkan untuk pelatihan model.
Setelah melihat bahwa metode LAB dapat membantu meningkatkan kinerja model secara signifikan, IBM dan Red Hat memutuskan untuk meluncurkan InstructLab, sebuah komunitas sumber terbuka yang dibangun berdasarkan metode LAB dan model Granit sumber terbuka IBM . Proyek InstructLab bertujuan untuk menyerahkan pengembangan LLM ke tangan pengembang dengan membuat, mengembangkan, dan berkontribusi pada LLM semudah berkontribusi pada proyek sumber terbuka apa pun.
Sebagai bagian dari peluncuran InstructLab, IBM juga merilis paket Granite, model kode dalam bahasa Inggris dan berbasis open source . Model ini diluncurkan di bawah lisensi Apache dengan transparansi pada kumpulan data yang digunakan untuk melatih model. Model Granite 7B telah diintegrasikan ke dalam komunitas InstructLab, di mana pengguna akhir dapat menyumbangkan keterampilan dan pengetahuan mereka untuk meningkatkan model secara kolektif, seperti yang mereka lakukan pada proyek sumber terbuka lainnya . Dukungan yang sama untuk kode model Granit di InstructLab akan segera tersedia.
Inovasi AI sumber terbuka pada tulang punggung Linux yang tepercaya
RHEL AI dibangun berdasarkan pendekatan terbuka berdasarkan inovasi AI, menggabungkan versi proyek InstructLab yang siap untuk perusahaan dan bahasa Granit serta model kode bersama dengan platform Linux perusahaan terkemuka di dunia untuk menyederhanakan penerapan di semua lingkungan infrastruktur hibrid. Hal ini menciptakan platform landasan model untuk menghadirkan model GenAI berlisensi sumber terbuka ke perusahaan . RHEL AI meliputi:
● Bahasa Granit dan kode model adalah lisensi sumber terbuka yang didukung dan dilindungi oleh Red Hat
● Distribusi InstructLab yang didukung dan memiliki siklus hidup yang memberikan solusi terukur dan hemat biaya untuk meningkatkan kemampuan LLM dan memungkinkan lebih banyak orang menyumbangkan pengetahuan dan keterampilan mereka.
● Instance model runtime yang dapat di-boot dan dioptimalkan dengan model Granite dan paket perkakas InstructLab sebagai image RHEL melalui mode image RHEL , termasuk pustaka runtime Pytorch yang dioptimalkan dan akselerator untuk kerangka kerja AMD Instinct™ MI300X, GPU Intel dan NVIDIA, serta NeMo.
● Dukungan perusahaan dan janji siklus hidup Red Hat yang paling komprehensif dimulai dengan distribusi produk perusahaan yang paling tepercaya , dukungan produksi 24×7, dan dukungan siklus hidup yang panjang .
Saat perusahaan bereksperimen dan menyempurnakan model AI terbaru mereka di RHEL AI, mereka siap untuk meningkatkan alur kerja ini dengan Red Hat OpenShift AI , yang akan mencakup RHEL AI, dan di mana mereka dapat memanfaatkan mesin Kubernetes di OpenShift untuk melatih dan mendukung model AI dalam skala besar dan kemampuan MLOps terintegrasi di OpenShift AI untuk mengelola siklus hidup model . Studio perusahaan IBM watsonx.ai yang dibangun di atas Red Hat OpenShift AI hari ini, akan mendapatkan manfaat dari penyertaan RHEL AI di OpenShift AI dengan basis yang tersedia, memberikan kemampuan tambahan untuk pengembangan AI perusahaan, manajemen data, tata kelola model, dan harga yang lebih baik. Bagus.
Cloud adalah hibrida. Begitu pula AI
Selama lebih dari 30 tahun, teknologi open source telah memadukan inovasi cepat dengan penghematan biaya TI yang besar dan mengurangi hambatan terhadap inovasi. Red Hat telah memimpin perubahan ini sejak lama, mulai dari menyediakan platform Linux perusahaan terbuka dengan RHEL di awal tahun 2000an, hingga mendorong container dan Kubernetes sebagai fondasi cloud hybrid terbuka dan komputasi cloud-native dengan Red Hat OpenShift.
Dorongan ini berlanjut dengan Red Hat yang memberdayakan strategi AI/ML di seluruh cloud hybrid terbuka , memungkinkan beban kerja AI untuk berjalan di tempat data berada, baik di pusat data, di beberapa cloud publik , atau di edge . Lebih dari sekedar beban kerja, visi Red Hat untuk AI menghadirkan pelatihan dan penyesuaian model pada halaman yang sama untuk mengatasi kendala seputar kedaulatan data, kepatuhan, dan integritas operasional dengan lebih baik. Konsistensi platform Red Hat di seluruh lingkungan ini, di mana pun platform tersebut dijalankan, sangatlah penting untuk mempertahankan inovasi AI yang berkelanjutan.
RHEL AI dan komunitas InstructLab semakin memenuhi visi ini, meruntuhkan banyak hambatan dalam bereksperimen dan mengembangkan model AI sambil menyediakan alat, data, dan konsep yang diperlukan untuk mendorong gelombang beban kerja cerdas berikutnya.
Ketersediaan
Red Hat Enterprise Linux AI kini tersedia sebagai pratinjau pengembang . Dengan memanfaatkan infrastruktur GPU yang tersedia di IBM Cloud, yang digunakan untuk melatih model Granite dan mendukung InstructLab, IBM Cloud kini akan menambahkan dukungan untuk RHEL AI dan OpenShift AI. Integrasi ini akan memungkinkan perusahaan untuk menjalankan AI generatif dengan lebih mudah ke dalam aplikasi penting mereka.
